「何やっても無罪しか出ない…」ChatGPT模擬裁判、企画の東大生がピンチ直面　開廷日は5月13日

AI技術が急速に進む中、東京大学の学園祭「五月祭」で5月13日、ChatGPTを裁判官とした模擬裁判が開かれる。東大生×AI法廷というバズワードのかけ算で、取材依頼も殺到しているという注目企画。はたして、機械に人は裁けるか？

企画したのは法学部3年生の岡本隼一さん。2022年11月の公開後すぐにChatGPTを使い始めたといい、今年1月から親しい友人と構想を練ってきた。現在は法学部に限らず25人ほどのメンバーを束ねる。GPT-4のリリース日をねらって企画を発表し、ネットでバズらせた「敏腕プロデューサー」である。

【重大告知】

機械に人は裁けるか−−？

GPT4を”裁判官”にした、国内初の模擬裁判公開実演。

５／１３（土）、五月祭1日目。

東京大学本郷キャンパス安田講堂にて開廷。 pic.twitter.com/xzq9gqeIfN

— AI法廷の模擬裁判/東大五月祭 (@AI_Judge_May) March 15, 2023

企画を通して提示したいのは、「我々は未来の裁判に何を求めるか」だという。

「三権分立で、司法権は多数決民主主義から一番縁遠く、知識を持つエリートが多数派の暴走を防ぎ、マイノリティの権利を守るという役割があります。

他方で、司法権があまりにも浮世離れするのも困るため、市民が参加する裁判員裁判なども始まりました。つまり、司法権はエリート主義と民主主義の緊張関係の中で正当性が保たれています。

そこにAIを導入すると、ChatGPTのような大規模言語モデル（LLM）は、あらゆる文章を学習しているという点で『民主主義的』でもあるし、データセットによっては過去の判例を重視する『エリート主義的』なものにもなりえます。

司法にAIを導入するとしたら、我々はどちらを求めるのか。模擬裁判を通して、将来の司法のあり方を問題提起できるのではないかと考えました」（岡本さん）

バズワードに飛びついたのではなく、背景に深い思索があるあたり、さすがの東大生である。

●「共犯」の発音にこだわる理由

ただし、日本では諸外国と違って判決などがあまりデータ化されていないため、現状では「エリート主義的」なファインチューニングは難しい。そこで今回は、ありえるかもしれない「未来の裁判」を体感してもらうことに重きをおいた。

たとえば、裁判官席にはChatGPTをイメージした「CG裁判官」を投影し、その発言は機械音声で流す。近未来感を演出する一方で、検察や被告人、弁護人にはリアル感も求めた。一例として、法律家が「共犯」という言葉を使うときは「キョウ↑ハン↓」という関西弁のようなイントネーションになるが、こうした細部の指導にもこだわった。

裁判のテーマも有罪と無罪の判断が人によって分かれそうなものを選び、AIが判決を言い渡す前に「傍聴人（観客）」による投票と結果発表をおこなうという。人間の判断とAIの判断の差異を感じてもらうためだ。

●「閉廷後」にプロンプトを公開

苦労した部分は、適切な判決を出力するためのプロンプト（命令文）だったという。

「ChatGPTは直前の入力内容に回答が引きずられる。刑事裁判は、検察の論告・求刑のあとに被告人側の最終弁論・陳述があるんですが、そのままの順番で入力すると、被告人側に引きずられて全部無罪になってしまいました。対照実験として論告・求刑を後にしてみたんですが、今度は全部有罪でした」（岡本さん）

なぜ刑事裁判の審理が被告人側の陳述で終わるかを実感したというが、このままではらちがあかない。そこで今回は「裁判の仕組みにとらわれないある工夫」をおこなったという。

「実際にAIが裁判官をやるとなったら、プロンプトが開示されないとフェアではない」ということで、「閉廷」後にはプロンプトを開示する。「ただ、現実でプロンプトが開示されれば、仕組みをハックされるかもしれない」というように、企画を通してAI裁判をめぐる課題・論点を多く体感したという。

模擬裁判は、5月13日13時15分から。翌14日には、SF作家やAI研究者らを招いたシンポジウムも開催する。いずれも東大本郷キャンパスでYouTubeによるライブ、オンデマンド配信も実施。詳細は団体のウェブサイト（https://www.aimocktrial.com/）へ。