宮城県女川町（おながわちょう）がXの公式アカウントで「クマ出没のお知らせ」として投稿した画像が、実は生成AIで作成されたフェイク画像だったことが判明した。
女川町のXによると、町は11月26日の昼過ぎ、以下のような呼びかけ文とともに、路上にクマの見た目をした黒い物体が写っているカラー写真を投稿した。
「昨日午後7時頃、大原地区（しおかぜ保育所付近）でクマが目撃されました。茂みにひそんでいる可能性もありますので注意してください。なお、クマを誘引するものは屋外に置かないようにし、生ゴミ等は当日の朝に出すようお願いします」
弁護士ドットコムニュースが11月26日午後5時半ごろに確認した時点で、この投稿は9520回リポストされ、446万回以上も表示されていた。
女川町は同日午後5時28分、「クマ出没のお知らせに関する訂正とお詫び」と題して、以下のような文章を投稿。
「本日、女川町内へのクマ出没に関してお知らせしたところですが、外部からの情報をもとに真偽確認を続けた結果、提供された情報（画像）が生成AIによるフェイク画像であったことが判明しました」
そのうえで「不安や混乱を与えてしまったことに対しましてはお詫びを申し上げます。今回の事案が誤情報であったとは言え、クマ出没に関しては引き続き細心の注意を払っていただくことが必要になりますので、住民のみなさまにおかれましては注意を継続していただきますようお願いいたします」と呼びかけた。
●2016年熊本地震でも「ライオン脱走」の虚偽投稿
こうしたフェイク画像が住民に混乱をもたらす事例は過去にもある。
2016年に起きた熊本地震では、当時のTwitter（現在のX）上で、路上に立つライオンの画像と「動物園からライオンが放たれた」といった内容の投稿が拡散され、のちに虚偽の写真だったことが判明。このときは、投稿主の男性が偽計業務妨害の疑いで逮捕された。
東北放送によると、今回の女川町のケースは、あるグループ内で遊びで作られた画像を信じた住民の一人が町に連絡したことが発端で、画像を作成した本人からの申し出によって生成AIによるフェイク画像であることが判明したという。
今回のように、災害や事故などが起きた際に本物を偽って作成した写真をネット上に投稿し、住民や行政を混乱させた場合、犯罪になるのか。また、遊びのつもりで作成したような悪意がない場合はどうなるのか。清水陽平弁護士に聞いた。
●生成AIによる情報発信だけでは犯罪にならない
──災害や事故などが起きた際に本物を偽って作成した写真をネット上に投稿し、住民や行政を混乱させた場合、犯罪になるのでしょうか。
一般論として、生成AIを使って災害や事故に関する情報を作成して発信したとして、それだけで直ちに犯罪になるということはできません。
熊本地震の際に偽計業務妨害罪として投稿者が逮捕されていますが、これは動物園に多数の問い合わせがいくことになったということを捉えてのものであり、画像や動画投稿それ自体が直接的に問題にされたものではないのです。
●「安易な発信は社会の混乱招く」
──遊びのつもりや悪意がない場合ではどうなるのでしょうか。
遊びのつもりであろうが悪意があろうが、理論上は、悪影響が生じるおそれがあれば罪に問われる可能性があります。ただし、実務上は、現実に悪影響が生じなければ罪に問われることはないでしょう。
一方で、どのような意図があろうと、現実に悪影響を生じさせた場合には、当該画像や映画が虚偽であることを認識している限り、罪に問われる可能性があります。
刑法上の責任を問うためには「故意」があることが必要ですが、「故意」とはその結果が起きることを想定し得た（あるいは危険が発生することを想定し得た）、という程度の認識があれば足り、意図的なものは不要だからです。
生成AIによる画像・動画生成は楽しいかもしれませんが、安易な発信は社会の混乱を招く可能性があることを認識しておいていただくことは重要だと思います。
