「応対してくれたAIに対して、ついハラスメント的な罵詈雑言を書き込んでしまったが、これは何らかの罪に問われますか？」という相談が、弁護士ドットコムニュースに寄せられました。
近年、企業の問い合わせ窓口などでAIチャットボットによる応対が普及しています。いつでもすぐに回答が得られる手軽さから利用する人も多い一方で、「人間ではない相手」だからこそ、つい感情的な書き込みをしてしまうケースも少なくありません。
相手が人ではないAIの場合、法律上、どのように扱われるのでしょうか。相談者が心配するように、何らかの罪に問われたりする可能性があるのでしょうか。
●感情のないAIへの書き込みは「犯罪」にならないのが原則
AIに対するハラスメント的な書き込みが問題となる場合、真っ先に考えられるのは偽計業務妨害罪（刑法第234条）の成否です。
偽計業務妨害罪は、「偽計を用いて人の業務を妨害した者」に成立する犯罪です。 しかし、AIは感情を持たないプログラムであり、人間のように罵倒されて精神的に苦痛を受けたり、対応が滞ったりすることはありません。
そのため、AIに対していくらハラスメント的な書き込みをしても、原則として何らの犯罪も成立しない可能性が非常に高いと考えられます。
なぜなら、「業務」を「妨害」されないからです。
●例外的に偽計業務妨害罪が成立しうるケース
上記のように、AIへの書き込みが直ちに犯罪となることは原則としてありません。
ただし、非常に例外的なケースとして、以下のような場合に、偽計業務妨害罪が成立する可能性がわずかに考えられます。
たとえば、AIへのハラスメント的な書き込みが執拗に、かつ大量に繰り返され、その結果として、問い合わせシステムの回線状況が悪化し続ける場合や、チャットボットがAPIツールを使っている場合に、企業のAPIツールの利用量増大により、多大な課金がなされる場合、チャットボットの利用を他の一般顧客が窓口を利用することを阻害し続けたりした場合などが考えられます。
このような場合、企業の「業務」（問い合わせ対応業務）が実際に「妨害」されたと評価される可能性があります。
ただし、個人の利用により回線状況が悪化したり、企業に大量課金がなされたり、他の顧客が利用できなくなるほどの書き込みができるとは考えにくいです。
さらに、これらの場合でも、偽計業務妨害罪の成立のためには、行為者（AIボットを利用した人）に「故意」が必要です。
すなわち、書き込みをした人が、企業の業務に支障が生じることを認識しつつ、ハラスメント的な書き込みを続けたのでなければ、犯罪は成立しないと考えられます。
以上より、書き込みについて犯罪が成立する可能性は極めて低いでしょう。
●企業の規約違反にあたる可能性はある
犯罪にあたらないからといって、AIチャットで何でも好き放題書いて良いわけではありません。
企業が設けているAIチャットボットには、利用規約がある場合が多くあります。この中には、不適切な言動に関する規定が設けられていることがあります。
一例を挙げれば、KDDIの「シンプル AI チャット利用規約（令和7年（2025年）4月10日付け）」では、「過度に暴力的な表現、露骨な性的表現、‥（以下略）‥」などの表現を送信する行為が禁じられています（同規約第5条（4））。
自身の書き込みが規約違反に当たらないかを確認しましょう。規約違反と判断された場合、サービスの利用を停止されるといった措置を受ける可能性があります。
