東京報道新聞

京都府警サイバー捜査課と城陽署は16日、生成人工知能（AI）を悪用して実在女性の写真から性的動画を作成・公開したとして、埼玉県加須市の会社員2名をわいせつ電磁的記録媒体陳列容疑で逮捕しました。

28歳の容疑者には5月に知人8名の写真から作成した動画をSNS「ディスコード」に掲載した容疑がかけられています。加えて6月から7月にかけては、もう1名の容疑者（29歳）が提供した女性3名の画像を使った動画も共同で公開していた疑いがあります。

捜査の結果、容疑者が運営していた限定公開チャットには延べ1,030名が登録しており、グループ内では計164点もの性的動画が59名分の女性について出回っていました。

運営者はメンバーからリクエストを受けると、AIを使ってわずかな時間で性的映像へと変換していたとされます。この加工サービスは有償で、1本につき数百円の対価を得ていたことも明らかになっています。

警察の取り調べでは、28歳の被疑者が「間違いないが共謀した覚えはない」と供述の一部を争っているのに対し、29歳の被疑者は容疑事実を素直に認めているとのことです。

生成AIで急増する「ディープフェイクポルノ」被害

対話型生成AIが急速に普及する一方で、その技術を悪用した「ディープフェイクポルノ」による被害が国際的な社会問題となっています。

ここ数年で被害件数は急激に増加しており、被害は著名人だけに留まりません。2023年にスペインでは少なくとも20名の女子児童・生徒の偽造ヌード画像がSNSで拡散される事件が発生しました。

韓国ではソウル大学の卒業生が同窓生を含む60名以上の女性について、卒業アルバムを悪用して偽画像を作成・流布し、2024年10月に主犯格に懲役10年が求刑されています。

日本国内でも警察庁によれば、2024年だけで100件を超える相談・通報があり、小学生が被害に遭うケースまで報告されています。米国セキュリティ企業の調査では、偽画像被害者の国籍別割合で韓国53％、米国20％に次いで日本が10％と第3位に位置し、被害の深刻さが浮き彫りになっています。

こうした状況を受け、鳥取県は2025年に全国に先駆けて条例を改正しました。違反者には氏名公表や過料を科すほか、被害者には法律相談費用の補助や心理ケアなどの支援を実施します。

海外でも規制が進んでおり、韓国は所持・閲覧にも罰則を設け厳罰化、イギリスは児童に関する偽造AIツールの作成・所持を世界初の違法化、米国では同意なき性的画像のSNS投稿を連邦犯罪としました。