東京報道新聞

警視庁保安課は4月15日、生成AIで制作したわいせつ画像のポスターをネット販売したとして、男女4人をわいせつ図画頒布容疑で逮捕しました。AIで作られたわいせつコンテンツの摘発は国内初となります。

今回の事件では、愛知県の44歳男性小売業者や埼玉県の53歳会社員など20～50代の男女が、無料の生成AIツールを悪用。「脚を開く」などと指示して架空の女性の裸体画像を作成し、自宅やコンビニで印刷していました。

彼らは2024年2月から活動を開始しています。オークション出品時には「一点物」「美女」「AI」などとモザイク付きサンプルを表示。しかし、実際に送付する商品はモザイクなしの完全なわいせつ画像でした。

特に悪質な小売業者は約1年間で2,100点を出品し、約1,056万円を売り上げていたとされています。容疑者のうち3人は「手軽な内職」と犯行を認めていますが、28歳のパート女性は「違法とは知らなかった」と部分否認しています。

この事例は、テクノロジーの進化がもたらす新たな法的課題を浮き彫りにしています。実在しない人物の画像であっても、わいせつ物頒布罪が適用されることを明確にした重要な判例となるでしょう。

生成AIに関する課題や法律｜法的・倫理的問題

生成AI技術の急速な発展は、画像生成の分野に革命をもたらす一方で、複雑な法的・倫理的問題を引き起こしています。

近年では、AIによって生成された架空の人物のわいせつ画像が販売され逮捕者が出るなど、法律の適用範囲も拡大しています。

生成AIが直面する主な法的課題は著作権侵害です。AIは学習データに含まれる著作権保護素材を基に画像を生成するため、有名作品やブランドの要素が無断使用される可能性があります。これは国際的な訴訟リスクをもたらし、開発者やユーザーに法的責任が発生します。

さらに深刻なのは、ディープフェイク技術による肖像権侵害で、実在する人物の顔を無断で使用したわいせつ画像や虚偽の状況を示す映像が作成され、名誉毀損や詐欺に悪用されるケースが増加しています。

これらのリスク対策として、AIで生成されたコンテンツへのウォーターマーク（透かし）の挿入や、法的権利を侵害する可能性のある生成を防ぐフィルタリング技術の導入が進行中です。

技術の進展に法整備が追いつくまでには時間がかかりますが、「実在しない人物」の画像であっても、わいせつ物頒布罪の適用対象となることが司法判断で明確になりつつあります。今後も法的枠組みと技術的対策の両面からの取り組みが求められています。