昨今、人工知能（AI）技術の進化に伴い、私たちの生活は便利で豊かになる一方で、それに伴う新たな課題やリスクも顕在化しつつあります。2024年6月、兵庫県警により明らかにされた「AIわいせつ商品転売疑い 書類送検」の事例は、まさにそれを象徴するものであり、社会的にも大きな注目を集めています。本記事では、この事件の概要を紹介しながら、AI技術の濫用が引き起こす問題点や、今後の社会が取るべき対策について考察していきたいと思います。
AI技術と犯罪の接点：事件の概要
事件が発覚したのは2023年で、兵庫県警サイバー犯罪対策課が捜査を進めていた結果、20代の男性がAIを用いて作成されたわいせつな画像を制作し、ネット上で販売していたとして書類送検されたことが報道されました。捜査の結果、この男性はAIによって女性の顔写真をわいせつな画像に合成し、それを一定の価格でSNSやオンラインマーケットに出品・販売していた疑いが持たれています。
現在のところ、販売された画像の点数や収益の全体像は明らかにされていませんが、警察は被害者のプライバシー侵害を重く見て、刑法および条例違反の観点から厳しく取り締まる方針を示しています。また、送検された人物は、既に容疑を概ね認めていると報道されています。
AI技術が導入されることで、人の手を介さずに画像を加工したり生成したりすることが簡単になりつつあります。今回の事件では、既存の写真をAIに取り込ませ、わいせつ画像に変換するいわゆる「ディープフェイク技術」が用いられていた可能性があり、このような技術の悪用が大きな社会問題になっています。
ディープフェイクとは何か？
「ディープフェイク」とは、「ディープラーニング（深層学習技術）」と「フェイク（偽物）」を組み合わせた造語で、AIを使って人の顔や姿を別の人物にすり替える合成映像や画像のことを指します。元来、映像制作や映画業界、さらにはバーチャルリアリティ技術の中で使用されていたこの技術は、近年のAIモデルの進化により、一般の人でも容易に利用できるようになってきました。
しかし、この技術がもたらす利便性の裏側には、深刻な倫理問題も潜んでいます。とりわけ今回のように「成人女性の顔を合成したわいせつ画像」を生成・販売する行為は、被害者の名誉や尊厳を著しく損なうものであり、犯罪と明確に区別されなければなりません。
なぜ今、ディープフェイクが問題なのか？
今回の事件が注目を集めた背景には、ディープフェイクが個人に対する深刻な影響を及ぼすからという点があります。従来の画像合成や加工とは異なり、AIによる画像生成は驚くほど高精度で、素人目には本物と区別がつかないレベルに達しています。その結果、ターゲットとなった人物の意に反して身元や顔が公開され、社会生活や人間関係に深刻なダメージを与える可能性があります。
また、SNSや画像共有サービスの普及により、そうしたわいせつ画像が一度ネット上に流出してしまえば、元画像の削除や拡散の抑制は困難です。画像が見知らぬ第三者に悪用され、時間も地域も超えて無限に拡散されるリスクがあることから、被害者に与える心理的ショックも計り知れません。
さらに、民事的・刑事的な手段を講じたとしても、加害者が匿名性の高いインターネットを利用しているために、特定や追跡が難しいという課題も残ります。今回の兵庫県警による摘発は、そうした課題に真正面から取り組んだ例として、非常に意義ある一歩として評価できます。
社会として求められる対策とは？
このような「AIの負の側面」に対して、社会はどのように対応していくべきなのでしょうか？
第一に—法整備の強化が求められます。2023年から2024年にかけて、日本政府はAIによるディープフェイクなどの問題について本格的な議論を進めており、刑法の改正や新たな規制の検討が行われています。例えば「フェイク画像の制作・使用・販売を明確に処罰する法律」や、「被害者が画像削除や損害賠償を迅速に請求できる制度」の導入が望まれています。
第二に—プラットフォーム事業者の対応強化も重要です。SNSや動画共有サイト、オンラインマーケットプレイスなどを運営する企業が、不適切なコンテンツの検出・削除機能をより高度化させることが求められています。AI画像・映像に関するガイドラインの明確化や、ユーザーとの連携を通じた通報システムの整備も、その一環として不可欠です。
第三に—個々人のリテラシー向上も欠かせません。便利で楽しい反面、AI技術には濫用のリスクがあるということを、多くの人が理解し、自らを守る行動につなげることが大切です。子どもから大人まで、教育現場や企業研修などを通じて「デジタルリスク」についての知識を深めることが、結果的に犯罪の抑止につながると考えられます。
思いやりのある社会を目指して
今回の「AIわいせつ商品転売疑い」による書類送検というニュースは、多くの人にとって衝撃的な出来事であり、他人事ではありません。なぜなら、スマートフォンやパソコンを持ち、SNSを利用している限り、誰しもが被害者になる可能性をはらんでいるからです。
問題の本質は「技術そのものが悪」なのではなく、「その使い方」にあります。AIは人類にとって強力なツールであり、その活用次第で私たちの暮らしを大きく変える可能性を持っています。しかし、その利便性の陰にはこうしたリスクが存在し、社会全体で知識を持ち、リスクを管理し、必要な対策を講じることが求められます。
最後に、全ての人が安全かつ安心にインターネットを利用できる環境をつくっていくためには、法制度・教育・企業努力といった多面的なアプローチが必要です。技術が進化するスピードに追いつくためには、私たち一人ひとりの知識と意識も更新し続けなければなりません。誰もが守られ、尊重される社会を築くために、私たちができることに目を向けていきたいものです。
