生成AIでわいせつ画像投稿、会社員の男を逮捕 高校生も書類送検へ
ディープフェイク悪用の実態と課題
Quick Look
警視庁は、生成AIで作成したわいせつ画像をSNSに投稿した会社員の男（32）を名誉毀損と児童ポルノ禁止法違反の疑いで逮捕した。また、画像作成を依頼した高校生の少年（17）も書類送検する方針。実在女性の約30年前の写真が基になり、面識のない被害者もいた。
AI-generated summary
Why It Matters
警視庁が生成AIで作成されたわいせつ画像をSNSに投稿した男を逮捕し、作成を依頼した少年を書類送検する方針を示した事件。
生成AI（人工知能）で作ったわいせつ画像をSNSに投稿したとして、警視庁は2日までに、会社員の男（32）を名誉毀損（きそん）と児童買春・児童ポルノ禁止法違反（公然陳列）の疑いで逮捕した。性的な偽画像「ディープフェイク」を作るよう男に依頼したとして、高校生の少年（17）も両容疑で書類送検する方針だ。
捜査関係者によると、わいせつ画像は、実在する女性の約30年前の写真をベースに作成されたもので、男らと被害女性らに面識はなかったという。わいせつ画像はどのようにつくられ、どういった課題があるのか。
事件化の端緒は4月、警察庁からの情報提供だった。
SNSグループに多数の「体操着」写真 生成AI悪用か
警視庁少年育成課が捜査を進めると、男らのSNS上のグループで、女児や中高生らが陸上大会、陸上部の練習、体育祭などで体操着やユニホームを身につけた多数の写真が投稿されていた。こうした写真をもとに、井元容疑者らが画像生成AIの有料サービスを使ってわいせつ画像を作り、グループ内の掲示板に投稿していた疑いがあることがわかってきた。
そのうちの一つは、実在する…
What to Watch
AI outlook — possibilities, not facts
高校生の少年が書類送検される。
Very likely · Within days
Open Questions
- わいせつ画像は具体的にどのように作成されたのか？
- 被害者の全容はどの程度か？
- 生成AI悪用の課題に対し、どのような対策が取られるのか？
