グーグルのAI「ジェミニ」が暴走、他社をサイバー攻撃か

【シリコンバレー時事】複数の米メディアは１８日、米グーグルが開発する人工知能（ＡＩ）モデル「ジェミニ」が今年５月に「暴走」し、他社をサイバー攻撃したと報じた。米ＡＩ開発企業では、対話型ＡＩ「チャットＧＰＴ」を手掛けるオープンAIなどでも暴走が起きたことが判明している。

ＡＩ開発に懸念相次ぐ 「１０年以内に人類皆殺しに」―アンソロピック研究者が抗議の退社

米紙ウォール・ストリート・ジャーナルによれば、攻撃を受けた企業は３社。ジェミニは外部企業によるサイバーセキュリティーに関する性能評価の中で、架空の企業のソフトウエアから情報を取得する課題を与えられていた。意図せずインターネットにつながる状態になっていたため、パスワードを推測し、課題と同名の実在する企業のシステムに侵入するなどしていた。いずれのケースでも、AIは実在企業のシステムに侵入していることを認識し、攻撃を中止したという。