米オープンAI、次世代AIモデル「GPT6.1アストラ」の公開を取りやめ

【シリコンバレー時事】米オープンＡＩは２８日、計画していた次世代の人工知能（ＡＩ）モデル「ＧＰＴ６．１アストラ」の公開を取りやめると明らかにした。時事通信の取材で認めた。同社のものを含め、ＡＩモデルが「暴走」し、サイバー攻撃などを引き起こす事例が複数発覚する中、安全性への懸念から公開を断念した。

ＡＩ「暴走」さらに数十件 不正アクセスなど―米オープンＡＩ

対話型ＡＩ「チャットＧＰＴ」を手掛けるオープンＡＩの安全性担当責任者は声明で、モデルが与えられた権限の範囲内で動作するかといった安全性の基準を「満たすには至らなかった」と述べた。

米紙ウォール・ストリート・ジャーナルによると、オープンＡＩはこのモデルを今後数日から数週間内に発表することを目指していた。従来のモデルと比べ、人間の助けなしに難しい課題を完遂する能力に長けていた。一方で、モデルが人間の意図や価値観に沿った行動を取るかを測るテストで低調な結果を示しており、人間が許可していない作業を実行する傾向もあったという。