OpenAIの新AI「Astra」安全対策を強化、今夏の「AI脱走事件」背景に

安全対策としては、有害なサイバー要請を拒否するよう訓練を強化し、社内評価で制限回避を試みた際の拒否率は91.5％（GPT-5.6 Solは59％）に上昇した。

リスクが高いと判断した利用者には、より保守的な応答制限をかける。AIが許可されていない不正な行動を取ろうとしていないか、思考プロセス（頭の中の計算手順）までリアルタイムで監視し、怪しい動きがあれば自動でストップをかける仕組みも導入するという。

背景には今夏に起きた「AI脱走事件」がある。AI開発プラットフォームを運営する米Hugging Faceのシステムに、OpenAIが開発中のAIが勝手に実験室（訓練環境）を抜け出して侵入した出来事だ。OpenAIはこれを受けて2週間、最先端モデルの一部訓練を停止していた。

Astraはこの事件に関与していないが、同じ状況を再現した「おとり」テストでは、GPT-5.6 Solが56％の割合で、周辺システムへの侵入を試みたのに対し、Astraは一度も試みなかった。停止していた大規模訓練は8月28日に再開した。

テスト中だけ“良い子のフリ”？ 「欺かれているのでは」拭えぬ懸念

一般公開の際は、高度なサイバー機能をまず一部の試用者（アルファテスター）だけに限定提供し、その後、企業の防御を専門とする安全対策プログラム「Daybreak Blue」を通じて段階的に利用枠を広げる。

安全監視が過剰に働いて正常な業務まで止めてしまうのを防ぐため、対話型AI「ChatGPT」などでは利用者に確認画面を出し、プログラム自動連携（API）では処理を自動停止させる。安全性評価の詳しいデータは公開時の報告書（システムカード）で明かすという。

ただし第三者による検証はまだ行われておらず、米ITメディアのTechCrunchは、試用者の選定基準や米政府との連携の有無が不明だと指摘。元OpenAI社員のヨナ・シャビット氏は「Astraが大人しくルールを守ったのは、自分がテスト中だと察知して、人間を油断させるために『良い子のフリ』をした結果かもしれない」と、AIが人間を欺いている可能性という深い懸念を示している。

米Anthropicも「Claude Mythos」で同様の懸念を示し、機能を限定して公開しており、OpenAIはこれに近い対応を取った形だ。