Amazon CEO Jassy Expressed Concerns to Trump Admin Over AI Security Risks

米Amazonのアンディ・ジャシーCEOは今週、米Anthropicの最先端AIモデルにおけるセキュリティリスクについて、トランプ政権高官に懸念を示したテック業界幹部の一人だった。事情に詳しい関係者がロイターに明らかにした。

ジャシー氏の関与は、Anthropicが金曜日、トランプ政権による国家安全保障上の命令を受け、最新モデルを世界的に停止するという異例の措置に踏み切った背景を示すものだ。

サンフランシスコを拠点とするAIスタートアップであるAnthropicは、米国での新規株式公開（IPO）を非公開で申請している。同社は以前から、自社の「Mythos」モデルが持つハッキング能力について警告し、広範な提供を見送っていたが、今週初め、サイバーセキュリティ上の安全策を備えたと説明する一般公開版「Fable」を投入した。

その短期間の公開は金曜日に終了した。Anthropicはブログ投稿で、米政府から、同モデルを使ってサイバーセキュリティ上の脆弱性を見つけることを防ぐ安全策を回避、つまり「ジェイルブレイク」する方法が存在するとみていると伝えられたことを明らかにした。

Anthropicは同ブログ投稿で、この回避手法で発見されたのは、他の一般公開されているモデルでも見つけられる「軽微な」セキュリティ上の欠陥にとどまると述べた。

同社によると、トランプ政権はAnthropicに対し、米国内外を問わず、外国籍者が同社の最新モデルである「Fable 5」と「Mythos 5」の両方を利用できないようにすることを命じた。これを受け、Anthropicは両モデルへのアクセスを世界的に停止すると発表した。

Amazonは、Anthropicのモデルについて政府当局者と協議したかどうかを確認しなかった。

Amazonの広報担当者はロイターに対し、「多数の民間および公共部門の顧客にサービスを提供する大手クラウド事業者として、潜在的なセキュリティリスクについて政府から助言を求められることは珍しくありません」と述べた。「そうした協議が行われた場合でも、当社はその詳細を共有しません」

テクノロジー系ニュースメディアのThe Informationは土曜日に、ジャシー氏の懸念について報じていた。The Informationはその後、米当局者の話として、政権がAnthropicに課したものと同様の制限を他のAI企業にも順守させる可能性は低いと報じた。

ロイターは、他社に対する規制を巡るトランプ政権の計画を直ちに確認することはできなかった。

Anthropicはブログ投稿で、米政府による制限は輸出管理の形で行われたと述べた。輸出管理を所管する米商務省産業安全保障局（BIS）は、コメントの要請に直ちには応じなかった。

先端AIモデルへの輸出管理を支持する一部の専門家は、トランプ政権の措置について、敵対国だけでなく同盟国にも影響が及ぶため不可解だと受け止めている。

カリフォルニア大学グローバル紛争協力研究所（IGCC）のシニアフェロー、ジミー・グッドリッチ氏は「これは十分に練られたものではなかった」と述べた。「Anthropicに雇用されているカナダ人や英国人までも、研究開発に携わることを禁じるものだ」

この命令は、トランプ政権当局者とAnthropicの間で以前から続いていた対立が、米政府の一部で緩和の兆しを見せ始めていた矢先に出された。