US Government Establishes Framework for AI Model Evaluation and Security

米連邦政府は6月2日（現地時間）、ドナルド・トランプ大統領が「PROMOTING ADVANCED ARTIFICIAL INTELLIGENCE INNOVATION AND SECURITY」（先進的AIのイノベーションと安全保障の促進）と題する大統領令に署名したと発表した。連邦政府のサイバー防衛を強化するとともに、最先端のAIモデルについて、開発企業が任意で公開前に政府の評価を受ける枠組みを構築する内容だ。

大統領令は、署名から30日以内に複数の政府機関に具体的な行動を求めている。国家安全保障システム委員会、戦争省（旧国防総省）、国土安全保障省のサイバーセキュリティ・インフラセキュリティ庁（CISA）はそれぞれ管轄するシステムのサイバー防御強化に着手する。

60日以内に、財務省、NSA、CISA、商務省国立標準技術研究所（NIST）などが連携し、AIモデルの高度なサイバー能力を評価する機密扱いのベンチマークプロセスを策定する。これに基づいて最先端のAIモデルを「covered frontier model」に指定する仕組みとし、その最終判断はNSA長官に委ねる。

また、開発企業が任意で参加できる枠組みを設計する。参加企業は対象モデルを他のパートナーに提供する最大30日前に、機密保持などの条件付きで連邦政府のアクセス（検証）を受け入れることになる。大統領令は、いかなる強制的なライセンス、事前承認、許認可制度の創設も認めるものではないと明記している。

デビッド・サックスAI担当補佐官は、「すべての新モデルを政府が監視する」と一部のメディアが報じていることに対し、Xで「政府がすべての新モデルを監督するものではない」と強調した。

参加企業についての具体名は明記されていないが、米法律事務所WilmerHaleによると、この大統領令は商務省とAnthropic、OpenAI、Microsoft、xAI、Googleを含む主要AI開発企業との間で公表されてきた任意のテスト取り決めを土台にしているものという。

大統領令には「先進的AIの能力は米国を強くするが、同時に省庁横断の協調行動を要する新たな安全保障上の論点をもたらす」とある。

この大統領令は、最新のAIモデルが、特に悪意ある者の手に渡った場合に危険となり得るとの懸念が高まる中で導入された。高度なサイバーセキュリティ機能を備えるとされるAnthropicの「Claude Mythos」は、広く普及するソフトウェアの脆弱性を前例のない規模で自律的に発見・悪用できる能力を持つとして、AI安全研究者、政府、テクノロジー企業の間で懸念を引き起こしている。Anthropicは同モデルの一般公開を見送り、影響を受ける企業のパッチ適用を支援する「Project Glasswing」を通じた限定提供にとどめている。