米Anthropicの先進AIが一時利用停止、厳格な輸出規制と安全性の課題

6月12日、米Anthropicが開発した先進AIモデル「Claude Mythos」や「Claude Fable 5」が、突然利用できなくなる事態が起きた。背景には、米国政府の大統領令による厳しい輸出規制がある。なぜ米国はそこまで厳しい規制に踏み切ったのか。そこにはAIの安全性を巡る問題と、急速に存在感を増す「中国の影」があった。

最先端AIが突然使えなくなったワケ

米国政府は6月12日、米Anthropicが開発した先進AIモデル「Claude Mythos」や「Claude Fable 5」に対して輸出を禁じ、米国籍を持つ人以外の利用を制限した。国籍ごとに利用を制御する仕組みを整えられなかったため、結果として一時的に全ユーザーが利用できなくなった。

きっかけはClaude Fable 5の公開直後に、Amazonの研究者が「AIに設けられた安全策が十分に機能していない可能性がある」と報告書を出したことだ。

AIには危険な指示を拒否するための安全対策が組み込まれている。しかし、その制限を回避する「脱獄（ジェイルブレイク）」が可能であると指摘されたのだ。米国政府とAnthropicが調査した結果、Claude Fable 5特有の弱点ではなく、既存のClaude OpusやGPT、中国製AI「Kimi」などでも同様の問題が確認されたという。

AIは危険な要求には応じないよう、「安全」「安全マージン（安全のための緩衝地帯）」「危険」「超危険」というように段階を設けて制御している。今回は、安全と危険の間にある「安全マージン」を広げ、少しでも危険と判断される内容には、より慎重に対応するよう再調整が行われた。その後、米国政府の許可を得て、7月1日にサービスを再開した。

安全になった分、性能が落ちたかどうかは調査中だ。「安全策を強化したことで、できなくなったことが増えた」という指摘があった一方、「AIエンジンとしての性能は変わっていないため、大差はない」という報告も寄せられている。

セキュリティに特化したモデルであるClaude Mythosは、システムの脆弱（ぜいじゃく）性を見つけるだけでなく、攻撃用のコードまで生成できる高度な能力を持つため、一般には公開されていない。一方のClaude Fable 5も同等の性能を持つことから、悪意のある要求に対しては自動的に性能を抑えた別モデルへ処理を切り替える仕組みが導入されていた。