L'essentiel
美國總統川普表示,人工智慧公司Anthropic因其AI模型使用限度問題,曾一度被列入國安風險黑名單,但現已改善關係,不再被視為國安威脅。川普讚揚該公司在商務部要求後,表現負責任,並與執行長阿莫戴會面後,認為對方友善聰明。
Résumé généré par IA
Pourquoi c'est important
人工智慧公司Anthropic先前因AI模型使用限度問題,與五角大廈意見不合而遭列入具有國安風險黑名單。商務部上週限制美國以外國家以及在美外籍人士,取用Anthropic前述最先進AI模型。
人工智慧公司Anthropic先前因AI模型使用限度問題,與五角大廈意見不合而遭列入具有國安風險黑名單。不過,根據新聞網站Axios 19日刊出的美國總統川普訪問,該公司與美國政府關係已有改善,川普表示,現在不把該公司視為國安威脅。
綜合Axios、彭博報導,川普在這段預錄訪問中,被問到是否把Anthropic,或該公司執行長阿莫戴(Dario Amodei)視為國安威脅時,川普說:「現在不會,但是一週前,也許」。
川普說,在商務部要求該公司,須先取得美國政府批准,才能允許外國使用其最新AI模型Fable 5和Mythos 5模型後,該公司「表現得非常負責任」,阿莫戴「非常迅速地回應我們,因為這涉及重大責任」,並指商務部的要求所涉及的事情,「有可能使人們因此入獄,不能拿這種事開玩笑」。
川普還說,日前在法國舉行的七大工業國集團(G7)峰會上,與阿莫戴見面後,覺得對方「友善、聰明」。
商務部上週限制美國以外國家以及在美外籍人士,取用Anthropic前述最先進AI模型,這是迄今美國政府對AI新創公司營運所做出最顯著的介入。
此事源於亞馬遜公司(Amazon)提出的一份報告詳述Anthropic模型潛在漏洞,引起政府警覺。Axios報導,政府隨後告知Anthropic高層,但感覺對方未正視此事,之後華府便與該公司展開技術層面討論,據稱雙方正研擬建立評估AI「越獄」風險的標準,防範模型安全限制遭突破。
不過,川普仍未排除,若Anthropic公司不依照政府要求行事,就動用《國防生產法》(DPA)賦予之緊急權力的可能性。他說,「我有很多權力可運用,但是我不確定得這麼做,我想到目前為止該公司非常負責任」。
Anthropic聲明表示,「感謝政府持續共同盡快地解決此事」,該公司依然致力於和政府一起努力,保護關鍵基礎設施,並確保美國在AI 領域保持領先。
À surveiller
Perspective IA — des possibilités, pas des certitudes
Anthropic將持續與美國政府合作,確保AI模型安全。
Probable · Moyen terme
Questions ouvertes
- Anthropic未來是否會完全遵守政府要求?
- AI越獄風險評估標準的具體內容為何?






