亚马逊CEO对AI安全风险表示担忧，美国政府限制AI模型使用

知情人士透露，亞馬遜（Amazon）執行長賈西（Andy Jassy）本週與多位科技業領袖會見美國川普政府高層時，對人工智慧（AI）公司Anthropic最先進模型可能帶來的安全風險表達憂慮。

針對相關評論請求，亞馬遜未立即回應路透社置評請求。

川普政府昨天以國安為由，下令Anthropic必須禁止所有外籍人士使用旗下最新AI模型Fable 5和Mythos 5，無論這些外籍人士是居住在美國境內還是境外。

作為回應，Anthropic宣布將在全球範圍內停用相關模型的存取權限。

Anthropic昨天在部落格發文指出，美國政府認為有方法可以繞過（也就是「越獄」）防護機制，若真如此，不肖人士就能利用AI模型Fable 5辨識軟體漏洞。

Anthropic在部落格文章中表示，美國政府的限制以出口管制形式實施。負責出口管制的美國商務部工業暨安全局（BIS）尚未針對評論請求作出回應。

部分支持針對先進AI模型實施出口管制的專家，對川普政府上述舉措感到不解，因為這同時影響了美國的盟友和對手。

美國加州大學全球衝突與合作研究所（University of California's Institute for Global Conflict and Cooperation）高級研究員古德瑞契（Jimmy Goodrich）表示這項措施考慮並不周全，因為這道禁令甚至導致「在Anthropic任職的加拿大人與英國人都無法使用該模型進行研發」。

已秘密提交美國首次公開募股（IPO）申請的Anthropic，過去曾與川普政府官員存有爭議，就在雙方先前爭議似乎逐漸降溫之際，當局卻突然發布這項命令。