نظرة سريعة
亚马逊CEO贾西对AI模型安全风险表示担忧。美国政府以国安为由，下令禁止外籍人士使用Anthropic的最新AI模型，Anthropic随后在全球范围内停用相关模型。此举引发专家质疑，认为限制措施考虑不周。
ملخص مُنشأ بالذكاء الاصطناعي
لماذا يهم
美国政府以国安为由，下令禁止外籍人士使用Anthropic的最新AI模型，Anthropic随后在全球范围内停用相关模型。
知情人士透露，亞馬遜（Amazon）執行長賈西（Andy Jassy）本週與多位科技業領袖會見美國川普政府高層時，對人工智慧（AI）公司Anthropic最先進模型可能帶來的安全風險表達憂慮。
針對相關評論請求，亞馬遜未立即回應路透社置評請求。
川普政府昨天以國安為由，下令Anthropic必須禁止所有外籍人士使用旗下最新AI模型Fable 5和Mythos 5，無論這些外籍人士是居住在美國境內還是境外。
作為回應，Anthropic宣布將在全球範圍內停用相關模型的存取權限。
Anthropic昨天在部落格發文指出，美國政府認為有方法可以繞過（也就是「越獄」）防護機制，若真如此，不肖人士就能利用AI模型Fable 5辨識軟體漏洞。
Anthropic在部落格文章中表示，美國政府的限制以出口管制形式實施。負責出口管制的美國商務部工業暨安全局（BIS）尚未針對評論請求作出回應。
部分支持針對先進AI模型實施出口管制的專家，對川普政府上述舉措感到不解，因為這同時影響了美國的盟友和對手。
美國加州大學全球衝突與合作研究所（University of California's Institute for Global Conflict and Cooperation）高級研究員古德瑞契（Jimmy Goodrich）表示這項措施考慮並不周全，因為這道禁令甚至導致「在Anthropic任職的加拿大人與英國人都無法使用該模型進行研發」。
已秘密提交美國首次公開募股（IPO）申請的Anthropic，過去曾與川普政府官員存有爭議，就在雙方先前爭議似乎逐漸降溫之際，當局卻突然發布這項命令。
أسئلة مفتوحة
- 政府限制措施的具体技术依据是什么？
- 此举将如何影响AI领域的国际合作？
