Eilmeldung
RUДвое российских военнопленных сбежали из колонии в Харьковской областиRUVenezuelan Gold Repatriation Plan Under US Control Sparks Colonialism ConcernsTRKolombiya'da 7,4 Büyüklüğündeki Deprem Sonucu: 312 Ölü, 4.380 Yaralı, 290 KayıpARكوريا الشمالية تحذّر اليابان من "ضربة مدمرة فورية" في حالة اتخاذ "الخيار الخاطئ"ESFeijóo exige el regreso o expulsión de todos los inmigrantes irregulares en Ceuta y censura la 'inacción' del GobiernoGLOBALChidimma Adetshina reiterates South African birth amid deportation proceedingsUKGreat Britain household energy bills set to hit three-year high this winterUSMeta and Apple Slammed Over Ads and Apps Promoting AI Deepfake PornARالناتو يستعد لتهديدات إيرانية واستطلاع رأي جديد في إسرائيلCN烏克蘭戰時選舉面臨重重挑戰RUДвое российских военнопленных сбежали из колонии в Харьковской областиRUVenezuelan Gold Repatriation Plan Under US Control Sparks Colonialism ConcernsTRKolombiya'da 7,4 Büyüklüğündeki Deprem Sonucu: 312 Ölü, 4.380 Yaralı, 290 KayıpARكوريا الشمالية تحذّر اليابان من "ضربة مدمرة فورية" في حالة اتخاذ "الخيار الخاطئ"ESFeijóo exige el regreso o expulsión de todos los inmigrantes irregulares en Ceuta y censura la 'inacción' del GobiernoGLOBALChidimma Adetshina reiterates South African birth amid deportation proceedingsUKGreat Britain household energy bills set to hit three-year high this winterUSMeta and Apple Slammed Over Ads and Apps Promoting AI Deepfake PornARالناتو يستعد لتهديدات إيرانية واستطلاع رأي جديد في إسرائيلCN烏克蘭戰時選舉面臨重重挑戰
Newsgather
Zurück五角大楼与Anthropic的决裂与人工智能政策的混乱
五角大楼与Anthropic的决裂与人工智能政策的混乱
In Entwicklung
纽约时报中文网vorgesternPolitik9 Min. LesezeitChina

五角大楼与Anthropic的决裂与人工智能政策的混乱

从拒绝让步到秘密测试Mythos,美国军方与人工智能巨头Anthropic的关系经历了复杂波折。

Auf einen Blick

五角大楼与人工智能公司Anthropic因使用限制产生激烈冲突并下达禁令,但在新型强大模型Mythos推出后,军方又暗中允许国安局进行实验性使用,凸显出特朗普政府在人工智能监管和出口管制政策上的混乱与反复。

KI-generierte Zusammenfassung

Warum es wichtig ist

五角大楼与Anthropic因Claude模型的军事应用限制产生矛盾,随后美国政府在人工智能及芯片出口管制上表现出前后不一的决策态度。

Schriftgröße

公开层面,五角大楼拒绝让步。在接受采访时,五角大楼官员暗示,该部与Anthropic之间的敌意始于这家硅谷公司开始提出一些军方认为荒谬的要求——关于Claude for Government模型(一个广受欢迎的公开人工智能模型的特殊版本)应如何使用。高级官员称,Anthropic向他们提交了25页的限制条款。

经过几个月的争执,这25页被缩减为两项限制。在2月五角大楼的一次会议上,阿莫代伊告诉海格塞斯,除非军方明确保证,这些产品不会被用于对美国人的国内监控或生产最终不受人类监督的完全自主武器,否则公司不会向军方提供任何产品。

但这并没有解决问题。国防部长态度强硬,指出雷神公司无权决定其生产的导弹如何用于对付敌人;海格塞斯表示,这些决定完全属于政府官员的职权范围,而非企业高管。当阿莫代伊拒绝让步时,五角大楼宣布该公司构成“供应链风险”——并禁止军事使用。

今年5月,负责研究和工程的国防部副部长埃米尔·迈克尔对《纽约时报》记者表示,Anthropic是自作自受,而五角大楼过度依赖单一人工智能程序供应商是个错误,即使其产品似乎领先于竞争对手和中国。当被问及该公司能做些什么来重新获得国防部的好感时,迈克尔表示:“在战争部就别指望了。”

五角大楼官员称,他们已基本完成从军事计算系统中移除Anthropic的工作。据官员称,曾经使用“Claude for Government”的军事系统中,已有接近100%的系统用其他前沿模型替换了Anthropic的产品——该版本曾经过修改用于机密网络。此外,五角大楼已在其Maven系统中停止使用所有Anthropic工具——该系统用于分析情报并为对伊朗战争中的空袭提供目标建议。

受禁令影响的军工承包商一直不愿谈论此事,或许是担心触怒他们最大的客户。洛克希德·马丁公司的一位发言人在声明中拒绝对其收到的要求清除Anthropic的信件直接置评,但表示“我们遵循总统和战争部的指示”。该发言人补充说,预计对其业务“影响极小”,因为其任何工作都不依赖单一大型语言模型,但未点名Anthropic。

但五角大楼与Anthropic的决裂并不彻底。

在阿莫代伊与海格塞斯闹翻仅两个月后,Anthropic发布了Mythos,一款特别适合发现和利用软件漏洞的人工智能产品。特朗普政府曾一度禁止所有外国人接触该程序——现在看来像是过度反应,随后又撤销了禁令。

这让五角大楼陷入了困境:它刚刚禁止自己使用可能是历史上最强大的新型网络武器。

“恐慌开始了,”一位近期离开政府的前官员说。

虽然五角大楼不允许Claude用于情报分析或代码编写,但官员表示,国安局已被允许以“实验性”方式使用Anthropic先进Mythos模型的某些版本。该机构既在测试美国军方计算机网络防御能力,也在寻找从中国到俄罗斯、朝鲜和伊朗等对手网络中的潜在弱点。

重新思考对人工智能监管的反对立场

这种不一致不仅限于五角大楼;商务部、财政部和白宫也存在大量类似情况。随着特朗普的助手来来去去,各部门争相争取更大话语权,从出口管制到人工智能模型国家安全审查,本届政府在各色事务上的决策更多是由一时冲动和内部影响而非一套明确原则驱动。

在其任期第一年内,政府的做法是不干预,遵循风险投资家戴维·萨克斯的主张——他在今年早些时候离开政府前一直负责人工智能和加密货币政策。

在去年发布人工智能行动计划后,特朗普政府大幅削减监管并鼓励出口,希望让世界依赖萨克斯所称的“美国技术栈”。今年5月,在萨克斯等人说服下,特朗普撤回了一项要求人工智能公司向政府提交模型进行安全审查的行政命令草案,认为90天的审查要求过于严格,会给中国竞争对手带来优势。

但官员和其他人士表示,Mythos的威力让政府内部人士感到不安。到今年6月,政府实施了人工智能行业有史以来最严厉的管控措施,切断外国人访问Anthropic模型的权限,包括一些开发该模型的工程师。两周后,它在没有公开解释的情况下解除了对外国人的禁令。

在处理对开发新模型和建设数据中心至关重要的英伟达芯片方面也出现了类似的反复。去年4月,特朗普政府叫停了一款英伟达人工智能芯片的对华出口,它是此前获准在中国销售的最后一批人工智能芯片之一。

但特朗普在去年7月改变了立场,此前他在椭圆形办公室会见了英伟达首席执行官黄仁勋。特朗普表示,这些此前被视为国家安全威胁的销售可以放行,只要美国政府能从中分得一杯羹。

同样,本届政府还撤销了拜登政府时期的一项规定,即确保最强大的芯片只能自由出售给美国的亲密盟友,对其他国家的销售都要受到限制。特朗普政府官员曾表示将出台替代措施,但他们在替代方案上争执不下。与此同时,一些美国公司得出结论,既然规定已撤销,它们可以自由地向在中国境外运营的部分中国企业出售先进芯片。

特朗普后来访华与习近平会面,黄仁勋和其他行业高管也随行前往中国。

本届政府目前正应对相互冲突的安全考量与政治风向。如果它对新兴的人工智能先锋实验室管控过严,并威胁切断外国访问权限,可能会将欧洲人推向中国的模型。如果监管不到位,则可能招致灾难,尤其是若发生更多让公众担忧该技术正失控的事件。

美国外交关系协会高级研究员、前拜登政府官员克里斯·麦圭尔表示,特朗普政府在出口管制方面的姿态一直“前后不一”。

他说,该政府目前正担忧来自中国开源模型的竞争,但此前已收回了许多曾阻碍中国人工智能发展的措施。而且,它将其最严厉的限制措施指向了Anthropic——一家美国公司,而非中国公司。

“你在放松对中国的出口管制,你在留下漏洞,而你第一次对人工智能使用出口管制却是为了打击一家美国公司?”麦圭尔说。

Worauf zu achten ist

KI-Ausblick — Möglichkeiten, keine Fakten

  • 五角大楼将继续在军事计算系统中彻底移除Anthropic产品

    Wahrscheinlich · Innerhalb von Monaten

Offene Fragen

  • 国安局对Mythos的实验性使用是否会全面扩大?
  • 特朗普政府未来是否会出台统一的人工智能出口管制方案?

Verwandte Themen

This article was originally published by 纽约时报中文网.

Ähnliche Meldungen

Mehr zu diesem Thema五角大楼