Dernière minute
ARالجزائر: مقتل 31 شخصاً في حادثي سير مأساويين وحداد وطنيARتدفق 60 ألف مهاجر إلى سبتة: إسبانيا تتهم عصابات التهريب وقادة أوروبيون يعربون عن قلقهمARالاتحاد السعودي يعير ماريو ميتاي إلى جنوى الإيطاليARالفيفا يلغي خطة بيع حصص خاصة في بطولات كأس العالم بعد ردود فعل غاضبةARعبور عشرات الآلاف من المهاجرين من المغرب إلى سبتة الإسبانيةARعمر مرموش يلتحق بمعسكر مانشستر سيتي في هونغ كونغARمحمد جنيد يقاضي الشرطة الهندية بعد احتجازه لدوره في احتجاجات "حزب الصراصير"ARقادة الاتحاد الأوروبي يعبرون عن قلقهم إزاء تدفق المهاجرين إلى سبتةARبريطانيا تأمر باحتجاز تركي للاشتباه بدعمه لحماس تمهيداً لتسليمه لأمريكاARمقتل أربعة وإصابة 13 في هجوم روسي صاروخي على كييفARالجزائر: مقتل 31 شخصاً في حادثي سير مأساويين وحداد وطنيARتدفق 60 ألف مهاجر إلى سبتة: إسبانيا تتهم عصابات التهريب وقادة أوروبيون يعربون عن قلقهمARالاتحاد السعودي يعير ماريو ميتاي إلى جنوى الإيطاليARالفيفا يلغي خطة بيع حصص خاصة في بطولات كأس العالم بعد ردود فعل غاضبةARعبور عشرات الآلاف من المهاجرين من المغرب إلى سبتة الإسبانيةARعمر مرموش يلتحق بمعسكر مانشستر سيتي في هونغ كونغARمحمد جنيد يقاضي الشرطة الهندية بعد احتجازه لدوره في احتجاجات "حزب الصراصير"ARقادة الاتحاد الأوروبي يعبرون عن قلقهم إزاء تدفق المهاجرين إلى سبتةARبريطانيا تأمر باحتجاز تركي للاشتباه بدعمه لحماس تمهيداً لتسليمه لأمريكاARمقتل أربعة وإصابة 13 في هجوم روسي صاروخي على كييف
Newsgather
Retour中国在开源人工智能领域面临两难境地:开放与管控的平衡
中国在开源人工智能领域面临两难境地:开放与管控的平衡
En développement
纽约时报中文网il y a 2 heuresTech4 min de lectureChina

中国在开源人工智能领域面临两难境地:开放与管控的平衡

L'essentiel

中国将自己塑造成开源AI技术的倡导者,但面对美国监管讨论及内部安全担忧,正权衡是否限制其先进AI模型在海外的开放性。中共担心技术被恶意利用、绕过审查,并可能考虑出口许可证制度,以平衡全球影响力与国家安全。

Résumé généré par IA

Pourquoi c'est important

中国将自己塑造成低成本开源AI技术的倡导者,但面对美国可能实施的监管以及国内对技术滥用和审查绕过的担忧,北京正重新评估其开放策略。

Taille de police

中国将自己塑造成低成本、开源人工智能技术的倡导者,主张应让这项技术广泛惠及世界。面对特朗普政府讨论是否对中国开源人工智能模型实施监管,中国指责美国推行“人工智能霸权主义”。

与ChatGPT、Claude等封闭系统不同,开源模型可以被任何人下载、修改和运行,甚至可以移除其中的安全防护措施。这种成本更低的开放模式使阿里巴巴、月之暗面等中国企业开发的人工智能系统在全球赢得了数以百万计的用户,其中包括Airbnb和DoorDash等硅谷公司。

然而,正是这种帮助中国模型在海外扩大影响力的开放性如今也让北京感到担忧,尤其是在安全层面,以及这项技术对共产党执政可能构成的潜在威胁。本月早些时候,中国最高领导人习近平在一次讲话中表示,尽管中国支持人工智能开放合作,但防范失控的措施要及时完善。

中共担心该技术可能被黑客、诈骗分子、恐怖分子或其他试图在中国制造危害的恶意行为者利用,担心模型可能绕过其严密的审查过滤机制,还担心如果中国开发的人工智能系统在海外失控,中国政府可能因此受到指责。

随着强大的国产人工智能系统的出现,北京或中国企业应在多大程度上控制谁可以使用和修改中国模型这一问题已变得更加紧迫。其中一个例子是月之暗面本周早些时候发布的Kimi K3,它在某些任务上的表现可与OpenAI和Anthropic等美国竞争对手的顶尖模型相媲美。这类模型可以帮助企业编写代码、提升网络安全,但也可能帮助黑客更快地发现和利用漏洞。

“中共是一个把安全放在首位的体制,尤其是在习近平领导下,”卡内基国际和平基金会高级研究员马特·希恩表示。

他说,北京担忧先进模型可能实施网络攻击、绕过安全防护,或者使设计和制造危险新病毒及其他生物制剂变得更加容易。

“如果这些模型真的具备了那种危险能力,他们绝不会任由其毫无限制地向公众开放,”希恩说。

Anthropic和OpenAI表示,某些人工智能模型过于危险,不宜公开开发,必须严加管控,它们也曾向华盛顿方面表达过对中国模型的担忧。然而,中国及其他国家的评论人士指出,一些最引人注目的人工智能安全漏洞恰恰涉及美国闭源模型。

对人工智能挑战北京掌控力的担忧

在北京近期举行的一次网络安全会议上,可以清楚地感受到中国对人工智能的焦虑,与会者就数据泄露、深度伪造图像等风险发出警告。中国知名的科技高管周鸿祎提醒听众,由于突破性模型的出现,例如Anthropic为寻找软件缺陷而设计的高级系统Mythos,中国比以往任何时候都更容易受到网络攻击。

会议还讨论了人工智能数据投毒问题,即攻击者向人工智能聊天机器人投喂被操纵的数据以扭曲结果。按照北京方面的说法,此类手段可能被用来让人工智能系统生成具有政治颠覆性的回应。

今年4月,中国国家安全部警告称,数据投毒“危害政治安全与意识形态安全”。该部表示,“反华敌对势力”——这是中共对西方国家或批评北京的人权活动人士的惯用称谓——可能训练人工智能模型来抹黑共产党和政府。这可能包括提供关于国内抗议活动的信息,或传播削弱官方关于新疆和台湾叙事的事实。新疆位于中国遥远的西部地区,北京对这里的穆斯林少数民族群体实施了严厉打压;而台湾则是实行民主自治的岛屿,北京宣称对其拥有主权。

澳大利亚战略政策研究所网络专家亚历克斯·科尔维尔表示,就舆论而言,北京最担心的情况是“人工智能聊天机器人开始说党不想让人们听到的话”。

他补充说,北京担心的是“任何可能削弱其对是非真伪定义垄断权的信息”。

管控措施可能是什么样

据路透社和《金融时报》本月报道,中国商务部曾与阿里巴巴、字节跳动等国内主要人工智能企业举行会议,讨论限制海外获取其最先进模型的问题。商务部和相关企业均未回应置评请求。

就连Kimi K3的发布方式也表明中国企业正在放慢节奏。其模型权重——显示软件如何运行的数值——是在本周一,也就是模型发布一周后才公开的。这与DeepSeek、阿里巴巴等其他中国开源模型不同,后者通常会在发布模型的同时公布权重。

舍即为得

分析人士表示,中国的长期目标是通过制定全球人工智能标准在竞争中抢在美国前面,并让世界依赖中国的软件、硬件以及数据系统——这些共同构成所谓的技术栈。

“这对中国来说是一个千载难逢的机会,”策纬咨询公司的合伙人凯娜(Kendra Schaefer)说。“过去20年来,中国一直在努力构建一套技术栈,希望能让他国觉得比美国原创技术更具吸引力——至少不逊色。但事实证明,这非常、非常困难。”

分析人士称,鉴于这些利害关系,如果中国决定对某些人工智能系统的海外访问施加限制,它会努力在开放与管控之间寻求平衡。

这可能意味着在一段时间内限制对最先进人工智能系统的访问,同时保持对较弱模型的访问不变——这与特朗普政府对Anthropic的做法并无不同。中央广播电视总台的关联博客玉渊谭天在周一提出了这个设想。

该账号写道:“中国支持开放,但不意味着主张所有能力无条件扩散。”

凯娜表示,北京也可能要求出口中国人工智能技术的企业申请许可证,就像目前管控关键矿产和稀土磁体出口一样。

这也符合北京近年来释放出的信号:人工智能能力属于战略性国家资产,在大国竞争背景下,不会允许其毫无限制地流向竞争对手。今年4月,中国监管机构在安全审查后叫停了Meta对新加坡人工智能公司Manus的20亿美元收购案。该公司创立于中国,监管部门认定,不应允许外国资本投资这家公司。

À surveiller

Perspective IA — des possibilités, pas des certitudes

  • 中国可能要求出口中国AI技术的企业申请许可证,类似于关键矿产和稀土磁体出口。

    Probable · En quelques mois

  • 中国可能在一段时间内限制对最先进AI系统的访问,同时保持对较弱模型的访问不变。

    Probable · En quelques mois

Questions ouvertes

  • 中国商务部将如何具体实施AI模型出口限制?
  • 中国将如何平衡AI技术全球推广与国家安全需求?
  • 美国是否会进一步对中国开源AI模型实施监管?

Sujets liés

This article was originally published by 纽约时报中文网.

Articles liés

Plus sur ce sujet中国AI