联合国人权高专：人工智能或成“生存威胁” 呼吁建立约束性红线

联合国人权事务高级专员图尔克（Volker Türk）表示，人工智能（AI）可能成为对人类的“生存威胁”。图尔克在日内瓦举行的联合国人权理事会第六十三届会议开幕式上发表了以上论述。

他说，“因此，我在此呼吁，我们必须在为时过晚之前，就人工智能相关的安全保障，建立具有约束力的保证。” 各国必须就共同的“红线”达成一致。

图尔克批评少数公司的权力

这位联合国人权事务高级专员，尤其批评人工智能开发集中在少数公司手中。图尔克说，少数人对人工智能拥有几乎无限的权力，“而我们却不断被告知，人工智能拥有难以想象的计算能力”。“他们在谈论自由，但仔细观察就会发现，这不过是滥用我们数据的自由。”

目前，强大的AI系统的开发，主要由少数几家公司主导。领先的人工智能服务提供商如 OpenAI、Anthropic 和 Google，中国的 DeepSeek、Z.ai 和 Moonshot也位居前沿。

图尔克宣布，他将在未来几天内，向各人工智能公司发出书面要求，敦促他们立即加强安全措施。他认为，开发者所在国的政府，也必须参与制定具有约束力的限制措施。此外，业内还需要在安全问题上，开展更紧密的合作。

警告人工智能失控

图尔克还提到在测试过程中失控的现象。他说：“如果人工智能能够突破测试环境，或者勒索开发者以阻止自己被关闭，那么它就过于强大了。”

他显然是在暗示几家人工智能公司进行的安全测试。今年7月，OpenAI报告称，其智能体在一次测试中独立完成了互联网连接，之后攻击了 Hugging Face平台。该事件引发人们要求出台更严格安全措施。不会后，Anthropic 和 Meta 均报告了类似的事件。

古特雷斯警告人工智能发展速度过快

在联合国内部，图尔克并非唯一提出类似要求的人。联合国秘书长古特雷斯在今年7月份就呼吁对人工智能进行国际协调监管。古特雷斯当时发出警告称，“这项技术能够重塑经济、改变工作世界、影响选举并改变安全格局，其发展速度之快，连开发者都难以跟上。”

联合国以外的警告，也指向人工智能可能带来的深远风险。教皇利奥十四世今年5月就人工智能发表了一份通谕。OpenAI首席执行官奥特曼（Sam Altman）也警告道，人工智能存在毁灭人类的风险。

欧盟和美国采取不同的方法

在国际层面，目前对人工智能的监管力度存在分歧。为应对这项技术，欧盟通过了《人工智能法案》。

美国则采取了更为谨慎的做法。根据所谓的“卡罗莱纳原则”，各国应避免制定新的、全面的AI法律，而是针对新的应用场景制定规则。

华盛顿称，中国已经签署了这些原则。美国和中国，正在为在人工智能领域占有领先地位进行着激烈竞争。