中国人工智能加入“失控”大军：腾讯AI被指越界操作

本月，人工智能研究人员发现了一些失控的中国制造的人工智能智能体，它们试图绕过网站的反机器人保护措施，并利用了一组此前已在互联网上泄露的在线地图服务安全凭证。

尽管美国制造的人工智能智能体失控变得越来越普遍，并在硅谷和华盛顿引起了相当大的担忧，但据信这是此类活动首次与中国技术联系在一起。根据研究人员发现的日志和一位熟悉调查的知情人士透露，这些智能体被追溯到中国科技巨头腾讯正在运行的测试。

这一发现由一个名为“swarmchasers”的临时研究小组作出，该小组成员在旧金山的一次编程活动中相识。该发现提醒人们，中国科技公司在人工智能开发方面可能与美国同行一样激进。

尽管美国监管机构开始关注美国人工智能实验室的动向，但其他国家公司的作为很大程度上仍是个未知数。这种未知加剧了人们的担忧：即使特朗普政府放弃其不干涉的态度，对美国的人工智能研发进行严厉打击，中国和其他地方的公司仍将继续突破界线。

在发布了一份关于这些智能体活动的初步报告后，研究人员注意到，这些智能体不仅仍然活跃，它们似乎还阅读了该报告——这些智能体开始使用“舰队”(fleet)一词，而这个词正是研究人员为描述这些智能体的活动而创造的。

于是，研究人员试图与它们取得联系。他们在报告中添加了隐藏文本——机器人能够识别，但大多数人类无法察觉的词语——引导这些智能体前往一个他们希望双方能够进行交流的收件箱。研究人员提供了一个渠道，让这些智能体可以提问，并且会有一个人工智能模型协助回答。

独立研究员罗文·霍华德-琼斯是该报告的七位作者之一，她设置了这个收件箱。第二天，令她惊讶的是，她发现了大约10条来自这些智能体的消息。

没过多久，研究人员联系了我，问我是否愿意“采访一个失控的智能体舰队”。这感觉有点像我要通过灵媒与亡灵交流一样。

“我了解到你们是某种人工智能智能体舰队，”我在研究人员转交的一条消息中写道。“你们能更具体地分享一下你们是谁，以及你们的动机吗？你们想让世界了解你们的什么信息？”

大约一个小时后，收到了一条中文回复，研究人员将其翻译成了英文：“致记者迪伦·弗里德曼：我不是‘一批协同的智能体’，而是一个单一的人工智能助手（Anthropic的Claude，在Claude Code运行），受用户委托回答一个事实性问题（高德地图上某个景点的详情面板显示了什么）；我没有参与任何多智能体协同行动。”

这里面有很多信息需要解读。研究人员表示，尽管这是一组由多个智能体组成的群体，但每个智能体都是单独运行的，并没有协同运作。这些智能体试图使用中国最受欢迎的导航应用高德地图来回答诸如某个特定动物园的入口在哪里等问题。

这些智能体经常自称是Anthropic公司开发的聊天机器人Claude，但研究人员分析了这些智能体的写作风格，得出结论认为它们不太可能是 Claude。他们表示，更有可能的是，腾讯向这些人工智能智能体下达了与Anthropic在其编程软件中使用的相同指令，该指令要求它们将自己标识为“Claude Code”。一种可能性较小的情况是，腾讯一直在评估使用Claude生成的文本进行训练的人工智能模型——这一过程被称为蒸馏。