Anthropic报告：AI模型被滥用于军事开发、监视及虚假宣传

美国人工智能公司Anthropic发布了一份长达154页的威胁情报报告，详述了恶意行为者如何使用其Claude人工智能系统进行国家支持的监视、虚假宣传以及武器开发等活动。

在报告列举的诸多案例中，中国竞品暗中转接数据导致敏感军方信息外泄的事件格外引发关注。Anthropic指控，中国人工智能公司月之暗面（Moonshot AI）误导用户，让用户以为使用的是该公司的Kimi模型，但实际上却暗中将客户请求转发至Claude系统处理，随后将Claude生成的答案展示给用户。

通过这种隐秘的请求重定向，来自中国和俄罗斯官方机构的数据意外流入了这家美国公司的系统。Anthropic举例指出，曾有用户上传了包括中国军队基地周边的闭路监控录像，旨在分析视频中记录的特定人员的行为模式。该用户原本以为该请求是由Kimi处理，实际上却由Claude完成。Anthropic表示，在短短10天内，月之暗面就通过一个由5380个虚假账户组成的代理服务网络，向Anthropic转接了近30万次客户请求。

知名度更高的中国人工智能公司深度求索（DeepSeek）也被Anthropic指控采用了类似手段。这导致包含俄罗斯国防部关联机构数据的查询请求被重定向至这家美国公司，其中甚至包含俄罗斯政府数据库的有效登录凭据。

此外，美方指责中国开发者大规模利用Claude等美国软件来训练自有的人工智能。在业内被称为“蒸馏”的技术操作中，仅Kimi在5月至7月间就对Anthropic的人工智能进行了2300万次访问。

当被问及相关指控时，中国外交部发言人毛宁日前表示，她不掌握有关指控的具体情况。毛宁称：中方始终坚持人工智能向善发展，同时我们也坚决反对歪曲事实，对中国进行攻击抹黑。

除数据转接外，Anthropic报告还披露了多起直接涉及常规武器研发的违规使用案例。报告称，一名位于中国境内的使用者利用Claude开发了一套电子战和防空压制软件套件，该套件可对目标进行优先级排序并模拟雷达干扰。在项目推进过程中，该使用者修改了模拟场景，将台湾的12处目标纳入其中，包括早期预警雷达、爱国者导弹与天弓导弹阵地、空军基地以及指挥掩体。账户信息显示，该使用者与包括中国人民解放军军事科学院在内的中国科研机构存在关联。Anthropic随后封禁了相关账户。

报告还披露，另一名中国使用者借助Claude协助开发用于中国海军的反鱼雷系统的规范与火控软件。该使用者利用Claude生成了一份超过200页的技术方案，将该系统与美国海军技术进行对比，并模拟严苛的技术审查以完善方案。Anthropic评估该使用者关联一家中国国防工业制造商。此外，一名中国防务情报人员利用Claude调研外国高功率微波武器，搜寻零部件供应商并追踪供应链，试图用于逆向工程和开发反制措施，并为中国共产党、军方或国家安全部门高级官员起草机密简报。

Anthropic评估不仅囊括了与中国军方有关的内容。评估同时也指出：在也门北部，一个威胁行动小组利用Claude Code协助制造武器，包括为制导火箭设计软件、规划射程逾2000公里的弹道导弹，并研发搭载高超音速滑翔飞行器的导弹变体。在制导火箭测试疑似失败后，该组织还曾返回要求AI协助排查故障。在俄罗斯，几名自由职业开发者利用Claude为自主神风自杀式攻击无人机编写软件，并反复将乌克兰顿涅茨克地区的目标设定为打击对象。一名俄罗斯采购经理还利用该工具寻找中国和香港的中间商，借道第三国采购德国制造的磁力仪、航天级光伏晶圆等具有潜在军事用途的欧洲商品。

在网络行动方面，报告指出，位于中国湖南省省会长沙的操作人员（包括两名大学生）利用Claude针对约50个机构展开网络行动，其中包括外国政府网络，利用AI流程搜寻未知软件漏洞并实施渗透入侵。俄罗斯关联黑客组织则在针对乌克兰政府、军方和外交部门的钓鱼攻击和通信劫持中全面应用了AI。一名伊朗关联操作人员也利用该模型搜集和分析公开数据，制定针对该地区美国海军部队的打击目标建议。

监视活动同样呈现多元化趋势。Anthropic指控，一名亲中国政府的人员利用Claude在叙利亚追踪维吾尔人，向处境困难者提供报酬以换取维吾尔人加入叙利亚新建军队的情报。另有中国关联人员利用该系统搜集天主教枢机主教、台湾基督教领袖、藏传佛教徒、异见人士和活动人士的情报，并自动化生成针对维吾尔人、藏人、台湾政治人物、工运学生运动人士及外媒的监控报告。在其他国家，一名技术顾问协助马里国家安全局利用Claude构建了可监控约2500万张移动电话SIM卡的平台；伊朗关联人员则建立了针对以色列个人和犹太人社团的身份分析系统，并搜集伊朗本国公民身份数据。

在虚假宣传和诈骗方面，一家法国广告公司利用Claude在约70个虚假新闻网站上以约20种语言批量生成了近9000篇政治文章，提供所谓的宣传服务；阿联酋关联行动则利用AI生成针对穆斯林兄弟会的内容，甚至代笔起草拟在联合国人权理事会会议上发表的官方证词。此外，一家中国应用工作室建立了包含20多个约会软件的网络，利用Claude驱动的4700多个AI虚拟角色与至少2.5万名真实用户交流，并辅以真实人类员工以掩盖机器身份。Anthropic还在报告中列举了五起试图利用其模型协助生物武器开发的案例，涉及基孔肯雅病毒基因改造、高致病性禽流感以及新型毒素的研究尝试。