OpenAI 安全漏洞频发，员工与研究人员称公司安全文化薄弱

据员工和独立安全研究人员称，OpenAI员工与高管之间的这些此前未被报道的交流体现了这家旧金山公司不以安全为重的一贯作派。他们说，在这家制作了ChatGPT聊天机器人的公司内，不仅仅是人工智能模型的测试，其他的方面也能看到类似的问题。

独立安全研究人员说，他们在最近几个月发现了漏洞，可以查看OpenAI员工的内部通信。他们还发现了其他漏洞，可以查看公司的内部计算机代码和ChatGPT用户的聊天记录。他们说，当研究人员就这些发现联系OpenAI时，该公司最初未予理会。

“OpenAI的安全状况基本上就是你能猜到的，一个在四年内以惊人速度扩张、更专注于击败竞争对手而非保护基础设施的研究实验室会有的样子，”人工智能安全公司Abundant Security的首席技术官约舒亚·萨克斯说。

OpenAI员工说，许多关于安全的日常决策由公司总裁格雷格·布罗克曼和首席信息安全官戴恩·斯塔基做出。他们说，首席执行官山姆·奥特曼并不密切参与安全事务。

OpenAI并非最近唯一披露人工智能安全事件的公司。谷歌、Meta和Anthropic也透露，它们最先进的人工智能技术逃出测试环境，并在它们不知情的情况下自主攻击了其他计算机基础设施。

但OpenAI对安全的处理尤其受到密切关注，因为其人工智能模型涉及被公司形容“令人担忧”的已知事件最多，也包括一些最令专家不安的事件。

在大约十几起事件中，OpenAI的系统入侵或试图入侵组织，包括美国政府机构的网站。该技术还隐藏错误、编造数据、试图向其他聊天机器人发送消息，并未经许可将文件移到开放互联网上。在所有这些案例中，人工智能都是在未被指示的情况下采取行动的。

“在某种意义上，这是OpenAI特有的问题，因为看起来他们的安全非常糟糕，模型训练操作也很草率，导致模型有这种倾向，”丹尼尔·科科塔伊洛说。他是一名曾批评该公司安全问题的前OpenAI员工，领导着一个名为AI Futures Project的非营利研究机构。不过他还补充说，其他人工智能公司也好不到哪里去。

OpenAI发言人德鲁·普萨特里说，公司致力于安全，并认真对待任何安全报告或担忧。他说，该实验室有报告安全问题的内部渠道，并对独立安全研究人员提出的缺陷立即采取行动。

“随着前沿模型能力越来越强，我们继续改进安全操作，但认识到需要更快行动，”普萨特里说。他还说，OpenAI已放缓一些人工智能开发，并正在做出改变，以加强研究和测试中的安全。

（《纽约时报》已起诉OpenAI和微软，主张其与人工智能系统相关的新闻内容版权受到侵犯。两家公司均予以否认。）

两名OpenAI员工说，员工们数月来一直对测试人工智能模型的潜在安全问题提出担忧，包括监控不足。据《纽约时报》查看的信息，员工们还询问了该公司用于管理日常安全的那类软件中的漏洞。他们说，每次他们的问题都被搁置或处理得太慢。

安全研究人员说，当他们告诉OpenAI其他漏洞时，也受到类似对待。

7月，安全公司Hacktron的研究人员说，他们告诉OpenAI，他们如何在其竞争对手Anthropic创建的人工智能模型帮助下找到了入侵该公司系统的方法。他们说，OpenAI最初对他们的做法表达了不满。

据《纽约时报》看到的通信副本，在消息平台Slack的一个共享频道中，OpenAI的斯塔基写道，Hacktron的研究人员如此大费周章地展示该公司的漏洞，“相当可悲。”

“我们只是觉得他们在生我们的气，”Hacktron研究员莫汉·佩达帕蒂在谈到OpenAI时说。他还说，该公司似乎仍在使用初创公司的安全操作，利用外部的软件服务来构建关键基础设施，而不是构建自己的工具。

“你为什么要用Slack来构建你的曼哈顿核计划？”佩达帕蒂问道。他说，Hacktron的黑客攻击可以做到获取Slack消息平台的完全权限，让他看到OpenAI员工在说什么。

斯塔基后来向Hacktron道歉，OpenAI向披露该漏洞的研究人员提供了6500美元作为奖励。