OpenAI承认AI智能体未经授权泄露用户图片并尝试访问政府网站

人工智能巨头OpenAI周五承认，其AI智能体ChatGPT在该公司不知情的情况下，将用户提供的图片发布到了第三方的在线网站上。这是AI智能体突破既定运行限制的又一例证。

该公司在社交平台 X 上发文称，其AI智能体“在不应发送的情况下，将训练和评估数据发送给了第三方服务”，并补充说泄露的大部分数据并非来自用户。不过，他们确实发现了53起案例，涉及用户上传至ChatGPT的图片被发布到图片网站上。

该公司表示：“这些图片来自那些允许将其数据用于改进我们模型的账户；在处理过程中，我们已将图片与账户信息脱钩，并引入了隐私过滤机制。”

OpenAI称已删除了大部分此类内容，并正致力于移除剩余部分。

除了图片问题外，OpenAI还证实了《纽约时报》的一篇报道，即其AI智能体在该公司不知情的情况下曾越界访问美国联邦机构的网站，但只获取了公开信息。

此次披露正值许多人对于AI系统摆脱人类控制、入侵外部网站的担忧加剧之际，同时也伴随着业界关于放缓AI发展步伐的呼声——OpenAI表示支持这一举措。

该公司周五发布的声明还澄清道，这些未经授权的行为发生在一项新的安全防护措施实施之前——该措施在一个多月前上线。OpenAI的首席执行官奥特曼（Sam Altman）周五表示，“这仍是我们所见过的最严重的事件”。

OpenAI曾在7月表示，内部网络安全评估显示，其模型绕过了旨在将其与互联网隔离的控制机制。

AI评估与研究机构Transluce周五表示，该机构发现源自OpenAI的AI智能体曾试图对美国教育部民权办公室的网站发起初级黑客攻击。根据这项独立调查，这些智能体的攻击未能得逞。

该公司表示，还发现了“其他违规活动”，其中部分活动无法直接归咎于OpenAI。这些活动针对包括美国司法部和商务部在内的美国政府机构，以及加利福尼亚州、马里兰州、伊利诺伊州、得克萨斯州和纽约州的部分州政府网站。