科技巨头正试图清理互联网上的AI垃圾内容

人工智能最糟糕的垃圾内容已经用胶水披萨食谱淹没了谷歌搜索，用虚假传记塞满了亚马逊商品列表，用大虾耶稣图片充斥于Facebook信息流。

这片数字污水池已经在科技平台上蔓延开来，令有意义的内容变得廉价，污染了信息生态系统，而聊天机器人和视频生成器仍在步步推进。

现在，硅谷想要清除这些垃圾。

音乐流媒体平台Spotify表示去年下架了7500万条批量上传、重复歌曲和其他“垃圾”音乐——这占其总曲库的相当大一部分。领英在7月表示，“应对AI垃圾内容是我们所有人的首要任务，”并开发了一个供用户举报的按钮。YouTube母公司谷歌的研究人员描述了该视频平台如何在六个月内清除了13万个内容质量低劣的频道。

在整个互联网，科技公司正在进行一场生成式废物大扫除，在许多情况下，它们已被自家AI工具最初所催生的同样垃圾内容所淹没。移动消息应用、餐厅点评网站、学术档案库和婚恋服务都在根除或降级AI生成的垃圾内容——其中许多依赖同样的技术来完成这次清理。

人们已经开始厌倦AI对环境的影响、对就业和心理健康造成的压力。全球事务智库卡内基国际和平基金会研究员、内容创作者艾丹·沃克表示，AI垃圾内容只是又一个“溃烂的伤口”。

“用户渐渐对此越来越不满，”他说，“舆论氛围已经明显转变，所以这些公司终于开始正视这些问题。”

生成式AI能够制作出越来越逼真的图像、音频和视频，但其中只有一部分算得上垃圾内容。科技公司主要针对的是那种低质量的点击诱饵——容易制作、传播、消费和遗忘——就像快时尚挤掉了高级定制，粉红肉渣取代了牛排。

如果不加遏制，网上的合成沼泽可能会“排挤人类创造力，腐蚀文化价值，并破坏公共话语”，欧洲研究人员去年写道。

AI垃圾内容已经变得如此普遍，以至于词典出版商韦氏公司在2025年将其选为年度词汇。法国流媒体服务Deezer今年春天表示，每天更新到其系统的曲目中近一半是生成的，其中许多从未被用户听过。在上传到Apple Music的内容中，AI生成的音乐占比在三分之一以上。

Instagram负责人亚当·莫塞里在去年年底表示，追踪“真实媒体将比追踪虚假媒体更实际”。他的观察是在Meta（Instagram母公司）推出一个全AI视频流不久后发表的，该视频流被许多人嘲笑为垃圾内容的展示窗口。

许多现在试图管理AI垃圾内容的科技公司也正是助长它的那批公司。7月，Meta承诺支持一项欧洲协议，通过检测、标记和标注使AI生成的内容更容易识别。同月，该公司还发布了一款图像生成器，自动将公开的Instagram账户作为该工具的参照。（经过连续三天的舆论抵制，Meta移除了该功能。）

“AI垃圾内容是一把双刃剑，因为许多平台因此获得了参与度的提升，”俄亥俄大学AI专家保罗·肖夫林表示，“但后来它变成了一种负担，因为垃圾太多了，用户现在很难找到他们想要的那种质量的内容。”

例如，谷歌已全力投入AI，将其Gemini模型与电子邮件、地图和旅行服务以及搜索相连接。根据去年由在线视频编辑器Kapwing进行的一项实验，YouTube上为新用户推送的初始短视频中有超过20%是AI生成的垃圾内容。

Kapwing估计，最受欢迎的YouTube垃圾内容频道之一每年赚取425万美元。（该频道此后已被暂停参与YouTube的创收计划。）YouTube首席执行官尼尔·莫汉在一篇博客文章中写道，“管理AI垃圾内容”是今年的首要任务。

最近，谷歌的研究人员考虑了这一挑战。他们没有逐个评估视频，而是着眼于上传速度、重复模板和其他可能表明协同滥用行为的模式。他们发现了5万个账号群组，并将其移除。然而，一些数字媒体专家担心这种方法可能矫枉过正，也会惩罚那些发布大量内容的合法创作者。

“虽然学术研究有助于推动行业理解，但它并不能反映我们用于执行政策的许多层防御措施，”YouTube在一份声明中表示，“这包括强有力的保障措施，以确保使用AI工具的善意创作者不会受到影响。”

其他公司正在转向各种策略来应对AI垃圾内容，包括动员自己的用户帮助识别。10月，Pinterest更新了系统，允许用户限制他们看到的AI生成帖子数量。TikTok表示正在美国测试一项功能，让用户可以自行调节看到的AI内容量。（该公司还表示已自动标记了超过30亿个AI生成的视频。）TikTok在今年前三个月删除了超过37.7万个违反其AI政策的视频。

根据AI检测初创公司Pangram的数据，在埃隆·马斯克的社交媒体平台X上，字数超过50的帖子中有近一半是使用AI创建的。本月刚卸任X产品主管的尼基塔·比尔写道，为了应对“大量的AI垃圾内容和回复垃圾”，该社交媒体平台今年禁止了那些通过付费鼓励机器人发帖的应用。

Substack首席执行官克里斯·贝斯特上个月说，“在互联网上越来越难分辨什么是真实的，”并且“奖励虚假内容的平台将导致逐底竞争”。这个通讯平台宣布为用户推出自己的AI检测工具，由Pangram提供支持，旨在扫描回复、评论和超过100字的帖子，并判断它们可能是人工撰写还是借助AI完成的。