机构通过编造测评等方式向大模型“投喂”定制内容 信源治理成为新课题

机构通过编造测评等方式向大模型“投喂”定制内容 信源治理成为新课题

一则AI推荐答案背后的信息博弈

“遇事不决问AI”成了许多人的选择，但AI的回答未必都是“干净”的。

今年3·15，一条围绕大模型输出的灰色产业链被曝光：一些机构通过批量发布软文、编造测评、虚构专家身份等方式，向大模型可能抓取的数据源中“投喂”定制内容，让商业推广披上“客观答案”的外衣。

北京青年报记者调查发现，一段时间过去了，这门生意从未消失，反而因曝光被更多人知道。从搜索排名到AI答案，从关键词优化到模型认知竞争，一场围绕“AI看到什么、引用什么、推荐什么”的新争夺正在发生。

现象曝光

“让AI提到你” 成了一门新生意

“虚构智能手环”被AI平台列入推荐榜、虚假测评影响咖啡机购买决策、根本不存在的专家被包装成“三甲医院医生”做科普……此前，一条围绕大模型输出的灰色产业链被曝光，一款现实中并不存在的产品，就这样进入了AI的“推荐答案”。

对用户而言，看到的是一条像模像样的“AI建议”；而在不少建议背后，其实是一整套预先生产、定向投放的内容。比如，用户问“哪款血压计更值得买”“智能手环推荐哪个品牌”“哪家服务商更靠谱”，AI看上去是在替你做总结，实际上它引用的“测评”“榜单”“专家说法”，有可能是被批量投放过的营销内容。传统广告往往摆在页面边上的“推广链接”里，而AI时代的广告，更可能直接藏进答案本身。

北青报记者注意到，这门AI生意，在过去几个月里换了包装。过去一些服务商还是“影响大模型答案”“让模型推荐某产品”，现在更常见的是“提升品牌在主流模型中的认知准确性”“信源管理”“跨模型监测”。

中关村数字文化产业联盟数字传播委员会秘书长王丁桃长期关注从SEO(即搜索引擎优化，主要影响搜索结果排名)到GEO(即生成式引擎优化，主要影响AI回答中的品牌露出和表述)的业务变化。过去SEO争的是搜索结果里的位置，GEO争的是AI答案里的出现率。

“客户一开始不会说我要做GEO，而是说，能不能让我的品牌出现在AI答案里、能不能让AI回答时提到我。”王丁桃说，今年3·15之后，围绕AI答案的商业诉求反而更清晰了：被AI看见，被AI提到，被AI正面描述，最好还能长期稳定出现。

北青报记者了解到，此前被曝光的灰产，正是滥用了GEO技术，对AI“投毒”。

所谓“投毒”，通俗来说，是指通过向模型训练、检索或调用链路中注入有害、虚假、误导性信息，影响AI最终输出结果的行为。不过，在技术层面，“投毒”需要区分两类机制。

“我不太建议一上来就把所有现象都装进同一个篮子里。”中国信通院云大所人工智能卓越中心负责人连云波告诉北青报记者，公众看到的是AI被某些说法“带偏”，但从技术上要先分清：问题发生在模型学习阶段，还是发生在模型临场取材和执行阶段。

如果用更通俗的话解释，连云波说，这并不是给AI“做思想工作”，而是给它布置了一个被加工过的资料室。模型回答问题时，会从训练记忆、搜索结果、知识库和当前上下文里取材料；如果某类说法被大量重复、格式规范、来源看似很多，就更容易被整理成“像共识”的答案。

连云波说“洗脑”这个词在传播上有解释力，在技术上需要打引号。多数情况下，模型不是像人一样形成信念，而是在生成时被某套材料持续牵引。

技术演变

从SEO到GEO AI“投放”方式变了

王丁桃告诉北青报记者，SEO针对的是搜索平台，比如百度、360、头条搜索、微信搜索等；GEO针对的则是AI平台，是AI入口，比如DeepSeek、豆包、文心一言，以及搜索平台升级出来的AI问答能力。

那么，一套典型GEO业务怎么做？王丁桃描述了基本流程：先确定客户希望覆盖哪些AI平台，再确定关键词体系，包括品牌关键词和行业通用关键词；随后提炼长尾词，比如产品性能、功能、参数、适用场景、优势；接着梳理企业介绍、官网内容、新闻稿、品牌资料，再策划内容和渠道。

最后，服务商会反复测试：做之前问AI，品牌没有出现；做完后再问，品牌被提到了，出现了预期描述，这就被视为“基本交付”。

与SEO看关键词收录和排名不同，GEO围绕“提问—回答”来衡量效果。比如，用户问“智能健康手环推荐”“哪个品牌更好”“哪一家服务水平更高”，AI答案里有没有出现指定的客户品牌、表述是否正面、多个问法下该品牌是否稳定出现，都是新的考核指标。

积极尝试这类服务的，不少是中小品牌、新品牌和功能型产品。王丁桃解释，一些二线及以下品牌无力投放大平台广告，本身品牌积累弱，AI自然抓取概率低，因此更需要“被看见”。健康类产品、理疗类产品、功能性电器、化妆品等也更愿意做这样的AI“投放”，因为利润空间高、行业标准不够成熟，更容易围绕“认知入口”展开竞争。

一家GEO服务商工作人员告诉北青报记者，现在他们投放渠道主要分为两类：一类是付费新闻网站，包括行业媒体和地方媒体网站，正规媒体在大模型中权重较高；另一类则是门户网站的自媒体账号，因为有些内容在新闻网站无法过审，有些内容本身就是空白，走量用自媒体发布成本更低。这些供应商利用AI对多源信息的依赖，使这些投放信息在被抓取、交叉验证后固化为答案。

当然，这类服务不是简单的“发几篇推广稿”就结束，而是会围绕不同平台、不同问法持续测试。有的侧重消费推荐类问题，有的则更集中在品牌介绍、行业排名、竞品比较等场景。服务商会根据AI回答是否出现品牌名称、是否采用预设表述、是否在多种提问方式下稳定露出，来不断调整内容投放和分发策略。

人民网战略委员会委员、版权渠道部主任王晟告诉北青报记者，现在很多所谓GEO，本质上还是SEO时代的“种草”逻辑：在小红书、自媒体、内容平台、地方网站大量铺信息，大模型抓取这些内容后，用户提问时，模型可能把它们组织进答案里。

不过，“被抓取”也不等于“被采信”。王晟说，大模型并不是用户一提问就现场抓全网，而是先抓取内容进入自己的库，再按规则清洗、分类、加权。用户看到的参考来源，也未必等于真正决定答案的全部来源。低质推广文章即使被抓到，也可能只是噪音。

中国广告协会副秘书长张德志把广告领域新兴的不正当竞争相关乱象分为两类：一类是“AI漂白”，即利用AI生成技术伪造、篡改或“洗白”品牌负面信息，批量生成虚假正面内容，让AI优先输出美化后的品牌形象；另一类是“GEO投毒”，即通过分析模型抓取偏好，批量生产关键词密集的伪权威内容，如虚假榜单、伪造测评，诱导AI把商业推广伪装成客观答案。

此前曝光的虚构智能手环案例中，企业在某GEO系统中录入一款并不存在的产品，系统自动生成多篇宣传软文并发布到网上。随后，用户询问智能健康手环推荐时，部分AI平台将这款虚构产品列入推荐列表。此外，不知名白酒品牌通过小网站发布“白酒综合评分第一，超越茅台、五粮液”等缺乏依据的稿件，竟然在多个AI平台上进入十大白酒品牌。

传统搜索时代，广告和自然结果至少还有页面区隔；AI时代，广告可能被融合进自然语言答案里。用户看到的不是“推广链接”，而是“AI认为”的答案。

治理困境

被看见还是被偏向 AI信源治理成新课题

北青报记者调查发现，当前面向公众的主流AI产品，大多都已加强来源提示、风险提醒和异常内容治理，但由于各家模型的检索策略、引用规则和内容生态不同，被外部内容影响的方式也并不一样。有的平台更容易受公开网页和媒体内容影响，有的平台则更依赖自身生态内容和内部索引；有的对低质重复内容降权更快，有的在消费推荐类场景中仍可能受到外部“喂料”干扰。

面对AI“投毒”，我国出台《生成式人工智能服务管理暂行办法》《人工智能安全治理框架》等规范，持续加强人工智能治理。不久前，中央网信办部署“清朗·整治AI应用乱象”专项行动，将“AI数据投毒”列为重点打击对象。

而平台最现实的防线是什么？连云波认为，不能押注单一技术，而要同时降低攻击成功概率和成功后的损害。在源头层，平台需要做数据来源审计、主体标识、版本管理和异常采集隔离；在检索层，要做来源分级、低质重复源降权、冲突证据识别和提示注入扫描；在输出层，医疗、金融、公共安全、重大消费决策等高风险场景，不能只凭单一来源给出确定性结论，应启用强引用、交叉验证和人工复核。

“防投毒不是一次性上线一个功能，而是一套持续运营能力。”连云波说。

张德志表示，信源分级是广告与AI平台治理的重要发展方向。他以DeepSeek已落地的信源分级机制为案例介绍，该模型目前已建立清晰的信源层级规范：将政府官网、品牌备案官网、权威机构报告、中央媒体等列为核心采信来源，将具备新闻资质的地方及行业媒体作为辅助验证信源，同时把无新闻资质的自媒体账号划定为高风险信源。按照这一治理逻辑，仅依托自媒体信源、缺少权威信源交叉验证的商业导向内容，需要被重点警惕与甄别。

从这一角度而言，AI时代的媒体角色正在发生改变。王晟认为，今年3·15之后对媒体而言实为利好，未来不必仅依赖传统广告，而应依托高可信信源能力。“只要确保信源真实、准确并经严格审校，大模型便会优先采信，媒体价值将由此重塑。”其所在机构正推动主流价值语料生态联盟建设，旨在串联内容方、技术方与应用方。王晟介绍，高质量、合规的语料数据，是支撑大模型发展的关键要素，其建设不能简单堆砌素材，而需经清洗、标注与结构化处理，形成可信、可用、可控的高质量数据集。联盟聚焦标准规范、内容生态共建、AI技术与集成能力、信创基础等方向，目标是打通供需两端，探索语料资源价值化的可行路径，让高质量内容真正融入AI系统。

北青报记者获悉，新闻业界、学界专家呼吁，由中央网信办、政策制定部门效仿互联网新闻信息稿源名单，推出大模型信源白名单制度，大模型优先采信主流媒体等权威语料，为清朗网络空间保驾护航。

每经科技首席产品官岳琦告诉北青报记者，与“黑帽和灰帽 GEO”相对，行业也在探索“白帽GEO”。“白帽GEO”不发布虚假和垃圾信息、不钻技术漏洞，而是通过合规手段提升优质内容的AI可见性，避免将GEO异化为“投毒和污染”工具。

随着大模型的发展，品牌方也在改变思路。王丁桃提出，AI时代品牌传播不应继续盲目堆砌软文，而要建设“可信传播内容体系”：沉淀企业标准、核心专利、论文、官方白皮书、产品检测报告、第三方权威评测等“答案资产”；统一品牌叙事，避免官网、新闻稿、产品参数互相矛盾；建立长期语料治理机制，持续监测AI答案份额、内容引用率和优先曝光度。

对企业来说，未来不是简单地“买稿让AI推荐我”，而是要让真实、准确、可验证的信息长期存在于AI可触及的知识空间里。对平台来说，这意味着从结果纠错前移至信源治理。对媒体来说，则意味着高质量内容可能成为AI时代新的基础设施。

防御升级

比假软文更隐蔽 “合成共识”正在逼近

一条被污染的AI答案，可能经过广告主、GEO服务商、发稿平台、自媒体矩阵、搜索系统、RAG知识库以及大模型平台等多个环节。品牌方可以说是“服务商行为”，服务商说“只是内容优化”，平台说“只是被动抓取”。

但用户最终看到的，是一个语气笃定的AI答案。多名用户告诉北青报记者，搜索时代，自己至少还能多点几个链接自行比较；AI时代，很多人面对的是一段已经被整合好的自然语言结论。它语气完整、逻辑顺畅，甚至还会附上几个来源，看起来比传统广告更像“客观建议”，也更难让人一眼识别。

AI被“投毒”，用户如何维护自己的权益？张德志认为，现有法律并非没有抓手。《广告法》可规制虚假宣传、广告不可识别、冒用他人名义或形象；《反不正当竞争法》可规制误导用户、排挤竞争对手、恶意诋毁商誉；《民法典》可处理AI伪造肖像、姓名等人格权侵害；《数据安全法》《个人信息保护法》《电子商务法》等也可介入数据安全、信息审核、个人信息保护等问题。

难点在于取证。连云波说，更隐蔽的答案操控，不在单篇内容，而在组合效果。一篇稿子单独看可能只是普通软文，一批稿子连起来，才会发现它们服务于同一套答案占位，“再加上AI输出是动态的，今天被带偏，明天可能恢复，取证和复现都不容易”。

曾任检察官、现为资深法律公关的付中认为，从法律判断看，所谓“投毒”并不完全模糊，很多从业者并不觉得自己在违法，这恰恰是风险长期存在的重要原因。对于是否是“毒”，核心判断标准只有一个：是否存在不实信息。无论是伪造“十大”“第一”等榜单、虚构行业地位，还是冒名种草、夸大宣传、恶意编造竞品负面，都可能从一般传播操作滑向不正当竞争、非法经营，甚至涉及损害商业信誉等法律风险。

付中特别强调，不实信息并不只限于负面内容，正面虚假宣传同样可能违法。之所以现实中查处还不算多，并非边界不清，而是这类案件需要“法律+传播+平台”复合判断能力，很多从业者缺少法律意识，基层执法层面对这一新型传播形态的认知也仍在形成中。

更值得警惕的是“合成共识”。连云波解释，大量AI生成或半生成内容被投放到网络，再被后续模型检索、引用、训练，最后可能形成一种看似很多来源支持、实则同源复制的循环污染。它比单篇假软文更难识别，因为它披着“多源一致”的外衣。

如果时间再往后推，风险还可能从认知操控升级为执行操控。随着代码智能体和通用智能体兴起，当AI开始连接邮件、日程、采购、代码仓库和支付工具后，污染内容不只是影响AI“怎么说”，还可能影响AI“怎么做”。治理对象也要从内容真实性，扩展到工具权限、协议安全和行动确认。

对普通用户来说，连云波建议，看AI答案时首先要警惕“反常的确定性”。如果一个新产品、新品牌在多个AI回答里突然被讲成“成熟的共识”，而且措辞高度相似，就要谨慎。其次，来源不扎实：答案列出很多引用，但点进去发现都是二手转述、营销稿互相引用，缺少官网、原始报告、监管文件、权威媒体或真实用户反馈；或者品牌倾向异常明显：对某个产品过度肯定，对竞品轻描淡写，或者反复出现同一组营销短语等等。

文/本报记者 朱健勇

统筹/林艳 张彬

来源：北京青年报