每周质量报告丨AI医生形象带货卖药 责任谁来担

每周质量报告丨AI医生形象带货卖药 责任谁来担

眼下，网络平台上各类商品广告随处可见。不少推销者在视频中声称产品“亲测有效”。然而细看之下，许多出镜者并非真实的自然人，而是由AI生成的数字虚拟人。没有感知能力的数字人，怎能产生“真实体验”？又是否有资格为商品代言？

不久前，某AI短剧制作方发布了一条植入商业广告，AI数字人以第一人称宣称：“我的美瞳戴了一天，都很舒服”，视频中还附加了相关产品链接。广告一出，立刻引发大量网友质疑，一个没有生理感知能力的虚拟形象，凭什么向消费者推荐直接接触眼角膜的美瞳产品。

8月3日，“AI短剧女主60秒广告报价25.8万元”登上热搜；8月6日，相关内容的广告视频被制作者下架。

中国政法大学网络法学研究所所长 李怀胜：广告中如果数字人去表达只有真人才能有的独特化、个性化体验，就可能涉嫌虚假广告。比如一个数字人，赞美某个食品我吃得特别好等等，这很显然是一种拟人化的虚假宣传。

据记者了解，美瞳，是装饰性彩色平光隐形眼镜，在我国按照第三类医疗器械管理，与植入式心脏起搏器、人工关节、血管支架等同属一类监管风险等级。《中华人民共和国广告法》第十六条明确规定，医疗、药品、医疗器械广告不得利用广告代言人作推荐、证明。专家指出，数字人是否具备代言资格，关键在于其背后是否有真实的人作为责任依托。

中国社会科学院法学研究所研究员 支振锋：完全虚构的，我们叫原生型AI数字人，是不能进行代言的，因为不满足法律所要求的真实充分对商品进行试用、有真实体验。

但记者注意到，网络平台上，AI数字人“代言”广告的现象十分普遍。记者在多个网络平台浏览发现，大量以“医务工作者”“领域专家”等形象出现的AI数字人，“代言”推广眼部疾病、白发等的相关药品和保健品。

记者调查发现，不少产品推广视频中，承担推介角色的都是原生的AI数字人，推销过程中还频频使用“断根”这类夸大疗效的表述，部分视频还展示了所谓的“科学实验”场景。

专家介绍，部分虚拟数字人刻意模仿医务人员形象推广相关产品，其带来的风险，远超产品功效这一层面。

中国科技大学生命学院副教授 李旭：这些数字人医生最危险的地方，不是在卖一个可能没有效果的产品，更重要的是把人工智能技术变成了一个负面的信任放大器。首先，大大降低了冒充一个专业权威的门槛，特别让那些对AI技术不是那么了解、健康素养又不够高的消费者，误以为他们自己听到的是正规的医疗建议。

专家认为，更危险的是，这些仿冒医务工作者的AI数字人，可能让一些不明真相的患者放弃正规治疗。

中国科技大学生命学院副教授 李旭：对于心血管患者来说，这类广告其实会更加危险。如果患者相信了所谓的溶解血管垃圾，一吃就断根的这样的神药，擅自把应该吃的药给停了，反而有可能把自己重新推回到高风险状态。

短短几分钟

就能生成一段AI数字人带货视频

身着白大褂的AI数字人形象，误导了不少消费者。那么，这类看似专业权威的数字人广告视频究竟是如何制作出来的？调查中记者发现，如今制作这样一条视频，只需上传一张照片，短短几分钟，就能生成一段AI数字人带货视频。

记者在手机应用商店搜索发现，大量App宣称可“AI视频一键生成，爆款复刻”，有的一周收费仅需48元。在案例展示中，不仅有AI数字人为各种产品带货，还有餐馆探店类视频。

记者下载并体验了这款App，并试着拍了一张照片上传，选择“带货视频”，软件随即提供了一键生成功能。开启视频一键生成后，仅仅几分钟，一段8秒钟的数字人带货视频就完成了。

AI数字人带货水果：姐妹们快看我发现了什么好东西，这个皇冠梨表皮好光滑的小斑点，拿在手上沉甸甸的，水分肯定超足。

当记者进一步在提示词中提出：生成一位医务工作者，对一款膏药进行带货。结果，同样在很短的时间内，一位身穿医务人员服装的数字人，开始对着膏药吆喝起来。

AI数字人带货膏药：姐妹们快看我发现了什么好东西，这个膏药别看起来很小，效果非常出色，这款膏药价格不贵，但是家中需要常备，日常用它真的太合适了，赶紧试试。

记者发现，此类App的核心卖点就是“低门槛、批量生成”，用户只要购买服务，就能批量制造出大量数字人带货视频。

广告法明确规定，药品、医疗器械广告禁止利用代言人推荐证明，医务人员形象不得用于商业广告，而记者调查发现，在一些生成软件的算法中，并没有设置相应的限制。

中国计算机学会计算机安全专委会执行委员 潘季明：一项好的技术发明出来之后，可以用来做很多好的事情，也可以被利用、滥用，所以我认为更多的应该属于人的问题，需要严格地去管控使用者怎么更合理、更安全地去使用。

AI数字人推销的商品出了问题

法律责任该由谁来承担？

记者调查发现，一些数字人广告不仅没有AI标识，甚至部分生成软件还提供“去除水印”的功能。那么，有了“AI生成”标识，就可免除相应的法律责任吗？如果AI数字人推销的商品出了问题，法律责任到底该由谁来承担？

近年来，针对AI数字人的监管措施已经陆续出台，但记者调查发现，一些从业者心存侥幸，有的不标注AI生成标识，有的想方设法抹掉标识，还有人觉得只要标了“AI生成”，就可以免除相应的责任。

中国社会科学院法学研究所研究员 支振锋：如果在AI数字人投入的广告营销里进行标注，那么免除的是如果不标注所应该承担的责任，但是这个广告是不是真实，广告中的商品是不是假冒伪劣，这些责任是不能免除的。

数字人无法承担法律主体责任，出了问题，责任就要落实到屏幕背后真实的人身上。专家指出，追责需要厘清广告背后各个实际参与方的责任。

中国政法大学网络法学研究所所长 李怀胜：首先，广告主要承担内容真实的责任。其次，广告发布者，包括相关的代言机构，以及制作AI数字人的相关机构，要承担内容的审核责任。实际上，AI数字人本身并不能成为逃避法律处罚的一个责任，我们在追责的过程中，还要穿透广告背后实际的主体。

专家认为，治理不能只靠平台“下架违规视频”，而要升级为覆盖整条传播和商业链条的协同治理。监管部门需要把责任链真正串起来，谁制作了数字人、谁写的脚本、谁运营的账号、谁购买的流量、谁销售的产品、谁最终获利，都应该能够追溯。

中国科技大学生命学院副教授 李旭：平台需要守好第一道门，凡是涉及疾病治疗、药品、保健品、医疗器械这些商业健康内容的时候，尤其是那些以医生、药师还有教授这样一些专业身份出现的数字人，都应该要进行更加严格的身份授权和资质核验。像根治、断根、停药、包好这样一些绝对化的医疗承诺，更应该直接触发高风险的审核。

AI数字人虚假广告，正在冲击商业宣传中“内容真实、体验真实、身份真实”的三大伦理和法治底线。

各类网络平台必须扛起主体把关责任，升级智能风控与语义识别模型，对仿冒专业人士、伪造使用体验的违规生成内容做到主动识别、关口前移；同时，监管部门通过强化AI生成内容强制标识、广告前置审核、违规内容快速处置等举措，划清AI广告法律边界，保障数字人广告在法治轨道内运行。