AI生成虚假专家视频泛滥 多用于兜售商品 专家提醒公众警惕

记者近日在多个短视频平台上搜索发现：有大量看似专业、实则身份不明的“虚拟专家”，他们看似言之凿凿，背后却另有目的。

貌似“交警”的人，在“车祸现场”煞有介事地讲解安全知识，话锋一转却开始兜售“破窗神器”；貌似“和尚”“师太”的人，张口“修行”、闭口“感悟”，满屏都是人生哲理，账号却推销着养生品和经书。你是不是也经常刷到这样的视频？他们看似某领域的专业人士，却没有任何标识或头衔，评论区里还时常出现对视频真实性的怀疑。

为了验明真伪，记者带着几段视频来到中国信通院。专家帮我们把视频导入鉴别平台，该平台拥有多种技术手段鉴别能力，可实现对视频、图片、文本的交叉鉴伪。几分钟后，结果出现，AI生成的概率高达96%。

中国信通院人工智能研究所安全治理部主任 石霖：我们两个不同的鉴别引擎都判别出这段视频它是AI生成的。首先这个人过于完美，面部几乎没有瑕疵；重复的一些肢体动作过多；他的牙齿过于整洁，说话的过程中，仔细看是看不到舌头的。

针对另一个所谓“和尚”的视频也得到了同样的结果。这些未标注AI生成的视频捏造“警察”“僧人”等形象，利用大家对专业人设的信任，真实目的都是卖货。

记者调查中还发现，除了用AI捏造无中生有的人设，甚至还有人在盗用真实的专家形象。

北京眼科专家赵阳几个月前收到一位患者转来的视频，并询问他商品是否对眼睛真有帮助，视频里的赵阳正在推荐一款营养品。

北京眼科学会小儿眼科分会委员 赵阳：我看这视频特别懵。因为他是拿着我的视频，把我的声音给改了，在卖他的产品。

赵阳一纸诉状把商家告上法庭。审理中才得知：商家委托了一家视频制作公司，用AI生成销售商品的音频，借他眼科专家的身份为产品背书。

负责审理案件的北京互联网法院指出，随着人工智能技术的发展，AI捏造虚假人设、盗用权威形象用来牟利的案件近年来越来越多。

北京互联网法院副院长 仪军：这类案件在我们的民事案件当中呈一个逐年上升的趋势。比如说AI换脸、AI换声的这些软件，在一些黑色市场里面基本上十几块钱就能买到，造假的成本大大降低了，这类AI造假的情形也从以往的单纯互联网行业转向了互联网加传统行业。

国家去年出台规定，明确要求AI生成内容必须添加标识。记者调查中却发现：视频平台上依然有不少AI生成的视频未做标注。有些虽做了标注，却模糊不清。

这类视频在网上还有很多，它们大多以卖货为目的，常伴随产品质量争议，卖日用百货是重灾区。例如这个推荐清洁剂的视频，AI标识字号小、颜色浅，隐藏在画面下方很容易被忽略。而在视频下方的评论里，记者看到“骗人的、我买过了”以及“夸张”“不好用”等字眼。

北京互联网法院综合审判二庭法官 封瑜：对于这些消费者来说，他们的知情权和选择权也受到了不正当的干扰和误导，从而被欺诈性地进行消费。从现阶段的技术发展来说，全社会的各个年龄段的人群都有可能会被欺诈。青少年认知经验比较少，社会经验也比较少，老年人也是另外一个重灾区。

面对这种情况，大家一定要多加甄别，可以通过“眼、耳、手”防骗三招辨别AI，避免上当：

“眼”——先找AI标识，一般标注在角落。如果没有，就看细节：比如皮肤纹理是否过于光滑无瑕疵、背景边缘是否模糊变形、画面颜色是否过于鲜艳等。

“耳”——只要在视频或通话中听到“转账”“投资”“购买”这类关键词，别急着操作，先通过官方渠道确认。对方推销的商品也要多留个心眼，谨防货不对板、以次充好。

“手”——打开国家反诈中心App，找到“AI内容鉴定”功能，一键上传，即可进行图像、视频、文本和音频的多维检测。

来源：央视新闻客户端