能点头会眨眼却不是真人 谁在帮AI深度伪造“假人脸”通过验证？

点头、眨眼、摇头——这套动作是很多App刷脸验证时会要求用户进行的固定操作。杭州市中级人民法院日前公布的一起典型案例，引发了用户对人脸识别的担忧：两名不法分子用网上收集来的照片，通过AI生成点头眨眼的动态视频，再通过虚拟相机应用等手段，非法登录个人账号。

法院一审认为，上述行为侵害众多不特定社会主体的个人信息权益，损害相关领域社会公共利益，构成侵权。那么不法分子是如何通过AI生成内容骗过识别系统的？针对这种情况，该怎样做好预防措施，保护个人信息安全？

杭州市中级人民法院公布的案件中，张某、王某为牟利，从境外某社交软件通过某种途径获取他人手机号码、头像照片、身份信息等，并利用“AI换脸”技术制作虚假活体验证视频，强制登录他人购物平台账号，将收货地址、购物车信息售卖给第三方，同时还有偿替人虚假实名认证。

杭州市中级人民法院知识产权审判庭法官助理叶永青：传统侵权泄露的是信息，这个案子当中攻破的是身份验证这一重要防线，受害者可能面临的不再是单条信息的泄露，而是账户被接管、财产被转移、身份被冒用等一系列连锁风险，法院对此的态度也很明确，生物识别信息应当受到最严格的保护，对这类行为的评判不能停留在个体损失层面。

与身份信息、照片泄露不同，身份验证突破难度更大。某大型银行工作人员告诉记者，银行的远程人脸核验，并不是单纯看一段动态视频。除了画面里的张嘴、摇头等动作，后台还设置了多层反伪造校验。系统可能会检测画面的成像噪声、光影一致性、纹理、3D深度信息等，此外还要通过活体检测算法的检验。那么AI生成内容是如何骗过识别系统的？

复旦大学发展研究院青年副研究员张晓寒介绍，伪造手段主要分为面部信息盗取和活体模拟两部分。

该案中，张某、王某利用“AI换脸”技术通过深度学习算法，识别目标人物照片并提取人脸信息，随后不断利用这些信息进行训练建模，实现换脸的效果。二人除了制作虚假的人脸认证视频，还通过在手机中植入虚拟相机应用程序替换本地相机，这样一来，当平台调取摄像头进行人脸识别验证时，屏幕中的人脸就自动替换成了这段合成视频。

过去换脸等入侵手段需要专业团队，然而现在只需开源工具和一部手机就能作案，AI侵权呈现低门槛化趋势。人脸认证等手段还可靠吗？张晓寒表示，需要增强个人信息安全意识，但也不必过度恐慌。

张晓寒：我们国家其实相继出台了一系列政策法规和国家标准。但另一方面生成视频的能力确实越来越强，所以对于公众来说，一方面要做好个人隐私的保护，另一方面可以在App里开启多因素认证或者双因素认证方式。这样除了校验人脸，还会去校验手机验证码等。

叶永青介绍，法律层面仍在不断更新，为个人信息安全提供保障。

叶永青：民法典、个人信息保护法和新修改的网络安全法都有对人脸信息或生物识别信息作出相关规定。除此之外，最高人民法院也专门发布了《关于依法审理涉人工智能纠纷案件的意见》，进一步明确了涉人工智能案件的司法裁判规则。当前，我国正在推动人工智能领域的专门立法进程。