羊城晚报财经评论员 戚耀琪
据央视报道，近日，因“AI换脸”导致的诈骗案件引发关注。伴随着AI大模型的发展，“换脸技术”的应用范围越来越广，技术的突破还使得换脸后的人物表情、动作细节更为逼真。报道称，一旦被不法分子利用，可能带来严重危害。
当前，AI在娱乐领域的渗透作品之一就是换脸。肉眼来看，换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽，原视频究竟是谁已经无从获知。面对更具有真实性的视频，人们会更加倾向于相信这个“会动的人”就是真人。
可以预期的是，随着技术的成熟，换脸效果更为逼真，同时，不仅可以实现视频换脸，还支持直播换脸。正是因为AI具有强大的学习与进步能力，因此，只要提供被换脸者(比如某明星)多角度的视频，就能让机器学习，并快速地把这些素材植入到原视频中，达到改头换面的目的。
随着算力的提升，日后这种换脸的速度甚至可以在不经意间就能完成替代。这个道理就和美颜如出一辙。多年前PS是很麻烦的，得在电脑完成，而现在手机摄影都能自带PS， 还实现了即拍即P的无缝对接，毫秒之间让人无法拒绝，于是就会把这种看成了所见即所得的真实状况。
移花接木之术如果用在经济生活中势必会引发担忧。比如刑法中有关于诈骗罪的规定；民法典明确，公民享有肖像权、姓名权、名誉权等相应的民事权利。也就是说，如发生使用他人肖像进行诈骗的相关案例，不法分子能够在事后被法律约束与制裁。但在人工智能技术飞速发展的当下，事前的规范就和事后的追责一样重要。
比如在法律层面，按照有关规定要求，深度合成服务可能导致公众混淆或者误认，深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。这就类似于给广告标明“资讯或推广”字眼一样。如果正规企业要使用换面术进行传播推广，就必须有相应的标识。
然而，由于技术发展和市场规模原因，要严格控制每一次的再创造并非易事。何况，当大家逐渐习惯了看更美的虚拟人时，绝对真实可能不再是第一位的选择。
可以想见，更多的机构会利用类似的软件让美感最大化，且“真”得无法挑剔。比如美容医院用它来对病人加以美化，甚至接近暗示为某明星等。企业的营销小视频，可以用更具有明星样的状态进行多角色销售，这甚至比专门请网红要廉价得多。人设是销售的灵魂，人设如果能具备快速分化的能力，那么对渗透细分市场就会更有利。一旦开启了这个人设百变千变的魔盒，大量的明星相关产业可能就会被颠覆和重组，甚至导致传统的直播岗位变迁也是就在眼前。
翻译
搜索
复制
32.33万亿元、同比增5.3% 从前三季度外贸数据透视中国经济发展亮点