当“AI孙燕姿”横空出世时，人们还在惊叹于技术进步之快，而今被滥用的AI克隆技术已经成了人工智能合规发展的“拦路虎”。
近日，央视曝光了多个利用AI仿冒奥运冠军全红婵带货土鸡蛋的账号，AI全红婵一会儿卖土鸡蛋、一会又推荐农家土蜂蜜，打着助农的旗号让不少喜爱全红婵的网友信以为真，点赞下单以示支持，但全红婵的家人早在四月就对外声明过，全红婵并未给相关农产品代言或授权。
中招“被带货”的不仅是全红婵，AI仿冒的孙颖莎、王楚钦也去带货推销农产品了，被AI克隆的明星艺人更是不计其数，AI杨幂直播卖女装，AI靳东诈骗中老年钱财，AI孙俪宣传某奶粉，就连综艺节目片段都没能逃过，综艺《一路繁花》中，一段刘晓庆吃饭的片段就被人用AI合成替换成某减肥产品的广告，刘晓庆发文对此进行辟谣：“画面是我的脸，声音像我的声音，但真不是我。”
利用人工智能深度伪造技术制作的带货视频播放量动辄几十万甚至几百万，还有众多消费者对此深信不疑，买到了假冒伪劣产品又陷入维权困局。更令人忧心的是还有平台利用AI合成技术，假借古天乐、林峰等港星合成出线上赌博网站宣传片，逼得两人的经纪公司出面辟谣。
耳听或为虚，眼见亦非实，体育名人、知名企业家、明星艺人通通都上了AI克隆受害者名单，这一情况绝非是人工智能技术开发者的初心。别有用心的商家滥用AI技术其目的无外乎是牟利，直播带货也好广告宣传视频也罢，总归是想要利用大众对名人的信任、喜爱走捷径快速攫取利益。
AI深度伪造技术如此泛滥、屡禁难止的原因之一在于获取AI深度伪造工具的成本低、门槛低但利润高，在高利益的诱惑下，一批账号被封禁了还会有一批账号再起来。在网上具有AI深度伪造合成功能的工具、使用教程唾手可得，记者在网上随便搜索了一款宣称可以免费AI声音克隆的工具，该工具客服介绍AI可以通过深度学习精准分析样本语音模式和音调特征，生成的AI克隆声音还原度高达99%，使用仅需三步：上传5到30秒音频样本，AI自动克隆声音，输入文字即可让AI朗读任意文本，生成的音频可以下载，直接用于商用或者个人用途，当然该工具也做出了免责声明，要求克隆出的声音仅限合法用途，但这样的君子协定到底具有多大的约束力，恐怕要打一个问号。
要遏制滥用AI深度伪造功能带来的仿冒名人问题，多方面的努力必不可少，在技术层面，一方面需要加强对开源代码的合理限制，从技术源头上减少非法利用的可能，另一方面还需要更强的反制技术，仅依靠人类经验识别或用户自觉打上“AI生成”标识并不足够，传播平台需要更强的识别AI深度伪造内容的技术，健全对AI深度伪造合成内容的审核、识别、惩罚机制。在法律层面，新技术带来新发展的同时也会带来新问题，针对AI技术发展带来的新问题，需要细化侵权认定标准和惩罚措施，降低维权成本，提高违法成本，加大对侵权行为的打击力度。对于每一个普通人而言，面对互联网上纷纷杂杂的声音，对内容保持怀疑并加以求证，或许才是我们抵御虚假信息的最后防线。
扬子晚报/紫牛新闻记者 沈昭 【编辑:刘湃】
