最近,纽约时报一则深度报道撕开了AI换脸技术的灰色产业链——仅需一张照片和对口型软件下载,普通人就能被合成任何发言视频。这背后是2023年全球数字身份欺诈激增217%的残酷现实(来源:Javelin Strategy研究报告1)。
上个月广东警方破获的跨境诈骗案中,犯罪分子利用对口型软件下载生成的领导讲话视频,三天内诈骗企业财务人员达860万元。腾讯安全实验室检测数据显示,这类伪造视频的识别错误率已从2021年的42%降至如今的11%2。

斯坦福大学人机交互团队做过经典实验:当受试者观看真假混合的TED演讲时,仅有29%的人能准确识别对口型软件下载制作的视频(2022年Nature子刊3)。更可怕的是,这类软件在暗网的日交易量突破2000次,黑产定价仅需19美元/次。
不过技术始终是双刃剑。去年日本虚拟偶像绊爱通过对口型软件下载实现多语言直播,单场观众增长380%;奈飞公司则用该技术为鱿鱼游戏制作了32种语言版本,节省了78%的配音成本(Variety杂志2023年报4)。
在这场AI引发的认知革命中,我们或许该记住图灵奖得主Yoshua Bengio的警告:当哪个奇迹手游好玩成为热搜时,可能有上万人在用对口型软件伪造游戏宣传视频——这提醒着我们:每一次技术狂欢都暗含代价。