让AI偷声无处遁形
□ 安素素
“大家好,我是你们的婵宝,今天有事请大家帮忙。婵妹就想着帮助妈妈,让家里的生活过得更好一点,同时把老家的土鸡蛋分享给粉丝们尝尝。”说这话带货的可不是奥运冠军全红婵,而是用AI仿冒全红婵声音的博主。
依托开源语音大模型,仅凭一段清晰的语音样本,每个人的声音都可被快速复刻。部分博主正是利用AI换声技术,偷名人声音发布虚假带货内容,甚至实施语音诈骗。据报道,AI仿冒全红婵声音带货土鸡蛋的视频中,商品链接显示售出4.7万件,不知有多少人是因为相信全红婵才下的单。
盗用名人声音,不仅侵犯他人声音权、肖像权,还可能因为生成的语音内容而损害当事人的名誉权。种种虚假人声带货、直播乱象,扰乱商业秩序,侵蚀网络生态,在无形中蛀蚀着社会信任的基石。
今天有名人遭遇偷声卖鸡蛋,明天很可能是普通人被偷声后把熟人坑个遍。每个人都是技术暴力的潜在受害者,构建数字防火墙、让AI偷声无处遁形刻不容缓。
据《北京晚报》