AI合成技术被用于制作虚假广告，泰勒・斯威夫特声音被伪造

最近几周，美国著名歌手泰勒・斯威夫特的“代言广告”在Facebook等社交平台上频频出现，声称将为粉丝免费送出Le Creuset品牌的厨具套装。然而，Le Creuset公司却表示并未参与任何消费者赠品活动，揭示了这则广告的虚假本质。在这个案例中，骗子使用了AI技术合成了泰勒・斯威夫特的声音，并将其与Le Creuset的广告片段拼凑在一起。

骗子甚至利用合成的声音称呼泰勒・斯威夫特的粉丝为“Swifties”。一旦受害者被引导至虚假网站，就会被要求支付9.96美元的运费。然而，承诺的免费送出的厨具实际上是无法真正获得的。

据报道，在过去一年里，AI技术的重大进步使得制作未经名人本人授权的“数字替身”变得更加容易。美国布法罗大学“媒体取证实验室”的计算机科学教授Siwei Lyu表示，这起“深度伪造”诈骗活动很可能是利用文字转语音服务制作的。这类工具可以将脚本转译成声音，并使用唇语同步程序将其合成至视频片段。

Lyu称，如今获得这些工具非常容易，不到45分钟就可以制作出质量“不错”的视频。这引起了对AI合成技术可能带来的滥用和虚假广告制作的担忧。

此前，美国著名演员汤姆・汉克斯去年也声称自己肖像的AI版本被用于牙科计划的在线广告中，而没有经过他本人的同意。这表明虚假广告和数字替身的问题可能会在未来愈发突出。