在AI技术的加持下，视频和声音可以以假乱真，一根网线和屏幕组成的虚拟世界可能并不真实。
据悉，前段时间，国际巨星“泰勒·斯威夫特”（霉霉）出现在一段视频中，而她也用“真实的声音”带货。
“嘿，你好，我是泰勒·斯威夫特。由于包装错误，3000套Le Creuset（中文翻译为Cool Color）炊具无法在线下正常销售，因此在网上销售。”
她与Le Creuset合作促销，20名忠实粉丝将获得免费炊具套装。
然而，视频中的“霉霉”并不是真的Swift，而是人工智能“深度欺诈”技术合成了她的声音，并将其与她的图像和Le Creuset广告片段放在一起。
当受害者被引导到一个虚假网站时，他将被要求支付9.96美元的运费，而声称免费的厨具不会真的被送出。
Le Creuset和脸书母公司Meta对这一欺诈行为迅速做出了回应。
据福克斯新闻频道1月12日报道，目前，Meta表示该广告已被删除。
DeepFake是英语中“Deeplearning”和“Fake”的混合词，指的是利用深度学习技术生成合成图像、音频或视频的技术。
随着人工智能技术的兴起和相关工具使用门槛的降低，包含深度伪造技术的视频越来越多，新的应用场景日益开发。在过去的一年里，人工智能取得了巨大的进步，制作未经授权的真人数字副本变得更加容易，音频和视频欺骗特别容易识别。
美国商业改进局去年警告说“深度欺诈”正在增加。“请在购买商品之前花一点时间重新检查帖子和社交媒体账户。这些照片和视频很可能是假的。如果您购买了不合格或不存在的产品，您将损失金钱（通常比您想象的要多）。”
对于消费者来说，今后遇到这类明星带货的视频时，也要提高警惕。他们不应该因为带货视频而落入骗子的圈套。
