AI深度伪造诈欺突破8.93亿美元 合成媒体侵蚀数位信任

那些推动爆红娱乐的同款生成式AI模型，如今助长了诈欺浪潮，2025年让受害人损失近十亿美元。

根据美国联邦调查局（FBI）年度报告，利用公众人物克隆脸孔制作的AI生成影片诈欺，在2025年让受害人损失超过8.93亿美元，其中投资诈骗为最大类别。这项技术已进步到一般人无法可靠分辨合成影片与真实影像的程度。

「人们开始连可验证的事件都产生怀疑，」达特茅斯学院数位鉴识专家兼电脑科学教授哈尼·法里德（Hany Farid）表示。「如果我们失去对现实共识，我们正进入一个危险的世界。」

FBI的2025年报告将8.93亿美元的损失归因于与AI相关的诈欺，其中投资骗局是单一最大类别。近期一个案例中，一则爆红的AI生成影片虚假描绘印度财政部长尼马拉·西塔拉曼（Nirmala Sitharaman）在脸书上背书某项诈欺性投资计画。新闻资讯局事实查核小组虽已破解该影片，但它已在广泛传播后才被揭穿。资安公司Bitdefender于8月1日通报，诈骗者现在正于Reddit投放广告，引导用户进入内嵌深度伪造背书影片的假新闻网站。

促成这类诈欺的工具已变成大众化商品。Google的Veo 3与Nano Banana模型让任何人都能取得高品质影片与影像生成能力，消除了过去会暴露伪造品的六根手指与乱码文字。财务风险正持续累积：随着侦测技术进步，骗术精密度也随之提升，形成诈骗者与资安产业之间的军备竞赛。

8.93亿美元的诈欺管线

深度伪造投资骗局的运作模式遵循可预测的套路。诈骗者锁定具有公信力的公众人物，蒐集现有的影片与音讯素材，再运用AI模型生成一段目标人物看似背书诈欺计画的新影片。内容经过精心设计以触发情绪反应——高报酬、低风险、快速致富——而熟悉的面孔让人跳过批判性思考。

多平台攻击策略已超越社群媒体动态的范畴。Bitdefender在8月1日的报告中详述诈骗者如何利用Reddit广告中的假新闻网站，打造出完整的骗局生态系。用户点击广告，进入设计专业的假新闻网站，随即看到一位受信任人物背书该计画的嵌入式深度伪造影片。每一层都增添了表面的可信度。

当娱乐与诈欺交汇

驱动诈欺浪潮的同一项技术，也正在重塑娱乐产业的样貌。AI生成的网红「Granny Spills」——由艾瑞克·苏雷兹（Eric Suerez）与亚当·瓦瑟斯坦（Adam Vaserstein）使用Google的Veo 3创作——在一个月内于Instagram吸引100万名追踪者。由卡梅隆-詹姆斯·威尔森（Cameron-James Wilson）创造数位模特儿Shudu，也已累积了大量真人追随者。这些角色并不掩饰自己的数位出身，但观众仍将他们视为真人般互动。

这种模糊界限也延伸到音乐领域。AI生成歌曲去年首度登上告示牌排行榜，促使法国串流服务Deezer打造合成音讯侦测器。Deezer扫描一名用户的音乐库，结果显示1%为AI生成内容——这个数字足以让任何人开始怀疑自己的音乐品味。

诈欺浪潮正带动侦测与身分保护服务的需求。Bitdefender等资安公司正扩大其AI侦测能力，而身分保护服务也因消费者寻求保障自身数位肖像而出现成长。对投资人而言，关键在于哪些公司能够建立可规模化且可靠的侦测系统——这是一项尚未获得解决的技术挑战。从事数位鉴识数十年的法里德表示，连专家都感到吃力：「我以此为业，我很擅长这件事，但它真的很难。」

本文仅供参考，不构成投资建议。