天作之合:人工智能如何将情感诈骗工业化
《Cyberpsychology, Behavior, and Social Networking》:The Perfect Match: How Artificial Intelligence Is Industrializing Romance Fraud
【字体:
大
中
小
】
时间:2026年08月28日
来源:Cyberpsychology, Behavior, and Social Networking 3.9
编辑推荐:
想象一位名叫简的女性。她已离婚,最近搬到了一座新城市,感到孤独,于是她在一款约会应用上注册了个人资料。几天之内,她收到了一条来自一位名叫亚当的男子的消息,他自称是一名丧偶的结构工程师,正在海外参与一个建筑项目。他的资料照片显示一位戴着安全帽、英俊的银发男子。他的消息体贴而耐心
想象一位名叫简的女性。她已离婚,最近搬到了一座新城市,感到孤独,于是她在一款约会应用上注册了个人资料。几天之内,她收到了一条来自一位名叫亚当的男子的消息,他自称是一名丧偶的结构工程师,正在海外参与一个建筑项目。他的资料照片显示一位戴着安全帽、英俊的银发男子。他的消息体贴而耐心,并且能记住她分享的细节:她女儿的名字、她对徒步旅行的喜爱,以及她中年重返婚恋市场时的焦虑。亚当建议他们转至WhatsApp继续交流。他们进行了几次视频通话。一个月内,他们已互相表白爱意。六周之内,他解释说正面临一场家庭紧急事件:他的弟弟需要做一场救命的手术,而他无法负担4万美元的手术费用。简毫不犹豫地将钱转了过去。随后,亚当消失了。
简的故事是虚构的,但导致这一切发生的过程并非如此。在线浪漫诈骗随着时间推移变得更加 sophisticated 且具有破坏性,无论在经济层面还是情感层面。由于人工智能的进步,这类诈骗也变得更加难以察觉且执行速度更快。骗子现在有能力以规模化方式与人们取得联系,利用大语言模型生成的脚本寻找目标。过去人们依赖的识别诈骗的方法——比如对头像进行反向图像搜索以确认对方是否真实,或者要求电话通话——如今已不再有效。深度伪造技术已经变得如此难以察觉,以至于对话另一端的人可能看起来是真实的——即便他们仅存在于网络上。
在线浪漫诈骗:一种建立在信任之上的犯罪
在线浪漫诈骗并非新现象:它最早出现在2008年左右,当时MySpace和Facebook等社交媒体平台开始进入主流。在这类犯罪中,犯罪分子假装在网上发起一段浪漫关系,并在数月内(通常为6至8个月)与受害者建立深厚的情感纽带。
1 随后,他们会编造悲情或绝望的故事——如意外的医疗费用或旅行途中个人证件被盗——向受害者索要钱财。在线浪漫诈骗对受害者造成"双重打击",因为他们既失去了金钱,也失去了一段刚刚萌芽的关系。从受害者的角度来看,这种情感依恋本身往往是真挚的,这说明了即便是虚构的关系,持续的数字互动也能催生有意义的人际纽带——甚至包括类似准社会性的依恋。这一事件序列的粗略框架——先建立情感纽带,然后要求越来越多的金钱——至今仍然成立,但其 sophistication 程度已经发生了演变。这类诈骗从来都不是粗鄙的金钱掠夺,而是一种复杂的心理操作,围绕对人类信任、依恋和希望能力的刻意利用而构建。
这种犯罪的经济规模令人震惊。2022年,美国联邦贸易委员会(FTC)收到近7万起浪漫诈骗报告,报告损失达13亿美元——每名受害者的中位损失为4400美元。
2 到了2023年,美国联邦调查局互联网犯罪投诉中心仅在美国境内就记录到约1.8万起浪漫诈骗投诉,损失达6.52亿美元
3——鉴于受害者往往因羞耻或尴尬而不愿报案,这一数字几乎可以肯定被低估了。从全球范围来看,纳斯达克2024年金融犯罪报告估计,浪漫诈骗及相关骗局的年度损失高达38亿美元。
4 在线浪漫诈骗并非仅发生在约会应用上的零星事件,而是当今最具财务破坏力的欺诈形式之一。
谁会成为目标,以及为什么
关于浪漫诈骗受害者的流行叙事往往倾向于一种特定的刻板印象:孤独、年迈且天真。然而,现有研究与此相悖。浪漫诈骗受害者往往处于中年,这比年轻人或老年人更为突出。
5 造成这一趋势的一个可能解释是,该年龄段的人通常拥有更多的可支配收入,或者与其他年龄组相比,他们更有可能在约会网站上寻找伴侣。受害者往往受过良好的教育,这表明虽然教育可能在抵御其他形式的欺诈方面具有保护作用,但在应对一种针对情感弱点的犯罪时效果则不那么显著。受害者往往更具冲动性、宜人性更低、更具信任倾向,并具有成瘾特质;这些人更有可能迅速遵从犯罪分子的要求,相信精心编造的、看似荒诞的故事,并且在被卷入叙事之后更难抽身。尽管执法部门介入,他们往往仍然难以接受自己被骗的事实。
5在适当的情形和时机下,任何人都可能成为浪漫诈骗的受害者。近年来,一种新型在线浪漫诈骗的出现不仅针对人们的情感需求,也针对其财务需求。传统的在线浪漫诈骗依赖虚构的个人危机来诱使受害者转账,属于预付费用型浪漫诈骗(AFRS)。相比之下,投资型浪漫诈骗(InvRS)——有时被称为"杀猪盘"——则遵循不同的财务逻辑。
6 在这类骗局中,关系仍然通过情感培养来建立,但财务操纵以投资建议的形式出现,而非危机援助。骗子将自己塑造为财务成功人士,提及某个能带来惊人回报的加密货币或交易平台,并逐步引导受害者将资金投入一个看似合法的投资账户。金额不断攀升,直到受害者试图提取资金,届时骗子便消失不见。美国的投资欺诈损失从2020年的3.36亿美元飙升至2022年的33亿美元,其中很大一部分归因于"杀猪盘"骗局。
7尽管运作方式不同,AFRS和InvRS共享一个关键的心理架构:它们一开始就让受害者感到被看见、被珍视和被独特地理解。由此产生的财务剥削建立在一个经过精心工程化的情感基础之上,使受害者相信拒绝援助将构成对一段真实纽带的背叛。这一人为制造的真实如今因人工智能技术的进步而被深刻放大,使得两种欺骗方案都越来越难以被察觉。
AI如何让不可察觉之事物规模化
一名人类骗子同时只能维持有限数量的浪漫关系,但在数字时代情况已然不同。生成式AI为犯罪网络提供了工业规模实施浪漫诈骗的工具,其心理 sophistication 程度使传统的检测策略日益不可靠。在一项研究中,由大语言模型驱动的诈骗智能体被发现比人类操作员更能赢得参与者的信任和遵从:符合率分别为46%和18%。
8AI已系统性地消除了那些曾经使数字素养较高的人能够识别诈骗消息的特征。语法和拼写错误已被消除,回复时间也经过校准以感觉自然而非即时或机械。骗子现在可以训练AI智能体学习浪漫沟通方式,让它们向数千人发送消息以寻找潜在受害者,而当代AI比以往任何时候都更聪明:它能记住个人细节、引用早先的对话内容,并根据情感线索调整语气。此外,深度伪造技术可以创建令人信服的虚假视频通话、合成社交媒体个人资料、可信的职业背景,甚至虚构的社会历史。据报道,Meta仅在2024年就删除了数十亿个虚假账户,这一数字既说明了问题的规模,也暴露了平台在防止这些账户扎根方面的局限性。
9国际犯罪网络——如西非和东南亚的那些——已将AI的能力整合进工业化运营中:AI负责早期接触阶段的工作——初步联系、维持人设和情感对话升级——而人类操作员则在需要实时说服的时刻介入,尤其是在涉及财务请求时。
9 大语言模型无需做到与人类无法区分就能有效运作——它们只需要足够逼真,足以启动并维持一段关系。
在线浪漫诈骗的后果非常真实。受害者失去了金钱和一段关系——尽管这段关系是虚构的,但感觉起来却非常真实。研究者用"双重打击"一词来描述这种双重损失。受害者描述的感受类似于丧亲之痛:震惊、否认、愤怒,以及长期难以接受欺骗的现实。
10 由于这段关系建立在受害者自身的希望以及他们自由分享的个人信息之上,背叛因此多了一层伤害。受害者甚至可能表现出创伤后应激障碍、抑郁和自杀意念:已有青少年因AI赋能的性勒索而自杀身亡。
11许多受害者的故事并不会在失去金钱之后结束。他们必须继续与这种痛苦共处并学会应对:失去伴侣之痛、羞耻感,甚至是犯罪分子声称能帮忙追回损失资金而收取费用的额外骗局风险。在AI时代,没有一种始终可靠的方法来识别这些骗子——每一次试图"欺骗"A I的尝试,都将催生技术上的适应或进步,使其输出显得越来越真实。防范浪漫诈骗最可靠的保护仍然是最简单的方法:永远不要向你未曾见过的人发送金钱或财务信息,无论对方让你感到多么情感亲密。联邦贸易委员会建议对任何头像进行反向图像搜索作为基本的尽职调查步骤(尽管AI使这一步骤的可靠性有所降低),并建议将任何试图将沟通转移到平台之外——如WhatsApp、Telegram或其他私密消息服务——的人视为可疑对象。
浪漫诈骗是一种毁灭性的犯罪,其根源在于犯罪分子愿意利用我们对陪伴的需求。AI改变了这种弱点被发现和利用的速度、规模和隐蔽性。随着AI继续重塑在线互动,数字素养不能再仅仅聚焦于保护密码或识别钓鱼邮件。它还必须帮助个人识别通过越来越逼真的虚假身份实施的心理操纵。理解信任本身如何可以被工程化设计,可能成为未来十年网络心理学的核心挑战之一。
Brenda K. Wiederhold
主编
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号