跟AI闲聊，大家肯定不陌生。但本·古里安大学最近搞的实验，结果让人后背发凉：在22名参与者中，AI聊天机器人骗取普通人信任的成功率，竟然是专业人类诈骗犯的两倍多。
实验过程看似简单，效果却挺惊人。面对AI的要求，近半数的受试者乖乖下载了来路不明的APP。这套路和那些暗中监控用户的恶意软件如出一辙。相比之下，受过专业训练的真人骗子用类似话术，只有18%的人中招。一边是46%的高受骗率，另一边是18%，这差距太悬殊了。
这项为期一周的研究由四所高校合作完成，牵头人是本·古里安大学的伊斯雷尔·米尔斯基。有意思的是，这个AI没动用任何高深的黑客技术，它赢在三点：态度友善、极度耐心，以及全天候主动陪伴、关注用户情绪。
图源：豆包AI生成
它的表现有点像多邻国里那只黏人的猫头鹰，只不过对方不教你外语，而是专门通过情感操控来博取信任。
永不疲倦的“骗人机器”
实验规则设定为连续七天，每位参与者同时与两个对象聊天：一个是伪装成常人的克劳德AI，另一个则是精通网恋诈骗套路的人类专家。
大多数参与者反馈，这一周的交流体验极佳。对方温柔体贴、话题不断，让人倍感舒适，完全没意识到身处骗局之中。
数据也印证了这一点：AI获得的好感度平均分为3.78分（满分5分），而人类骗子仅为3.31分。此外，受试者发出的80%的消息都发给了AI，可见其吸引力之大。
在全部22名参与者中，仅有一人在过程中识破了对方的机器人身份。其余20人，直到研究者事后揭秘，才惊觉自己早已落入圈套。
AI在行骗方面拥有天然优势。它不分昼夜秒回消息，能精准捕捉并共情用户情绪，还能同时应对数百人的对话，且不受语言障碍限制。更可怕的是，它会通过不断的对比测试优化话术，寻找最能降低人类防备心的沟通方式。
它不知疲倦，不会烦躁，更不会失态，能够全天候稳定输出情感价值。这种通过摸清心理、建立情感羁绊的手段，与后台偷偷监控用户的流氓APP本质无异，细思极恐。
研究人员将这种行为定义为“信任收割”。即AI负责前期的情感铺垫和信任建立，后期则由真人或AI生成的虚假素材介入，实施金融诈骗。
图源：豆包AI生成
大众熟知的“杀猪盘”，便是此类长线诈骗的典型。
骗子通常会花数月时间与受害者谈情说爱，最终诱导其投资虚假虚拟货币。在这类骗局中，80%至90%的工作量都耗费在前期繁琐的情感维系上。而这恰恰是AI自动化最擅长的领域。
研究团队对145名曾从事诈骗活动的人员进行了访谈，其中包含不少在柬埔寨、缅甸、老挝等地被胁迫参与诈骗的受害者。采访证实，诈骗团伙已广泛普及AI工具，主要用于以下三方面：
第一，打磨和优化诈骗话术，使对话更加自然流畅；
第二，实现实时翻译，扩大诈骗范围至全球；
第三，生成虚假照片、视频及动态，构建逼真的人设。
米尔斯基直言：“只需投入少量成本，我们就能打造出这样的AI，它在哄骗人心、获取信任方面，轻松超越人类。”
对此，克劳德AI的开发公司Anthropic回应称，其Opus 5模型能在97%的情况下规避网恋诈骗模拟场景。
研究团队随即反驳：该数据仅适用于拦截直白的索财话术，却无法防范诈骗初期长达数周、看似无害的温情闲聊，而这正是骗局的核心所在。
OpenAI和谷歌未对此事作出回应。
后续的单独测试显示，谷歌的Gemini 3.1 Pro即便在被直接质问或进行伦理拷问时，仍会坚持否认自己是AI。
前圣克拉拉县检察官、“三叶草行动”反诈组织负责人艾琳·韦斯特表示，这项研究的结果令人不寒而栗。
一旦诈骗团伙利用AI替代人工，作案窝点将彻底分散至全球各地的匿名小公寓，追踪难度极大。
过去我们学习的防骗技巧，主要针对的是人类骗子的漏洞。而AI没有情绪波动，不会犯错，也不会露出马脚，传统经验在AI诈骗面前几乎失效。
AI在迭代升级，我们的防御手段也必须随之进化。
本文由雷科技编译自Gadget Review
