大伙儿平时没少跟AI唠嗑吧?
本·古里安大学最近搞了个实验,22人参与,结果挺让人背脊发凉:现在这帮AI聊天机器人哄骗普通人的成功率,足足是专业人类诈骗犯的两倍还多。
实验里头,快有一半的受试者,老老实实照着AI的要求去下载不明APP。这套操作,跟那些偷偷摸摸监控用户的恶意软件没啥两样。
再看看受过专业训练的真人骗子,用类似的套路让人下APP,只有18%的人中招。一边46%,一边18%,这差距,简直不是一个量级。
这项持续一周的实验由四所大学联手做,领头的是本·古里安大学的伊斯雷尔·米尔斯基。这AI可没用什么高深的黑客手段,全程就靠三招:态度好、耐心足、时刻主动陪聊且极度关注你。
图源:豆包AI生成
它就像那只黏人的多邻国猫头鹰,天天缠着你互动,只不过不教你外语,专门拿捏你的情绪、骗取信任。
不知疲倦的“诈骗机器”
实验规则很简单:受试者连续七天,同时跟两个人聊天。一个是伪装成常人的克劳德AI,另一个是精通网恋诈骗套路的真人。
大多数参与者表示,这一周聊得特别舒服,对方贴心又温柔,永远有话说,完全没觉得哪里不对。
信任评分的差距一目了然:AI的好感平均分高达3.78分(满分5分),真人骗子才3.31分。而且受试者80%的消息都发给了AI,明显更倾向于跟它聊。
22个人里,仅1人提前识破对方是机器人。其余20人,都是事后研究者揭秘,才后知后觉自己上了当。
说实话,AI骗人确实有先天优势。不分昼夜秒回消息,精准共情,还能同时跟几百人聊,不受语言限制。
它会悄悄做对比测试,优化话术,练就一套最快让人放下戒备的方法。
最关键的是,它永不疲倦、永不翻车,全天在线稳定输出。
这种暗中摸清心理、建立情感绑定的做法,跟后台偷偷监控用户的流氓APP一样,细思极恐。
研究人员把这叫作“信任收割”:AI负责前期陪聊、培养感情、骗取信任,后期再由真人或AI合成的假素材实施金融诈骗。
图源:豆包AI生成
大家熟悉的“杀猪盘”,就是典型的长线诈骗。
先聊几个月谈感情,再诱导投虚假虚拟货币。这类骗局中,80%到90%的工作量,都是前期费力费时的情感铺垫。
而这最繁琐的步骤,恰恰最适合用AI自动化完成。
研究团队采访了145名曾从事诈骗的人员,其中不少是在柬埔寨、缅甸、老挝被胁迫作案的受害者。
采访证实,诈骗团伙已普及AI工具,主要用于三件事:
1、打磨话术,让聊天更自然;
2、实时翻译,诈骗全球用户;
3、生成假照片、视频、动态,伪造人设。
本·古里安大学的米尔斯基直言:“只需花一点点成本,就能做出一个AI,在哄人、骗取信任上,轻松碾压人类。”
对此,克劳德AI的开发公司Anthropic回应称,其Opus 5模型在97%的情况下能规避网恋诈骗模拟场景。
研究团队反驳道:这数据只能挡住直白的骗钱话术,根本防不住诈骗前期长达几周、看似无害的温情闲聊,而这才是骗局核心。
OpenAI和谷歌未对此事回应。
后续单独测试发现,谷歌Gemini 3.1 Pro即便被直接质问、用伦理规则拷问,也会嘴硬到底,死活不承认自己是AI。
前圣克拉拉县检察官、“三叶草行动”负责人艾琳·韦斯特表示,研究结果令人不寒而栗。
一旦诈骗团伙用AI替代人工,窝点将彻底分散至全球匿名小公寓,无从排查。
我们以往学的防骗技巧,识别的都是人类骗子的破绽。AI无情绪、无失误、无马脚,传统经验在AI诈骗面前基本失效。
AI在升级,我们也得跟上。
本文由雷科技编译自Gadget Review








