用AI装大爷大妈主动被骗？澳大利亚一家公司让AI和骗子聊了250万次，累计消耗了诈骗分子长达17年的时间。
听起来像段子，但就这么水灵灵发生了。这公司叫Apate，创始人达利·卡法尔，是麦考瑞大学的网络安全研究员。几年前家庭野餐时，他接到诈骗电话，没有挂断，反而装傻陪骗子聊了44分钟。卡法尔注意到，这44分钟至少让骗子没空诈骗其他人。但转念一想，自己的时间也搭进去了呀。
既然真人耗不起，能不能让AI代劳？这个念头落地成了科研项目，2024年正式拆分出公司，取名Apate，源自希腊神话里的欺骗女神，整个团队有20个人左右。
那这些AI到底是怎么把骗子耍得团团转的？
Apate部署了数千个AI代理，男女老少各个年龄的人设全覆盖，口音、性格、说话习惯还都不一样。骗子说要转账，AI满口答应；真到操作环节，立马开始“打太极”：哎呀银行卡找不到了、密码记混了、耳朵不好使听不清，翻来覆去反复问。
骗子舍不得丢了这个“准客户”，只能耐着性子一遍遍解释。最长能聊差不多一个小时，聊着聊着，对方的银行账号、加密钱包地址、恶意网站、冒充的机构信息，全被套了出来。
不过，光耗时间可不够啊，这生意该咋赚钱呢？Apate不做普通人生意，核心客户是银行、电信运营商和政府机构。AI套出来的诈骗线索，实时同步给这些机构，提前封堵拦截。澳洲TPG电信试点期间，转接了超28万通诈骗电话，诈骗流量检测准确率达98%；澳洲联邦银行把情报接入反诈系统，客户诈骗损失较峰值下降76%。不过银行也说了，这是多项防护措施共同作用的结果，不单单是Apate的功劳。
8月份，这家公司刚拿了800多万美元融资，合人民币差不多6000万元。说白了，它卖的不是陪聊，是能止损的反诈情报。
而在中国，同样的“魔法对轰”换了另一个战场。
最近短视频平台上批量冒出“AI小海”：清秀乖巧的少年人设，一口一个“姨姨妈妈”，哭诉单亲、缺钱、校园带货完不成任务，卖惨带货，把中老年女性引向高价橱窗。有老人信以为真，独自坐火车要去探望“小海”，最后是乘警发现异常劝了回去。
眼看跟长辈讲道理讲不通，年轻人直接换了个打法：用同一套AI工具，造“黑化版小海”。住豪宅、戴金链，翻脸就说自己根本不在乎那些姨姨妈妈，就是靠卖惨骗钱。19岁的大学生小舟做的第一条30秒视频里，“小海”自曝骗局、把“父亲”赶出门，成功让身边长辈停了手。
人设一崩，不少老人自己就寒心了，纷纷停止下单。目前多个涉事“AI小海”账号已被平台封禁、改名删视频，或悄悄关掉了商品橱窗。
两件事的攻防逻辑，底层其实是一回事：生成式AI的拟人能力，第一次让防守方也拿到了低成本、可规模化的工具。 过去骗子批量撒网，失败一百次都不亏，普通人输一次就伤筋动骨；现在AI把防守的成本也打了下来，攻防双方第一次站在了差不多的技术起跑线上。技术本身没有对错，用它害人就是镰刀，用它守护就是盾牌。
你觉得这种AI反向反诈的模式，在国内会普及开来吗？评论区聊聊。
编辑︱王冬芝 宋雨
责编丨李超
监制︱付天
本原创稿件版权归大象新闻所有。转载或合作，请联系：0371-65888889；邮箱：daxiangcaifu@126.com。
热门跟贴