澳大利亚公司Apate开发并运营一种AI机器人，专门拖长与诈骗分子的通话和消息往来。机器人会假扮受害者，耗费对方的时间，同时收集诈骗网站、收款账户等信息。
不挂断诈骗电话，耗费对方时间
遇到可疑来电，立即挂断，这是人类保护自己的办法；Apate的AI却承担着相反的角色。它不会上当，但会表现出足以让对方继续推销的兴趣，从而拖长对话。
它瞄准的是诈骗分子原本要用来联系下一个目标的时间。与通过拦截来电保护用户的措施不同，这种做法试图拖慢诈骗一方的行动。不过，拖长对话所耗费的时间，并不能直接代表减少了多少诈骗损失。
创始人兼CEO Dali Kaafar表示，机器人与诈骗分子的通话超过两小时并不罕见。机器人有不同的性格、语言能力和人物设定；它们不仅会接电话，有时也会以稍后再聊为由挂断。行为不总是千篇一律，也是避免被识破为AI的一种办法。
对话设计：心存怀疑，但继续听下去
对话的关键不在于扮演一个什么都相信的人，而是在表现出怀疑的同时不结束谈话，让诈骗分子觉得“还有机会说服对方”。这种设计在警惕与兴趣之间转换，促使对方继续解释。
WIRED曾以诈骗分子的身份试用公开演示版。尽管对方用虚构的加密货币投资项目推销了约6分钟，AI仍未答应投资。测试者认为，AI的应答节奏和对话衔接都很自然。不过，这只是演示体验，并非衡量其实际防范诈骗效果的测试。
从对话中收集诈骗网站和收款账户信息
另一个目的是收集信息。如果对方继续推销，诈骗过程中使用的信息，如引导用户访问的网址或转账账户，就会出现在对话中。它不仅浪费对方的时间，还能将这段交流转化为调查线索。
Kaafar介绍称，机器人规模约为35万个，收集到的信息超过25万条。其中包括诈骗网站网址、用于资金转移的账户以及银行相关详情。这些数字由该公司提供，并非独立验证的结果。
其活动范围并不限于电话。据称，机器人会回复短信，也会混入网上的诈骗聊天群组。这项服务已被银行采用，并得到电信公司的支持。不过，现有资料没有列出具体的客户，也未说明有多少账户或网站因其收集的信息而被关停。
将攻击者引入圈套的AI也能用于虚假系统
故意引诱攻击者并观察其行为，是网络防御领域沿用已久的方法。典型例子是蜜罐：设置一个伪装成真实系统的诱饵，用来调查入侵者的手法或消耗其时间。
苏黎世联邦理工学院博士研究生Mark Vero等人正在研究一种融入大型语言模型的蜜罐，大型语言模型负责生成文本等内容。研究介绍称，与回应容易预测的机制相比，这种蜜罐能让AI攻击代理参与更长时间，而且它们将蜜罐判定为诱饵的比例也更低。
Apate致力于生成像真人一样的对话，而这项研究则致力于生成像真实系统一样的回应。二者的共同点是，不只是用AI检测可疑行为，而是让AI直接参与与对方的互动。不过，该研究针对的是攻击方AI，不能与对人类诈骗分子的效果相提并论。
长时间通话的成绩，不等于减少损失的成效
评估这类措施，光看对话时长或机器人数量还不够。还需要分别确认：它在多大程度上妨碍了对方的行动，收集的信息是否促成账户或网站被关停，以及最终是否减少了损失。
如果银行、电信公司、社交媒体平台和执法机构能够共享信息，对话中获得的线索就可能用于其他防范措施。另一方面，诈骗团伙也会采用大规模自动拨号和有组织的窝点，仅让部分诈骗分子陷入长时间通话，未必能遏制整体诈骗活动。
现有资料展示了Apate的运营规模、收集信息的数量以及长时间对话的案例，但没有提供诈骗损失下降比例或诈骗成功率降低幅度的数据。
コメント