澳洲的 Apate 開發並營運 AI 機器人，讓與詐騙者的通話或訊息往來拖得更久。機器人會假扮受害者，消耗對方的時間，同時蒐集詐騙網站、匯款帳戶等資訊。
不掛斷詐騙電話，搶走對方的時間
遇到可疑電話，立刻掛斷。這是人類的安全做法，但 Apate 的 AI 扮演相反的角色。它不會上當，卻會表現出足以讓對方想繼續推銷的興趣，藉此延長對話。
它瞄準的是詐騙者原本可用來聯絡下一個目標的時間。這種做法不同於封鎖來電、保護使用者的措施，而是試圖拖慢詐騙者的作業。不過，延長對話所消耗的時間，並不能直接代表受害人數或損失減少了多少。
創辦人兼執行長 Dali Kaafar 表示，機器人與詐騙者通話超過兩小時並不罕見。機器人具備不同的個性、語言能力和人物設定；它們不只會接電話，有時也會表示稍後再談，然後掛斷。避免每次都採取相同應對方式，也是降低被識破為 AI 的方法之一。
既懷疑又願意聽下去的對話設計
對話的關鍵不在於假扮成什麼都相信的人。機器人會表現出懷疑，卻不會中斷談話，讓詐騙者覺得「還有說服的機會」。藉由在警戒與興趣之間切換，設計上能讓對方繼續說明。
WIRED 曾以詐騙者的身分測試公開展示版，花約 6 分鐘推銷虛構的加密貨幣投資，AI 始終沒有答應投資。測試者認為，它的回應節奏和對話流暢度相當自然。不過，這只是體驗展示版，並非衡量其實際能防止多少詐騙的測試。
從對話中蒐集詐騙網站與匯款帳戶
另一個目的是蒐集資訊。只要對方繼續推銷，誘導受害者前往的網址、匯款帳戶等詐騙所需資訊，就可能在對話中浮現。機器人不只浪費對方時間，也能將互動過程轉化為調查線索。
Kaafar 表示，系統規模約有 35 萬個機器人，蒐集到的資訊超過 25 萬筆。內容包括詐騙網站網址、用於資金轉移的帳戶，以及銀行相關資料等。這些數字由該公司提供，並非經過獨立查證的結果。
其活動範圍不只限於電話。據稱，機器人也會回覆文字訊息，並加入網路詐騙聊天室。銀行已採用這項服務，電信業者也提供支援。不過，提供的資料並未列出具體的採用機構，也沒有說明利用蒐集到的資訊封鎖了多少帳戶或網站。
用 AI 留住攻擊者，也能用於偽造系統
故意吸引攻擊者並觀察其行動，是網路防禦領域沿用已久的手法，代表性例子就是蜜罐。防禦者會架設看似真實的系統，藉此研究入侵者的手法，或消耗對方的時間。
蘇黎世聯邦理工學院博士研究生 Mark Vero 等人，正在研究結合大型語言模型的蜜罐，這類模型負責生成文字等內容。研究指出，與回應較容易預測的系統相比，攻擊用 AI 代理會在這類蜜罐中停留更久，也較少判定它是誘餌。
Apate 致力於生成像真人的對話；這項研究則是生成看似真實的系統回應。兩者的共同點是，不只利用 AI 偵測可疑行為，也讓 AI 直接參與與對方的互動。不過，這項研究的對象是攻擊者使用的 AI，不能直接等同於對人類詐騙者的成效。
長時間通話的成績，不等於減少受害的成效
評估這項措施，光看對話時間或機器人數量並不足夠。還必須分別確認它妨礙詐騙者作業的程度、蒐集到的資訊是否促成帳戶或網站遭到封鎖，以及最終受害情況是否有所減少。
如果銀行、電信業者、社群平台和執法機關能共享資訊，對話中取得的線索或許就能用於其他防詐措施。另一方面，詐騙者也會利用大量自動撥號和有組織的據點；單靠讓部分詐騙者耗在長時間通話上，不見得就能阻止整體詐騙活動。
提供的資料顯示了 Apate 的營運規模、蒐集資訊的筆數，以及長時間對話的案例，但沒有列出損失金額的降幅，也沒有數據說明詐騙成功率降低了多少。
コメント