オーストラリアのApateは、詐欺師との通話やメッセージのやり取りを長引かせるAIボットを開発・運用しています。被害者を装って相手の時間を消費させながら、詐欺サイトや送金先などの情報を収集する仕組みです。
詐欺電話を切らずに相手の時間を奪う
怪しい電話はすぐに切る。それが人間にとっての安全策ですが、ApateのAIは逆の役割を担います。詐欺には応じず、それでも相手が勧誘を続けたくなる程度の関心を示し、会話を引き延ばします。
狙っているのは、詐欺師が次の相手に使うはずだった時間です。着信を遮断して利用者を守る対策とは異なり、詐欺を仕掛ける側の作業を滞らせようとする発想です。ただし、会話を長引かせた時間が、そのまま被害削減量を示すわけではありません。
創業者兼CEOのDali Kaafar氏は、ボットとの通話が2時間を超えることも珍しくないと説明しています。ボットには異なる性格や言語能力、人物設定があり、電話に出るだけでなく、後で話すと言って切る場合もあります。いつも同じ対応をしないことも、AIと見破られにくくする工夫の一つです。
疑うけれど話は聞くという会話設計
対話の肝は、何でも信じる人物を演じることではありません。疑いを見せながらも話を打ち切らず、詐欺師に「まだ説得できる」と思わせる余地を残します。警戒と関心の間を行き来することで、相手に説明を続けさせる設計です。
WIREDが詐欺師役として公開デモを試した際には、架空の暗号資産投資を約6分間勧めても、AIは投資に応じませんでした。検証では、応答の間合いや会話の流れが自然だったと評価されています。ただし、これはデモでの体験であり、実際の詐欺をどれだけ防げるかを測った試験ではありません。
会話から集める詐欺サイトと送金先
もう一つの目的は情報収集です。相手が勧誘を続ければ、誘導先のURLや振込先など、詐欺の実行に使う情報が会話に現れます。時間を浪費させるだけでなく、そのやり取りを調査の材料に変えます。
Kaafar氏が説明する規模は約35万体のボット、収集した情報は25万件超です。情報には詐欺サイトのURL、資金移動に使われる口座、銀行関連の詳細などが含まれます。これは同社側が示した数値であり、独立した検証結果ではありません。
活動範囲は電話に限りません。ボットはテキストメッセージに応答し、オンラインの詐欺チャットグループにも入り込むとされています。サービスは銀行で利用され、通信会社の支援も受けています。一方、提供資料には具体的な導入先や、収集情報を使って口座・サイトを停止した件数は示されていません。
攻撃者を引き留めるAIは偽のシステムにも
攻撃者をわざと引き寄せ、行動を観察する手法は、サイバー防御で以前から使われています。代表例がハニーポットです。本物に見せかけたシステムを用意し、侵入者の手口を調べたり、時間を使わせたりします。
チューリヒ工科大学の博士課程研究者Mark Vero氏らは、文章生成などを担う大規模言語モデルを組み込んだハニーポットを研究しています。紹介された研究では、応答が予測しやすい仕組みに比べ、攻撃を行うAIエージェントが長く関与し、おとりだと判定する割合も低くなりました。
Apateが人間らしい会話を作るのに対し、こちらは本物らしいシステムの応答を作ります。共通するのは、AIを単に不審な行動の検知に使うのではなく、相手とのやり取りそのものに使う点です。ただし、この研究は攻撃側のAIを対象としており、人間の詐欺師への効果と同一視はできません。
長電話の実績と被害削減の実績は別
この対策を評価するには、会話時間やボットの数だけでは足りません。相手の作業をどれだけ妨げたか、集めた情報が口座やサイトの停止につながったか、最終的に被害が減ったかを分けて確かめる必要があります。
銀行、通信会社、SNS事業者、捜査機関が情報を共有できれば、会話で得た手掛かりを別の対策につなげられる可能性があります。一方、詐欺側も大量の自動発信や組織的な拠点を使っており、一部の相手を長電話に引き込むだけで全体を止められるとは限りません。
提供資料が示しているのは、Apateの運用規模、収集情報の件数、長時間の対話事例です。被害額の減少率や、詐欺の成功率がどれだけ下がったかを示すデータは掲載されていません。
コメント