L’australiana Apate sviluppa e gestisce bot basati sull’IA che prolungano le telefonate e gli scambi di messaggi con i truffatori. Il sistema si finge una vittima per far perdere tempo all’interlocutore, raccogliendo informazioni come siti fraudolenti e coordinate per i trasferimenti di denaro.
Non riagganciare le chiamate truffaldine per far perdere tempo all’interlocutore
La misura di sicurezza consigliata agli esseri umani è riagganciare subito quando una chiamata sembra sospetta. L’IA di Apate fa il contrario: non cede alla truffa, ma mostra abbastanza interesse da indurre l’interlocutore a continuare il tentativo di raggiro e prolunga la conversazione.
L’obiettivo è sottrarre ai truffatori il tempo che avrebbero impiegato per contattare la vittima successiva. A differenza delle misure che bloccano le chiamate in entrata per proteggere gli utenti, questa strategia mira a rallentare il lavoro di chi organizza le truffe. Il tempo trascorso a prolungare una conversazione, però, non corrisponde automaticamente alla riduzione dei danni.
Il fondatore e CEO Dali Kaafar spiega che non è raro che le chiamate con i bot durino più di due ore. I bot hanno personalità, competenze linguistiche e profili diversi: a volte rispondono al telefono, altre volte dicono che richiameranno più tardi e riagganciano. Anche il fatto di non comportarsi sempre allo stesso modo aiuta a non farsi riconoscere come IA.
Una conversazione progettata per mostrarsi diffidenti, ma continuare ad ascoltare
Il punto non è interpretare una persona che crede a qualsiasi cosa. Il bot manifesta dubbi, ma non interrompe la conversazione, lasciando al truffatore la speranza di poterlo ancora convincere. Il sistema è progettato per alternare cautela e interesse, inducendo l’interlocutore a continuare a spiegare.
Quando WIRED ha provato una demo pubblica fingendosi un truffatore, l’IA ha rifiutato di investire, nonostante per circa sei minuti le venisse proposta una falsa opportunità d’investimento in criptovalute. Durante la prova, i tempi delle risposte e l’andamento della conversazione sono stati giudicati naturali. Si tratta però di un’esperienza con una demo, non di un test che misuri quante truffe reali si riescano a prevenire.
Siti truffaldini e coordinate per i trasferimenti raccolti durante le conversazioni
Un altro obiettivo è raccogliere informazioni. Se l’interlocutore continua a portare avanti il tentativo di raggiro, nella conversazione possono emergere URL e coordinate bancarie, oltre ad altri dati usati per mettere in atto la truffa. Il sistema non si limita a far perdere tempo: trasforma lo scambio in materiale utile per le indagini.
Kaafar parla di circa 350.000 bot e di oltre 250.000 informazioni raccolte. Tra queste figurano URL di siti truffaldini, conti usati per trasferire denaro e dettagli bancari. Sono cifre fornite dall’azienda, non risultati verificati in modo indipendente.
L’attività non si limita alle telefonate. A quanto riferito, i bot rispondono ai messaggi di testo e si infiltrano anche nei gruppi di chat online usati per le truffe. Il servizio è utilizzato da banche e gode del sostegno di società di telecomunicazioni. I materiali forniti, tuttavia, non indicano clienti specifici né il numero di conti o siti disattivati grazie alle informazioni raccolte.
L’IA che trattiene gli aggressori anche nei sistemi-esca
Attirare intenzionalmente gli aggressori e osservarne il comportamento è una tecnica usata da tempo nella difesa informatica. Un esempio classico è l’honeypot: si prepara un sistema che sembra autentico per studiare le tecniche degli intrusi o far perdere loro tempo.
Mark Vero, ricercatore dottorando al Politecnico federale di Zurigo, e i suoi colleghi studiano honeypot che integrano modelli linguistici di grandi dimensioni, utilizzati tra l’altro per generare testi. Nello studio presentato, rispetto a sistemi con risposte più prevedibili, gli agenti di IA che conducono attacchi sono rimasti coinvolti più a lungo e hanno identificato meno spesso il sistema come un’esca.
Mentre Apate genera conversazioni simili a quelle umane, questo sistema produce risposte da sistema informatico che sembrano autentiche. Entrambi usano l’IA non solo per rilevare comportamenti sospetti, ma anche per interagire con l’interlocutore. Lo studio, tuttavia, riguarda le IA utilizzate per gli attacchi e i suoi risultati non possono essere equiparati all’efficacia contro i truffatori umani.
Le conversazioni lunghe non dimostrano che i danni siano diminuiti
Per valutare questa misura non bastano la durata delle conversazioni o il numero di bot. Occorre verificare separatamente quanto sia riuscita a intralciare il lavoro degli interlocutori, se le informazioni raccolte abbiano portato alla chiusura di conti o siti e se, alla fine, i danni siano diminuiti.
Se banche, società di telecomunicazioni, piattaforme social e forze dell’ordine potessero condividere informazioni, gli indizi raccolti durante le conversazioni potrebbero contribuire ad altre misure di contrasto. I truffatori, però, si servono anche di chiamate automatizzate su larga scala e di basi operative organizzate: trattenere a lungo al telefono alcuni di loro potrebbe non bastare a fermare il fenomeno nel suo complesso.
I materiali forniti indicano le dimensioni dell’attività di Apate, il numero di informazioni raccolte e alcuni casi di conversazioni prolungate. Non riportano dati sulla percentuale di riduzione delle perdite né su quanto sia diminuito il tasso di successo delle truffe.
コメント