La australiana Apate desarrolla y opera bots de IA que alargan las llamadas y los intercambios de mensajes con estafadores. El sistema se hace pasar por una víctima para hacerles perder el tiempo mientras recopila información sobre sitios web fraudulentos o destinatarios de transferencias.
No cuelga las llamadas fraudulentas: hace perder el tiempo a quien está al otro lado
Ante una llamada sospechosa, lo más seguro para una persona es colgar enseguida. La IA de Apate, en cambio, desempeña el papel opuesto. No accede a las peticiones de los estafadores, pero muestra el interés justo para que quieran seguir intentando convencerla y alarga la conversación.
El objetivo es ocupar el tiempo que los estafadores habrían dedicado a su siguiente víctima. A diferencia de las medidas que protegen a los usuarios bloqueando llamadas, la idea es entorpecer el trabajo de quienes perpetran las estafas. Sin embargo, el tiempo que se prolonga una conversación no equivale directamente a una reducción de las pérdidas.
Dali Kaafar, fundador y consejero delegado, explica que no es raro que las llamadas con los bots superen las dos horas. Los bots tienen distintas personalidades, capacidades lingüísticas y perfiles; a veces contestan al teléfono y otras dicen que hablarán más tarde antes de colgar. No responder siempre de la misma manera es otra de las estrategias para que sea más difícil reconocer que se trata de una IA.
Conversaciones diseñadas para escuchar con cautela
La clave del diálogo no es interpretar a alguien que se cree todo. El bot muestra sus dudas, pero no pone fin a la conversación y deja margen para que el estafador piense que «todavía puede convencerle». El diseño hace que la otra persona siga explicándose, alternando entre la cautela y el interés.
Cuando WIRED probó una demostración pública interpretando el papel de un estafador, la IA rechazó una propuesta ficticia de inversión en criptomonedas que duró unos seis minutos. En la prueba se consideró natural el ritmo de las respuestas y el desarrollo de la conversación. No obstante, fue una experiencia en una demostración, no un ensayo para medir hasta qué punto puede prevenir estafas reales.
Sitios fraudulentos y destinatarios de transferencias, recopilados durante las conversaciones
El otro objetivo es recopilar información. Si la otra persona sigue con el intento de captación, en la conversación pueden aparecer datos que se utilizan para perpetrar la estafa, como la URL a la que quieren dirigir a la víctima o los datos de la cuenta bancaria de destino. Así, además de hacerles perder el tiempo, el sistema convierte el intercambio en material para una investigación.
Kaafar habla de una escala de unos 350.000 bots y más de 250.000 datos recopilados. Entre ellos hay URL de sitios fraudulentos, cuentas utilizadas para mover fondos y datos bancarios. Son cifras facilitadas por la propia empresa, no resultados de una verificación independiente.
La actividad no se limita a las llamadas. Según la empresa, los bots responden a mensajes de texto y también se infiltran en grupos de chat fraudulentos en internet. El servicio se utiliza en bancos y cuenta con el apoyo de empresas de telecomunicaciones. Sin embargo, el material proporcionado no indica qué entidades concretas lo han implantado ni cuántas cuentas o sitios se han cerrado gracias a la información recopilada.
La IA que retiene a los atacantes también se aplica a sistemas falsos
La técnica de atraer deliberadamente a los atacantes para observar su comportamiento lleva tiempo utilizándose en ciberdefensa. Un ejemplo destacado son los honeypots: sistemas que parecen auténticos y se preparan para estudiar las técnicas de quienes se infiltran o hacerles perder el tiempo.
Mark Vero, investigador doctoral de la Escuela Politécnica Federal de Zúrich, y sus colegas estudian honeypots que incorporan grandes modelos de lenguaje, encargados, entre otras cosas, de generar texto. En el estudio presentado, los agentes de IA atacantes interactuaron durante más tiempo con el sistema que con otros cuyas respuestas eran más predecibles y, además, fue menos probable que lo identificaran como un señuelo.
Apate genera conversaciones que parecen humanas; este otro sistema, respuestas que hacen parecer auténtico al sistema. Ambos enfoques comparten el uso de la IA no solo para detectar comportamientos sospechosos, sino también para interactuar con la otra parte. Sin embargo, el estudio se centra en IA atacante, por lo que sus resultados no pueden equipararse a la eficacia frente a estafadores humanos.
Los resultados de las llamadas largas no equivalen a una reducción de las pérdidas
Para evaluar esta medida no bastan la duración de las conversaciones ni el número de bots. Hay que comprobar por separado cuánto entorpecen el trabajo de la otra parte, si la información recopilada conduce al cierre de cuentas o sitios y si, en última instancia, disminuyen las pérdidas.
Si bancos, empresas de telecomunicaciones, redes sociales y fuerzas del orden pudieran compartir información, las pistas obtenidas en las conversaciones podrían servir para adoptar otras medidas. Por otro lado, quienes estafan también recurren a sistemas de llamadas automatizadas a gran escala y a centros organizados; mantener al teléfono a algunos estafadores no necesariamente basta para detener el fenómeno en su conjunto.
El material proporcionado da cuenta de la escala operativa de Apate, el número de datos recopilados y algunos casos de conversaciones prolongadas. No incluye datos sobre el porcentaje de reducción de las pérdidas económicas ni sobre cuánto ha disminuido la tasa de éxito de las estafas.
コメント