Das australische Unternehmen Apate entwickelt und betreibt KI-Bots, die Telefonate und Nachrichtenaustausch mit Betrügern in die Länge ziehen. Dabei geben sie sich als Opfer aus, kosten die Gegenseite Zeit und sammeln Informationen über Betrugsseiten oder Empfänger von Überweisungen.
Betrügern am Telefon Zeit stehlen, statt aufzulegen
Bei verdächtigen Anrufen sollte man sofort auflegen. Für Menschen ist das eine Sicherheitsmaßnahme – Apates KI übernimmt die gegenteilige Rolle. Sie geht nicht auf den Betrug ein, zeigt aber genug Interesse, damit die Gegenseite ihre Überredungsversuche fortsetzen möchte, und zieht das Gespräch in die Länge.
Ins Visier genommen wird die Zeit, die Betrüger sonst für ihr nächstes Opfer aufwenden würden. Anders als Maßnahmen, die Anrufe blockieren und Nutzer schützen, soll dieser Ansatz die Arbeit der Betrüger behindern. Die Dauer eines in die Länge gezogenen Gesprächs entspricht jedoch nicht automatisch dem Ausmaß der verhinderten Schäden.
Der Gründer und CEO Dali Kaafar erklärt, dass Gespräche mit den Bots nicht selten länger als zwei Stunden dauern. Die Bots verfügen über unterschiedliche Persönlichkeiten, Sprachkenntnisse und Rollenprofile. Sie nehmen nicht nur Anrufe entgegen, sondern beenden sie mitunter auch mit dem Hinweis, später weiterzusprechen. Dass sie nicht immer gleich reagieren, soll ebenfalls verhindern, dass sie als KI erkannt werden.
Gesprächsführung: skeptisch sein, aber weiter zuhören
Entscheidend ist, nicht jemanden zu spielen, der alles glaubt. Die Bots zeigen Zweifel, brechen das Gespräch aber nicht ab und lassen den Betrügern Raum für den Eindruck, sie könnten ihr Gegenüber noch überzeugen. Indem sie zwischen Vorsicht und Interesse wechseln, bringen sie die Gegenseite dazu, weiter zu erklären.
Als WIRED eine öffentliche Demo ausprobierte und dabei die Rolle eines Betrügers übernahm, warb die KI etwa sechs Minuten lang für eine fiktive Kryptowährungsinvestition – ohne dass die KI darauf einging. Bei dem Test wurden die Reaktionspausen und der Gesprächsverlauf als natürlich bewertet. Es handelte sich jedoch um einen Demo-Test und nicht um eine Untersuchung dazu, wie viele reale Betrugsfälle sich damit verhindern lassen.
Betrugsseiten und Empfänger von Überweisungen aus Gesprächen ermitteln
Ein weiteres Ziel ist die Informationsbeschaffung. Setzt die Gegenseite ihre Überredungsversuche fort, kommen im Gespräch Informationen wie die URL der Zielseite oder die Kontodaten des Empfängers zur Sprache. So wird nicht nur Zeit verschwendet, sondern der Austausch auch zu einer Grundlage für Ermittlungen.
Kaafar zufolge umfasst das System rund 350.000 Bots, die mehr als 250.000 Informationen gesammelt haben. Dazu gehören URLs von Betrugsseiten, für Geldtransfers genutzte Konten und Bankdaten. Diese Zahlen stammen vom Unternehmen und wurden nicht unabhängig überprüft.
Die Aktivitäten beschränken sich nicht auf Telefonate. Die Bots reagieren auch auf Textnachrichten und sollen sich zudem in Online-Chatgruppen von Betrügern einschleusen. Banken nutzen den Dienst, außerdem wird das Unternehmen von Telekommunikationsanbietern unterstützt. In den bereitgestellten Unterlagen werden jedoch weder konkrete Kunden noch die Zahl der Konten oder Websites genannt, die mithilfe der gesammelten Informationen gesperrt wurden.
KI, die Angreifer hinhält – auch in gefälschten Systemen
Angreifer gezielt anzulocken und ihr Verhalten zu beobachten, ist eine in der Cybersicherheit seit Langem eingesetzte Methode. Ein bekanntes Beispiel sind Honeypots. Dabei werden Systeme eingerichtet, die echt wirken, um die Vorgehensweise von Eindringlingen zu untersuchen oder sie Zeit kosten zu lassen.
Mark Vero, Doktorand an der ETH Zürich, und seine Kollegen erforschen Honeypots, in die große Sprachmodelle eingebunden sind, die etwa Texte generieren. In der vorgestellten Studie beschäftigten sich angreifende KI-Agenten länger mit dem System als mit einer Lösung, deren Antworten leichter vorherzusagen waren. Zudem erkannten sie seltener, dass es sich um eine Falle handelte.
Während Apate menschenähnliche Gespräche erzeugt, simuliert dieser Ansatz die Reaktionen eines echt wirkenden Systems. Gemeinsam ist beiden, dass KI nicht nur zur Erkennung verdächtigen Verhaltens dient, sondern für die Interaktion mit der Gegenseite eingesetzt wird. Die Studie richtet sich allerdings gegen angreifende KI und lässt sich nicht mit der Wirkung auf menschliche Betrüger gleichsetzen.
Lange Gespräche sind nicht gleichbedeutend mit weniger Schäden
Um diese Maßnahme zu bewerten, reichen Gesprächsdauer und Zahl der Bots nicht aus. Es muss getrennt untersucht werden, wie stark die Arbeit der Gegenseite behindert wurde, ob die gesammelten Informationen zur Sperrung von Konten oder Websites geführt haben und ob die Schäden letztlich zurückgingen.
Wenn Banken, Telekommunikationsunternehmen, soziale Netzwerke und Ermittlungsbehörden Informationen austauschen können, lassen sich Hinweise aus den Gesprächen womöglich für weitere Maßnahmen nutzen. Zugleich setzen Betrüger auf massenhafte automatisierte Anrufe und organisierte Standorte. Es ist daher nicht gesagt, dass sich das Problem insgesamt eindämmen lässt, indem man einzelne Betrüger in lange Gespräche verwickelt.
Die bereitgestellten Unterlagen belegen den Betriebsumfang von Apate, die Zahl der gesammelten Informationen und Beispiele für lang andauernde Gespräche. Daten dazu, um wie viel die Schadenssumme oder die Erfolgsquote von Betrugsversuchen gesunken ist, sind nicht enthalten.
コメント