Apate, perusahaan asal Australia, mengembangkan dan mengoperasikan bot AI yang memperpanjang panggilan telepon dan percakapan pesan dengan penipu. Bot ini berpura-pura menjadi korban untuk menyita waktu penipu sekaligus mengumpulkan informasi seperti situs penipuan dan rekening tujuan transfer.
Jangan tutup telepon penipuan, rampas waktu penipu
Cara aman bagi manusia adalah segera menutup telepon yang mencurigakan. Namun, AI Apate menjalankan peran sebaliknya. Bot tidak menuruti permintaan penipu, tetapi menunjukkan cukup banyak ketertarikan agar mereka terus berusaha membujuk, sehingga percakapan berlangsung lebih lama.
Sasarannya adalah waktu yang seharusnya digunakan penipu untuk menghubungi korban berikutnya. Tidak seperti langkah perlindungan yang memblokir panggilan masuk, pendekatan ini berupaya menghambat pekerjaan pihak yang melancarkan penipuan. Namun, lamanya percakapan tidak serta-merta menunjukkan seberapa besar penurunan kerugian.
Pendiri sekaligus CEO Dali Kaafar mengatakan bahwa panggilan dengan bot terkadang berlangsung lebih dari dua jam. Bot-bot tersebut memiliki kepribadian, kemampuan bahasa, dan profil yang berbeda. Mereka tidak hanya menjawab telepon, tetapi kadang juga mengakhiri panggilan dengan mengatakan akan berbicara lagi nanti. Tidak selalu memberikan respons yang sama merupakan salah satu cara agar bot tidak mudah dikenali sebagai AI.
Merancang percakapan yang menunjukkan kecurigaan, tetapi tetap mendengarkan
Inti dialognya bukan berpura-pura menjadi orang yang percaya pada segala hal. Bot menunjukkan keraguan, tetapi tidak menghentikan percakapan, sehingga penipu merasa masih bisa membujuknya. Dengan berganti-ganti antara waspada dan tertarik, bot dirancang untuk membuat lawan bicara terus menjelaskan.
Saat WIRED mencoba demo publik dengan berpura-pura menjadi penipu, AI tidak tertarik berinvestasi meski diajak selama sekitar enam menit untuk menanamkan dana dalam investasi mata uang kripto fiktif. Dalam pengujian tersebut, jeda respons dan alur percakapan dinilai terasa alami. Namun, pengalaman ini berasal dari sebuah demo, bukan pengujian untuk mengukur seberapa efektif AI mencegah penipuan nyata.
Mengumpulkan situs penipuan dan rekening tujuan transfer dari percakapan
Tujuan lainnya adalah mengumpulkan informasi. Jika lawan bicara terus membujuk, percakapan dapat mengungkap informasi yang digunakan untuk menjalankan penipuan, seperti URL tujuan dan rekening untuk transfer. Dengan begitu, interaksi tersebut bukan hanya membuang waktu penipu, tetapi juga menjadi bahan penyelidikan.
Menurut Kaafar, skala operasinya mencakup sekitar 350.000 bot, dengan lebih dari 250.000 informasi terkumpul. Informasi tersebut meliputi URL situs penipuan, rekening yang digunakan untuk memindahkan dana, serta detail terkait perbankan. Angka-angka ini berasal dari perusahaan dan belum diverifikasi secara independen.
Aktivitasnya tidak terbatas pada panggilan telepon. Bot dikatakan merespons pesan teks dan menyusup ke grup obrolan penipuan daring. Layanannya digunakan oleh bank dan juga mendapat dukungan perusahaan telekomunikasi. Namun, materi yang tersedia tidak menyebutkan pengguna layanan secara spesifik atau jumlah rekening dan situs yang telah ditutup berkat informasi yang dikumpulkan.
AI yang menahan penyerang juga digunakan dalam sistem umpan palsu
Teknik memancing penyerang dengan sengaja lalu mengamati tindakannya telah lama digunakan dalam pertahanan siber. Salah satu contoh utamanya adalah honeypot. Sistem yang dibuat agar tampak asli ini digunakan untuk mempelajari metode penyusup atau menyita waktu mereka.
Mark Vero, peneliti doktoral di ETH Zurich, dan rekan-rekannya meneliti honeypot yang dilengkapi model bahasa besar untuk menangani tugas seperti menghasilkan teks. Dalam penelitian yang dipaparkan, agen AI penyerang bertahan lebih lama dan lebih jarang mengidentifikasi sistem sebagai umpan dibandingkan dengan sistem yang responsnya mudah diprediksi.
Apate membuat percakapan yang menyerupai percakapan manusia, sedangkan penelitian ini menghasilkan respons sistem yang tampak autentik. Kesamaannya adalah AI tidak hanya digunakan untuk mendeteksi perilaku mencurigakan, tetapi juga untuk berinteraksi langsung dengan lawan. Namun, penelitian tersebut berfokus pada AI yang menyerang dan tidak bisa disamakan begitu saja dengan efektivitasnya terhadap penipu manusia.
Rekor panggilan panjang tidak sama dengan bukti pengurangan kerugian
Untuk menilai efektivitas langkah ini, durasi percakapan dan jumlah bot saja tidak cukup. Perlu dinilai secara terpisah seberapa jauh pekerjaan penipu terhambat, apakah informasi yang dikumpulkan membantu menutup rekening atau situs, dan apakah kerugian pada akhirnya berkurang.
Jika bank, perusahaan telekomunikasi, penyedia media sosial, dan lembaga penegak hukum dapat berbagi informasi, petunjuk yang diperoleh dari percakapan berpotensi dimanfaatkan untuk langkah pencegahan lainnya. Di sisi lain, para penipu juga menggunakan panggilan otomatis dalam skala besar dan operasi terorganisasi. Karena itu, memancing sebagian penipu agar menghabiskan waktu berlama-lama di telepon belum tentu cukup untuk menghentikan aktivitas mereka secara keseluruhan.
Materi yang tersedia menunjukkan skala operasi Apate, jumlah informasi yang dikumpulkan, dan contoh dialog berdurasi panjang. Namun, tidak ada data mengenai persentase penurunan kerugian atau seberapa besar tingkat keberhasilan penipuan menurun.
コメント