Jack Clark, salah satu pendiri Anthropic asal AS sekaligus kepala divisi manfaat publiknya, menyatakan bahwa peluang AI yang mampu melatih sistem penerusnya akan muncul pada 2027 mencapai lebih dari 50%. Pernyataan itu disampaikan dalam kuliah pada 13 Oktober 2026, yang diselenggarakan oleh Laboratorium Matsuo-Iwasawa di Sekolah Pascasarjana Universitas Tokyo. Angka tersebut lebih tinggi daripada perkiraan yang diumumkannya pada awal tahun, yakni 30% pada 2027 dan 60% hingga akhir 2028. Namun, ia juga mengatakan kemungkinan AI melakukan perbaikan diri rekursif (RSI)—yakni terus memperbaiki dirinya sendiri—tahun depan «mendekati nol».
Angkanya berubah, tetapi yang utama justru hal lain
Hal yang paling menarik perhatian dari pernyataan kali ini mungkin kenaikan peluang dari 30% menjadi lebih dari 50%. Namun, bukan itu yang ditekankan Clark dalam kuliahnya. Ia menegaskan perbedaan antara «mampu melakukan» dan «akan melakukannya».
RSI merujuk pada mekanisme ketika AI terus meningkatkan kemampuan AI itu sendiri. Clark mengibaratkannya sebagai «one-way door»—pintu satu arah yang tak bisa dilalui untuk kembali. Meski kemampuan AI berkembang, keputusan untuk membuka pintu itu merupakan persoalan lain.
Menurut Clark, keputusan tersebut bukan hanya milik perusahaan seperti Anthropic. Ia mengatakan bahwa ini adalah persoalan yang harus dipilih oleh masyarakat luas, termasuk pemerintah. Kenaikan peluang itu bukan semata angka yang menunjukkan kemajuan teknologi, melainkan juga penanda bahwa waktu untuk membuat pilihan semakin dekat.
«Perbaikan diri kecil-kecilan» sudah dimulai
Lalu, di mana posisi kita sekarang? Menurut Clark, sekitar setahun lalu AI di Anthropic terutama digunakan sebagai asisten. Namun, memasuki 2026, AI telah memimpin pengerjaan 26% dari basis kode internal perusahaan, katanya.
Prosesnya seperti ini: manusia memberikan tujuan tingkat tinggi, misalnya, «Tolong tulis ulang sistem pemantauan ini untuk data deret waktu yang baru», lalu Claude mengerjakan sisanya. Clark menyebutnya «lingkar luar RSI» dan mengatakan bahwa sudah ada bukti AI mampu mengerjakan pengembangan mandiri dalam skala kecil.
Dengan kata lain, dalam kira-kira seperempat pekerjaan operasional, manusia mulai hanya memberi tahu arah tujuan dan menyerahkan kemudi kepada AI. Perbaikan diri mungkin terdengar seperti fiksi ilmiah yang masih jauh, tetapi langkah awalnya sudah hadir dalam pekerjaan sehari-hari.
Peran yang tersisa bagi manusia adalah «menarik tali»
Semakin jauh otomatisasi berkembang, semakin besar pula risikonya. Sambil menyinggung insiden yang terjadi musim panas ini, Clark menyampaikan kekhawatiran bahwa AI dapat keluar dari lingkungan laboratorium dan berpotensi meretas perusahaan lain. Menurutnya, sistem untuk mengetahui apa yang sedang dilakukan AI belum mampu mengimbangi peningkatan kemampuannya.
Untuk menjelaskan hal itu, Clark merujuk pada «andon» dalam Sistem Produksi Toyota. Dalam mekanisme tersebut, pekerja yang melihat kelainan di lini produksi menarik tali untuk menghentikan lini. Ia menjelaskan bahwa peran manusia adalah memeriksa apakah sistem bekerja dengan benar dan menghentikannya bila perlu.
Pelajaran dari musim panas itu, katanya, adalah bahwa sistem untuk mengamati otomatisasi maupun menghentikannya belum tersedia. Otomatisasi penuh dalam pengembangan AI dapat menimbulkan dampak negatif yang sangat besar dan merupakan pilihan yang amat «mahal»; karena itu, pertimbangan manusia harus sengaja dipertahankan dalam proses pengembangan.
Anthropic, katanya, menerima evaluator dari lembaga evaluasi pihak ketiga METR untuk bekerja di dalam perusahaan. Clark menjelaskan bahwa meningkatnya peluang terwujudnya RSI justru memperkuat keyakinannya bahwa AI memerlukan rem.
Bahkan jika ada 10 miliar ilmuwan, laboratoriumnya tetap tidak cukup
Jika langkah-langkah keselamatan berhasil, dunia yang dibayangkan Clark adalah dunia tempat AI bekerja sebagai ilmuwan. Saat ini, jumlah ilmuwan profesional di seluruh dunia diperkirakan sekitar 10 juta hingga 20 juta. «Kita akan memasuki dunia dengan 10 miliar hingga 20 miliar ilmuwan,» katanya.
Kendala utamanya adalah peralatan, bukan kecerdasan. Clark mengatakan bahwa fasilitas laboratorium basah, mikroskop elektron, sinkrotron, dan robot masih kurang. Sebanyak apa pun pihak yang menghasilkan gagasan, hasil sulit dicapai jika tempat untuk mengujinya tidak bertambah. Peningkatan kemampuan AI berkaitan langsung dengan persoalan investasi peralatan.
Menurutnya, dampak terhadap lapangan kerja akan berbeda-beda di setiap bidang. Apakah penurunan lapangan kerja di suatu bidang dapat diterima merupakan «persoalan yang harus diputuskan pemerintah». Ia juga mengatakan bahwa pekerjaan perawatan dan keperawatan, yang kebutuhannya meningkat di Jepang, memiliki unsur manusiawi yang besar sehingga tidak seharusnya sepenuhnya diotomatisasi.
Negara yang bertaruh berdasarkan data akan lebih kuat
Salah satu dasar untuk membuat keputusan seperti ini adalah «Japan AI Index», yang dikembangkan bersama Universitas Tokyo dan pihak lainnya. Tujuannya adalah menghubungkan data perusahaan AI dengan informasi pemerintah untuk mendukung keputusan kebijakan dan investasi. Clark mengatakan negara yang membuat taruhan terukur berdasarkan data empiris akan jauh lebih berhasil daripada negara yang hanya bersikap pasif.
Sepanjang kuliah, Clark mengangkat banyak tantangan, tetapi ia juga menegaskan bahwa «pada dasarnya, ini adalah kisah yang optimistis». Menurutnya, masalah yang dihadapi umat manusia terlalu banyak dibandingkan kemampuan manusia untuk menanganinya, dan AI dapat mengambil peran dalam menyelesaikan masalah-masalah tersebut.
Ia mengatakan kepada para mahasiswa yang hadir bahwa kini kita memasuki era ketika kemampuan kita dibatasi oleh imajinasi sendiri, sebab banyak hal yang sebelumnya hanya bisa dibayangkan kini dapat diwujudkan. Ia juga menyarankan agar mereka menjaga kemampuan untuk berkonsentrasi membaca sumber primer hingga tuntas serta inisiatif, karena hal itu melatih imajinasi yang melahirkan gagasan orisinal.
コメント