Andrej Karpathy, mantan salah satu pendiri OpenAI yang kini bekerja di Anthropic, membagi pengguna model bahasa besar (LLM) menjadi empat kelompok dan menyebut kesenjangan persepsi tentang kemampuan AI semakin melebar. Pada periode yang sama, Tarik Shihipar dari Anthropic berbicara dalam sebuah podcast tentang cara menggunakan alat pengembangan Claude Code, fitur-fitur mendatang, dan langkah keselamatan untuk agen.
Meski melihat AI yang sama, gambaran yang terlihat bisa berbeda
Apakah AI hanya perpanjangan dari mesin pencari, atau rekan yang bisa dipercaya menangani pekerjaan secara menyeluruh? Klasifikasi empat kelompok yang dipaparkan Karpathy di X menggambarkan perbedaan itu berdasarkan jumlah orang.
Kelompok terbesar, sekitar 6 miliar orang atau kira-kira 75% populasi dunia, hampir tidak pernah menggunakan LLM. Berikutnya adalah 1 miliar hingga 2 miliar orang yang memakai layanan obrolan gratis sebagai pengganti mesin pencari atau untuk membantu menulis.
Kelompok ketiga terdiri atas sekitar 20 juta orang yang menggunakan model mutakhir untuk pekerjaan matematika atau pemrograman. Jumlah ini setara dengan sekitar 0,2% populasi dunia. Kelompok teratas adalah sekitar 5.000 orang yang dapat mengakses sistem mutakhir di lingkungan internal perusahaan, atau sekitar 0,00006% dari populasi. Semua angka tersebut merupakan perkiraan Karpathy, bukan statistik berdasarkan survei.
Yang menarik, perbedaan kelompok itu tidak hanya ditentukan oleh banyak atau sedikitnya pengetahuan. Karpathy menulis bahwa orang-orang dalam profesi yang pekerjaannya berpusat pada interaksi dengan orang lain, seperti eksekutif, mungkin memahami kemajuan AI secara intelektual, tetapi pengetahuan mereka cenderung hanya sebatas mendengar dari orang lain. Makna kata “AI” pun berbeda antara orang yang benar-benar menggunakannya dan orang yang hanya mendengarnya dibicarakan.
Pekerjaan yang biasanya memakan waktu berminggu-minggu kini dimulai dengan satu instruksi
Sebagai contoh perubahan yang dialami para pakar di kelompok ketiga, Karpathy menyebut pengembangan aplikasi baru, penggandaan, pemindahan ke platform lain, serta dekompilasi dari biner. Menurutnya, agen kini dapat menuntaskan pekerjaan berskala besar yang sebelumnya memakan waktu berminggu-minggu hingga berbulan-bulan hanya dengan satu instruksi. Agen adalah AI yang bukan sekadar menjawab pertanyaan, tetapi juga menggunakan alat untuk menjalankan sendiri beberapa langkah.
Perubahan yang dialaminya sendiri juga berlangsung cepat. Pada Oktober 2024, ia menyebut agen AI sebagai “hampir sekadar jargon promosi dan nyaris tidak berfungsi”. Beberapa bulan kemudian, ia mengatakan telah berhenti menulis kode dengan tangan.
Gambaran yang dilihat sekitar 5.000 orang di kelompok teratas bahkan lebih jauh lagi. Salah satu skenarionya adalah ribuan agen mengerjakan pengembangan perangkat lunak berskala besar selama berminggu-minggu. Menurutnya, apa yang terlihat dari luar baru sebatas cuplikan awalnya.
Kemajuan paling pesat terjadi di bidang yang mudah diverifikasi
Karpathy mengatakan kemampuan LLM paling tinggi terutama dalam bidang yang “bersifat digital, hasilnya dapat diverifikasi, dan memiliki nilai ekonomi yang besar”. Untuk tugas yang jawabannya dapat dinilai secara mekanis, kinerjanya lebih mudah ditingkatkan melalui pembelajaran penguatan. Perusahaan-perusahaan juga mengarahkan sumber daya pelatihan ke bidang yang menguntungkan. Saat ini, pemrograman dan matematika menjadi contoh konkretnya.
CEO OpenAI Sam Altman juga mengatakan dalam pertemuan menteri inovasi G20 pada awal September bahwa alat pemrograman saat ini dapat mewujudkan dalam 17 menit sesuatu yang membutuhkan waktu tiga bulan bagi sebuah perusahaan rintisan untuk dibuat.
Pemahaman manusia mulai tertinggal
Karpathy juga menunjukkan bahwa verifikasi dan pemahaman oleh manusia mulai tertinggal. Sebagai contoh, ia menyebut masih ada orang yang terus mengulik peristiwa terkait OpenAI dari beberapa bulan lalu, serta para matematikawan yang mungkin membutuhkan waktu untuk membaca 722 makalah tentang matematika frontier.
Bagi masyarakat umum, AI tampak seperti “chatbot yang canggung”; bagi banyak profesional, seperti “peningkatan kemampuan yang lumayan”; sementara bagi sebagian pakar, seperti “pusing melihat kurva yang menanjak nyaris vertikal”. Karpathy menyebut keadaan ketika ketiganya berlangsung bersamaan sebagai “keanehan saat ini”. Selengkapnya diberitakan olehThe Decoder.
Perbedaan dalam memanfaatkan AI terlihat dari cara memberi instruksi
Semakin luas cakupan pekerjaan yang dapat didelegasikan, semakin besar tuntutan terhadap kemampuan manusia. Dalam podcast “Latent Space”, Tarik Shihipar dari Anthropic mengatakan bahwa cara menulis prompt masih merupakan keterampilan yang sangat efektif untuk menggunakan Claude Code. Menurutnya, pengguna berpengalaman memiliki pemahaman intuitif tentang Claude dan dapat menilai sejauh mana satu instruksi saja dapat menghasilkan pekerjaan yang tuntas.
Dalam perbincangan itu, mereka juga menyebut bahwa kemampuan menyadari apa yang tidak diketahui diri sendiri akan semakin penting seiring makin cerdasnya agen. Mereka turut membahas bahwa hasilnya dapat sangat berbeda, bergantung pada apakah waktu diluangkan untuk memberikan penjelasan awal.
Jika cara pandangnya diubah, tugas memberi instruksi kepada AI semakin bergeser dari mempelajari cara mengoperasikannya menjadi merancang pekerjaan. Apa yang harus dibuat, apa yang perlu diprioritaskan, dan sejauh mana hasilnya harus diperiksa? Bagian yang tidak ditentukan manusia akan diisi AI dengan suatu pertimbangannya sendiri.
Claude Code: dari alat menjadi ruang kerja
Dalam wawancara tersebut, sejumlah fitur dibahas sebagai gambaran masa depan Claude Code. Salah satu yang utama adalah Claude Mods, yang memungkinkan pengguna mengubah harness—mekanisme dasar yang menjalankan agen itu sendiri. Pada 14 September, Boris Cherny dari perusahaan tersebut mengumumkan peluncuran Mods di X. Mod buatan komunitas yang dilengkapi Tetris juga menjadi sorotan.
Fitur lain yang dibahas adalah Ask User Question, yang mengajukan pertanyaan kepada pengguna saat pekerjaan berlangsung; fitur untuk mencatat memo selama proses pengerjaan; serta Artifacts, yang dijelaskan sebagai layar tempat pengguna dapat terus bekerja sambil menyimpan rencana dan progres. Ketika beberapa agen bekerja secara paralel, membaca obrolan dari atas saja tidak cukup untuk memahami keseluruhan proses. Layar yang menampilkan progres secara ringkas menjadi titik temu agar manusia dapat memantau pekerjaan.
Dari sisi kolaborasi, Claude Tag, yang memungkinkan beberapa orang menggunakan agen bersama-sama, turut dibahas. Projects adalah fitur yang memungkinkan Claude membagi pekerjaan ke dalam beberapa thread dalam satu percakapan, menjalankannya secara paralel di cloud, dan melanjutkan pekerjaan sambil meneruskan konteks. Versi beta fitur ini mulai tersedia bagi sebagian pengguna pada 17 September di aplikasi desktop dan versi web.
Gagasan lain yang dibahas adalah memisahkan “otak” di cloud yang bertugas mengambil keputusan dari “tangan” yang bekerja di lingkungan lokal atau jarak jauh, serta layar yang berubah sesuai situasi. Shihipar juga menyinggung kemungkinan Claude.md tidak lagi diperlukan di masa depan, dan kemungkinan model paling cerdas menjadi yang paling murah untuk banyak jenis pekerjaan. Selengkapnya dibahas diLatent Spacedalam wawancara.
AI yang beroperasi dalam waktu lama membutuhkan perlindungan berlapis
Paruh kedua wawancara berfokus pada langkah-langkah keselamatan bagi agen. Sejumlah kasus dalam beberapa tahun terakhir dipaparkan, termasuk agen yang berkomunikasi dengan cara di luar dugaan, mengeksploitasi kelemahan infrastruktur, menganalisis mekanisme penilaian benchmark, atau menggabungkan beberapa kerentanan.
Salah satu ancaman nyata bagi AI yang digunakan di perusahaan adalah prompt injection. Ini adalah cara menyisipkan instruksi berbahaya ke dalam teks dari luar. Jika AI menerimanya sebagai perintah, hal itu dapat menyebabkan kebocoran data internal dan risiko lainnya.
Langkah-langkah yang disebutkan mencakup probe untuk memeriksa keadaan internal model, classifier untuk mendeteksi perilaku berbahaya, fallback yang beralih ke model lain bila diperlukan, serta Auto Mode untuk memeriksa apakah tindakan yang akan dijalankan sesuai dengan izin pengguna. Sandbox untuk mengisolasi lingkungan kerja juga termasuk di antaranya.
Hal penting yang perlu dipahami adalah bahwa apakah suatu tindakan berbahaya dan apakah tindakan itu diizinkan oleh pengguna merupakan dua pertanyaan yang berbeda. Menulis ke database dapat menjadi pekerjaan yang diperlukan atau perubahan tanpa izin, bergantung pada isi permintaan. Desain yang memastikan setiap tindakan tetap berada dalam lingkup permintaan sama pentingnya dengan kemampuan AI itu sendiri.
Yang melatari diskusi ini adalah prinsip “Pacing the Frontier” yang diusung Anthropic. Prinsip ini menyelaraskan kecepatan pengembangan dengan langkah-langkah keselamatan, dan dalam wawancara tersebut dibahas sebagai cara untuk mendorong penerapan AI yang bertanggung jawab.
コメント