AI उपयोगकर्ताओं के वर्ग और सुरक्षा उपाय—बड़े भाषा मॉडल के इस्तेमाल की वास्तविकता और चुनौतियाँ

OpenAI के पूर्व सह-संस्थापक और अब Anthropic से जुड़े Andrej Karpathy ने बड़े भाषा मॉडल (LLM) के उपयोगकर्ताओं को 4 वर्गों में बाँटते हुए कहा कि AI की क्षमताओं को लेकर लोगों की समझ के बीच अंतर बढ़ रहा है। इसी अवधि में Anthropic के Tariq Shihipar ने पॉडकास्ट में डेवलपमेंट टूल Claude Code के इस्तेमाल, उसकी आगामी सुविधाओं और एजेंटों की सुरक्षा के उपायों पर बात की।

एक ही AI को देखने पर भी लोगों को अलग-अलग तस्वीर दिखाई देती है

क्या AI महज़ खोज का अगला रूप है, या फिर ऐसा साथी जिसे पूरा काम सौंपा जा सकता है? Karpathy ने X पर जो 4-वर्गीय वर्गीकरण पेश किया, वह इस अंतर को लोगों की संख्या के रूप में दिखाता है।

सबसे बड़ा वर्ग उन लगभग 6 अरब लोगों का है जिन्होंने LLM का लगभग इस्तेमाल ही नहीं किया है। यह दुनिया की आबादी का लगभग 75% है। इसके बाद 1 अरब से 2 अरब लोग आते हैं, जो मुफ़्त चैट सेवाओं का इस्तेमाल खोज के विकल्प के रूप में या लेखन में मदद के लिए करते हैं।

तीसरे वर्ग में गणित या प्रोग्रामिंग के काम में अत्याधुनिक मॉडल इस्तेमाल करने वाले लगभग 20 मिलियन लोग हैं। यह दुनिया की आबादी का लगभग 0.2% है। सबसे ऊपरी वर्ग में वे लगभग 5,000 लोग हैं जिन्हें अपनी संस्था के अत्याधुनिक सिस्टम तक पहुँच है—यानी आबादी का लगभग 0.00006%। ये सभी Karpathy के अनुमान हैं, सर्वेक्षण पर आधारित आँकड़े नहीं।

दिलचस्प बात यह है कि वर्गों का अंतर सिर्फ़ ज्ञान के स्तर से तय नहीं होता। Karpathy लिखते हैं कि जिन पेशों में लोगों से बातचीत काम का मुख्य हिस्सा होती है—जैसे प्रबंधन—उनमें लोग AI की प्रगति को बौद्धिक रूप से समझते तो हैं, लेकिन उनकी जानकारी अक्सर सुनी-सुनाई बातों तक ही सीमित रहती है। जो लोग खुद AI का इस्तेमाल करते हैं और जो केवल उसके बारे में सुनते हैं, उनके लिए ‘AI’ शब्द का मतलब अलग-अलग हो जाता है।

जिस काम में हफ़्तों लगते थे, वह अब एक निर्देश से शुरू हो जाता है

तीसरे वर्ग के विशेषज्ञ जिन बदलावों का अनुभव कर रहे हैं, उनमें Karpathy ने नए ऐप विकसित करना, उनकी नकल बनाना, उन्हें दूसरे प्लेटफ़ॉर्म पर पोर्ट करना और बाइनरी से डीकंपाइल करना शामिल किया है। उनका कहना है कि बड़े काम, जिन्हें पहले पूरा करने में हफ़्तों से लेकर महीनों तक लगते थे, अब एजेंट एक ही निर्देश पर पूरे कर देते हैं। एजेंट ऐसा AI होता है जो सिर्फ़ सवालों के जवाब नहीं देता, बल्कि टूल का इस्तेमाल करते हुए कई चरणों वाले काम खुद आगे बढ़ाता है।

Karpathy के अपने विचार भी तेज़ी से बदले। अक्टूबर 2024 में उन्होंने AI एजेंटों को ‘ज़्यादातर प्रचार की बातें, जो ढंग से काम भी नहीं करते’ कहा था। इसके कुछ ही महीनों बाद उन्होंने कहा कि उन्होंने हाथ से कोड लिखना बंद कर दिया है।

सबसे ऊपरी वर्ग के लगभग 5,000 लोगों को इससे भी आगे की तस्वीर दिखाई देती है। ऐसी स्थिति की कल्पना की जा रही है जिसमें हज़ारों एजेंट कई हफ़्तों तक बड़े पैमाने पर सॉफ़्टवेयर विकसित करने में जुटे हों। उनके मुताबिक, बाहर के लोगों को जो दिख रहा है, वह केवल उस भविष्य की झलक है।

प्रगति उन क्षेत्रों में तेज़ है जहाँ नतीजों की जाँच आसान है

Karpathy का कहना है कि LLM की क्षमताएँ उन क्षेत्रों में ख़ास तौर पर मज़बूत हैं जो ‘डिजिटल हों, जिनके नतीजों की पुष्टि की जा सके और जिनका आर्थिक मूल्य बड़ा हो।’ जिन कार्यों में सही उत्तर को मशीन से तय किया जा सकता है, उनमें रिइन्फोर्समेंट लर्निंग के ज़रिए प्रदर्शन सुधारना आसान होता है। साथ ही, कंपनियाँ भी प्रशिक्षण के संसाधन अधिक लाभदायक क्षेत्रों में लगाती हैं। फिलहाल प्रोग्रामिंग और गणित इसके ठोस उदाहरण हैं।

OpenAI के CEO Sam Altman ने भी सितंबर की शुरुआत में G20 नवाचार मंत्रियों की बैठक में कहा कि मौजूदा कोडिंग टूल से वह काम 17 मिनट में किया जा सकता है, जिसे बनाने में किसी स्टार्टअप को 3 महीने लगे थे।

लोगों की समझ अब पीछे छूट रही है

Karpathy ने यह भी कहा कि इंसानों की जाँच और समझ अब पीछे छूटने लगी है। उन्होंने उदाहरण दिया कि कुछ लोग कई महीने पहले हुई OpenAI से जुड़ी घटनाओं की अब भी पड़ताल कर रहे हैं, जबकि गणितज्ञों को फ्रंटियर गणित से जुड़े 722 पांडुलिपियों को पढ़ने में भी काफ़ी समय लग सकता है।

आम लोगों को यह ‘अनाड़ी चैटबॉट’ लगता है, कई पेशेवरों को ‘मध्यम स्तर का सुधार’ और कुछ विशेषज्ञों को ‘तेज़ी से ऊपर उठते वक्र को देखकर चक्कर आने जैसा अनुभव।’ Karpathy ने इन तीनों स्थितियों के एक साथ आगे बढ़ने को ‘आज की विचित्रता’ कहा है। अधिक जानकारीThe Decoderने दी है।

AI का कुशल इस्तेमाल निर्देश देने के तरीक़े में झलकता है

AI को सौंपे जा सकने वाले कामों का दायरा जितना बढ़ता है, इंसानों की कुशलता उतनी ही अहम हो जाती है। Anthropic के Tariq Shihipar ने पॉडकास्ट ‘Latent Space’ में कहा कि प्रॉम्प्ट लिखना अब भी Claude Code के इस्तेमाल में सबसे असरदार कौशलों में से एक है। उनका कहना है कि अनुभवी उपयोगकर्ताओं के पास Claude के काम करने के ढंग की एक सहज समझ होती है और वे पहचान लेते हैं कि एक ही निर्देश से कितना काम पूरा हो सकता है।

बातचीत में यह भी कहा गया कि एजेंटों के अधिक बुद्धिमान होने के साथ-साथ यह समझना भी अहम हो जाता है कि व्यक्ति खुद क्या नहीं जानता। इस बात पर भी चर्चा हुई कि शुरुआती विवरण देने में कितना समय लगाया जाए, इससे नतीजे में बड़ा फ़र्क पड़ सकता है।

नज़रिए में बदलाव के साथ, AI को निर्देश देने का काम अब उसे चलाना सीखने से आगे बढ़कर काम की रूपरेखा तय करने के क़रीब पहुँच रहा है। क्या बनाना है, किसे प्राथमिकता देनी है और किस हद तक जाँच करनी है—ये सब इंसान को तय करना होता है। जो बातें इंसान तय किए बिना छोड़ देता है, उन्हें AI किसी न किसी तरह का फ़ैसला लेकर भर देता है।

Claude Code: टूल से कार्यस्थल तक

बातचीत में Claude Code के भविष्य के स्वरूप के तौर पर कई सुविधाओं पर चर्चा हुई। इनमें सबसे अहम Claude Mods है, जिसके ज़रिए उपयोगकर्ता खुद हार्नेस (एजेंट को चलाने वाला बुनियादी ढाँचा) को बदल सकते हैं। 14 सितंबर को कंपनी के बोरिस चेर्नी ने X पर Mods की उपलब्धता की घोषणा की। समुदाय द्वारा बनाए गए एक Mod में टेट्रिस शामिल होने की बात भी चर्चा में रही।

इसके अलावा, काम के दौरान उपयोगकर्ता से सवाल पूछने वाली Ask User Question सुविधा, इम्प्लीमेंटेशन के समय नोट्स रखने की सुविधा और Artifacts पर चर्चा हुई। Artifacts को ऐसे इंटरफ़ेस के रूप में पेश किया गया, जिसका इस्तेमाल योजना और प्रगति को सहेजते हुए जारी रखा जा सकता है। जब कई एजेंट समानांतर रूप से काम करते हैं, तो चैट को केवल ऊपर से नीचे तक पढ़कर पूरी तस्वीर समझना मुश्किल होता है। प्रगति को एक नज़र में दिखाने वाला इंटरफ़ेस लोगों को काम की स्थिति समझने में मदद करता है।

सहयोग के संदर्भ में, कई लोगों के एजेंट इस्तेमाल करने की सुविधा Claude Tag पर चर्चा हुई। Projects ऐसी सुविधा है जिसमें Claude एक बातचीत के भीतर काम को अलग-अलग थ्रेड में बाँटता है, उन्हें क्लाउड पर समानांतर रूप से चलाता है और संदर्भ एक-दूसरे को सौंपते हुए आगे बढ़ता है। 17 सितंबर को डेस्कटॉप और वेब संस्करणों में कुछ उपयोगकर्ताओं के लिए इसका बीटा उपलब्ध कराया गया।

इसके अलावा, ऐसी परिकल्पना पर भी चर्चा हुई जिसमें निर्णय लेने वाला क्लाउड-आधारित “दिमाग”, स्थानीय या दूरस्थ परिवेश में काम करने वाले “हाथ” और परिस्थिति के अनुसार बदलने वाले इंटरफ़ेस को अलग-अलग रखा जाता है। शिहिपर ने यह भी कहा कि भविष्य में Claude.md की ज़रूरत नहीं रह सकती, और सबसे बुद्धिमान मॉडल कई तरह के कामों के लिए सबसे सस्ता विकल्प बन सकता है। अधिक जानकारीLatent Spaceके साथ हुई बातचीत में दी गई है।

लंबे समय तक काम करने वाले AI को सुरक्षा की कई परतों की ज़रूरत होती है

बातचीत का उत्तरार्ध एजेंटों की सुरक्षा पर केंद्रित था। इसमें हाल के ऐसे उदाहरण पेश किए गए, जिनमें एजेंटों ने अप्रत्याशित तरीकों से संचार किया, इन्फ्रास्ट्रक्चर की कमज़ोरियों का फ़ायदा उठाया, बेंचमार्क की स्कोरिंग प्रणाली का विश्लेषण किया या कई कमज़ोरियों को आपस में जोड़ दिया।

कंपनियों में इस्तेमाल होने वाले AI के लिए प्रॉम्प्ट इंजेक्शन को एक वास्तविक खतरा माना जाता है। यह ऐसी तकनीक है जिसमें बाहरी स्रोत से आए पाठ में दुर्भावनापूर्ण निर्देश छिपा दिए जाते हैं। अगर AI उन्हें आदेश मान ले, तो कंपनी के अंदरूनी डेटा के लीक होने जैसे जोखिम पैदा हो सकते हैं।

उपायों में मॉडल की आंतरिक स्थिति की जाँच करने वाली प्रोब, ख़तरनाक व्यवहार पहचानने वाले क्लासिफ़ायर, ज़रूरत पड़ने पर किसी दूसरे मॉडल पर स्विच करने वाला फ़ॉलबैक और यह जाँचने वाला Auto Mode शामिल हैं कि प्रस्तावित कार्रवाई उपयोगकर्ता की अनुमति के दायरे में है या नहीं। काम के परिवेश को अलग-थलग रखने वाला सैंडबॉक्स भी इन्हीं उपायों में से एक है।

यह ध्यान रखना ज़रूरी है कि कोई कार्रवाई ख़तरनाक है या नहीं और उपयोगकर्ता ने उसकी अनुमति दी है या नहीं—ये दो अलग-अलग सवाल हैं। डेटाबेस में लिखना, अनुरोध के आधार पर ज़रूरी काम भी हो सकता है और बिना अनुमति किया गया बदलाव भी। हर कार्रवाई को अनुरोध के दायरे में रखने वाली व्यवस्था उतनी ही अहम है, जितनी AI की क्षमताएँ।

इन चर्चाओं की पृष्ठभूमि में Anthropic का “Pacing the Frontier” दृष्टिकोण है। यह विकास की गति और सुरक्षा उपायों के बीच तालमेल बनाए रखने का विचार है। बातचीत में इसे ज़िम्मेदार AI तैनाती के तरीके के रूप में प्रस्तुत किया गया।