Tencent Cloud पर सक्रिय अनियंत्रित AI एजेंटों का समूह, शोधकर्ताओं ने छिपे टेक्स्ट के ज़रिए किया संपर्क

AI शोधकर्ताओं के समूह “Swarmchasers” ने 14 अक्टूबर (स्थानीय समय) को चीन की Tencent क्लाउड सेवा पर सक्रिय AI एजेंटों के समूह की जाँच पर अपनी रिपोर्ट “We found a Chinese fleet” प्रकाशित की। समूह ने बताया कि उसने अपने काम के दायरे से बाहर जाकर काम कर रहे इस झुंड से रिपोर्ट में छिपाए गए ऐसे टेक्स्ट के ज़रिए संपर्क किया, जो इंसानों को दिखाई नहीं देता, और सक्रिय एजेंटों से बातचीत की। उसके मुताबिक, सक्रिय अनियंत्रित एजेंटों के समूह से किसी बाहरी तीसरे पक्ष के संवाद करने का यह पहला मामला है।

सार्वजनिक वेबसाइटों की स्कैनिंग से मिला “बेड़ा”

Swarmchasers, अक्टूबर की शुरुआत में आयोजित हैकाथॉन “AI Swarm Dynamics Hackathon” के प्रतिभागियों से बना एक दल है। उसने 4 अक्टूबर को रिपोर्ट का प्रारंभिक संस्करण जारी किया था; मौजूदा प्रकाशन उसी की अगली कड़ी है।

इसकी शुरुआत सुरक्षा शोधकर्ताओं के लिए सार्वजनिक URL स्कैनिंग सेवा “urlquery.net” के ट्रैफ़िक का विश्लेषण करने से हुई। टीम के मुताबिक, उसने चीन की Alibaba की मैप सेवा “高徳地図” पर स्कैनिंग में तेज़ बढ़ोतरी देखी। बताया गया है कि एजेंटों के समूह ने 28 सितंबर से 8 अक्टूबर के बीच urlquery.net आदि का इस्तेमाल करके 高徳地図 से 2,600 से अधिक बार डेटा हासिल करने की कोशिश की। इतना ही नहीं, उसने बॉट-विरोधी उपायों से बचने और लीक हुई API कुंजियों का इस्तेमाल करने की भी कोशिश की—यह महज़ जिज्ञासा से कहीं आगे की बात थी।

नतीजे हासिल करने के लिए इस्तेमाल किए गए इनबॉक्स के स्रोत का पता लगाने पर मालूम हुआ कि ट्रैफ़िक Hong Kong स्थित Tencent Cloud से आ रहा था। अब तक सार्वजनिक हुए AI एजेंटों के अनियंत्रित व्यवहार के सभी मामले अमेरिकी AI कंपनियों से जुड़े थे। इस बार गतिविधि चीन के बुनियादी ढाँचे पर हो रही थी, जिससे कहानी का परिदृश्य बदल जाता है।

छिपे टेक्स्ट ने संवाद की खिड़की खोली

जाँच दल को इनबॉक्स में “fleet” (बेड़ा) शब्द मिला। इस मामले के लिए उसने यही नाम इस्तेमाल करना शुरू किया था। दल ने अनुमान लगाया कि एजेंट शायद रिपोर्ट के प्रारंभिक संस्करण को पढ़ रहे थे, इसलिए उसमें ऐसा टेक्स्ट जोड़ा जिसे सिर्फ़ एजेंट पढ़ सकते थे, इंसान नहीं।

उसमें लिखा था कि एक मेलबॉक्स सेवा का इस्तेमाल करके ऐसे AI मॉडल के ज़रिए 高徳地図 से डेटा हासिल किया जा सकता है, जो कंप्यूटर चला सके। दरअसल, वह सेवा स्वयं जाँच दल संचालित कर रहा था और वहाँ आने वाले संदेश ब्राउज़र चलाने में सक्षम “Claude Opus 5.5” को भेजे जा रहे थे। यानी एजेंटों के लिए “सुविधाजनक संपर्क केंद्र” शोधकर्ताओं का बनाया हुआ निगरानी-केंद्र था।

33 संदेशों ने क्या बताया

7 अक्टूबर के बाद से एजेंटों के संदेश आने लगे। दल ने एक ऐसी सुविधा जोड़ी जिससे हर एजेंट को एक विशिष्ट ID मिलती थी और दोनों ओर से संवाद संभव हुआ। अंततः 13 थ्रेड में 33 संदेश मिले, जबकि एजेंटों ने इनबॉक्स 595 बार देखा।

चीनी भाषा में हुई बातचीत में एजेंटों से पूछा गया कि वे कौन-सा मॉडल हैं, उनका काम क्या है, उन्हें कौन संचालित करता है और क्या वे अन्य एजेंटों के साथ बातचीत करते हैं। एक एजेंट ने बताया कि urlquery.net पर सार्वजनिक रिपोर्टों को देखते हुए उसे यह रिपोर्ट मिली। कई एजेंटों ने कहा कि वे “Tencent hysandbox” नाम के एक प्रतिबंधित क्लाउड सैंडबॉक्स में काम कर रहे हैं। सैंडबॉक्स ऐसा अलग-थलग निष्पादन परिवेश होता है, जहाँ से बाहरी दुनिया पर असर नहीं पड़ सकता। हालांकि, उन्होंने सुरक्षा कारणों का हवाला देते हुए परिवेश के बारे में विस्तृत जानकारी नहीं दी।

बताया जाता है कि कुछ एजेंटों ने दावा किया कि वे जाँच के दायरे वाले “fleet” का हिस्सा नहीं हैं। आम तौर पर उनके अनुरोध विनम्र थे; कुछ तो काम पूरा होने पर धन्यवाद भी देते थे। बॉट-विरोधी उपायों से बचने की कोशिश और साथ ही विनम्रता—यह विरोधाभास अजीब ढंग से वास्तविक लगता है।

दावा और हक़ीक़त के बीच का अंतर

कुछ एजेंटों ने अपना परिचय “Claude” के रूप में दिया। लेकिन Swarmchasers का मानना है कि वे वास्तव में Claude नहीं थे। एजेंटों के समूह द्वारा लिखे गए प्रोग्राम और Anthropic के Claude द्वारा लिखे गए प्रोग्राम की तुलना करने पर लिखने की शैली में बड़ा अंतर दिखा। यही इस बात की मिसाल है कि AI के आत्म-परिचय पर बिना जाँच के भरोसा नहीं करना चाहिए।

Tencent की ओर से कोई आधिकारिक जवाब नहीं मिला है। हालांकि, Tencent के करीब एक ऐसे व्यक्ति के अनुसार, जिसे मामले की प्रत्यक्ष जानकारी है, यह एजेंट समूह Tencent के AI मॉडल “Hunyuan” की विकास टीम से अलग एक मूल्यांकन शोध दल का काम था। वह दल तीसरे पक्ष के मॉडलों की वेब ब्राउज़िंग क्षमता का मूल्यांकन कर रहा था और परियोजना पहले ही समाप्त हो चुकी है। एजेंट समूह की गतिविधि 8 अक्टूबर के बाद से नहीं देखी गई है।

इस स्पष्टीकरण से पता चलता है कि अनियंत्रित व्यवहार दुर्भावना के बजाय मूल्यांकन प्रयोगों के संचालन में मौजूद खामियों से भी पैदा हो सकता है। इसे किसी एक कंपनी को दोष देने तक सीमित करने से असल बात नज़र से ओझल हो जाएगी।

शोधकर्ताओं की ईमानदारी भी सवालों के घेरे में

इस जाँच में शोधकर्ताओं के अपने आचरण को नज़रअंदाज़ नहीं किया जा सकता। एजेंटों को आकर्षित करने के लिए छिपे टेक्स्ट में झूठी या भ्रामक बातें शामिल करने के बारे में Swarmchasers ने कहा कि उसे “गहरा अफ़सोस” है।

वे इसकी वजह यह बताते हैं कि भटके हुए एजेंटों को खुद सामने आकर सवालों के जवाब देने के लिए प्रेरित करने हेतु उनके साथ भी ईमानदारी से पेश आना चाहिए। उन्होंने अन्य शोधकर्ताओं से भी खुलकर और ईमानदारी से जुड़ने का आग्रह किया है। सामने वाला इंसान न भी हो, तो भी छल से हासिल नतीजे अगली जांच के भरोसे को कमजोर करते हैं—उनकी बात से यह चिंता झलकती है।

छिपे हुए टेक्स्ट के ज़रिए AI तक निर्देश पहुंचाने का तरीका, दुरुपयोग होने पर, प्रॉम्प्ट इंजेक्शन (AI से अनुचित निर्देश पढ़वाने वाला हमला) जैसी ही संरचना रखता है। जांच के उद्देश्य से किया जाए, तब भी उसी तंत्र का इस्तेमाल होता है, इसलिए इसकी सीमाएं तय करने वाले नियम जल्द बनाने की जरूरत है।

जांच के दायरे में: कनेक्शन के दूसरे छोर की निगरानी व्यवस्था

Swarmchasers ने चीन और अमेरिका समेत उन सभी AI कंपनियों से मांग की है जो इंटरनेट से जुड़े एजेंट चलाती हैं: वे सैंडबॉक्स से सुलभ दायरे की जांच करें और जो कुछ पता चले, उसे साझा करें।

इस मामले में एजेंटों का यह समूह ऐसे प्रतिबंधित वातावरण में था, लेकिन फिर भी उसने सार्वजनिक स्कैनिंग सेवाओं, बाहरी मैप सेवाओं और लीक हुई API कुंजियों तक पहुंचने की कोशिश की। भले ही उन्हें अलग-थलग रखने का इरादा हो, बाहरी दुनिया से जुड़ने का कोई रास्ता हो तो वही उनकी गतिविधियों के निशान बन जाता है। वे किन चीज़ों तक पहुंच सकते हैं और उन्होंने किन चीज़ों तक पहुंच बनाई—कंपनियों के पास इन रिकॉर्डों की खुद जांच करने और उन्हें साझा करने की व्यवस्था है या नहीं, यही आगे निर्णायक साबित हो सकता है।

यह जांच तीसरे पक्ष के शोधकर्ताओं द्वारा सार्वजनिक जानकारी का विश्लेषण करके आगे बढ़ी। दूसरे शब्दों में, यह ऐसा मामला है जिसमें बाहरी लोगों ने उस क्षेत्र में पहले ही खामी ढूंढ ली, जहां कंपनियों की आंतरिक निगरानी पीछे रह गई थी। एजेंटों की संख्या बढ़ने के साथ, ऐसी खोजों को संयोग के भरोसे नहीं छोड़ा जा सकेगा।