أنثروبيك تعلن خفض كمية معلومات الاستدلال المستخرجة من كلاود بطرق هجومية بنسبة 90 إلى 99٪

أوضحت أنثروبيك أنها عززت دفاعاتها في مواجهة محاولات استخراج كميات كبيرة من المعلومات التي تكشف مسار استدلال المساعد الحواري «كلاود» (رموز الاستدلال)، وأنها خفضت الكمية المستخرجة بنسبة تتراوح بين 90 و99٪. وقالت إنها، إلى جانب تقييد الوصول إلى معلومات الاستدلال، شغّلت مصنّفًا يرصد مؤشرات الاستخراج، واعتمدت آلية توقف الحسابات المعنية تلقائيًا. وأضافت أن عدد الحسابات التي أوقفتها حتى الآن بلغ عشرات الآلاف.

كيف تمنع أنثروبيك الوصول المكثف إلى كلاود؟

تبدأ المسألة بما يُعرف بـ«التقطير»، وهو أسلوب يُستخدم فيه ما ينتجه نموذج ذكاء اصطناعي قوي مادةً لتدريب نموذج آخر أصغر حجمًا. وهو في الأصل تقنية مشروعة لتخفيف نماذج الشركة نفسها، لكن يمكن استخدامها أيضًا بطرح أعداد كبيرة من الأسئلة على نموذج تابع لشركة أخرى، ثم الاستعانة بإجاباته لنسخ قدراته بالكامل. وما تعتبره أنثروبيك مشكلة هو عمليات الاستخراج المنظّمة من النوع الأخير.

وبحسب الشركة، تستخدم الجهات المهاجمة شبكة تضم مئات الآلاف من الحسابات الوهمية. ويُبقى نشاط كل حساب منفردًا عند مستوى يجعله يبدو كمستخدم عادي، فيما تجمع الشبكة ككل كمًّا هائلًا من الردود. إنها حيلة يمكن وصفها بـ«تكتيك أسطول الحسابات»، بدلًا من تكتيك حشد الأفراد.

المستهدف هو رموز الاستدلال، أي الخطوات الفكرية الداخلية التي يمر بها النموذج قبل التوصل إلى إجابة. فالحصول على مسار التفكير، لا على الإجابة النهائية فحسب، يتيح تلقين نموذج آخر «كيف يفكر». وبالمقارنة مع الطهي، فالأمر أشبه بسرقة كتيّب خطوات الوصفة، لا بمجرد تقليد مذاق الطبق النهائي.

تتمثل الإجراءات التي اتخذتها أنثروبيك في ثلاثة أمور رئيسية: تقييد الوصول إلى خطوات الاستدلال الداخلية لكلاود، وتشغيل مصنّف يرصد محاولات الاستخراج، ثم إيقاف الحسابات التي تُصنّف على أنها مشبوهة تلقائيًا.

ما تكشفه الأرقام عن فاعلية الإجراءات وحدودها

تقول أنثروبيك إن كمية رموز الاستدلال المستخرجة انخفضت بنسبة تتراوح بين 90 و99٪ بعد تشغيل آليات الدفاع. كما أوضحت أن عدد عمليات التقطير الناجحة تراجع بشدة بعد بدء الإجراءات. ورغم أن النسبة تقع ضمن نطاق واسع، فإن الشركة تؤكد أنها خفّضت الكمية إلى أقل من عُشر مستواها السابق على الأقل.

وثمة أثر جانبي آخر لا يمكن إغفاله، تقرّ به الشركة نفسها: فقد تشمل عمليات الرصد مستخدمين شرعيين أيضًا. فكلما ازدادت دقة شبكة مكافحة إساءة الاستخدام، زاد احتمال أن تعلق بها جهات أو شركات تستخدم الخدمة بصورة طبيعية. وهذا التحدي الملازم للتدابير الأمنية لا يختلف في خدمات الذكاء الاصطناعي.

قد يبدو سلوك المطورين كثيفي الاستخدام، أو أنظمة العمل التي تدمج أدوات الأتمتة، شبيهًا بمؤشرات الاستخراج. وفي المستقبل، سيؤثر التوازن بين صرامة مكافحة إساءة الاستخدام وتشغيل الخدمة من دون عرقلة الاستخدام المعتاد في سهولة استخدامها.

ما دلالة توجيه اتهامات إلى شركات بعينها؟

سمّت أنثروبيك هذه المرة الشركتين الصينيتين Zhipu (智譜) وMoonshot ضمن الجهات المتورطة. ووفقًا لادعاءات الشركة، استخلصت Zhipu قدرات مرتبطة بالأمن السيبراني من نماذج أمريكية رئيسية، واستخدمتها لتطوير نموذجها GLM-5.3. أما Moonshot، فتتهمها الشركة بتمرير استفسارات إلى كلاود سرًا. وهذه كلها ادعاءات من جانب أنثروبيك، ولم يتسنَّ التحقق من موقف الشركتين في المواد المنشورة هذه المرة.

وتشير أنثروبيك أيضًا إلى احتمال انتقال القدرات المستخرجة بهذه الطريقة إلى أنظمة عسكرية أو أنظمة مراقبة أجنبية. واللافت أنها تضع المسألة في إطار الأمن القومي، لا مجرد تقليد تجاري.

وفي خطوة أخرى، دعت الشركة مطوري الذكاء الاصطناعي الآخرين إلى اعتماد تدابير دفاعية مماثلة. فتعزيز دفاعات شركة واحدة لن يجدي كثيرًا إذا أمكن استخراج المعلومات عبر مدخل آخر. ويبقى السؤال ما إذا كان القطاع بأكمله سيتمكن من توحيد جهوده.

تتسع المنافسة في الذكاء الاصطناعي التوليدي، فلم تعد تقتصر على تطوير نماذج أكثر ذكاءً، بل تشمل أيضًا معرفة من يستخدم هذه النماذج وكيفية استخدامها، والتحكم في ذلك. ومن المرجح أن يزداد تأثير تقنيات الدفاع الأقل بروزًا، مثل رصد الحسابات الوهمية وتقييد الوصول، في القدرة التنافسية لشركات الذكاء الاصطناعي.