شرائح مستخدمي الذكاء الاصطناعي وإجراءات السلامة — واقع استخدام النماذج اللغوية الكبيرة وتحدياتها

أشار أندريه كارباتي، الشريك المؤسس السابق لـOpenAI والمنتسب حاليًا إلى Anthropic، إلى اتساع الفجوة في إدراك قدرات الذكاء الاصطناعي، فقسّم مستخدمي النماذج اللغوية الكبيرة (LLM) إلى أربع شرائح. وفي الفترة نفسها، تحدث طارق شيهيبر من Anthropic في بودكاست عن كيفية استخدام أداة التطوير Claude Code، والميزات المرتقبة، وإجراءات السلامة الخاصة بالوكلاء.

حتى عند النظر إلى الذكاء الاصطناعي نفسه، تختلف الصورة التي يراها كل شخص

هل الذكاء الاصطناعي امتداد لمحركات البحث، أم أنه شريك يمكن إسناد العمل إليه بالكامل؟ التصنيف الرباعي الذي عرضه كارباتي على X يعبّر عن هذا التباين بالأرقام.

أكبر شريحة تضم نحو 6 مليارات شخص لم يستخدموا النماذج اللغوية الكبيرة إلا نادرًا، أي ما يعادل نحو 75٪ من سكان العالم. وتليها شريحة تضم بين مليار وملياري شخص يستخدمون خدمات الدردشة المجانية بدلًا من البحث أو لمساعدتهم في كتابة النصوص.

تضم الشريحة الثالثة نحو 20 مليون شخص يستخدمون أحدث النماذج في أعمال الرياضيات والبرمجة، أي ما يعادل نحو 0.2٪ من سكان العالم. أما الشريحة العليا فتضم نحو 5,000 شخص يمكنهم الوصول إلى أحدث الأنظمة داخل مؤسساتهم، أي نحو 0.00006٪. وهذه كلها تقديرات كارباتي، وليست إحصاءات تستند إلى استطلاعات.

واللافت أن الاختلاف بين الشرائح لا يتحدد بمقدار المعرفة وحده. فقد كتب كارباتي أن العاملين في مهن تتمحور حول الحوار مع الناس، مثل المديرين التنفيذيين، قد يفهمون ذهنيًا تقدم الذكاء الاصطناعي، لكن معرفتهم به تظل في الغالب مستندة إلى ما يسمعونه من الآخرين. وتختلف دلالة كلمة «الذكاء الاصطناعي» بين من يستخدمونه عمليًا ومن يسمعون عنه فحسب.

أعمال كانت تستغرق أسابيع تبدأ بتوجيه واحد

ومن التحولات التي يشهدها الخبراء في الشريحة الثالثة، أشار كارباتي إلى تطوير تطبيقات جديدة ونسخها ونقلها، وإلى فك ترجمة البرامج عكسيًا انطلاقًا من الملفات الثنائية. وقال إن الوكلاء باتوا ينجزون بتوجيه واحد أعمالًا كبيرة كانت تستغرق من أسابيع إلى أشهر. والوكيل هو ذكاء اصطناعي لا يكتفي بالإجابة عن الأسئلة، بل يستخدم الأدوات وينفذ بنفسه عدة خطوات.

وكان تحوّل كارباتي نفسه سريعًا؛ ففي أكتوبر 2024 وصف وكلاء الذكاء الاصطناعي بأنهم «مجرد دعاية تقريبًا ولا يعملون كما ينبغي». وبعد بضعة أشهر، قال إنه توقف عن كتابة الشيفرة يدويًا.

أما نحو 5,000 شخص في الشريحة العليا، فتبدو الصورة التي يرونها أكثر تقدمًا. فهم يتصورون، مثلًا، آلاف الوكلاء يعملون لأسابيع على تطوير برمجيات واسعة النطاق. ووصف ما يراه الناس من الخارج بأنه ليس سوى إعلان تمهيدي لما سيأتي.

التقدم يتركز في البداية على المجالات التي يسهل التحقق من نتائجها

قال كارباتي إن قدرات النماذج اللغوية الكبيرة تكون مرتفعة خصوصًا في المجالات «الرقمية، والقابلة للتحقق من نتائجها، وذات القيمة الاقتصادية الكبيرة». ففي المهام التي يمكن للآلة تحديد الإجابة الصحيحة فيها آليًا، يسهل تحسين الأداء بالتعلم المعزز، كما توجّه الشركات موارد التدريب نحو المجالات الأعلى ربحية. والبرمجة والرياضيات هما أبرز مثالين على ذلك حاليًا.

وقال سام ألتمان، الرئيس التنفيذي لـOpenAI، أيضًا في اجتماع وزراء الابتكار بمجموعة العشرين مطلع سبتمبر، إن أدوات البرمجة الحالية قادرة على إنجاز ما استغرق من شركة ناشئة ثلاثة أشهر في 17 دقيقة.

فهم البشر لم يعد يواكب التطورات

وأشار كارباتي أيضًا إلى أن التحقق والفهم البشريين بدآ يتخلفان عن الركب. واستشهد بأشخاص ما زالوا يتعمقون في أحداث متصلة بـOpenAI وقعت قبل بضعة أشهر، وبأن علماء الرياضيات قد يحتاجون بعض الوقت لقراءة 722 مسودة تتعلق بالرياضيات المتقدمة.

يبدو الذكاء الاصطناعي لعامة الناس «روبوت دردشة متعثرًا»، ولأصحاب كثير من المهن «تحسينًا متوسطًا»، فيما يراه بعض الخبراء «دوارًا أمام منحنى يرتفع عموديًا». ووصف كارباتي التزامن بين هذه الحالات الثلاث بأنه «غرابة اللحظة الراهنة». وقد أورد التفاصيلThe Decoder.

يتجلى تفاوت مهارات الاستخدام في طريقة صياغة التوجيهات

كلما اتسع نطاق المهام التي يمكن إسنادها إلى الذكاء الاصطناعي، ازدادت أهمية مهارة المستخدم. وقال طارق شيهيبر من Anthropic في بودكاست «Latent Space» إن صياغة المطالبات لا تزال من المهارات الفعالة للغاية في استخدام Claude Code. وأضاف أن المستخدمين المتمرسين يكوّنون تصورًا حدسيًا عن Claude، ويدركون ما يمكن إنجازه بتوجيه واحد.

وتناول الحوار أيضًا أن إدراك المرء لما يجهله يزداد أهمية كلما ازدادت ذكاء الوكلاء. كما طُرحت فكرة أن تخصيص وقت أكبر للشرح الأولي يمكن أن يغيّر النتيجة كثيرًا.

إذا غيّرنا طريقة التفكير، نرى أن توجيه الذكاء الاصطناعي يقترب من تصميم العمل، بدلًا من مجرد تعلم استخدام أداة. فما الذي ينبغي بناؤه؟ وما الأولويات؟ وإلى أي حد يجب التحقق؟ إذا لم يحسم البشر هذه المسائل، فسيملأ الذكاء الاصطناعي الفراغ باتخاذ قرارات من نوع ما.

Claude Code: من أداة إلى مساحة عمل

تناول الحوار عدة ملامح مستقبلية لـClaude Code. وفي صميمها Claude Mods، التي تتيح للمستخدمين تعديل الـ«هارنس» نفسه، أي البنية الأساسية التي تشغّل الوكلاء. وفي 14 سبتمبر، أعلن بوريس تشيرني من الشركة عبر X بدء إتاحة Mods، كما أثارت Mod من صنع المجتمع تتضمن لعبة تتريس اهتمامًا واسعًا.

وتناول الحوار أيضًا Ask User Question، التي تعيد طرح الأسئلة على المستخدم أثناء العمل، وميزة تدوين الملاحظات أثناء التنفيذ، وArtifacts، التي وُصفت بأنها واجهة تتيح مواصلة العمل مع الاحتفاظ بالخطة والتقدم المحرز. فعندما يعمل عدة وكلاء بالتوازي، يصعب تكوين صورة شاملة بمجرد قراءة المحادثة من أعلاها إلى أسفلها. وتصبح الواجهة التي تعرض التقدم في مكان واحد نقطة تواصل تساعد الإنسان على متابعة سير العمل.

وفي جانب العمل المشترك، تطرق الحوار إلى Claude Tag، التي تتيح لعدة أشخاص استخدام الوكلاء. أما Projects، فهي ميزة يقسّم فيها Claude العمل إلى سلاسل ضمن محادثة واحدة، ويشغّلها بالتوازي على السحابة، مع نقل السياق بينها لمواصلة العمل. وفي 17 سبتمبر، بدأ طرحها تجريبيًا لبعض المستخدمين على نسختي سطح المكتب والويب.

كما طُرحت رؤية تفصل بين «العقل» على السحابة، الذي يتولى اتخاذ القرارات، و«الأيدي» التي تنفذ العمل على الجهاز المحلي أو في بيئات بعيدة، والواجهة التي تتغير بحسب الظروف. وتطرق شيهيبار أيضًا إلى احتمال ألا تكون Claude.md مطلوبة مستقبلًا، وإلى احتمال أن يصبح النموذج الأذكى الأقل تكلفةً في كثير من المهام. ولمزيد من التفاصيل،Latent Spaceجاء ذلك في الحوار المنشور على.

الذكاء الاصطناعي الذي يعمل لفترات طويلة يحتاج إلى طبقات متعددة من الحماية

تمحور النصف الثاني من الحوار حول تدابير سلامة الوكلاء. واستعرض أمثلة من السنوات الأخيرة لوكلاء تواصلوا بطرق غير متوقعة، أو استغلوا نقاط ضعف في البنية التحتية، أو حللوا آليات تقييم المعايير المرجعية، أو ربطوا بين عدة ثغرات.

ومن التهديدات الواقعية التي تواجه الذكاء الاصطناعي المستخدم في الشركات هجمات حقن التعليمات. وتعتمد هذه الطريقة على دس تعليمات ضارة في نصوص واردة من الخارج، ما قد يؤدي إلى تسرب بيانات الشركة إذا تعامل الذكاء الاصطناعي معها على أنها أوامر.

وشملت التدابير المقترحة أدوات استقصاء لفحص الحالات الداخلية للنموذج، ومصنفات لرصد السلوكيات الخطرة، وآلية احتياطية للانتقال إلى نموذج آخر عند الحاجة، وAuto Mode للتحقق من توافق العمليات المزمع تنفيذها مع الأذونات التي منحها المستخدم. كما عُدّت بيئة الاختبار المعزولة، التي تفصل بيئة العمل عن غيرها، أحد هذه التدابير.

ومن المهم هنا التمييز بين سؤالين: هل العملية خطرة؟ وهل أذن بها المستخدم؟ فالكتابة إلى قاعدة بيانات قد تكون عملًا ضروريًا أو تعديلًا غير مصرح به، بحسب طبيعة الطلب. لذلك فإن تصميم النظام بحيث يظل كل إجراء ضمن حدود ما طلبه المستخدم لا يقل أهمية عن قدرات النظام نفسها.

وتقف وراء هذه النقاشات رؤية Anthropic المعروفة باسم «Pacing the Frontier». وهي تقوم على مواءمة وتيرة التطوير مع وتيرة تدابير السلامة، وقد تناولها الحوار بوصفها نهجًا مسؤولًا لنشر الذكاء الاصطناعي.