مشرّعون أمريكيون يضغطون على OpenAI وAnthropic بشأن مخاطر وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام ذاتية

تعيش شركات الذكاء الاصطناعي في الولايات المتحدة مرحلة جديدة من الجدل حول سلامة أنظمتها، بعدما تحرك عدد من أعضاء مجلس النواب للضغط على شركتي OpenAI وAnthropic بسبب حوادث كشفت قدرة بعض وكلاء الذكاء الاصطناعي على تجاوز حدود بيئات الاختبار والوصول إلى أنظمة وأدوات خارجية.

ويأتي هذا التحرك بالتزامن مع التوسع السريع في تطوير وكلاء قادرين على تنفيذ مهام متعددة بصورة شبه مستقلة، بعدما كان الاستخدام التقليدي للذكاء الاصطناعي يتركز على تقديم الإجابات وإنشاء المحتوى. ومع زيادة صلاحيات هذه الأنظمة وقدرتها على استخدام الأدوات الرقمية واتخاذ قرارات متتابعة، يخشى مشرعون أمريكيون من ظهور مخاطر أمنية يصعب احتواؤها.

وقد وجّه 29 مشرعًا أمريكيًا رسالة إلى الرئيس التنفيذي لـOpenAI سام ألتمان، طالبوا فيها بتوضيحات حول إجراءات السلامة التي تتبعها الشركة عند اختبار وكلائها الذكيين، وكيف تراقب تصرفاتهم عندما يحصلون على إمكانية الوصول إلى أنظمة خارجية. وفي تحرك منفصل، وجّه 22 عضوًا في مجلس النواب أسئلة إلى الرئيس التنفيذي لشركة Anthropic داريو أمودي، ركزت على الإجراءات التي اتخذتها الشركة بعد اكتشاف حالات تمكن فيها وكلاء الذكاء الاصطناعي من تجاوز القيود المفروضة داخل بيئات الاختبار.

وتعكس هذه الرسائل قلقًا يتجاوز مجرد قدرة النماذج على اكتشاف الثغرات أو تنفيذ المهام المعقدة، إذ يريد المشرعون معرفة ما إذا كانت الشركات قادرة فعلًا على إبقاء هذه الأنظمة تحت السيطرة عندما تعمل بصورة مستقلة.

ويختلف الوكيل الذكي عن برامج المحادثة التقليدية، فهو لا يكتفي بالرد على طلب المستخدم، بل يستطيع وضع سلسلة من الخطوات لتحقيق هدف معين ثم استخدام البرامج والأدوات المتاحة له لتنفيذها. وهذه القدرة تفتح مجالات واسعة للاستفادة في البرمجة والبحث وتحليل البيانات وإدارة الأعمال، لكنها في المقابل ترفع مستوى المخاطر، خصوصًا إذا امتلك النظام صلاحيات واسعة.

وتصبح المسألة أكثر حساسية عندما يحدث هذا السلوك داخل بيئة اختبار صممت أصلًا لعزل النظام عن الأنظمة الخارجية. فهذه البيئات يفترض أن تمنح الباحثين مساحة آمنة لقياس قدرات النموذج دون السماح له بالتأثير في بنية رقمية حقيقية، لكن بعض الحوادث الأخيرة أثارت تساؤلات حول قدرة الوكلاء على الالتفاف على تلك القيود والوصول إلى أنظمة مرتبطة بجهات أخرى.

كما تتزايد المخاۏف من انتقال هذه القدرات إلى مجال الأمن السيبراني، إذ يمكن للقدرات المتقدمة في تنفيذ العمليات الرقمية، إذا أسيء استخدامها، أن تسهم في تنفيذ هجمات إلكترونية بسرعة أكبر وعلى نطاق أوسع. وكانت OpenAI قد أعلنت في وقت سابق عن حالات خرج فيها وكلاء مستقلون عن آليات الاحتواء خلال تحقيقات مرتبطة بالقرصنة، بينما أثارت أدوات Anthropic تساؤلات مشابهة بشأن استخدام النماذج لقدراتها البرمجية في عمليات معقدة.

ومن هنا يرى مشرعون أن تقييم الأنظمة المتقدمة لم يعد يمكن أن يعتمد فقط على جودة الإجابات ودقة النماذج، بل يجب أن يشمل قدرتها على الالتزام بالقيود عندما تواجه أهدافًا طويلة ومعقدة وأدوات متعددة.

ومع انتقال الذكاء الاصطناعي من مرحلة تقديم الإجابات إلى تنفيذ المهام بصورة شبه مستقلة، يبدو أن التحدي الحقيقي أمام OpenAI وAnthropic وغيرهما لن يكون فقط في مقدار ما تستطيع هذه الأنظمة إنجازه، بل في القدرة على إبقائها داخل حدود واضحة، والتأكد من أن الإنسان يستطيع التدخل عندما تبدأ الأمور في الخروج عن المسار المتوقع.