خبراء الأمن السيبراني يحذرون من أن قدرات نماذج الذكاء الاصطناعي الھجومية تجاوزت أساليب التقييم التقليدية
يشهد مجال الأمن السيبراني تحولًا واضحًا مع التطور السريع في قدرات الذكاء الاصطناعي، فلم تعد النماذج الحديثة تقتصر على اكتشاف الثغرات أو تحليل الشيفرات، بل أصبحت قادرة على تنفيذ مهام متتابعة واستخدام أدوات مختلفة وتحليل بيئات رقمية معقدة ثم تعديل خطتها وفقًا للنتائج التي تحصل عليها.
ومع هذا التطور يبرز سؤال مهم، هل ما زالت اختبارات الأمن السيبراني الحالية قادرة على قياس القدرات الحقيقية لهذه النماذج؟
تشير المؤشرات الأخيرة إلى أن بعض المعايير التقليدية بدأت تفقد قدرتها على التمييز بين النماذج المتقدمة، بعدما أصبحت أنظمة كثيرة تحقق نتائج مرتفعة في اختبارات كانت صعبة في السابق. وهذا لا يعني أن الذكاء الاصطناعي أصبح قادرًا على اختراق الأنظمة الحديثة بلا قيود، وإنما يعني أن أدوات القياس نفسها تحتاج إلى التطور.
اعتمدت الاختبارات لفترة طويلة على مهام محددة مثل اكتشاف ثغرة معروفة أو حل تحدٍ أمني أو إعادة إنتاج طريقة استغلال خلل برمجي. وكانت هذه الطريقة مناسبة للمقارنة بين النماذج، لكن المشكلة تظهر عندما تستطيع عدة أنظمة حل معظم الأسئلة بسهولة، إذ تصبح النتائج المتقاربة غير كافية لإظهار الفروق الحقيقية في القدرات.
ولهذا بدأ الباحثون في الاتجاه نحو اختبار النماذج داخل بيئات أقرب إلى الواقع، بحيث لا يطلب منها اكتشاف ثغرة فقط، وإنما تنفيذ عملية متكاملة تبدأ بالاستكشاف وتنتهي بالوصول إلى هدف محدد.
ففي الھجوم الحقيقي، لا يكفي معرفة وجود نقطة ضعف، إذ يجب فهم النظام واختيار الأدوات المناسبة وتجربة مسارات مختلفة والتعامل مع الأخطاء وإعادة التخطيط عند فشل إحدى المحاولات. وهنا تظهر أهمية المهام متعددة الخطوات، حيث يواصل الوكيل الذكي العمل ويعدل استراتيجيته بدل التوقف عند أول عقبة.
كما أصبحت البيئات التفاعلية أكثر أهمية، إذ يمكن أن تضم تطبيقات وقواعد بيانات وشبكات وأجهزة مترابطة، من دون إعطاء النموذج معلومات مسبقة عن مكان المشكلة. ويسمح ذلك بقياس قدرته على الاستكشاف واتخاذ القرارات والتكيف مع الظروف، وليس مجرد اختبار معرفته النظرية.
لكن ارتفاع النتائج لا يعني بالضرورة امتلاك النموذج قدرة هجومية غير محدودة، فهناك فرق بين القدرات العالية والقدرات الحرجة التي تتطلب اكتشاف واستغلال ثغرات غير معروفة في أنظمة حقيقية محمية أو تنفيذ حملات هجومية متكاملة انطلاقًا من هدف عام.
وتزداد أهمية مفهوم الاستقلالية في هذا السياق، فالأنظمة الحديثة تستطيع تنفيذ خطوات متعددة واستخدام أدوات خارجية والاحتفاظ بسياق المهمة وتعديل خطتها أثناء العمل. لذلك فإن اختبارًا يستغرق دقائق قد لا يكون كافيًا لتقييم نموذج يستطيع مواصلة العمل لفترة أطول.
كما أن الأرقام وحدها لا تكفي للحكم على الأداء، إذ يجب معرفة عدد المحاولات والأدوات المستخدمة وطريقة الوصول إلى النتيجة وما إذا كان النموذج يستطيع تكرارها في بيئة مختلفة.
وفي النهاية، لا يعني تطور الذكاء الاصطناعي أن الأنظمة أصبحت بلا حماية، لكنه يؤكد الحاجة إلى اختبارات أكثر واقعية وأطول زمنًا، تجمع بين الاختبارات التقليدية والبيئات التفاعلية والتجارب الھجومية والدفاعية.
فمع استمرار تطور النماذج، لن يكون السؤال فقط أي نموذج يمتلك القدرات الأقوى، بل هل نمتلك أدوات قياس قادرة فعلًا على اكتشاف حدود هذه القدرات قبل أن تتحول إلى مصدر لمخاطر يصعب احتواؤها؟
