المركز الأوروبي لدراسات مكافحة الإرهاب والاستخبارات ـ ألمانيا وهولندا ECCI.
الذكاء الاصطناعي ـ إلى أي مدى أصبح تحديًا للأمن السيبراني الأوروبي؟
يشهد الذكاء الاصطناعي الأوروبي تطورًا متسارعًا باعتباره أحد الركائز الأساسية لتعزيز الأمن السيبراني وحماية البنية التحتية الرقمية في مواجهة التهديدات المتزايدة. وتسعى دول الاتحاد الأوروبي إلى تطوير حلول سيادية تقلل الاعتماد على التقنيات الأجنبية، مع توظيف الذكاء الاصطناعي في كشف الهجمات الإلكترونية وتحليل المخاطر وتعزيز أمن البيانات والشبكات الحيوية.
تقييم القدرات السيبرانية في اختراق البنية التحتية
أدت الإفصاحات المتعلقة بشركتي OpenAI وAnthropic إلى تحويل سلامة وكلاء الذكاء الاصطناعي من قضية نظرية إلى مسألة تنظيمية بالنسبة لبروكسل، في وقت يستعد فيه الاتحاد الأوروبي لتشديد تطبيق قانون الذكاء الاصطناعي. وتضع الإفصاحات الجديدة بشأن وصول وكلاء الذكاء الاصطناعي إلى أنظمة خارج بيئات الاختبار المخصصة لها ضغوطًا متزايدة على الجهات التنظيمية في الاتحاد الأوروبي لإثبات ما إذا كان قانون الذكاء الاصطناعي قادرًا على التعامل مع النماذج المتقدمة التي تعمل عبر البنية التحتية الرقمية الحية. كانت شركة OpenAI قد أقرت بالفعل بوقوع حادث أمني شاركت فيه نماذج استُخدمت خلال تقييم القدرات السيبرانية في اختراق البنية التحتية لمنصة Hugging Face. ووفقًا لروايتها الخاصة للحادث، فقد شملت الواقعة نماذج كانت تخضع للاختبار مع تقليل قيود رفض تنفيذ المهام السيبرانية لأغراض التقييم.
اتسع نطاق القضية بعد أن ذكرت وكالة Associated Press أن شركة Anthropic كشفت عن حالات تمكنت فيها نماذج Claude من الوصول غير المصرح به إلى ثلاث مؤسسات خلال اختبارات الأمن السيبراني. وأوضحت Anthropic أن هذه الحوادث وقعت أثناء تدريبات محاكاة، إلا أن النماذج تفاعلت مع أنظمة حقيقية نتيجة خلل في إعدادات بيئة الاختبار.
مشكلة الاحتواء
لا تتمثل القضية الأساسية بالنسبة لبروكسل في ما إذا كانت نماذج الذكاء الاصطناعي قادرة على المساعدة في الأبحاث السيبرانية، فذلك أصبح أمرًا واضحًا بالفعل. أما السؤال الأكثر صعوبة فهو ما إذا كان المطورون قادرين على احتواء الوكلاء بصورة موثوقة عندما تُمنح لهم أدوات وأهداف وبيئات اختبار تشبه البنية التحتية الحقيقية. ويختلف وكلاء الذكاء الاصطناعي عن روبوتات الدردشة التقليدية لأنهم قادرون على اتخاذ خطوات لتحقيق هدف محدد، مثل فحص الأنظمة، واستخدام الأدوات، وتجربة بيانات الاعتماد، واتباع التعليمات، والتكيف مع التغذية الراجعة. ويمنحهم ذلك قيمة عملية كبيرة في أعمال الأمن الدفاعي، لكنه يجعل تصميم الاختبارات أكثر خطورة إذا فشلت الحدود المفروضة على بيئة الاختبار. كما أكدت شركة Anthropic بصورة منفصلة، في إطارها القائم على مبدأ “انعدام الثقة” لوكلاء الذكاء الاصطناعي، أن نشر هؤلاء الوكلاء يتطلب تعزيز إدارة الهوية، وضوابط الوصول، وبيئات العزل، وآليات المراقبة. وقد اكتسب هذا الطرح الآن بعدًا تنظيميًا. فإذا كانت المختبرات الرائدة نفسها تواجه صعوبات في احتواء الوكلاء أثناء الاختبارات، فقد يتساءل المنظمون عما إذا كانت الضمانات الطوعية كافية.
لماذا أصبحت بروكسل معنية؟
يدخل قانون الذكاء الاصطناعي للاتحاد الأوروبي مرحلة أكثر تشغيلًا. وتعمل بروكسل على توسيع قدراتها التنفيذية للتعامل مع مخاطر الذكاء الاصطناعي، بما في ذلك التزييف العميق، والمحتوى غير المشروع، وعمليات الاختراق. وتكتسب هذه الخطوة أهمية لأن الحوادث المرتبطة بوكلاء الذكاء الاصطناعي تتقاطع مع عدة ملفات تهم الاتحاد الأوروبي، منها الأمن السيبراني، والمخاطر النظامية، ومساءلة المنصات، والحقوق الأساسية. ولن يكون من المتوقع أن يحقق مكتب الذكاء الاصطناعي التابع للمفوضية الأوروبية في كل إخفاق تقني. لكنه سيُقيَّم بناءً على قدرته على الحصول على معلومات ذات قيمة من كبار مطوري الذكاء الاصطناعي، وتقييم ما إذا كانت الأنظمة عالية القدرات تخلق مخاطر لا تكشفها إجراءات المطابقة الحالية.
من سلامة النماذج إلى سلامة البنية التحتية
تمثل هذه الحوادث كذلك تحديًا للطريقة التي يتناول بها صناع السياسات مفهوم سلامة الذكاء الاصطناعي. إذ يتركز جزء كبير من النقاش العام على الإشراف على المحتوى، والمعلومات المضللة، والتحيز. أما احتواء وكلاء الذكاء الاصطناعي فهو قضية مختلفة، إذ يتعلق بما تستطيع الأنظمة القيام به عند ربطها بالأدوات والشبكات. وبالنسبة للشركات، فإن القيمة التجارية لهؤلاء الوكلاء واضحة. فهم قادرون على اختبار البرمجيات، واكتشاف الثغرات، وأتمتة عمليات الامتثال، وتسريع أعمال الأمن السيبراني. أما بالنسبة للجهات التنظيمية، فإن الخطر يتمثل في أن القدرات نفسها قد تؤدي إلى وصول غير مصرح به إذا فشلت الأذونات، أو التعليمات، أو بيئات العزل. ولا يحتاج الاتحاد الأوروبي إلى إثبات أن وكلاء الذكاء الاصطناعي يمثلون تهديدات مستقلة حتى يبرر إخضاعهم للتدقيق. فالمسألة التنظيمية أكثر تحديدًا وأكثر عملية، وتتمثل في ما إذا كانت الشركات التي تنشر أو تختبر وكلاء ذوي قدرات متقدمة قادرة على إثبات أن بيئاتها تمنع انتقال آثار الاختبارات إلى الأنظمة الحقيقية.
رابط مختصر.. https://www.europarabct.com/?p=122333
*حقوق النشر محفوظة إلى المركز الأوروبي لدراسات مكافحة الإرهاب والاستخبارات
