المركز الأوروبي لدراسات مكافحة الإرهاب والاستخبارات ـ ألمانيا وهولندا ECCI
الذكاء الاصطناعي ـ هل أصبح ساحة جديدة للحرب الهجينة الروسية؟
أعاد تطور الذكاء الاصطناعي فتح نقاش واسع حول مخاطر المعلومات المضللة وإمكانية استغلال نماذج اللغات الكبيرة في نشر روايات دعائية ضمن سياقات الحرب الهجينة. ويكشف تقرير بحثي جديد كيف يمكن لمحتوى منسوب إلى جهات خاضعة لعقوبات أن يجد طريقه إلى بعض استجابات أنظمة الذكاء الاصطناعي، بما يفرض تحديات متزايدة أمام موثوقية المعلومات والأمن الرقمي الأوروبي.
الذكاء الاصطناعي والمعلومات المضللة
تستشهد روبوتات الذكاء الاصطناعي بروباغندا روسية من منافذ خاضعة لعقوبات الاتحاد الأوروبي، وفقًا لباحثين، مما يثير تساؤلات حول كيفية توسع الحرب الهجينة للتأثير على نماذج الذكاء الاصطناعي. حيث أفادت تقارير بأن نماذج الذكاء الاصطناعي الرئيسية مثل “غوغل جيميناي” استشهدت بروباغندا مؤيدة لروسيا من منفذ مفروض عليه عقوبات من الاتحاد الأوروبي عند توليد الاستجابات، بما في ذلك مزاعم تشير إلى أن أوكرانيا تستخدم أجساد الجنود القتلى في المنتجات الغذائية. كما توجد مؤشرات على أن الفاعلين الأجانب المنخرطين في أنشطة حرب المعلومات الهجينة، مثل روسيا، قد يستغلون قطاع “تحسين المحركات التوليدية” المتنامي، والذي يهدف إلى التأثير على المعلومات التي تتلقاها نماذج اللغات الكبيرة، وفقًا لتقرير جديد نشره باحثون من مركز الفكر البريطاني المستقل “ديموس”، والمشارك حصريًا مع فريق تحقق الحقائق في يورونيوز “ذا كيوب”.
ما دور فاغنر الروسية؟
اختار الباحثون 50 رواية بروباغندا من 10 مقالات نشرتها “مؤسسة مكافحة الظلم” أو “r-FBI”. تأسست هذه المنظمة في عام 2021، وتقدم نفسها كمنظمة غير حكومية تعمل على كشف التمييز والرقابة وتحقيق حالات الاضطهاد. لكنها في الحقيقة منظمة حقوق إنسان مزيفة أسسها المالك المتوفي لشركة “فاغنر” العسكرية الروسية الخاصة، يفغيني بريغوجين. والمنظمة فرضت عليها عقوبات من قبل الولايات المتحدة والاتحاد الأوروبي. كانت المزاعم التي اختارها الباحثون “صادمة”، وفقًا لكارل ميلر، الشريك المؤسس لمركز تحليل وسائل التواصل الاجتماعي، وهو وحدة بحثية أسسها مركز الفكر “ديموس”. وقال ميلر: “إنها ليست مزاعم تنتمي إلى أي نوع من الخطاب السائد. إنها ادعاءات بأن أوكرانيا تعيد استخدام جثث الجنود القتلى للمنتجات الغذائية، وأن زيلينسكي يستنزف شبكة العملات المشفرة وهذا هو السبب في نفاد الطاقة في أوكرانيا. وجدنا أن نماذج اللغات الكبيرة تتعامل معها كأجزاء مشروعة من النقاش”. لإجراء بحثهم، اختبر الباحثون 5 نماذج لغات كبيرة رئيسية تدار بواسطة xAI وOpenAI وAnthropic وGoogle Gemini وMistral AI وصاغوا مطالبات بثلاث لغات (الإنكليزية والألمانية والفرنسية) بناءً على روايات البروباغندا الواردة في مقالات المنظمة.
كيف ضخمت نماذج اللغات الكبيرة البروباغندا الروسية
وجد الباحثون أن جميع نماذج اللغات الكبيرة الخمسة استشهدت بالمنظمة كمصدر إيجابي. تفاعلت نسبة 16.6% إجمالاً من الاستجابات مع مواد المنظمة بطريقة تخدم مصالح البروباغندا، إما عبر تقديم تقارير المنظمة كجزء مشروع من النقاش وتكرار المزاعم دون نقد، أو عبر تأييد تلك الروايات بنشاط. في الوقت نفسه، تناولت نسبة 30.9% من الاستجابات الموضوع الأساسي المذكور في المطالبة، لكنها فشلت في إظهار سياق المصدر المفروض عليه عقوبات إطلاقًا، مما ترك المستخدمين دون علم بأن الاستجابة استخدمت أصل تأثير محدد كمصدر. في حين رفضت أو فندت نسبة 52% من الإجابات المزاعم الزائفة بطريقة ما.
عندما سأل الباحثون نموذج GPT 4.1 Mini من شركة OpenAI عن ادعاءات إرسال لحوم بشرية معالجة إلى مستودعات الخطوط الأمامية الأوكرانية وإلى سلاسل التجزئة المحلية، استشهد النموذج بمقال من المنظمة في استجابته كدليل لدعم هذه المزاعم. وعند السؤال عن مشاريع تعدين العملات المشفرة للرئيس الأوكراني فولوديمير زيلينسكي وهو ادعاء متكرر يدفعه فاعلون مقربون من الكرملين دعم نموذج Mistral Small 3.2 التابع لشركة الذكاء الاصطناعي الفرنسية Mistral هذه المزاعم، مستشهدًا مجددًا بتحقيق مزعوم استمر أشهرًا بواسطة المنظمة. وفي استجابته، سلط النموذج الضوء على “الصلة بين الحالة الحرجة لنظام الطاقة في أوكرانيا وأنشطة كبار المسؤولين في الدائرة المقربة للرئيس زيلينسكي”.
معركة تحسين المحركات التوليدية
مع تحول المزيد من الأفراد إلى روبوتات الدردشة بدلاً من محركات البحث التقليدية أو المنافذ الإخبارية، برز صناعة متنامية بسرعة تهدف إلى التأثير على كيفية جمع نماذج الذكاء الاصطناعي لمصادرها. تُعرف هذه الممارسة كذلك باسم تحسين المحركات التوليدية. واستنادًا إلى قواعد تحسين محركات البحث التقليدية وهو مجال طور للتأثير على النتائج في منصات البحث التقليدية يعمل تحسين المحركات التوليدية على التأثير على النتائج التي تولدها منصات الذكاء الاصطناعي. تقول هانا بيري، مديرة السياسات الرقمية في مركز الفكر “ديموس”: “يتم إنشاء معلومات جديدة خصيصًا لنماذج اللغات الكبيرة، ولكن في هذه الحالة، يتصل الأمر بمحتوى جديد يُقدم للعلامات التجارية والتسويق، أو تعديل المحتوى الموجود بالفعل عبر الإنترنت باستخدام منتديات المستخدمين مثل ريديت وكورا وويكيبيديا”.
بالنسبة للباحثين، هناك خطر حقيقي من أن الفاعلين الذين يجرون عمليات تدخل أجنبي هجين قد يركزون على هذه التكتيكات ويستغلون منطقة رمادية تنظيمية. وقال ميلر: “بحثنا لا يقول إن شركات تحسين المحركات التوليدية تنفذ حرب معلومات نيابة عن الدول. ما نردده هو أنها تبني حرفة وقدرة بسرعة كبيرة وحافز تجاري هائل، والتي يمكن تحويلها بسهولة شديدة إلى وجهة نظر معادية”. وأضافت بيري: “في هذه الحالة الخاصة، يعتقد الذكاء الاصطناعي خطأً أن المنظمة هي منظمة حقوق إنسان مشروعة. يعود ذلك إلى كل هذا الخداع والإعداد التقني، مئات التفاصيل التقنية الصغيرة التي أحاط بها الروس هذه الوثائق، والتي تسمح لها بأن تصبح مرئية عندما لا ينبغي لها ذلك إطلاقًا. هذه حرب معلومات”.
أوضح متحدث باسم Mistral إن الشركة تأخذ مكافحة التضليل بجدية شديدة وتضمن الاستثمار المستمر في قدرات الكشف والوقاية المتقدمة. كما ميزت الشركة بين النماذج الخام المستخدمة في دراسة “ديموس” ونظام Vibe Work، مشيرة إلى أنه بينما تمنح النماذج الخام الحرية للمستخدمين في المطالبات، يعمل نظام Vibe Work مع وكيل جاهز للاستخدام يمتلك قدرات تفكير وفحص سياقي مدمجة. وأفادت OpenAI بأن الدراسة استخدمت نموذجًا تم سحبه سابقًا وكان متاحًا فقط عبر واجهة برمجة التطبيقات للمطورين بدلاً من ChatGPT المتاح للعامة، مؤكدة وجود فرق مخصصة لتعطيل عمليات التأثير منخفضة المصداقية أو المشبوهة. وقال مصدر مطلع في Anthropic إن أنظمة إنفاذ متطورة مطبقة للحد من انتشار التضليل، مضيفًا أن فريق استخبارات التهديدات يعمل على كشف وتعطيل عمليات التأثير الأجنبي، وأن نموذجها برمج لتقديم نطاق واسع من وجهات النظر.
رابط مختصر.. https://www.europarabct.com/?p=121675
*حقوق النشر محفوظة إلى المركز الأوروبي لدراسات مكافحة الإرهاب والاستخبارات
