خطة أمنية رقمية: كيف أحبطت OpenAI خمس عمليات تأثير سرية

في آخر ثلاثة أشهر، تمكنت شركة OpenAI من إحباط خمس عمليات تأثير سرية (IO) حاولت استغلال نماذج الشركة لأنشطة خادعة على الإنترنت. اعتبارًا من مايو 2024، لم تُظهر هذه الحملات زيادة كبيرة في مشاركة الجمهور أو الوصول إليه بسبب خدمات OpenAI.

تدّعي OpenAI أن التزامها بتصميم نماذج الذكاء الاصطناعي مع مراعاة الأمان غالبًا ما أحبط محاولات الجهات الفاعلة الضارة لإنتاج المحتوى المرغوب. بالإضافة إلى ذلك، تقول الشركة إن أدوات الذكاء الاصطناعي عززت كفاءة التحقيقات الخاصة بها.

ساهم التقرير التفصيلي للتهديدات من قبل منصات التوزيع والمجتمع المفتوح المصدر بشكل كبير في مكافحة IO. تشارك OpenAI هذه النتائج لتعزيز تبادل المعلومات وأفضل الممارسات بين مجموعة أصحاب المصلحة الأوسع.

إحباط عمليات التأثير السرية
في الأشهر الثلاثة الماضية، أحبطت OpenAI العديد من عمليات IO باستخدام نماذجها لمهام متنوعة، مثل توليد تعليقات قصيرة وإنشاء ملفات تعريف زائفة على وسائل التواصل الاجتماعي والقيام بأبحاث مفتوحة المصدر وإصلاح الشفرات البسيطة والترجمة النصوص.

تشمل العمليات المحبطة ما يلي:

“قواعد نحوية سيئة”: عملية لم يُبلغ عنها من قبل من روسيا تستهدف أوكرانيا وجمهورية مولدوفا والدول البلطيقية والولايات المتحدة. استخدمت هذه المجموعة نماذج OpenAI لتصحيح الشفرة لتشغيل بوت التليجرام وإنشاء تعليقات سياسية باللغتين الروسية والإنجليزية ونشرها على Telegram.
“نظير”: عملية روسية أخرى تُنشئ تعليقات بلغات متعددة على منصات مثل X و 9GAG، وترجمة وتحرير المقالات، وإنشاء عناوين رئيسية، وتحويل المقالات الإخبارية إلى منشورات على Facebook.
“Spamouflage”: شبكة صينية تستخدم نماذج OpenAI لأبحاث النشاط الاجتماعي العام، وتوليد نصوص بلغات متعددة، وإصلاح الشفرة لإدارة قواعد البيانات والمواقع الإلكترونية.
“الاتحاد الدولي للإعلام الافتراضي (IUVM)”: عملية إيرانية تُنشئ وتترجم مقالات طويلة الأمد وعناوين رئيسية ووسوم المواقع الإلكترونية، ويتم نشرها على موقع إلكتروني مرتبط.
“Zero Zeno”: شركة تجارية في إسرائيل، مع عمليات تُنشئ مقالات وتعليقات تُنشر على منصات متعددة، بما في ذلك Instagram و Facebook و X والمواقع المرتبطة بها.
ركز المحتوى الذي نشرته هذه العمليات على مجموعة متنوعة من القضايا، بما في ذلك غزو روسيا لأوكرانيا والصراع في غزة والانتخابات الهندية والسياسة الأوروبية والأمريكية وانتقادات للحكومة الصينية.

على الرغم من هذه الجهود، لم تُظهر أي من هذه العمليات زيادة كبيرة في مشاركة الجمهور بسبب نماذج OpenAI. باستخدام مقياس Breakout الخاص بمعهد بروكينغز – الذي يقيِّم تأثير عمليات IO السرية – لم تحصل أي من العمليات الخمس على درجة أعلى من 2، مما يشير إلى النشاط على العديد من المنصات ولكن ليس إلى إنطلاق أصيل في المجتمعات الحقيقية.

اتجاهات المهاجمين
كشفت التحقيقات في هذه عمليات التأثير عن عدة اتجاهات:

توليد المحتوى: استخدم الجهات الفاعلة الضارة خدمات OpenAI لتوليد كميات كبيرة من النص مع وجود أخطاء لغوية أقل مما كان يمكن أن يحققه المشغلون البشريون بمفردهم.
الخلط بين القديم والجديد: تم استخدام الذكاء الاصطناعي جنبًا إلى جنب مع التنسيقات التقليدية، مثل النصوص المكتوبة يدويًا أو الملصقات المنسوخة.
التظاهر بالمشاركة: قامت بعض الشبكات بتوليد ردود على منشوراتها الخاصة لخلق شكل من أشكال المشاركة، على الرغم من عدم قدرتها على جذب مشاركة حقيقية.
مكاسب الإنتاجية: استخدم الجهات الفاعلة الضارة الذكاء الاصطناعي لتعزيز الإنتاجية، مع تلخيص منشورات وسائل التواصل الاجتماعي وإصلاح الشفرة.

 هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي