افتتاح OpenAI لمبادرات لتعزيز شفافية المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي

انضمت OpenAI إلى لجنة قيادة التحالف لأصالة ومصداقية المحتوى (C2PA)، وستدمج بيانات التعريف الوصفية للمعيار المفتوح في نماذجها الذكية القادرة على التوليد من أجل زيادة الشفافية فيما يتعلق بالمحتوى الذي يتم إنشاؤه.

يسمح المعيار C2PA بتوثيق المحتوى الرقمي باستخدام بيانات تعريف وصفية تثبت أصله، سواء تم إنشاؤه بالكامل بواسطة الذكاء الاصطناعي، أو تم تحريره باستخدام أدوات الذكاء الاصطناعي، أو تم التقاطه بالطرق التقليدية. وقد بدأت OpenAI بالفعل في إضافة بيانات التعريف الوصفية للصور من طراز DALL-E 3 الأحدث إلى إخراجها في ChatGPT وواجهة برمجة التطبيقات الخاصة بـ OpenAI. وسيتم دمج هذه البيانات التعريفية في نموذج توليد الفيديو القادم من OpenAI الذي يُسمى “سورا” عند إطلاقه بشكل أوسع.

وقالت OpenAI: “لا يزال بإمكان الأشخاص إنشاء محتوى مضلل بدون هذه المعلومات (أو يمكنهم إزالتها)، ولكنهم لن يتمكنوا بسهولة من تزوير هذه المعلومات أو تعديلها، مما يجعلها مصدرًا مهمًا لبناء الثقة”.

تأتي هذه الخطوة في ظل المخاوف المتزايدة بشأن إمكانية أن يؤدي المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي إلى إضلال الناخبين قبل الانتخابات الكبرى في الولايات المتحدة والمملكة المتحدة ودول أخرى هذا العام. ويمكن أن يساعد توثيق الوسائط التي تم إنشاؤها بواسطة الذكاء الاصطناعي في مكافحة الفيديوهات المزورة والمحتوى المعدل بغرض حملات نشر الأخبار الكاذبة.

على الرغم من أن التدابير التقنية تساعد، إلا أن OpenAI تسلم بأن تمكين أصالة المحتوى في الممارسة العملية يتطلب عملًا جماعيًا من المنصات والمبدعين والعاملين على المحالمحتوى. بالإضافة إلى دمج C2PA، تعمل OpenAI على تطوير طرق جديدة للأصالة مثل علامات مقاومة التلاعب للصوت ومصنفات كشف الصور لتحديد الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

قدمت OpenAI طلبات للحصول على وصول إلى مصنف الكشف عن الصور DALL-E 3 من خلال برنامج الوصول للباحثين. يتنبأ هذا الأداة بالاحتمالية التي ينبغي أن تكون بها الصورة قد نشأت من أحد نماذج OpenAI.

تظهر الاختبارات الداخلية دقة عالية في تمييز الصور غير الذكية عن الصور المرئية DALL-E 3، حيث يتم تحديد حوالي 98% من صور DALL-E بشكل صحيح وأقل من 0.5% من الصور غير الذكية تم تمييزها بشكل خاطئ. ومع ذلك، يواجه المصنف صعوبة أكبر في التفريق بين الصور التي تم إنشاؤها بواسطة DALL-E ونماذج أخرى للذكاء الاصطناعي التوليدية.

علاوة على ذلك، قامت OpenAI بدمج علامات مائية في نموذج صوتي مخصص يُسمى Voice Engine، والذي يتم تجريبه حاليًا بشكل محدود.

تعتقد الشركة أن زيادة اعتماد معايير الأصالة ستؤدي إلى مرافقة المحتوى بيانات التعريف الوصفية طوال دورة حياته لسد “فجوة حاسمة في ممارسات صحة المحتوى الرقمي”.

تنضم OpenAI إلى Microsoft لإطلاق صندوق مقاومة المجتمع بقيمة 2 مليون دولار لدعم التعليم والفهم حول الذكاء الاصطناعي، بما في ذلك من خلال AARP والمنظمة الدولية للديمقراطية والانتخاب وشراكة الذكاء الاصطناعي.

تقول OpenAI: “بينما توفر الحلول التقنية أدوات نشطة للدفاع، فإن تمكين أصالة المحتوى في الممارسة العملية يتطلب عملًا جماعيًا”.

تضيف OpenAI: “جهودنا المتعلقة بالأصالة هي جزء واحد فقط من جهود صناعة أوسع – العديد من مختبرات بحثنا النظيرة وشركات الذكاء الاصطناعي التوليدية الأخرى تقوم أيضًا بتقدم البحوث في هذا المجال. نشيد بتلك الجهود – يجب على الصناعة أن تتعاون وتشارك الأفكار.

 هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي