هل يسهل الذكاء الاصطناعي إنتاج أغاني الكراهية؟

بحسب تقرير لشركة ActiveFence المتخصصة في إدارة مسائل الثقة والأمان على المنصات الإلكترونية، شهدت المنتديات والمجتمعات المتطرفة ذات الصلة بخطاب الكراهية زيادة ملحوظة منذ مارس الماضي في المناقشات حول كيفية استغلال أدوات الذكاء الاصطناعي المتاحة لإنشاء أغان مسيئة وكراهوية تستهدف مجموعات عرقية وجنسانية وطائفية.

وتؤكد شركة ActiveFence أن المستخدمين في هذه المنتديات يشاركون أساليب للتحايل على أنظمة الفلترة المدمجة في هذه الأدوات، من خلال استخدام بدائل صوتية أو إملائية لبعض المصطلحات المحظورة، بما في ذلك الإشادة بأعمال إرهابية وتمجيد العنف الجنسي.

وتحذر الشركة من أن هذه الاتجاهات ستتسارع مع انتشار استخدام تلك الأدوات، مما سيمكن أولئك الذين لا يمتلكون المهارات التقنية أو الإبداعية من إنتاج محتوى جذاب ونشره على نطاق واسع. وتناشد منصات إنشاء الموسيقى باستخدام الذكاء الاصطناعي تعزيز أنظمة المراقبة والرقابة لمنع هذا الاستغلال السيئ.

هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي