مخاوف من سماح OpenAI للمستخدمين بإنشاء محتوى غير أخلاقي بالذكاء الاصطناعي
بوابة الذكاء الاصطناعي - وحدة المتابعة
تستكشف OpenAI، الشركة المسؤولة عن ChatGPT، مدى جواز السماح للمستخدمين بإنشاء محتوى إباحي وغيره من المحتويات الصريحة بواسطة منتجاتها.
في حين أكدت الشركة أن حظرها للفيديوهات المزيفة سيظل ساريًا فيما يتعلق بالمواد الخاصة بالبالغين، أشار المدافعون عن الحقوق إلى أن هذا الاقتراح يضعف البيان الرسمي للشركة بإنتاج “ذكاء اصطناعي آمن ومفيد”.
كشفت OpenAI، التي تطور أيضًا مُولِّد الصور DALL-E، أنها تدرس السماح للمطورين والمستخدمين بإنشاء محتوى غير آمن للعمل (NSFW) بمنتجاتها بشكل “مسؤول”. وأشارت OpenAI إلى أن ذلك يمكن أن يشمل “الأدب الإباحي، والعنف المفرط، والشتائم، والكلام البذيء غير المرغوب فيه”.
وقالت الشركة: “نحن ندرس ما إذا كان بإمكاننا توفير القدرة على إنشاء محتوى غير آمن للعمل في سياقات مناسبة للعمر… ونتطلع إلى فهم توقعات المستخدم والمجتمع بشأن سلوك النموذج في هذا المجال”.
نُشر الاقتراح يوم الأربعاء ضمن وثيقة صادرة عن OpenAI تناقش كيفية تطوير أدواتها الذكاء الاصطناعي.
صرحت جوان جانج، موظفة في الشركة المتخصصة في سان فرانسيسكو التي عملت على الوثيقة، لوكالة الأنباء الأمريكية NPR أن OpenAI ترغب في بدء مناقشة حول ما إذا كان توليد النصوص الجنسية والصور العارية يجب دائمًا أن يكون محظورًا من منتجاتها. ومع ذلك، أكدت أن الفيديوهات المزيفة لن تُسمح بها.
قالت جانج: “نريد أن نضمن أن لدى الناس أقصى قدر من التحكم بقدر ما لا يخالف القانون أو حقوق الآخرين، ولكن السماح بالفيديوهات المزيفة ليس مطروحًا على الإطلاق”. وأضافت: “هذا لا يعني أننا نحاول الإنشاء إباحية بواسطة الذكاء الاصطناعي”.
ومع ذلك، اعترفت بأن ما إذا كان المحتوى الناتج يُعتبر إباحية “يعتمد على تعريفك”، مضيفةً: “هذه هي المناقشات التي نرغب في إجرائها بالضبط”.
وأشارت جانج إلى وجود “حالات إبداعية تتضمن الجنسية أو العري والتي تعد مهمة لمستخدمينا”، لكنها أكدت أن ذلك سيتم استكشافه في “سياق مناسب للعمر”.
وأفاد المتحدث باسم OpenAI في بيان صحفي يوم الخميس بأن الشركة ليس لديها نية لإنشاء إباحية تولدها الذكاء الاصطناعي. وقال: “لدينا ضمانات قوية في منتجاتنا لمنع الفيديوهات المزيفة، والتي لا يمكن قبولها، ونعطي الأولوية لحماية الأطفال. ونؤمن أيضًا بأهمية استكشاف المحادثات بعناية حول الجنسانية في سياقات مناسبة للعمر”.
هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي
