مخاوف داخلية وخارجية: مطالب موظفي الذكاء الاصطناعي لحماية البشرية

تشهد شركة OpenAI موجة من التوترات الداخلية والانتقادات الخارجية بسبب ممارساتها وبسبب المخاطر المحتملة لتقنيتها. في مايو، غادر عدد من الموظفين البارزين الشركة، بما في ذلك Jan Leike، رئيس جهود “المحاذاة الفائقة” في OpenAI والتي تهدف إلى ضمان بقاء أنظمة الذكاء الاصطناعي المتقدمة متوافقة مع القيم الإنسانية. وقد جاء رحيل Leike بعد فترة قصيرة من إطلاق OpenAI لنموذجها الرئيسي الجديد GPT-4، والذي وصفته الشركة بأنه “سحري”.

وفقًا للتقارير، كان رحيل Leike مدفوعًا بخلافات مستمرة بشأن تدابير الأمان وممارسات المراقبة والأولوية التي أُعطيت لإصدارات المنتجات المثيرة للاهتمام على حساب اعتبارات السلامة.

لقد أدى رحيل Leike إلى فتح صندوق باندورا للشركة. وقد خرج أعضاء سابقون في مجلس إدارة OpenAI بادعاءات بشأن إساءة المعاملة النفسية الموجهة ضد الرئيس التنفيذي Sam Altman وقيادة الشركة.

وتتزامن الاضطرابات الداخلية المتنامية في OpenAI مع مخاوف خارجية متزايدة بشأن المخاطر المحتملة التي تشكلها تقنيات الذكاء الاصطناعي التوليدية مثل نماذج اللغة الخاصة بالشركة. وقد حذر النقاد من التهديد الوشيك على وجود الإنسان الناجم عن تخطي الذكاء الاصطناعي المتقدم للقدرات البشرية، فضلاً عن المخاطر الأكثر فورية مثل الاستبدال الوظيفي واستخدام الذكاء الاصطناعي لحملات التضليل المعلوماتي والتلاعب.

وكرد فعل على ذلك، قام مجموعة من الموظفين الحاليين والسابقين في OpenAI وAnthropic وDeepMind وشركات الذكاء الاصطناعي الرائدة الأخرى بكتابة رسالة مفتوحة تتناول هذه المخاطر.

وتنص الرسالة على أربع مطالب أساسية تهدف إلى حماية مبلغي المخالفات وتعزيز الشفافية والمساءلة في تطوير الذكاء الاصطناعي.

وأكد Daniel Kokotajlo، وهو موظف سابق في OpenAI غادر الشركة بسبب مخاوفه بشأن قيم الشركة وافتقارها إلى المسؤولية، أن “الشركات وآخرين قد اشتروا الاستراتيجية المتمثلة في ‘التحرك السريع وكسر الأشياء’، وهذا هو العكس تمامًا مما هو مطلوب لتكنولوجيا بهذه القوة وبهذا القدر من سوء الفهم”.

وتأتي هذه المطالب وسط تقارير تفيد بأن OpenAI قد أجبرت الموظفين المغادرين على توقيع اتفاقيات عدم الإفصاح تمنعهم من انتقاد الشركة أو مواجهة خطر فقدان أسهمهم المكتسبة. واعترف الرئيس التنفيذي لـ OpenAI، Sam Altman، بأنه “محرج” من الموقف ولكنه ادعى أن الشركة لم تتمكن فعليًا من استرداد أسهم أي شخص.

وفي ظل تقدم الثورة الذكاء الاصطناعي، فإن الاضطرابات الداخلية ومطالب مبلغي المخالفات في OpenAI تؤكد على الآلام والقضايا الأخلاقية غير المحلولة المحيطة بهذه التكنولوجيا.

هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي