هل يمكن الدفاع عن هلوسات الذكاء الاصطناعي؟
منصة الذكاء الاصطناعي ـ متابعات
من المشكلات الكبيرة عندما يقوم الروبوتات الدردشة بنشر الحقائق غير الصحيحة. ولكن يجب علينا أيضًا أن نحتفل بهذه الهلوسات كحافز للإبداع البشري وعائق أمام سيطرة الآلات.
بحسب موقع wired، لا أحد يعرف ما إذا كان الذكاء الاصطناعي سيكون نعمة أم نقمة في المستقبل البعيد. ولكن في الوقت الحالي، يوجد تقريبًا عدم ارتياح وازدراء عالمي لعادة هذه الروبوتات والوكلاء: الهلوسات، تلك الحقائق الملفقة التي تظهر في نتائج النماذج اللغوية الكبيرة مثل ChatGPT. في منتصف إجابة تبدو وكأنها مُعدة بعناية، ستُدرج في النموذج شيئًا يبدو معقولًا ولكنه يعتبر اختراعًا تامًا. فالروبوت الدردشة النموذجي الخاص بك يمكن أن يجعل السياسي المخزي السابق جورج سانتوس يبدو وكأنه أبراهام لنكولن. وبما أنه يبدو لا مفر من أن تولد الروبوتات الدردشة في يوم من الأيام غالبية النصوص المكتوبة على الإطلاق، فإن جميع شركات الذكاء الاصطناعي مهووسة بتقليل واستبعاد الهلوسات، أو على الأقل إقناع العالم بأن المشكلة قيد الحل.
من الواضح أن قيمة النماذج اللغوية الكبيرة ستصل إلى مستوى جديد عندما تقترب الهلوسات من الصفر. ولكن قبل حدوث ذلك، أدعوكم لنرفع الكأس تحية لالهوسات الذكاء الاصطناعي.
تثير الهلوسات اهتمامي، على الرغم من أن علماء الذكاء الاصطناعي لديهم فكرة جيدة عن سبب حدوثها. قامت شركة الذكاء الاصطناعي تُدعى Vectara بدراسة الهلوسات وانتشارها، وحتى جمعت معدلات الهلوسة للنماذج المختلفة عندما تُطلب منها تلخيص وثيقة. (تعمل GPT-4 التابعة لشركة OpenAI بشكل جيد، حيث لا تهلوس إلا حوالي 3 في المئة من الوقت؛ وكان لدى Palm Chat التابعة لشركة Google، والتي أصبحتمهجورة الآن، معدل هلوسة مذهل قدره 27 في المئة، على الرغم من أن تلخيص الوثائق لم يكن ضمن اهتمام Palm Chat.) يقول المدير التنفيذي لشركة Vectara، أمين أحمد، إن النماذج اللغوية الكبيرة تقوم بإنشاء تمثيل مضغوط لجميع البيانات التدريبية التي تم إدخالها عبر خلاياها العصبية الاصطناعية. “طبيعة الضغط هي أن التفاصيل الدقيقة يمكن أن تفقد”، يقول. ينتهي النموذج بأن يكون مُجهزًا بالإجابات الأكثر احتمالًا للاستفسارات من المستخدمين ولكنه لا يملك الحقائق الدقيقة في متناوله. “عندما يصل إلى التفاصيل، يبدأ في ابتكار الأشياء”، يضيف.
درس سانتوش فيمبالا، أستاذ علوم الحاسوب في جورجيا تكنولوجي، الهلوسات أيضًا. “النموذج اللغوي مجرد نموذج احتمالي للعالم”، يقول، ليس مرآة صادقة للواقع. يشرح فيمبالا أن إجابة النموذج اللغوي الكبير تسعى للمعايرة العامة مع العالم الحقيقي – كما يُمثل في بيانات التدريب – والتي تعتبر “نسخة ضعيفة من الدقة”. وجدت بحثه، الذي نُشر بالتعاون مع آدم كالاي من شركة OpenAI، أن الهلوسات لا يُمكن تجنبها في حالة الحقائق التي لا يمكن التحقق منها باستخدام المعلومات المتاحة في بيانات التدريب للنموذج.
هذا هو العلم/الرياضيات وراء هلوسات الذكاء الاصطناعي، ولكنها ملفتة أيضًا للتجربة التي يمكن أن تثيرها في البشر. في بعض الأحيان، يمكن أن تبدو هذه الابتكارات الإنشائية أكثر مصداقية من الحقائق الفعلية، التي غالبًا ما تكون غريبة بشكل مدهش وغير مرضية. كم مرة تسمع شيئًا يوصف بأنه غريب لدرجة أن أي كاتب سينمائي لن يجرؤ على كتابته في فيلم؟ في هذه الأيام، في كل وقت! يمكن للهلوسات أن تغوينا بالظهور على أنها تربطنا بعالم أقل صدمة من الواقع الفعلي الذي نعيش فيه.
هذا المحتوى تم بمعرفة وحدة الذكاء الاصطناعي
