وكلاء الذكاء الاصطناعي يساعدون في شرح أنظمة الذكاء الاصطناعي الأخرى

منصة الذكاء الاصطناعي ـ متابعات

قدم باحثون من معهد ماساتشوستس للتكنولوجيا (MIT) طريقة جديدة تستخدم فيها الذكاء الاصطناعي لشرح الشبكات العصبية المعقدة تلقائيًا.

يظل شرح سلوك الشبكات العصبية المدربة لغزًا مثيرًا للاهتمام، خاصة بزيادة حجم وتعقيد هذه النماذج. تشير التحديات العلمية السابقة إلى أن فك شفرة كيفية عمل أنظمة الذكاء الاصطناعي يتطلب تجارب كثيرة، من افتراضات وتدخلات في السلوك، وحتى تحليل شبكات ضخمة لدراسة الخلايا العصبية الفردية. وحتى الآن، كانت التجارب الناجحة تعتمد بشكل كبير على المراقبة البشرية. ومن المؤكد أن شرح كل عملية حسابية داخل نماذج مثل GPT-4 وأكبر سيتطلب بالتأكيد المزيد من التلقائية، ربما باستخدام نماذج ذكاء اصطناعي.

لتسهيل هذا الجهد في الوقت المناسب، قام الباحثون في مختبر علوم الكمبيوتر والذكاء الاصطناعي بـ MIT (CSAIL) بتطوير نهج جديد يستخدم نماذج الذكاء الاصطناعي لإجراء تجارب على الأنظمة الأخرى وشرح سلوكها. يستخدم النهج وكلاء يتم بناؤهم من نماذج اللغة المدربة مسبقًا لإنتاج شروح بديهية لعمليات الحساب داخل الشبكات المدربة.

يلعب “وكيل التفسير التلقائي” (AIA) دورًا أساسيًا في هذا الاستراتيجية، حيث يقوم بتقليد عملية التجارب العلمية للعلماء. يخطط وكلاء التفسير وينفذون اختبارات على الأنظمة الحسابية الأخرى، سواء كانت للخلايا العصبية الفردية أو النماذج بأكملها، لإنتاج شروحات لهذه الأنظمة بأشكال متنوعة، مثل وصف لغوي لما يقوم به النظام وأين يفشل، وكود يعيد سلوك النظام.

هذا المحتوى تم بمعرفة وحدة الذكاء الاصطناعي