باحثون من معهد ماساتشوستس للتكنولوجيا يطورون تقنية تلقائية لفهم نماذج الذكاء الاصطناعي

مع انتشار نماذج الذكاء الاصطناعي بشكل متزايد واندماجها في مختلف القطاعات مثل الرعاية الصحية والتمويل والتعليم والنقل والترفيه، أصبح فهم كيفية عملها من الداخل أمراً بالغ الأهمية. ففهم آليات عمل نماذج الذكاء الاصطناعي يسمح لنا بمراجعة سلامتها وتحيزاتها، مع إمكانية تعميق فهمنا للعلوم الكامنة وراء الذكاء نفسه.

تخيل لو تمكنّا من التحقيق مباشرة في الدماغ البشري من خلال التلاعب بكل خلية عصبية فيه لفحص أدوارها في إدراك كائن معين. بينما ستكون مثل هذه التجربة غازية بشكل كبير في الدماغ البشري، فهي أكثر قابلية للتطبيق في نوع آخر من الشبكات العصبية: الشبكات العصبية الاصطناعية. ومع ذلك، وعلى غرار الدماغ البشري إلى حد ما، فإن النماذج الاصطناعية التي تحتوي على ملايين الخلايا العصبية كبيرة ومعقدة للغاية لدراستها يدويًا، مما يجعل قابلية التفسير على نطاق واسع مهمة صعبة للغاية.

للتغلب على هذا التحدي، قرر باحثون من مختبر علوم الكمبيوتر والذكاء الاصطناعي (CSAIL) بمعهد ماساتشوستس للتكنولوجيا اتباع نهج تلقائي لفهم نماذج الرؤية الاصطناعية التي تقيم خصائص مختلفة للصور. وقد طوروا نظام “MAIA” (وكيل التفسير التلقائي متعدد الوسائط)، وهو نظام يقوم بأتمتة مجموعة متنوعة من مهام قابلية تفسير الشبكات العصبية باستخدام نموذج لغة ورؤية أساسي مجهز بأدوات للتجربة على أنظمة الذكاء الاصطناعي الأخرى.

تقول تامار روت شاحام، باحثة ما بعد الدكتوراه في الهندسة الكهربائية وعلوم الكمبيوتر (EECS) في CSAIL والمؤلفة المشاركة في ورقة بحثية جديدة حول هذا البحث: “هدفنا هو إنشاء باحث ذكاء اصطناعي يمكنه إجراء تجارب قابلية التفسير بشكل مستقل. تقتصر طرق قابلية التفسير التلقائية الحالية على مجرد تصنيف أو تصور البيانات في عملية أحادية. من ناحية أخرى، يمكن لـ MAIA توليد فرضيات وتصميم تجارب لاختبارها وصقل فهمها من خلال تحليل متكرر”. “من خلال دمج نموذج لغة ورؤية مدرب مسبقًا مع مكتبة من أدوات قابلية التفسير، يمكن لطريقةنا متعددة الوسائط الاستجابة لاستعلامات المستخدمين من خلال تكوين وتشغيل تجارب مستهدفة على نماذج محددة، مع تحسين نهجها باستمرار حتى تتمكن من تقديم إجابة شاملة”.

وقد أثبت الوكيل التلقائي قدرته على معالجة ثلاث مهام رئيسية: فهو يصف مكونات فردية داخل نماذج الرؤية ويصف المفاهيم المرئية التي تنشطها، كما يقوم بتنظيف تصنيفات الصور من خلال إزالة الميزات غير ذات الصلة لجعلها أكثر مقاومة للمواقف الجديدة، ويقوم بالبحث عن التحيزات الخفية في أنظمة الذكاء الاصطناعي للمساعدة في الكشف عن مشكلات الإنصاف المحتملة في مخرجاتها. تقول سارة شفيتمان، دكتوراه 2021، عالمة أبحاث في CSAIL والمشرفة المشاركة على البحث: “لكن الميزة الرئيسية لنظام مثل MAIA هي مرونته”. “لقد أثبتنا فائدة MAIA في بعض المهام المحددة، لكن بالنظر إلى أن النظام مبني على نموذج أساسي ذو قدرات استدلال واسعة، يمكنه الإجابة على العديد من أنواع استعلامات قابلية التفسير من المستخدمين، وتصميم تجارب على الفور للتحقيق فيها”.

هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي