قفزة جديدة في تأمين أنظمة الذكاء الاصطناعي

ابتكر باحثون من معهد ماساتشوستس للتكنولوجيا وجهات أخرى تقنيات جديدة لضمان استقرار وسلامة أنظمة الذكاء الاصطناعي المُعَقَّدة، وذلك بتطوير خوارزمية فعالة لإيجاد وتحقيق “وظيفة لياباونوف” التي تضمن استقرار النظام.

هذه التقنية الجديدة قد تمكّن من نشر روبوتات وسيارات ذاتية القيادة بما في ذلك الطائرات والمركبات الفضائية بطريقة أكثر أمانًا. فقد طوّر الباحثون طرقًا لإنشاء أمثلة تحذيرية أرخص، والتي ساعدت الآلات على التعلم كيفية التعامل مع الظروف الصعبة، مما مكّنها من العمل بنطاق أوسع بأمان. كما طوروا صياغة جديدة للتحقق تسمح باستخدام مُتحقق شبكة عصبية قابل للتطوير لتوفير ضمانات للسيناريوهات الأسوأ.

“لقد شهدنا أداءً تجريبيًا مвпطراديًا في الآلات المُسيطر عليها بالذكاء الاصطناعي، ولكن هذه التحكمات تفتقر إلى الضمانات الرسمية الضرورية للأنظمة الحرجة من حيث السلامة،” كما قال لوجي يانج، طالب الدكتوراه في الهندسة الكهربائية وعلوم الحاسب الآلي بمعهد ماساتشوستس للتكنولوجيا وزميل في معهد أبحاث الذكاء الاصطناعي. “تسد أبحاثنا الفجوة بين مستوى الأداء من وحدات التحكم بالشبكات العصبية والضمانات السلامة اللازمة لنشر وحدات التحكم العصبية الأكثر تعقيدًا في العالم الحقيقي.”

هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي