بوت وروبوتبرامج وتطبيقات

سيسكو: تأمين المؤسسات في عصر الذكاء الاصطناعي

 بوابة الذكاء الاصطناعي - وحدة المتابعة 

المخاطر عالية، مع عواقب محتملة كبيرة. فوفقًا لمؤشر جاهزية الذكاء الاصطناعي لعام 2024 من سيسكو، تشعر 29% فقط من المنظمات التي شملها الاستطلاع بأنها مجهزة بشكل كامل للكشف عن التدخلات غير المصرح بها في تقنيات الذكاء الاصطناعي ومنعها.

التحقق المستمر من صحة النماذج

يقول دي جيه سامباث، رئيس قسم برمجيات ومنصات الذكاء الاصطناعي في سيسكو: “عندما نتحدث عن التحقق من صحة النموذج، فهو ليس شيئًا يتم مرة واحدة فقط، أليس كذلك؟ أنت تقوم بالتحقق من صحة النموذج بشكل مستمر. لذلك، عندما ترى تغييرات تحدث في النموذج – إذا كنت تقوم بأي نوع من أنواع الضبط الدقيق، أو اكتشفت هجمات جديدة بدأت في الظهور وتحتاج النماذج إلى التعلم منها – فإننا نتعلم باستمرار كل هذه المعلومات ونعيد التحقق من صحة النموذج لمعرفة كيفية تصرف هذه النماذج تحت هذه الهجمات الجديدة التي اكتشفناها.

“النقطة المهمة الأخرى هي أن لدينا فريقًا متقدمًا جدًا لبحث التهديدات ينظر باستمرار إلى هجمات الذكاء الاصطناعي هذه ويفهم كيف يمكن تعزيز هذه الهجمات. في الواقع، نحن نساهم في مجموعات العمل داخل منظمات المعايير مثل MITRE و OWASP و NIST.”

إلى جانب منع النتائج الضارة، تعالج سيسكو نقاط الضعف في نماذج الذكاء الاصطناعي أمام التأثيرات الخارجية الخبيثة التي يمكن أن تغير سلوكها. وتشمل هذه المخاطر هجمات حقن المطالبات، وكسر الحماية، وتسميم بيانات التدريب – وكلها تتطلب إجراءات وقائية صارمة.

التطور يجلب تعقيدات جديدة

قدم فرانك ديكسون، نائب الرئيس الأول لمجموعة الأمن والثقة في IDC، رؤيته لتطور الأمن السيبراني بمرور الوقت وما تعنيه التطورات في الذكاء الاصطناعي للصناعة.

“كان الاتجاه الكلي الأول هو انتقالنا من الأنظمة الداخلية إلى السحابة، وهذا أدخل مجموعة كاملة من المشكلات الجديدة التي كان علينا معالجتها. ثم مع انتقال التطبيقات من التطبيقات الموحدة إلى الخدمات الدقيقة، رأينا مجموعة كاملة من مجموعات المشكلات الجديدة.

“الذكاء الاصطناعي وإضافة نماذج اللغات الكبيرة… نفس الشيء، مجموعة كاملة من مجموعات المشكلات الجديدة.”

تزداد تعقيدات أمن الذكاء الاصطناعي مع تحول التطبيقات إلى نماذج متعددة. ويمكن أن تنشأ نقاط الضعف على مستويات مختلفة – من النماذج إلى التطبيقات – مما يضرّ أصحاب المصلحة المختلفين مثل المطورين، والمستخدمين النهائيين، والبائعين.

“بمجرد انتقال تطبيق من الأنظمة الداخلية إلى السحابة، ظل هناك نوعًا ما. نعم، قمنا بتطوير تطبيقات عبر سُحُب متعددة، ولكن بمجرد وضع تطبيق في AWS أو Azure أو GCP، لم نقم بنقله عبر بيئات السحابة المختلفة شهريًا أو ربع سنويًا أو أسبوعيًا، أليس كذلك؟

“بمجرد الانتقال من تطوير التطبيقات الموحدة إلى الخدمات الدقيقة، فإنك تبقى هناك. بمجرد وضع تطبيق في Kubernetes، لا تعود إلى شيء آخر.

“عندما تسعى إلى تأمين نموذج لغة كبير، فإن الشيء المهم الذي يجب ملاحظته هو تغير النموذج. وعندما نتحدث عن تغير النموذج، فإنه لا يشبه التنقيح… هذا الأسبوع ربما يستخدم [المطورون] Anthropic، والأسبوع القادم قد يستخدمون Gemini.

“إنها مختلفة تمامًا، ومتجهات التهديد لكل نموذج مختلفة تمامًا. لكل منها نقاط قوتها، ولكل منها نقاط ضعفها الكبيرة.”

على عكس تدابير السلامة التقليدية المدمجة في النماذج الفردية، توفر سيسكو عناصر تحكم لبيئة متعددة النماذج من خلال نظام AI Defense الذي تم الإعلان عنه مؤخرًا. الحل ذو تحسين ذاتي، باستخدام خوارزميات التعلم الآلي الخاصة بشركة سيسكو لتحديد مخاوف السلامة والأمن المتطورة للذكاء الاصطناعي – مستفيدًا من معلومات التهديدات من Cisco Talos.

التكيف مع الوضع الطبيعي الجديد

شارك جيتو باتيل، نائب الرئيس التنفيذي ورئيس قسم المنتجات في سيسكو، وجهة نظره بأن التطورات الكبيرة في فترة زمنية قصيرة تبدو دائمًا ثورية ولكنها سرعان ما تشعر بأنها طبيعية.

“Waymo، كما تعلمون، هي سيارات ذاتية القيادة من جوجل. تستقلها، ولا يوجد أحد يجلس في السيارة، وتأخذك من النقطة أ إلى النقطة ب. يبدو الأمر مذهلاً بشكل لا يصدق، كما لو كنا نعيش في المستقبل. في المرة الثانية، تعتاد عليه نوعًا ما. في المرة الثالثة، تبدأ في الشكوى من المقاعد.

“حتى سرعة اعتيادنا على الذكاء الاصطناعي وChatGPT على مدار العامين الماضيين، أعتقد أن ما سيحدث هو أن أي تقدم كبير سيبدو تقدميًا بشكل استثنائي لفترة زمنية قصيرة. ثم يحدث تطبيع يعتاد فيه الجميع عليه.”

يعتقد باتيل أن التطبيع سيحدث مع الذكاء الاصطناعي العام أيضًا. ومع ذلك، يلاحظ أنه “لا يمكن التقليل من التقدم الذي بدأت هذه النماذج في إحرازه” وفي النهاية، أنواع حالات الاستخدام التي ستفتحها.

“لم يفكر أحد في أن يكون لدينا هاتف ذكي سيكون لديه قدرة حوسبة أكبر من كمبيوتر الإطار الرئيسي في متناول يديك، ويكون قادرًا على القيام بآلاف الأشياء عليه في أي وقت، والآن هو مجرد أسلوب حياة آخر. ابنتي البالغة من العمر 14 عامًا لا تفكر حتى في ذلك.

هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي

مقالات ذات صلة

زر الذهاب إلى الأعلى