كاسبرسكي تكشف عن إرشادات التطوير الآمن للذكاء الاصطناعي في منتدى حوكمة الإنترنت لعام 2024
خلال مشاركتها في منتدى حوكمة الإنترنت السنوي لعام 2024، والذي عُقد في العاصمة السعودية الرياض بين يومي 15 و19 ديسمبر، قدمت كاسبرسكي إرشاداتها للتطوير والنشر الآمن لأنظمة الذكاء الاصطناعي. وتهدف الوثيقة لمساعدة المنظمات على تجنب المخاطر المرتبطة باعتماد تقنيات الذكاء الاصطناعي من خلال توفير متطلبات الأمن السيبراني التي يجب مراعاتها عند تنفيذ هذه الأنظمة. تتناول الإرشادات الحاجة الملحة لأطر أمنية قوية مع تزايد أهمية الذكاء الاصطناعي للصناعات حول العالم.
تم عرض «إرشادات التطوير والنشر الآمن لأنظمة الذكاء الاصطناعي» يوم 18 ديسمبر ضمن ورشة عمل على هامش منتدى حوكمة الإنترنت حملت عنوان «الأمن السيبراني في الذكاء الاصطناعي: الموازنة بين الابتكار والمخاطر». حيث نظم ممثلو كاسبرسكي لجنة من الخبراء لاستكشاف كيفية التنسيق بين الابتكار في مجال الذكاء الاصطناعي والإدارة الفعالة للمخاطر والأمن السيبراني. وجرى العمل على الوثيقة بالتعاون مع خبراء أكاديميين رواد لمعالجة التعقيد المتزايد لتحديات الأمن السيبراني المرتبطة بالأنظمة المدعومة بالذكاء الاصطناعي.
تُعد الوثيقة مورداً أساسياً للمطورين والمسؤولين وفرق عمليات تطوير الذكاء الاصطناعي، كما تقدم نصائح مفصلة وعملية لمعالجة الثغرات الفنية والمخاطر التشغيلية. وتظهر الأهمية الأكبر لهذه الإرشادات بالنسبة للمؤسسات التي تعتمد على نماذج الذكاء الاصطناعي التابعة لطرف ثالث والأنظمة القائمة على السحابة، فقد تؤدي الثغرات الأمنية لاختراقات كبيرة للبيانات وأضرار بالسمعة.
من خلال تضمين مبادئ الأمان التصميمي، تساعد الإرشادات المنظمات على موازنة نشر الذكاء الاصطناعي مع معايير مثل الممارسات البيئية والاجتماعية وحوكمة الشركات ومتطلبات الامتثال الدولية. تتناول الوثيقة الجوانب الرئيسية لتطوير، ونشر، وتشغيل أنظمة الذكاء الاصطناعي، بما يشمل التصميم وأفضل الممارسات الأمنية، والتكامل، دون التركيز على تطوير النماذج التأسيسية.
تؤكد إرشادات كاسبرسكي على المبادئ التالية لتعزيز أمن أنظمة الذكاء الاصطناعي:
1. التوعية والتدريب على الأمن السيبراني
تسلط كاسبرسكي الضوء على أهمية دعم القيادة والتدريب المخصص للموظفين. حيث يجب أن يكون الموظفون على دراية بأساليب استغلال الذكاء الاصطناعي المعتمدة من مصادر التهديد. وتضمن التحديثات المنتظمة لبرامج التدريب التوافق مع التهديدات المتطورة.
2. نمذجة التهديدات وتقييم المخاطر
تؤكد الإرشادات على ضرورة تحديد المخاطر والتخفيف منها بشكل استباقي من خلال وسائل نمذجة التهديدات التي تساعد على تحديد الثغرات في وقت مبكر من تطوير الذكاء الاصطناعي. وتوصي كاسبرسكي باستخدام منهجيات موثوقة لتقييم المخاطر (مثل نموذجي STRIDE وOWASP) لتقييم التهديدات الخاصة بالذكاء الاصطناعي، بما يشمل إساءة استخدام النماذج، وتسميم البيانات، ونقاط ضعف الأنظمة.
3. أمن البُنى التحتية (السحابة)
تتطلب أنظمة الذكاء الاصطناعي، والتي غالباً ما يتم نشرها في بيئات سحابية، حماية قويةً مثل التشفير، وتقسيم الشبكة، والمصادقة الثنائية. وتؤكد كاسبرسكي على مبادئ الثقة الصفرية، وقنوات الاتصال الآمنة، وإصلاحات البنية التحتية بشكل منتظم للحماية من الاختراقات.
4. سلسلة الإمداد وأمن البيانات
تسلط كاسبرسكي الضوء على المخاطر التي تشكلها مكونات ونماذج الذكاء الاصطناعي التابعة لجهات خارجية، بما يشمل تسرب البيانات وإساءة استخدام المعلومات التي تم الحصول عليها لإعادة بيعها. وفي هذا الصدد، يجب تطبيق سياسات الخصوصية والممارسات الأمنية الخاصة بالخدمات التابعة لجهات خارجية، مثل استخدام الحساسات والتدقيقات الأمنية، بشكل صارم.
5. الاختبار والتحقق
يضمن التحقق المستمر لنماذج الذكاء الاصطناعي الموثوقية. وتعمل كاسبرسكي على تعزيز مراقبة الأداء والإبلاغ عن الثغرات الأمنية للكشف عن المشكلات الناجمة عن انحراف بيانات الإدخال أو الهجمات المعادية. ويُعد التقسيم الملائم لمجموعات البيانات وتقييم منطق اتخاذ القرار الخاص بالنماذج أمرين ضروريين للتخفيف من المخاطر.
6. الحماية من الهجمات الخاصة بتعلم الآلة
تؤكد الإرشادات على ضرورة حماية مكونات الذكاء الاصطناعي من الهجمات الخاصة بتعلم الآلة، بما يشمل المدخلات المعادية، وتسميم البيانات، وهجمات الحقن الفوري. وتعمل تدابير مثل دمج الأمثلة المعادية في مجموعة بيانات التدريب، وأنظمة اكتشاف الشذوذ، وأساليب التقطير على تحسين قدرة النماذج على مواجهة التلاعب.
7. التحديثات الأمنية والصيانة المنتظمة
تؤكد كاسبرسكي على أهمية الإصلاح المتكرر لمكتبات وأطر الذكاء الاصطناعي لمعالجة الثغرات الأمنية الناشئة. وقد تساعد المشاركة في برامج مكافآت الأخطاء وإدارة دورة حياة نماذج الذكاء الاصطناعي القائمة على السحابة على تعزيز مرونة النظام.
8. الالتزام بالمعايير الدولية
يساعد كل من الالتزام باللوائح العالمية (مثل اللائحة العامة لحماية البيانات، وقانون الذكاء الاصطناعي للاتحاد الأوروبي)، وأفضل الممارسات، والتحقق من امتثال أنظمة الذكاء الاصطناعي للقانون على التوافق مع المتطلبات الأخلاقية ومتطلبات خصوصية البيانات، بالإضافة إلى تعزيز الثقة والشفافية.
وتؤكد المبادئ التوجيهية على أهمية تضمين أنظمة الذكاء الاصطناعي بشكل مسؤول لتجنب مخاطر الأمن السيبراني الكبيرة، مما يجعلها مورداً مهماً للغاية للشركات والحكومات على حد سواء.
علقت يوليا شليتشكوفا، نائب رئيس الشؤون العامة لدى كاسبرسكي: «مع تزايد اعتماد الذكاء الاصطناعي، لم يعد ضمان أمنه أمراً اختيارياً، بل ضرورياً. وفي منتدى حوكمة الإنترنت لعام 2024، نساهم في حوار متعدد الأطراف لتحديد المعايير اللازمة لحماية الابتكار والمساعدة في مكافحة التهديدات السيبرانية الناشئة.»
مع استمرار دمج الذكاء الاصطناعي في القطاعات الحيوية، مثل الرعاية الصحية، والمالية، والقطاعات الحكومية، توفر «إرشادات التطوير والنشر الآمن لأنظمة الذكاء الاصطناعي» من كاسبرسكي أسس الاستخدام الآمن والأخلاقي للذكاء الاصطناعي.
