يقدم معيار ISO/IEC 27090:2026 إرشادات تساعد المؤسسات على فهم التهديدات السيبرانية الخاصة بأنظمة الذكاء الاصطناعي واكتشافها والحد من آثارها. وقد نُشر المعيار في 14 أكتوبر 2026، ليتناول المخاطر التي قد تواجه أنظمة الذكاء الاصطناعي خلال مختلف مراحل دورة حياتها، بما في ذلك البيانات المستخدمة في التدريب والنماذج وآليات التشغيل. ولا تقتصر أهمية هذا المعيار على الفرق التقنية؛ بل تمتد إلى القيادات التنفيذية ومسؤولي الأمن السيبراني وإدارة المخاطر والتدقيق والامتثال. يوضح هذا الدليل أهداف المعيار وأبرز التهديدات التي يتناولها، ويعرض خطوات عملية لتعزيز أمن أنظمة الذكاء الاصطناعي داخل المؤسسات.
ما هو معيار ISO/IEC 27090:2026؟
يحمل معيار ISO/IEC 27090:2026 عنوان «الأمن السيبراني — الذكاء الاصطناعي — معالجة التهديدات الأمنية والاختراقات التي تستهدف أنظمة الذكاء الاصطناعي». ويقدم إرشادات للمؤسسات التي تطور أنظمة الذكاء الاصطناعي أو تستخدمها، بهدف مساعدتها على فهم طبيعة التهديدات الأمنية المرتبطة بهذه الأنظمة، وتحديد آثارها، واختيار الأساليب المناسبة لاكتشافها والحد منها على امتداد دورة حياة النظام.
ينطبق المعيار على مؤسسات مختلفة من حيث الحجم والنشاط، بما يشمل الشركات الخاصة والجهات الحكومية والمنظمات غير الربحية. كما ينظر إلى أمن الذكاء الاصطناعي باعتباره مسؤولية تتجاوز مرحلة تطوير النموذج، لتشمل البيانات والبنية التحتية والعمليات والبيئات التشغيلية التي يعتمد عليها النظام.
يساعد المعيار المؤسسات على الإجابة عن أسئلة أساسية، منها:
- ما الأصول والمكونات التي يجب حمايتها داخل نظام الذكاء الاصطناعي؟
- كيف يمكن للمهاجمين التلاعب ببيانات التدريب أو البيانات التشغيلية؟
- كيف يمكن سرقة نموذج الذكاء الاصطناعي أو تعديله أو إساءة استخدامه؟
- ما التدابير الأمنية المناسبة في كل مرحلة من مراحل دورة حياة النظام؟
- كيف يمكن اكتشاف الاختراقات الخاصة بالذكاء الاصطناعي والاستجابة لها؟
يتكامل ISO/IEC 27090 مع ممارسات أمن المعلومات المعروفة، بما فيها الممارسات المرتبطة بمعياري ISO/IEC 27001 وISO/IEC 27002. ولا يعني تطبيقه الاستغناء عن ضوابط الأمن السيبراني التقليدية، بل يساعد المؤسسات على تحديد الجوانب الإضافية التي تفرضها طبيعة أنظمة الذكاء الاصطناعي.
يمكن الاطلاع على نطاق المعيار ومعلومات نشره من خلال الصفحة الرسمية لمعيار ISO/IEC 27090:2026.
لماذا تحتاج أنظمة الذكاء الاصطناعي إلى حماية سيبرانية متخصصة؟
تحتاج أنظمة الذكاء الاصطناعي، مثل غيرها من الأنظمة الرقمية، إلى ضوابط لحماية الشبكات والتطبيقات والهويات والمعلومات. لكنها تواجه أيضاً مخاطر إضافية ترتبط بطبيعة عملها واعتمادها على البيانات والنماذج وعمليات التدريب والتفاعل مع المستخدمين والأنظمة الأخرى.
قد لا يقتصر أثر الحادث الأمني الذي يستهدف نظاماً للذكاء الاصطناعي على تعطيل التطبيق. فقد يؤدي إلى التأثير في دقة المخرجات، أو كشف معلومات حساسة، أو إضعاف القرارات الآلية، أو إدخال ثغرات إلى إصدارات لاحقة من النموذج.
على سبيل المثال، قد تستخدم مؤسسة نظاماً مدعوماً بالذكاء الاصطناعي لاكتشاف الاحتيال. وإذا تمكن مهاجم من التلاعب بالبيانات المستخدمة في تدريب النموذج أو تحديثه، فقد تنخفض قدرة النظام على اكتشاف المعاملات المشبوهة. وقد تؤدي سرقة النموذج إلى كشف قدرات تقنية تمثل ملكية فكرية للمؤسسة. كذلك، يمكن أن يستغل المهاجم الصلاحيات الواسعة الممنوحة لتطبيق ذكي للوصول إلى موارد أخرى داخل المؤسسة.
لهذا السبب، أصبح أمن الذكاء الاصطناعي مسألة تتعلق بالأعمال والحوكمة وإدارة المخاطر، وليس مجرد مسؤولية تقنية.
الفرق بين الأمن السيبراني التقليدي وأمن الذكاء الاصطناعي
يركز الأمن السيبراني التقليدي على حماية الأنظمة والشبكات والتطبيقات والهويات والمعلومات. أما أمن الذكاء الاصطناعي فيشمل هذه المسؤوليات، ويضيف إليها اعتبارات ترتبط بخصائص النماذج والبيانات وعمليات التدريب والتشغيل.
وتشمل أبرز هذه الجوانب:
- سلامة البيانات: التأكد من عدم التلاعب ببيانات التدريب والتحقق والبيانات التشغيلية.
- سلامة النماذج: حماية النماذج من التعديل أو الاستبدال أو العبث غير المصرح به.
- سرية النماذج: منع الوصول غير المصرح به إلى النماذج والبيانات والمعلمات التي تكشف قدراتها.
- أمن دورة تطوير الذكاء الاصطناعي: حماية مراحل جمع البيانات وإعدادها والتدريب والاختبار والنشر والتحديث.
- موثوقية المخرجات: اكتشاف محاولات التأثير في سلوك النظام من خلال مدخلات مصممة بصورة خبيثة أو تقنيات هجومية أخرى.
- الحماية التشغيلية: مراقبة النظام بعد نشره وإدارة المخاطر الناتجة عن التحديثات والتكاملات وتغير البيانات.
وبالتالي، يتطلب برنامج أمن الذكاء الاصطناعي الفعال الجمع بين ضوابط أمن المعلومات المعروفة والتدابير المصممة للتعامل مع التهديدات الخاصة بهذه التقنية.
أبرز التهديدات الأمنية التي يتناولها معيار ISO/IEC 27090
تحتاج المؤسسات إلى فهم الطرق التي قد يستهدف بها المهاجمون مكونات أنظمة الذكاء الاصطناعي وعملياتها. وتوضح التهديدات التالية بعض المجالات المهمة التي ينبغي تقييمها.
1. تسميم البيانات
يحدث تسميم البيانات عندما يتلاعب المهاجم بالبيانات المستخدمة في تدريب نموذج الذكاء الاصطناعي أو ضبطه أو تحديثه. وقد يكون الهدف تغيير سلوك النموذج، أو تقليل دقته، أو إنشاء نقاط ضعف خفية، أو دفعه إلى إصدار نتائج معينة في ظروف محددة.
على سبيل المثال، قد يُدخل مهاجم سجلات مضللة إلى مجموعة بيانات تُستخدم لتدريب نموذج لاكتشاف الاحتيال. وقد يتعلم النموذج نتيجة لذلك أنماطاً غير صحيحة، مما يقلل قدرته على تحديد المعاملات المشبوهة.
يمكن للمؤسسات الحد من هذا الخطر من خلال:
- التحقق من مصادر البيانات وسلامتها.
- تقييد الوصول إلى بيئات إعداد البيانات والتدريب.
- مراجعة التغيرات غير المعتادة في توزيع البيانات.
- الاحتفاظ بسجلات لإصدارات مجموعات البيانات والتحويلات التي تطرأ عليها.
- اختبار سلوك النموذج قبل الموافقة على نشره.
- ضبط استخدام البيانات التشغيلية في عمليات إعادة التدريب.
يجب أن تعمل حوكمة البيانات والأمن السيبراني بصورة متكاملة. فتوثيق مجموعة البيانات لا يكفي إذا لم تكن سلامتها محمية من التلاعب.
2. سرقة نماذج الذكاء الاصطناعي
قد تمثل نماذج الذكاء الاصطناعي أصولاً فكرية ذات قيمة تجارية، وقد تتضمن قدرات أو معلومات حساسة. لذلك، قد يحاول المهاجمون الوصول إلى ملفات النماذج أو معلماتها أو المعلومات التي تساعدهم على إعادة إنتاجها.
يمكن أن تؤدي سرقة النماذج إلى خسائر مالية، وإضعاف الميزة التنافسية، وكشف تقنيات مملوكة للمؤسسة، أو إساءة استخدام النموذج المسروق.
ينبغي للمؤسسات مراعاة التدابير التالية:
- تطبيق مصادقة قوية وتحديد صلاحيات الوصول إلى مستودعات النماذج.
- تشفير ملفات النماذج والمكونات الحساسة.
- مراقبة الوصول إلى بيئات تخزين النماذج وتشغيلها.
- تقييد تنزيل النماذج والصلاحيات الإدارية.
- مراجعة الوصول إلى واجهات برمجة التطبيقات وأنماط استخدامها.
- وضع ضمانات تقنية وتعاقدية عند مشاركة النماذج مع الموردين.
يجب ألا تقتصر حماية النماذج على بيئة التطوير، بل ينبغي أن تشمل النماذج المنشورة وواجهات التطبيقات ومستودعات النسخ الاحتياطية أيضاً.
3. التعديل غير المصرح به على النماذج
قد يحاول المهاجم تعديل نموذج قائم أو استبداله بإصدار غير معتمد. ويمكن أن تؤثر هذه التغييرات في مخرجات النظام، وبالتالي في القرارات التي تعتمد عليها المؤسسة.
تزداد أهمية هذا الخطر عندما تُحدّث النماذج بصورة متكررة أو عندما تحصل المؤسسة عليها من مصادر خارجية.
للتقليل من هذه المخاطر، ينبغي اعتماد إجراءات منظمة لإصدار النماذج. ويجب أن يكون لكل نموذج معتمد رقم إصدار واضح، ومصدر موثق، ومالك مسؤول، وآلية محددة للتحقق من صلاحيته. كما ينبغي مراجعة التغييرات واختبارها قبل نقلها إلى بيئة التشغيل.
4. الهجمات عبر المدخلات والواجهات
تستقبل أنظمة الذكاء الاصطناعي المعلومات من خلال الأوامر النصية والملفات وواجهات برمجة التطبيقات وأجهزة الاستشعار وغيرها من القنوات. وقد يستخدم المهاجمون مدخلات مصممة خصيصاً للتأثير في سلوك النظام أو كشف المعلومات أو استغلال نقاط الضعف في التطبيقات المتصلة به.
على سبيل المثال، قد يتعرض مساعد ذكي متصل بأدوات داخلية لمحاولات تدفعه إلى كشف معلومات أو تنفيذ إجراءات تتجاوز الصلاحيات المحددة له.
ينبغي أن تشمل الحماية التحقق من المدخلات، وتقييد الصلاحيات، ومراقبة المخرجات، وتأمين التكاملات، ووضع حدود واضحة للإجراءات التي يسمح للنظام بتنفيذها. كما يجب اختبار استجابة النظام للمدخلات غير المتوقعة أو الخبيثة.
5. المخاطر المرتبطة بتحديث النماذج وإعادة تدريبها
لا تنتهي مسؤولية أمن الذكاء الاصطناعي عند تشغيل النموذج. فقد تستخدم المؤسسات مجموعات بيانات جديدة أو ملاحظات المستخدمين أو المعلومات التشغيلية لتحديث النماذج. وإذا تعرضت هذه المصادر للتلاعب، فقد تنتقل نقاط الضعف إلى الإصدارات اللاحقة.
لذلك، يجب أن تتضمن عملية التحديث التحقق من البيانات، وضوابط الموافقة، والاختبار، وإدارة الإصدارات، وإجراءات العودة إلى إصدار سابق عند الحاجة. كما ينبغي مراقبة أي تغير في سلوك النموذج بعد التحديث.
تطبيق معيار ISO/IEC 27090 عبر دورة حياة نظام الذكاء الاصطناعي
يتطلب تأمين الذكاء الاصطناعي دمج الضوابط الأمنية في جميع مراحل دورة حياة النظام، بدلاً من الاكتفاء بمراجعة أمنية نهائية قبل النشر.
1. التخطيط وتحديد المتطلبات
قبل تطوير نظام ذكاء اصطناعي أو اعتماده، ينبغي تحديد الغرض منه، والمستخدمين، وأهميته للأعمال، والأصول المعلوماتية التي يتعامل معها، والآثار المحتملة لاختراقه.
وتشمل الأسئلة الأساسية:
- ما القرارات أو الخدمات التي ستعتمد على النظام؟
- ما أنواع المعلومات التي سيعالجها؟
- هل سيستخدم بيانات سرية أو شخصية أو مالية أو خاضعة للتنظيم؟
- ما الأنظمة الداخلية والخارجية التي سيتصل بها؟
- ماذا قد يحدث إذا جرى التلاعب بمخرجاته أو تعطيله؟
تساعد الإجابات على تحديد مستوى الحماية المناسب.
2. جمع البيانات وإعدادها
تعتمد سلامة أنظمة الذكاء الاصطناعي بدرجة كبيرة على مصادر البيانات وطرق إعدادها. لذلك، يجب أن تعرف المؤسسة مصدر كل مجموعة بيانات، والجهات التي تستطيع الوصول إليها، وآليات معالجتها، وطرق التحقق من سلامتها.
وتشمل الضوابط العملية توثيق مصادر البيانات، وتقييد الوصول، واستخدام التخزين الآمن، وتطبيق إجراءات التحقق، والاحتفاظ بسجل واضح لإصدارات البيانات.
3. تطوير النماذج وتدريبها
يجب حماية بيئات التطوير من الوصول أو التعديل غير المصرح به. ويشمل ذلك مستودعات الشيفرات، والبنية التحتية للتدريب، وملفات النماذج، وبيانات الاعتماد، وأدوات التطوير.
كما ينبغي أن تختبر الفرق التقنية سلوك النموذج في الظروف المعتادة والظروف التي تتضمن مدخلات عدائية أو محاولات للتلاعب. ومن المهم أيضاً توثيق القيود المعروفة والافتراضات التي استندت إليها الاختبارات.
4. الاختبار والتحقق
قبل نشر النموذج، يجب تقييم أدائه الوظيفي ومستوى حمايته الأمنية.
وقد تشمل الاختبارات:
- مراجعة صلاحيات الوصول وإعدادات النظام.
- التحقق من سلامة مجموعات البيانات وملفات النماذج.
- تقييم قدرة النظام على مقاومة المدخلات المتلاعب بها.
- فحص احتمالات تسرب المعلومات.
- اختبار الخدمات المتصلة والواجهات الخارجية.
- التأكد من فاعلية المراقبة الأمنية وإجراءات الاستجابة.
ينبغي أن يتناسب نطاق الاختبارات مع الاستخدام المقصود للنظام والآثار المحتملة لاختراقه.
5. النشر والتكامل مع الأنظمة
تظهر مخاطر جديدة عند ربط نظام الذكاء الاصطناعي بالمستخدمين وتطبيقات الأعمال والخدمات السحابية والبيانات التشغيلية.
لذلك، يجب تطبيق مبدأ الحد الأدنى من الصلاحيات، وتأمين إعدادات واجهات برمجة التطبيقات، وحماية الشبكات، وإدارة بيانات الاعتماد السرية، وتسجيل الأحداث، وضبط إجراءات النشر. كما ينبغي تحديد الجهات المخولة بالموافقة على التغييرات والمسؤولة عن التعامل مع الحوادث الأمنية.
6. المراقبة والصيانة وإنهاء الاستخدام
بعد النشر، يجب مراقبة نشاط النظام وأنماط الوصول وسلوك النموذج وتغيرات البيانات والتنبيهات الأمنية.
وتحتاج المؤسسة إلى إجراءات للتحقيق في الأنشطة المشبوهة، وتحديث النماذج بصورة آمنة، وإدارة الثغرات، وسحب الأنظمة التي لم تعد آمنة أو ضرورية.
حتى مرحلة إنهاء الاستخدام تتطلب ضوابط واضحة، مثل إلغاء بيانات الاعتماد، وإزالة الصلاحيات غير الضرورية، وإدارة البيانات المحتفظ بها، وحماية ملفات النماذج أو التخلص منها بطريقة آمنة.
العلاقة بين ISO/IEC 27090 ومعياري ISO/IEC 27001 وISO/IEC 27002
ينبغي النظر إلى ISO/IEC 27090 باعتباره جزءاً من منظومة أوسع لأمن المعلومات. ويمكن للمؤسسات التي تطبق نظاماً لإدارة أمن المعلومات الاستفادة من عمليات الحوكمة وإدارة المخاطر القائمة لديها كأساس لمعالجة التهديدات الخاصة بالذكاء الاصطناعي.
يحدد ISO/IEC 27001 متطلبات إنشاء نظام إدارة أمن المعلومات وتطبيقه والمحافظة عليه وتحسينه باستمرار. أما ISO/IEC 27002 فيقدم إرشادات بشأن اختيار ضوابط أمن المعلومات وتطبيقها. ويضيف ISO/IEC 27090 توجيهات متخصصة تساعد المؤسسات على فهم التهديدات التي تستهدف أنظمة الذكاء الاصطناعي ومراحل دورة حياتها.
وتتكامل أدوار المعايير على النحو التالي:
- ISO/IEC 27001: يحدد نهج نظام إدارة أمن المعلومات ومتطلباته.
- ISO/IEC 27002: يقدم إرشادات لاختيار ضوابط أمن المعلومات وتطبيقها.
- ISO/IEC 27090: يتناول التهديدات والاختراقات الأمنية الخاصة بأنظمة الذكاء الاصطناعي.
ينبغي ألا تعتبر المؤسسات نشر معيار متخصص في أمن الذكاء الاصطناعي دليلاً تلقائياً على الامتثال أو الحصول على شهادة. بل يجب عليها تقييم أنظمتها ومخاطرها والتزاماتها ومدى فاعلية الضوابط المطبقة. ويتمثل النهج المناسب في دمج الإرشادات ذات الصلة ضمن عمليات الحوكمة وأمن المعلومات وإدارة المخاطر القائمة.
إطار عملي لتقييم مخاطر أمن الذكاء الاصطناعي
يمكن للمؤسسات تحويل مبادئ أمن الذكاء الاصطناعي إلى عملية تقييم منظمة. ويوفر النهج التالي نقطة انطلاق عملية لفرق الأمن السيبراني والتكنولوجيا وإدارة المخاطر.
الخطوة الأولى: تحديد الأصول والاعتماديات
ابدأ بإعداد سجل لأنظمة الذكاء الاصطناعي ومكوناتها الداعمة، مع تضمين:
- مجموعات بيانات التدريب والتشغيل.
- النماذج ومستودعات تخزينها.
- بيئات التطوير والاختبار.
- واجهات برمجة التطبيقات والتكاملات الخارجية.
- البنية التحتية السحابية وموارد الحوسبة.
- هويات المستخدمين وحسابات الخدمات.
- خدمات الذكاء الاصطناعي والموردين الخارجيين.
يؤدي نقص المعلومات في سجل الأصول إلى صعوبة تحديد نقاط التعرض وتوزيع المسؤوليات.
الخطوة الثانية: تحديد سيناريوهات التهديد
قيّم الطرق الواقعية التي قد يتعرض بها كل نظام للاختراق. وتشمل الأمثلة تسميم البيانات، وسرقة النماذج، والتعديل غير المصرح به، والمدخلات الخبيثة، والصلاحيات المفرطة، والاعتماديات الخارجية غير الآمنة.
يجب أن ترتبط سيناريوهات التهديد بالبنية الفعلية للنظام وطبيعة استخدامه، بدلاً من الاعتماد على أوصاف عامة للمخاطر.
الخطوة الثالثة: تقييم الاحتمالية والأثر المؤسسي
قيّم مدى احتمال وقوع كل تهديد والنتائج التي قد تترتب عليه. وينبغي مراعاة:
- سرية المعلومات.
- سلامة المخرجات وموثوقيتها.
- توافر الخدمات الحيوية.
- الآثار المالية والتشغيلية.
- المخاطر القانونية والتنظيمية.
- ثقة العملاء والموظفين والجمهور.
- السلامة واستمرارية الخدمات عند ارتباطهما بالنظام.
يجب أن يشمل التقييم الجوانب التقنية والآثار المؤسسية معاً.
الخطوة الرابعة: اختيار الضوابط الأمنية وتحديد المسؤوليات
اختر الضوابط التي تعالج المخاطر المحددة، مثل تقييد الوصول، والتشفير، والتحقق من البيانات، وإدارة إصدارات النماذج، وممارسات التطوير الآمن، والمراقبة، والاختبار، والاستجابة للحوادث.
ويجب تحديد مسؤول عن كل ضابط، وتوثيق حالة تنفيذه، وتحديد طريقة التحقق من فاعليته.
الخطوة الخامسة: الاختبار والمراقبة
تحتاج الضوابط الأمنية إلى تحقق مستمر. أجرِ تقييمات دورية، وراجع التنبيهات، واختبر إجراءات الاستجابة، وأعد تقييم المخاطر عند حدوث تغييرات في النظام أو البيانات أو النموذج أو بيئة الأعمال.
الخطوة السادسة: إعداد التقارير والتحسين
قدّم لصناع القرار معلومات واضحة حول المخاطر المهمة ونقاط الضعف التي لم تُعالج ومدى فاعلية الضوابط والاستثمارات المطلوبة. واستخدم نتائج التقييم لتطوير الممارسات الأمنية وتحديث خطط معالجة المخاطر.
قائمة تنفيذية: أسئلة ينبغي للقادة طرحها
لا يحتاج كبار المسؤولين إلى مراجعة الشيفرات البرمجية للنماذج حتى يمارسوا الإشراف الفعال. لكنهم يحتاجون إلى معلومات موثوقة عن أصول الذكاء الاصطناعي في المؤسسة ومستوى تعرضها للمخاطر والمسؤوليات المرتبطة بحمايتها.
ينبغي للقيادات التنفيذية وأعضاء مجالس الإدارة طرح الأسئلة التالية:
- هل نعرف جميع أنظمة الذكاء الاصطناعي المستخدمة في المؤسسة، بما فيها الأنظمة التي تتبناها الإدارات بصورة مستقلة؟
- من المسؤول عن أمن كل نظام من هذه الأنظمة؟
- كيف نتحقق من مصدر بيانات التدريب والبيانات التشغيلية وسلامتها؟
- هل تتم حماية مستودعات النماذج وبيئات التطوير وواجهات الذكاء الاصطناعي بضوابط وصول مناسبة؟
- هل قيّمنا آثار سرقة النماذج أو تسميم البيانات أو التعديل غير المصرح به؟
- هل يلتزم الموردون ومقدمو خدمات الذكاء الاصطناعي بمتطلباتنا الأمنية؟
- هل نستطيع اكتشاف التغيرات المشبوهة في سلوك النماذج أو أنماط الوصول غير المعتادة؟
- هل تتضمن خطط الاستجابة للحوادث واستمرارية الأعمال الحوادث المرتبطة بالذكاء الاصطناعي؟
- هل نعيد تقييم المخاطر عند تحديث النماذج أو ربطها بأنظمة جديدة؟
- هل تتلقى الإدارة تقارير واضحة عن مخاطر أمن الذكاء الاصطناعي والإجراءات التصحيحية المطلوبة؟
تساعد هذه الأسئلة على ربط الضوابط التقنية بالمساءلة المؤسسية، كما تدعم اتخاذ قرارات مدروسة بشأن الاستثمارات وقبول المخاطر والجاهزية التشغيلية.
أبرز تحديات تطبيق أمن الذكاء الاصطناعي
قد تواجه المؤسسات مجموعة من العقبات العملية عند إدخال تدابير متخصصة لحماية أنظمة الذكاء الاصطناعي.
محدودية الرؤية بشأن الأنظمة المستخدمة
قد تتبنى إدارات مختلفة أدوات الذكاء الاصطناعي دون إشراف مركزي. وينتج عن ذلك نقص في سجلات الأصول والمراجعات الأمنية وتحديد المسؤوليات.
يساعد إعداد سجل واضح للأنظمة ووضع آلية للموافقة على عمليات النشر الجديدة على تحسين الرؤية والرقابة.
عدم وضوح المسؤوليات
يشترك في أمن الذكاء الاصطناعي عدد من الأطراف، منها فرق الأمن السيبراني وعلوم البيانات وتقنية المعلومات والشؤون القانونية والامتثال والمشتريات وإدارات الأعمال. وقد تبقى بعض المخاطر دون معالجة عندما لا تكون المسؤوليات محددة.
ينبغي للمؤسسة تعيين مالكين للأنظمة وتحديد المسؤوليات المشتركة بين الفرق على امتداد دورة حياة الذكاء الاصطناعي.
الاعتماد على مقدمي الخدمات الخارجيين
تؤدي النماذج والمنصات السحابية ومجموعات البيانات والخدمات الخارجية إلى نشوء اعتماديات قد لا تكون واضحة بالكامل للفرق الداخلية.
لذلك، يجب أن تتناول تقييمات الموردين ممارسات الأمن السيبراني، ومعالجة البيانات، وصلاحيات الوصول، والإبلاغ عن الحوادث، وتحديث النماذج، واستمرارية الخدمات.
توقف الاختبارات الأمنية عند مرحلة النشر
قد يجتاز النموذج الاختبارات قبل إطلاقه، لكنه يصبح معرضاً لمخاطر جديدة بعد تغيير البيانات أو التكاملات أو ظروف التشغيل.
تحتاج المؤسسات إلى مراقبة مستمرة وإعادة تقييم للمخاطر، بدلاً من الاعتماد على مراجعة واحدة قبل النشر.
التعامل مع أمن الذكاء الاصطناعي كبرنامج منفصل
قد يؤدي إنشاء عملية أمنية معزولة للذكاء الاصطناعي إلى تكرار الضوابط واختلاف ممارسات الحوكمة داخل المؤسسة.
ويكون النهج الأكثر فاعلية هو ربط أمن الذكاء الاصطناعي بنظام إدارة أمن المعلومات وإدارة المخاطر المؤسسية وحوكمة الموردين والاستجابة للحوادث.
رؤية مهنية: اجعل أمن الذكاء الاصطناعي مسؤولية إدارية مستمرة
تتمثل القيمة العملية لمعيار ISO/IEC 27090 في مساعدة المؤسسات على إدراك أن حماية أنظمة الذكاء الاصطناعي تتطلب اهتماماً مستمراً بجميع مراحل دورة حياتها. فلا يكفي تأمين منصة الاستضافة لحماية النموذج؛ إذ قد تنشأ المخاطر من البيانات المستخدمة في تدريبه، أو العمليات التي تحدثه، أو الواجهات التي يتفاعل من خلالها، أو الصلاحيات الممنوحة له.
بالنسبة إلى القيادات التنفيذية، تتمثل الأولوية في تحديد المسؤوليات وضمان ظهور مخاطر الذكاء الاصطناعي ضمن منظومة إدارة المخاطر المؤسسية. أما الفرق التقنية، فعليها تحويل هذه التوقعات إلى ممارسات هندسية آمنة، وعمليات منضبطة لإدارة البيانات، واختبارات فعالة، وآليات مراقبة مستمرة.
تجمع البرامج الأكثر فاعلية بين هذه المسؤوليات، وتربط أهداف الأعمال بالضوابط التقنية، وتجعل الأمن جزءاً أساسياً من تصميم أنظمة الذكاء الاصطناعي وشرائها ونشرها وتشغيلها.
التطوير المهني ذو الصلة
يمكن للمهنيين المسؤولين عن تحديد المخاطر التقنية وتقييمها ومعالجتها تطوير قدراتهم من خلال دورة تقييم وإدارة مخاطر الأمن السيبراني. وتدعم هذه الدورة الفهم المنهجي لتقييم المخاطر السيبرانية واختيار الضوابط وتطبيق ممارسات إدارة المخاطر. وتناسب المتخصصين في الأمن السيبراني ومديري أمن تقنية المعلومات ومسؤولي المخاطر التقنية والمدققين والمديرين المعنيين بحماية الأنظمة المؤسسية.
كما يمكن استكشاف دورة حوكمة الأمن السيبراني وإدارة المخاطر لتعزيز فهم الإشراف الأمني والمسؤوليات المؤسسية المرتبطة بإدارة المخاطر.
الأسئلة الشائعة
ما الهدف الأساسي من معيار ISO/IEC 27090:2026؟
يقدم المعيار إرشادات لفهم التهديدات الأمنية الخاصة بأنظمة الذكاء الاصطناعي واكتشافها والحد منها. كما يتناول المخاطر خلال دورة حياة النظام، ويساعد المؤسسات على حماية الأصول المهمة، مثل بيانات التدريب والنماذج.
هل يحل معيار ISO/IEC 27090 محل ISO/IEC 27001؟
لا. يتناول ISO/IEC 27090 التهديدات الأمنية الخاصة بالذكاء الاصطناعي، ويتكامل مع ممارسات أمن المعلومات القائمة. يحدد ISO/IEC 27001 متطلبات نظام إدارة أمن المعلومات، بينما يركز ISO/IEC 27090 على التهديدات والاختراقات التي تستهدف أنظمة الذكاء الاصطناعي.
ما المقصود بتسميم البيانات في الذكاء الاصطناعي؟
تسميم البيانات هو التلاعب بالبيانات المستخدمة في تدريب نموذج الذكاء الاصطناعي أو ضبطه أو تحديثه. وقد يؤدي ذلك إلى تعلم النموذج أنماطاً مضللة أو إنتاج سلوك يخدم أهداف المهاجم. ويساعد توثيق مصادر البيانات والتحقق من سلامتها وتقييد الوصول واختبار النماذج على الحد من هذا الخطر.
كيف يمكن للمؤسسات حماية نماذج الذكاء الاصطناعي من السرقة؟
يمكن حماية النماذج من خلال تقييد الوصول، وتطبيق المصادقة القوية، والتشفير، وتأمين المستودعات، ومراقبة الاستخدام، وضبط إجراءات النشر. كما ينبغي مراجعة صلاحيات الوصول الإداري، والتعرض عبر واجهات التطبيقات، ووصول الموردين، وآليات مشاركة النماذج.
من المسؤول عن الأمن السيبراني لأنظمة الذكاء الاصطناعي؟
تتطلب حماية الذكاء الاصطناعي مسؤولية مشتركة. تتولى فرق الأمن السيبراني إدارة الضوابط الأمنية، وتحمي فرق التقنية البنية التحتية، بينما تعمل فرق البيانات والذكاء الاصطناعي على تأمين النماذج ومجموعات البيانات. وتتحمل القيادات مسؤولية الإشراف والمساءلة، مع ضرورة وضوح الأدوار في جميع مراحل دورة حياة النظام.
الخلاصة
يوفر معيار ISO/IEC 27090:2026 للمؤسسات منهجاً متخصصاً لفهم التهديدات الأمنية التي تستهدف أنظمة الذكاء الاصطناعي ومعالجتها. وتكمن أهميته العملية في التأكيد على أن الحماية يجب أن تشمل البيانات والنماذج وعمليات التطوير والتكاملات وبيئات التشغيل. ويمكن للمؤسسات البدء بحصر أصول الذكاء الاصطناعي، وتقييم سيناريوهات التهديد الواقعية، وتحديد المسؤوليات، ودمج الضوابط المناسبة ضمن عمليات أمن المعلومات وإدارة المخاطر القائمة. ومع توسع استخدام الذكاء الاصطناعي في الأنشطة المؤسسية الحيوية، ستصبح المراجعة الأمنية المستمرة عنصراً أساسياً للحفاظ على الثقة والمرونة التشغيلية.
نبذة عن الكاتب
أمير
خبير الأمن السيبراني للذكاء الاصطناعي في Gentex Training