تتوسع مؤسسات البنية التحتية الحيوية في استخدام الذكاء الاصطناعي لمراقبة المعدات، واكتشاف التهديدات السيبرانية، وتحسين استهلاك الطاقة، والتنبؤ بالأعطال، ودعم القرارات التشغيلية. وتوفر هذه التطبيقات فرصًا لتحسين الكفاءة والموثوقية، لكنها تطرح أيضًا مخاطر قد تؤثر في السلامة العامة واستمرارية الخدمات الأساسية وسلامة البيانات والمرونة الوطنية. لذلك، تتطلب إدارة مخاطر الذكاء الاصطناعي في البنية التحتية الحيوية أكثر من مجرد اختبار التقنيات؛ فهي تحتاج إلى مسؤوليات واضحة، وضوابط أمنية مناسبة، ومراقبة مستمرة، وإشراف بشري فعّال. وبالنسبة إلى القيادات التنفيذية في قطاعات الطاقة والمرافق والاتصالات والنقل وغيرها، تتمثل الأولوية في فهم القيمة التي يقدمها الذكاء الاصطناعي، وتحديد أوجه القصور المحتملة، وإدارة المخاطر طوال دورة حياة الأنظمة.
لماذا تُعد إدارة مخاطر الذكاء الاصطناعي ضرورية للبنية التحتية الحيوية؟
تختلف البنية التحتية الحيوية عن كثير من بيئات الأعمال الأخرى؛ لأن تعطل أنظمتها قد يتجاوز الخسائر المالية أو انخفاض الإنتاجية. فقد يؤدي الخطأ في تطبيق مكتبي عادي إلى إزعاج محدود، بينما يمكن لخطأ مشابه في شبكة كهرباء أو محطة لمعالجة المياه أو نظام للتحكم في النقل أن يعطل خدمات أساسية.
وتشمل أبرز مخاطر الذكاء الاصطناعي التي ينبغي للقيادات مراعاتها ما يلي:
- المخاطر التشغيلية: قد تؤدي التنبؤات أو التوصيات غير الدقيقة إلى تعطيل الصيانة أو الإنتاج أو تخصيص الموارد أو تقديم الخدمات.
- مخاطر الأمن السيبراني: قد يستغل المهاجمون نقاط الضعف في الأنظمة، أو يتلاعبون بالمدخلات، أو يسرّبون البيانات الحساسة، أو يعطلون الأنظمة المدعومة بالذكاء الاصطناعي.
- مخاطر السلامة: قد تتسبب القرارات الآلية في ظروف خطرة إذا لم تُحدد حدود التشغيل الآمن وآليات التدخل البشري بوضوح.
- مخاطر البيانات: يمكن أن تؤثر البيانات الناقصة أو غير الدقيقة أو القديمة أو المتلاعب بها سلبًا في أداء النماذج.
- مخاطر الحوكمة: قد يؤدي غموض المسؤوليات إلى تأخر القرارات وضعف المساءلة وصعوبة التحقيق في الحوادث.
- مخاطر الأطراف الخارجية: قد تنشأ تبعيات جديدة نتيجة الاعتماد على مزودي الذكاء الاصطناعي والمنصات السحابية وموردي البرمجيات والتقنيات.
- مخاطر الامتثال: قد تواجه المؤسسات التزامات قانونية أو تعاقدية أو متعلقة بالخصوصية والأمن السيبراني والقطاع الذي تعمل فيه، بحسب الولاية القضائية المعنية.
وغالبًا ما تتداخل هذه المخاطر. فعلى سبيل المثال، قد يؤدي اختراق أحد المستشعرات إلى تزويد نظام الصيانة الذكي ببيانات غير صحيحة، فيصدر النظام توصية غير مناسبة تؤدي إلى تلف المعدات أو انقطاع الخدمة. ولهذا، ينبغي أن تشمل إدارة المخاطر سلسلة التشغيل بأكملها، لا نموذج الذكاء الاصطناعي وحده.
التطورات الحديثة في إدارة مخاطر الذكاء الاصطناعي
تؤكد التوجهات المهنية بصورة متزايدة أهمية إدارة المخاطر طوال دورة حياة الذكاء الاصطناعي، ولا سيما عند استخدامه في البيئات ذات التأثير الكبير.
في أبريل 2026، أصدر المعهد الوطني الأمريكي للمعايير والتقنية (NIST) ورقة مفاهيم لتطوير ملف خاص بالذكاء الاصطناعي الموثوق في البنية التحتية الحيوية. وتهدف المبادرة إلى مساعدة مشغلي البنية التحتية على تحديد ممارسات إدارة المخاطر المناسبة في مجالات تقنية المعلومات والتقنيات التشغيلية وأنظمة التحكم الصناعي وسلاسل الإمداد المرتبطة بها. ولا يزال الملف قيد التطوير، لذلك لا ينبغي التعامل معه باعتباره معيارًا نهائيًا ملزمًا.
NIST+1
ويوفر إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST أساسًا طوعيًا مفيدًا للمؤسسات التي تسعى إلى إدارة هذه المخاطر بصورة منهجية. ويعتمد الإطار على أربع وظائف أساسية: الحوكمة، والتحديد، والقياس، والإدارة. وتساعد هذه الوظائف على تحديد المسؤوليات، وفهم سياق المخاطر، وتقييمها، واتخاذ الإجراءات المناسبة لمعالجتها ومتابعتها.
NIST
كما يمكن للمؤسسات الاستفادة من المعيار ISO/IEC 42001، الذي يحدد متطلبات نظام إدارة الذكاء الاصطناعي. ويعتمد مدى ملاءمته على أهداف المؤسسة وأنظمة الإدارة القائمة لديها والالتزامات المطبقة عليها.
وتستدعي التطورات التنظيمية اهتمامًا مماثلًا. ففي الاتحاد الأوروبي، بدأ تطبيق بعض صلاحيات إنفاذ قانون الذكاء الاصطناعي ومتطلبات الشفافية في 2 أغسطس 2026، بينما تخضع أحكام أخرى لجداول زمنية مختلفة. لذلك، ينبغي لكل مؤسسة تحديد المتطلبات التي تنطبق على أنظمتها وأدوارها وأسواقها وأنشطتها، بدلًا من افتراض خضوع جميع تطبيقات الذكاء الاصطناعي للالتزامات نفسها.
AI Act Service Desk+1
والرسالة العملية للقيادات واضحة: يجب بناء نهج لإدارة المخاطر قادر على التكيف مع تطور التقنيات والتهديدات والمعايير والمتطلبات التنظيمية.
تحديد مخاطر الذكاء الاصطناعي في الخدمات الأساسية
تبدأ الإدارة الفعالة للمخاطر بفهم مواضع استخدام الذكاء الاصطناعي والنتائج المحتملة إذا أصدر مخرجات غير صحيحة، أو أصبح غير متاح، أو تعرض للاختراق.
1. إعداد سجل لأنظمة الذكاء الاصطناعي
ينبغي للمؤسسات الاحتفاظ بسجل للأنظمة المستخدمة في العمليات الإدارية والتشغيلية. ويشمل ذلك النماذج المطورة داخليًا، والخصائص الذكية المدمجة في البرمجيات، والتطبيقات الخارجية، والقدرات التي يوفرها الموردون.
ويُفضل توثيق المعلومات التالية لكل نظام:
- الغرض التشغيلي والبيئة التي يعمل فيها.
- البيانات التي يجمعها أو يعالجها أو ينتجها.
- الأنظمة والخدمات التي تعتمد على مخرجاته.
- مستوى الأتمتة والصلاحيات الممنوحة لاتخاذ القرارات.
- المسؤول عن النظام من الناحيتين التشغيلية والتقنية.
- الموردون الخارجيون وعمليات التكامل المرتبطة به.
- نتائج المخرجات الخاطئة أو توقف الخدمة أو الوصول غير المصرح به.
يشكل هذا السجل نقطة البداية لتحديد الأولويات. فمن دونه، قد تغفل المؤسسة عن تطبيقات الذكاء الاصطناعي المدمجة في البرمجيات القائمة أو منتجات الموردين.
2. تقييم العواقب التشغيلية
لا تحتاج جميع أنظمة الذكاء الاصطناعي إلى المستوى نفسه من الضوابط. فتطبيق يلخص المستندات الداخلية يختلف في مستوى مخاطره عن نظام يؤثر في المعدات الصناعية أو الاستجابة لحالات الطوارئ.
ينبغي تقييم العواقب المحتملة من حيث السلامة، وتوافر الخدمات، والخسائر المالية، والأثر البيئي، والأمن السيبراني، والخصوصية، وثقة الجمهور.
كما يجب مراعاة مستوى الإشراف البشري. فالنظام الذي يقدم توصيات لمراجعتها قبل التنفيذ يختلف عن نظام ينفذ الإجراءات تلقائيًا دون تدخل بشري فعّال.
3. تحليل التبعيات وسيناريوهات التعطل
تعتمد أنظمة الذكاء الاصطناعي على عناصر تتجاوز النماذج والبيانات، مثل المستشعرات وشبكات الاتصال والخدمات السحابية ومنصات الهوية وواجهات البرمجة وبيئات التحكم الصناعي.
لذلك، ينبغي أن تتناول تقييمات المخاطر ما يحدث عند تعطل أي من هذه العناصر. فعلى سبيل المثال، قد يتراجع أداء نظام للتنبؤ بالطلب على الكهرباء إذا تأخرت بيانات المستشعرات، أو تغيرت الظروف الجوية بصورة غير متوقعة، أو انقطعت قنوات الاتصال.
ويجب تحديد إجراءات بديلة آمنة وشروط واضحة لإيقاف الوظائف الآلية عند الضرورة.
بناء هيكل فعّال لحوكمة الذكاء الاصطناعي
تحدد الحوكمة الجهات المخولة باعتماد أنظمة الذكاء الاصطناعي ونشرها ومراقبتها وتعديلها وإيقافها. كما توضح كيفية توثيق القرارات وتصعيد المخاطر.
تحديد المسؤوليات بوضوح
ينبغي للإدارة العليا اعتماد مستوى تقبل المؤسسة لمخاطر الذكاء الاصطناعي، وضمان توفير الموارد والإشراف المناسبين للأنظمة الحيوية.
ويمكن توزيع المسؤوليات على النحو التالي:
- أعضاء مجلس الإدارة: الإشراف على المخاطر الجوهرية المرتبطة بالذكاء الاصطناعي ومدى توافقها مع الاستراتيجية وفاعلية الحوكمة.
- القيادات التنفيذية: اعتماد الأولويات وتحديد المسؤوليات ومعالجة التعارض بين الابتكار والتكلفة والسلامة والمرونة التشغيلية.
- فرق المخاطر والامتثال: وضع إجراءات التقييم ومتابعة الالتزامات والاحتفاظ بوثائق المخاطر.
- فرق الأمن السيبراني: تقييم التهديدات وضوابط الوصول والثغرات وإجراءات الاستجابة للحوادث.
- فرق التشغيل والهندسة: التحقق من أداء الأنظمة في ظروف العمل الفعلية والمحافظة على إجراءات التشغيل الآمن.
- متخصصو البيانات والذكاء الاصطناعي: تقييم جودة البيانات وأداء النماذج وحدودها والتغيرات في سلوكها.
- فرق المشتريات والشؤون القانونية: مراجعة مسؤوليات الموردين والضمانات التعاقدية ومعالجة البيانات والتبعيات الخدمية.
ينبغي توثيق هذه المسؤوليات وتنسيقها. ويمكن للجنة متعددة التخصصات دعم القرارات المشتركة، لكنها لا تحل محل تحديد مسؤول واضح عن كل نظام.
دمج مخاطر الذكاء الاصطناعي في إدارة المخاطر المؤسسية
ليس من الضروري أن تنشئ المؤسسة نظامًا منفصلًا بالكامل لإدارة مخاطر الذكاء الاصطناعي. ففي كثير من الحالات، يمكن دمج هذه المخاطر في إدارة المخاطر المؤسسية وحوكمة الأمن السيبراني والمرونة التشغيلية واستمرارية الأعمال وإدارة السلامة.
ويشمل ذلك اعتماد معايير موحدة للتقييم، ومتطلبات للتقارير، وحدودًا لقبول المخاطر، وإجراءات واضحة للتصعيد. ويساعد هذا النهج على مقارنة مخاطر الذكاء الاصطناعي بالمخاطر المؤسسية الأخرى وتخصيص الموارد بصورة متسقة.
ومع ذلك، قد تحتاج الإجراءات القائمة إلى التطوير لتغطية خصائص خاصة بالذكاء الاصطناعي، مثل تغير سلوك النماذج، ومحدودية بيانات التدريب، والقرارات الآلية، وعدم اليقين في المخرجات.
تطبيق ضوابط عملية لأمن الذكاء الاصطناعي
تحدد الحوكمة الاتجاه، لكن الضوابط التشغيلية هي التي تسهم في تقليل المخاطر فعليًا.
حماية البيانات والنماذج
ينبغي التحكم في الوصول إلى بيانات التدريب والمدخلات التشغيلية وإعدادات النماذج والمخرجات. وقد تشمل التدابير المناسبة التشفير، وتقييد الصلاحيات، والتحقق من البيانات، والتخزين الآمن، وسجلات التدقيق، وإدارة التغييرات.
وعند الاقتضاء، يجب تقييم مخاطر تسميم البيانات والمدخلات العدائية والتلاعب بالنماذج وتسرب المعلومات والوصول غير المصرح به إلى خدمات الذكاء الاصطناعي.
كما ينبغي تحديد الجهات المخولة باستخدام المعلومات الحساسة، وفترات الاحتفاظ بها، وآليات التحقق من جودتها. ويجب أن تتناسب هذه الضوابط مع الغرض من النظام وحساسية بيئة تشغيله.
التحقق من الأداء قبل النشر
لا يكفي أن تقتصر الاختبارات على قياس الدقة في الظروف العادية. فالأنظمة المستخدمة في البيئات الحيوية تحتاج إلى تقييم في ظروف تشغيل واقعية، تشمل المدخلات غير المعتادة وتدهور جودة البيانات والأحداث غير المتوقعة وسيناريوهات التعطل.
ويمكن أن تشمل عمليات التحقق:
- الاختبار باستخدام بيانات تمثل ظروف التشغيل المتوقعة والحرجة.
- تقييم الأداء عند تغير الظروف البيئية.
- قياس الإيجابيات والسلبيات الكاذبة.
- اختبار وسائل الحماية السيبرانية وضوابط الوصول.
- التأكد من فهم المشغلين لحدود النظام.
- التحقق من إجراءات الرجوع إلى التشغيل الآمن والإيقاف المنضبط.
- توثيق نتائج الاختبارات والقرارات والقيود المعروفة.
لا ينبغي اعتماد نظام عالي التأثير لمجرد نجاحه في عرض تجريبي مضبوط. بل يجب أن يستند قرار النشر إلى العواقب التشغيلية وفاعلية الضوابط الداعمة.
ضمان الإشراف البشري
يجب أن يكون الإشراف البشري فعّالًا، بحيث يحصل المشغلون على المعلومات والصلاحيات والتدريب والوقت اللازم لمراجعة التوصيات أو التدخل عند الحاجة.
وينبغي تحديد القرارات التي تتطلب موافقة بشرية، والظروف التي تستوجب إيقاف الإجراءات الآلية، والأشخاص المخولين بتجاوز قرارات النظام. كما يجب الحد من الاعتماد المفرط على المخرجات الآلية، خصوصًا عندما يفترض المشغلون أن التوصيات صحيحة دائمًا.
ويجب أن يتناسب مستوى الإشراف مع درجة المخاطر والاستقلالية والعواقب المحتملة.
مراقبة المخاطر بعد تشغيل الأنظمة
إدارة مخاطر الذكاء الاصطناعي ليست إجراءً يُنفذ مرة واحدة قبل اعتماد النظام. فقد يتغير الأداء مع تغير البيانات وظروف التشغيل والبرمجيات والتهديدات وسلوك المستخدمين.
لذلك، ينبغي إنشاء آليات مراقبة مستمرة تتناسب مع مستوى مخاطر كل نظام.
وتشمل الأنشطة الأساسية:
- متابعة أداء النماذج وجودة البيانات.
- اكتشاف المدخلات والمخرجات وأنماط الاستخدام غير المعتادة.
- رصد التغيرات التشغيلية التي قد تؤثر في الموثوقية.
- مراجعة التنبيهات الأمنية ومحاولات الوصول غير المصرح به.
- مراقبة تحديثات الموردين والتغيرات في التبعيات الخارجية.
- تسجيل الحوادث والحالات الوشيكة للتسبب في الضرر وتدخلات المشغلين.
- إعادة تقييم المخاطر عند حدوث تغييرات جوهرية في النظام أو العمليات.
كما يجب تحديد عتبات واضحة تستدعي التحقيق أو تقييد التشغيل أو المراجعة البشرية أو إيقاف النظام. وينبغي أن تنتج المراقبة معلومات قابلة للتنفيذ، لا عددًا كبيرًا من التنبيهات التي يصعب تفسيرها أو ترتيب أولوياتها.
الاستجابة لحوادث الذكاء الاصطناعي والمرونة التشغيلية
عندما يتعطل نظام ذكاء اصطناعي أو يصدر سلوكًا غير متوقع، تحتاج المؤسسة إلى استجابة منسقة تعطي الأولوية لحماية الخدمات الأساسية.
ينبغي أن تحدد خطة الاستجابة للحوادث كيفية اكتشاف الحادث وتقييم أثره واحتواء المشكلة واستعادة التشغيل الآمن والتواصل مع الجهات المعنية والتحقيق في الأسباب.
وقد تشمل التدابير، بحسب طبيعة النظام، تعطيل الإجراءات الآلية أو عزل المكونات المتأثرة أو الانتقال إلى إجراءات يدوية معتمدة أو استعادة بيانات موثوقة أو الرجوع إلى إصدار سابق معتمد.
ويجب تحديد الجهات المخولة باتخاذ القرارات الطارئة وكيفية التنسيق بين فرق التشغيل والأمن السيبراني والهندسة والشؤون القانونية والاتصال المؤسسي والإدارة العليا.
وتكتسب التمارين أهمية خاصة لأن حوادث الذكاء الاصطناعي قد تنتج عن تفاعل عدة إخفاقات. فعلى سبيل المثال، يمكن تنفيذ محاكاة لنظام مراقبة ذكي يصدر تحذيرات مضللة بالتزامن مع تعرض شبكة المستشعرات لهجوم سيبراني. وينبغي أن تختبر المحاكاة التصعيد واتخاذ القرار واستمرارية الخدمة والتعافي، بدلًا من التركيز على العطل التقني وحده.
وبعد كل حادث، يجب توثيق ما حدث وتقييم فاعلية الضوابط وتحديث تقييم المخاطر وتحديد الإجراءات التصحيحية والمسؤولين عن تنفيذها.
إدارة الموردين والتبعيات الخارجية للذكاء الاصطناعي
قد تعتمد مؤسسات البنية التحتية الحيوية على مزودين خارجيين لتوفير النماذج والبرمجيات والاستضافة السحابية ومعالجة البيانات والدعم التقني. وقد يؤدي هذا الاعتماد إلى مخاطر تتعلق بمحدودية الشفافية وتوافر الخدمات والثغرات الأمنية والوصول إلى البيانات وصعوبة الانتقال إلى مورد بديل.
قبل التعاقد، ينبغي تقييم قدرات الموردين وتحديد التوقعات التعاقدية بوضوح.
ومن الاعتبارات المهمة:
- مسؤوليات الأمن والخصوصية.
- ملكية البيانات والاستخدام المسموح به والاحتفاظ بها وحذفها.
- تحديثات النماذج والإبلاغ عن التغييرات الجوهرية.
- التزامات الأداء والإبلاغ عن الحوادث.
- الوصول إلى السجلات والمعلومات اللازمة للتحقيق.
- ترتيبات الاختبار والتدقيق والتحقق المستقل.
- التزامات استمرارية الأعمال والتعافي.
- خطط الخروج والبدائل في حال تعذر استمرار الخدمة.
ولا ينتهي تقييم المورد عند توقيع العقد؛ فقد تستلزم التغييرات الجوهرية في النموذج أو بيئة الاستضافة أو المقاولين الفرعيين أو ترتيبات معالجة البيانات إعادة تقييم المخاطر.
خارطة طريق تنفيذية لإدارة مخاطر الذكاء الاصطناعي
يمكن للمؤسسات تنفيذ إدارة المخاطر على مراحل بدلًا من محاولة تطبيق جميع الضوابط على كل الأنظمة دفعة واحدة.
المرحلة الأولى: بناء الرؤية وتحديد المسؤوليات
- حصر أنظمة الذكاء الاصطناعي والتبعيات الحيوية.
- تعيين مسؤولين عن الأنظمة من الناحيتين التشغيلية والتقنية.
- تحديد الأنظمة التي قد يؤدي تعطلها إلى عواقب جسيمة.
- مراجعة إجراءات المخاطر والأمن السيبراني والسلامة واستمرارية الأعمال.
المرحلة الثانية: ترتيب الأولويات والتقييم
- تقييم عواقب تعطل الأنظمة أو إساءة استخدامها.
- تحديد المخاطر الأمنية والتشغيلية ومخاطر البيانات والموردين.
- وضع معايير قبول المخاطر وتصعيدها.
- اختيار الضوابط المناسبة للحوكمة والتقنية.
المرحلة الثالثة: التنفيذ والتحقق
- تطبيق ضوابط الوصول والمراقبة والاختبار وإدارة التغيير.
- اختبار الأنظمة في ظروف تشغيل واقعية.
- التأكد من فاعلية الإشراف البشري والإجراءات البديلة.
- توثيق الموافقات والقيود والمخاطر المتبقية.
المرحلة الرابعة: المراقبة والتحسين
- متابعة الأداء والحوادث وفاعلية الضوابط.
- مراجعة التغييرات الجوهرية والتهديدات الناشئة.
- إجراء محاكاة للحوادث واختبارات التعافي.
- رفع تقارير المخاطر المهمة والإجراءات التصحيحية إلى القيادة.
وينبغي قياس التقدم باستخدام مؤشرات ذات معنى، مثل نسبة الأنظمة عالية التأثير التي تم تعيين مسؤولين لها، واكتمال تقييمات المخاطر المطلوبة، وسرعة معالجة الملاحظات الحرجة، ونجاح اختبارات التعافي. ويجب أن تعكس المؤشرات انخفاض المخاطر الفعلي، لا مجرد عدد السياسات أو الدورات التدريبية.
أسئلة ينبغي للقيادات التنفيذية طرحها
يمكن للقيادات العليا تعزيز الإشراف من خلال طرح الأسئلة التالية بصورة دورية:
- ما أنظمة الذكاء الاصطناعي التي قد تؤثر في سلامة الخدمات الأساسية أو توافرها أو موثوقيتها؟
- من المسؤول عن كل نظام، ومن يملك صلاحية إيقافه عند وقوع حادث؟
- هل اختبرنا أداء الأنظمة عند تعطل البيانات أو الشبكات أو الخدمات الخارجية؟
- هل نستطيع اكتشاف السلوك غير المتوقع للذكاء الاصطناعي والتحقيق فيه بالسرعة المطلوبة؟
- هل يلتزم الموردون بمتطلبات الأمن والشفافية واستمرارية الخدمة؟
- هل لدينا إجراءات بديلة آمنة جرى اختبارها في تمارين واقعية؟
- كيف نتحقق من استمرار فاعلية الضوابط بعد تحديث النماذج أو تغير ظروف التشغيل؟
تساعد الإجابات الواضحة على التمييز بين تبني الذكاء الاصطناعي الذي يحقق نجاحًا تقنيًا فحسب، والتبني المسؤول الذي يراعي المخاطر التشغيلية.
الأسئلة الشائعة
ما المقصود بإدارة مخاطر الذكاء الاصطناعي في البنية التحتية الحيوية؟
هي عملية تحديد المخاطر المرتبطة بأنظمة الذكاء الاصطناعي المستخدمة في الخدمات الأساسية وتقييمها ومعالجتها ومراقبتها. وتشمل الحوكمة والأمن السيبراني والضوابط التشغيلية والإشراف البشري وتخطيط المرونة، بهدف تقليل احتمالات التعطل وآثاره.
ما الأطر التي يمكن استخدامها لإدارة مخاطر الذكاء الاصطناعي؟
يمكن للمؤسسات الاستفادة من إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST، الذي ينظم العمل ضمن وظائف الحوكمة والتحديد والقياس والإدارة. كما يمكن أن يدعم معيار ISO/IEC 42001 إنشاء نظام لإدارة الذكاء الاصطناعي. ويتحدد الاختيار المناسب وفق احتياجات المؤسسة ومتطلبات القطاع والأنظمة المعمول بها.
كيف يؤثر الذكاء الاصطناعي في المرونة التشغيلية؟
يمكن أن يساعد الذكاء الاصطناعي في تحسين المراقبة والصيانة التنبؤية وتخصيص الموارد. ومع ذلك، قد تؤدي المخرجات غير الدقيقة والهجمات السيبرانية وأخطاء البيانات وتعطل الخدمات المرتبطة إلى انقطاع الخدمات الأساسية. وتتطلب المرونة إجراءات بديلة مختبرة ومراقبة فعّالة واستجابة للحوادث وقدرة على استعادة التشغيل الآمن.
من المسؤول عن إدارة مخاطر الذكاء الاصطناعي؟
تتوزع المسؤولية بين القيادة وإدارة المخاطر والأمن السيبراني والهندسة وفرق البيانات والامتثال والمشتريات. ويجب تعيين مسؤول واضح عن كل نظام، مع احتفاظ الإدارة العليا بمسؤولية الإشراف على المخاطر الجوهرية للمؤسسة.
كم مرة ينبغي إعادة تقييم مخاطر الذكاء الاصطناعي؟
ينبغي مراقبة المخاطر بصورة مستمرة عندما تقتضي طبيعة النظام ذلك، وإعادة تقييمها بعد التغييرات الجوهرية في النماذج أو البيانات أو الموردين أو بيئة التشغيل أو الاستخدام المقصود. كما يجب مراجعتها بعد الحوادث والحالات الوشيكة للتسبب في الضرر والتغيرات المهمة في الأداء والتطورات التنظيمية ذات الصلة.
الخلاصة
يمكن للذكاء الاصطناعي أن يعزز أداء البنية التحتية الحيوية، لكن الاستفادة منه تعتمد على وجود ضوابط موثوقة ومسؤوليات واضحة وقدرة على الاستجابة عند تعطل الأنظمة. وينبغي للقيادات البدء بحصر التطبيقات عالية التأثير، وتقييم التبعيات المرتبطة بها، وتحديد المسؤولين عنها، ووضع ضوابط متناسبة مع المخاطر طوال دورة حياة النظام. وبعد ذلك، يجب اختبار هذه الترتيبات من خلال المراقبة وتمارين الاستجابة والتخطيط للتعافي.
ليس الهدف إزالة جميع المخاطر المرتبطة بالذكاء الاصطناعي، بل فهم المخاطر الأكثر أهمية، واتخاذ قرارات مدروسة بشأن معالجتها، والمحافظة على سلامة الخدمات الأساسية وموثوقيتها مع تطور التقنيات.
التطوير المهني في حوكمة الذكاء الاصطناعي والمخاطر والامتثال
يمكن للقيادات والمتخصصين المسؤولين عن الإشراف على الذكاء الاصطناعي تطوير قدراتهم من خلال دورة حوكمة الذكاء الاصطناعي ومخاطره والامتثال له التي يقدمها مركز جينتكس للتدريب. وتدعم الدورة الفهم المنهجي لحوكمة الذكاء الاصطناعي وتقييم المخاطر والامتثال والضوابط المؤسسية. ويمكن للمهنيين الراغبين في تطوير هذه القدرات الاطلاع على محتوى الدورة لتحديد أولويات التعلم المناسبة لمؤسساتهم.
نبذة عن الكاتب
دانيال
خبير إدارة مخاطر الذكاء الاصطناعي في Gentex Training