لم يعد السؤال التنفيذي حول الذكاء الاصطناعي يقتصر على: “ماذا يستطيع النظام أن ينتج؟” بل أصبح أكثر ارتباطاً بسؤال جديد: “ما الذي يستطيع وكيل الذكاء الاصطناعي تنفيذه بشكل مستقل، وتحت أي ضوابط؟” فقد أصبحت وكلاء الذكاء الاصطناعي قادرين بدرجات متفاوتة على تخطيط المهام، واستخدام الأدوات الرقمية، والوصول إلى البيانات، والتفاعل مع الأنظمة، وتنفيذ سلسلة من الإجراءات. وقد تناولت منظمة التعاون الاقتصادي والتنمية في بحثها المنشور في سبتمبر 2026 كيفية تطوير المؤسسات لهذه الأنظمة ونشرها وحوكمتها عملياً.
ويفرض هذا التطور مسؤوليات جديدة على القيادات التنفيذية. فسياسات الذكاء الاصطناعي التقليدية تركز عادةً على البيانات، وأداء النماذج، والشفافية، والمراجعة البشرية. أما الذكاء الاصطناعي الوكيلي فيضيف بُعداً أساسياً هو السلطة المفوضة للنظام.
يجب على المؤسسة أن تحدد بوضوح ما الذي يسمح للوكيل بالوصول إليه، والإجراءات التي يمكنه تنفيذها، ومتى تصبح الموافقة البشرية إلزامية، ومن يتحمل المسؤولية عندما تنتج العملية الذاتية التنفيذ نتيجة غير متوقعة.
يقدم هذا المقال إطاراً تنفيذياً عملياً لحوكمة وكلاء الذكاء الاصطناعي، مع التركيز على المساءلة، والصلاحيات، والإشراف البشري، والأمن، وإدارة المخاطر، والمراقبة، والاستعداد المؤسسي.
ما المقصود بحوكمة وكلاء الذكاء الاصطناعي؟
تشير حوكمة وكلاء الذكاء الاصطناعي إلى مجموعة السياسات والضوابط والمسؤوليات وعمليات إدارة المخاطر وآليات الرقابة التي تنظم استخدام وكلاء الذكاء الاصطناعي طوال دورة حياتهم.
وعلى عكس تطبيق ذكاء اصطناعي تقليدي ينتج استجابة بناءً على طلب المستخدم، يستطيع الوكيل بدرجات مختلفة من الاستقلالية أن:
- يفهم هدفاً تجارياً أو تشغيلياً.
- يقسم المهمة إلى عدة خطوات.
- يختار الأدوات أو التطبيقات المناسبة.
- يسترجع المعلومات ويعالجها.
- يتفاعل مع أنظمة المؤسسة.
- ينفذ إجراءات محددة.
- يقيّم النتائج.
- يستمر في العمل لتحقيق الهدف المحدد.
وتختلف درجة الاستقلالية بين الأنظمة بشكل كبير. لذلك لا ينبغي أن تطبق المؤسسة مستوى واحداً من الحوكمة على جميع وكلاء الذكاء الاصطناعي.
فوكيل داخلي منخفض المخاطر يقوم بإعداد مسودة تقرير يختلف في متطلبات حوكمته عن وكيل يستطيع تعديل سجلات مالية، أو تنفيذ معاملات، أو تغيير أنظمة تشغيلية، أو التواصل مباشرة مع العملاء، أو الوصول إلى بيانات حساسة.
ولهذا فإن السؤال الأساسي في الحوكمة ليس فقط ما إذا كانت المؤسسة تستخدم الذكاء الاصطناعي، بل:
ما مقدار السلطة التي فوضتها المؤسسة إلى وكيل الذكاء الاصطناعي؟
لماذا تتطلب وكلاء الذكاء الاصطناعي منهجاً مختلفاً للحوكمة؟
تظل مبادئ حوكمة الذكاء الاصطناعي التقليدية مهمة، لكن الأنظمة الوكيلة تضيف تحديات تشغيلية ورقابية جديدة.
أطلق المعهد الوطني للمعايير والتكنولوجيا NIST في فبراير 2026 مبادرة لمعايير وكلاء الذكاء الاصطناعي بهدف دعم معايير وبروتوكولات أكثر أماناً وقابلية للتشغيل البيني، بما في ذلك مجالات أمن الوكلاء وهويتهم. كما أشار NIST إلى قدرة الوكلاء على تنفيذ أنشطة بصورة مستقلة والتفاعل مع الأنظمة الخارجية والبيانات الداخلية.
وهذا يعني أن الحوكمة يجب ألا تقتصر على النموذج نفسه، بل ينبغي أن تشمل البيئة التشغيلية الكاملة التي يعمل فيها الوكيل، بما في ذلك:
- هوية الوكيل.
- الصلاحيات.
- الأدوات.
- الوصول إلى البيانات.
- حدود اتخاذ القرار.
- الإجراءات المنفذة.
- الأنظمة المرتبطة.
- آليات التصعيد إلى الإنسان.
- المراقبة وسجلات التدقيق.
إطار تنفيذي لحوكمة وكلاء الذكاء الاصطناعي
يمكن تنظيم إطار عملي لحوكمة وكلاء الذكاء الاصطناعي حول سبعة أسئلة أساسية.
1. ما الذي يُسمح للوكيل بتنفيذه؟
يجب تحديد نطاق السلطة لكل وكيل مؤسسي بوضوح.
ينبغي توثيق:
- الغرض من الوكيل.
- المهام المعتمدة.
- المهام المحظورة.
- الأنظمة المسموح باستخدامها.
- مصادر البيانات المصرح بها.
- مستوى الاستقلالية.
- نقاط الموافقة البشرية.
- المسؤول عن الوكيل.
ولا ينبغي منح الوكيل صلاحيات واسعة لمجرد أن المنصة التقنية تتيح ذلك.
ويجب أن يكون المبدأ الأساسي هو أقل قدر من الصلاحيات اللازمة.
أي أن يحصل الوكيل فقط على الصلاحيات الضرورية لأداء المهمة المعتمدة.
2. من المسؤول عن الوكيل؟
تصبح الحوكمة غير فعالة عندما تكون المسؤولية غير واضحة.
يجب أن يكون لكل وكيل مستخدم في بيئة الإنتاج مالك مؤسسي واضح، مع تحديد مسؤوليات تقنية وإدارية ورقابية مناسبة.
وينبغي أن تحدد المؤسسة:
- من يوافق على نشر الوكيل؟
- من يوافق على تغييراته؟
- من يراقب أداءه؟
- من يراجع الحوادث؟
- من يستطيع إيقافه؟
- من يوافق على حالات الاستخدام الجديدة؟
- من يتحمل المسؤولية عن النتائج؟
إن استقلالية النظام لا تلغي المسؤولية المؤسسية.
بل إن زيادة الاستقلالية تجعل وضوح المسؤولية أكثر أهمية.
متى يجب أن يوافق الإنسان على الإجراء؟
يجب أن يعتمد الإشراف البشري على أثر الإجراء وليس على تطبيق قاعدة واحدة على جميع المهام.
يمكن للمؤسسات إنشاء مستويات مختلفة للموافقة.
الإجراءات منخفضة التأثير يمكن تنفيذها تلقائياً عندما تكون ضمن قواعد محددة مسبقاً.
الإجراءات متوسطة التأثير قد تتطلب مراجعة عندما يواجه الوكيل حالة غير معتادة أو مستوى محدداً من عدم اليقين أو المخاطر.
الإجراءات عالية التأثير ينبغي أن تتطلب موافقة بشرية واضحة قبل التنفيذ.
وقد تشمل هذه الإجراءات، بحسب طبيعة المؤسسة:
- المعاملات المالية الجوهرية.
- التغييرات في البنية التحتية الحرجة.
- قرارات التوظيف أو الموارد البشرية عالية التأثير.
- التقديمات التنظيمية.
- القرارات المؤثرة في العملاء.
- تعديل الضوابط الأمنية.
- الإجراءات التي تتضمن بيانات شخصية حساسة.
الهدف ليس إدخال الإنسان في كل خطوة، وإنما ضمان احتفاظ البشر بالسيطرة الفعلية على القرارات التي تستدعي آثارها ذلك.
إنشاء سجل مركزي لوكلاء الذكاء الاصطناعي
لا يمكن للمؤسسة أن تحكم الوكلاء الذين لا تعرف بوجودهم.
لذلك ينبغي أن يتضمن سجل وكلاء الذكاء الاصطناعي على الأقل:
- اسم الوكيل ومالكه.
- الغرض التجاري.
- النموذج أو النماذج المستخدمة.
- مصادر البيانات.
- التطبيقات المرتبطة.
- الأدوات وواجهات API.
- الصلاحيات.
- مستوى الاستقلالية.
- متطلبات الموافقة البشرية.
- تصنيف المخاطر.
- بيئة التشغيل.
- ضوابط المراقبة.
- سجل الحوادث.
- تاريخ المراجعة.
كما يجب أن يشمل السجل الوكلاء الذين يتم تطويرهم داخل وحدات الأعمال، وليس فقط الوكلاء الذين تطورهم إدارة تقنية المعلومات المركزية.
تصنيف مخاطر وكلاء الذكاء الاصطناعي
لا تحمل جميع الوكلاء المستوى نفسه من المخاطر.
يمكن أن يعتمد التصنيف العملي على أربعة أبعاد رئيسية:
الأثر على الأعمال
ماذا يحدث إذا اتخذ الوكيل قراراً خاطئاً أو نفذ إجراء غير صحيح؟
حساسية البيانات
ما نوع المعلومات التي يستطيع الوكيل الوصول إليها؟
السلطة التشغيلية
هل يقتصر دور الوكيل على تقديم التوصيات، أم يستطيع تنفيذ الإجراء بنفسه؟
الأثر الخارجي
هل يمكن للوكيل أن يؤثر على العملاء أو الموردين أو الجهات التنظيمية أو الموظفين أو الجمهور؟
الوكيل الذي يمتلك صلاحيات واسعة، ويصل إلى بيانات حساسة، ويتمتع بسلطة اتخاذ إجراءات خارجية يحتاج إلى حوكمة أكثر صرامة من مساعد داخلي منخفض المخاطر.
ويجب أن يحدد تصنيف المخاطر مستوى الاختبارات والموافقات والمراقبة والتوثيق والإشراف البشري.
ضبط هوية الوكيل وإدارة الوصول
أصبحت هوية الوكيل عنصراً مهماً في أمن وكلاء الذكاء الاصطناعي.
ينبغي أن تتمكن المؤسسة من معرفة:
- أي وكيل نفذ الإجراء.
- أي مستخدم أو عملية سمحت للوكيل بالعمل.
- بيانات الاعتماد التي استخدمها.
- الأنظمة التي وصل إليها.
- المعلومات التي استرجعها.
- الإجراءات التي نفذها.
ويجب تجنب استخدام بيانات اعتماد مشتركة قدر الإمكان لأنها تضعف المساءلة وتجعل التحقيق في الحوادث أكثر صعوبة.
كما ينبغي مراجعة صلاحيات الوكلاء بشكل دوري.
فإذا لم يعد الوكيل بحاجة إلى الوصول إلى نظام أو مجموعة بيانات، فيجب إزالة هذه الصلاحية.
تأمين الأدوات والأنظمة المرتبطة بالوكيل
قد يكون الوكيل قادراً على التفكير والتحليل، لكن تأثيره الفعلي غالباً يأتي من الأدوات المتصلة به.
وقد تشمل هذه الأدوات:
- قواعد بيانات المؤسسة.
- أنظمة البريد الإلكتروني.
- أنظمة CRM.
- الأنظمة المالية.
- الخدمات السحابية.
- واجهات API.
- مستودعات الوثائق.
- منصات الأمن السيبراني.
- أنظمة سير العمل.
وكل اتصال جديد يوسع نطاق التأثير المحتمل للوكيل.
لذلك يجب تقييم كل أداة متاحة للوكيل من خلال أسئلة واضحة:
- ماذا تستطيع هذه الأداة أن تفعل؟
- ما البيانات التي تستطيع الوصول إليها؟
- هل تستطيع تعديل المعلومات؟
- هل تستطيع تنفيذ إجراء خارجي؟
- هل يمكن التراجع عن الإجراء؟
- ما مستوى الموافقة المطلوب؟
- كيف يتم تسجيل النشاط؟
مراقبة الوكلاء أثناء التشغيل
تركز بعض عمليات تقييم الذكاء الاصطناعي التقليدية على جودة النموذج قبل النشر.
أما الذكاء الاصطناعي الوكيلي فيحتاج إلى مراقبة تشغيلية مستمرة، لأن الوكيل يتفاعل مع أنظمة وبيانات ومستخدمين وظروف يمكن أن تتغير.
وينبغي أن تشمل المراقبة:
- الإجراءات المنفذة.
- استخدام الأدوات.
- محاولات الوصول.
- مخالفات السياسات.
- السلوك غير المعتاد.
- المهام الفاشلة.
- عمليات التصعيد.
- حالات تجاوز الوكيل بواسطة الإنسان.
- التغييرات غير المتوقعة.
- الأحداث الأمنية.
ويجب تحديد مستويات تؤدي تلقائياً إلى التحقيق أو تقييد الصلاحيات أو إيقاف الوكيل.
والمبدأ العملي هنا هو:
يجب تقييم الثقة بشكل مستمر، وليس منحها بصورة دائمة.
إدارة مخاطر أمن وكلاء الذكاء الاصطناعي
يمكن أن ينتج عن الذكاء الاصطناعي الوكيلي مخاطر أمنية تتجاوز المخاطر المعتادة لتطبيقات الذكاء الاصطناعي.
ومن المجالات التي تحتاج إلى اهتمام:
- الصلاحيات الزائدة.
- اختراق بيانات الاعتماد.
- التعليمات الخبيثة أو المضللة.
- الاستخدام غير المصرح به للأدوات.
- تسرب البيانات.
- التفاعل غير الآمن مع واجهات API.
- الاتصال غير الآمن بين الوكلاء.
- حقن التعليمات.
- مخاطر سلسلة التوريد.
- الإجراءات الذاتية غير المنضبطة.
وقد حددت مبادرة NIST لمعايير وكلاء الذكاء الاصطناعي أمن الوكلاء وهويتهم ضمن مجالات العمل المهمة مع توسع استخدام الوكلاء المستقلين.
ولهذا ينبغي أن تعمل فرق الأمن السيبراني بالتنسيق مع فرق حوكمة الذكاء الاصطناعي والمخاطر والامتثال ووحدات الأعمال.
دمج حوكمة الوكلاء مع إدارة المخاطر المؤسسية
لا ينبغي أن تصبح حوكمة وكلاء الذكاء الاصطناعي جزيرة منفصلة داخل المؤسسة.
بل ينبغي ربطها مع:
- إدارة المخاطر المؤسسية.
- حوكمة الأمن السيبراني.
- حوكمة البيانات.
- إدارة الخصوصية.
- مخاطر الأطراف الثالثة.
- استمرارية الأعمال.
- الضوابط الداخلية.
- إدارة الامتثال.
- إدارة التغيير.
وهذا يخلق بيئة رقابية أكثر اتساقاً.
فعلى سبيل المثال، يجب أن يخضع وكيل مرتبط بنظام مالي إلى ضوابط المؤسسة المالية القائمة، إضافة إلى ضوابط حوكمة الذكاء الاصطناعي.
أسئلة يجب أن يطرحها التنفيذيون قبل اعتماد أي وكيل
قبل الموافقة على نشر وكيل ذكاء اصطناعي، ينبغي على القيادات طرح أسئلة مثل:
- ما المشكلة التي يحلها الوكيل؟
- ما القرارات أو الإجراءات التي يستطيع تنفيذها دون موافقة بشرية؟
- ما الأنظمة والبيانات التي يستطيع الوصول إليها؟
- من هو مالك الوكيل؟
- ما تصنيف مخاطر الوكيل؟
- ماذا يحدث إذا اتخذ الوكيل قراراً خاطئاً؟
- هل يمكن التراجع عن الإجراءات التي نفذها؟
- ما الأنشطة التي تتم مراقبتها باستمرار؟
- متى يصبح التدخل البشري إلزامياً؟
- ما مدى سرعة إيقاف الوكيل؟
- كيف يتم اختبار التغييرات واعتمادها؟
- ما الأدلة التي تثبت بقاء الوكيل ضمن الصلاحيات الممنوحة له؟
تساعد هذه الأسئلة على نقل الحوكمة من المبادئ العامة إلى المساءلة التشغيلية.
أخطاء شائعة في حوكمة الذكاء الاصطناعي الوكيلي
التعامل مع الوكلاء مثل روبوتات المحادثة التقليدية
الوكيل الذي يستطيع تنفيذ إجراءات يحتاج إلى ضوابط أقوى من النظام الذي يقتصر على إنتاج النصوص.
منح الوكلاء صلاحيات واسعة
كلما اتسعت الصلاحيات، زادت الآثار المحتملة للأخطاء أو الاختراق.
عدم تحديد المسؤولية
النظام المستقل يحتاج أيضاً إلى مالك بشري أو مؤسسي مسؤول.
اعتماد الوكيل مرة واحدة وعدم مراجعته
يمكن أن تتغير سلوكيات الوكيل، والأدوات المرتبطة به، ومصادر البيانات، ومتطلبات المؤسسة.
التركيز على دقة النموذج فقط
قد يكون النموذج دقيقاً من الناحية التقنية، ومع ذلك ينتج نتائج غير مقبولة إذا تم ربطه بأدوات غير مناسبة أو منحه صلاحيات مفرطة.
إنشاء سياسات دون ضوابط تشغيلية
لا توفر وثيقة السياسة وحدها رقابة فعالة. يجب ترجمة الحوكمة إلى صلاحيات وإجراءات ومراقبة واختبارات وتصعيد ومسؤوليات موثقة.
قائمة استعداد عملية لحوكمة وكلاء الذكاء الاصطناعي
قبل التوسع في استخدام الوكلاء، ينبغي على المؤسسة تقييم قدرتها على الإجابة بنعم عن النقاط التالية:
- لكل وكيل إنتاجي مالك مسؤول.
- لكل وكيل غرض تجاري موثق.
- الصلاحيات محددة بوضوح.
- الوصول إلى البيانات الحساسة يخضع للرقابة.
- الأدوات وواجهات API المرتبطة بالوكيل موثقة.
- مستويات الموافقة البشرية محددة.
- الإجراءات عالية التأثير تخضع لضوابط مناسبة.
- أنشطة الوكيل مسجلة وتتم مراقبتها.
- اختبارات الأمن تشمل المخاطر الخاصة بالوكلاء.
- توجد إجراءات واضحة لتصعيد الحوادث.
- يمكن إيقاف الوكيل بسرعة.
- التغييرات الجوهرية تخضع للمراجعة.
- تتم إعادة تقييم المخاطر دورياً.
- مسؤوليات الحوكمة موزعة بين الأعمال والتقنية والأمن والمخاطر والامتثال.
يساعد هذا التقييم على تحديد الفجوات قبل توسيع نطاق الاستقلالية.
ماذا يعني الذكاء الاصطناعي الوكيلي لمجالس الإدارة والقيادات العليا؟
أصبحت حوكمة الذكاء الاصطناعي الوكيلي قضية قيادية، لأن الاستقلالية تغير العلاقة بين التكنولوجيا والسلطة المؤسسية.
ولا تحتاج مجالس الإدارة إلى إدارة كل التفاصيل التقنية، لكنها تحتاج إلى مستوى كافٍ من الرؤية للتأكد من وجود ضوابط مناسبة للأنظمة التي تستطيع تنفيذ إجراءات ذات آثار مهمة.
لذلك ينبغي أن تركز القيادات العليا على:
- المساءلة.
- شهية المخاطر.
- تفويض الصلاحيات.
- الإشراف البشري.
- الأمن.
- المخاطر التنظيمية.
- المرونة التشغيلية.
- قدرات الموظفين.
- قابلية التدقيق.
وتوضح التطورات الحكومية في دولة الإمارات خلال 2026 أن القضية انتقلت بالفعل من مرحلة النقاش النظري إلى مرحلة التطبيق المؤسسي. فقد أعلنت الإمارات إطاراً يستهدف تحويل 50% من القطاعات والخدمات والعمليات الحكومية إلى نماذج تعتمد على الذكاء الاصطناعي الوكيلي خلال عامين، كما اعتمدت إطاراً لتحديد الأدوار والمسؤوليات، وأطلقت برامج لتطوير مهارات الموظفين في هذا المجال.
وبالنسبة للمؤسسات العاملة في دول الخليج والأسواق التي تشهد تحولاً رقمياً سريعاً، فإن الرسالة العملية واضحة: يجب أن تتطور حوكمة وكلاء الذكاء الاصطناعي بالتوازي مع التبني، وليس بعد إدخال الأنظمة الذاتية في العمليات الحرجة.
التطوير المهني ذو الصلة
يمكن للمديرين التنفيذيين والمتخصصين في المخاطر والامتثال ومديري التكنولوجيا ومتخصصي حوكمة الذكاء الاصطناعي الراغبين في تعزيز قدراتهم في هذا المجال الاطلاع على دورة أخلاقيات الذكاء الاصطناعي والحوكمة للشركات من مركز جينتكس للتدريب، حيث يرتبط التطوير المهني المنظم بحوكمة الذكاء الاصطناعي وإدارة المخاطر والمسؤولية والامتثال والتطبيق المسؤول.
كما يمكن للمتخصصين المشاركين في التحول الرقمي الاطلاع على مسار الاستراتيجية الرقمية وحوكمة الذكاء الاصطناعي لربط حوكمة الذكاء الاصطناعي بالاستراتيجية والتحول المؤسسي.
الأسئلة الشائعة
ما المقصود بحوكمة وكلاء الذكاء الاصطناعي؟
هي مجموعة السياسات والمسؤوليات والضوابط والصلاحيات وآليات المراقبة وإدارة المخاطر والإشراف البشري التي تنظم استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام والإجراءات بدرجات متفاوتة من الاستقلالية.
لماذا تحتاج وكلاء الذكاء الاصطناعي إلى حوكمة إضافية؟
لأن الوكلاء يمكنهم التفاعل مع الأدوات والأنظمة والبيانات والبيئات الخارجية. لذلك يجب ألا تقتصر الحوكمة على ما ينتجه النظام، بل يجب أن تحدد أيضاً ما يستطيع الوصول إليه والقرارات والإجراءات التي يستطيع تنفيذها.
من المسؤول عن وكيل الذكاء الاصطناعي؟
يجب أن يكون لكل وكيل مستخدم في بيئة الإنتاج مالك مؤسسي واضح، مع تحديد المسؤوليات التقنية والأمنية والرقابية المناسبة. ويعتمد الهيكل الدقيق للحوكمة على الغرض من الوكيل ومستوى المخاطر.
هل يجب أن تتطلب جميع إجراءات وكيل الذكاء الاصطناعي موافقة بشرية؟
ليس بالضرورة. يجب أن يتناسب الإشراف البشري مع أثر الإجراء. ويمكن أتمتة الإجراءات منخفضة المخاطر ضمن ضوابط محددة، بينما قد تتطلب الإجراءات عالية التأثير أو غير القابلة للعكس موافقة بشرية صريحة.
كيف تستعد المؤسسات للذكاء الاصطناعي الوكيلي؟
يمكن البدء بإنشاء سجل للوكلاء، وتحديد الملكية، وتصنيف المخاطر، وتطبيق مبدأ أقل الصلاحيات، وتحديد مستويات الموافقة البشرية، وتعزيز الأمن والمراقبة المستمرة، ووضع إجراءات للحوادث وإعادة تقييم المخاطر بصورة دورية.
الخلاصة
يغير الذكاء الاصطناعي الوكيلي طبيعة تحدي الحوكمة، لأن المؤسسات لم تعد تتعامل فقط مع أنظمة تنتج المعلومات، بل تتعامل بصورة متزايدة مع أنظمة تستطيع التصرف والتنفيذ.
ولهذا يجب أن تقوم الحوكمة الفعالة على تحديد واضح للسلطة، وملكية مسؤولة، ووصول مضبوط، وإشراف بشري فعلي، ومراقبة مستمرة، وضوابط أمنية قوية. والهدف ليس منع الاستقلالية المفيدة، بل جعلها مقصودة ومحددة وقابلة للمراقبة والمساءلة.
إن بناء هذه الضوابط في وقت مبكر يساعد المؤسسات على الاستفادة من وكلاء الذكاء الاصطناعي مع الحفاظ على مستوى الحوكمة المطلوب للتحول المؤسسي المسؤول.
نبذة عن الكاتب
مايا
خبيرة حوكمة الذكاء الاصطناعي في مركز جينتكس للتدريب