تتجه الجهات الحكومية إلى استخدام الذكاء الاصطناعي لتحسين الخدمات العامة، وأتمتة الإجراءات الإدارية، وتحليل المعلومات، ودعم القرارات. غير أن شراء نظام للذكاء الاصطناعي لا يقتصر على مقارنة الأسعار والمواصفات التقنية؛ بل يتطلب تقييم حماية البيانات والأمن السيبراني والشفافية والمساءلة والاعتماد على الموردين والأداء على المدى الطويل.
لذلك، يحتاج شراء الذكاء الاصطناعي في القطاع الحكومي إلى منهج منظم يربط قرارات الشراء بالقيمة العامة والحوكمة المسؤولة. ويحتاج مسؤولو المشتريات والتحول الرقمي والمستشارون القانونيون ومسؤولو المخاطر إلى معايير واضحة لتقييم الموردين وإدارة الأنظمة طوال دورة حياتها. يوضح هذا الدليل كيفية تقييم الحلول، ووضع ضمانات تعاقدية فعالة، والمحافظة على الرقابة بعد التشغيل.
لماذا يتطلب شراء الذكاء الاصطناعي نهجًا مختلفًا؟
تركز المشتريات التقنية التقليدية غالبًا على الوظائف والسعر ومواعيد التسليم ومستويات الخدمة والتوافق التقني. وتظل هذه العناصر مهمة عند شراء أنظمة الذكاء الاصطناعي، لكنها لا تغطي جميع المخاطر المرتبطة بها.
فقد ينتج النظام توصيات غير دقيقة، أو يعكس تحيزات موجودة في بيانات التدريب، أو يتغير أداؤه بعد تحديثه، أو يعتمد على معلومات يصعب التحقق منها بصورة مستقلة. وقد يرتبط أداؤه أيضًا بنماذج خارجية أو خدمات سحابية أو مجموعات بيانات مملوكة للغير أو متعاقدين من الباطن.
وتنشأ عن ذلك مجموعة من التحديات الأساسية:
- المساءلة: تظل الجهة الحكومية مسؤولة عن القرارات الصادرة ضمن اختصاصها، حتى عندما يقدم مورد خارجي التقنية المستخدمة.
- الشفافية: تحتاج فرق المشتريات إلى معلومات كافية عن قدرات النظام وحدوده واستخداماته المقصودة وآلية عمله.
- حماية البيانات: يجب أن تحدد العقود كيفية جمع البيانات الحكومية والوصول إليها وتخزينها ونقلها والاحتفاظ بها وحذفها.
- المرونة التشغيلية: ينبغي فهم ما سيحدث إذا غيّر المورد الخدمة أو تعرض لانقطاع أو أوقف أحد النماذج أو أصبح غير قادر على الاستمرار.
- الاعتماد على المورد: قد تجعل الأنظمة المغلقة الانتقال إلى مورد آخر أو نقل البيانات أو استمرار الخدمة بصورة مستقلة أمرًا صعبًا.
- القيمة العامة: قد يحقق النظام نتائج جيدة في عرض تجريبي، لكنه لا يقدم التحسينات المتوقعة عند استخدامه في خدمة حكومية فعلية.
يشير تقرير منظمة التعاون الاقتصادي والتنمية آفاق الحكومة الرقمية 2026 إلى وجود فجوات في دعم المشتريات الحكومية للذكاء الاصطناعي، وتقييم المخاطر قبل التشغيل، والتدقيق بعد النشر، وقياس النتائج. وتؤكد هذه النتائج ضرورة تحويل مبادئ الحوكمة العامة إلى ضوابط عملية في إجراءات الشراء. ويمكن الاطلاع على تحليل المنظمة لتبني الذكاء الاصطناعي وحوكمته في الحكومة.
تحديد الحاجة الحكومية قبل اختيار المورد
من الأخطاء الشائعة البدء بعرض تجريبي لمنتج معين قبل تحديد المشكلة المؤسسية المطلوب حلها. وقد يؤدي ذلك إلى شراء تقنية دون التأكد من ضرورتها أو من أن حلًا أبسط يحقق النتيجة نفسها.
قبل طرح المناقصة أو دعوة الموردين لتقديم عروضهم، ينبغي للفريق المسؤول تحديد النتائج المطلوبة بوضوح.
تحديد المشكلة والقيمة المتوقعة للخدمة العامة
يجب أن توضح دراسة الجدوى ما يلي:
- الخدمة العامة أو الإجراء الإداري المطلوب تحسينه.
- الفئات التي ستستخدم النظام والأشخاص الذين قد يتأثرون بمخرجاته.
- ما إذا كان النظام سيقدم معلومات أو يوصي بإجراءات أو يتخذ قرارات.
- التحسينات القابلة للقياس التي تتوقعها الجهة الحكومية.
- الإجراءات والضوابط والتقنيات القائمة التي يجب أن يتوافق معها الحل.
- البدائل التي تمت دراستها، بما فيها البرمجيات التقليدية وإعادة تصميم الإجراءات.
على سبيل المثال، ينبغي للجهة التي تفكر في استخدام الذكاء الاصطناعي لمعالجة الطلبات أن تميز بين أداة تساعد الموظفين على تنظيم المستندات وأداة توصي بقبول طلب للحصول على منفعة حكومية أو رفضه. فالاستخدام الثاني قد يؤثر بصورة مباشرة في حقوق الأفراد، ولذلك قد يتطلب ضمانات أقوى وإجراءات مراجعة وإشرافًا بشريًا.
تصنيف المخاطر قبل تحديد أسلوب الشراء
ينبغي تقييم العواقب المحتملة للأخطاء والتحيز والإفصاح غير المصرح به عن البيانات وتعطل النظام.
ويشمل التقييم العملي ما يلي:
- حساسية البيانات المستخدمة.
- عدد الأشخاص المتأثرين وطبيعة الفئات المعنية.
- مدى تأثير النظام في الأهلية أو الإنفاذ أو الدعم المالي أو القرارات المهمة الأخرى.
- مستوى المراجعة البشرية.
- احتمالات التمييز أو المعاملة غير المتكافئة.
- صعوبة اكتشاف المخرجات الخاطئة وتصحيحها.
- عواقب توقف الخدمة.
يحدد تصنيف المخاطر مستوى الفحص والتجارب والاعتمادات والضمانات التعاقدية والرقابة المستمرة المطلوبة. وعادةً ما تستلزم الاستخدامات ذات التأثير الكبير ضوابط أكثر صرامة من التطبيقات الإدارية محدودة المخاطر.
كيفية تقييم موردي الذكاء الاصطناعي للجهات الحكومية
لا يقتصر تقييم المورد الحكومي الجيد على خصائص المنتج وسعره، بل يشمل قدرته على توفير خدمة موثوقة وآمنة وقابلة للفهم والرقابة طوال مدة العقد.
أولًا: الكفاءة التقنية ومدى ملاءمة الحل
ينبغي مطالبة الموردين بإثبات أداء النظام وفق متطلبات الجهة الفعلية، بدلًا من الاعتماد على الادعاءات التسويقية العامة.
ويشمل التقييم الدقة والموثوقية وسرعة الاستجابة والتكامل وإمكانية الوصول وقابلية التوسع والقيود المعروفة. وعند الحاجة، يجب إجراء الاختبارات باستخدام بيانات ممثلة وظروف تشغيل واقعية.
كما ينبغي تحديد ما لا يستطيع النظام القيام به. فنجاح نموذج في بيئة معينة لا يعني بالضرورة تحقيق الأداء نفسه عند التعامل مع لغات أو فئات سكانية أو مستندات أو ظروف تشغيل مختلفة.
ثانيًا: حوكمة البيانات والخصوصية
قد تتعامل العقود الحكومية مع بيانات شخصية أو سجلات سرية أو معلومات تشغيلية حساسة أو بيانات تخضع لقيود وطنية.
لذلك، ينبغي تحديد ما يلي:
- أماكن تخزين البيانات ومعالجتها.
- الجهات والأطراف التي يمكنها الوصول إليها.
- ما إذا كانت البيانات المقدمة ستُستخدم لتدريب النماذج أو تحسينها.
- مدة الاحتفاظ بالبيانات وسجلات النظام.
- آليات حماية البيانات أثناء النقل والتخزين.
- كيفية التحقق من إعادة البيانات أو حذفها.
- ما إذا كان المتعاقدون من الباطن أو مقدمو الخدمات الخارجيون سيحصلون على المعلومات.
- كيفية الإبلاغ عن حوادث البيانات ومعالجتها.
يجب توثيق المتطلبات القانونية المطبقة في الدولة المعنية، وعدم افتراض أن سياسة الخصوصية القياسية للمورد كافية لتلبية التزامات الجهة الحكومية.
ثالثًا: الأمن السيبراني والمرونة التشغيلية
ينبغي أن يوضح المورد كيفية حماية أنظمته وإدارة الثغرات والتحكم في الوصول والاستجابة للحوادث والمحافظة على استمرارية الخدمة.
وقد يشمل الفحص، بحسب طبيعة الاستخدام، مراجعات أمنية مستقلة واختبارات اختراق وأدلة على إجراءات الاستجابة للحوادث وخطط النسخ الاحتياطي والتعافي وضوابط الوصول ذي الامتيازات.
كما يجب مراعاة التهديدات الخاصة بالذكاء الاصطناعي، مثل التلاعب بالمدخلات، والإفصاح غير المصرح به عن المعلومات من خلال المخرجات، واختراق بيانات التدريب، والتغييرات الضارة في النماذج، والثغرات الموجودة في الأدوات المتصلة أو المكونات الخارجية.
ينبغي أن تتناسب المتطلبات الأمنية مع البنية الفعلية للنظام وحساسية الخدمة التي يدعمها.
رابعًا: الشفافية وقابلية تفسير النتائج
تحتاج الجهة الحكومية إلى معلومات كافية لفهم سلوك النظام والتحقيق في المشكلات وتفسير القرارات ذات الصلة للأشخاص المتأثرين.
لذلك، ينبغي توضيح الوثائق المتاحة والقيود المعروفة وكيفية مراجعة المخرجات وإمكانية وصول الموظفين الحكوميين المخولين إلى السجلات ذات الصلة.
ولا تستطيع جميع نماذج الذكاء الاصطناعي تقديم تفسير كامل لكل مخرج. وفي هذه الحالات، يجب أن تحدد متطلبات الشراء بدائل عملية، مثل أدلة الاختبار وتوثيق القيود وإمكانية تتبع النتائج والتقييم المستقل وإجراءات الاعتراض أو المراجعة.
خامسًا: مساءلة الموردين والتعاقد من الباطن
ينبغي تحديد الأطراف المسؤولة عن تطوير النظام واستضافته وصيانته وتحديثه، ومعرفة ما إذا كانت الوظائف الأساسية تعتمد على موردين إضافيين.
ويجب أن توضح العقود المسؤوليات المتعلقة بالحوادث الأمنية وانقطاع الخدمة والاستخدام غير المصرح به للبيانات والتحديثات المعيبة وعدم الالتزام بالأداء المتفق عليه. كما يجب ألا تؤدي ترتيبات التعاقد من الباطن إلى فجوات في المساءلة أو تمنع الجهة من الحصول على المعلومات الضرورية للرقابة.
تضمين الحوكمة في عقود الذكاء الاصطناعي
تتيح وثائق المشتريات فرصة لتحويل مبادئ الحوكمة إلى التزامات تعاقدية واضحة. فالتعهدات العامة بشأن الذكاء الاصطناعي الأخلاقي مفيدة، لكنها لا تغني عن تحديد المسؤوليات ومتطلبات الأدلة والإجراءات التصحيحية.
تحديد الاستخدامات المسموح بها والمحظورة
يجب أن يحدد العقد الغرض المعتمد من النظام والمستخدمين المخولين وفئات البيانات ذات الصلة وحدود الاستخدام. كما ينبغي إخضاع التغييرات الجوهرية في الغرض أو الوظائف لإجراءات مراجعة واعتماد متفق عليها.
وعندما يدعم النظام قرارات حكومية ذات آثار مهمة، ينبغي أن ينص العقد على آليات مناسبة للمراجعة البشرية والتصعيد وتصحيح الأخطاء.
وضع متطلبات قابلة للقياس للأداء والخدمة
ينبغي أن تعكس متطلبات الأداء غرض النظام ومستوى مخاطره، وقد تشمل:
- حدودًا للدقة والموثوقية يتم تحديدها من خلال اختبارات مناسبة.
- التزامات بشأن توافر الخدمة والتعافي.
- مددًا محددة للإبلاغ عن الحوادث ومعالجتها.
- متطلبات حفظ السجلات وأدلة التدقيق والوثائق التقنية.
- تقارير عن تغيرات الأداء والإخفاقات المهمة.
- جداول زمنية لمعالجة العيوب المكتشفة.
- إجراءات اعتماد التحديثات الجوهرية للنماذج أو الأنظمة.
ويجب الاتفاق مسبقًا على طريقة قياس الأداء والجهة التي تتحقق من النتائج والإجراءات التي تُتخذ عند عدم استيفاء المتطلبات.
ضمان حقوق التدقيق والوصول إلى الأدلة
قد تحتاج الجهات الحكومية إلى التحقيق في الشكاوى أو الاستجابة للجهات الرقابية أو مراجعة قرارات الشراء أو إثبات الامتثال للمتطلبات المطبقة.
لذلك، ينبغي أن تتيح العقود وصولًا مناسبًا إلى السجلات والوثائق التقنية ونتائج الاختبارات وتقارير الحوادث وغيرها من الأدلة اللازمة للرقابة. ويمكن مراعاة السرية والملكية الفكرية، لكن يجب ألا تمنع هذه الشروط المساءلة الحكومية الفعلية.
معالجة الملكية وقابلية نقل البيانات وخطط الخروج
قبل توقيع العقد، يجب أن تفهم الجهة حقوقها المتعلقة بالبيانات الحكومية والمخرجات التي ينتجها النظام والإعدادات والوثائق وغيرها من المخرجات ذات الصلة.
وينبغي أن تشمل ترتيبات الخروج ما يلي:
- إعادة البيانات الحكومية أو حذفها بصورة آمنة.
- تحديد صيغ تصدير البيانات والمساعدة اللازمة لنقلها.
- استمرار الوصول خلال فترة انتقالية متفق عليها.
- تسليم الوثائق الأساسية والمعرفة التشغيلية.
- دعم الانتقال إلى مورد آخر أو نظام بديل.
- التعامل مع السجلات والنسخ الاحتياطية وبيانات المتعاقدين من الباطن المحتفظ بها.
تقلل هذه الأحكام مخاطر صعوبة استمرار الخدمة الحكومية بسبب سيطرة المورد الأصلي على المعلومات أو القدرات التقنية الأساسية.
قائمة تحقق عملية لشراء الذكاء الاصطناعي حكوميًا
يمكن استخدام القائمة التالية لمساعدة فرق المشتريات على تنظيم المراجعة. وهي أداة تحريرية عملية أُعدت لهذا المقال، وليست بديلًا عن المتطلبات القانونية الخاصة بكل دولة أو عن التقييم الرسمي للمخاطر.
قبل الشراء
- تحديد المشكلة المتعلقة بالخدمة العامة والنتائج المطلوبة.
- مقارنة الذكاء الاصطناعي بالبدائل غير المعتمدة عليه.
- تحديد الفئات المتأثرة والمستفيدين وأصحاب المصلحة المسؤولين.
- تصنيف المخاطر وتحديد مستوى الاعتماد المطلوب.
- تحديد قواعد المشتريات والخصوصية والأمن وإمكانية الوصول والمتطلبات المتعلقة بالذكاء الاصطناعي.
- وضع معايير قبول قابلة للقياس وتقدير واقعي للتكلفة الإجمالية.
أثناء تقييم الموردين
- اختبار الحل المقترح وفق حالات استخدام واقعية.
- مراجعة الوثائق التقنية والقيود المعروفة.
- تقييم ترتيبات معالجة البيانات والأمن السيبراني والتعاقد من الباطن.
- تقييم مخاطر التحيز واختلاف الأداء بين الفئات ذات الصلة.
- التحقق من قدرات الدعم والصيانة والاستجابة للحوادث.
- تقييم قابلية نقل البيانات والتكامل ومخاطر الاعتماد على المورد.
- توثيق نتائج التقييم وأسباب اختيار العرض الفائز.
قبل التشغيل
- استكمال تقييمات المخاطر والخصوصية المطلوبة.
- التأكد من استيفاء اختبارات القبول للمعايير المتفق عليها.
- التحقق من ضوابط الوصول والسجلات والأمن وإجراءات الحوادث.
- تحديد المسؤوليات المتعلقة بالإشراف البشري والقرارات التشغيلية.
- إعداد إرشادات الاستخدام وتدريب الموظفين وآليات تلقي الشكاوى.
- الحصول على الاعتماد الرسمي من أصحاب الصلاحية.
بعد التشغيل
- مراقبة الأداء والمخاطر الناشئة.
- مراجعة الشكاوى والأخطاء والحوادث والنتائج غير المتوقعة.
- إعادة تقييم النظام بعد التغييرات أو التحديثات المهمة.
- التحقق من التزام المورد بالشروط التعاقدية.
- تنفيذ عمليات تدقيق تتناسب مع مستوى المخاطر وتوثيق الإجراءات التصحيحية.
- مراجعة استمرار تحقيق النظام للقيمة العامة.
- الاحتفاظ بخطة خروج واختبار قابليتها للتنفيذ.
لا تكون قائمة التحقق فعالة إلا إذا ارتبط كل بند بمسؤول وأدلة داعمة ونقطة قرار واضحة. وإلا فقد تتحول إلى مجرد إجراءات توثيقية لا تؤثر فعليًا في قرارات الشراء أو التشغيل.
إدارة الذكاء الاصطناعي بعد إبرام العقد
لا تنتهي مسؤولية المشتريات عند توقيع العقد أو اجتياز النظام اختبارات القبول الأولية. فقد يتغير الأداء مع تغير البيانات والمستخدمين والنماذج والاعتماديات البرمجية وظروف التشغيل.
لذلك، ينبغي إنشاء عملية لإدارة دورة الحياة تستمر طوال مدة تقديم الخدمة.
مراقبة الأداء والآثار غير المقصودة
يجب ألا تقتصر المراقبة على توافر الخدمة تقنيًا. فقد تشمل، بحسب الاستخدام، الدقة وأنماط الأخطاء والنتائج غير المتكافئة وشكاوى المستخدمين والحوادث الأمنية والتكاليف التشغيلية وجودة المراجعة البشرية.
وينبغي تحديد الحدود التي تستوجب التحقيق أو اتخاذ إجراءات تصحيحية أو تقييد الاستخدام أو تعليقه، مع تعيين المسؤولين المخولين باتخاذ هذه القرارات.
ضبط تحديثات المورد وتغييرات النماذج
قد يغير المورد النموذج أو يحدث مصادر بياناته أو يعدل واجهة الاستخدام أو يضيف وظائف جديدة. وقد تؤثر هذه التغييرات في الأداء أو الأمن أو قابلية التفسير أو الامتثال.
لذلك، ينبغي أن تلزم العقود المورد بالإبلاغ عن التغييرات الجوهرية، وأن تحدد الحالات التي تتطلب اختبارات أو موافقات إضافية. كما يجب الاحتفاظ بسجلات كافية لمعرفة إصدار النظام المستخدم عند اتخاذ قرار معين أو وقوع حادث.
قياس النتائج مقارنة بدراسة الجدوى الأصلية
ينبغي مقارنة النتائج الفعلية بالأهداف المحددة قبل الشراء. وقد تشمل المؤشرات مدة المعالجة وإمكانية الوصول إلى الخدمة ومعدلات الأخطاء وعبء العمل والتكلفة ورضا المستفيدين وجودة القرارات.
لكن الكفاءة وحدها لا تكفي. فقد تسرع العملية مع استمرار أخطاء غير مقبولة أو استبعاد أشخاص يحتاجون إلى مساعدة إضافية. ولذلك، يجب أن تشمل مراجعة الأداء جودة الخدمة والعدالة والامتثال القانوني وثقة الجمهور، إلى جانب الوفورات المالية.
أخطاء شائعة في شراء الذكاء الاصطناعي الحكومي
يمكن تفادي عدد من الأخطاء التي تضعف عمليات الشراء حتى عندما تكون مصممة جيدًا.
اختيار المورد بناءً على السعر أساسًا. قد تخفي التكلفة الأولية المنخفضة نفقات مرتفعة للتكامل أو قيودًا على نقل البيانات أو رسوم استخدام مستمرة أو دعمًا غير كافٍ. لذلك، يجب تقييم التكلفة الإجمالية والمخاطر التشغيلية طوال مدة العقد.
اعتبار العروض التجريبية دليلًا كافيًا على الأداء. قد تعتمد العروض على أمثلة مختارة بعناية. لذا يجب اختبار الحل وفق متطلبات واقعية وظروف تمثل الاستخدام الفعلي قبل اعتماده.
الاعتماد على تأكيدات المورد دون تحقق مستقل. تعد وثائق المورد مهمة، لكن الأنظمة عالية المخاطر قد تتطلب اختبارات إضافية أو تقييمًا مستقلًا أو تحققًا يجريه مختصون مؤهلون.
افتراض أن المورد يتحمل جميع المسؤوليات. يقدم المورد التقنية والخدمات، لكن المؤسسة الحكومية مطالبة بالمحافظة على المساءلة المناسبة عن القرارات وتقديم الخدمات والوفاء بالتزاماتها.
تجاهل ترتيبات الخروج. قد يؤدي العقد الذي يفتقر إلى أحكام عملية لنقل البيانات والانتقال وإنهاء الخدمة إلى اعتماد طويل الأمد على مزود واحد.
عدم مراجعة النظام بعد التشغيل. لا تثبت الاختبارات الأولية أن الأداء سيظل مقبولًا إلى أجل غير محدد. فالمراقبة وإعادة التقييم الدوري ضروريان.
مواءمة المشتريات مع أطر حوكمة الذكاء الاصطناعي المعترف بها
لا تحتاج الجهات الحكومية إلى تصميم جميع الضوابط من الصفر. إذ يمكن للأطر المعترف بها أن تساعدها على تنظيم تقييم المخاطر والتوثيق والرقابة والتحسين المستمر.
يوفر إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني الأمريكي للمعايير والتقنية (NIST) منهجًا طوعيًا لتحديد مخاطر الذكاء الاصطناعي وإدارتها. ويمكن الاستفادة من وظائفه الأساسية، وهي الحوكمة والتحديد والقياس والإدارة، لربط قرارات الشراء بمسؤوليات المخاطر والمراقبة المستمرة.
أما المعيار الدولي ISO/IEC 42001:2023، فيحدد متطلبات نظام إدارة الذكاء الاصطناعي، ويمكن أن يساعد المؤسسات على بناء نهج منظم للحوكمة وتوزيع المسؤوليات والتحسين المستمر.
كما تقدم منظمة التعاون الاقتصادي والتنمية تحليلًا ذا صلة حول استخدام الذكاء الاصطناعي في المشتريات العامة، بما في ذلك سبل تعزيز ممارسات الشراء وإدارة المخاطر المرتبطة بالموردين.
ويجب تطبيق هذه المراجع بما يتناسب مع طبيعة الاستخدام والمخاطر. فهي لا تحل تلقائيًا محل قوانين المشتريات المحلية أو متطلبات حماية البيانات الوطنية أو قواعد الأمن الحكومي أو الالتزامات التنظيمية الملزمة للنظام المعني.
تكييف مشتريات الذكاء الاصطناعي مع أولويات الحكومات في الخليج وأفريقيا
قد تتشارك الحكومات في دول الخليج وأفريقيا أهدافًا مثل تحسين الخدمات العامة وتعزيز القدرات الرقمية ورفع كفاءة الإدارة. ومع ذلك، تختلف قواعد المشتريات والبنية التحتية والقدرات المؤسسية ومتطلبات البيانات وأولويات التنفيذ بين الدول.
لذلك، يجمع النهج الفعال بين مبادئ الحوكمة المشتركة والمتطلبات القانونية والتشغيلية المحلية.
في دول الخليج، ينبغي للجهات مواءمة قرارات الشراء مع الاستراتيجيات الوطنية ذات الصلة بالذكاء الاصطناعي والحكومة الرقمية، وقواعد الأمن السيبراني، وقوانين حماية البيانات، وإجراءات المشتريات العامة. كما ينبغي مراعاة متطلبات اللغة والتكامل مع المنصات الحكومية ومرونة الخدمات العامة الحيوية.
أما في الأسواق الأفريقية، فقد تحتاج فرق المشتريات إلى إيلاء اهتمام إضافي للاتصال والبنية التحتية وتوافر البيانات والقدرة على تحمل التكاليف والمهارات التقنية المحلية واستدامة دعم الموردين. وقد تكون تغطية اللغات والأداء في سياقات الخدمات المحلية من معايير التقييم المهمة أيضًا.
وفي الحالتين، ينبغي عدم افتراض أن النموذج الذي اختُبر في دولة أخرى سيحقق الأداء نفسه عند استخدام بيانات محلية أو لغات مختلفة أو إجراءات حكومية وتوقعات مجتمعية مغايرة. ويساعد الاختبار المحلي والتشاور مع أصحاب المصلحة على اكتشاف القيود قبل أن تؤثر في المستفيدين.
رؤية مهنية: اعتبر المشتريات قرارًا متعلقًا بالحوكمة
لا يحدد شراء الذكاء الاصطناعي التقنية التي ستستخدمها المؤسسة فحسب، بل يؤثر أيضًا في الجهة التي تتحكم بالبيانات، وإمكانية مراجعة القرارات، واستمرارية الخدمات، وقدرة الحكومة على الاستجابة عند تعطل النظام.
ويقتضي النهج الأكثر فعالية إشراك فرق المشتريات والشؤون القانونية والأمن السيبراني وحماية البيانات وتقديم الخدمات والتقنية منذ المراحل الأولى. ويسهم كل تخصص بمنظور مختلف، لكن ينبغي أن تعمل جميع الفرق وفق معايير قبول مشتركة ومسؤوليات واضحة.
وقبل اعتماد عملية شراء مهمة للذكاء الاصطناعي، ينبغي للمسؤولين التنفيذيين طرح ثلاثة أسئلة:
- هل تستطيع الجهة توضيح سبب الحاجة إلى النظام وكيفية قياس فوائده؟
- هل تستطيع تحديد مخاطره الجوهرية ومراقبتها والاستجابة لها؟
- هل تستطيع المحافظة على المساءلة واستمرارية الخدمة إذا تراجع أداء النظام أو انتهت العلاقة مع المورد؟
إذا تعذر تقديم إجابات واضحة، فقد تحتاج الجهة إلى استكمال التقييم قبل المضي قدمًا.
الأسئلة الشائعة
ما المقصود بشراء الذكاء الاصطناعي في القطاع الحكومي؟
هو عملية تقييم أنظمة الذكاء الاصطناعي وشرائها والتعاقد بشأنها والإشراف عليها داخل المؤسسات الحكومية. وتشمل تحديد المتطلبات وتقييم الموردين وإدارة مخاطر البيانات والأمن ووضع الالتزامات التعاقدية واختبار الأنظمة ومراقبة أدائها بعد التشغيل.
كيف يمكن للحكومات تقييم موردي الذكاء الاصطناعي؟
يمكن تقييم الموردين من خلال الاختبارات التقنية ومراجعة الوثائق وتقييم الأمن والخصوصية وفحص القيود المعروفة وتحليل مخاطر التحيز والتحقق من ترتيبات الدعم. وينبغي أن يتناسب التقييم مع الاستخدام المقصود والأثر المحتمل في الجمهور والمتطلبات القانونية والتشغيلية للجهة.
ما البنود التي ينبغي أن يتضمنها عقد شراء الذكاء الاصطناعي؟
ينبغي أن يحدد العقد الاستخدامات المسموح بها ومتطلبات الأداء ومسؤوليات حماية البيانات والضوابط الأمنية والإبلاغ عن الحوادث وحقوق التدقيق ومساءلة المورد وإدارة التغييرات وإجراءات إنهاء الخدمة. كما ينبغي معالجة نقل البيانات والملكية الفكرية والتعاقد من الباطن والانتقال إلى مزود آخر عند الحاجة.
لماذا تعد الرقابة البشرية مهمة في أنظمة الذكاء الاصطناعي الحكومية؟
تساعد الرقابة البشرية على ضمان مراجعة القرارات المهمة والطعن في الأخطاء ووضوح المسؤولية. ويتحدد مستوى الرقابة المطلوب وفق غرض النظام ومخاطره. وقد تتطلب التطبيقات عالية التأثير مراجعة فعلية وإجراءات للتصعيد وصلاحية تصحيح مخرجات الذكاء الاصطناعي أو تجاوزها.
كيف يمكن للجهات الحكومية مراقبة الذكاء الاصطناعي بعد التشغيل؟
يمكن مراقبة النظام من خلال مؤشرات أداء محددة وتقارير الحوادث وملاحظات المستخدمين والاختبارات الدورية وعمليات التدقيق ومراجعة التزام المورد. وينبغي أن تكشف المراقبة التغيرات في الدقة والموثوقية والأمن والعدالة ونتائج الخدمة، مع تحديد إجراءات واضحة للتصحيح أو التعليق عند الضرورة.
ما الأطر التي يمكن أن تدعم شراء الذكاء الاصطناعي الحكومي بصورة مسؤولة؟
يمكن أن يساعد إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST، والمعيار ISO/IEC 42001، وإرشادات منظمة التعاون الاقتصادي والتنمية بشأن الذكاء الاصطناعي الحكومي في تنظيم الحوكمة وإدارة المخاطر. وينبغي تطبيقها إلى جانب القوانين الوطنية وقواعد المشتريات والمتطلبات التنظيمية الملزمة، لا بدلًا منها.
الخلاصة
يتطلب شراء الذكاء الاصطناعي بصورة مسؤولة ربط المشتريات الحكومية بالمساءلة العامة وإدارة المخاطر والنتائج القابلة للقياس. ويمكن للمتطلبات الواضحة والتقييم الدقيق للموردين والعقود القابلة للإنفاذ والرقابة المستمرة أن تقلل المخاطر وتدعم الابتكار المفيد.
وتتمثل الأولوية العملية في وضع ضوابط الحوكمة قبل الالتزام بالتعاقد مع المورد، والاستمرار في تطبيقها طوال دورة حياة النظام. ومن خلال هذا النهج، تستطيع المؤسسات العامة اتخاذ قرارات شراء أكثر وعيًا وحماية المستفيدين وبناء قدرات رقمية مستدامة.
التطوير المهني ذو الصلة
يستفيد المسؤولون عن شراء الذكاء الاصطناعي من فهم مبادئ الذكاء الاصطناعي الأخلاقي وتقييم المخاطر وهياكل الحوكمة والشفافية والامتثال التنظيمي. وتتناول دورة أخلاقيات وحوكمة الذكاء الاصطناعي للشركات لدى مركز جينتكس للتدريب هذه القدرات من خلال المناقشات العملية ودراسات الحالة وتطبيقات الحوكمة. ويمكن الاطلاع على تفاصيل الدورة لتعزيز منهجية الإشراف المسؤول على الذكاء الاصطناعي وإدارة المخاطر المؤسسية.
نبذة عن الكاتبة
ماريا
خبيرة حوكمة الذكاء الاصطناعي في القطاع الحكومي لدى جينتكس للتدريب