حوكمة الذكاء الاصطناعي في المؤسسات المالية
الحزمة الإرشادية للمنظمة الدولية والأحكام الأوروبية رسمت الاتجاه. خمسة قرارات أساسية تسبق اختيار التقنية، لا تأتي بعد نشر النموذج في بيئة التشغيل الفعلية.
في مايو ٢٠٢٦، نشرت المنظمة الدولية لهيئات الأوراق المالية حزمة إرشادية إشرافية لاستخدام الذكاء الاصطناعي في أسواق رأس المال. وبعد أشهر، دخلت أحكام الفئة عالية المخاطر في قانون الذكاء الاصطناعي الأوروبي حيز التنفيذ، شاملةً التقييم الائتماني وكشف الاحتيال واتخاذ القرار المالي الآلي.
الرسالة المشتركة واضحة: انتهت الفترة التي كان يمكن فيها نشر نموذج دون إطار حوكمة.
يتناول هذا المقال القرارات التي تسبق بدء المشروع، لا التي تليه.
لماذا لا تحتمل الحوكمة التأجيل
ما يميّز مشروع الذكاء الاصطناعي في الخدمات المالية عن غيره أن مخرجات النموذج تمسّ الأفراد مباشرة: تُحجب معاملة، أو يُرفض طلب، أو يُعلَّم حساب.
وحين يحدث ذلك تُطرح ثلاثة أسئلة فوراً: لماذا؟ ومن المسؤول؟ وكيف يُعترض؟
والمؤسسة التي لم تصمّم هذه الإجابات مسبقاً تجد نفسها مضطرة لتصميمها لاحقاً وتحت ضغط — وهو دائماً أغلى وأضعف نتيجة.
خمسة قرارات تُتخذ في البداية
أولاً: هل يقرر النموذج أم يوصي؟
الخيار الأكثر جوهرية. هل تُحدث مخرجات النموذج إجراءً مباشرة، أم توصي لموظف بشري يتخذ القرار؟
في المجالات ذات الأثر المباشر على العميل، يكون النهج المحافظ — إنسان داخل حلقة القرار — هو الصحيح دائماً تقريباً، في السنوات الأولى على الأقل.
ثانياً: ما درجة القابلية للتفسير المطلوبة؟
ثمة مفاضلة حقيقية بين الدقة والقابلية للتفسير. فالنماذج الأعقد أدقّ عادةً لكن تبرير قراراتها أصعب.
وحيث يجب الرد على عميل أو جهة رقابية، تتقدّم القابلية للتفسير على بضع نقاط من الدقة. واتخذوا هذا القرار عن وعي لا كنتيجة عرضية لخيار تقني.
ثالثاً: من يملك النموذج؟
يحتاج النموذج إلى مالك محدد كأي أصل آخر — شخص مسؤول عن مراقبة الأداء وقرار إعادة التدريب والإجابة عند حدوث خلل.
من دونه تتدهور النماذج بهدوء: تتبدّل البيانات وتنخفض الدقة ولا ينتبه أحد.
رابعاً: كيف ومتى تجري المراجعة؟
الأنماط المالية تتغيّر. والنموذج الدقيق هذا العام ليس بالضرورة دقيقاً في العام التالي — ظاهرة تُعرف بـانزياح النموذج.
حدّدوا منذ البداية أي مؤشر يقيس الأداء، وعلى أي فترة، وعند أي عتبة تُستدعى إعادة التدريب.
خامساً: ماذا يُسجَّل؟
لكل قرار للنموذج ينبغي أن تتمكنوا لاحقاً من إعادة بنائه: أي بيانات دخلت، وأي نسخة من النموذج قرّرت، وماذا كانت المخرجات.
وهذا ليس متطلباً رقابياً فحسب، بل السبيل الوحيد للتحقيق في حالة متنازع عليها.
نهجان ونتيجتان مختلفتان
تسلك المؤسسات عادةً أحد مسارين:
المركزي — لجنة حوكمة واحدة، وإطار موحّد، وموافقة مركزية على كل نموذج. اتساق عالٍ ومخاطر أقل، لكنه بطيء. يناسب المؤسسات الكبيرة الخاضعة لإشراف ثقيل.
الموزّع — تدير كل وحدة نماذجها وفق معيار أدنى مشترك. أسرع وأكثر مرونة، لكنه يتطلب نضجاً داخلياً حقيقياً. ومن دون ذلك النضج ينتج فوضى.
والاختيار بينهما يعتمد على حجم المؤسسة وهيكلها أكثر من اعتماده على التقنية — ومثل معظم القرارات المعمارية، تغييره لاحقاً مكلف.
أسئلة متكررة
ماذا تعني حوكمة الذكاء الاصطناعي فعلياً؟
مجموعة القرارات والعمليات التي تحدد المسؤول عن مخرجات النموذج، وكيفية مراقبة الأداء، وما يُسجَّل، وما يحدث عند وقوع خطأ. وتختلف عن العمل التقني في أنها تُحسم قبل بناء النموذج.
هل تحتاج المؤسسة الصغيرة إلى ذلك؟
نعم، لكن بما يتناسب مع الحجم. وثيقة من صفحتين تحدد مالك النموذج ومؤشر المراقبة وفترة المراجعة تكفي للبدء. الغياب هو ما يصنع المشكلة لا البساطة.
أي القرارات أهم؟
ما إذا كان النموذج يقرر أم يوصي. فهذا الخيار وحده يحدد مستوى المخاطر ومتطلبات التفسير وهيكل المساءلة دفعة واحدة.
متى ينبغي البدء بهذا العمل؟
قبل اختيار التقنية. فإطار الحوكمة ينبغي أن يشكّل اختيار النموذج، لا العكس.
الخلاصة
لم يعد نشر الذكاء الاصطناعي في المؤسسات المالية قراراً تقنياً محضاً. وتبيّن الحزمة الإرشادية للمنظمة الدولية والأحكام الأوروبية عالية المخاطر إلى أين يتجه القطاع.
والخبر الجيد أن الإطار لا يلزم أن يكون ثقيلاً. فبالنسبة لمعظم المؤسسات، تؤدي إجابات واضحة على الأسئلة الخمسة أعلاه — قبل بدء المشروع — معظم العمل.
التطبيقات العملية في الذكاء الاصطناعي في المؤسسات المالية، ومسار التنفيذ في كشف الاحتيال بالذكاء الاصطناعي.
خدمات قطرة ذات الصلة
تتخذ قطرة من مجمع البرز للعلوم والتقنية في كرج مقراً لها، وتعمل مع المؤسسات في:
- استشارات الذكاء الاصطناعي للأعمال — تصميم إطار حوكمة يتناسب مع حجم المؤسسة
- علم البيانات والنماذج التنبؤية مع التركيز على القابلية للتفسير
- دورات تدريبية في الذكاء الاصطناعي واستشارات الذكاء الاصطناعي للتعليم — تدريب المديرين ومتخذي القرار
- أتمتة الذكاء الاصطناعي وروبوتات المحادثة المؤسسية المخصصة
- الرؤية الحاسوبية والروبوتات — معالجة الصور والمراقبة الآلية
إذا أردتم معرفة الإطار المتناسب مع مؤسستكم، تواصلوا معنا.