أحدث الأخبار التقنية، مدعومة برؤى خبراء
ابقَ على اطلاع دائم على أبرز الاتجاهات في مجالات الذكاء الاصطناعي، والأتمتة، والبيانات، وغيرها الكثير من خلال رسالة Think الإخبارية. راجع بيان الخصوصية لشركة IBM.
إدارة مخاطر النماذج هي عملية تحديد مخاطر النماذج وقياسها ومراقبتها. تحدث مخاطر النماذج عندما يتم استخدام نموذج لقياس المعلومات الكمية والتنبؤ بها ولكن أداء النموذج غير كافٍ. يمكن أن يؤدي ضعف أداء النموذج إلى عواقب وخيمة، بما في ذلك خسائر مالية كبيرة.
النموذج هو أي نهج كمي أو طريقة أو نظام يعالج بيانات الإدخال وينتج تقديرات كمية.1 يتم تطبيق النماذج عادة عند اتخاذ قرارات العمل، وتحديد فرص العمل والمخاطر، ووضع استراتيجيات الأعمال وإدارة عمليات الأعمال.
على سبيل المثال، تعتمد المؤسسات المالية على مجموعة من النماذج للتسعير والتقييم والكشف عن الاحتيال وغسيل الأموال ومكافحتهما، من بين خدمات مالية أخرى. وغالبًا ما ينطوي استخدام النماذج على المخاطر، ما يجعل إدارة مخاطر النماذج (MRM) أحد الاعتبارات المهمة للمؤسسات.
على سبيل المثال، أُلقي باللوم جزئيًا في الأزمة المالية العالمية التي حدثت من 2007 إلى 2008 على نماذج القيمة المُعرضة للمخاطر (VaR) الخاطئة، والتي كانت تُقدّر الخسائر المستقبلية التي قد تتكبدها الاستثمارات.2 أدت كارثة تداول ”(London Whale) “، التي وقعت في عام 2012 في بنك JPMorgan Chase، إلى خسائر بقيمة 6 مليارات دولار أمريكي وغرامات بقيمة مليار دولار أمريكي تقريبًا..3 ويرجع هذا جزئيًا إلى خطأ في جدول البيانات في حسابات النماذج، ما أدى إلى الحد من المخاطر.
في عام 2021، قامت شركة Zillow المتخصصة في التسويق العقاري بتخفيض مخزونها بقيمة 304 ملايين دولار أمريكي وخططت لخفض ربع قوتها العاملة بعد فشل مشروعها لشراء المنازل، والذي كان سببه جزئيًا عدم قدرة نموذج تقييم أسعار العقارات لديها على التنبؤ بأسعار المنازل بدقة..5
ابقَ على اطلاع دائم على أبرز الاتجاهات في مجالات الذكاء الاصطناعي، والأتمتة، والبيانات، وغيرها الكثير من خلال رسالة Think الإخبارية. راجع بيان الخصوصية لشركة IBM.
يمكن أن تنبع مخاطر النماذج من أسباب مختلفة:
قد تكون بيانات إدخال النموذج خاطئة أو غير كاملة أو قديمة أو متحيزة. إذا تم استخدام بيانات قديمة لنموذج السوق، فقد تتوقع اتجاهات منحرفة فيما يتعلق بأداء السوق أو أسعاره مثلًا.
بالإضافة إلى ذلك، إذا لم يتم تقييم مجموعات بيانات التدريب لنماذج الذكاء الاصطناعي بحثًا عن وجود تحيز، فقد تنتج نماذج الذكاء الاصطناعي هذه نتائج تعكس التحيز الجوهري في البيانات وتديمه. على سبيل المثال، قد تُفضل أنظمة فحص المتقدمين للوظائف الذكور أو الأصغر سنًا، في حين أن برامج التنبؤ للرعاية الصحية قد تُظهر تحيزًا عنصريًا عند منح الأولوية للمرضى الذين يحتاجون إلى رعاية فورية.
قد تكون الافتراضات خاطئة أو غير واقعية. ويمكن أن تؤثر المتغيرات غير ذات الصلة أو الخاطئة أو المفقودة أو المحذوفة أو معايرات المتغيرات غير الصحيحة في مخرجات النموذج.
على سبيل المثال، قد ينتج عن نموذج التسعير الذي لا يُراعي تقلبات السوق تقديرات غير دقيقة، في حين أن نماذج التنبؤ بطلب المنتجات التي لا تُراعى فيها سلوكيات الشراء الموسمية أو الظروف الاقتصادية الحالية، مثل التأخير في الشحن أو انخفاض الإنفاق، قد تؤدي إلى سوء إدارة مستويات المخزون.
في الوقت نفسه، قد يؤدي نموذج التنبؤ برعاية المرضى الذي يركز بشكل أكبر على متغير مثل الإنفاق على الرعاية الصحية إلى تمييز النموذج ضد أولئك الذين لديهم دخل أقل ومن ثَمَّ ينفقون أقل على الرعاية الصحية ولكن لديهم حاجة أكبر للوصول إليها.
قد تحتوي المنهجية المختارة على أخطاء متأصلة، لذلك يجب أن يكون مطورو النموذج على دراية بالنموذج وحدوده. على سبيل المثال، يمكن أن تحتوي الأساليب الإحصائية مثل نمذجة الانحدار على أخذ العينات والأخطاء القياسية.
وهنا يأتي دور اختيار النموذج المناسب. على سبيل المثال، على الرغم من أن الذكاء الاصطناعي التوليدي هو أحدث التقنيات، فإنه قد لا يكون مناسبًا للتنبؤات في الشؤون المالية، حيث يمكن لنماذج راسخة أُخرى القيام بذلك بتكلفة أقل.
يمكن أن يؤدي تطوير النموذج غير المكتمل أو غير الصحيح إلى نتائج غير دقيقة أو أخطاء في النموذج. وينطبق الشيء نفسه على أخطاء البرمجة والأخطاء في التقريب أو الحسابات والأخطاء الفنية الأخرى. قد يؤثر أيضًا تطبيق أي اختصارات أو تبسيط نتيجة لعدم اليقين والتعقيد في النموذج في النتيجة النهائية.
على سبيل المثال، قد تؤدي الجداول الزمنية المحدودة لنشر نموذج التحليلات التنبئية لأداء المبيعات إلى استخدام موجزات البيانات في الوقت الفعلي لأرقام المبيعات. ومع ذلك، بسبب هذا القرار، قد يفشل النموذج بشكل متكرر أو يكون بطيئًا في التشغيل. وفي هذه الحالة، قد يؤدي التحول إلى لقطة بيانات يومية أو أسبوعية إلى تحسين سرعة النموذج واستقراره.
يمكن أن يساعد الاختبار الدقيق أيضًا في الكشف عن الأخطاء أثناء التنفيذ، مثل استخدام تنسيق تاريخ مختلف عن طريق الخطأ لنموذج تقييم مطالبات التأمين أو وحدة قياس أخرى لنموذج تشخيص الرعاية الصحية، أو تعديل العملة لنموذج التسعير عن غير قصد.
قد يؤدي التفسير الخاطئ لمخرجات النموذج إلى اتخاذ قرارات خاطئة واتخاذ مسار عمل خاطئ. وهنا تبرز الحاجة إلى تحليل الخبراء، حيث يقوم خبراء متخصصون بتقييم سلامة نتائج النموذج. كما أن قابلية التفسير والشفافية أمران مهمان في تحديد كيفية توصل النموذج إلى استنتاجاته.
قد يُساء استخدام النماذج أو قد يتم تطبيق نموذج خاطئ على سيناريو معين. وقد يكون تصميم النموذج ومواصفاته غير مناسبين أيضًا لحالة عمل معينة.
على سبيل المثال، قد لا يكون النموذج الذي يساعد المستشفيات على فرز المرضى بشكل أسرع في ولاية أو منطقة معينة مناسبًا لولاية أو منطقة مجاورة بسبب اختلاف التركيبة السكانية. وفي الوقت نفسه، قد لا تتمكن النماذج التي تحدد حالة الرئة لدى الأطفال من خلال فحوصات الصدر الخاصة بهم من تحديد الحالة نفسها لدى البالغين.
يمكن لمخاطر النماذج أن تتسبب في إلحاق الضرر بالشؤون المالية للمؤسسة وعملياتها وسمعتها في حال تُركت من دون إدارة. وتتطلب الإدارة الفعالة لمخاطر النماذج إطار عمل يُراعي المخاطر في كل مرحلة من مراحل دورة حياة النماذج.
تستلزم إدارة مخاطر النماذج أيضًا اتباع الإرشادات التنظيمية. على سبيل المثال، في الولايات المتحدة، أصدر بنك الاحتياطي الفيدرالي ومكتب مراقب العملة إرشادات إشرافية بشأن إدارة المخاطر النموذجية، والتي تعمل كمعيار لإطار عمل إدارة المخاطر النموذجية.
يرد فيما يلي ست خطوات شائعة نحو إطار عمل فعال لإدارة مخاطر النماذج:
تحديد المخاطر هو الخطوة الأولى في إدارة مخاطر النماذج. يتضمن ذلك إجراء جرد نموذجي وتحديد المخاطر المرتبطة بكل نموذج.
الخطوة التالية هي قياس مخاطر النماذج وتقييمها، حيث يمكن للشركات التوصل إلى نظام تصنيف يصنف مخاطر النماذج وفقًا للأولوية واحتمال حدوثها وخطورة آثارها من بين مقاييس أخرى.
إلى جانب قياس مخاطر النماذج الفردية، يمكن للشركات مراعاة مخاطر النماذج الإجمالية أيضًا. تشير المخاطر الإجمالية للنماذج إلى المخاطر التي تشكلها التبعيات والتفاعلات بين أنواع النماذج المختلفة. على سبيل المثال، قد تُغذي نتائج نموذج تشخيص الرعاية الصحية نموذج التنبؤ برعاية المرضى. وفي حال أظهر نموذج التشخيص تحيزًا، فقد ينتقل هذا التحيز إلى نموذج التنبؤ، ما يؤثر على من قد يحتاج إلى رعاية عاجلة.
يتطلب تخفيف المخاطر معالجة مصادرها وأسبابها. ويرد فيما يلي بعض استراتيجيات التخفيف من المخاطر التي يمكن دمجها في إطار عمل إدارة مخاطر النماذج:
عمليات التدقيق والمراجعات: يمكن للشركات إجراء عمليات التدقيق الداخلي لنماذجها أو توظيف مختصين من جهات خارجية لإجراء مراجعات مستقلة.
المعايير: يمكن أن يساعد وضع معايير لعملية النمذجة في تقليل المخاطر. ويمكن صياغة معايير لجمع البيانات وتصميم النموذج وعملية تطويره والاختبار والتوثيق واستخدام النموذج.
لا يمكن التخفيف من جميع المخاطر، لذلك قد تظل الشركات عرضة لقدر معين من المخاطر. ومن ثَمَّ، قد تجد المؤسسات أنه من المفيد تحديد مدى قدرتها على تحمل المخاطر. هذا هو مستوى المخاطرة الذي ترغب الشركة في تحمله وتستعد له ويمكنها تحمله عندما يتعلق الأمر باستخدامها للنماذج.
تعمل عمليات التحقق كتحدٍ فعال للنموذج للتحقق من جودته ونتائجه. يتم التحقق من صحة النموذج بعد التنفيذ وقبل طرحه لمستخدمي النموذج. ويشمل النهجين الكمي والنوعي.
يتضمن التحقق من صحة النموذج الكمي هذه الإستراتيجيات:
الاختبار الرجعي هو شكل من أشكال تحليل النتائج الذي يستخدم البيانات التاريخية الواقعية لاختبار نموذج ما، ومن ثَمَّ تقييم مدى دقته وفعاليته.
نماذج التحدي هي نماذج بديلة تم تطويرها لتحدي النموذج "الرائد". يستخدم كلا النموذجين الرائد والتحدي البيانات نفسها، وتتم مقارنة نتائجهما للكشف عن أي مخاطر محتملة أو خفية.
تحليل الحساسية يدرس مدى تأثير تغيير متغير معين في المتغيرات الأخرى في ظروف معينة.
اختبار الإجهاد يطبق عمليات محاكاة تعتمد على سيناريوهات افتراضية أو نظرية لمعرفة مدى استجابة النماذج.
وفي الوقت نفسه، يراعي التحقق من صحة النموذج النوعي عوامل مثل ملاءمة النموذج للغرض منه وما إذا كان النموذج يتوافق مع المعايير أو يمتثل للوائح.
تقوم عملية مراقبة النماذج بفحص النماذج بشكل مستمر للتحقق مما إذا كانت لا تزال تعمل على النحو المقصود وتستمر في الأداء على النحو المتوقع. وتحدد أي مخاطر إضافية قد تنشأ أو تحديثات مطلوبة نتيجة للتغييرات في البيانات والعمليات واللوائح.
عادةً ما يكون التحقق من صحة النموذج جزءًا من عملية المراقبة المستمرة. وفي هذه المرحلة، تقوم الأطراف المعنية بإعداد تقارير الرصد والتحقق وتقييمها للتوصية بأي مسار عمل ضروري.
تُتيح حوكمةالنماذج الإشراف على عملية النمذجة بأكملها، وتُرسي نظامًا للملكية والتحكم من خلال السياسات والإجراءات. وتتطلب حوكمة مخاطر النماذج السليمة فريقًا متنوعًا من صانعي القرار والأطراف المعنية، بدءًا من مجلس الإدارة والإدارة العليا، ووصولًا إلى مالكي النماذج ومطوريها ومستخدميها.
تستخدم العديد من نماذج اليوم الذكاء الاصطناعي والتعلم الآلي بشكل ما، لا سيما عند إنشاء النماذج واختبارها.
على سبيل المثال، يتم تطبيق حلول الذكاء الاصطناعي بشكل شائع في القطاع المالي لنمذجة مخاطر الائتمان ومخاطر السوق والمخاطر التشغيلية. تساعد التقنية على تقييم مخاطر الائتمان والإقراض، وإنشاء نماذج للسوق، وكشف جرائم الاحتيال المالي وغسيل الأموال.
يمكن أيضًا تطبيق حلول الذكاء الاصطناعي والتعلم الآلي على إدارة مخاطر النماذج، خاصة أثناء التحقق من صحة النماذج (مثل اختبار إجهاد نماذج السوق) ومراقبة النماذج في الوقت الفعلي. ويرد فيما يلي بعض خوارزميات وطرق التعلم الآلي الشائعة المستخدمة في إدارة مخاطر النماذج:
يمكن تنفيذ التجميع لتحليل الحساسية للكشف عن الحالات الشاذة التي قد تشير إلى خطر عند تغيير المتغيرات أو عند محاكاة سيناريوهات محددة.
يمكن دمج شبكات القرار مع الشبكات العصبية لمراقبة نماذج التداول، على سبيل المثال، تنبيه المتداولين بالتغييرات التي تطرأ على الأنماط الأساسية أثناء التداول.
يمكن استخدام كل من التعلم العميق والتعلم المعزز لمراقبة النموذج في الوقت الفعلي واكتشاف المشكلات والتوصية تلقائيًا بالحلول.
يمكن أن تساعد الشبكات العصبية في اختبار الإجهاد، ما يساعد البنوك على نمذجة سيولتها في ظل الظروف الاقتصادية الصعبة مثل الركود.
يمكن أن يساعد برنامج إدارة مخاطر النماذج المؤسسات على إدارة مخاطر النماذج بشكل أكثر فعالية. ويوفر سمات متقدمة، مثل مخزون النماذج وتتبع المقاييس وتعيينها ونماذج المتطلبات التنظيمية المتعددة وسياساتها. كما تسمح أدوات إدارة مخاطر النماذج الأخرى أيضًا بإدارة نموذج الذكاء الاصطناعي والتعلم الآلي، من خلال قدرات تشمل أتمتة مراقبة النموذج والتحقق من صحته.
يُمكنك إنشاء أعمال أكثر مرونةً باستخدام الحلول المدعومة بالذكاء الاصطناعي لإدارة الأصول الذكية وسلسلة التوريد.
حوّل عملياتك التجارية مع IBM باستخدام البيانات الغنية وتقنيات الذكاء الاصطناعي الفعالة لدمج عمليات التحسين.
IBM Cloud Pak for Business Automation عبارة عن مجموعة معيارية من مكونات البرامج المتكاملة لإدارة العمليات والأتمتة.
1 “SR 11-7: Guidance on Model Risk Management”, Federal Reserve, 4 April 2011.
2 “Structural causes of the global financial crisis: a critical assessment of the ‘new financial architecture’”, Cambridge Journal of Economics, 1 July 2009.
3 “JPMorgan fined USD 920 million in ‘London Whale’ trading loss”, BBC, 19 September 2013.
4 “Model risk – daring to open up the black box”, British Actuarial Journal, December 2015.
5 “Zillow’s home-buying debacle shows how hard it is to use AI to value real estate”, CNN, 9 November 2021.