التحيز في الذكاء الاصطناعي: ما الذي يجب مراقبته وكيفية منعه

كما ينجذب المقرضون نحو استخدام الذكاء الاصطناعي (الذكاء الاصطناعي)، يجب أن يكونوا ملتزمين بإزالة التحيز من نماذجهم. ولحسن الحظ، هناك أدوات تساعدهم على تحقيق أقصى قدر من العائدات وتقليل المخاطر.

FairPlay.ai المؤسس المشارك والرئيس التنفيذي كريم صالح لقد كان عند تقاطع الذكاء الاصطناعي والشمول المالي في معظم حياته المهنية. بينما كان نائب الرئيس التنفيذي في ZestFinance (الآن Zest.ai)، عمل صالح مع المقرضين لتبني الاكتتاب بالذكاء الاصطناعي. وخلال إدارة أوباما، أشرف على استثمارات سنوية بقيمة 3 مليارات دولار في مشاريع صديقة للتنمية في الأسواق الناشئة.

لقد درس صالح منذ فترة طويلة مشكلة ضمان المقترضين الذين يصعب الحصول عليهم، بما في ذلك في الأسواق الناشئة مثل أفريقيا جنوب الصحراء الكبرى، وأميركا اللاتينية، ومنطقة البحر الكاريبي، في مشاريع الطاقة النظيفة ومع رائدات الأعمال. لقد تفاجأ عندما وجد ممارسات اكتتاب بدائية، حتى على أعلى مستويات التمويل.

وقال صالح: "لم تكن منهجيات الاكتتاب بدائية للغاية فحسب، وبالتأكيد وفقًا لمعايير وادي السيليكون، (تم إنشاء النماذج باستخدام) 20 إلى 50 متغيرًا، وبشكل كبير في برنامج Excel". "لقد أظهرت جميع أنظمة اتخاذ القرار التي واجهتها تباينات تجاه الأشخاص الملونين والنساء وغيرهم من المجموعات المحرومة تاريخياً. وهذا ليس لأن الأشخاص الذين بنوا تلك النماذج هم أشخاص سيئو النية. ويرجع ذلك إلى حد كبير إلى القيود المفروضة على البيانات والرياضيات.

الحد من التحيز من خلال اختبار العدالة

جنبا إلى جنب مع المؤسس المشارك له جون ميريليعتقد صالح، أحد الخبراء المخضرمين في شركتي Google وMicrosoft، أن اختبار العدالة يمكن أن يكون آليًا، مما يوفر للمقرضين رؤية في الوقت الفعلي لكيفية تعاملهم مع المجموعات المختلفة. ويشير إلى FairPlay باعتبارها أول شركة في العالم تقدم العدالة كخدمة. وتشمل قائمة عملائها الشكل, نقود سعيدة, دفقة المالية و أوكتان.

تسمح FairPlay لأي شخص يستخدم خوارزمية تتخذ قرارات مؤثرة بتقييم مدى نزاهتها من خلال الإجابة على خمسة أسئلة:

هل الخوارزمية الخاصة بي عادلة؟
إذا لم يكن كذلك ، فلماذا؟
هل يمكن أن يكون أكثر صدقا؟
ما هو التأثير الاقتصادي على الأعمال التجارية التي تكون أكثر عدالة؟
هل يتم إلقاء نظرة ثانية على الأشخاص الذين تم رفضهم لمعرفة ما إذا كان ينبغي الموافقة عليهم؟

كيف تعمل شركتا Capco وSolasAI على تقليل التحيز مع تحسين تخفيف المخاطر

كابكو الشريكة جوشوا سيجل يساعد شركات الخدمات المالية على تعظيم فعاليتها. دخلت الشركة مؤخرًا في شراكة مع مزود برامج الذكاء الاصطناعي للإنصاف الخوارزمي سولاساي للحد من التحيز والتمييز مع تعزيز تخفيف المخاطر المتعلقة باستخدام الذكاء الاصطناعي في صناعة الخدمات المالية. 

وقال سيجل إن المؤسسات تواجه تحديًا للتكيف مع دورات الابتكار الأسرع أثناء سعيها للحصول على مزايا تنافسية. يتطلع الكثيرون إلى الذكاء الاصطناعي ولكنهم بحاجة إلى فهم المخاطر، والتي تشمل عدم الالتزام بالمعايير التنظيمية.

يتوقع الحل المشترك مع SolasAI التحيز ويولد بسرعة نماذج بديلة عادلة من خلال دمج العدالة الخوارزمية مباشرة في عمليات بناء النماذج والعمليات والحوكمة الخاصة بالعميل. 

وقال سيجل: "إن الذكاء الاصطناعي يغير العالم بطرق يمكننا رؤيتها ولا يمكننا رؤيتها". "هناك الكثير من الطرق التي يمكن من خلالها الاستفادة من قرارات الأعمال بجميع أنواعها، وخاصة قرارات الإقراض.

"على الرغم من وجود الكثير من الإمكانات الواعدة، إلا أن هناك أيضًا خطر تسلل التحيز غير المقصود إلى تلك النماذج. وهذا يخلق مخاطر على السمعة؛ إنه يخلق خطر تهميش مجتمعات معينة وأشخاص لا ترغب المؤسسات في تهميشهم.

اقرأ أيضا:

خطة للتدقيق في كل ما يتعلق بالذكاء الاصطناعي

يجب أن تتوقع المؤسسات التدقيق في أي شيء يتعلق بالذكاء الاصطناعي، نظرًا لاهتمام وسائل الإعلام بإمكانية إصابة أنظمة الذكاء الاصطناعي بالهلوسة، مثل القضية التي حظيت بتغطية إعلامية جيدة حيث اخترعت قضايا أمام المحكمة لدعم مذكرة قضائية. أضف هذا إلى التركيز التنظيمي على نماذج الشراكة بين البنوك والتكنولوجيا المالية ومعاملتها للفئات المهمشة تاريخيا.

وقال سيجل: "... يتم سؤال المؤسسات المالية عما إذا كانت تأخذ العدالة على محمل الجد". "يتم حثهم من قبل المنظمين والمستهلكين الذين يمثلون مستقبل صناعة الخدمات المالية على أخذ هذا الأمر على محمل الجد والالتزام بإصلاح المشكلات عندما يجدونها."

الشرطة نفسك للحد من التحيز

يمكن أن تبدأ المشاكل في أقرب وقت ممكن. راقب عن كثب جودة البيانات المستخدمة لتدريب النماذج الخاصة بك، كما حذر كل من صالح وسيجل. وقال صالح إن النموذج المبكر الذي استخدمه حدد دولة صغيرة معينة باعتبارها منطقة إقراض رئيسية. وبعد التقييم، لم يتم تقديم أي قروض فيما كان يُعرف بالحالة الصارمة للغاية. ولأنه لم تكن هناك قروض، لم يشهد النموذج أي تخلف عن السداد وافترض أن الدولة كانت منجم ذهب.

قال صالح: "تميل هذه الأشياء إلى الخطأ إذا لم تكن شديد الحذر بشأن البيانات التي تستهلكها ثم الحسابات التي تجريها".

يقوم بعض المقرضين بتشغيل أنظمة ذكاء اصطناعي متعددة كوسيلة للتحقق من التحيز. FairPlay يفعل ذلك أيضًا. ويذهبون إلى أبعد من ذلك من خلال تطبيق نماذج عدائية تضع الخوارزميات في مواجهة بعضها البعض. ويتنبأ المرء بما إذا كان نموذج آخر يمكنه تحديد ما إذا كان مقدم الطلب ينتمي إلى مجموعة أقلية. يطلب النموذج الثاني سلسلة قرارات لتحديد مصدر التحيز إذا كان ذلك ممكنًا.

(في المرة الأولى التي جرب فيها صالح أسلوب الخصومة، أظهر لمنشئ الرهن العقاري كيف يمكنه زيادة معدل قبول المتقدمين من السود بنسبة 10٪ دون زيادة المخاطر).

وأضاف أن العديد من نماذج الاكتتاب تراعي بشدة اتساق التوظيف. وهذا يؤذي النساء الذين تتراوح أعمارهم بين 18-45 سنة. ويمكن تعديل الخوارزميات لتقليل الاعتماد على اتساق التوظيف مع زيادة الوزن للعوامل غير الضارة.

قال صالح: "لا يزال بإمكانك بناء هذه الخوارزميات عالية الأداء والتنبؤية التي تقلل أيضًا من التحيز للمجموعات المحرومة تاريخيًا". "لقد كان هذا أحد الابتكارات الرئيسية في عدالة الخوارزميات والائتمان. يمكننا أن نفعل الشيء نفسه، التنبؤ بمن سيتخلف عن السداد مع تقليل الفوارق بين المجموعات المحمية.

"هذه هي الطريقة التي يمكنك من خلالها إعادة إنشاء البنية داخل الخوارزمية للتعويض عن التحيزات الطبيعية في البيانات. أثناء عملية التعلم، أنت تجبر النموذج على الاعتماد على عناصر البيانات التي ستعطي وزنًا لعناصر البيانات التي ستزيد من قوتها التنبؤية مع تقليل تأثير التفاوت.

كن واعيًا بمخاطر السمعة أيضًا

يريد عملاء Siegel تعظيم الفائدة مع تقليل المخاطر. الحل الذي توصلوا إليه مع SolasAI يحدد التحيزات مع ضمان عدم عودتهم. وتمتد الآثار المترتبة على ذلك إلى ما هو أبعد من الإقراض إلى التسويق والموارد البشرية ومواقع الفروع.

ويجب على المؤسسات أن تحترس من مخاطر السمعة، حيث أن التكنولوجيا تجعل التحول إلى عرض أفضل أمرًا سهلاً. إذا تم النظر إلى مؤسسة ما على أنها متحيزة بطريقة ما، فمن الممكن التشهير بها على وسائل التواصل الاجتماعي. وكما تظهر الأمثلة الأخيرة، فإن الأموال لا تستغرق وقتا طويلا حتى تتدفق.

قال سيجل: "SolasAI... هي شركة لديها مؤسسون وقيادة تتمتع بعقود من الخبرة في مجال الإقراض العادل وبناء نماذج الذكاء الاصطناعي". "إن حلهم، الذي لا يحدد فقط المتغيرات أو الخصائص المحتملة للنموذج الذي قد يحقن التحيز عن غير قصد، (أيضًا) يقدم بدائل لتلك الشروط ويخرج بطرق للتخفيف من هذا التحيز غير المقصود مع الحفاظ على أكبر قدر ممكن من أداء النموذج .

"أخيرًا، أصبح لدى العملاء إمكانية الشرح والشفافية التي يحتاجون إليها للاستفادة من الذكاء الاصطناعي والتأكد من اهتمامهم بالمتجر."

وحذر سيجل من أن إضافة الشروط يمكن أن يضعف القدرة التنبؤية للذكاء الاصطناعي. يمكن لهذه الشروط أن توجهه في اتجاه محدد بدلاً من إنشاء شيء فريد.

قال سيجل: “بدلاً من السماح للذكاء الاصطناعي بالتوصل إلى استنتاجه وإعطائه مجموعة كاملة من البيانات، فإنه سيتوصل إلى علاقات ارتباط وسببية ومتغيرات لا تراها بالعين البشرية”. "هذا شيء جيد حقًا طالما يمكنك التأكد من عدم وجود شيء لا تريده في هذه النتيجة."

الأسباب المحتملة لدفع الذكاء الاصطناعي

هل جزء من هذا التوجه نحو الذكاء الاصطناعي مدفوع برغبة المقرضين في البحث عن المزيد من العملاء مقارنة بما كانوا عليه قبل 15 عامًا؟ وقال صالح إن تقنيات الاكتتاب التقليدية تعتبر رائعة لتسجيل العملاء المتميزين والمتميزين حيث تتوفر الكثير من البيانات. وركز المقرضون على تلك المجموعات بشكل أساسي على تداول العملاء فيما بينهم.

ويأتي النمو الحقيقي من المجموعات ذات الدرجات المنخفضة، والملفات الرفيعة، واللا ملفات، وتلك التي لديها القليل من البيانات التقليدية. منذ عام 2008، تم إيلاء المزيد من الاهتمام لمعاملتهم المتباينة، ولا تريد البنوك أن يُنظر إليها على أنها تكافح من أجل خدمتهم.

وقد أدى ذلك إلى دفع الابتكار في مجال التكنولوجيا المالية حيث تطبق الشركات تقنيات الاكتتاب الحديثة وتستخدم البيانات غير التقليدية. وقد أدى ذلك إلى تمكين الاكتتاب في التدفق النقدي، الذي يقيم البيانات بشكل أقرب بكثير إلى الميزانية العمومية للأعمال.

وقال صالح: "إن الاكتتاب في التدفق النقدي أقرب بكثير إلى الميزانية العمومية للمستهلك من تقرير الائتمان التقليدي". "إنك تتخذ مقياسًا أكثر مباشرة للقدرة والرغبة في السداد. يمكن أن تستهلك الرياضيات الكثير والكثير والكثير من المعاملات لرسم صورة أكثر دقة لقدرة ذلك المقترض على السداد.

كيف يمكن للأسماك الصغيرة أن تتنافس مع الذكاء الاصطناعي

ويشعر البعض بالقلق إزاء قدرة المؤسسات الصغيرة على توليد بيانات كافية لتدريب نماذج الذكاء الاصطناعي الخاصة بها بشكل صحيح. وقال صالح إن المقرضين الصغار لديهم عدة خيارات، بما في ذلك الاستحواذ على المجموعة، وبيانات المكتب، وموافقة المستهلك. ربما تمتلك المنظمات الكبيرة البيانات، لكن المنظمات الأصغر حجمًا هي الأكثر ذكاءً.

"تتمتع الشركات الكبرى بميزة مستودعات البيانات المذهلة هذه، على الرغم من أن أنظمتها، بصراحة، مجمعة معًا في كثير من الحالات، على مدار أكثر من 30 عامًا من عمليات الاستحواذ، لدرجة أن حقيقة حصولهم على قاعدة البيانات لا تجعلها بالضرورة صالحة للاستخدام. قال صالح. "ثم لدينا أحدث الداخلين إلى السوق الذين ربما لا يمتلكون نفس البيانات التي يمتلكها كبار اللاعبين ولكنهم أكثر تشويشًا، ويمكن استخدام بياناتهم بسهولة.

"أعتقد أن الجميع يمكنهم اللعب في هذه المساحة."

إثبات عملك

في الماضي، كان بإمكان المقرضين التعامل مع الأمور بدقة فقط. وقال صالح إنه يتعين عليهم الآن أن يكونوا عادلين، ويجب أن يكونوا قادرين على إثبات ذلك.

هناك الكثير على المحك. اكتشفت FairPlay أن ما بين 25% و33% من المتقدمين الذين تم رفض طلباتهم من أصحاب البشرة السوداء والبنية والنساء الذين حصلوا على أعلى الدرجات كان أداؤهم جيدًا تمامًا مثل الأشخاص الأكثر خطورة الذين يوافق عليهم معظم المقرضين - بضع نقاط فقط تفصل بين الرفض والقبول.

وقال صالح إن السؤال الفعلي الذي يواجه الصناعة هو مدى صعوبة العمل من أجل إيجاد استراتيجيات ائتمانية أقل تمييزاً. إذا علم المُقرض أن نموذجه متحيز، فهل يحاول تبريره أم يبحث عن خيار أقل انحيازًا يلبي أيضًا أهداف أعماله؟

قال صالح: “هذا مطلب قانوني في القانون”. "يُطلق عليه البديل الأقل تمييزًا."

كما يجبر القانون المقرضين على إثبات عدم وجود طريقة أقل تمييزًا لتحقيق هذه الأهداف. ويجب عليهم أن يثبتوا أنهم قاموا بتقييم نماذجهم لمعرفة ما إذا كانت هناك بدائل أكثر عدالة.

وهناك أدوات لمساعدتهم على القيام بذلك، أدوات مثل تلك التي تقدمها Capco/SolasAI وFairPlay.

وقال صالح: "إن الأدوات المشابهة لأدواتنا تولد حدودًا فعالة للاستراتيجيات البديلة بين العدالة التامة والدقة التامة". "هناك المئات، وأحيانًا الآلاف من المتغيرات البديلة لنموذج على هذا النطاق. يمكن لأي مُقرض اختيار المقايضة المناسبة لأعماله.

"أعتقد أن هذه هي التكنولوجيا التي يستخدمها عدد قليل جدًا من الناس اليوم وسيستخدمها الجميع في المستقبل غير البعيد."

.pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .box-header-title { font-size: 20px !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .box-header-title { font-weight: bold !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .box-header-title { color: #000000 !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-avatar img { border-style: none !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-avatar img { border-radius: 5% !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-name a { font-size: 24px !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-name a { font-weight: bold !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-name a { color: #000000 !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-description { font-style: none !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-description { text-align: left !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-meta a span { font-size: 20px !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-meta a span { font-weight: normal !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-meta { text-align: left !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-meta a { background-color: #6adc21 !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-meta a { color: #ffffff !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-meta a:hover { color: #ffffff !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .ppma-author-user_url-profile-data { color: #6adc21 !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .ppma-author-twitter-profile-data span, .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .ppma-author-twitter-profile-data i { font-size: 16px !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .ppma-author-twitter-profile-data { background-color: #6adc21 !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .ppma-author-twitter-profile-data { border-radius: 50% !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .ppma-author-twitter-profile-data { text-align: center !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .ppma-author-linkedin-profile-data span, .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .ppma-author-linkedin-profile-data i { font-size: 16px !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .ppma-author-linkedin-profile-data { background-color: #6adc21 !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .ppma-author-linkedin-profile-data { border-radius: 50% !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-author-boxes-recent-posts-title { border-bottom-style: dotted !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-multiple-authors-boxes-li { border-style: solid !important; } .pp-multiple-authors-boxes-wrapper.box-post-id-45383.pp-multiple-authors-layout-boxed.multiple-authors-target-shortcode.box-instance-id-1 .pp-multiple-authors-boxes-li { color: #3c434a !important; }

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون السيارات / المركبات الكهربائية ، كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• BlockOffsets. تحديث ملكية الأوفست البيئية. الوصول هنا.
• المصدر https://www.fintechnexus.com/bias-in-ai-what-to-watch-for-and-how-to-prevent-it/