أهمية التنوع في الذكاء الاصطناعي لا تتعلق بالرأي، بل بالرياضيات - IBM Blog

نريد جميعًا أن نرى قيمنا الإنسانية المثالية تنعكس في تقنياتنا. نتوقع ألا تكذب علينا تقنيات مثل الذكاء الاصطناعي، وألا تمارس التمييز، وأن تكون آمنة لاستخدامها لنا ولأطفالنا. ومع ذلك، يواجه العديد من منشئي الذكاء الاصطناعي حاليًا ردود فعل عنيفة بسبب التحيزات وعدم الدقة وممارسات البيانات الإشكالية التي يتم الكشف عنها في نماذجهم. تتطلب هذه المشكلات أكثر من مجرد حل تقني أو خوارزمي أو قائم على الذكاء الاصطناعي. في الواقع، هناك حاجة إلى نهج اجتماعي تقني شامل.

الرياضيات تظهر حقيقة قوية

جميع النماذج التنبؤية، بما في ذلك الذكاء الاصطناعي، تكون أكثر دقة عندما تتضمن ذكاءً وخبرة بشرية متنوعة. هذا ليس رأيا؛ لها صلاحية تجريبية. النظر في نظرية التنبؤ بالتنوع. ببساطة، عندما يكون التنوع في المجموعة كبيرا، يكون خطأ الجمهور صغيرا ــ مما يدعم مفهوم "حكمة الجمهور". في دراسة مؤثرة، تبين أن مجموعات متنوعة من ذوي القدرة المنخفضة على حل المشكلات يمكن أن تتفوق على مجموعات من ذوي القدرة العالية على حل المشكلات (هونغ آند بيج، 2004).

في اللغة الرياضية: كلما اتسع تباينك، كلما زاد معيار وسطك. تبدو المعادلة كما يلي:

A المزيد من الدراسة قدمت المزيد من الحسابات التي تعمل على تحسين التعريفات الإحصائية للحشد الحكيم، بما في ذلك الجهل بتنبؤات الأعضاء الآخرين وإدراج أولئك الذين لديهم مختلفة إلى أقصى حد (مرتبطة سلبا) التنبؤات أو الأحكام. لذلك، ليس الحجم فقط، بل التنوع هو الذي يحسن التوقعات. كيف يمكن أن تؤثر هذه الرؤية على تقييم نماذج الذكاء الاصطناعي؟

دقة النموذج (في).

وعلى حد تعبير قول مأثور شائع، فإن جميع النماذج خاطئة. وهذا ينطبق على مجالات الإحصاء والعلوم والذكاء الاصطناعي. يمكن أن تؤدي النماذج التي تم إنشاؤها مع نقص الخبرة في المجال إلى خاطئ النواتج.

واليوم، تحدد مجموعة صغيرة متجانسة من الأشخاص البيانات التي يجب استخدامها لتدريب نماذج الذكاء الاصطناعي التوليدية، والتي يتم استخلاصها من مصادر تبالغ في تمثيل اللغة الإنجليزية إلى حد كبير. "بالنسبة لمعظم اللغات التي يزيد عددها عن 6,000 لغة في العالم، فإن البيانات النصية المتاحة ليست كافية لتدريب نموذج أساسي واسع النطاق" (من "حول فرص ومخاطر نماذج الأساس"، بوماساني وآخرون، 2022).

بالإضافة إلى ذلك، يتم إنشاء النماذج نفسها من بنيات محدودة: "جميع نماذج البرمجة اللغوية العصبية (NLP) الحديثة تقريبًا تم تكييفها الآن من أحد النماذج الأساسية القليلة، مثل BERT، وRoBERTa، وBART، وT5، وما إلى ذلك. بينما ينتج عن هذا التجانس رافعة مالية عالية للغاية (أي تحسينات في النماذج الأساسية يمكن أن تؤدي إلى فوائد فورية عبر البرمجة اللغوية العصبية بأكملها)، وهي أيضًا مسؤولية؛ قد ترث جميع أنظمة الذكاء الاصطناعي نفس التحيزات الإشكالية لبعض النماذج الأساسية (بوماساني وآخرون.) "

لكي يعكس الذكاء الاصطناعي التوليدي المجتمعات المتنوعة التي يخدمها بشكل أفضل، يجب تمثيل مجموعة أوسع بكثير من بيانات البشر في النماذج.

يسير تقييم دقة النموذج جنبًا إلى جنب مع تقييم التحيز. يجب أن نسأل، ما هو الهدف من النموذج ولمن تم تحسينه؟ لنتأمل، على سبيل المثال، من الذي يستفيد أكثر من خوارزميات توصية المحتوى وخوارزميات محرك البحث. قد يكون لأصحاب المصلحة مصالح وأهداف مختلفة على نطاق واسع. تتطلب الخوارزميات والنماذج أهدافًا أو وكلاء لخطأ بايز: الحد الأدنى من الخطأ الذي يجب على النموذج تحسينه. غالبًا ما يكون هذا الوكيل شخصًا، مثل خبير في الموضوع يتمتع بخبرة في المجال.

تحدي إنساني للغاية: تقييم المخاطر قبل شراء النماذج أو تطويرها

تؤكد لوائح وخطط عمل الذكاء الاصطناعي الناشئة بشكل متزايد على أهمية نماذج تقييم التأثير الخوارزمي. الهدف من هذه النماذج هو الحصول على معلومات مهمة حول نماذج الذكاء الاصطناعي حتى تتمكن فرق الحوكمة من تقييم مخاطرها ومعالجتها قبل نشرها. تشمل الأسئلة النموذجية ما يلي:

• ما هي حالة استخدام النموذج الخاص بك؟
• ما هي مخاطر التأثير المتباين؟
• كيف تقيم العدالة؟
• كيف تجعل نموذجك قابلاً للتفسير؟

على الرغم من تصميمها بنوايا حسنة، إلا أن المشكلة تكمن في أن معظم أصحاب نماذج الذكاء الاصطناعي لا يفهمون كيفية تقييم المخاطر المتعلقة بحالة الاستخدام الخاصة بهم. قد تكون العبارة الشائعة هي: "كيف يمكن أن يكون نموذجي غير عادل إذا لم يجمع معلومات التعريف الشخصية (PII)؟" وبالتالي، نادرًا ما يتم استكمال النماذج بالتفكير اللازم لأنظمة الحوكمة لتحديد عوامل الخطر بدقة.

ومن ثم، يتم التأكيد على الطبيعة الاجتماعية والتقنية للحل. لا يمكن ببساطة إعطاء مالك النموذج - فردًا - قائمة من مربعات الاختيار لتقييم ما إذا كانت حالة الاستخدام الخاصة به ستسبب ضررًا أم لا. وبدلاً من ذلك، فإن المطلوب هو مجموعات من الأشخاص الذين لديهم تجارب حياتية متباينة على نطاق واسع يجتمعون معًا في مجتمعات توفر الأمان النفسي لإجراء محادثات صعبة حول التأثيرات المتباينة.

الترحيب بوجهات نظر أوسع للذكاء الاصطناعي الجدير بالثقة

تؤمن شركة IBM®‎ باتباع نهج "العميل صفر"، وتنفيذ التوصيات والأنظمة التي ستقدمها لعملائها عبر الاستشارات والحلول التي يقودها المنتج. ويمتد هذا النهج إلى الممارسات الأخلاقية، ولهذا السبب أنشأت شركة IBM مركزًا جديرًا بالثقة للتميز في مجال الذكاء الاصطناعي (COE).

كما هو موضح أعلاه، يعد تنوع الخبرات والمهارات أمرًا بالغ الأهمية لتقييم تأثيرات الذكاء الاصطناعي بشكل صحيح. لكن احتمال المشاركة في مركز للتميز قد يكون أمرًا مخيفًا في شركة مليئة بمبتكري الذكاء الاصطناعي والخبراء والمهندسين المتميزين، لذلك هناك حاجة إلى تنمية مجتمع من الأمان النفسي. وتوضح شركة IBM ذلك بوضوح بقولها: "هل أنت مهتم بالذكاء الاصطناعي؟ هل أنت مهتم بأخلاقيات الذكاء الاصطناعي؟ لديك مقعد على هذه الطاولة."

يقدم مركز التميز التدريب على أخلاقيات الذكاء الاصطناعي للممارسين على جميع المستويات. يتم تقديم كل من برامج التعلم المتزامن (المعلم والطلاب في الفصول الدراسية) والبرامج غير المتزامنة (الموجهة ذاتيًا).

لكنها مراكز التميز تطبيقي التدريب الذي يمنح ممارسينا أعمق الرؤى، حيث يعملون مع فرق عالمية ومتنوعة ومتعددة التخصصات في مشاريع حقيقية لفهم التأثير المتباين بشكل أفضل. كما أنها تستفيد من أطر التفكير التصميمي التي تقدمها شركة IBM تصميم للذكاء الاصطناعي تستخدم المجموعة داخليًا ومع العملاء لتقييم التأثيرات غير المقصودة لنماذج الذكاء الاصطناعي، مع إبقاء المهمشين في كثير من الأحيان على رأس أولوياتهم. (أنظر سيلفيا دكوورث عجلة القوة والامتياز للحصول على أمثلة لكيفية تداخل الخصائص الشخصية لتمييز الأشخاص أو تهميشهم.) كما تبرعت شركة IBM أيضًا بالعديد من أطر العمل لمجتمع المصادر المفتوحة تصميم أخلاقيا.

فيما يلي بعض التقارير التي نشرتها شركة IBM علنًا حول هذه المشاريع:

أدوات إدارة نموذج الذكاء الاصطناعي الآلية مطلوبة للحصول على رؤى مهمة حول كيفية أداء نموذج الذكاء الاصطناعي الخاص بك. لكن لاحظ أن تسجيل المخاطر قبل وقت طويل من تطوير النموذج الخاص بك ودخوله مرحلة الإنتاج هو الأمثل. من خلال إنشاء مجتمعات من الممارسين المتنوعين ومتعددي التخصصات الذين يوفرون مساحة آمنة للأشخاص لإجراء محادثات صعبة حول التأثيرات المتباينة، يمكنك أن تبدأ رحلتك لتفعيل مبادئك وتطوير الذكاء الاصطناعي بشكل مسؤول.

من الناحية العملية، عندما تقوم بتعيين ممارسي الذكاء الاصطناعي، ضع في اعتبارك أن ما يزيد عن 70% من الجهد المبذول في إنشاء النماذج هو تنظيم البيانات الصحيحة. أنت ترغب في توظيف أشخاص يعرفون كيفية جمع البيانات التمثيلية ولكن يتم جمعها أيضًا بموافقة. أنت أيضًا تريد من الأشخاص الذين يعرفون العمل بشكل وثيق مع خبراء المجال التأكد من أن لديهم النهج الصحيح. إن التأكد من أن هؤلاء الممارسين يتمتعون بالذكاء العاطفي للتعامل مع التحدي المتمثل في رعاية الذكاء الاصطناعي بشكل مسؤول بتواضع وتمييز هو أمر أساسي. ويجب أن نكون عازمين على تعلم كيفية التعرف على كيف ومتى يمكن لأنظمة الذكاء الاصطناعي أن تؤدي إلى تفاقم عدم المساواة بقدر ما يمكنها زيادة الذكاء البشري.

أعد اختراع كيفية عمل عملك باستخدام الذكاء الاصطناعي