تحديث تراجعت إحدى شركات التأمين عن التفاخر بكيفية استخدام خوارزميات الذكاء الاصطناعي لدراسة مقاطع الفيديو للعملاء بحثًا عن "إشارات غير لفظية" تفيد بأن ادعاءاتهم احتيالية. جاء التحول التسويقي بعد أن تم التشكيك في أخلاقيات هذا النهج علنًا وبصوت عالٍ.
يعد استخدام برامج التعلم الآلي لأتمتة عمليات اتخاذ القرار لتقرير قبول أو رفض ائتمان العملاء أو مدفوعات التأمين أمرًا حساسًا بشكل خاص. في الشهر الماضي ، أصدرت هيئة مراقبة المستهلك الأمريكية ، لجنة التجارة الفيدرالية ، بيانًا شديد اللهجة بيان التحذير من عدم قانونية نشر الخوارزميات ينتهي بالتمييز ضد الأشخاص على أساس العرق واللون والدين والأصل القومي والجنس والحالة الاجتماعية والعمر عند اتخاذ القرارات المالية.
انطلقت أجراس الإنذار عندما قالت Lemonade ، وهي شركة مقرها نيويورك ، إنها قامت ببناء برنامج يمسح مقاطع فيديو للعملاء يشرحون المواقف التي وجدوا أنفسهم فيها ، والتي تم تقديمها كجزء من مطالبات التأمين ، لتقرير ما إذا كان هؤلاء الأشخاص يكذبون أو يلتزمون. بعض الاحتيال الأخرى.
تفخر Lemonade بتوفير طريقة أسهل وأبسط للأشخاص لتقديم مطالبات التأمين على الحيوانات الأليفة والتأمين على المنزل والتأمين على الحياة. يتحدث العملاء إلى روبوت دردشة ، ويقدمون مطالبتهم بمقطع فيديو ، ويمكن اتخاذ قرار بشأن المبلغ الذي يجب أن يدفع لهم في غضون بضع دقائق.
"عندما يقدم المستخدم مطالبة ، يسجلون مقطع فيديو على هواتفهم ويشرحون ما حدث" ، Lemonade ذكر في سلسلة التغريدات التي تم حذفها منذ ذلك الحين.
"يحلل الذكاء الاصطناعي لدينا بعناية مقاطع الفيديو هذه بحثًا عن علامات الاحتيال. يمكن أن تلتقط الإشارات غير اللفظية التي لا تستطيع شركات التأمين التقليدية القيام بها ، لأنها لا تستخدم عملية مطالبات رقمية ".
انتقد مستخدمو الإنترنت تقنية Lemonade ، واتهموها باحتمال تحيزها ، والاعتماد المفرط على المشاعر الواهية وتحليل العاطفة لمقاطع الفيديو المقدمة. دفع رد الفعل العنيف على تويتر الشركة إلى حذف منشوراتها وإصدار بيان جديد زعمت فيه أنها استخدمت فقط خوارزميات التعرف على الوجه للتأكد من أن الشخص نفسه لا يقدم مطالبات متعددة.
لذلك ، لا يوجد جهاز كشف كذب يعمل بالذكاء الاصطناعي كما زُعم سابقًا - فقط خوارزميات تحديد الهوية ، على ما يبدو.
"كان هناك نقاش كبير على Twitter حول تغريدة سيئة الصياغة لنا (غالبًا مصطلح" الإشارات غير اللفظية ") مما أدى إلى الارتباك حول كيفية استخدامنا لمقاطع فيديو العملاء لمعالجة المطالبات" ، ذكر على موقعها على الإنترنت. "كانت هناك أيضًا أسئلة حول ما إذا كنا نستخدم أساليب مثل التعرف على المشاعر (لا نفعل ذلك) ، وما إذا كان الذكاء الاصطناعي يُستخدم لرفض المطالبات تلقائيًا (أبدًا!)"
وأكدت: "نحن لا نستخدم ، ولا نحاول بناء ، الذكاء الاصطناعي الذي يستخدم ميزات مادية أو شخصية لرفض الادعاءات".
لا تُقيِّم أنظمتنا الادعاءات بناءً على الخلفية أو الجنس أو المظهر أو لون البشرة أو الإعاقة أو أي خاصية جسدية (كما أننا لا نقوم بتقييم أي من هذه المطالبات بالوكالة) (3/4)
- عصير الليمون (Lemonade_Inc) 26 مايو 2021
ومع ذلك ، فإن الشركة سياسة الخصوصية تقول إنها تجمع ، من بين تفاصيل أخرى ، الخصائص الجسدية للأشخاص عند التعامل مع التأمين على الحياة.
وفي ملف S-1 إلى هيئة الأوراق المالية والبورصات الأمريكية ، قالت شركة Lemonade إن نظامها يجمع ما يقرب من 1,700 "نقطة بيانات" من العملاء.
"نستخدم التكنولوجيا والذكاء الاصطناعي لتقليل المتاعب والوقت والتكلفة المرتبطة بشراء التأمين وعملية تقديم المطالبات والوفاء بها" ، Lemonade ذكر في تقديم SEC ، بتاريخ يونيو 2020.
"لقد بنينا شركتنا بالكامل على منصة تقنية حديثة وموحدة. يمكن لعملائنا شراء التأمين على موقعنا الإلكتروني أو من خلال تطبيقنا ، بشكل عام في غضون دقائق. يتعامل نظام الذكاء الاصطناعي لدينا بشكل كبير مع جميع عملائنا على متن الطائرة وجزءًا ذا مغزى من مطالباتنا ".
ما تصفه نقاط البيانات هذه غير واضح. وواصلت الاعتراف بأن تقنيتها الخاصة يمكن أن يكون لها عواقب غير مقصودة ، حيث قد يتم دفع مبالغ كبيرة للعملاء أو أقل من اللازم بسبب قرارات متحيزة وتمييزية. من ناحية أخرى ، يعد هذا تحذيرًا نموذجيًا للمستثمرين والأسواق المالية من أن الأعمال التجارية يمكن أن تفسد وتنهار من الداخل ، وبالتالي يمكن أن تضيع الاستثمارات ، على الرغم من أنه من ناحية أخرى ، فهو محدد جدًا حول الكيفية التي يمكن أن تسوء بها.
"قد لا تعمل خوارزميات الذكاء الاصطناعي الخاصة بنا بشكل صحيح أو كما نتوقعها ، مما قد يجعلنا نكتب سياسات يجب ألا نكتبها ، أو نضع أسعارًا لهذه السياسات بشكل غير لائق أو نبالغ في المطالبات التي يقدمها عملاؤنا. علاوة على ذلك ، قد تؤدي خوارزميات الذكاء الاصطناعي الخاصة بنا إلى تحيز وتمييز غير مقصودين ".
وأضاف أنه:
تم إطلاق الشركة في عام 2016 ، وتعمل في جميع أنحاء الولايات المتحدة وأجزاء من أوروبا ، بما في ذلك فرنسا وألمانيا وهولندا. لم تحقق ربحًا بعد ، وتنفق معظم أموالها على المبيعات والتسويق.
"يعتمد نجاحنا المستقبلي على قدرتنا على الاستمرار في تطوير وتنفيذ خوارزميات الذكاء الاصطناعي الخاصة بنا ، والحفاظ على سرية هذه التكنولوجيا" ، كما جاء في ملفه.
السجل طلبت Lemonade للحصول على مزيد من التعليقات. ®
تم التحديث للإضافة
لقد لاحظنا أنه على الرغم من أن Lemonade ، في منعطفها يوم الأربعاء ، قالت إن برنامجها للذكاء الاصطناعي "لم يُستخدم أبدًا" "لرفض المطالبات تلقائيًا" ، في ملف S-1 من العام الماضي ، فقد تفاخرت بأن أحد برامجها يمكن لروبوتات الدردشة المسماة AI Jim ، اعتبارًا من مارس 2020 ، التعامل مع "مطالبة العميل بالكامل من خلال الحل في ما يقرب من ثلث الحالات ، والدفع للمدعي أو رفض المطالبة دون تدخل بشري."
ومع ذلك ، قال متحدث باسم مغرور السجل اليوم: "كان مصطلح" الإشارات غير اللفظية "اختيارًا سيئًا للكلمات لوصف تقنية التعرف على الوجه التي نستخدمها للإبلاغ عن المطالبات المقدمة من نفس الشخص بهويات مختلفة. تتم مراجعة هذه الادعاءات التي تم الإبلاغ عنها من قبل المحققين البشريين لدينا. لم نسمح أبدًا ولن نسمح أبدًا للذكاء الاصطناعي برفض المطالبات تلقائيًا ".
أخبرونا أيضًا أنه على الرغم من تسميته AI Jim ، فإن جزء روبوت الدردشة الذي يرفض المطالبات أو يوافق عليها تلقائيًا ليس ذكيًا بشكل مصطنع. قال لنا المتحدث: "لم يتم إجراء هذه الفحوصات باستخدام الذكاء الاصطناعي ، لكنها لا تزال تتم معالجتها بواسطة نفس المنتج الذي نسميه AI Jim". "ما يقرب من ثلث مطالباتنا لا تتطلب أي تدخل بشري من أجل الموافقة أو الرفض - دون استخدام الذكاء الاصطناعي أو التعلم الآلي."
المصدر: https://go.theregister.com/feed/www.theregister.com/2021/05/26/ai_insurance_lemonade/
