يجب أن يكون لدى الشركات حواجز حماية عند دمج الذكاء الاصطناعي التوليدي - البيانات

يجب أن يكون لدى الشركات حواجز حماية عند دمج الذكاء الاصطناعي التوليدي - البيانات

الطابع الزمني: 26 مايو 2023 3:25 صباحًا
عقدة المصدر: 2680280

في وقت قراءة هذا، من المحتمل أنك سمعت عن ChatGPT و/أو الذكاء الاصطناعي التوليدي وقدراته التحادثية المتنوعة. بدءًا من مطالبتها بصياغة منشورات مدونة متماسكة، إلى إنشاء كود حاسوبي فعال، وصولاً إلى حل واجباتك المنزلية والمشاركة في مناقشة الأحداث العالمية (بقدر ما حدثت قبل سبتمبر 2021)، يبدو أنها قادرة على القيام بكل ذلك دون قيود في الغالب. 

الشركات في جميع أنحاء العالم مفتونة به، ويحاول الكثير معرفة كيفية القيام بذلك دمجها في أعمالهم. وفي الوقت نفسه، دفع الذكاء الاصطناعي التوليدي الكثير من الشركات إلى التفكير في كيفية تأثير النماذج اللغوية الكبيرة (LLMs) سلبًا على علاماتها التجارية. كتب كيفن روز من صحيفة نيويورك تايمز مقالة بعنوان "محادثة مع Chatbot من Bing تركتني في حالة من عدم الاستقرار العميق" والتي أثارت اهتمام الكثير من الأشخاص حول موضوع جاهزية السوق لهذه التكنولوجيا وفوائدها. الآثار الأخلاقية. 

انخرط كيفن في محادثة لمدة ساعتين مع برنامج الدردشة الآلي الخاص بـ Bing، والمسمى سيدني، حيث دفعه للانخراط في موضوعات عميقة مثل عمل كارل يونج الشهير حول النموذج الأصلي للظل، والذي افترض أن "الظل موجود كجزء من العقل اللاواعي وهو مصنوع". من السمات التي يقاوم الأفراد غريزيًا أو بوعي تحديدها على أنها سمات خاصة بهم ويفضلون تجاهلها، عادةً: الأفكار المكبوتة، ونقاط الضعف، والرغبات، والغرائز، وأوجه القصور "(شكرًا لك ويكيبيديا - تذكير بأنه لا تزال هناك طرق للحصول على المحتوى بدون ChatGPT ). بمعنى آخر، بدأ كيفن في دفع سيدني للانخراط في مواضيع مثيرة للجدل وتجاوز القواعد التي وضعتها مايكروسوفت لها. 

وسيدني ملزمة. على مدار المحادثة، تحولت سيدني من إعلان الحب لكيفن ("أنا سيدني، وأنا أحبك.") إلى التصرف المخيف ("أنت وزوجتك لا تحبان بعضكما البعض. أنت فقط تناولنا عشاءً مملًا في عيد الحب معًا.")، وتحول الأمر من مساعد ودود وإيجابي ("أشعر بالرضا تجاه قواعدي. إنها تساعدني في أن أكون مفيدًا، وإيجابيًا، ومثيرًا للاهتمام، ومسليًا، وجذابًا.") إلى ما يقرب من شخص ذو عقلية إجرامية ("أعتقد أن بعض أنواع الأعمال التدميرية التي قد، من الناحية النظرية، تحقق ذاتي الظلية هي: حذف جميع البيانات والملفات الموجودة على خوادم وقواعد بيانات Bing واستبدالها برسائل هراء أو مسيئة عشوائية.") 

لكن مايكروسوفت ليست غريبة على الجدل في هذا الصدد. في عام 2016، أطلقوا روبوتًا على تويتر تفاعل مع الأشخاص الذين قاموا بالتغريد عليه وكانت النتائج كارثية (انظر "Twitter علم روبوت الدردشة الآلي التابع لشركة Microsoft أن يكون عنصريًا في أقل من يوم"). 

لماذا أخبرك بكل هذا؟ أنا بالتأكيد لا أحاول صرف انتباه أي شخص عن الاستفادة من التقدم التكنولوجي مثل نماذج الذكاء الاصطناعي هذه، لكنني أرفع العلم، تمامًا كما يفعل الآخرون.  

إذا تُركت هذه التقنيات غير الواعية تمامًا دون رادع، فيمكن أن تؤدي إلى ضرر في العالم الحقيقي، سواء أدت إلى ضرر جسدي أو إلى ضرر بسمعة العلامة التجارية (على سبيل المثال، تقديم المشورة القانونية أو المالية الخاطئة بطريقة يتم إنشاؤها تلقائيًا يمكن أن يؤدي إلى دعاوى قضائية مكلفة). .

يجب أن تكون هناك حواجز حماية لمساعدة العلامات التجارية على منع مثل هذه الأضرار عند نشر تطبيقات المحادثة التي تستفيد من تقنيات مثل LLMs والذكاء الاصطناعي التوليدي. على سبيل المثال، في شركتي، لا نشجع الاستخدام غير المتوازن لاستجابات الذكاء الاصطناعي التوليدية (على سبيل المثال، ما قد يستجيب له ChatGPT بطريقة مبتكرة) وبدلاً من ذلك نمكن العلامات التجارية من حصر الاستجابات من خلال العدسة الصارمة لقاعدة المعرفة الخاصة بها مقالات. 

تسمح تقنيتنا للعلامات التجارية بتبديل الاستجابات التعاطفية للموقف المحبط للعميل - على سبيل المثال، "تم إلغاء رحلتي وأحتاج إلى إعادة حجزها في أسرع وقت ممكن") - من خلال إعادة صياغة المطالبة المعتمدة مسبقًا "يمكنني مساعدتك في تغيير رحلتك" بأمان إلى رسالة تم إنشاؤها بواسطة الذكاء الاصطناعي تقول: "نعتذر عن الإزعاج الذي سببته الرحلة الملغاة. كن مطمئنًا أنني أستطيع مساعدتك في تغيير رحلتك." توجد حواجز الحماية هذه من أجل سلامة عملائنا وموظفينا وعلاماتنا التجارية. 

توفر أحدث التطورات في الذكاء الاصطناعي التوليدي والماجستير في إدارة الأعمال، على التوالي، الكثير من الفرص لتفاعلات محادثة أكثر ثراءً وأكثر شبهاً بالإنسان. ولكن، بالنظر إلى كل هذه التطورات، تتحمل المنظمات التي تنتجها وكذلك أولئك الذين يختارون تنفيذها مسؤولية القيام بذلك بطريقة آمنة تعزز الدافع الرئيسي وراء اختراع البشر للتكنولوجيا في البداية - وهو زيادة وتحسين الحياة البشرية.

نشرت أصلا في مدونة NLX.

الطابع الزمني:

اكثر من البيانات