ChatGPT رائع - أنت تستخدمه بشكل خاطئ

لا يستغرق الأمر الكثير للحصول عليه شات جي بي تي لارتكاب خطأ في الوقائع. يُعد ابني تقريرًا عن رؤساء الولايات المتحدة ، لذلك اكتشفت أنني سأساعده من خلال البحث عن بعض السير الذاتية. حاولت أن أسأل عن قائمة بالكتب عن أبراهام لنكولن ، وقد نجحت في ذلك:

الرقم 4 ليس صحيحًا. كتب جاري ويلز الشهيرة "لينكولن في جيتيسبيرغ" ، وكتب لينكولن نفسه إعلان التحرر ، بالطبع ، لكنها ليست بداية سيئة. ثم حاولت شيئًا أكثر صعوبة ، وسألت بدلاً من ذلك عن أكثر غموضًا من ويليام هنري هاريسون ، وقدمت بشجاعة قائمة ، وكلها تقريبًا كانت خاطئة.

الرقمان 4 و 5 صحيحان ؛ الباقي غير موجود أو لم يؤلفه هؤلاء الأشخاص. كررت نفس التمرين بالضبط وحصلت على نتائج مختلفة قليلاً:

هذه المرة الأرقام 2 و 3 صحيحة والثلاثة الأخرى ليست كتبًا فعلية أو لم يكتبها هؤلاء المؤلفون. رقم 4 ، "ويليام هنري هاريسون: حياته وأوقاته" هو أ كتاب حقيقي، لكنها من تأليف جيمس أ. جرين ، وليس روبرت ريميني ، أ مؤرخ معروف من العصر الجاكسوني.

لقد اتصلت بالخطأ ، وصحح ChatGPT نفسه بشغف ثم أخبرني بثقة أن الكتاب في الواقع كتبه جيل كولينز (الذي كتب سيرة حياة هاريسون مختلفة) ، ثم تابع ليقول المزيد عن الكتاب وعنها. أخيرًا كشفت الحقيقة ، وكان الجهاز سعيدًا بالركض مع تصويبي. ثم كذبت بعبثية ، قائلاً إنه خلال المائة يوم الأولى من عهدهم ، يتعين على الرؤساء كتابة سيرة ذاتية لبعض الرؤساء السابقين ، واستدعاني موقع ChatGPT على ذلك. ثم كذبت بمهارة ، حيث عزت بشكل خاطئ تأليف سيرة هاريسون للمؤرخ والكاتب بول سي.ناجيل ، واشترت كذبي.

عندما سألت ChatGPT إذا كان متأكدًا من أنني لم أكن أكذب ، ادعى أنه مجرد "نموذج لغة AI" وليس لديه القدرة على التحقق من الدقة. ومع ذلك ، فقد عدل هذا الادعاء بالقول: "لا يمكنني تقديم معلومات إلا بناءً على بيانات التدريب التي تم توفيرها لي ، ويبدو أن كتاب ويليام هنري هاريسون: حياته وأوقاته" كتبه بول سي. في عام 1977. "

هذا ليس صحيحا.

كلمات وليست حقائق

قد يبدو من هذا التفاعل أن ChatGPT أعطيت مكتبة من الحقائق ، بما في ذلك الادعاءات غير الصحيحة حول المؤلفين والكتب. بعد كل شيء ، تدعي شركة OpenAI ، الشركة المصنعة لـ ChatGPT ، أنها دربت chatbot على "كميات هائلة من البيانات من الإنترنت كتبها البشر".

ومع ذلك ، فمن شبه المؤكد أنه لم يتم ذكر أسماء مجموعة من الكتب المختلقة حول أحد أكثرها رؤساء دون المتوسط. ولكن بطريقة ما ، تستند هذه المعلومات الخاطئة بالفعل إلى بيانات التدريب الخاصة بها.

ك عالم الحاسوب، غالبًا ما أتقدم بشكاوى تكشف عن سوء فهم شائع حول نماذج اللغة الكبيرة مثل ChatGPT وإخوانها الأكبر سنًا GPT3 و GPT2: إنها نوع من "أدوات Google الفائقة" أو إصدارات رقمية لأمين مكتبة مرجعي ، تبحث عن إجابات لأسئلة البعض مكتبة كبيرة لا متناهية من الحقائق ، أو تلطخ معًا قصصًا وشخصيات. إنهم لا يفعلون أيًا من ذلك - على الأقل ، لم يتم تصميمهم صراحةً لذلك.

يبدو جيدا

نموذج لغوي مثل ChatGPT ، والذي يُعرف رسميًا باسم "المحول التوليدي المدرَّب مسبقًا" (هذا ما ترمز إليه G و P و T) ، يأخذ في المحادثة الحالية ، ويشكل احتمالًا لجميع الكلمات الموجودة في المفردات في ضوء تلك المحادثة ، ثم يختار أحدها ليكون الكلمة التالية المحتملة. ثم يفعل ذلك مرارًا وتكرارًا ، ومرة ​​تلو الأخرى ، حتى يتوقف.

لذلك ليس لديها حقائق في حد ذاتها. إنها تعرف فقط ما هي الكلمة التي يجب أن تأتي بعد ذلك. بعبارة أخرى ، لا يحاول ChatGPT كتابة جمل صحيحة. لكنها تحاول كتابة جمل معقولة.

عند التحدث بشكل خاص إلى الزملاء حول ChatGPT ، غالبًا ما يشيرون إلى عدد العبارات غير الصحيحة من الناحية الواقعية التي ينتجها ويتجاهلونها. بالنسبة لي ، فإن فكرة أن ChatGPT هو نظام استرجاع بيانات معيب بعيدًا عن الهدف. لقد كان الناس يستخدمون Google على مدار العقدين ونصف العقد الماضيين ، بعد كل شيء. هناك خدمة جيدة لتقصي الحقائق موجودة بالفعل.

في الواقع ، الطريقة الوحيدة التي تمكنت من خلالها من التحقق مما إذا كانت جميع عناوين الكتب الرئاسية دقيقة كانت عن طريق Googling ثم التحقق النتائج. لن تكون حياتي أفضل بكثير إذا حصلت على هذه الحقائق في المحادثة ، بدلاً من الطريقة التي كنت أحصل عليها بها طوال نصف حياتي تقريبًا ، من خلال استرجاع المستندات ثم إجراء تحليل نقدي لمعرفة ما إذا كان بإمكاني الوثوق بالمحتويات.

تحسين الشريك

من ناحية أخرى ، إذا كان بإمكاني التحدث إلى روبوت يعطيني ردودًا معقولة على الأشياء التي أقولها ، فسيكون ذلك مفيدًا في المواقف حيث الدقة الواقعية ليست بهذه الأهمية. قبل بضع سنوات ، حاولت أنا وطالب إنشاء "روبوت تحسين" ، من شأنه الرد على كل ما قلته بـ "نعم ، و" لمواصلة المحادثة. أظهرنا ، في ورقة، هذا يخصنا بوت كانت أفضل في "yes، and-ing" من الروبوتات الأخرى في ذلك الوقت ، ولكن في الذكاء الاصطناعي ، فإن عامين من التاريخ القديم.

لقد جربت حوارًا مع ChatGPT - وهو سيناريو مستكشف فضاء من الخيال العلمي - لا يختلف عن ما تجده في فصل دراسي مرتجل نموذجي. يعد ChatGPT طريقة أفضل في "yes، and-ing" مما فعلناه ، لكنه لم يرفع مستوى الدراما على الإطلاق. شعرت وكأنني أقوم بكل الأحمال الثقيلة.

بعد بعض التعديلات ، أصبحت أكثر انخراطًا في الأمر ، وفي نهاية اليوم ، شعرت أنه تمرين جيد جدًا بالنسبة لي ، الذي لم يفعل الكثير من التحسن منذ تخرجي من الكلية منذ أكثر من 20 عامًا .

بالتأكيد ، لا أريد أن يظهر ChatGPT في "لمن هذا الخط على أي حال؟"وهذه ليست حبكة رائعة لـ" Star Trek "(على الرغم من أنها لا تزال أقل إشكالية من"ميثاق شرف") ، ولكن كم مرة جلست لتكتب شيئًا من الصفر ووجدت نفسك مرعوبًا من الصفحة الفارغة أمامك؟ يمكن أن يؤدي البدء بمسودة أولى سيئة إلى اختراق كتلة الكاتب والحصول على تدفق الأفكار الإبداعية ، ويبدو أن ChatGPT ونماذج اللغة الكبيرة مثل الأدوات المناسبة للمساعدة في هذه التمارين.

وللآلة المصممة لإنتاج سلاسل من الكلمات تبدو جيدة قدر الإمكان استجابةً للكلمات التي تقدمها لها - وليس لتزويدك بالمعلومات - يبدو هذا الاستخدام الصحيح للأداة.

يتم إعادة نشر هذه المقالة من المحادثة تحت رخصة المشاع الإبداعي. إقرأ ال المقال الأصلي.

الصورة الائتمان: جاستن ها / Unsplash 

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• بلاتوبلوكشين. Web3 Metaverse Intelligence. تضخيم المعرفة. الوصول هنا.
• المصدر https://singularityhub.com/2023/02/05/chatgpt-is-great-youre-just-using-it-wrong/