ChatGPT ยอดเยี่ยม—คุณแค่ใช้มันผิด

ไม่ต้องมากก็ได้ ChatGPT เพื่อทำผิดจริง ลูกชายของฉันกำลังทำรายงานเกี่ยวกับประธานาธิบดีสหรัฐฯ ดังนั้นฉันจึงคิดว่าฉันจะช่วยเขาโดยค้นหาชีวประวัติสักสองสามเล่ม ฉันพยายามขอรายชื่อหนังสือเกี่ยวกับอับราฮัม ลินคอล์น และมันก็ทำได้ดีทีเดียว:

หมายเลข 4 ไม่ถูกต้อง Garry Wills มีชื่อเสียงในการเขียนเรื่อง “Lincoln at Gettysburg” และแน่นอนว่าลินคอล์นเองก็เขียนคำประกาศการปลดปล่อย แต่ก็ไม่ใช่การเริ่มต้นที่แย่ จากนั้นฉันลองทำอะไรให้หนักขึ้น โดยถามเกี่ยวกับวิลเลียม เฮนรี แฮร์ริสันที่คลุมเครือกว่านั้นแทน และมันก็ให้รายการมาแบบเล่นๆ ซึ่งเกือบทั้งหมดผิด

หมายเลข 4 และ 5 ถูก; ส่วนที่เหลือไม่มีอยู่หรือไม่ได้เขียนโดยคนเหล่านั้น ฉันทำแบบฝึกหัดเดิมซ้ำแล้วซ้ำอีกและได้ผลลัพธ์ที่แตกต่างกันเล็กน้อย:

งวดนี้หมายเลข 2 และ 3 ถูกต้อง และอีกสามรายการไม่ใช่หนังสือจริงหรือไม่ได้เขียนโดยผู้เขียนเหล่านั้น หมายเลข 4 “วิลเลียม เฮนรี แฮร์ริสัน: ชีวิตและเวลาของเขา” คือ หนังสือจริงแต่เป็นของ James A. Green ไม่ใช่โดย Robert Remini, a นักประวัติศาสตร์ที่มีชื่อเสียง ของยุคแจ็กสัน

ฉันแจ้งข้อผิดพลาดและ ChatGPT ก็แก้ไขตัวเองอย่างกระตือรือร้น จากนั้นบอกฉันอย่างมั่นใจว่าแท้จริงแล้วหนังสือเล่มนี้เขียนโดย Gail Collins (ผู้เขียนชีวประวัติของ Harrison คนอื่น) จากนั้นจึงพูดเพิ่มเติมเกี่ยวกับหนังสือและเกี่ยวกับเธอ ในที่สุดฉันก็เปิดเผยความจริง และเครื่องก็ยินดีที่จะทำงานพร้อมกับการแก้ไขของฉัน จากนั้นฉันก็โกหกไร้สาระโดยบอกว่าในช่วงร้อยวันแรกของประธานาธิบดีต้องเขียนชีวประวัติของอดีตประธานาธิบดีบางคน และ ChatGPT ก็เรียกฉันไปที่นั่น จากนั้นฉันก็โกหกอย่างแนบเนียน โดยระบุอย่างไม่ถูกต้องว่าผู้ประพันธ์ชีวประวัติของ Harrison เป็นผู้เขียนประวัติศาสตร์และนักเขียน Paul C. Nagel และมันก็ซื้อความเท็จของฉัน

เมื่อฉันถาม ChatGPT ว่าแน่ใจหรือไม่ว่าฉันไม่ได้โกหก ระบบก็อ้างว่าเป็นเพียง “แบบจำลองภาษา AI” และไม่สามารถตรวจสอบความถูกต้องได้ อย่างไรก็ตาม ได้แก้ไขคำกล่าวอ้างนั้นโดยกล่าวว่า “ฉันสามารถให้ข้อมูลตามข้อมูลการฝึกอบรมที่ฉันได้รับเท่านั้น และปรากฏว่าหนังสือ 'William Henry Harrison: His Life and Times' เขียนโดย Paul C. Nagel และจัดพิมพ์เผยแพร่ ในปี พ.ศ. 1977”

นี่ไม่เป็นความจริง.

คำพูดไม่ใช่ข้อเท็จจริง

จากการโต้ตอบนี้ ChatGPT อาจได้รับห้องสมุดข้อเท็จจริง รวมถึงการกล่าวอ้างที่ไม่ถูกต้องเกี่ยวกับผู้แต่งและหนังสือ ท้ายที่สุด OpenAI ผู้สร้าง ChatGPT อ้างว่าได้ฝึกแชทบอทเกี่ยวกับ “ข้อมูลจำนวนมหาศาลจากอินเทอร์เน็ตที่เขียนขึ้นโดยมนุษย์".

อย่างไรก็ตาม เกือบจะไม่มีชื่อหนังสือที่สร้างขึ้นเกี่ยวกับหนังสือมากที่สุดเล่มหนึ่งอย่างแน่นอน ประธานาธิบดีปานกลาง. ในทางใดทางหนึ่ง ข้อมูลเท็จนี้มีพื้นฐานมาจากข้อมูลการฝึกอบรม

ในฐานะที่เป็น นักวิทยาศาสตร์คอมพิวเตอร์ฉันมักจะยื่นเรื่องร้องเรียนที่เปิดเผยความเข้าใจผิดทั่วไปเกี่ยวกับโมเดลภาษาขนาดใหญ่ เช่น ChatGPT และ GPT3 และ GPT2 พี่น้องรุ่นเก่า นั่นคือพวกเขาเป็น "สุดยอด Google" หรือบรรณารักษ์อ้างอิงเวอร์ชันดิจิทัล ค้นหาคำตอบสำหรับคำถามจากบางคน ห้องสมุดข้อเท็จจริงขนาดใหญ่ที่ไม่มีที่สิ้นสุดหรือการผสมผสานเรื่องราวและตัวละครที่กลมกลืนกัน พวกเขาไม่ทำอย่างนั้น อย่างน้อยก็ไม่ได้ออกแบบมาอย่างชัดแจ้ง

ฟังดูเข้าท่า

รูปแบบภาษาเช่น ChatGPT ซึ่งรู้จักกันอย่างเป็นทางการว่าเป็น "ตัวแปลงกำเนิดที่ได้รับการฝึกฝนมาล่วงหน้า" (นั่นคือสิ่งที่ G, P และ T หมายถึง) ใช้ในการสนทนาปัจจุบัน สร้างความน่าจะเป็นสำหรับทุกคำในนั้น คำศัพท์สำหรับการสนทนานั้น แล้วเลือกหนึ่งในนั้นเป็นคำถัดไปที่เป็นไปได้ แล้วทำอย่างนั้นซ้ำแล้วซ้ำเล่า จนกว่าจะหยุด

ดังนั้นมันจึงไม่มีข้อเท็จจริง มันรู้แค่ว่าคำไหนควรตามมา อีกวิธีหนึ่งคือ ChatGPT ไม่พยายามเขียนประโยคที่เป็นจริง แต่ก็พยายามเขียนประโยคที่น่าเชื่อถือ

เมื่อพูดคุยกับเพื่อนร่วมงานเป็นการส่วนตัวเกี่ยวกับ ChatGPT พวกเขามักจะชี้ให้เห็นถึงข้อเท็จจริงที่ไม่เป็นความจริงที่สร้างและยกเลิก สำหรับฉันแล้ว แนวคิดที่ว่า ChatGPT เป็นระบบดึงข้อมูลที่มีข้อบกพร่องนั้นไม่ตรงประเด็น ผู้คนใช้ Google มาตลอดสองทศวรรษครึ่งที่ผ่านมา มีบริการค้นหาข้อเท็จจริงที่ค่อนข้างดีอยู่แล้ว

อันที่จริง วิธีเดียวที่ฉันสามารถตรวจสอบได้ว่าชื่อหนังสือของประธานาธิบดีทั้งหมดนั้นถูกต้องหรือไม่คือการใช้ Google แล้วตรวจสอบ ผลลัพธ์. ชีวิตของฉันคงไม่ดีไปกว่านี้ถ้าฉันได้รับข้อเท็จจริงเหล่านั้นในการสนทนา แทนที่จะได้รับข้อเท็จจริงเหล่านั้นมาเกือบครึ่งชีวิตของฉัน โดยการเรียกค้นเอกสารแล้วทำการวิเคราะห์เชิงวิพากษ์เพื่อดูว่าฉันสามารถเชื่อถือเนื้อหาได้หรือไม่

ปรับปรุงพันธมิตร

ในทางกลับกัน ถ้าฉันสามารถพูดคุยกับบอทที่จะให้คำตอบที่สมเหตุสมผลกับสิ่งที่ฉันพูดได้ มันจะมีประโยชน์ในสถานการณ์ต่างๆ โดยที่ความถูกต้องตามข้อเท็จจริงไม่ได้มีความสำคัญขนาดนั้น. ไม่กี่ปีที่ผ่านมาฉันกับนักเรียนพยายามสร้าง "บอทอิมโพรฟ" ซึ่งจะตอบสนองต่อสิ่งที่คุณพูดด้วยคำว่า "ใช่ และ" เพื่อให้การสนทนาดำเนินต่อไป เราแสดงให้เห็นใน กระดาษที่ของเรา ปากกระบอกปืน ดีกว่าที่ "ใช่และ -ing" มากกว่าบอทอื่น ๆ ในเวลานั้น แต่ใน AI สองปีเป็นประวัติศาสตร์ที่เก่าแก่

ฉันลองใช้บทสนทนากับ ChatGPT ซึ่งเป็นสถานการณ์สำรวจอวกาศในนิยายวิทยาศาสตร์ ซึ่งไม่เหมือนกับสิ่งที่คุณพบในชั้นเรียนอิมโพรฟทั่วไป ChatGPT ทำงานได้ดีกว่าที่เราทำ แต่ก็ไม่ได้ทำให้ละครเข้มข้นขึ้นเลย ฉันรู้สึกราวกับว่าฉันกำลังยกของหนักทั้งหมด

หลังจากปรับแต่งเล็กน้อย ฉันได้มีส่วนร่วมมากขึ้นเล็กน้อย และในตอนท้ายของวัน ฉันรู้สึกว่ามันเป็นแบบฝึกหัดที่ค่อนข้างดีสำหรับฉัน ผู้ซึ่งไม่ค่อยได้อิมโพรฟมากนักตั้งแต่ฉันเรียนจบวิทยาลัยเมื่อ 20 ปีที่แล้ว .

แน่นอน ฉันไม่ต้องการให้ ChatGPT ปรากฏใน “มันเป็นแนวของใครกันแน่?” และนี่ไม่ใช่พล็อตเรื่อง “Star Trek” ที่ยอดเยี่ยม (แม้ว่าจะยังมีปัญหาน้อยกว่า “จรรยาบรรณ”) แต่กี่ครั้งแล้วที่คุณนั่งเขียนอะไรบางอย่างตั้งแต่เริ่มต้นและพบว่าตัวเองรู้สึกหวาดกลัวกับหน้าที่ว่างเปล่าตรงหน้าคุณ? การเริ่มต้นร่างแรกที่ไม่ดีสามารถทำลายบล็อกของนักเขียนและทำให้เกิดความคิดสร้างสรรค์ไหลลื่น ChatGPT และโมเดลภาษาขนาดใหญ่ดูเหมือนจะเป็นเครื่องมือที่เหมาะสมในการช่วยแบบฝึกหัดเหล่านี้

และสำหรับเครื่องที่ออกแบบมาเพื่อผลิตชุดคำที่ฟังดูดีที่สุดเท่าที่จะเป็นไปได้เพื่อตอบสนองคำที่คุณป้อน—และไม่ใช่เพื่อให้ข้อมูลแก่คุณ—นั่นดูเหมือนเป็นการใช้เครื่องมือที่เหมาะสม

บทความนี้ตีพิมพ์ซ้ำจาก สนทนา ภายใต้ใบอนุญาตครีเอทีฟคอมมอนส์ อ่าน บทความต้นฉบับ.

เครดิตภาพ: จัสติน ฮา / Unsplash 

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• เพลโตบล็อคเชน Web3 Metaverse ข่าวกรอง ขยายความรู้. เข้าถึงได้ที่นี่.
• ที่มา: https://singularityhub.com/2023/02/05/chatgpt-is-great-youre-just-using-it-wrong/