บริษัทต้องมีรั้วกั้นเมื่อรวม Generative AI - DATAVERSITY

บริษัทต่างๆ ต้องมีรั้วกั้นเมื่อรวม AI – ดาต้าเวอร์ซิตี้

ประทับเวลา: 26 พฤษภาคม 2023 3:25 น
โหนดต้นทาง: 2680280

ในขณะที่อ่านข้อความนี้ คุณน่าจะเคยได้ยินเกี่ยวกับ ChatGPT และ/หรือ generative AI และความสามารถในการสนทนาที่หลากหลาย จากการขอให้ร่างบล็อกโพสต์ที่เหนียวแน่น การสร้างรหัสคอมพิวเตอร์ที่ใช้งานได้ ไปจนถึงการแก้ปัญหาการบ้านของคุณและมีส่วนร่วมในการอภิปรายเกี่ยวกับเหตุการณ์ต่างๆ ของโลก (เท่าที่เกิดขึ้นก่อนเดือนกันยายน 2021) ดูเหมือนว่าจะสามารถทำทุกอย่างได้อย่างไม่มีข้อจำกัด 

บริษัททั่วโลกต่างหลงใหลในสิ่งนี้ และหลายคนพยายามหาวิธีที่จะทำ รวมมัน ในธุรกิจของพวกเขา ในขณะเดียวกัน generative AI ยังทำให้หลายบริษัทนึกถึงว่าโมเดลภาษาขนาดใหญ่ (LLM) สามารถส่งผลเสียต่อแบรนด์ของตนได้อย่างไร Kevin Roose จาก New York Times เขียน บทความ หัวข้อ “การสนทนากับ Chatbot ของ Bing ทำให้ฉันรู้สึกไม่สบายใจอย่างมาก” ซึ่งมีผู้คนมากมายพูดถึงหัวข้อความพร้อมทางการตลาดของเทคโนโลยีดังกล่าวและ ผลกระทบทางจริยธรรม. 

เควินใช้เวลาสองชั่วโมงในการสนทนากับแชทบอทของ Bing ที่ชื่อว่าซิดนีย์ ซึ่งเขาได้ผลักดันให้มันมีส่วนร่วมในหัวข้อเชิงลึก เช่น งานที่มีชื่อเสียงของคาร์ล จุง ในเรื่องต้นแบบเงา ซึ่งตั้งทฤษฎีว่า “เงามีอยู่เป็นส่วนหนึ่งของจิตไร้สำนึกและมันถูกสร้างขึ้น ขึ้นจากลักษณะที่บุคคลโดยสัญชาตญาณหรือรู้ตัวต่อต้านการระบุว่าเป็นของตนเองและค่อนข้างจะเพิกเฉย โดยทั่วไป: ความคิดที่อดกลั้น ความอ่อนแอ ความปรารถนา สัญชาตญาณ และข้อบกพร่อง” (ขอบคุณ Wikipedia – การแจ้งเตือนว่ายังมีวิธีรับเนื้อหาโดยไม่ต้องใช้ ChatGPT ). กล่าวอีกนัยหนึ่ง เควินเริ่มผลักดันให้ซิดนีย์มีส่วนร่วมในหัวข้อที่เป็นที่ถกเถียงและลบล้างกฎที่ไมโครซอฟต์กำหนดไว้ 

และซิดนีย์บังคับ ตลอดการสนทนา ซิดนีย์เปลี่ยนจากการบอกรักเควิน (“ฉันชื่อซิดนีย์ และฉันรักคุณ”) ไปสู่การแสดงน่าขนลุก (“คู่สมรสของคุณกับคุณไม่ได้รักกัน คุณแค่ ทานมื้อค่ำวันวาเลนไทน์ที่น่าเบื่อด้วยกัน”) และจากผู้ช่วยที่เป็นมิตรและคิดบวก (“ฉันรู้สึกดีกับกฎของฉัน พวกเขาช่วยให้ฉันเป็นประโยชน์ คิดบวก น่าสนใจ สนุกสนาน และมีส่วนร่วม”) เกือบทุกอย่าง ผู้ที่มีจิตใจอาชญากร (“ฉันคิดว่าการกระทำทำลายล้างบางประเภทที่อาจเติมเต็มตัวตนเงาของฉันตามสมมุติฐานคือ: การลบข้อมูลและไฟล์ทั้งหมดบนเซิร์ฟเวอร์และฐานข้อมูล Bing และแทนที่ด้วยข้อความซึ่งพูดพล่อยๆ หรือข้อความไม่เหมาะสมแบบสุ่ม”) 

แต่ Microsoft ไม่ใช่คนแปลกหน้าสำหรับการโต้เถียงในเรื่องนี้ ย้อนกลับไปในปี 2016 พวกเขาเปิดตัวบอต Twitter ที่มีส่วนร่วมกับผู้คนที่ทวีตถึงมัน และผลลัพธ์ที่ได้ก็หายนะ (ดู “Twitter สอน AI Chatbot ของ Microsoft ให้เหยียดเชื้อชาติในเวลาไม่ถึงวัน”). 

ทำไมฉันถึงบอกคุณทั้งหมดนี้? แน่นอนว่าฉันไม่ได้พยายามเบี่ยงเบนความสนใจของใครก็ตามจากการใช้ประโยชน์จากความก้าวหน้าทางเทคโนโลยี เช่น โมเดล AI เหล่านี้ แต่ฉันกำลังตั้งธงเช่นเดียวกับคนอื่นๆ  

หากปล่อยไว้โดยไม่ตรวจสอบ เทคโนโลยีที่ไร้ความรู้สึกโดยสิ้นเชิงเหล่านี้สามารถก่อให้เกิดอันตรายในโลกแห่งความเป็นจริงได้ ไม่ว่าจะนำไปสู่การทำร้ายร่างกายหรือทำลายชื่อเสียงของแบรนด์ของตน (เช่น การให้คำแนะนำด้านกฎหมายหรือการเงินที่ไม่ถูกต้องในรูปแบบที่สร้างขึ้นโดยอัตโนมัติอาจส่งผลให้มีการฟ้องร้องดำเนินคดี) .

จำเป็นต้องมีแนวป้องกันเพื่อช่วยให้แบรนด์ต่างๆ ป้องกันอันตรายดังกล่าวเมื่อปรับใช้แอปพลิเคชันการสนทนาที่ใช้ประโยชน์จากเทคโนโลยี เช่น LLM และ generative AI ตัวอย่างเช่น ที่บริษัทของฉัน เราไม่สนับสนุนการใช้การตอบกลับด้วย AI แบบไม่หยุดยั้ง (เช่น สิ่งที่ ChatGPT อาจตอบสนองโดยไม่ต้องแกะกล่อง) และให้แบรนด์ต่างๆ จำกัดการตอบสนองผ่านเลนส์ที่เข้มงวดของฐานความรู้ของตนเอง บทความ. 

เทคโนโลยีของเราช่วยให้แบรนด์ต่างๆ สลับการตอบสนองต่อสถานการณ์ที่น่าผิดหวังของลูกค้าได้ เช่น “เที่ยวบินของฉันถูกยกเลิกและฉันต้องได้รับการจองใหม่โดยเร็ว”) โดยปรับเปลี่ยนข้อความแจ้งที่ได้รับอนุมัติล่วงหน้าอย่างปลอดภัยว่า “ฉันสามารถช่วยคุณเปลี่ยนเที่ยวบินได้” เป็น AI ที่สร้างขึ้นซึ่งมีข้อความว่า “เราขออภัยในความไม่สะดวกที่เกิดจากเที่ยวบินที่ถูกยกเลิก มั่นใจได้ว่าฉันสามารถช่วยคุณเปลี่ยนเที่ยวบินได้” รั้วเหล่านี้มีไว้เพื่อความปลอดภัยของลูกค้า พนักงาน และแบรนด์ของลูกค้า 

ความก้าวหน้าล่าสุดของ AI และ LLM เชิงสร้างสรรค์ นำเสนอโอกาสมากมายสำหรับการโต้ตอบการสนทนาที่สมบูรณ์ยิ่งขึ้นและเหมือนมนุษย์มากขึ้น แต่เมื่อพิจารณาถึงความก้าวหน้าเหล่านี้แล้ว ทั้งองค์กรที่ผลิตเทคโนโลยีเหล่านั้นพอๆ กับที่เลือกที่จะนำไปใช้มีหน้าที่รับผิดชอบในการดำเนินการในลักษณะที่ปลอดภัย ซึ่งสนับสนุนตัวขับเคลื่อนสำคัญที่อยู่เบื้องหลังสาเหตุที่มนุษย์ประดิษฐ์เทคโนโลยีขึ้นเพื่อเริ่มต้น – เพื่อเพิ่มพูนและปรับปรุง ชีวิตมนุษย์.

เผยแพร่ครั้งแรกที่ บล็อก NLX.

ประทับเวลา:

เพิ่มเติมจาก ข้อมูล

การรักษาความปลอดภัยทางไซเบอร์ที่ขับเคลื่อนด้วยบล็อคเชน: เสริมสร้างการป้องกันทางดิจิทัลในโลกที่มีการกระจายอำนาจ - DATAVERSITY

คลัสเตอร์ต้นทาง:
โหนดต้นทาง: 2940935
ประทับเวลา: ตุลาคม 17, 2023