'The Coming Wave': การเรียกร้องของมุสตาฟา สุไลมานสำหรับการควบคุม AI

'The Coming Wave': การเรียกร้องของมุสตาฟา สุไลมานสำหรับการควบคุม AI

ประทับเวลา: 8 มกราคม 2024 8:33 น
โหนดต้นทาง: 3051061

ในขณะที่ปัญญาประดิษฐ์ (AI) ยังคงเปลี่ยนแปลงโลกของเราอย่างต่อเนื่อง การถกเถียงเกี่ยวกับความหมายของปัญญาก็มาถึงจุดหัวเลี้ยวหัวต่อที่สำคัญ ในหนังสือของเขาเรื่อง 'The Coming Wave: AI, Power และ the 21st Century's Greatest Dilemma' Mustafa Suleyman ผู้ร่วมก่อตั้ง DeepMind และ CEO ของ Inflection AI เจาะลึกถึงผลกระทบอันลึกซึ้งของ AI ต่อสังคม บทความนี้สำรวจข้อมูลเชิงลึกของ Suleyman ความท้าทายที่เกิดจาก AI และความจำเป็นในการควบคุมกฎระเบียบเมื่อเผชิญกับความก้าวหน้าทางเทคโนโลยีที่ไม่เคยเกิดขึ้นมาก่อน

ยังอ่าน: 'โมเดล AI มีอคติทางเพศ' พิสูจน์การวิจัย

Mustafa Suleyman ผู้ร่วมก่อตั้ง DeepMind เรียกร้องให้มีกฎระเบียบด้าน AI

ธรรมชาติที่ไม่สมมาตรของ AI

Suleyman ระบุลักษณะสำคัญสี่ประการของ AI โดยเน้นธรรมชาติที่ไม่สมมาตร โปรแกรม AI เดียวสามารถสร้างข้อความในระดับที่มนุษยชาติไม่สามารถจินตนาการได้ สิ่งนี้ทำให้เกิดความกังวลเกี่ยวกับการใช้งานในทางที่ผิดที่อาจเกิดขึ้น ตั้งแต่การยิงโดรนติดอาวุธหลายพันลำไปจนถึงผลที่ตามมาที่ไม่คาดคิดในการตัดสินใจโดยอัตโนมัติ การเร่งความเร็วของเทคโนโลยีดิจิทัลและคุณภาพการใช้งานทุกหนทุกแห่งของ AI ทำให้ความท้าทายทวีความรุนแรงยิ่งขึ้น

ยังอ่าน: AI อาจทำให้มนุษย์สูญพันธุ์ได้ การสำรวจกล่าว

ความเป็นอิสระและความคาดเดาไม่ได้ของ AI

หนึ่งในคุณสมบัติที่โดดเด่นของ AI คือความเป็นอิสระ Suleyman เน้นย้ำแง่มุมการเรียนรู้ด้วยตนเองของ AI ทำให้ตรรกะของมันคลุมเครือมากขึ้นและคาดเดาได้ยากขึ้น เมื่อ AI พัฒนาขึ้น ความท้าทายจะเปลี่ยนจากการสร้างและปลดปล่อยพลังไปสู่การกักเก็บพลังที่ปล่อยออกมา การกระทำที่คาดเดาไม่ได้ของ AI ก่อให้เกิดภัยคุกคามที่อาจเกิดขึ้นซึ่งต้องการความสนใจด้านกฎระเบียบ

ยังอ่าน: การวิจัยแสดงให้เห็นการขับขี่อัตโนมัติของ Waymo ปลอดภัยกว่าคนขับ

ภาวะที่กลืนไม่เข้าคายไม่ออกด้านกฎระเบียบ

Suleyman สนับสนุนอย่างกระตือรือร้นในการควบคุมการพัฒนา AI อย่างไรก็ตาม เขายอมรับถึงความซับซ้อนของงาน ซึ่งแตกต่างจากการควบคุมปัญหาที่สามารถวัดปริมาณได้ง่าย เช่น การปล่อยก๊าซเรือนกระจกจากรถยนต์ การควบคุมเทคโนโลยีการใช้งานทั่วไปทุกรูปแบบพิสูจน์ได้ว่ามีความท้าทาย แรงจูงใจทางเศรษฐกิจสำหรับการพัฒนา AI ควบคู่ไปกับธรรมชาติของวิศวกรและนักประดิษฐ์ที่ขับเคลื่อนด้วยความอยากรู้อยากเห็น ทำให้ภูมิทัศน์ด้านกฎระเบียบซับซ้อนยิ่งขึ้น

ยังอ่าน: AI ที่รับผิดชอบตอนนี้มีมาตรฐาน ISO แล้ว: ISO/IEC 42001

การเรียกร้องของมุสตาฟา สุไลมานเรื่องกฎระเบียบ AI

แนวทางแก้ไขและคำแนะนำของสุไลมาน

เพื่อตอบสนองต่อความท้าทายเหล่านี้ ผู้ร่วมก่อตั้ง DeepMind ได้เสนอวิธีแก้ปัญหาที่หลากหลายใน 'The Coming Wave' Suleyman แนะนำให้นำกรอบการทำงานด้านความปลอดภัยทางเทคนิคที่แข็งแกร่ง การตรวจสอบบังคับสำหรับเครื่องมือ AI ใหม่ และการควบคุม “ทีมสีแดง” เพื่อระบุจุดอ่อน นอกจากนี้เขายังสนับสนุนความเชี่ยวชาญของรัฐบาลในด้าน AI และสนธิสัญญาระหว่างประเทศที่คล้ายกับข้อตกลงปารีส นอกจากนี้ เขาเรียกร้องให้มีการจัดตั้งระบอบการปกครองการออกใบอนุญาต โดยให้สอดคล้องกับกฎระเบียบของยารักษาโรคมะเร็งหรือวัคซีน

คำพูดของเรา

ในโลกที่เต็มไปด้วยปัญหา AI การเรียกร้องให้มีกฎระเบียบของ Suleyman ถือเป็นการตอบสนองเชิงปฏิบัติต่อความเสี่ยงที่อาจเกิดขึ้นจากการพัฒนา AI ที่ไม่ถูกจำกัด แนวคิดเกี่ยวกับระบอบการออกใบอนุญาต AI แม้จะดูทะเยอทะยาน แต่ก็ตอบสนองความต้องการแนวทางที่มีโครงสร้างในการปรับใช้ AI ในขณะที่ความตึงเครียดระหว่างประเทศเพิ่มสูงขึ้นในการแข่งขันด้าน AI ข้อเสนอของ Suleyman สำหรับความพยายามที่เป็นเอกภาพ ซึ่งคล้ายกับคณะกรรมการระหว่างรัฐบาลว่าด้วยการเปลี่ยนแปลงสภาพภูมิอากาศ กลายเป็นสิ่งสำคัญสำหรับเสถียรภาพของโลก

'The Coming Wave' ทำหน้าที่เป็นการสำรวจความท้าทายและโอกาสที่นำเสนอโดย AI อย่างกล้าหาญและลึกซึ้ง ความเชี่ยวชาญของ Suleyman ซึ่งมีพื้นฐานมาจากบทบาทสำคัญของเขาใน DeepMind และ Inflection AI ช่วยเพิ่มความน่าเชื่อถือให้กับคำแนะนำของเขา ในขณะที่สังคมจวนจะเกิดการปฏิวัติ AI ความสมดุลระหว่างนวัตกรรมและความปลอดภัยจึงเป็นสิ่งสำคัญยิ่ง และวิสัยทัศน์ด้านกฎระเบียบของ Suleyman ก็ปรากฏเป็นแสงสว่างนำทางในการสำรวจดินแดนที่ไม่เคยมีใครรู้จักนี้

ประทับเวลา:

เพิ่มเติมจาก การวิเคราะห์ วิทยา