เราจำเป็นต้องมีกฎหมายที่เข้มงวดเกี่ยวกับการใช้ AI ทางทหาร และเร็วๆ นี้

เราจำเป็นต้องมีกฎหมายที่เข้มงวดเกี่ยวกับการใช้ AI ทางทหาร และเร็วๆ นี้

ประทับเวลา: 13 พฤศจิกายน 2023 1:00 น
โหนดต้นทาง: 2975086

ศักยภาพในการทำลายล้างของปัญญาประดิษฐ์ส่งผลให้เกิดกิจกรรมการกำกับดูแลที่วุ่นวายเมื่อเร็ว ๆ นี้ อีกไม่กี่วันก่อน. สหราชอาณาจักรเป็นเจ้าภาพการประชุมสุดยอดความปลอดภัยด้าน AI ตั้งแต่วันที่ 1-2 พ.ย. รัฐบาลไบเดน ประกาศ คำสั่งผู้บริหารเรื่อง “ปัญญาประดิษฐ์ที่ปลอดภัย มั่นคง และเชื่อถือได้” แม้ว่าการประชุมสุดยอดในสหราชอาณาจักรจะมุ่งเน้นไปที่ความเสี่ยงที่เป็นหายนะของ AI แต่ความพยายามของสหรัฐฯ ก็มุ่งเน้นไปที่ประเด็นที่เป็นรูปธรรมมากขึ้น เช่น การใช้งานทางทหาร

ขณะประชุมสุดยอด รองประธานาธิบดีกมลา แฮร์ริส แห่งสหรัฐอเมริกา ประกาศ โครงการริเริ่มใหม่ๆ หลายประการที่ประกอบด้วยคำสั่งของผู้บริหาร เช่น สถาบันความปลอดภัย AI แห่งใหม่ แต่ที่สำคัญอย่างยิ่ง แฮร์ริสยังได้ประกาศว่ามี 31 ประเทศเข้าร่วม ปฏิญญาทางการเมืองว่าด้วยการใช้ปัญญาประดิษฐ์และเอกราชทางทหารอย่างมีความรับผิดชอบ. คำประกาศดังกล่าวได้รับการประกาศครั้งแรกในการประชุมสุดยอดปัญญาประดิษฐ์ที่มีความรับผิดชอบในขอบเขตการทหาร ซึ่งจัดขึ้นในเดือนกุมภาพันธ์ในประเทศเนเธอร์แลนด์

การปรับปรุงคำประกาศดังกล่าวเป็นการส่งสัญญาณถึงความมุ่งมั่นของสหรัฐฯ ต่อความพยายามนี้ และดึงความสนใจไปที่รายชื่อผู้ลงนามซึ่งรวมถึงพันธมิตรของสหรัฐฯ เช่น แคนาดา ออสเตรเลีย และฝรั่งเศส ที่ขาดหายไปคือรัสเซียและจีน ความเป็นไปได้ที่รัฐใดรัฐหนึ่งจะเข้าร่วมความพยายามที่นำโดยสหรัฐฯ ในบรรยากาศทางภูมิรัฐศาสตร์ในปัจจุบันนั้นต่ำมาก

รัสเซีย ไม่ได้รับการต้อนรับในการประชุมสุดยอดครั้งใดครั้งหนึ่งและไม่น่าเป็นไปได้ด้วย การบุกรุกอย่างต่อเนื่องของยูเครน - ที่จะนำมาอภิปรายเหล่านี้ แม้ว่าจะได้รับเชิญ รัสเซียก็คงไม่ลงนามแม้แต่เอกสารสมัครใจ เนื่องจากไม่ต้องการเห็นกฎระเบียบใดๆ เกี่ยวกับเทคโนโลยีเกิดใหม่ ทั้งแบบผูกมัดหรือไม่ผูกมัด

จีนเข้าร่วมการประชุมสุดยอดและลงนามในตราสารที่ไม่มีผลผูกพันทางกฎหมายสองฉบับ: “คำกระตุ้นการตัดสินใจของ REIM 2023”; และ "คำประกาศของเบล็ตชลีย์” เห็นชอบในการประชุมสุดยอดของสหราชอาณาจักร แม้ว่าสิ่งนี้จะมีความสำคัญสำหรับการเจรจาต่อไป แต่สิ่งนี้ได้ปิดบังอุปสรรคใหญ่ที่จีนมีต่อกฎระเบียบด้าน AI โดยทั่วไป และโดยเฉพาะอย่างยิ่งในการใช้งาน AI ทางทหาร

แม้ว่าจีนไม่น่าจะเป็นผู้ขัดขวางเช่นเดียวกับรัสเซียในการหารือพหุภาคีเกี่ยวกับอาวุธอัตโนมัติ แต่ก็ชัดเจนว่าจะยอมรับเฉพาะตราสารที่ไม่มีพันธะผูกพันและตราสารที่เป็นไปตามเงื่อนไขเท่านั้น ซึ่งหมายความว่าไม่น่าจะเข้าร่วมปฏิญญาการเมืองของสหรัฐอเมริกาว่าด้วยการใช้ AI และการปกครองตนเองทางทหารอย่างรับผิดชอบ เนื่องจากผลประโยชน์เชิงกลยุทธ์ที่เกี่ยวข้องกับเทคโนโลยีและขอบเขตที่กว้างขึ้น การแข่งขันทางภูมิรัฐศาสตร์กับสหรัฐฯ

สิ่งนี้เห็นได้ชัดเมื่อมาถึง โหวตล่าสุด ในมติครั้งแรกเกี่ยวกับอาวุธอัตโนมัติในคณะกรรมการชุดแรกของสมัชชาใหญ่ ซึ่งโดยทั่วไปตั้งข้อสังเกตว่ารัฐต่างๆ ตระหนักถึงความเร่งด่วนในการจัดการกับความเป็นอิสระที่เพิ่มขึ้นในระบบอาวุธ และจัดให้มีการเจรจาเพิ่มเติม ในขณะที่มีผู้ลงมติเห็นชอบมติดังกล่าว 164 เสียง แต่จีนกลับงดออกเสียง

การงดออกเสียงของจีนเน้นย้ำว่าจะพยายามกำหนดผลลัพธ์ใดๆ รวมถึงการชะลอความพยายาม จนกว่าเงื่อนไขจะเอื้ออำนวยต่อความทะเยอทะยานของตนที่จะบรรลุผล อำนาจสูงสุดของ AI ทางการทหาร.

มีเพียงสองรัฐเท่านั้นที่ลงคะแนนไม่เห็นด้วยกับมตินี้: รัสเซียและอินเดีย

การลงคะแนนเสียงไม่น่าแปลกใจเลย เนื่องจากทั้งรัสเซียและอินเดียได้ต่อต้านขั้นตอนด้านกฎระเบียบที่สำคัญกว่าในอนุสัญญาสหประชาชาติว่าด้วยอาวุธตามแบบแผนบางประเภทหรือ CCW อันที่จริง ฟอรัมดังกล่าวได้หยุดชะงักลงอย่างมากเนื่องจากการปฏิบัติต่อฉันทามติว่าเป็นเอกฉันท์ รวมถึงการต่อต้านโดยรัสเซียและอินเดีย

การตอบโต้ของจีน รัสเซีย และอินเดียนั้นผ่านไม่ได้หรือไม่?

ตลอดหลายปีที่ผ่านมาของการหารือเกี่ยวกับอาวุธอัตโนมัติที่ CCW เห็นได้ชัดว่าพันธมิตรที่พูดคุยกับพันธมิตรไม่ได้จัดการกับความท้าทายของรัฐที่เป็นปฏิปักษ์หรือรัฐที่จะเป็นปฏิปักษ์มากขึ้น สำหรับสหรัฐฯ และพันธมิตรเป็นหลัก

จีนควรเข้าร่วมการสนทนาเหล่านี้บ้างควรได้รับการต้อนรับ อย่างไรก็ตาม ไม่ควรมีภาพลวงตาว่าการมีอยู่ของจีนหรือการลงนามในมาตรการที่ไม่ผูกมัดจะบ่งชี้ถึงความเต็มใจที่จะปฏิบัติตามกฎหมายที่เข้มงวด

บัดนี้ดูเหมือนจะไม่เป็นปัญหา เนื่องจากทั้งสหรัฐฯ และพันธมิตรไม่สนใจกฎหมายที่เข้มงวดเกี่ยวกับ AI ทางการทหารมากเกินไป แม้แต่สิ่งที่คาดหวัง”ข้อตกลงสถานที่สำคัญ” — ไปถึงขอบของการประชุมสุดยอดความร่วมมือทางเศรษฐกิจเอเชีย-แปซิฟิกระหว่างสหรัฐฯ และจีน ซึ่งเห็นได้ชัดว่ามีการห้ามการใช้ AI ในอาวุธ โดรน และการสั่งการและควบคุมนิวเคลียร์ — เป็นมากกว่าสิ่งอื่นใดที่จะนำเสนอมาตรการโดยสมัครใจและด้วยความทะเยอทะยาน

อย่างไรก็ตาม การทำข้อตกลงโดยสมัครใจและการแลกเปลี่ยนข้อมูลกับพันธมิตรทำได้ง่ายกว่ามาก เมื่อสถานการณ์วิกฤติเกิดขึ้นระหว่างรัฐที่เป็นปรปักษ์กันมากขึ้น และมีแนวโน้มว่าในขณะที่รัฐต่างๆ มีการใช้ AI และระบบอัตโนมัติมากขึ้นในสมรภูมิรบ สิ่งสำคัญคือต้องมีความชัดเจนในสิ่งที่ได้รับอนุญาต เปิดช่องทางการสื่อสาร และกฎเกณฑ์ที่ชัดเจนที่ชี้แนะการใช้ AI และ เอกราช มีแนวโน้มว่ารัฐจะตระหนักถึงประโยชน์ของตราสารที่มีผลผูกพันทางกฎหมายบางประการในเร็วๆ นี้เช่นกัน

การประกาศทางการเมืองและมติครั้งแรกของสหประชาชาติเกี่ยวกับอาวุธอัตโนมัติถือเป็นก้าวสำคัญในการก้าวไปข้างหน้า เช่นเดียวกับข้อตกลงทวิภาคีที่คาดหวังระหว่างสหรัฐฯ และจีน แต่จำเป็นต้องมีการกำกับดูแลเพิ่มเติม รวมถึงกฎหมายที่เข้มงวดและกระบวนการเสริมเกี่ยวกับ AI ทางทหารและอาวุธอัตโนมัติ สิ่งนี้จะต้องอาศัยทักษะการทูตในระดับหนึ่งเพื่อมีส่วนร่วมไม่เพียงแต่กับพันธมิตรเท่านั้น แต่ยังรวมถึงผู้ที่อาจเป็นปฏิปักษ์ด้วย และเพื่อสร้างข้อตกลงทางกฎหมาย เท่านั้นจึงจะเกิดความเสี่ยงที่มาพร้อมกับ เอไอทหารเช่น ข้อผิดพลาดและความขัดแย้งที่บานปลาย ให้ได้รับการแก้ไขอย่างแท้จริง

Branka Marijan เป็นนักวิจัยอาวุโสของ Project Ploughshares ซึ่งเชี่ยวชาญด้านการทหารและความปลอดภัยจากเทคโนโลยีเกิดใหม่ เธอยังเป็นผู้มีส่วนร่วมในศูนย์ความคิดนวัตกรรมธรรมาภิบาลระหว่างประเทศอีกด้วย

ประทับเวลา:

เพิ่มเติมจาก ความคิดเห็นข่าวกลาโหม