Lospinoso จาก Shift5 กล่าวว่า 'AI ฝ่ายตรงข้าม' เป็นภัยคุกคามต่อระบบทหาร

Raytheon/Forcepoint สตาร์ทอัพด้านความปลอดภัยทางไซเบอร์รายแรกของ Josh Lospinoso ถูกซื้อกิจการในปี 2017 Shift5 ที่สองของเขาทำงานร่วมกับกองทัพสหรัฐฯ ผู้ให้บริการรถไฟและสายการบินรวมถึง JetBlue ผู้สำเร็จการศึกษาจาก West Point และ Rhodes Scholar ในปี 2009 อดีตกัปตันกองทัพบกวัย 36 ปีใช้เวลามากกว่าทศวรรษ การเขียนเครื่องมือแฮ็ค สำหรับสำนักงานความมั่นคงแห่งชาติและกองบัญชาการไซเบอร์ของสหรัฐฯ

Lospinoso กล่าวเมื่อเร็ว ๆ นี้กับคณะอนุกรรมการบริการด้านอาวุธของวุฒิสภาว่าปัญญาประดิษฐ์สามารถช่วยปกป้องการปฏิบัติการทางทหารได้อย่างไร CEO/โปรแกรมเมอร์ได้หารือเรื่องนี้กับ The Associated Press ว่าช่องโหว่ของซอฟต์แวร์ในระบบอาวุธเป็นภัยคุกคามที่สำคัญต่อกองทัพสหรัฐฯ อย่างไร บทสัมภาษณ์ได้รับการแก้ไขเพื่อความชัดเจนและความยาว

ถาม: ในคำให้การของคุณ คุณได้อธิบายภัยคุกคามหลักสองประการต่อเทคโนโลยีที่เปิดใช้งาน AI: หนึ่งคือการขโมย นั่นเป็นคำอธิบายในตัวเอง อีกประการหนึ่งคือพิษของข้อมูล คุณอธิบายได้ไหม

ตอบ: วิธีหนึ่งในการคิดเกี่ยวกับการเป็นพิษของข้อมูลก็คือการบิดเบือนข้อมูลทางดิจิทัล หากฝ่ายตรงข้ามสามารถสร้างข้อมูลที่เทคโนโลยีที่เปิดใช้งาน AI มองเห็นได้ พวกเขาอาจส่งผลกระทบอย่างมากต่อวิธีการทำงานของเทคโนโลยีนั้น

ถาม: ข้อมูลเป็นพิษเกิดขึ้นหรือไม่

ตอบ: เราไม่ได้เห็นมันในวงกว้าง แต่ มันเกิดขึ้นแล้ว หนึ่งในกรณีที่รู้จักกันดีที่สุดเกิดขึ้นในปี 2016 Microsoft เปิดตัวแชทบอต Twitter ชื่อ Tay ซึ่งเรียนรู้จากการสนทนาทางออนไลน์ ผู้ใช้ที่เป็นอันตรายสมคบกันเพื่อทวีตภาษาที่ไม่เหมาะสมและไม่เหมาะสม เทย์เริ่มสร้างเนื้อหาที่ยั่วยุ Microsoft ออฟไลน์

ถาม: AI ไม่ใช่แค่แชทบอท มันเป็นส่วนสำคัญของความปลอดภัยในโลกไซเบอร์มานานแล้วใช่ไหม?

ตอบ: มีการใช้ AI ในตัวกรองอีเมลเพื่อพยายามตั้งค่าสถานะและแยกอีเมลขยะและฟิชชิ่งล่อ อีกตัวอย่างหนึ่งคืออุปกรณ์ปลายทาง เช่น โปรแกรมป้องกันไวรัสบนแล็ปท็อปของคุณ – หรือซอฟต์แวร์ตรวจจับมัลแวร์ที่ทำงานบนเครือข่าย แน่นอนว่าแฮ็กเกอร์ที่น่ารังเกียจยังใช้ AI เพื่อพยายามเอาชนะระบบการจำแนกประเภทเหล่านั้น นั่นเรียกว่า AI ฝ่ายตรงข้าม

ถาม: เรามาพูดถึงระบบซอฟต์แวร์ทางทหารกัน ปี 2018 ที่น่าตกใจ รายงานสำนักงานความรับผิดชอบของรัฐบาล กล่าวว่าระบบอาวุธที่พัฒนาขึ้นใหม่เกือบทั้งหมดมีช่องโหว่ที่สำคัญต่อภารกิจ และเพนตากอนกำลังคิดที่จะนำ AI เข้าสู่ระบบดังกล่าวหรือไม่?

ตอบ: มีสองประเด็นที่นี่ อันดับแรก เราต้องรักษาความปลอดภัยระบบอาวุธที่มีอยู่อย่างเพียงพอ นี่เป็นหนี้ทางเทคนิคที่เราต้องใช้เวลานานมากในการชำระ จากนั้นจะมีขอบเขตใหม่ของการรักษาความปลอดภัยอัลกอริทึม AI ซึ่งเป็นสิ่งใหม่ๆ ที่เราจะติดตั้ง รายงานของ GAO ไม่ได้พูดถึง AI อย่างแท้จริง ดังนั้นลืม AI ไปชั่ววินาที หากระบบเหล่านี้ยังคงอยู่ในลักษณะที่เป็นอยู่ พวกเขายังคงอ่อนแออย่างมาก

เรากำลังหารือถึงการผลักดันซองจดหมายและเพิ่มความสามารถที่เปิดใช้งาน AI สำหรับสิ่งต่างๆ เช่น การบำรุงรักษาที่ได้รับการปรับปรุงและข่าวกรองการดำเนินงาน ยอดเยี่ยมทั้งหมด แต่เรากำลังสร้างบ้านบนหลังไพ่ หลายระบบมีอายุหลายสิบปี ดัดแปลงด้วยเทคโนโลยีดิจิทัล เครื่องบิน ยานพาหนะภาคพื้นดิน สินทรัพย์อวกาศ เรือดำน้ำ ตอนนี้พวกเขากำลังเชื่อมต่อถึงกัน เรากำลังแลกเปลี่ยนข้อมูลเข้าและออก ระบบมีรูพรุน อัพเกรดยาก และอาจถูกโจมตีได้ เมื่อผู้โจมตีเข้าถึงได้ เกมก็จบลง

บางครั้งการสร้างแพลตฟอร์มใหม่อาจง่ายกว่าการออกแบบส่วนประกอบดิจิทัลของระบบที่มีอยู่ใหม่ แต่ AI มีบทบาทในการรักษาความปลอดภัยระบบเหล่านี้ AI สามารถใช้เพื่อป้องกันหากมีคนพยายามประนีประนอม

ถาม: คุณให้การว่าการหยุดการวิจัย AI ชั่วคราว อาจเป็นความคิดที่ไม่ดี เพราะจะเป็นการเอื้อประโยชน์แก่จีนและคู่แข่งอื่นๆ แต่คุณยังมีความกังวลเกี่ยวกับผลิตภัณฑ์ AI ที่เร่งรีบ ทำไม

ตอบ: ฉันเกลียดที่จะฟังดูเป็นเหตุร้ายแรง แต่กรณีที่เรียกว่า “การใช้ไฟ” ดูเหมือนจะใช้ได้ ผลิตภัณฑ์ที่ออกสู่ตลาดมักจะเกิดไฟไหม้ (ถูกแฮ็ก ล้มเหลว สร้างความเสียหายโดยไม่ตั้งใจ) และเราพูดว่า 'ไอ้หนู เราควรสร้างระบบรักษาความปลอดภัย' ฉันคาดหวังให้การพัฒนา AI ก้าวเร็วขึ้น และเราอาจไม่หยุดพอที่จะทำสิ่งนี้ด้วยวิธีที่ปลอดภัยและมีความรับผิดชอบ อย่างน้อยทำเนียบขาวและสภาคองเกรสกำลังหารือเกี่ยวกับประเด็นเหล่านี้

ถาม: ดูเหมือนว่าหลายบริษัท – รวมถึงในภาคกลาโหม – กำลังเร่งรีบที่จะประกาศผลิตภัณฑ์ AI ที่ทำได้ครึ่งเดียว

ตอบ: บริษัทเทคโนโลยีทุกแห่งและบริษัทที่ไม่ใช่เทคโนโลยีหลายแห่งต่างหันมาสนใจ AI กันแทบทั้งนั้น ความคลาดเคลื่อนทางเศรษฐกิจกำลังมา รูปแบบธุรกิจโดยพื้นฐานจะเปลี่ยนไป ความคลาดเคลื่อนกำลังเกิดขึ้นแล้วหรือกำลังจะเกิดขึ้น และผู้นำทางธุรกิจก็พยายามที่จะไม่ตกเป็นเหยื่อ

ถาม: แล้วการใช้ AI ในการตัดสินใจทางทหารเช่นการกำหนดเป้าหมายล่ะ

ตอบ: ฉันไม่คิดว่าอัลกอริธึมปัญญาประดิษฐ์ซึ่งเป็นข้อมูลที่เรากำลังรวบรวมนั้นพร้อมสำหรับช่วงเวลาไพรม์ไทม์สำหรับระบบอาวุธร้ายแรงในการตัดสินใจ เราอยู่ไกลจากสิ่งนั้นมาก

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• เพลโตไอสตรีม. ข้อมูลอัจฉริยะ Web3 ขยายความรู้ เข้าถึงได้ที่นี่.
• การสร้างอนาคตโดย Adryenn Ashley เข้าถึงได้ที่นี่.
• ซื้อและขายหุ้นในบริษัท PRE-IPO ด้วย PREIPO® เข้าถึงได้ที่นี่.
• ที่มา: https://www.defensenews.com/artificial-intelligence/2023/05/29/adversarial-ai-a-threat-to-military-systems-shift5s-lospinoso-says/