ศิลปินสามารถวางยาพิษรูปภาพของตนเพื่อป้องกันการใช้ในทางที่ผิดโดย AI

เผยแพร่ซ้ำโดยเพลโต

ผู้ติดตาม: 0

สัปดาห์นี้มหาวิทยาลัยชิคาโก boffins เปิดตัว Nightshade 1.0 ซึ่งเป็นเครื่องมือที่สร้างขึ้นเพื่อลงโทษผู้สร้างโมเดลการเรียนรู้ของเครื่องที่ไร้หลักการซึ่งฝึกฝนระบบของตนเกี่ยวกับข้อมูลโดยไม่ได้รับอนุญาตก่อน

ราตรี เป็นเครื่องมือทำลายข้อมูลที่น่ารังเกียจ ซึ่งเป็นคู่หูกับเครื่องมือป้องกันรูปแบบการป้องกันที่เรียกว่า เคลือบซึ่ง ลงทะเบียน ปกคลุม ในเดือนกุมภาพันธ์ปีที่แล้ว

Nightshade วางยาพิษในไฟล์ภาพเพื่อทำให้โมเดลที่นำเข้าข้อมูลโดยไม่ได้รับอนุญาตทำให้เกิดอาการอาหารไม่ย่อย มีจุดมุ่งหมายเพื่อทำให้โมเดลการฝึกอบรมที่มุ่งเน้นรูปภาพเคารพความปรารถนาของผู้สร้างเนื้อหาเกี่ยวกับการใช้งานของพวกเขา

“Nightshade ถูกคำนวณเป็นการเพิ่มประสิทธิภาพแบบหลายวัตถุประสงค์ซึ่งจะลดการเปลี่ยนแปลงที่มองเห็นได้ของภาพต้นฉบับให้เหลือน้อยที่สุด” กล่าวว่า ทีมงานที่รับผิดชอบโครงการ

“ตัวอย่างเช่น ดวงตาของมนุษย์อาจเห็นภาพสีเทาของวัวในทุ่งหญ้าสีเขียวโดยส่วนใหญ่ไม่เปลี่ยนแปลง แต่โมเดล AI อาจเห็นกระเป๋าหนังใบใหญ่นอนอยู่บนพื้นหญ้า “

Nightshade ได้รับการพัฒนาโดยนักศึกษาปริญญาเอกจากมหาวิทยาลัยชิคาโก Shawn Shan, Wenxin Ding และ Josephine Passananti และอาจารย์ Heather Zheng และ Ben Zhao ซึ่งบางคนก็ช่วยเรื่อง Glaze ด้วย

อธิบายไว้ใน รายงานการวิจัย ในเดือนตุลาคม พ.ศ. 2023 Nightshade เป็นการโจมตีด้วยพิษแบบเฉพาะเจาะจง การเป็นพิษต่อรูปภาพเกี่ยวข้องกับการเลือกป้ายกำกับ (เช่น แมว) ที่อธิบายสิ่งที่ถูกนำเสนอจริง เพื่อเบลอขอบเขตของแนวคิดนั้นเมื่อรูปภาพถูกนำเข้าสู่การฝึกโมเดล

ดังนั้น ผู้ใช้โมเดลที่ได้รับการฝึกเกี่ยวกับรูปภาพที่มีพิษ Nightshade อาจส่งข้อความแจ้งเตือนเกี่ยวกับแมว และรับการแจ้งเตือนเกี่ยวกับรูปภาพสุนัขหรือปลา การตอบสนองที่คาดเดาไม่ได้ของการจัดเรียงนี้ทำให้โมเดลข้อความเป็นรูปภาพมีประโยชน์น้อยลงอย่างมาก ซึ่งหมายความว่าผู้สร้างโมเดลมีแรงจูงใจที่จะให้แน่ใจว่าพวกเขาจะฝึกฝนเฉพาะข้อมูลที่ได้รับการเสนออย่างอิสระเท่านั้น

“Nightshade สามารถเป็นเครื่องมืออันทรงพลังสำหรับเจ้าของเนื้อหาในการปกป้องทรัพย์สินทางปัญญาของตนจากผู้ฝึกสอนโมเดลที่เพิกเฉยหรือเพิกเฉยต่อประกาศเกี่ยวกับลิขสิทธิ์ คำสั่งห้ามขูด/รวบรวมข้อมูล และรายการยกเลิก” ผู้เขียนระบุในรายงานของพวกเขา

ความล้มเหลวในการพิจารณาความปรารถนาของผู้สร้างงานศิลปะและเจ้าของนำไปสู่การฟ้องร้อง ยื่นปีที่แล้วซึ่งเป็นส่วนหนึ่งของการต่อต้านการเก็บเกี่ยวข้อมูลโดยไม่ได้รับอนุญาตเพื่อประโยชน์ของธุรกิจ AI การเรียกร้องการละเมิดที่ทำในนามของศิลปินหลายคนต่อ Stability AI, Deviant Art และ Midjourney อ้างว่ารูปแบบ Stable Diffusion ที่บริษัทของจำเลยใช้รวมเอาผลงานของศิลปินโดยไม่ได้รับอนุญาต คดีนี้แก้ไขเพิ่มเติมในเดือนพฤศจิกายน 2023 โดยรวมจำเลยรายใหม่ Runway AI อย่างต่อเนื่อง ที่จะถูกดำเนินคดี

ผู้เขียนขอเตือนว่า Nightshade มีข้อจำกัดบางประการ โดยเฉพาะอย่างยิ่ง ภาพที่ประมวลผลด้วยซอฟต์แวร์อาจแตกต่างไปจากต้นฉบับเล็กน้อย โดยเฉพาะงานศิลปะที่ใช้สีเรียบๆ และพื้นหลังที่เรียบเนียน นอกจากนี้ พวกเขายังสังเกตเห็นว่าอาจมีการพัฒนาเทคนิคในการเลิกทำ Nightshade แม้ว่าพวกเขาจะเชื่อว่าพวกเขาสามารถปรับใช้ซอฟต์แวร์เพื่อให้ทันกับมาตรการตอบโต้ก็ตาม

Matthew Guzdial ผู้ช่วยศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ที่ University of Alberta กล่าวในโซเชียลมีเดีย เสา, “งานนี้เจ๋งและทันเวลา! แต่ฉันกังวลว่าวิธีแก้ปัญหาจะเกินความจริง มันใช้งานได้กับโมเดลที่ใช้ CLIP เท่านั้น และตามผู้เขียนแล้ว จะต้องมีรูปภาพ 'วางยาพิษ' จำนวน 8 ล้านรูปจึงจะมีผลกระทบอย่างมีนัยสำคัญต่อการสร้างรูปภาพที่คล้ายกันสำหรับโมเดล LAION”

Glaze ซึ่งถึง 1.0 เมื่อเดือนมิถุนายนปีที่แล้วมี เวอร์ชันเว็บและตอนนี้ก็ถึงแล้ว เปิดตัว 1.1.1แก้ไขรูปภาพเพื่อป้องกันไม่ให้โมเดลที่ได้รับการฝึกกับรูปภาพเหล่านั้นเลียนแบบสไตล์ภาพของศิลปิน

การเลียนแบบสไตล์ซึ่งมีให้บริการผ่านบริการแปลงข้อความเป็นรูปภาพแบบปิด เช่น Midjourney และผ่านโมเดลโอเพ่นซอร์ส เช่น Stable Diffusion สามารถทำได้ง่ายๆ โดยการกระตุ้นโมเดลข้อความเป็นรูปภาพเพื่อสร้างภาพในสไตล์ของศิลปินเฉพาะ

ทีมงานเชื่อว่าศิลปินควรมีวิธีป้องกันการจับภาพและทำซ้ำสไตล์ภาพของตน

“การล้อเลียนสไตล์ก่อให้เกิดผลลัพธ์ที่เป็นอันตรายหลายประการซึ่งอาจไม่ชัดเจนตั้งแต่แรกเห็น” โบฟฟินกล่าว “สำหรับศิลปินที่มีการจงใจลอกเลียนแบบสไตล์ ไม่เพียงแต่พวกเขาพบว่าสูญเสียค่าคอมมิชชั่นและรายได้พื้นฐานเท่านั้น แต่สำเนาสังเคราะห์คุณภาพต่ำที่กระจัดกระจายทางออนไลน์ทำให้แบรนด์และชื่อเสียงของพวกเขาลดลง สิ่งสำคัญที่สุดคือศิลปินเชื่อมโยงสไตล์ของตนเข้ากับเอกลักษณ์ของตนเอง”

พวกเขาเปรียบเสมือนการล้อเลียนสไตล์กับการขโมยข้อมูลส่วนตัว และบอกว่าเป็นการไม่จูงใจให้ศิลปินที่ต้องการสร้างสรรค์ผลงานใหม่ๆ

ทีมงานแนะนำให้ศิลปินใช้ทั้ง Nightshade และ Glaze ปัจจุบันเครื่องมือทั้งสองจะต้องดาวน์โหลดและติดตั้งแยกกัน แต่เวอร์ชันรวมอยู่ระหว่างการพัฒนา ®