นักพัฒนา Bored Apes ละทิ้งระบบการฝึกทางทหารของสหรัฐฯ-อังกฤษ

คุณเคยโพสต์รูปภาพของตัวเองบนแพลตฟอร์มโซเชียลมีเดียเช่น Facebook, Instagram, Tik Tok และอื่น ๆ หรือไม่? ถ้าเป็นเช่นนั้น อาจถึงเวลาที่ต้องพิจารณาการโพสต์เหล่านั้นใหม่

นี่เป็นเพราะเทคโนโลยีการสร้างภาพ AI ใหม่ช่วยให้ผู้ใช้สามารถบันทึกภาพและเฟรมวิดีโอจำนวนมากของคุณแล้วฝึกให้สร้างภาพปลอมที่ "เหมือนจริง" ซึ่งแสดงภาพคุณในตำแหน่งที่น่าอาย ผิดกฎหมาย และบางครั้งก็ประนีประนอม

ไม่ใช่ทุกคนที่มีความเสี่ยง แต่ภัยคุกคามนั้นมีอยู่จริง

แม้ว่าภาพถ่ายจะมีแนวโน้มอยู่เสมอ การจัดการ และการปลอมแปลงจากยุคของห้องมืดที่ฟิล์มถูกตัดแต่งด้วยกรรไกรและแปะไปจนถึงการโฟโต้ชอปพิกเซลในปัจจุบัน

แม้ว่ามันจะเป็นงานที่น่ากลัวและต้องใช้ทักษะของผู้เชี่ยวชาญในสมัยนั้น แต่ทุกวันนี้การสร้างของปลอมที่เหมือนจริงจนน่าเชื่อได้เกิดขึ้นง่ายเกินไป

ก่อนอื่น โมเดล AI จะต้องเรียนรู้วิธีการเรนเดอร์หรือสังเคราะห์รูปภาพของใครบางคนให้เป็นภาพถ่ายจากโมเดล 2 มิติหรือ 3 มิติผ่านซอฟต์แวร์ เมื่อเรนเดอร์ภาพสำเร็จ ภาพจะกลายเป็นของเล่นสำหรับเทคโนโลยีโดยธรรมชาติ และมีความสามารถในการสร้างภาพจำนวนไม่จำกัด

เมื่อเลือกที่จะแชร์โมเดล AI คนอื่นๆ ก็สามารถเข้าร่วมและเริ่มสร้างภาพของบุคคลนั้นได้เช่นกัน

กรณีศึกษาโซเชียลมีเดีย

อาสาสมัครที่อธิบายว่า "กล้าหาญ" โดย Ars Technicaสื่อสิ่งพิมพ์ด้านเทคโนโลยีซึ่งในตอนแรกอนุญาตให้บริษัทใช้ภาพของเขาเพื่อสร้างของปลอมได้เปลี่ยนใจ

เนื่องจากในเวลาไม่นาน ผลลัพธ์ของภาพที่เรนเดอร์จากโมเดล AI นั้นน่าเชื่อถือเกินไปและทำลายชื่อเสียงมากเกินไปสำหรับอาสาสมัคร

เมื่อพิจารณาถึงความเสี่ยงด้านชื่อเสียงที่สูง จอห์น บุคคลสมมติที่สร้างโดย AI จึงกลายเป็นตัวเลือกโดยธรรมชาติ

จอห์น บุคคลสมมติเป็นครูโรงเรียนประถม ซึ่งเหมือนกับคนอื่นๆ อีกหลายคนที่โพสต์ภาพของเขาบนเฟซบุ๊กในที่ทำงาน พักผ่อนที่บ้าน และในงานดังกล่าว

รูปภาพของ “John” ที่ดูไม่น่ามองส่วนใหญ่ถูกเรนเดอร์และนำไปใช้ในการฝึก AI เพื่อให้เขาอยู่ในตำแหน่งที่ประนีประนอมมากขึ้น

จากภาพเพียงเจ็ดภาพ AI สามารถฝึกฝนให้สร้างภาพที่ทำให้ดูเหมือนว่าจอห์นใช้ชีวิตแบบสองต่อสองและเป็นความลับ ตัวอย่างเช่น เขาปรากฏตัวเป็นคนที่ชอบโพสท่าเปลือยเพื่อเซลฟี่ในห้องเรียนของเขา

ในตอนกลางคืนเขาไปที่บาร์ดูเหมือนตัวตลก

เขาเป็นส่วนหนึ่งของกลุ่มกึ่งทหารหัวรุนแรง

เอไอยังสร้างความประทับใจว่าเขาเคยติดคุกด้วยข้อหาเสพยาเสพติดอย่างผิดกฎหมาย แต่ได้ปกปิดข้อเท็จจริงนี้จากนายจ้างของเขา

ในอีกภาพหนึ่ง จอห์นซึ่งแต่งงานแล้วกำลังยืนเคียงข้างผู้หญิงเปลือยที่ไม่ใช่ภรรยาของเขาในที่ทำงาน

โดยใช้เครื่องกำเนิดภาพ AI ที่เรียกว่า การแพร่กระจายที่เสถียร (เวอร์ชัน 1.5) และเทคนิคที่เรียกว่า Dreambooth ทำให้ Ars Technica สามารถฝึก AI ให้สร้างภาพถ่ายของ John ในสไตล์ใดก็ได้ แม้ว่าจอห์นจะเป็นสิ่งสร้างที่สมมติขึ้น แต่ในทางทฤษฎีใครก็ตามสามารถบรรลุผลลัพธ์ชุดเดียวกันจากภาพห้าภาพขึ้นไป ภาพเหล่านี้สามารถดึงมาจากบัญชีโซเชียลมีเดียหรือนำมาเป็นภาพนิ่งจากวิดีโอ

กระบวนการสอน AI ให้สร้างภาพของ John ใช้เวลาประมาณหนึ่งชั่วโมง และไม่ต้องเสียค่าใช้จ่ายใดๆ ด้วยบริการคลาวด์คอมพิวติ้งของ Google

เมื่อการฝึกเสร็จสิ้น การสร้างภาพใช้เวลาหลายชั่วโมง สื่อเผยแพร่ระบุ และนี่ไม่ใช่เพราะการสร้างภาพเป็นกระบวนการที่ค่อนข้างช้า แต่เนื่องจากจำเป็นต้องรวบรวม "ภาพที่ไม่สมบูรณ์" จำนวนมากและใช้การเรียงลำดับแบบ "ลองผิดลองถูก" เพื่อค้นหาภาพที่ดีที่สุด

การศึกษาพบว่าง่ายกว่ามากเมื่อเทียบกับการพยายามสร้างภาพถ่ายปลอมที่เหมือนจริงของ “John” ใน Photoshop ตั้งแต่เริ่มต้น

ด้วยเทคโนโลยี คนอย่างจอห์นจึงถูกมองว่าทำผิดกฎหมาย หรือทำผิดศีลธรรม เช่น บุกบ้าน ใช้ยาผิดกฎหมาย และเปลือยกายอาบน้ำกับนักเรียน หากโมเดล AI ได้รับการปรับให้เหมาะสมสำหรับสื่อลามก คนอย่างจอห์นสามารถกลายเป็นดาราหนังโป๊ได้ในชั่วข้ามคืน

นอกจากนี้ เราสามารถสร้างภาพว่าจอห์นกำลังทำสิ่งที่ดูเหมือนไม่น่ารังเกียจซึ่งอาจสร้างความเสียหายได้หากเขาแสดงอาการมึนเมาที่บาร์เมื่อเขาให้คำมั่นสัญญาว่าจะไม่สงบเสงี่ยม

มันไม่จบแค่นั้น

บุคคลยังสามารถปรากฏตัวในช่วงเวลาที่เบากว่าในฐานะอัศวินยุคกลางหรือนักบินอวกาศ ในบางกรณี ผู้คนอาจเป็นได้ทั้งเด็กและผู้ใหญ่ หรือแม้แต่แต่งตัว

อย่างไรก็ตามการแสดงผล ภาพ ยังห่างไกลจากความสมบูรณ์แบบ การมองอย่างใกล้ชิดสามารถออกได้ว่าเป็นของปลอม

ข้อเสียคือเทคโนโลยีที่สร้างภาพเหล่านี้ได้รับการอัปเกรดอย่างมาก และอาจทำให้ไม่สามารถแยกความแตกต่างระหว่างภาพถ่ายสังเคราะห์กับภาพถ่ายจริงได้

แม้จะมีข้อบกพร่อง แต่ของปลอมก็ทำให้เกิดเงาแห่งความสงสัยเกี่ยวกับจอห์นและอาจทำลายชื่อเสียงของเขา

ช่วงหลังๆ มานี้ มีคนจำนวนมากใช้เทคนิคเดียวกันนี้ (กับคนจริงๆ) เพื่อสร้างรูปโปรไฟล์ที่ดูแปลกตาและเป็นศิลปะของตัวเอง

บริการเชิงพาณิชย์และแอพต่างๆ เช่น เลนส์ มีดอกเห็ดที่จัดการฝึกอบรม

มันทำงานอย่างไร?

งานของจอห์นอาจดูน่าทึ่งหากไม่มีใครติดตามกระแส ทุกวันนี้ วิศวกรซอฟต์แวร์รู้วิธีสร้างภาพเหมือนจริงแบบใหม่ของทุกสิ่งที่จินตนาการได้

นอกเหนือจากภาพถ่ายแล้ว AI ยังอนุญาตให้ผู้คนสร้างงานศิลปะใหม่ที่คัดลอกผลงานของศิลปินที่มีอยู่โดยไม่ได้รับอนุญาต

ถูกระงับเนื่องจากข้อกังวลด้านจริยธรรม

มิทช์ แจ็กสัน ทนายความด้านเทคโนโลยีของสหรัฐฯ แสดงความกังวลเกี่ยวกับการเพิ่มจำนวนของเทคโนโลยีปลอมในตลาด และกล่าวว่าเขาจะศึกษาผลกระทบทางกฎหมายของเทคโนโลยีในปี 2023 เป็นส่วนใหญ่

"การแยกแยะว่าอะไรจริงอะไรปลอมจะกลายเป็นเรื่องเป็นไปไม่ได้สำหรับผู้บริโภคส่วนใหญ่ในที่สุด”

Adobe มีเทคโนโลยีด้านเสียงที่เรียกว่า Adobe VoCo อยู่แล้ว ซึ่งช่วยให้ทุกคนสามารถส่งเสียงได้เหมือนคนอื่นทุกประการ การทำงานกับ Adobe VoCo ถูกระงับเนื่องจากข้อกังวลด้านจริยธรรม แต่บริษัทอื่นๆ อีกหลายสิบแห่งกำลังปรับปรุงเทคโนโลยีให้สมบูรณ์แบบ โดยเสนอทางเลือกอื่นในปัจจุบัน ลองดูหรือฟังด้วยตัวคุณเอง” Mitchum กล่าวว่า.

รูปภาพและวิดีโอของวิดีโอปลอมเชิงลึกนั้นดีขึ้นเรื่อยๆ เขากล่าว

“บางครั้ง เป็นไปไม่ได้เลยที่จะแยกแยะวิดีโอปลอมออกจากวิดีโอจริง” เขากล่าวเสริม

Stable Diffusion ใช้โมเดลการสังเคราะห์รูปภาพที่มีการเรียนรู้เชิงลึกซึ่งสามารถสร้างรูปภาพใหม่จากคำอธิบายข้อความและสามารถทำงานบน Windows หรือ Linux PC, บน Mac หรือในระบบคลาวด์บนฮาร์ดแวร์คอมพิวเตอร์ที่เช่า

โครงข่ายประสาทเทียมของ Stable Diffusion มีการเรียนรู้อย่างเข้มข้นที่เชี่ยวชาญในการเชื่อมโยงคำและความสัมพันธ์ทางสถิติทั่วไประหว่างตำแหน่งของพิกเซลในภาพ

ด้วยเหตุนี้ เราจึงสามารถแจ้ง Stable Diffusion เช่น "Tom Hanks ในห้องเรียน" และจะทำให้ผู้ใช้เห็นภาพใหม่ของ Tom Hanks ในห้องเรียน

ในกรณีของทอม แฮงค์ มันเป็นการเดินเล่นในสวนสาธารณะ เพราะภาพถ่ายของเขาหลายร้อยภาพอยู่ในชุดข้อมูลที่ใช้ในการฝึกการแพร่กระจายที่เสถียรแล้ว แต่สำหรับการสร้างภาพคนอย่าง John นั้น AI จะต้องการความช่วยเหลือสักหน่อย

นั่นคือสิ่งที่ Dreambooth เตะ

Dreambooth ซึ่งเปิดตัวเมื่อวันที่ 30 สิงหาคมโดยนักวิจัยของ Google ใช้เทคนิคพิเศษในการฝึก Stable Diffusion ผ่านกระบวนการที่เรียกว่า "การปรับแต่งอย่างละเอียด"

ในตอนแรก Dreambooth ไม่เกี่ยวข้องกับ Stable Diffusion และ Google ก็ไม่ได้เปิดใช้ซอร์สโค้ดเนื่องจากกลัวว่าจะถูกละเมิด

ในเวลาไม่นาน มีคนพบวิธีปรับเทคนิค Dreambooth ให้ทำงานร่วมกับ Stable Diffusion และปล่อยโค้ดได้อย่างอิสระในฐานะโปรเจ็กต์โอเพ่นซอร์ส ทำให้ Dreambooth เป็นวิธีที่ได้รับความนิยมอย่างมากสำหรับศิลปิน AI ในการสอนสไตล์ศิลปะใหม่ๆ ของ Stable Diffusion

ผลกระทบทั่วโลก

ผู้คนประมาณ 4 พันล้านคนทั่วโลกใช้โซเชียลมีเดีย เนื่องจากพวกเราหลายคนอัปโหลดภาพถ่ายของตัวเองมากกว่าไม่กี่ภาพ เราจึงอาจเสี่ยงต่อการถูกโจมตีดังกล่าวได้

แม้ว่าผลกระทบของเทคโนโลยีการสังเคราะห์ภาพจะถูกอธิบายจากมุมมองของผู้ชาย แต่ผู้หญิงก็มีแนวโน้มที่จะแบกรับผลกระทบนี้เช่นกัน

เมื่อมีการแสดงใบหน้าหรือร่างกายของผู้หญิง ตัวตนของเธออาจถูกแทรกเข้าไปในภาพอนาจารอย่างซุกซน

สิ่งนี้เกิดขึ้นได้จากภาพทางเพศจำนวนมากที่พบในชุดข้อมูลที่ใช้ในการฝึกอบรม AI

กล่าวอีกนัยหนึ่ง หมายความว่า AI คุ้นเคยกับวิธีสร้างภาพอนาจารเหล่านั้นมากเกินไป

ในการเสนอราคาเพื่อแก้ไขปัญหาด้านจริยธรรมเหล่านี้ Stability AI ถูกบังคับให้ลบเนื้อหา NSFW ออกจากชุดข้อมูลการฝึกอบรมสำหรับรุ่น 2.0 ล่าสุด

แม้ว่าใบอนุญาตซอฟต์แวร์จะห้ามไม่ให้ผู้คนใช้เครื่องกำเนิด AI เพื่อสร้างภาพของผู้คนโดยไม่ได้รับอนุญาต แต่ก็มีศักยภาพในการบังคับใช้น้อยมากหรือไม่มีเลย

นอกจากนี้ เด็กยังไม่ปลอดภัยจากภาพที่สังเคราะห์ขึ้น และอาจถูกกลั่นแกล้งโดยใช้เทคโนโลยีนี้ แม้ในกรณีที่ภาพไม่ได้ถูกดัดแปลง

มีอะไรที่เราสามารถทำได้หรือไม่?

รายการสิ่งที่ต้องทำแตกต่างกันไปในแต่ละบุคคล วิธีหนึ่งคือการลบภาพออฟไลน์ทั้งหมดพร้อมกัน

แม้ว่าวิธีนี้อาจใช้ได้กับคนทั่วไป แต่ก็ไม่ใช่วิธีแก้ปัญหาสำหรับคนดังและบุคคลสาธารณะอื่นๆ

อย่างไรก็ตาม ในอนาคต ผู้คนอาจสามารถป้องกันตนเองจากการล่วงละเมิดทางภาพถ่ายด้วยวิธีการทางเทคนิค เครื่องกำเนิดภาพ AI ในอนาคตอาจถูกบังคับตามกฎหมายให้ฝังลายน้ำที่มองไม่เห็นลงในผลลัพธ์

ด้วยวิธีนี้ ลายน้ำของพวกเขาสามารถอ่านได้ในภายหลัง และทำให้ผู้คนรู้ว่าเป็นของปลอมได้ง่าย

"จำเป็นต้องมีกฎระเบียบที่กว้างขวาง เนื้อหาที่มีการดัดแปลงหรือปลอมควรแสดงตัวอักษรหรือคำเตือนอย่างชัดเจน เช่นเดียวกับภาพยนตร์ (G, PG, R และ X) อาจจะเป็นเช่น Digitally Altertered หรือ DA" มิทชุมพูดว่า

Stability AI เปิดตัว Stable Diffusion เป็นโครงการโอเพ่นซอร์สในปีนี้

ให้เครดิต Stable Diffusion ใช้ลายน้ำแบบฝังอยู่แล้วโดยค่าเริ่มต้น แต่ผู้ที่เข้าถึงเวอร์ชันโอเพ่นซอร์สมักจะหลีกเลี่ยงโดยการปิดใช้งานองค์ประกอบลายน้ำของซอฟต์แวร์หรือลบออกทั้งหมด

MIT เพื่อบรรเทา

แม้ว่าจะเป็นเพียงการคาดเดาเท่านั้น แต่ลายน้ำที่เพิ่มลงในภาพถ่ายส่วนตัวโดยสมัครใจอาจขัดขวางกระบวนการฝึกอบรม Dreambooth ได้ กลุ่มนักวิจัยของ MIT กล่าว โฟโต้การ์ดซึ่งเป็นกระบวนการของฝ่ายตรงข้ามที่มีจุดมุ่งหมายเพื่อปกป้องและป้องกัน AI จากการสังเคราะห์ภาพถ่ายที่มีอยู่ผ่านการปรับเปลี่ยนเล็กน้อยโดยใช้วิธีการใส่ลายน้ำที่มองไม่เห็น อย่างไรก็ตาม สิ่งนี้จำกัดเฉพาะกรณีการใช้งานการแก้ไขด้วย AI (มักเรียกว่า "การวาดภาพ") และรวมถึงการฝึกอบรมหรือการสร้างภาพ

"AI เข้ายึดครองการเขียนและระบายสี! ของปลอมจะทำลายวิดีโอ!
ดี
นั่นหมายถึงการแสดงสดจะยิ่งมีค่ามากขึ้นไปอีก งานแสดงสินค้าจะเจริญรุ่งเรือง มนุษย์ต้องการทำธุรกิจกับมนุษย์
มีทสเปซยังคงเป็นเบสท์สเปซ" โจนาธาน พิชชาร์ด กล่าวว่า

ในช่วงหลังมานี้ได้มีการแพร่หลายของเทคโนโลยี AI ที่เขียน บทกวีจังหวะและเพลง และบางส่วนที่เป็น การเรียนรู้ เกม

นักวิจารณ์มองความก้าวหน้าทางเทคโนโลยีในทางลบ และเชื่อว่าเอไอกำลังเข้ามาแทนที่งานของมนุษย์

/เมตานิวส์.

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• เพลโตบล็อคเชน Web3 Metaverse ข่าวกรอง ขยายความรู้. เข้าถึงได้ที่นี่.
• ที่มา: https://metanews.com/bored-apes-developers-abandon-us-uk-military-training-system/?utm_source=rss&utm_medium=rss&utm_campaign=bored-apes-developers-abandon-us-uk-military-training-system