เนื้อหาลายน้ำยังไม่เพียงพอที่จะแยกแยะระหว่างเนื้อหาจริงและเนื้อหาที่สร้างโดย AI เนื่องจากอาชญากรไซเบอร์สามารถข้ามคุณสมบัติด้านความปลอดภัยได้เช่นกัน
สิ่งนี้เกิดขึ้นเนื่องจากมีการนำเทคโนโลยี AI มาใช้เพิ่มมากขึ้น โดยเฉพาะอย่างยิ่ง generative AI ทำให้เกิดพื้นที่ที่ดีสำหรับบุคคลที่ไร้หลักจริยธรรมในการนำไปใช้เพื่อเผยแพร่ข้อมูลที่ไม่ถูกต้อง ความเกลียดชัง และเนื้อหาที่เป็นอันตรายในรูปแบบอื่น ๆ
และลายน้ำได้กลายเป็นหนึ่งในโซลูชั่นหลักในการแยกแยะระหว่างเนื้อหาที่สร้างโดย AI และเนื้อหาในชีวิตจริง แต่ก็มีข้อบกพร่องเช่นกัน
อ่านเพิ่มเติม: Audio2Photoreal ของ Meta อนุญาตให้ใช้อวตาร Photorealistic ที่ขับเคลื่อนด้วยเสียง
การจัดการ
ผู้เชี่ยวชาญกล่าวว่าการเติบโตของ AI ยังมาพร้อมกับผู้ไม่ประสงค์ดีที่ใช้ประโยชน์จากเทคโนโลยีเพื่อเผยแพร่ข้อมูลที่บิดเบือนและความมุ่งร้าย และก่อให้เกิดความตื่นตระหนกด้วยข่าวปลอม
แม้ว่าลายน้ำจะได้รับการระบุเพื่อให้ผู้ใช้สามารถแยกความแตกต่างระหว่างเนื้อหาที่สร้างโดย AI และเนื้อหาที่มนุษย์สร้างขึ้นจริง แต่ก็มีแนวโน้มที่จะถูกบิดเบือนเช่นกัน
ตามที่ ลงทะเบียนลายเซ็นที่มองเห็นได้บางส่วน เช่น โมเดลข้อความเป็นรูปภาพ Dall-E เป็นหนึ่งในวิธีที่ง่ายที่สุดในการข้ามเครื่องมือตรวจจับ AI บทความยังระบุเพิ่มเติมว่าบุคคลที่ไร้ยางอายสามารถครอบตัดลายน้ำหรือคัดลอกรูปภาพด้วยวิธีที่เลี่ยงการดาวน์โหลดโดยตรง
Siwei Lyu ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์แห่งมหาวิทยาลัยบัฟฟาโลในสหรัฐอเมริกากล่าวว่า มีผู้เชี่ยวชาญเช่นกันในการทำลายอุปสรรค
“เทคโนโลยีลายน้ำถูกนำมาใช้กับเม็ดเกลือเพราะมันไม่ใช่เรื่องยากสำหรับคนที่มีความรู้เกี่ยวกับลายน้ำและ AI ที่จะสามารถทำลายและลบลายน้ำหรือผลิตขึ้นมาได้” Lyu กล่าว
ผู้เชี่ยวชาญ AI และผู้อำนวยการบริหารสำหรับองค์กรไม่แสวงหาผลกำไรที่ช่วยให้ผู้คนใช้เทคโนโลยีเพื่อส่งเสริมสิทธิมนุษยชน Sam Gregory คิดว่า ลายน้ำยังคงสามารถถูกจัดการโดยนักแสดงที่ไม่ดี
สำหรับเขา มันเป็น “เครื่องมือคัดกรองเพื่อลดอันตราย” และเสริมว่า “มันไม่ใช่วิธีแก้ปัญหา 100%”
ประเภทของลายน้ำ
อย่างไรก็ตาม ไม่ใช่เรื่องร่าเริงสำหรับนักแสดงที่ไร้ยางอายและไม่ดีไปซะหมด ลายน้ำบางส่วนที่มองไม่เห็น เช่น Google DeepMind ซินธิไอดี กำจัดได้ยากเนื่องจาก "ฝังอยู่ในเอาต์พุตระบบของ Imagen โดยตรง"
ลายน้ำประเภทนี้ไม่สามารถมองเห็นได้ด้วยตาเปล่า แต่สามารถตรวจจับได้โดยใช้ซอฟต์แวร์หรืออัลกอริธึมพิเศษ
อย่างไรก็ตาม Lyu ยังคงคิดว่าเป็นไปได้สำหรับคนวายร้ายที่มี "ความรู้ทางเทคนิคในการขัดเกลาสิ่งนั้นออกไป"
“ฉันคิดว่าลายน้ำส่วนใหญ่เล่นกับความไม่รู้ของการมีอยู่ของผู้คน ดังนั้นหากพวกเขารู้ว่าทำได้ พวกเขาก็จะหาทางทำลายมัน” หลิวกล่าว
ลายน้ำอีกประเภทหนึ่งคือลายน้ำที่มองเห็นได้ ซึ่งบริษัทต่างๆ เช่น Google, Getty และ OpenAI ได้เพิ่มลงในวิดีโอ ข้อความ หรือรูปภาพ เพื่อตรวจสอบความถูกต้องของเนื้อหา
ลายน้ำประเภทที่สามคือข้อมูลเมตาที่เข้ารหัส ส่วนนี้จะแสดงว่าเนื้อหาถูกสร้างขึ้นเมื่อใดและได้รับการแก้ไขอย่างไร
ลายน้ำ "ล้างออก"
การศึกษาโดยมหาวิทยาลัยแมริแลนด์ซึ่งนำโดย Soheil Feizi ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์กล่าวว่าลายน้ำ AI ไม่สามารถเข้าใจผิดได้. พวกเขาทดสอบลายน้ำทุกประเภทและ “ทำลายมันทั้งหมด”
“เราไม่มีลายน้ำที่เชื่อถือได้ ณ จุดนี้” เขากล่าว
ศาสตราจารย์ยังอธิบายว่ามันง่ายแค่ไหนสำหรับนักแสดงที่ไม่ดีในการจัดการกับลายน้ำในสิ่งที่เขาอธิบายว่าเป็นการ "ล้าง" ลายน้ำ
การศึกษาอีกชิ้นที่ร่วมเขียนโดยนักวิจัยจากมหาวิทยาลัยแคลิฟอร์เนีย ซานตาบาร์บารา และคาร์เนกี เมลลอน ก็พบผลเช่นเดียวกัน
“ลายน้ำที่มองเห็นได้ทั้งหมดไม่น่าเชื่อถือ” อ่าน กระดาษ.
ปัญหาที่ไวต่อเวลา
เจ้าหน้าที่วุฒิสภาสหรัฐอเมริกาที่เกี่ยวข้องกับการร่างกฎหมายที่เกี่ยวข้องกับ AI บอกกับ Fedscope ถึงความจำเป็นในการ “ตามทันผู้แสดงที่ไม่ดี” และเสริมว่าขณะนี้วุฒิสภาอยู่ในยุค “การศึกษาและการกำหนดปัญหา”
“ก็เหมือนกับนักกีฬาโอลิมปิก ตอนนี้ฉันรู้ว่าคุณกำลังมองหายานี้อยู่ ฉันจะกินยาอีกตัวหนึ่ง”
กับ หลายประเทศไปเลือกตั้ง ในปีนี้ ความจำเป็นในการดำเนินมาตรการเพื่อลดการปลอมแปลงข้อมูลเชิงลึกและข้อมูลที่ไม่ถูกต้องไม่สามารถมองข้ามได้ เมื่อเดือนกันยายนปีที่แล้ว ชัค ชูเมอร์ ผู้นำเสียงข้างมากในวุฒิสภากล่าวว่าการจัดการกับความถูกต้องของเนื้อหาคือ ปัญหาที่ไวต่อเวลา เนื่องจากการเลือกตั้งอยู่ใกล้แค่เอื้อมในหลายประเทศ
“มีปัญหาเรื่องการมี Deepfakes จริง ๆ ซึ่งผู้คนเชื่อจริงๆ ว่าผู้สมัครกำลังพูดอะไรบางอย่างเมื่อพวกเขาสร้าง AI ขึ้นมาโดยสิ้นเชิง” เขากล่าวหลังจากครั้งแรก ข้อมูลเชิงลึก AI แบบปิด ฟอรั่ม
บริษัทเทคโนโลยีกำลังเผชิญกับความท้าทาย
ในระหว่างนี้ Coalition for Content Provenance and Authenticity (C2PA) ซึ่งเป็นบริษัทผลิตสื่อและเทคโนโลยีก็ได้เข้ามามีบทบาทแล้ว ซึ่งจะระบุแหล่งที่มาของภาพ ไม่ว่าจะเป็นกล้องหรือโปรแกรม AI ที่ใช้ในการสร้างภาพ
อีกทั้งยังให้รายละเอียดเกี่ยวกับเวลา สถานที่ และวิธีการสร้างภาพ ทำให้ผู้คนสามารถตรวจสอบที่มาของภาพได้ มีรายงานว่า TikTok เป็นหนึ่งในบริษัทเทคโนโลยีชั้นนำที่เป็นผู้นำในเรื่องลายน้ำ
“TikTok จะแสดงแทร็กเสียงที่ใช้ มันแสดงให้คุณเห็นตะเข็บที่ทำ; มันแสดงให้คุณเห็นเอฟเฟกต์ AI ที่ใช้” Gregory กล่าว
อื่นๆ ใหญ่ tech บริษัท เช่น Alphabet, Amazon, Meta และ OpenAI ให้คำมั่นเมื่อปีที่แล้วว่าจะพัฒนาเทคโนโลยีลายน้ำเพื่อจัดการกับข้อมูลที่ผิด
- เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
- PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
- เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
- เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
- เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
- ที่มา: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :มี
- :เป็น
- :ไม่
- :ที่ไหน
- 8
- 9
- a
- สามารถ
- นักแสดง
- จริง
- ที่เพิ่ม
- เพิ่ม
- การนำมาใช้
- ความได้เปรียบ
- หลังจาก
- AI
- อัลกอริทึม
- ทั้งหมด
- การอนุญาต
- ช่วยให้
- Alphabet
- ด้วย
- อเมซอน
- ในหมู่
- an
- และ
- อื่น
- ใด
- เป็น
- รอบ
- บทความ
- AS
- At
- เสียง
- ความจริง
- ไม่ดี
- อุปสรรค
- BE
- เพราะ
- รับ
- ระหว่าง
- ใหญ่
- ทำลาย
- หมดสภาพ
- กระบือ
- แต่
- by
- ทางอ้อม
- แคลิฟอร์เนีย
- ห้อง
- CAN
- ผู้สมัคร
- ไม่ได้
- Carnegie Mellon
- ก่อให้เกิด
- เชย
- รัฐบาลผสม
- มา
- บริษัท
- คอมพิวเตอร์
- วิทยาการคอมพิวเตอร์
- เนื้อหา
- มุม
- ประเทศ
- สร้าง
- ที่สร้างขึ้น
- การสร้าง
- การสร้าง
- พืชผล
- การเข้ารหัสลับ
- ขณะนี้
- อาชญากรไซเบอร์
- ดัล-อี
- deepfakes
- การกำหนด
- อธิบาย
- รายละเอียด
- ตรวจพบ
- การตรวจพบ
- พัฒนา
- ยาก
- โดยตรง
- โดยตรง
- ผู้อำนวยการ
- บิดเบือน
- เห็นความแตกต่าง
- Dont
- ยาเสพติด
- ที่ง่ายที่สุด
- ง่าย
- ผลกระทบ
- การเลือกตั้ง
- โผล่ออกมา
- ทำให้สามารถ
- พอ
- ยุค
- โดยเฉพาะอย่างยิ่ง
- ผู้บริหารงาน
- ผู้อำนวยการบริหาร
- ชำนาญ
- ผู้เชี่ยวชาญ
- อธิบาย
- ตา
- เทียม
- ข่าวปลอม
- คุณสมบัติ
- หา
- ผลการวิจัย
- บริษัท
- ชื่อจริง
- สำหรับ
- รูปแบบ
- ฟอรั่ม
- ต่อไป
- กำเนิด
- กำเนิด AI
- ได้รับ
- กำหนด
- จะช่วยให้
- ไป
- พื้น
- การเจริญเติบโต
- การเจริญเติบโต
- มี
- ยาก
- อันตราย
- เกลียด
- มี
- มี
- he
- จะช่วยให้
- พระองค์
- ของเขา
- สรุป ความน่าเชื่อถือของ Olymp Trade?
- อย่างไรก็ตาม
- HTTPS
- เป็นมนุษย์
- สิทธิมนุษยชน
- i
- ฉันเป็น
- ระบุ
- ระบุ
- if
- ภาพ
- ภาพ
- in
- บุคคล
- เข้าไป
- มองไม่เห็น
- ร่วมมือ
- ปัญหา
- IT
- ITS
- เพียงแค่
- คีย์
- ชนิด
- ทราบ
- ความรู้
- ชื่อสกุล
- ปีที่แล้ว
- นำ
- ผู้นำ
- นำ
- กฎหมาย
- กดไลก์
- ที่ตั้ง
- ที่ต้องการหา
- ทำ
- ส่วนใหญ่
- ที่เป็นอันตราย
- จัดการ
- การจัดการ
- หลาย
- แมรี่แลนด์
- ขณะ
- มาตรการ
- ภาพบรรยากาศ
- เมลลอน
- Meta
- เมตาดาต้า
- วิธี
- ลด
- ข้อมูลที่ผิด
- แบบ
- ส่วนใหญ่
- จำเป็นต้อง
- ข่าว
- ไม่แสวงหาผลกำไร
- องค์กรไม่แสวงหาผลกำไร
- ตอนนี้
- of
- โอลิมปิค
- on
- ONE
- OpenAI
- or
- organizacja
- อื่นๆ
- ออก
- เอาท์พุท
- ก้าว
- ความหวาดกลัว
- กระดาษ
- รูปแบบไฟล์ PDF
- คน
- ของผู้คน
- ภาพเสมือนจริง
- สถานที่
- เพลโต
- เพลโตดาต้าอินเทลลิเจนซ์
- เพลโตดาต้า
- เล่น
- จุด
- เป็นไปได้
- ศาสตราจารย์
- โครงการ
- ส่งเสริม
- ราก
- อ่าน
- จริง
- จริงๆ
- การลดลง
- น่าเชื่อถือ
- เอาออก
- ตามข่าว
- นักวิจัย
- กำจัด
- สิทธิ
- ร่าเริง
- กล่าวว่า
- เกลือ
- แซม
- เดียวกัน
- ซานตา
- ซานต้าบาร์บาร่า
- กล่าว
- คำพูด
- วิทยาศาสตร์
- ความปลอดภัย
- เห็น
- วุฒิสภา
- กันยายน
- ข้อบกพร่อง
- แสดงให้เห็นว่า
- ลายเซ็น
- So
- ซอฟต์แวร์
- ทางออก
- โซลูชัน
- บาง
- บางคน
- บางสิ่งบางอย่าง
- แหล่ง
- พิเศษ
- ซอฟต์แวร์พิเศษ
- กระจาย
- สหรัฐอเมริกา
- ยังคง
- ศึกษา
- อย่างเช่น
- ระบบ
- ต่อสู้
- การแก้ปัญหา
- เอา
- การ
- เทคโนโลยี
- tech บริษัท
- เทคโนโลยี
- เทคโนโลยี
- การทดสอบ
- ข้อความ
- ที่
- พื้นที่
- ที่มา
- ของพวกเขา
- พวกเขา
- ที่นั่น
- พวกเขา
- คิด
- คิดว่า
- ที่สาม
- นี้
- ในปีนี้
- ตลอด
- ติ๊กต๊อก
- เวลา
- ไปยัง
- บอก
- เกินไป
- เครื่องมือ
- ด้านบน
- โดยสิ้นเชิง
- ลู่
- triage
- ชนิด
- ชนิด
- มหาวิทยาลัย
- มหาวิทยาลัยแห่งแคลิฟอร์เนีย
- มหาวิทยาลัยแมริแลนด์
- us
- วุฒิสภาสหรัฐอเมริกา
- ใช้
- มือสอง
- ผู้ใช้
- การใช้
- ตรวจสอบ
- วิดีโอ
- มองเห็นได้
- คือ
- ลายน้ำ
- ลายน้ำ
- ลายน้ำ
- ทาง..
- วิธี
- อะไร
- เมื่อ
- ว่า
- ที่
- จะ
- กับ
- ปี
- ยัง
- เธอ
- ลมทะเล