Nội dung hình chìm mờ vẫn chưa đủ để phân biệt giữa nội dung thực và nội dung do AI tạo ra, vì tội phạm mạng cũng có thể bỏ qua các tính năng bảo mật.
Điều này xảy ra khi việc áp dụng các công nghệ AI ngày càng tăng, đặc biệt là AI tổng hợp, tạo mảnh đất màu mỡ cho những cá nhân vô đạo đức sử dụng nó để truyền bá thông tin sai lệch, thù hận và các dạng nội dung độc hại khác.
Và hình mờ đã nổi lên như một trong những giải pháp quan trọng để phân biệt giữa nội dung do AI tạo ra và nội dung đời thực. Tuy nhiên nó cũng có những nhược điểm.
Ngoài ra đọc: Audio2Photoreal của Meta hiện cho phép hình đại diện quang học được hỗ trợ bằng giọng nói
Sự thao túng
Các chuyên gia cho rằng sự phát triển của AI cũng đi kèm với việc những kẻ xấu lợi dụng công nghệ để truyền bá thông tin sai lệch, ác ý và gây hoang mang bằng tin giả.
Mặc dù hình mờ đã được xác định để cho phép người dùng phân biệt giữa nội dung do AI tạo ra và nội dung thực do con người tạo ra, nhưng điều đó cũng dễ bị thao túng.
Theo Đăng ký, một số chữ ký hiển thị, chẳng hạn như mô hình chuyển văn bản thành hình ảnh của Dall-E, là một trong những mô hình dễ dàng vượt qua công cụ phát hiện AI nhất. Bài báo nói thêm rằng những cá nhân vô đạo đức có thể cắt bỏ hình mờ hoặc sao chép hình ảnh theo những cách mà không cần tải xuống trực tiếp.
Giáo sư khoa học máy tính tại Đại học Buffalo ở Mỹ, Siwei Lyu, cho biết cũng có những chuyên gia liên quan đến việc phá vỡ các rào cản.
Lyu cho biết: “Công nghệ hình mờ đã được sử dụng một cách dễ dàng vì không quá khó để một người có kiến thức về hình mờ và AI có thể phá vỡ nó và loại bỏ hình mờ hoặc chế tạo một hình mờ”.
Chuyên gia AI và giám đốc điều hành của một tổ chức phi lợi nhuận giúp mọi người sử dụng công nghệ để thúc đẩy nhân quyền, Sam Gregory, Nghĩ hình mờ vẫn có thể bị thao túng bởi những kẻ xấu.
Đối với anh ấy, đó là “một công cụ phân loại để giảm thiểu tác hại”, đồng thời nói thêm rằng “đó không phải là giải pháp 100%”.
Các loại hình mờ
Tuy nhiên, mọi chuyện không phải lúc nào cũng màu hồng đối với những diễn viên xấu, vô đạo đức. Một số hình mờ vô hình, như của Google DeepMind ID tổng hợp, rất khó loại bỏ vì chúng “được nhúng trực tiếp vào đầu ra hệ thống của Imagen”.
Loại hình mờ này không thể nhìn thấy bằng mắt thường nhưng có thể được phát hiện bằng phần mềm hoặc thuật toán đặc biệt.
Tuy nhiên, Lyu vẫn cho rằng những kẻ vô lại có thể có một số “bí quyết kỹ thuật để loại bỏ điều đó”.
“Tôi nghĩ hình mờ chủ yếu nhằm vào việc mọi người không biết đến sự tồn tại của chúng. Vì vậy, nếu họ biết mình có thể, họ sẽ tìm cách phá vỡ nó”, Lyu nói.
Một loại hình mờ khác là hình mờ hiển thị, được các công ty như Google, Getty và OpenAI thêm vào video, văn bản hoặc hình ảnh để xác minh tính hợp lệ của nội dung.
Loại hình mờ thứ ba là siêu dữ liệu mật mã. Phần này hiển thị thời điểm nội dung được tạo và cách nó được chỉnh sửa.
Hình mờ “Rửa sạch”
Một nghiên cứu của Đại học Maryland do Soheil Feizi, giáo sư khoa học máy tính dẫn đầu, cho biết hình mờ AI không thể đánh lừa được. Họ đã thử nghiệm tất cả các loại hình mờ và “phá vỡ tất cả”.
“Tại thời điểm này, chúng tôi không có bất kỳ hình mờ đáng tin cậy nào,” ông nói.
Giáo sư cũng giải thích rằng những kẻ xấu có thể dễ dàng thao túng hình mờ theo cách mà ông mô tả là “xóa sạch” hình mờ.
Một nghiên cứu khác được đồng tác giả bởi các nhà nghiên cứu tại Đại học California, Santa Barbara và Carnegie Mellon cũng có kết quả tương tự.
“Tất cả các hình mờ có thể nhìn thấy đều không đáng tin cậy,” đọc giấy.
Vấn đề nhạy cảm về thời gian
Một nhân viên Thượng viện Hoa Kỳ tham gia soạn thảo luật liên quan đến AI đã nói với Fedscope về sự cần thiết phải “theo kịp những kẻ xấu”, đồng thời cho biết thêm rằng Thượng viện hiện đang trong thời kỳ “giáo dục và xác định vấn đề”.
“Giống như vận động viên Olympic—bây giờ tôi biết bạn đang tìm loại thuốc này, tôi sẽ dùng loại thuốc khác.”
Với nhiều nước đi bầu cử Năm nay, không thể bỏ qua nhu cầu về các biện pháp nhằm giảm thiểu tình trạng giả mạo sâu và thông tin sai lệch. Tháng 9 năm ngoái, Lãnh đạo đa số Thượng viện Chuck Schumer cho biết việc giải quyết tính xác thực của nội dung là một vấn đề nhạy cảm về thời gian vì cuộc bầu cử sắp diễn ra ở nhiều quốc gia.
“Có vấn đề là thực sự có những tác phẩm deepfake, nơi mà mọi người thực sự tin rằng… rằng một ứng viên đang nói điều gì đó khi họ hoàn toàn là sự sáng tạo của AI,” anh ấy nói sau lần đầu tiên của mình. Cái nhìn sâu sắc về AI đóng cửa diễn đàn.
Các hãng công nghệ chấp nhận thử thách
Trong khi đó, Liên minh Xuất xứ và Xác thực Nội dung (C2PA), sản phẩm trí tuệ của các công ty truyền thông và công nghệ, hiện đã được thành lập. Điều này xác định nguồn của hình ảnh, cho dù đó là máy ảnh hay chương trình AI được sử dụng để tạo ra hình ảnh đó.
Nó cũng cung cấp thông tin chi tiết về thời gian, địa điểm và phương pháp tạo hình ảnh, cho phép mọi người xác minh nguồn gốc của nó. TikTok được cho là một trong những công ty công nghệ hàng đầu đi đầu về hình mờ.
“TikTok hiển thị cho bạn bản âm thanh đã được sử dụng; nó cho bạn thấy đường khâu đã được thực hiện; nó cho bạn thấy các hiệu ứng AI được sử dụng,” Gregory nói.
lớn khác công ty công nghệ cao như Alphabet, Amazon, Meta và OpenAI đã cam kết vào năm ngoái sẽ phát triển công nghệ hình mờ để giải quyết thông tin sai lệch.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- : có
- :là
- :không phải
- :Ở đâu
- 8
- 9
- a
- Có khả năng
- diễn viên
- thực sự
- thêm
- thêm
- Nhận con nuôi
- Lợi thế
- Sau
- AI
- thuật toán
- Tất cả
- Cho phép
- cho phép
- Bảng chữ cái
- Ngoài ra
- đàn bà gan dạ
- trong số
- an
- và
- Một
- bất kì
- LÀ
- xung quanh
- bài viết
- AS
- At
- âm thanh
- tính xác thực
- Bad
- rào cản
- BE
- bởi vì
- được
- giữa
- lớn
- Nghỉ giải lao
- Phá vỡ
- Trâu
- nhưng
- by
- bỏ qua
- california
- máy ảnh
- CAN
- ứng cử viên
- không thể
- Carnegie Mellon
- Nguyên nhân
- tặc lưởi
- liên minh
- đến
- Các công ty
- máy tính
- Khoa học Máy tính
- nội dung
- Corner
- nước
- tạo
- tạo ra
- Tạo
- tạo
- cây trồng
- mật mã
- Hiện nay
- tội phạm mạng
- dall's
- deepfakes
- xác định
- mô tả
- chi tiết
- phát hiện
- Phát hiện
- phát triển
- khó khăn
- trực tiếp
- trực tiếp
- Giám đốc
- làm mất thông tin
- phân biệt
- dont
- thuốc
- dễ nhất
- dễ dàng
- hiệu ứng
- Bầu cử
- xuất hiện
- cho phép
- đủ
- Kỷ nguyên
- đặc biệt
- điều hành
- Giám đốc điều hành
- chuyên gia
- các chuyên gia
- Giải thích
- mắt
- giả mạo
- tin tức giả mạo
- Tính năng
- Tìm kiếm
- phát hiện
- hãng
- Tên
- Trong
- các hình thức
- Diễn đàn
- xa hơn
- thế hệ
- Trí tuệ nhân tạo
- được
- được
- cho
- đi
- Mặt đất
- Phát triển
- Tăng trưởng
- có
- Cứng
- làm hại
- ghét
- Có
- có
- he
- giúp
- anh ta
- của mình
- Độ đáng tin của
- Tuy nhiên
- HTTPS
- Nhân loại
- nhân quyền
- i
- TÔI SẼ
- xác định
- xác định
- if
- hình ảnh
- hình ảnh
- in
- các cá nhân
- trong
- vô hình
- tham gia
- vấn đề
- IT
- ITS
- chỉ
- Key
- Loại
- Biết
- kiến thức
- Họ
- Năm ngoái
- dẫn
- lãnh đạo
- Led
- Pháp luật
- Lượt thích
- địa điểm thư viện nào
- tìm kiếm
- thực hiện
- Đa số
- độc hại
- thao tác
- Thao tác
- nhiều
- Maryland
- trong khi đó
- các biện pháp
- Phương tiện truyền thông
- dưa hấu
- Siêu dữ liệu
- Siêu dữ liệu
- phương pháp
- giảm thiểu
- Thông tin sai
- kiểu mẫu
- chủ yếu
- Cần
- tin tức
- phi lợi nhuận
- Tổ chức phi lợi nhuận
- tại
- of
- thế vận hội
- on
- ONE
- OpenAI
- or
- cơ quan
- Nền tảng khác
- ra
- kết quả đầu ra
- Hòa bình
- Panic
- Giấy
- người
- của người dân
- Quang học
- Nơi
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- Play
- Điểm
- có thể
- Giáo sư
- chương trình
- thúc đẩy
- nguồn gốc
- Đọc
- thực
- có thật không
- giảm
- đáng tin cậy
- tẩy
- báo cáo
- nhà nghiên cứu
- Thoát khỏi
- quyền
- Rosy
- Nói
- muối
- Sam
- tương tự
- ông già Noel
- Santa Barbara
- nói
- nói
- Khoa học
- an ninh
- đã xem
- Thượng nghị viện
- Tháng Chín
- thiếu sót
- Chương trình
- Chữ ký
- So
- Phần mềm
- giải pháp
- Giải pháp
- một số
- Một người nào đó
- một cái gì đó
- nguồn
- đặc biệt
- phần mềm đặc biệt
- lan tràn
- Bang
- Vẫn còn
- Học tập
- như vậy
- hệ thống
- giải quyết
- giải quyết
- Hãy
- dùng
- công nghệ cao
- công ty công nghệ cao
- Công nghệ
- Công nghệ
- thử nghiệm
- văn bản
- việc này
- Sản phẩm
- Nguồn
- cung cấp their dịch
- Them
- Đó
- họ
- nghĩ
- nghĩ
- Thứ ba
- điều này
- năm nay
- Thông qua
- tiktok
- thời gian
- đến
- nói với
- quá
- công cụ
- hàng đầu
- TỔNG CỘNG
- theo dõi
- triage
- kiểu
- loại
- trường đại học
- Đại học California
- Đại học Maryland
- us
- Thượng viện Hoa Kỳ
- sử dụng
- đã sử dụng
- Người sử dụng
- sử dụng
- xác minh
- Video
- có thể nhìn thấy
- là
- watermark
- Làm dấu
- watermarks
- Đường..
- cách
- Điều gì
- khi nào
- liệu
- cái nào
- sẽ
- với
- năm
- nhưng
- bạn
- zephyrnet