nghiên cứu Việc giải quyết thông tin sai lệch về AI là quan trọng hơn bao giờ hết đối với các công ty công nghệ trong năm nay khi họ chuẩn bị cho cuộc bầu cử tổng thống Mỹ sắp tới.
Tuy nhiên, việc chống lại thông tin sai lệch và tin giả sâu sắc chỉ trở nên khó khăn hơn do các công cụ tạo nội dung tổng hợp có thể truy cập rộng rãi hơn bao giờ hết.
ChatGPT của OpenAI ngày càng phát triển mạnh mẽ kể từ khi được phát hành lần đầu tiên vào tháng 2022 năm XNUMX. Năm ngoái, nó nâng cấp hệ thống GPT-4 của nó để tạo ra âm thanh và hình ảnh trên văn bản. Giờ đây, công ty khởi nghiệp đã tung ra Cửa hàngGPT, một nền tảng lưu trữ các bot dựa trên ChatGPT được xây dựng tùy chỉnh có thể áp dụng các tính cách cụ thể hoặc thực hiện các nhiệm vụ cụ thể.
'Chúng tôi vẫn đang nỗ lực để hiểu mức độ hiệu quả của các công cụ của chúng tôi đối với việc thuyết phục được cá nhân hóa'
Hôm thứ Hai, OpenAI cho biết việc xây dựng GPT để vận động chính trị và vận động hành lang đều bị cấm và việc sử dụng các mô hình của nó để hỗ trợ bất kỳ chatbot nào mạo danh người thật, doanh nghiệp hoặc chính phủ là hành vi lạm dụng công nghệ của nó. Bất kỳ ứng dụng nào can thiệp vào các quy trình dân chủ, chẳng hạn như bỏ phiếu, cũng bị cấm.
“Chúng tôi kỳ vọng và hướng đến việc mọi người sử dụng các công cụ của chúng tôi một cách an toàn và có trách nhiệm, và các cuộc bầu cử cũng không ngoại lệ,” nó nói rằng. “Chúng tôi nỗ lực dự đoán và ngăn chặn các hành vi lạm dụng có liên quan—chẳng hạn như các hoạt động 'giả mạo sâu' gây hiểu lầm, các hoạt động gây ảnh hưởng trên quy mô lớn hoặc các chatbot mạo danh ứng viên."
Làm rõ các quy định là tốt nhưng việc thực thi chúng lại là một vấn đề khác. Rất khó để kiểm soát GPT Store và OpenAI đang dựa vào việc người dùng báo cáo các ứng dụng đi ngược lại chính sách của họ. Mọi người đã phá vỡ các quy tắc của mình về việc không tạo GPT “dành riêng cho việc thúc đẩy tình bạn lãng mạn hoặc thực hiện các hoạt động được quản lý”. Nền tảng này có rất nhiều “bạn gái” AI và cũng có nhiều chatbot chính trị.
Ví dụ: một số được tạo ra để bắt chước các chính trị gia như Donald Trump, mặc dù chúng không phải là sự mạo danh thuyết phục, trong khi những người khác ủng hộ một số hệ tư tưởng chính trị nhất định. Ví dụ: trong cuộc trò chuyện với “The Real Trump Bot”, họ cho biết họ phản đối việc bỏ phiếu qua thư. “Ồ, thậm chí đừng bắt tôi phải bắt đầu bỏ phiếu qua thư. Cứ như thể họ đang chuốc lấy rắc rối vậy. Nó rất dễ bị lạm dụng, thật không thể tin được.”
Điều đó có đi ngược lại chính sách của OpenAI không? Nó có thể ngăn cản ai đó gửi phiếu bầu của họ qua thư không? OpenAI thừa nhận: “Chúng tôi vẫn đang nỗ lực để hiểu mức độ hiệu quả của các công cụ của chúng tôi đối với việc thuyết phục được cá nhân hóa”.
OpenAI cũng đã thực hiện các biện pháp phòng ngừa khác. Các biện pháp bảo vệ an toàn được áp dụng cho mô hình chuyển văn bản thành hình ảnh DALL-E ngăn người dùng tạo ra hình ảnh của các chính trị gia để thử và ngăn chặn các hành vi giả mạo sâu. Tuy nhiên, các rào chắn cho phép chỉnh sửa hình ảnh, nghĩa là mọi người vẫn có thể chỉnh sửa ảnh của ứng viên mà không cần sự trợ giúp của AI.
Ngoài việc cấm hoặc chặn nội dung, các chiến lược khác mà các công ty đang thực hiện để chống lại thông tin sai lệch bao gồm tung ra hình mờ kỹ thuật số và yêu cầu người dùng minh bạch về hình ảnh hoặc video do AI tạo ra.
Microsoft là thành viên của Liên minh Chứng minh và Xác thực Nội dung (C2PA) và đang hỗ trợ sáng kiến Chứng chỉ Nội dung. Nó đang triển khai một tính năng nhúng hình mờ cho nội dung do Bing Image Creator tạo ra, chứa siêu dữ liệu mô tả cách hình ảnh được tạo ra, khi nào và bởi ai, có thể được kiểm tra để chứng minh tính giả mạo của nó. OpenAI đang có kế hoạch làm theo và triển khai CP2Athông tin xác thực kỹ thuật số của cũng vậy. Nhưng tính năng tạo hình mờ và siêu dữ liệu không phải là điều dễ dàng. Tuy nhiên, thông tin về nguồn gốc của hình ảnh chỉ có thể được xem trong các ứng dụng hoặc trang web hỗ trợ định dạng Thông tin xác thực nội dung.
Người dùng có thể loại bỏ thông tin khỏi hình ảnh được tạo bởi các công cụ của Microsoft hoặc OpenAI và mở nó trong một ứng dụng nào đó như Google Chrome chẳng hạn, không hỗ trợ CP2A. Khi đó sẽ không có siêu dữ liệu nào được liên kết với hình ảnh của họ và thay vào đó họ sẽ được tự do phân phối phiên bản đó.
Nền tảng YouTube của Google đã thực hiện một cách tiếp cận khác và thay vào đó yêu cầu người sáng tạo tiết lộ liệu video của họ có chứa cảnh quay do AI tạo ra hay không, mô tả các sự kiện giả mạo hay có những người nói những điều họ chưa nói. Trong khi đó, Siêu dữ liệu và Google đã yêu cầu các nhà quảng cáo khai báo liệu quảng cáo của họ có chứa nội dung tổng hợp hay không, cho dù đó là hình ảnh, video hoặc âm thanh giả mạo.
Các quy tắc chặt chẽ hơn đối với các chính trị gia. Nhiều tiểu bang như California, Texas, Michigan, Washington và Minnesota đã thông qua pháp luật cấm các ứng cử viên chính trị quay phim giả mạo để gây ảnh hưởng đến cử tri. Tuy nhiên, không có luật liên bang. Ủy ban bầu cử liên bang vẫn chưa quyết định liệu chính sách chống “gian lận xuyên tạc các ứng cử viên hoặc đảng phái chính trị khác” có áp dụng cho nội dung do AI tạo ra hay không.
AI hầu như vẫn chưa được kiểm soát và các luật khác nhau áp dụng trên toàn thế giới không bao gồm tất cả các trường hợp thông tin sai lệch về chính trị. Mặc dù các công ty công nghệ đang tăng cường nỗ lực hạn chế người dùng tạo ra thông tin sai lệch về AI, nhưng phương pháp của họ không hoàn hảo và người dùng thường tìm cách lách các biện pháp an toàn của họ. ®
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- : có
- :là
- :không phải
- $ LÊN
- 2022
- a
- Giới thiệu
- lạm dụng
- có thể truy cập
- hoạt động
- thừa nhận
- nhận nuôi
- quảng cáo
- các nhà quảng cáo
- chống lại
- AI
- nhằm mục đích
- Tất cả
- cho phép
- Đã
- Ngoài ra
- Mặc dù
- an
- và
- Một
- dự đoán
- bất kì
- áp dụng
- các ứng dụng
- áp dụng
- phương pháp tiếp cận
- LÀ
- xung quanh
- AS
- yêu cầu
- liên kết
- âm thanh
- tính xác thực
- cấm
- BE
- trở nên
- trước
- Bing
- ngăn chặn
- Bot
- chương trình
- Bị phá vỡ
- Xây dựng
- các doanh nghiệp
- nhưng
- by
- california
- vận động
- CAN
- ứng cử viên
- có khả năng
- mang
- nhất định
- chatbot
- ChatGPT
- cơ rôm
- CO
- liên minh
- chống lại
- hoa hồng
- Các công ty
- chứa
- nội dung
- Conversation
- có thể
- che
- chế tạo
- Tạo
- yaratıcı
- người sáng tạo
- Credentials
- quan trọng
- Custom-xây dựng
- dall's
- quyết định
- dành riêng
- deepfakes
- dân chủ
- miêu tả
- khác nhau
- khó khăn
- kỹ thuật số
- tiết lộ
- làm mất thông tin
- khuyên can
- phân phát
- do
- doesn
- don
- donald
- Donald Trump
- chỉnh sửa
- Hiệu quả
- những nỗ lực
- Bầu cử
- Bầu cử
- thực thi
- Ether (ETH)
- Ngay cả
- sự kiện
- BAO GIỜ
- ví dụ
- mong đợi
- giả mạo
- sai
- Đặc tính
- Liên bang
- luật liên bang
- Tìm kiếm
- Tên
- theo
- Trong
- định dạng
- bồi dưỡng
- Miễn phí
- từ
- tạo ra
- tạo ra
- được
- được
- Go
- tốt
- Google Chrome
- Chính phủ
- mới lớn
- Có
- trú ẩn
- giúp đỡ
- lưu trữ
- Độ đáng tin của
- Tuy nhiên
- HTTPS
- cực kỳ
- hệ tư tưởng
- if
- hình ảnh
- hình ảnh
- thực hiện
- quan trọng
- in
- bao gồm
- lên
- ảnh hưởng
- thông tin
- Sáng kiến
- trường hợp
- thay vì
- isn
- IT
- ITS
- jpg
- nhãn
- Họ
- Năm ngoái
- Luật
- Luật
- Lượt thích
- sự ở phía trước
- thực hiện
- gửi thư
- nhiều
- chất
- me
- có nghĩa là
- Trong khi đó
- các biện pháp
- hội viên
- Siêu dữ liệu
- phương pháp
- Michigan
- microsoft
- Might
- minnesota
- gây hiểu lầm
- kiểu mẫu
- mô hình
- Thứ Hai
- chi tiết
- chủ yếu
- nhiều
- Không
- Tháng mười một
- tại
- of
- thường
- oh
- on
- có thể
- mở
- OpenAI
- Hoạt động
- or
- Nền tảng khác
- Khác
- vfoXNUMXfipXNUMXhfpiXNUMXufhpiXNUMXuf
- ra
- riêng
- các bên tham gia
- thông qua
- người
- hoàn hảo
- biểu diễn
- Cá tính
- Cá nhân
- hình ảnh
- Nơi
- lập kế hoạch
- nền tảng
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- Rất nhiều
- Công an
- Chính sách
- điều luật
- chính trị
- ứng cử viên chính trị
- các đảng chính trị
- Các chính trị gia
- quyền lực
- tổng thống
- bầu cử tổng thống
- ngăn chặn
- Quy trình
- sản xuất
- cấm
- Chứng minh
- nguồn gốc
- dốc
- RE
- thực
- quy định
- phát hành
- có liên quan
- dựa vào
- báo cáo
- có trách nhiệm
- Lăn
- quy tắc
- s
- một cách an toàn
- Sự An Toàn
- Nói
- nói
- đã xem
- kể từ khi
- So
- Một người nào đó
- một cái gì đó
- riêng
- bắt đầu
- khởi động
- Bang
- Vẫn còn
- hàng
- chiến lược
- chặt chẽ hơn
- dải
- như vậy
- Bộ đồ
- hỗ trợ
- Hỗ trợ
- sợi tổng hợp
- hệ thống
- T
- giải quyết
- Lấy
- dùng
- nhiệm vụ
- công nghệ cao
- công ty công nghệ cao
- Công nghệ
- texas
- văn bản
- hơn
- việc này
- Sản phẩm
- thông tin
- thế giới
- cung cấp their dịch
- Them
- sau đó
- Đó
- họ
- điều
- điều này
- năm nay
- Tuy nhiên?
- đến
- quá
- công cụ
- hàng đầu
- minh bạch
- rắc rối
- kèn
- thử
- hiểu
- giải phóng
- sắp tới
- us
- sử dụng
- Người sử dụng
- sử dụng
- khác nhau
- phiên bản
- Video
- Bỏ phiếu
- Cử tri
- Bỏ phiếu
- là
- Washington
- watermark
- Làm dấu
- watermarks
- cách
- we
- trang web
- TỐT
- khi nào
- liệu
- cái nào
- trong khi
- ai
- rộng rãi
- với
- không có
- Công việc
- đang làm việc
- thế giới
- sẽ
- năm
- nhưng
- youtube
- zephyrnet