Thông tin sai lệch về AI có thể gây ảnh hưởng đến cuộc bầu cử năm 2024—Đây là cách OpenAI lên kế hoạch chống lại nó - Giải mã

Được xuất bản lại bởi Plato

Người theo dõi: 0

Với mối đe dọa của trí tuệ nhân tạo đối với nền dân chủ đang là mối quan tâm hàng đầu của các nhà hoạch định chính sách và cử tri trên toàn thế giới, OpenAI đã đưa ra kế hoạch hôm thứ Hai nhằm giúp đảm bảo tính minh bạch về nội dung do AI tạo ra và cải thiện thông tin bỏ phiếu đáng tin cậy trước cuộc bầu cử năm 2024.

Sau khi ra mắt GPT-4 vào tháng XNUMX, trí tuệ nhân tạo và khả năng sử dụng sai mục đích của nó, bao gồm cả các tin giả sâu do AI tạo ra, đã trở thành tâm điểm của cuộc thảo luận xung quanh sự trỗi dậy nhanh chóng của AI vào năm 2023. Vào năm 2024, chúng ta có thể thấy những hậu quả nghiêm trọng từ những thông tin sai lệch do AI điều khiển như vậy trong các cuộc bầu cử nổi bật, bao gồm cả cuộc đua tổng thống Hoa Kỳ.

OpenAI cho biết: “Khi chúng tôi chuẩn bị cho cuộc bầu cử vào năm 2024 trên khắp các nền dân chủ lớn nhất thế giới, cách tiếp cận của chúng tôi là tiếp tục công việc đảm bảo an toàn cho nền tảng của mình bằng cách nâng cao thông tin bỏ phiếu chính xác, thực thi các chính sách được đo lường và cải thiện tính minh bạch”. blog đăng bài.

OpenAI nói thêm rằng họ đang “tập hợp chuyên môn từ các hệ thống an toàn, tình báo về mối đe dọa, pháp lý, kỹ thuật và chính sách của chúng tôi để nhanh chóng điều tra và giải quyết các hành vi lạm dụng tiềm ẩn”.

Ảnh tóm tắt về cách chúng tôi chuẩn bị cho cuộc bầu cử toàn cầu vào năm 2024:

• Làm việc để ngăn chặn hành vi lạm dụng, bao gồm cả các hành vi giả mạo sâu gây hiểu lầm
• Cung cấp tính minh bạch về nội dung do AI tạo ra
• Cải thiện khả năng tiếp cận thông tin bỏ phiếu có thẩm quyềnhttps://t.co/qsysYy5l0L

- OpenAI (@OpenAI) 15 Tháng một, 2024

Vào tháng 8, Ủy ban bầu cử liên bang Hoa Kỳ cho biết họ sẽ tiếp tục xem xét đơn yêu cầu cấm quảng cáo chiến dịch do AI tạo ra, với Ủy viên FEC Allen Dickerson cho biết, “Có những lo ngại nghiêm trọng về Tu chính án thứ nhất ẩn sau nỗ lực này”.

Đối với khách hàng Hoa Kỳ của ChatGPT, OpenAI cho biết họ sẽ hướng người dùng đến trang web phi đảng phái canIVote.org khi được hỏi “một số câu hỏi nhất định liên quan đến thủ tục bầu cử.” Công ty cho biết việc thực hiện những thay đổi này sẽ thông báo cách tiếp cận của họ trên toàn cầu.

“Chúng tôi mong muốn tiếp tục hợp tác và học hỏi từ các đối tác để dự đoán và ngăn chặn khả năng lạm dụng các công cụ của chúng tôi trước cuộc bầu cử toàn cầu năm nay,” nó nói thêm.

Trong ChatGPT, OpenAI cho biết nó ngăn cản các nhà phát triển tạo ra các chatbot giả vờ là người thật hoặc các tổ chức như quan chức chính phủ và văn phòng. OpenAI cho biết, cũng không được phép là những ứng dụng nhằm mục đích ngăn cản mọi người bỏ phiếu, bao gồm cả việc không khuyến khích bỏ phiếu hoặc xuyên tạc ai đủ điều kiện bỏ phiếu.

Các tác phẩm giả mạo sâu do AI tạo ra, hình ảnh, video và âm thanh giả được tạo bằng AI tổng hợp đã lan truyền vào năm ngoái, trong đó có một số hình ảnh Tổng thống Hoa Kỳ. Joe Biden, cựu chủ tịch Donald Trump, Và thậm chí Đức Giáo Hoàng Francis trở thành tâm điểm của những hình ảnh được chia sẻ trên mạng xã hội.

Để ngăn chặn việc sử dụng trình tạo hình ảnh Dall-E 3 trong các chiến dịch deepfake, OpenAI cho biết họ sẽ triển khai nội dung của Liên minh xác thực và chứng minh nội dung Credentials thêm dấu hoặc “biểu tượng” vào hình ảnh do AI tạo ra.

OpenAI cho biết: “Chúng tôi cũng đang thử nghiệm bộ phân loại xuất xứ, một công cụ mới để phát hiện hình ảnh do Dall-E tạo ra”. “Thử nghiệm nội bộ của chúng tôi đã cho thấy những kết quả ban đầu đầy hứa hẹn, ngay cả khi hình ảnh đã phải chịu những kiểu sửa đổi thông thường.”

Tháng trước, Giáo hoàng Francis gọi là kêu gọi các nhà lãnh đạo toàn cầu thông qua một hiệp ước quốc tế có tính ràng buộc để quản lý AI.

“Phẩm giá vốn có của mỗi con người và tình huynh đệ gắn kết chúng ta với tư cách là thành viên của một gia đình nhân loại phải củng cố sự phát triển của các công nghệ mới và đóng vai trò là tiêu chí không thể chối cãi để đánh giá chúng trước khi chúng được sử dụng, để tiến bộ kỹ thuật số có thể diễn ra một cách thích hợp.” tôn trọng công lý và đóng góp cho sự nghiệp hòa bình”, Đức Phanxicô nói.

Để hạn chế thông tin sai lệch, OpenAI cho biết ChatGPT sẽ bắt đầu cung cấp báo cáo tin tức theo thời gian thực trên toàn cầu, bao gồm các trích dẫn và liên kết.

Công ty cho biết: “Sự minh bạch về nguồn gốc thông tin và sự cân bằng trong các nguồn tin tức có thể giúp cử tri đánh giá thông tin tốt hơn và tự quyết định những gì họ có thể tin tưởng”.

Mùa hè năm ngoái, OpenAI đã quyên góp 5 triệu USD cho Dự án báo chí Mỹ. Tuần trước, OpenAI đã ký một thỏa thuận với The Associated Press để cung cấp cho nhà phát triển AI quyền truy cập vào kho lưu trữ các bài báo của hãng tin tức toàn cầu.

Nhận xét của OpenAI về việc ghi công trong báo cáo tin tức được đưa ra khi công ty phải đối mặt với một số vụ kiện về bản quyền, bao gồm cả từ Bán Chạy Nhất của Báo New York Times. Vào tháng XNUMX, Times kiện OpenAI và Microsoft, nhà đầu tư lớn nhất của OpenAI, cáo buộc rằng hàng triệu bài viết của họ đã được sử dụng để đào tạo ChatGPT mà không được phép.

“OpenAI và Microsoft đã xây dựng một doanh nghiệp trị giá hàng chục tỷ đô la bằng cách lấy các tác phẩm tổng hợp của nhân loại mà không được phép,” vụ kiện cho biết, “Khi đào tạo các mô hình của họ, Bị cáo đã sao chép tài liệu có bản quyền để khai thác chính xác những gì Đạo luật Bản quyền được thiết kế. để bảo vệ: các yếu tố thể hiện có thể được bảo vệ bên trong chúng, như văn phong, lựa chọn từ ngữ, cách sắp xếp và trình bày các sự kiện.”

OpenAI đã gọi Bán Chạy Nhất của Báo New York Times’ vụ kiện “không có cơ sở”, cáo buộc rằng nhà xuất bản đã thao túng lời nhắc của mình để khiến chatbot tạo ra các phản hồi như Times' bài viết.

Sửa bởi Andrew Hayward