X săn lùng người kiểm duyệt nội dung sau sự hỗn loạn của Taylor Swift

X săn lùng người kiểm duyệt nội dung sau sự hỗn loạn của Taylor Swift

Dấu thời gian: ngày 31 tháng 2024 năm 10 18:XNUMX sáng
Nút nguồn: 3090434

X là người kiểm duyệt nội dung săn lùng đầu người để giải quyết vấn đề khai thác tình dục trẻ em và nội dung tục tĩu khác sau khi những hình ảnh được xếp hạng X do AI tạo ra của Taylor Swift lan truyền trên nền tảng này.

Công ty truyền thông xã hội sẽ thuê 100 nhân viên toàn thời gian để giải quyết sự gia tăng của nội dung deepfake hiện đang phổ biến không chỉ trên X mà còn trên các nền tảng truyền thông xã hội.

Trung tâm tin cậy và an toàn

Với số lượng nhân viên bổ sung, doanh nghiệp thuộc sở hữu của Elon Musk hiện cũng đang xem xét phát triển một “trung tâm an toàn và tin cậy” ở Austin, Texas. Tại đây, các đại lý sẽ có trách nhiệm rà soát nội dung phù hợp với quy định nội quy an toàn của công ty.

Diễn biến này cũng xảy ra khi các nền tảng truyền thông xã hội hiện đang bị những kẻ xấu sử dụng để thực hiện bạo lực, phân biệt chủng tộc, lừa đảo và bóc lột tình dục trẻ em.

“X không có lĩnh vực kinh doanh tập trung vào trẻ em nhưng điều quan trọng là chúng tôi phải thực hiện những khoản đầu tư này để ngăn chặn những kẻ phạm tội sử dụng nền tảng của chúng tôi cho bất kỳ hoạt động phân phối hoặc tương tác nào với nội dung CSE,” nói Joe Benarroch, người đứng đầu hoạt động kinh doanh tại X.

Nền tảng này đã bị chỉ trích sau sự phổ biến của nội dung chống Do Thái và tân Quốc xã. Điều này đã dẫn đến việc nhiều nhà quảng cáo phổ biến nền tảng này.

Trong 2022, Xạ hương đã mua lại nền tảng truyền thông xã hội — sau đó là Twitter — với giá 44 tỷ USD để cho phép tự do ngôn luận trên nền tảng này. Điều này diễn ra không mấy suôn sẻ, vì tỷ phú công nghệ này đã bị chỉ trích sau khi cắt giảm “số lượng nhân viên khỏi các hoạt động an toàn và tin cậy của công ty”.

Ngoài ra đọc: Ngành công nghệ bị cắt giảm hàng loạt việc làm khi các công ty thay thế công nhân bằng AI

Biện pháp tạm thời

Trong những tuần gần đây, nền tảng này tràn ngập các hình ảnh rõ ràng do AI tạo ra về Taylor Swift, khiến đông đảo người hâm mộ của cô phản đối điều này bằng chiến dịch của riêng họ với những hình ảnh tích cực hơn về nữ ca sĩ. Người hâm mộ đã chạy theo hashtag #ProtectTaylorSwift.

Đối với X, nền tảng đã chặn các tìm kiếm tiếp theo về nhạc sĩ. Theo New York Post, những người dùng cố gắng tìm kiếm tên cô ấy vào thứ Hai đã nhận được lôi thông báo yêu cầu họ thử lại, đồng thời thêm vào, "Đừng lo lắng—đó không phải lỗi của bạn."

Tuy nhiên, các bài đăng có tên của cô ấy lại xuất hiện bất cứ khi nào người dùng thêm dấu ngoặc kép xung quanh tên của cô ấy, và một số chuyên gia cho rằng cách tiếp cận xử lý vấn đề của X còn nhiều điều chưa được mong đợi.

Benarroch cho biết trong một tuyên bố: “Đây là một hành động tạm thời và được thực hiện hết sức thận trọng vì chúng tôi ưu tiên sự an toàn trong vấn đề này”.

Tuy nhiên, một số người hâm mộ của Taylor Swift đã báo cáo các tài khoản chia sẻ những hình ảnh deepfake.

Truy tìm các vấn đề

Với việc trí tuệ nhân tạo AI tiếp tục thu hút được sự chú ý trên toàn cầu, hiện nay có nhiều công cụ phức tạp có sẵn để phát tán nội dung độc hại. Với sự cố của Taylor Swift, Reality Defender, một nhóm phát hiện deepfake, đã theo dõi nhiều tài liệu khiêu dâm mô tả ngôi sao nhạc pop, đặc biệt là trên X, trong khi những tài liệu khác trên Facebook và các nền tảng truyền thông xã hội khác.

Theo Ben Decker của nhóm tình báo mối đe dọa Memetica, những hình ảnh của Taylor Swift lần đầu tiên đến từ một chiến dịch có tên Lewd DALL-E, chuyên về các hình ảnh khiêu dâm do AI tạo ra về những phụ nữ nổi tiếng.

Decker nói: “Đó là một phần của mối quan hệ đối nghịch lâu dài giữa những kẻ lừa đảo và nền tảng.

“Miễn là các nền tảng còn tồn tại, những kẻ lừa đảo sẽ cố gắng phá vỡ chúng. Và chừng nào còn tồn tại những kẻ lừa đảo thì các nền tảng sẽ bị gián đoạn. Vì vậy, câu hỏi thực sự là, Điều này sẽ xảy ra bao nhiêu lần nữa trước khi có bất kỳ thay đổi nghiêm trọng nào?”

Sản phẩm Nhà Trắng vào thứ Sáu đã cân nhắc về vấn đề này, gọi những hình ảnh giả mạo là “đáng báo động” và kêu gọi các nền tảng truyền thông xã hội hãy đảm nhận trách nhiệm để ngăn chặn sự lan truyền của thông tin sai lệch.

Dấu thời gian:

Thêm từ MetaNews