Thất bại của 'Fortnite': Trò chơi sử thi cố gắng loại bỏ hình ảnh do AI tạo ra phân biệt chủng tộc - Giải mã

Được xuất bản lại bởi Plato

Người theo dõi: 0

Sau sự phản đối kịch liệt của người chơi, Epic Games đang xóa các hình ảnh phân biệt chủng tộc do AI tạo ra được người dùng tải lên trò chơi battle royale nổi tiếng Fortnite, theo một báo cáo. báo cáo by Kotaku.

Một trong những tính năng khiến Fortnite trở thành trò chơi trực tuyến hấp dẫn như ngày nay là khả năng người dùng tạo bản đồ của riêng họ và chia sẻ trải nghiệm có thể chơi được với thế giới. Tuy nhiên, lối thoát cho sự sáng tạo này có nghĩa là người dùng có thể tải lên nội dung có vấn đề, đó là những gì đã xảy ra ở đây.

Gần đây, người dùng bắt đầu chú ý đến các bản đồ đảo có những hình ảnh thô thiển do AI tạo ra gây ra định kiến phân biệt chủng tộc. BẰNG Kotaku đã báo cáo, các ví dụ về bản đồ bao gồm những bản đồ có tên như “Chiến tranh khu vực Ả Rập”, “Chiến tranh khu vực Nigeria” và “Chiến tranh khu vực Trung Quốc”.

Các bản đồ có các hình ảnh phân biệt chủng tộc và dường như do AI tạo ra, duy trì các khuôn mẫu, bao gồm cả những người đàn ông Trung Đông cầm bom và những người đàn ông da đen ăn gà rán. Trong khi hầu hết các bản đồ này có số lượng máy chủ nhỏ, một bản đồ, “Jamaica Zonewars,” có hơn 35,000 người chơi hoạt động vào đầu tháng này.

Một bức ảnh phân biệt chủng tộc về một người đàn ông Mexico cầm bánh taco và đội mũ rộng vành được tải lên Fortnite. — Hình ảnh: Tác phẩm nghệ thuật từ một hòn đảo bị cấm từ người dùng “rực lửa” trong Fortnite Creative.

Epic Games cho biết: “Nhiều hòn đảo được đề cập đã bị xóa và những người sáng tạo đã hành động”. Kotaku trong một tuyên bố. “Chúng tôi đã giải quyết hơn 100 hòn đảo vi phạm nội dung sử dụng định dạng hình thu nhỏ tương tự này và sẽ tiếp tục làm như vậy.”

Epic Games nói thêm rằng nội dung phân biệt đối xử không có chỗ trong Fortnite và vi phạm các quy tắc của người tạo đảo của công ty, đồng thời nói thêm rằng những người dùng vi phạm các nguyên tắc này có thể bị cấm tài khoản vĩnh viễn.

Epic Games cho biết: “Nhóm kiểm duyệt con người của chúng tôi xem xét tất cả nội dung trước khi xuất bản và chúng tôi đang tích cực cập nhật các quy tắc dành cho người tạo đảo cũng như chương trình đào tạo kiểm duyệt để giảm thiểu số lượng bản đồ vi phạm đến tay người chơi”. “Chúng tôi khuyến khích người chơi báo cáo bất kỳ hòn đảo nào mà họ thấy có thể vi phạm quy tắc của chúng tôi.”

Trong một tuyên bố cung cấp cho Giải mãGG của Epic Games cho biết tất cả các hòn đảo do người dùng tạo đều được người kiểm duyệt xem xét trước khi xuất bản, nhưng cho biết nhóm chỉ thực hiện nhẹ nhàng.

Một bức ảnh phân biệt chủng tộc về một người đàn ông da đen cầm xô gà rán được tải lên Fortnite. — Hình ảnh: Tác phẩm nghệ thuật từ một hòn đảo bị cấm của người dùng “drzen” trong Fortnite Creative.

Epic Games cho biết: “Chúng tôi yêu cầu nhóm kiểm duyệt của mình thay mặt người sáng tạo có ý định tốt nếu họ không chắc chắn về hành vi vi phạm nội dung để chúng tôi không kiểm duyệt quá mức”. “Đôi khi, điều này có nghĩa là những nội dung không nên xuất bản sẽ được xuất bản và chúng tôi làm việc nhanh chóng để gỡ bỏ mọi nội dung vi phạm và viết tài liệu đào tạo mới cho người kiểm duyệt của chúng tôi. Những người sáng tạo bị phát hiện vi phạm quy tắc dành cho người sáng tạo của chúng tôi sẽ phải đối mặt với nhiều biện pháp thực thi khác nhau, bao gồm cả lệnh cấm xuất bản và kiếm tiền vĩnh viễn.”

Nhà xuất bản nói thêm rằng họ đang nỗ lực cập nhật “các quy tắc của người tạo đảo và chương trình đào tạo kiểm duyệt”.

Tham gia vào trí tuệ nhân tạo cơn sốt, Epic Games Store bắt đầu cho phép trò chơi và nội dung gửi có nghệ thuật AI và các yếu tố khác trong tháng 9. Điều này xảy ra sau khi thị trường game PC đối thủ Steam ban đầu có lập trường chống lại nội dung AI, Nhưng nó đã kể từ khi làm mềm các quy tắc của nó trong bối cảnh số lượng đệ trình như vậy gia tăng.

“Chúng tôi không cấm các trò chơi sử dụng công nghệ mới,” người sáng lập và CEO của Epic Games, Tim Sweeney đã viết trên Twitter vào thời điểm đó, lưu ý rằng Epic Games đã mở cửa tự xuất bản hoàn toàn vào đầu năm đó.

Trong khi các nhà phát triển AI đã đầu tư rất nhiều vào việc loại bỏ các hình ảnh phản cảm khỏi mô hình của họ, thì người dùng đã tìm ra cách để “bẻ khóa” các mô hình bằng cách sử dụng các lời nhắc chuyên dụng. Vào tháng 10, những hình ảnh do AI tạo ra về SpongeBob SquarePants hay máy bay phản lực Kirby của Nintendo bay vào Trung tâm Thương mại Thế giới đã lan truyền rộng rãi.

Sửa bởi Andrew Hayward