Twitch cấm chương trình Seinfeld do AI tạo ra để tạo ra những trò đùa siêu phàm

Được xuất bản lại bởi Plato

Người theo dõi: 0

Video Trò giả mạo Seinfeld Không có gì, mãi mãi - một bộ phim sitcom được phát triển bằng cách sử dụng trí tuệ nhân tạo AI - đã tạm thời bị cấm trên Twitch sau khi một trong các nhân vật vô tình phun ra những lời tục tĩu xuyên tạc.

Màn trình diễn kỳ quái tiêu đề làm tuần trước vì đã sử dụng AI để ứng biến hình ảnh và kịch bản cho một tập phim không hồi kết của Seinfeld. Trong nghệ thuật bắt chước hài kịch, sitcom 30 Rock dự đoán một cái gì đó như thế này hơn 15 năm trước.

Các nhân vật, được mô phỏng theo các nhân vật nổi tiếng của loạt phim hài Jerry, George, Elaine và Kramer, thốt ra một đoạn hội thoại hoàn toàn được tạo ra bằng cách sử dụng các mô hình ngôn ngữ GPT-3 của OpenAI. Văn bản được dịch sang âm thanh bằng thuật toán chuyển văn bản thành giọng nói, hình nền và cảnh cũng do AI tạo ra. Không có gì, mãi mãi được phát trực tuyến trên Twitch 24/7 và đã thu hút nhiều người theo dõi kể từ khi bắt đầu phát sóng vào tháng XNUMX năm ngoái.

Tuy nhiên, kênh tổ chức chương trình đã bị gỡ xuống vào thứ Hai vì vi phạm Chính sách nội dung của Twitch. Skyler Hartle, đồng sáng lập Mismatch Media và là một trong những người tạo ra Không có gì, Mãi mãi, nói Đăng ký lệnh cấm được ban hành do nhân vật chính, Larry Feinberg, đưa ra những bình luận xúc phạm nói rằng những người chuyển giới đang "hủy hoại kết cấu của xã hội", chuyển giới là một bệnh tâm thần và rằng "tất cả những người theo chủ nghĩa tự do đều là những người đồng tính bí mật".

Bạn có thể xem cảnh đứng xấu dưới đây.

Youtube video

Hartle cho biết kịch bản của chương trình đã đi chệch hướng khi những người tạo ra nó chuyển từ sử dụng mô hình Davinci mô hình GPT-3 của OpenAI sang một phiên bản kém mạnh mẽ hơn và rẻ hơn có tên Curie, đồng thời không triển khai các tính năng phần mềm để kiểm duyệt nội dung của chương trình.

“Chúng tôi đã gặp sự cố kết nối với Davinci vào đêm qua và phải chuyển sang mô hình Curie trong khi sự cố tự khắc phục. Đây là lúc văn bản không phù hợp được tạo ra và chúng tôi đã tắt nó ngay lập tức. Chúng tôi đã điều tra thêm về vấn đề này và phát hiện ra rằng chúng tôi đã không tận dụng đúng cách các công cụ kiểm duyệt nội dung của OpenAI,” anh ấy nói với chúng tôi.

Hartle xác nhận rằng lệnh cấm là tạm thời và sẽ kéo dài 14 ngày. Mismatch Media hiện đang làm việc để triển khai các công cụ kiểm duyệt nội dung của OpenAI và cũng đang xem xét một hệ thống thứ cấp để theo dõi kết quả đầu ra của mô hình.

“Văn bản chúng tôi tạo ra là một sai lầm, chúng tôi vô cùng xấu hổ và nội dung chung chung được tạo ra không hề phản ánh các giá trị hoặc quan điểm của nhân viên chúng tôi. Chúng tôi rất lấy làm tiếc vì điều này đã xảy ra và hy vọng chương trình sẽ sớm được phát sóng trở lại với tất cả các biện pháp bảo vệ thích hợp được áp dụng,” ông nói.

Các mô hình ngôn ngữ lớn như GPT-3 được đào tạo từ văn bản được lấy từ internet và có thể tạo ra ngôn ngữ xúc phạm, không phù hợp. Bộ lọc nội dung có thể giảm thiểu văn bản xấu nhất, nhưng các đoạn trích vẫn sẽ lọt qua ngay cả khi có các biện pháp bảo vệ.

Người phát ngôn từ Twitch đã gửi Đăng ký nguyên tắc cộng đồng của công ty đối phó với hành vi thù địch và cho biết:

“Chúng tôi không bình luận về các vi phạm cụ thể vì lý do quyền riêng tư, nhưng chúng tôi sẽ có hành động thích hợp khi có bằng chứng cho thấy một kênh đã vi phạm Nguyên tắc cộng đồng hoặc Điều khoản dịch vụ của chúng tôi.” ®