Twitch, 트랜스포빅 농담 제작을 위한 AI 생성 Seinfeld 쇼 금지

플라톤에 의해 재발행

팔로워 : 0

Video 생성 AI를 사용하여 개발된 시트콤인 Seinfeld 스푸핑 Nothing, Forever는 캐릭터 중 한 명이 실수로 트랜스혐오적 욕설을 뱉은 후 Twitch에서 일시적으로 금지되었습니다.

기괴한 쇼 만든 헤드 라인 지난 주에 AI를 사용하여 끝없는 Seinfeld 에피소드의 비주얼과 대본을 개선했습니다. 예술을 모방한 코미디 속, 시트콤 30 Rock 예측 15년 전에 이런 일이 있었다.

상징적인 코미디 시리즈의 캐릭터 Jerry, George, Elaine 및 Kramer를 모델로 한 캐릭터는 OpenAI의 GPT-3 언어 모델을 사용하여 완전히 구성된 대화를 합니다. 텍스트는 텍스트 음성 변환 알고리즘을 사용하여 오디오로 번역되며 배경과 장면도 AI로 생성됩니다. Nothing, Forever는 Twitch 24/7에서 스트리밍되었으며 작년 XNUMX월에 방송을 시작한 이후 많은 팔로워를 확보했습니다.

그러나 채널 쇼를 주최하는 것은 월요일에 중단되었습니다. 위반 Twitch의 콘텐츠 정책. Mismatch Media의 공동 창립자이자 Nothing, Forever의 제작자 중 한 명인 Skyler Hartle은 다음과 같이 말했습니다. 등록 금지령은 주인공 래리 파인버그(Larry Feinberg)가 트랜스젠더가 “사회 구조를 망치고 있다”, 트랜스젠더가 되는 것은 정신 질환, “모든 자유주의자는 비밀리에 게이”라고 공격적인 발언을 했기 때문에 내려졌다.

아래에서 나쁜 스탠드 업 장면을 볼 수 있습니다.

YouTube 동영상

Hartle은 제작자가 OpenAI의 GPT-3 모델 Davinci 모델 사용에서 Curie라는 이름의 덜 강력하고 저렴한 버전으로 전환했을 때 쇼의 대본이 궤도를 벗어났고 콘텐츠를 조정하는 소프트웨어 기능을 구현하지 않았다고 말했습니다.

“어젯밤 Davinci 연결에 문제가 발생하여 문제가 저절로 해결되는 동안 Curie 모델로 전환해야 했습니다. 부적절한 텍스트가 생성되어 즉시 종료되었습니다. 우리는 이 문제를 더 자세히 조사한 결과 OpenAI의 콘텐츠 조정 도구를 올바르게 활용하고 있지 않다는 사실을 발견했습니다.”라고 그는 말했습니다.

Hartle은 금지 조치가 일시적이며 14일 동안 지속되어야 한다고 확인했습니다. Mismatch Media는 현재 OpenAI의 콘텐츠 조정 도구를 배포하기 위해 노력하고 있으며 모델의 출력을 추적하기 위한 보조 시스템도 고려하고 있습니다.

“우리가 생성한 텍스트는 실수였으며 매우 당혹스럽고 생성된 콘텐츠는 직원의 가치나 의견을 전혀 반영하지 않습니다. 우리는 이런 일이 일어난 것을 매우 유감스럽게 생각하며 모든 적절한 안전 장치를 갖추고 곧 방송에 복귀하기를 희망합니다.”라고 그는 말했습니다.

GPT-3와 같은 대규모 언어 모델은 인터넷에서 스크랩한 텍스트로 학습되며 부적절하고 공격적인 언어를 생성할 수 있습니다. 콘텐츠 필터는 최악의 텍스트를 최소화할 수 있지만 스니펫은 보호 장치가 있는 경우에도 여전히 몰래 침투합니다.

Twitch 대변인이 보냈습니다. 등록 증오 행위를 다루는 회사의 커뮤니티 가이드라인은 다음과 같이 말했습니다.

"개인 정보 보호를 위해 특정 위반 사항에 대해서는 언급하지 않지만 채널이 커뮤니티 가이드라인이나 서비스 약관을 위반했다는 증거가 있으면 적절한 조치를 취합니다." ®