X는 Taylor Swift Chaos 이후 콘텐츠 조정자를 찾습니다.

X는 AI가 생성한 Taylor Swift의 X 등급 이미지가 플랫폼에서 입소문을 낸 후 아동 성적 착취 및 기타 노골적인 콘텐츠를 다루기 위해 콘텐츠 조정자를 헤드헌팅하고 있습니다.

소셜 미디어 회사는 현재 X뿐만 아니라 소셜 미디어 플랫폼 전반에 걸쳐 널리 퍼져 있는 딥페이크 콘텐츠의 확산을 막기 위해 100명의 정규 직원을 고용할 예정입니다.

신뢰와 안전 센터

추가 직원과 함께 Elon Musk 소유 기업은 이제 텍사스 오스틴에 "신뢰 및 안전 센터" 개발을 검토하고 있습니다. 여기에서 상담원은 다음에 따라 콘텐츠를 검토할 책임이 있습니다. 회사의 안전 규칙.

또한 소셜 미디어 플랫폼이 악의적인 행위자들에 의해 폭력, 인종차별, 사기, 아동 성적 착취를 자행하는 데 사용되면서도 이러한 발전이 이루어졌습니다.

"X에는 아동에 초점을 맞춘 사업 부문이 없지만 범죄자가 CSE 콘텐츠 배포 또는 참여를 위해 우리 플랫폼을 사용하는 것을 막기 위해 이러한 투자를 하는 것이 중요합니다." 말했다 X의 사업 운영 책임자인 Joe Benarroch입니다.

이 플랫폼은 반유대주의 및 네오나치 콘텐츠가 확산되면서 비판을 받아왔습니다. 이로 인해 많은 광고주가 플랫폼을 전파하게 되었습니다.

2022년에 사향 플랫폼에서 언론의 자유를 허용하기 위해 소셜 미디어 플랫폼(당시 트위터)을 44억 달러에 인수했습니다. 이 기술 억만장자가 "회사의 신뢰 및 안전 운영 인력"을 삭감한 후 비난을 받았기 때문에 결과는 좋지 않았습니다.

또한 읽기 : 기업이 근로자를 AI로 대체함에 따라 대규모 인력 감축으로 기술 산업 타격

임시 조치

최근 몇 주 동안 플랫폼에는 AI가 생성한 노골적인 이미지가 넘쳐났습니다. 테일러 스위프트, 그녀의 팬들은 가수에 대한 보다 긍정적인 이미지를 담은 자체 캠페인을 통해 이에 대응하도록 유도했습니다. 팬들은 #ProtectTaylorSwift라는 해시태그를 달고 달렸습니다.

X의 경우 플랫폼은 음악가에 대한 추가 검색을 차단했습니다. 에 따르면 뉴욕 포스트, 월요일에 그녀의 이름을 검색하려고 시도한 사용자는 오류 다시 시도하라고 요청하는 메시지와 함께 "초조해하지 마세요. 귀하의 잘못이 아닙니다."라고 덧붙였습니다.

그러나 그녀의 이름이 포함된 게시물은 사용자가 그녀의 이름 주위에 따옴표를 추가할 때마다 나타났으며 일부 전문가는 문제를 처리하는 X의 접근 방식이 많이 부족하다고 주장했습니다.

Benarroch는 성명에서 “이것은 일시적인 조치이며 우리는 이 문제에 대해 안전을 최우선으로 생각하기 때문에 많은 주의를 기울여 수행했습니다.”라고 말했습니다.

그러나 Taylor Swift의 팬 중 일부는 딥페이크 이미지를 공유하는 계정을 신고했습니다.

문제 추적

생성적 AI가 전 세계적으로 지속적으로 인기를 끌면서 이제 악성 콘텐츠를 확산시키는 데에도 사용할 수 있는 정교한 도구가 있습니다. Taylor Swift 사건으로 딥페이크 탐지 그룹인 Reality Defender는 특히 X에서 팝스타를 묘사한 수많은 포르노 자료를 추적했으며 다른 사람들은 Facebook 및 기타 소셜 미디어 플랫폼에 있었습니다.

위협 정보 그룹 Memetica의 Ben Decker에 따르면, 테일러 스위프트 처음에는 연예인 여성의 성적으로 노골적인 AI 생성 이미지를 전문으로 하는 Lewd DALL-E라는 캠페인에서 나왔습니다.

Decker는 “이것은 트롤과 플랫폼 사이의 오랜 적대적 관계의 일부입니다.”라고 말했습니다.

“플랫폼이 존재하는 한 트롤들은 이를 방해하려고 노력할 것입니다. 그리고 트롤이 존재하는 한 플랫폼은 혼란을 겪게 될 것입니다. 따라서 질문은 심각한 변화가 일어나기 전에 이런 일이 몇 번 더 일어날 것인가 하는 것입니다.”

XNUMXD덴탈의 백악관 금요일에 이 문제에 무게를 두면서 가짜 이미지가 "놀라운 일"이라고 말하고 소셜 미디어 플랫폼에 다음과 같이 촉구했습니다. 책임을 맡다 잘못된 정보의 확산을 방지하기 위해.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/