X охотится за модераторами контента после хаоса с Тейлор Свифт

X ищет модераторов контента для борьбы с сексуальной эксплуатацией детей и другим откровенным контентом после того, как созданные искусственным интеллектом изображения Тейлор Свифт с рейтингом X стали вирусными на платформе.

Компания, занимающаяся социальными сетями, наймет 100 штатных сотрудников для борьбы с распространением дипфейкового контента, который сейчас распространен не только на X, но и на платформах социальных сетей.

Центр доверия и безопасности

Благодаря дополнительному персоналу компания, принадлежащая Илону Маску, теперь также рассматривает возможность создания «центра доверия и безопасности» в Остине, штат Техас. Здесь агенты будут нести ответственность за проверку контента в соответствии с правила безопасности компании.

Эти события также происходят из-за того, что платформы социальных сетей теперь используются злоумышленниками для совершения насилия, расизма, мошенничества и сексуальной эксплуатации детей.

«У X нет направления бизнеса, ориентированного на детей, но важно, чтобы мы вложили эти инвестиции, чтобы помешать правонарушителям использовать нашу платформу для любого распространения или взаимодействия с контентом CSE», — сказал Джо Бенаррок, руководитель отдела бизнес-операций X.

Платформа подверглась критике из-за распространения антисемитского и неонацистского контента. Это привело к тому, что многие рекламодатели начали распространять платформу.

В 2022 Маск: приобрела платформу социальных сетей (тогда Twitter) за 44 миллиарда долларов, чтобы обеспечить свободу слова на платформе. Это обернулось не лучшим образом, поскольку технологический миллиардер подвергся критике после сокращения «штатных сотрудников в сфере доверия и безопасности компании».

Читайте также: Технологическая отрасль пострадала от массового сокращения рабочих мест, поскольку компании заменяют работников искусственным интеллектом

Временные меры

В последние недели платформа была наводнена откровенными изображениями, созданными ИИ. Тэйлор Свифт, побудив легион ее поклонников противостоять этому собственной кампанией с более позитивными изображениями певицы. Поклонники бежали с хэштегом #ProtectTaylorSwift.

Для X платформа заблокировала дальнейшие поиски музыканта. Согласно New York Post., пользователи, пытавшиеся найти ее имя в понедельник, получили ошибка сообщение с просьбой повторить попытку и добавлением: «Не волнуйтесь, это не ваша вина».

Однако сообщения с ее именем появлялись всякий раз, когда пользователи добавляли кавычки вокруг ее имени, а некоторые эксперты утверждали, что подход X к решению проблемы оставляет желать лучшего.

«Это временная мера, и она осуществляется с большой осторожностью, поскольку мы уделяем приоритетное внимание безопасности в этом вопросе», — сказал Бенаррох в своем заявлении.

Тем не менее, некоторые поклонники Тейлор Свифт стали жаловаться на аккаунты, в которых были опубликованы фейковые изображения.

Отслеживание проблем

Поскольку генеративный искусственный интеллект продолжает набирать популярность во всем мире, теперь существуют сложные инструменты, которые также доступны для распространения вредоносного контента. В ходе инцидента с Тейлор Свифт Reality Defender, группа по обнаружению дипфейков, отследила многочисленные порнографические материалы с изображением поп-звезды, особенно на X, в то время как другие были на Facebook и других платформах социальных сетей.

По словам Бена Декера из группы разведки угроз Memetica, изображения Тэйлор Свифт впервые появился в рамках кампании под названием Lewd DALL-E, которая специализируется на откровенно сексуальных изображениях знаменитостей, созданных с помощью искусственного интеллекта.

«Это часть давних враждебных отношений между троллями и платформами», — сказал Декер.

«Пока платформы существуют, тролли будут пытаться их разрушить. И пока существуют тролли, платформы будут разрушаться. Таким образом, на самом деле возникает вопрос: сколько еще раз это произойдет, прежде чем произойдут какие-либо серьезные изменения?»

Ассоциация Белый дом в пятницу высказался по этому поводу, назвав фейковые изображения «тревожными» и призвав платформы социальных сетей взять на себя ответственность для предотвращения распространения дезинформации.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://metanews.com/x-hunts-for-content-moderators-after-taylor-swift-chaos/