Анализ Борьба с дезинформацией ИИ в этом году становится более важной, чем когда-либо, для технологических компаний, поскольку они готовятся к предстоящим президентским выборам в США.
Однако борьба с ложной информацией и дипфейками стала еще сложнее, поскольку инструменты для создания синтетического контента стали более доступными, чем когда-либо прежде.
ChatGPT от OpenAI стал более функциональным с момента его первого выпуска в ноябре 2022 года. повышен его система GPT-4 для создания звука и изображений поверх текста. Теперь стартап дал волю Магазин GPT, платформа, на которой размещены специально созданные боты на основе ChatGPT, которые могут принимать определенные личности или выполнять определенные задачи.
«Мы все еще работаем над тем, чтобы понять, насколько эффективными могут быть наши инструменты для персонализированного убеждения»
В понедельник OpenAI заявила, что создание GPT для политических кампаний и лоббирования запрещено, а использование ее моделей для управления любыми чат-ботами, выдающими себя за реальных людей, предприятия или правительства, является злоупотреблением ее технологией. Также запрещены любые приложения, вмешивающиеся в демократические процессы, такие как, например, голосование.
«Мы ожидаем и стремимся к тому, чтобы люди использовали наши инструменты безопасно и ответственно, и выборы не являются исключением», сказано. «Мы работаем над тем, чтобы предвидеть и предотвращать соответствующие злоупотребления, такие как вводящие в заблуждение «дипфейки», масштабные операции влияния или чат-боты, выдающие себя за кандидатов».
Разъяснение правил – это хорошо, но обеспечение их соблюдения – совсем другое дело. Контролировать GPT Store сложно, и OpenAI полагается на то, что пользователи будут сообщать о приложениях, которые противоречат его политике. Люди уже нарушили правила, запрещающие создавать GPT, «предназначенные для развития романтических отношений или выполнения регулируемой деятельности». У платформы много «подруг» ИИ, а также много политических чат-ботов.
Некоторые из них созданы для подражания таким политикам, как, например, Дональд Трамп, хотя они и не являются убедительным подражанием, в то время как другие поддерживают определенные политические идеологии. Например, в разговоре с «The Real Trump Bot» компания заявила, что выступает против голосования по почте. «О, даже не заставляйте меня начинать голосование по почте. Они как будто напрашиваются на неприятности. Это настолько открыто для злоупотреблений, что это невероятно».
Противоречит ли это политике OpenAI? Может ли это отговорить кого-то от отправки своего голоса по почте? «Мы все еще работаем над тем, чтобы понять, насколько эффективными могут быть наши инструменты для персонализированного убеждения», — признался OpenAI.
OpenAI приняла и другие меры предосторожности. Защитные ограждения, установленные в модели преобразования текста в изображение DALL-E, не позволяют пользователям создавать изображения политиков в целях предотвращения дипфейков. Но ограждения позволяют редактировать изображения, а это означает, что люди по-прежнему могут манипулировать фотографиями кандидатов без помощи ИИ.
Помимо запрета или блокировки контента, другие стратегии, которые компании применяют для борьбы с дезинформацией, включают внедрение цифровых водяных знаков и требование к пользователям прозрачности в отношении изображений и видео, созданных ИИ.
Microsoft является членом Коалиции за происхождение и подлинность контента (C2PA) и поддерживает инициативу Content Credentials. Компания внедряет функцию, которая встраивает водяной знак в контент, созданный Bing Image Creator, содержащий метаданные, описывающие, как, когда и кем было создано изображение, которые можно проверить, чтобы доказать его подлинность. OpenAI планирует последовать этому примеру и реализовать СР2Ацифровые учетные данные тоже. Но функция водяных знаков и метаданных не является надежной. Однако информацию о происхождении изображения можно увидеть только в приложениях или на веб-сайтах, поддерживающих формат Content Credentials.
Пользователи могут удалить информацию из изображения, созданного с помощью инструментов Microsoft или OpenAI, и открыть ее, например, в Google Chrome, который не поддерживает CP2A. Тогда с их изображениями не будет никаких метаданных, и вместо этого они смогут свободно распространять эту версию.
Платформа YouTube от Google применила другой подход и вместо этого требует от создателей раскрывать, содержат ли их видео кадры, созданные искусственным интеллектом, изображают ли они фейковые события или содержат людей, говорящих то, чего они не говорили. Тем временем, Мета и Google попросили рекламодателей заявить, содержат ли их объявления синтетический контент, будь то поддельные изображения, видео или аудио.
Для политиков правила более строгие. Многие штаты, такие как Калифорния, Техас, Мичиган, Вашингтон и Миннесота, приняли законодательство запрет политическим кандидатам раскручивать дипфейки для влияния на избирателей. Однако федерального закона нет. Федеральной избирательной комиссии еще предстоит решить, применима ли ее политика против «обманного представления других кандидатов или политических партий» в отношении контента, созданного искусственным интеллектом.
ИИ по-прежнему практически не регулируется, а различные законы, действующие во всем мире, не охватывают все случаи политической дезинформации. Хотя технологические компании наращивают усилия, чтобы помешать пользователям генерировать дезинформацию с помощью ИИ, их методы не идеальны, и пользователи часто находят способы обойти меры безопасности. ®
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :имеет
- :является
- :нет
- $UP
- 2022
- a
- О нас
- злоупотребление
- доступной
- активно
- признал
- принять
- объявления
- Рекламодателям
- против
- AI
- цель
- Все
- позволять
- уже
- причислены
- Несмотря на то, что
- an
- и
- Другой
- предвидеть
- любой
- отношение
- Приложения
- применяется
- подхода
- МЫ
- около
- AS
- спрашивающий
- связанный
- аудио
- подлинность
- запрещенный
- BE
- становиться
- до
- Bing
- блокирование
- Бот
- боты
- Сломанный
- Строительство
- бизнес
- но
- by
- Калифорния
- агитация
- CAN
- кандидатов
- способный
- нести
- определенный
- chatbots
- ChatGPT
- Chrome
- CO
- коалиция
- борьбы с
- комиссии
- Компании
- содержать
- содержание
- Разговор
- может
- чехол для варгана
- проработаны
- Создающий
- создатель
- Создатели
- Полномочия
- решающее значение
- Изготовленный на заказ
- дал-и
- решать
- преданный
- deepfakes
- демократический
- описывающих
- различный
- трудный
- Интернет
- Раскрывать
- дезинформация
- разубеждать
- распространять
- do
- Безразлично
- Дон
- Дональд
- Дональд Трамп
- редактирование
- Эффективный
- усилия
- выборы
- Выборы
- обеспечение соблюдения
- Эфир (ETH)
- Даже
- События
- НИКОГДА
- пример
- ожидать
- не настоящие
- ложный
- Особенность
- Федеральный
- Федеральный закон
- Найдите
- Во-первых,
- следовать
- Что касается
- формат
- содействие
- Бесплатно
- от
- генерируется
- порождающий
- получить
- данный
- Go
- хорошо
- Google Chrome
- Правительства
- взрослый
- Есть
- убежище
- помощь
- хостинг
- Как
- Однако
- HTTPS
- Очень
- идеологии
- if
- изображение
- изображений
- осуществлять
- важную
- in
- включают
- все больше и больше
- повлиять
- информация
- Инициатива
- случаев
- вместо
- мобильной
- IT
- ЕГО
- JPG
- этикетка
- Фамилия
- В прошлом году
- закон
- Законодательство
- такое как
- лоббирование
- сделанный
- рассылки
- многих
- Вопрос
- me
- смысл
- Между тем
- меры
- член
- Метаданные
- методы
- Мичиган
- Microsoft
- может быть
- Миннесота
- дезориентировать
- модель
- Модели
- понедельник
- БОЛЕЕ
- в основном
- с разными
- нет
- Ноябрь
- сейчас
- of
- .
- oh
- on
- только
- открытый
- OpenAI
- Операционный отдел
- or
- Другое
- Другое
- наши
- внешний
- особый
- Стороны
- Прошло
- Люди
- ИДЕАЛЬНОЕ
- выполнения
- Личности
- Персонализированные
- фотографии
- Часть
- планирование
- Платформа
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- Много
- Полиция
- сборах
- политика
- политический
- политические кандидаты
- политические партии
- Политикам
- мощностью
- президентский
- выборы президента
- предотвращать
- Процессы
- производит
- запретила
- Доказывать
- происхождение
- уклон
- RE
- реальные
- регулируемых брокеров
- выпустил
- соответствующие
- опираясь
- отчету
- ответственно
- Подвижной
- условиями,
- s
- безопасно
- Сохранность
- Сказал
- поговорка
- видел
- с
- So
- Кто-то
- удалось
- конкретный
- и политические лидеры
- ввод в эксплуатацию
- Области
- По-прежнему
- магазин
- стратегий
- строже
- Зачистите
- такие
- Костюм
- поддержка
- поддержки
- синтетический
- система
- T
- Tackling
- приняты
- с
- задачи
- технологии
- технологические компании
- Технологии
- Техас
- текст
- чем
- который
- Ассоциация
- информация
- мир
- их
- Их
- тогда
- Там.
- они
- вещи
- этой
- В этом году
- хоть?
- в
- слишком
- инструменты
- топ
- прозрачный
- беда
- козырь
- стараться
- понимать
- развязали
- Предстоящие
- us
- использование
- пользователей
- через
- различный
- версия
- Видео
- Голос
- избирателей
- голосование
- законопроект
- Вашингтон
- водяной знак
- Водяные знаки
- водяные знаки
- способы
- we
- веб-сайты
- ЧТО Ж
- когда
- будь то
- , которые
- в то время как
- кого
- широко
- без
- Работа
- работает
- Мир
- бы
- год
- еще
- YouTube
- зефирнет