В качестве решающего шага по борьбе с дезинформацией на выборах OpenAI объявила строгая позиция против использования инструментов генеративного искусственного интеллекта в избирательных кампаниях и тактики подавления избирателей.
Снимок того, как мы готовимся к всемирным выборам 2024 года:
• Работа по предотвращению злоупотреблений, в том числе вводящих в заблуждение дипфейков.
• Обеспечение прозрачности контента, созданного с помощью ИИ.
• Улучшение доступа к авторитетной информации о голосовании.https://t.co/qsysYy5l0L- OpenAI (@OpenAI) 15 января 2024
Это объявление является важным шагом на пути к обеспечению честности многочисленных ключевых выборов, запланированных на 2024 год.
Читайте также: OpenAI ведет переговоры о лицензировании новостного контента с CNN, Fox и Time
Борьба со злоупотреблениями с помощью инноваций и политики
OpenAI инициировала стратегию защиты своей технологии от использования для манипулирования результатами выборов. Компания создала специализированную команду, занимающуюся вопросами, связанными с выборами, объединив опыт различных отделов, включая юридический, инженерный и политический. Основная цель этой команды — выявлять и смягчать потенциальные злоупотребления ИИ на выборах.
«У нас есть межфункциональные усилия, посвященные избирательной работе, объединяющие опыт наших систем безопасности, анализа угроз, юридических, инженерных и политических групп».
Угроза дезинформации в политике не нова, однако появление технологии искусственного интеллекта создает беспрецедентные проблемы. Понимая это, OpenAI принимает активные меры. Компания планирует использовать сочетание таких методов, как «красная команда», вовлечение пользователей и защитные ограждения. В частности, их образ инструмент генерации, DALL-E, было обновлено, чтобы предотвратить создание изображений, изображающих реальных людей, включая политических кандидатов.
«У DALL·E есть меры, позволяющие отклонять запросы, требующие создания изображений реальных людей, включая кандидатов».
OpenAI постоянно пересматривает свою пользовательскую политику, чтобы идти в ногу с развитием технологий искусственного интеллекта и возможными злоупотреблениями. Его обновленная политика безопасности теперь явно ограничивает разработку приложений ИИ для политических кампаний и лоббирования. Кроме того, были приняты меры по предотвращению создания чат-ботов, имитирующих реальных людей или организации.
Повышение прозрачности и подотчетности
Ключевым компонентом стратегии OpenAI является внедрение классификатора происхождения для инструмента DALL-E. Эта функция, которая в настоящее время находится на стадии бета-тестирования, может обнаруживать изображения, созданные DALL-E. Компания стремится сделать этот инструмент доступным для журналистов, платформ и исследователей, чтобы повысить прозрачность контента, создаваемого ИИ.
«Мы планируем вскоре предоставить его нашей первой группе тестировщиков, включая журналистов, платформы и исследователей, для обратной связи».
OpenAI также интегрирует новостные репортажи в реальном времени в ChatGPT. Эта интеграция направлена на предоставление пользователям точной и своевременной информации, повышая прозрачность источников информации, предоставляемой ИИ.
Совместно с Национальной ассоциацией госсекретарей США OpenAI стремится не допустить, чтобы ее технология препятствовала участию в выборах. Командная работа предполагает направление пользователей чат-ботов на базе GPT на надежные сайты с информацией о голосовании, такие как CanIVote.org.
Соперники следуют их примеру в гонке ИИ
Заявление OpenAI создало прецедент в индустрии искусственного интеллекта, поскольку у него есть такие конкуренты, как Google LLC и Meta Platforms Inc. также реализуют меры по борьбе с дезинформацией, распространяемой через их технологии. Эти коллективные усилия лидеров отрасли означают растущее осознание и ответственность за потенциальное влияние ИИ на демократические процессы.
Но достаточно ли этого? Чарльз Кинг из Pund-IT Inc. поднимает критический вопрос, задаваясь вопросом, являются ли эти меры своевременными или реактивными. Он утверждает, что опасения по поводу дезинформации, генерируемой ИИ, существуют уже много лет, и недавнее заявление OpenAI можно рассматривать как слишком незначительное и слишком запоздалое. Эта перспектива побуждает к более глубокому размышлению о роли и ответственности разработчиков ИИ в политическом ландшафте.
«Так что в лучшем случае это объявление предполагает, что OpenAI спал на месте. Но в худшем случае это напоминает ритуал мытья рук, на который может указать OpenAI, когда генеративный ИИ поражает вентилятор во время предстоящих глобальных выборов в этом году».
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://metanews.com/openai-rules-out-use-in-elections-and-voter-suppression/
- :имеет
- :является
- :нет
- 10
- 11
- 15%
- 2024
- 7
- 8
- 9
- a
- О нас
- злоупотребление
- доступ
- доступной
- точный
- Дополнительно
- приход
- против
- AI
- цель
- Цель
- причислены
- an
- и
- Объявление
- Приложения
- МЫ
- Утверждает
- около
- AS
- спросить
- Объединение
- At
- доступен
- осведомленность
- BE
- было
- не являетесь
- ЛУЧШЕЕ
- beta
- Приведение
- но
- by
- агитация
- Кампании
- CAN
- кандидатов
- проблемы
- Чарльз
- Chatbot
- chatbots
- CNN
- собирательный
- борьбы с
- выходит
- Компания
- компонент
- Обеспокоенность
- содержание
- непрерывно
- может
- создание
- критической
- В настоящее время
- дал-и
- решающий
- Отклонить
- преданный
- более глубокий
- демократический
- ведомства
- изображающая
- обнаруживать
- застройщиков
- Развитие
- руководство
- в течение
- усилие
- выборы
- Выборы
- обязательство
- Проект и
- повышать
- повышение
- достаточно
- обеспечение
- существенный
- установленный
- развивается
- опыта
- эксплицитно
- Эксплуатируемый
- вентилятор
- Особенность
- Обратная связь
- Во-первых,
- внимание
- фокусировка
- следовать
- Что касается
- лиса
- от
- генерируется
- поколение
- генеративный
- Генеративный ИИ
- Глобальный
- группы
- Рост
- Есть
- he
- Хиты
- Как
- HTTPS
- определения
- изображение
- генерация изображения
- изображений
- Влияние
- Осуществляющий
- улучшение
- in
- Инк
- В том числе
- промышленность
- информация
- начатый
- Инновации
- Интегрируя
- интеграции.
- целостность
- Интеллекта
- в
- Введение
- включает в себя
- IT
- ЕГО
- совместная
- Журналисты
- Сохранить
- Основные
- Король
- пейзаж
- Поздно
- Лидеры
- Юр. Информация
- Лицензирование
- такое как
- мало
- лоббирование
- сделать
- меры
- объединение
- Мета
- МЕТА-ПЛАТФОРМЫ
- дезинформация
- дезориентировать
- злоупотреблять
- смягчать
- смешивать
- двигаться
- национальный
- Новые
- Новости
- сейчас
- многочисленный
- of
- on
- OpenAI
- or
- организации
- наши
- внешний
- Результаты
- Темп
- участие
- Люди
- перспектива
- Часть
- план
- Планы
- Платформы
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- Точка
- сборах
- политика
- политический
- политические кандидаты
- политика
- потенциал
- Прецедент
- подготовка
- разрабатывает
- предотвращать
- предупреждение
- первичный
- Проактивная
- Процессы
- происхождение
- обеспечивать
- при условии
- обеспечение
- положил
- повышения
- Читать
- реальные
- реального времени
- последний
- признавая
- Red
- отражение
- складская
- Reporting
- Запросы
- исследователи
- походит
- ответственность
- ограничивать
- соперников
- Роли
- условиями,
- s
- Сохранность
- считаться
- видел
- набор
- Значит
- Скоро
- Источники
- специализированный
- конкретно
- распространение
- Область
- Шаг
- Стратегия
- такие
- Предлагает
- Костюм
- подавление
- Коммутатор
- системы
- тактика
- с
- команда
- команды
- командная работа
- снижения вреда
- технологии
- Технологии
- Тестирование
- который
- Ассоциация
- их
- Эти
- этой
- В этом году
- угроза
- разведка угроз
- Через
- своевременно
- в
- вместе
- слишком
- инструментом
- инструменты
- к
- к
- Прозрачность
- правда
- нам
- беспрецедентный
- Предстоящие
- обновление
- использование
- Информация о пользователе
- пользователей
- через
- различный
- голосование
- голосование
- законопроект
- веб-сайты
- когда
- будь то
- Работа
- работает
- по всему миру
- Наихудший
- год
- лет
- еще
- зефирнет