Водяных знаков по-прежнему недостаточно, чтобы отличить реальный контент от контента, созданного искусственным интеллектом, поскольку киберпреступники также могут обходить функции безопасности.
Это происходит на фоне растущего внедрения технологий искусственного интеллекта, особенно генеративного искусственного интеллекта, что создает благодатную почву для недобросовестных людей, которые могут использовать его для распространения дезинформации, ненависти и других форм вредоносного контента.
А водяные знаки стали одним из ключевых решений, позволяющих отличить контент, созданный искусственным интеллектом, от контента из реальной жизни. Однако у него есть и недостатки.
Читайте также: Meta Audio2Photoreal теперь позволяет создавать фотореалистичные аватары с голосовым управлением
Манипуляция
Эксперты говорят, что рост ИИ также сопровождается тем, что злоумышленники используют эту технологию для распространения дезинформации и злого умысла, а также вызывают панику с помощью фейковых новостей.
Хотя было установлено, что водяные знаки позволяют пользователям отличать контент, созданный искусственным интеллектом, от реального контента, созданного людьми, они также подвержены манипуляциям.
По Регистр, некоторые видимые сигнатуры, такие как модель преобразования текста в изображение Dall-E, являются одними из самых простых для обхода инструмента обнаружения ИИ. В статье далее говорится, что недобросовестные лица могут обрезать водяные знаки или скопировать изображение способами, минующими прямую загрузку.
Профессор информатики Университета Буффало в США Сивэй Лю сказал, что есть и эксперты, когда дело доходит до преодоления барьеров.
«Технология водяных знаков использовалась с долей скептицизма, потому что человеку, обладающему знаниями о водяных знаках и искусственном интеллекте, не так уж сложно сломать ее и удалить водяной знак или изготовить его», — сказал Лю.
Сэм Грегори, эксперт по искусственному интеллекту и исполнительный директор некоммерческой организации, которая помогает людям использовать технологии для продвижения прав человека, считает водяными знаками по-прежнему могут манипулировать злоумышленники.
По его мнению, это «инструмент сортировки для снижения вреда», добавив, что «это не 100% решение».
Виды водяных знаков
Однако не все так радужно для недобросовестных и плохих актеров. Некоторые водяные знаки невидимы, например, Google DeepMind. СинтиИД, от них сложно избавиться, поскольку они «встроены непосредственно в выходные данные системы Imagen».
Водяной знак такого типа нельзя увидеть невооруженным глазом, но его можно обнаружить с помощью специального программного обеспечения или алгоритмов.
Люу, однако, по-прежнему считает, что негодяи, обладающие некоторыми «техническими знаниями», могут это вычистить.
«Я думаю, что водяные знаки в основном играют на неосведомленности людей об их существовании. Так что, если они знают, что могут, они найдут способ сломать это», — сказала Люу.
Другой тип водяного знака — видимый, который добавляется к видео, тексту или изображениям такими компаниями, как Google, Getty и OpenAI, для проверки достоверности контента.
Третий тип водяных знаков — это криптографические метаданные. Здесь показано, когда контент был создан и как он был отредактирован.
«Смывание» водяных знаков
Исследование, проведенное Университетом Мэриленда под руководством Сохейла Фейзи, профессора информатики, показало, что водяные знаки ИИ не были надежными. Они протестировали все типы водяных знаков и «сломали их все».
«На данный момент у нас нет надежных водяных знаков», — сказал он.
Профессор также объяснил, насколько легко злоумышленникам манипулировать водяными знаками, что он назвал «смыванием» водяных знаков.
Другое исследование, проведенное в соавторстве с исследователями из Калифорнийского университета в Санта-Барбаре и Карнеги-Меллона, также дало те же результаты.
«Все видимые водяные знаки ненадежны» читает бумага.
Проблема, чувствительная ко времени
Сотрудник Сената США, участвовавший в разработке законодательства, касающегося ИИ, рассказал Fedscope о необходимости «идти в ногу с злоумышленниками», добавив, что Сенат в настоящее время находится в эпоху «образования и определения проблемы».
«Это как олимпийские спортсмены: теперь, когда я знаю, что вы ищете этот препарат, я просто приму другой препарат».
Доступно многие страны идут на выборы В этом году нельзя игнорировать необходимость принятия мер по минимизации дипфейков и дезинформации. В сентябре прошлого года лидер большинства в Сенате Чак Шумер заявил, что проверка подлинности контента является сложной задачей. срочный вопрос учитывая, что во многих странах выборы не за горами.
«Существует проблема с дипфейками, когда люди действительно верят… что кандидат говорит что-то, хотя они полностью созданы искусственным интеллектом», — сказал он после своего первого выступления. закрытая информация об искусственном интеллекте форум.
Технологические компании принимают вызов
Тем временем уже существует Коалиция за происхождение и подлинность контента (C2PA), детище медиа и технологических компаний. Это идентифицирует источник изображения, будь то камера или программа искусственного интеллекта, которая использовалась для его создания.
Он также дает подробную информацию о времени, месте и методе создания изображения, что позволяет людям проверить его происхождение. Сообщается, что TikTok входит в число ведущих технологических компаний, которые лидируют в области водяных знаков.
«TikTok показывает использованную звуковую дорожку; он показывает вам сделанный стежок; он показывает использованные эффекты ИИ», — сказал Грегори.
Другие большие технологические компании такие как Alphabet, Amazon, Meta и OpenAI, в прошлом году пообещали разработать технологию нанесения водяных знаков для борьбы с дезинформацией.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :имеет
- :является
- :нет
- :куда
- 8
- 9
- a
- в состоянии
- актеры
- на самом деле
- добавленный
- добавить
- Принятие
- плюс
- После
- AI
- алгоритмы
- Все
- Позволяющий
- позволяет
- Алфавит
- причислены
- Amazon
- среди
- an
- и
- Другой
- любой
- МЫ
- около
- гайд
- AS
- At
- аудио
- подлинность
- Плохой
- барьеры
- BE
- , так как:
- было
- между
- большой
- Ломать
- Разрыв
- Буйвол
- но
- by
- байпас
- Калифорния
- камера
- CAN
- кандидат
- не могу
- Карнеги Меллон
- Вызывать
- зажимной патрон
- коалиция
- выходит
- Компании
- компьютер
- Информатика
- содержание
- Corner
- страны
- Создайте
- создали
- Создающий
- создание
- урожай
- криптографический
- В настоящее время
- киберпреступники
- дал-и
- deepfakes
- определяющий
- описано
- подробнее
- обнаруженный
- обнаружение
- развивать
- трудный
- направлять
- непосредственно
- директор
- дезинформация
- выделить
- Dont
- наркотик
- Простейший
- легко
- эффекты
- Выборы
- появившийся
- включить
- достаточно
- Эпоха
- особенно
- исполнительный
- Исполнительный директор
- эксперту
- эксперты
- объяснены
- Глаза
- не настоящие
- поддельные новости
- Особенности
- Найдите
- результаты
- Компаний
- Во-первых,
- Что касается
- формы
- Форум
- далее
- генеративный
- Генеративный ИИ
- получить
- данный
- дает
- будет
- земля
- Рост
- Рост
- было
- Жесткий
- вред
- ненавидеть
- Есть
- имеющий
- he
- помогает
- его
- его
- Как
- Однако
- HTTPS
- человек
- права человека
- i
- БОЛЬНОЙ
- идентифицированный
- идентифицирует
- if
- изображение
- изображений
- in
- лиц
- в
- невидимый
- вовлеченный
- вопрос
- IT
- ЕГО
- всего
- Основные
- Вид
- Знать
- знания
- Фамилия
- В прошлом году
- вести
- лидер
- привело
- Законодательство
- такое как
- расположение
- искать
- сделанный
- Большинство
- злонамеренный
- манипулировать
- Манипуляция
- многих
- Мэриленд
- то время
- меры
- Медиа
- Mellon
- Мета
- Метаданные
- метод
- минимизировать
- дезинформация
- модель
- в основном
- Необходимость
- Новости
- некоммерческий
- некоммерческая организация
- сейчас
- of
- Олимпийский
- on
- ONE
- OpenAI
- or
- организация
- Другое
- внешний
- выходы
- Темп
- Паника
- бумага & картон
- Люди
- народный
- Фотореалистичная
- Часть
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- Играть
- Точка
- возможное
- Профессор
- FitPartner™
- продвижении
- происхождение
- Читать
- реальные
- на самом деле
- снижение
- складская
- удаление
- , по имеющимся данным
- исследователи
- избавиться
- правые
- Розовый
- Сказал
- соль
- Сэм
- то же
- Санта-
- Санта Барбара
- сообщили
- поговорка
- Наука
- безопасность
- видел
- Сенат
- сентябрь
- недостатки
- Шоу
- Подписи
- So
- Software
- Решение
- Решения
- некоторые
- Кто-то
- удалось
- Источник
- особый
- специальное программное обеспечение
- распространение
- Области
- По-прежнему
- Кабинет
- такие
- система
- снасти
- Tackling
- взять
- с
- технологии
- технологические компании
- технологии
- Технологии
- проверенный
- текст
- который
- Ассоциация
- Источник
- их
- Их
- Там.
- они
- think
- Думает
- В третьих
- этой
- В этом году
- Через
- TikTok
- время
- в
- заявил
- слишком
- инструментом
- топ
- ПОЛНОСТЬЮ
- трек
- сортировка
- напишите
- Типы
- Университет
- Университет Калифорнии
- Университет штата Мэриленд
- us
- Сенат США
- использование
- используемый
- пользователей
- через
- проверить
- Видео
- видимый
- законопроект
- водяной знак
- Водяные знаки
- водяные знаки
- Путь..
- способы
- Что
- когда
- будь то
- который
- будете
- год
- еще
- являетесь
- зефирнет