Вмісту водяних знаків все ще недостатньо, щоб відрізнити реальний контент від створеного ШІ, оскільки кіберзлочинці також можуть обійти функції безпеки.
Це сталося на тлі того, що технології штучного інтелекту, особливо генеративного штучного інтелекту, все більше поширюються, створюючи благодатний ґрунт для недобросовісних людей, які можуть використовувати його для поширення дезінформації, ненависті та інших форм шкідливого вмісту.
Водяні знаки стали одним із ключових рішень для розрізнення контенту, створеного ШІ, від реального. Проте він має і свої недоліки.
Читайте також: Audio2Photoreal від Meta тепер дозволяє створювати фотореалістичні аватари з голосовим керуванням
Маніпуляція
Експерти кажуть, що зростання штучного інтелекту також пов’язано з тим, що зловмисники використовують цю технологію для поширення дезінформації та зловмисників і викликають паніку фейковими новинами.
Хоча було виявлено водяні знаки, які дозволяють користувачам розрізняти контент, створений штучним інтелектом, від реального контенту, створеного людьми, це також схильне до маніпуляцій.
За оцінками Реєстр, деякі видимі сигнатури, такі як модель Dall-E для перетворення тексту в зображення, є одними з найпростіших для обходу інструменту виявлення ШІ. У статті також зазначено, що недобросовісні особи можуть обрізати водяні знаки або скопіювати зображення в обхід прямого завантаження.
Професор інформатики в Університеті Буффало в США Сівей Лю сказав, що є експерти, коли справа стосується подолання бар’єрів.
«Технологію водяних знаків використовували з недовірою, тому що людині, яка знає водяні знаки та штучний інтелект, не так вже й важко зламати її та видалити водяний знак або виготовити його», — сказав Лю.
Експерт зі штучного інтелекту та виконавчий директор некомерційної організації, яка допомагає людям використовувати технології для захисту прав людини, Сем Грегорі, думає, водяними знаками все ще можуть маніпулювати погані актори.
Для нього це «інструмент сортування для зменшення шкоди», додавши, що «це не 100% рішення».
Види водяних знаків
Однак не все так райдужно для безпринципних, поганих акторів. Деякі невидимі водяні знаки, як-от Google DeepMind SynthID, їх важко позбутися, оскільки вони «вбудовані безпосередньо в системні виходи Imagen».
Водяний знак такого типу неможливо побачити неозброєним оком, але його можна виявити за допомогою спеціального програмного забезпечення або алгоритмів.
Однак Лю все ще вважає, що мерзотники з деякими «технічними знаннями можуть це вичистити».
«Я думаю, що водяні знаки здебільшого грають на тому, що люди не знають про їх існування. Тому, якщо вони знають, що можуть, вони знайдуть спосіб зламати це», — сказав Лю.
Іншим типом водяного знака є видимий, який додається до відео, тексту чи зображень такими компаніями, як Google, Getty та OpenAI, щоб перевірити дійсність вмісту.
Третій тип водяних знаків - це криптографічні метадані. Тут показано, коли було створено вміст і як його було відредаговано.
«Вимивання» водяних знаків
Дослідження Університету Меріленда під керівництвом Сохейла Фейзі, професора інформатики, стверджує, що водяні знаки ШІ не були надійними. Вони протестували всі типи водяних знаків і «зламали їх усіх».
«На даний момент у нас немає надійних водяних знаків», — сказав він.
Професор також пояснив, як легко для поганих акторів маніпулювати водяними знаками, що він назвав «вимиванням» водяного знака.
Інше дослідження, співавторами якого були дослідники з Університету Каліфорнії в Санта-Барбарі та Карнегі-Меллона, також виявило ті ж результати.
«Усі видимі водяні знаки не є надійними» читає папір, документ.
Проблема, чутлива до часу
Співробітник Сенату США, який брав участь у розробці законодавства щодо штучного інтелекту, розповів Fedscope про необхідність «йти в ногу з поганими акторами», додавши, що Сенат зараз перебуває в епосі «освіти та визначення проблеми».
«Це як олімпійські спортсмени — тепер, коли я знаю, що ви шукаєте цей препарат, я просто прийму інший препарат».
з багато країн йдуть на вибори цього року не можна ігнорувати необхідність заходів для мінімізації дипфейків і дезінформації. У вересні минулого року лідер більшості в Сенаті Чак Шумер заявив, що боротьба з автентичністю контенту є чутливе до часу питання враховуючи, що вибори в багатьох країнах не за горами.
«Існує проблема фактичної наявності глибоких фейків, коли люди дійсно вірять... що кандидат щось говорить, хоча він повністю створений штучним інтелектом», — сказав він після свого першого закриті двері AI insight форум.
Технічні фірми приймають виклик
Тим часом існує Коаліція за походження та автентичність вмісту (C2PA), дітище медіа та технологічних компаній. Це визначає джерело зображення, будь то камера чи програма AI, яка використовувалася для його створення.
Він також містить детальну інформацію про час, місце та спосіб створення зображення, що дозволяє людям перевірити його походження. Повідомляється, що TikTok входить до числа провідних технологічних фірм, які взяли на себе лідерство в області водяних знаків.
«TikTok показує вам звукову доріжку, яка була використана; він показує вам зроблений стібок; він показує використані ефекти штучного інтелекту», — сказав Грегорі.
Інші великі технічних компаній як Alphabet, Amazon, Meta та OpenAI минулого року пообіцяли розробити технологію водяних знаків для боротьби з дезінформацією.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- : має
- :є
- : ні
- :де
- 8
- 9
- a
- Здатний
- актори
- насправді
- доданий
- додати
- Прийняття
- Перевага
- після
- AI
- алгоритми
- ВСІ
- Дозволити
- дозволяє
- Алфавіт
- Також
- Amazon
- серед
- an
- та
- Інший
- будь-який
- ЕСТЬ
- навколо
- стаття
- AS
- At
- аудіо
- справжність
- поганий
- бар'єри
- BE
- оскільки
- було
- між
- Великий
- Перерва
- Розрив
- Буйвол
- але
- by
- обходити
- Каліфорнія
- кімната
- CAN
- кандидат
- не може
- Карнегі Меллон
- Викликати
- затискної патрон
- коаліція
- приходить
- Компанії
- комп'ютер
- Інформатика
- зміст
- Кут
- країни
- створювати
- створений
- створення
- створення
- урожай
- криптографічні
- В даний час
- кіберзлочинці
- dall's
- deepfakes
- визначаючи
- описаний
- деталі
- виявлено
- Виявлення
- розвивати
- важкий
- прямий
- безпосередньо
- Директор
- дезінформація
- розрізняти
- Не знаю
- наркотик
- Найпростіший
- легко
- ефекти
- Вибори
- з'явився
- включіть
- досить
- Епоха
- особливо
- виконавчий
- Виконавчий директор
- експерт
- experts
- пояснені
- очей
- підроблений
- підроблені новини
- риси
- знайти
- результати
- фірми
- Перший
- для
- форми
- форум
- далі
- генеративний
- Генеративний ШІ
- отримати
- даний
- дає
- буде
- Земля
- Зростання
- Зростання
- було
- Жорсткий
- шкодити
- ненавидіти
- Мати
- має
- he
- допомагає
- його
- його
- Як
- Однак
- HTTPS
- людина
- права людини
- i
- Я БУДУ
- ідентифікований
- ідентифікує
- if
- зображення
- зображень
- in
- осіб
- в
- невидимий
- залучений
- питання
- IT
- ЙОГО
- просто
- ключ
- Дитина
- Знати
- знання
- останній
- Минулого року
- вести
- лідер
- Led
- Законодавство
- як
- розташування
- шукати
- made
- Більшість
- malicious
- маніпулювати
- Маніпуляція
- багато
- Меріленд
- тим часом
- заходи
- Медіа
- Mellon
- Meta
- метадані
- метод
- мінімізувати
- Дезінформація
- модель
- в основному
- Необхідність
- новини
- некомерційний
- некомерційна організація
- зараз
- of
- Олімпійський
- on
- ONE
- OpenAI
- or
- організація
- Інше
- з
- виходи
- алюр
- Паніка
- Папір
- Люди
- народний
- Фотореалістичний
- місце
- plato
- Інформація про дані Платона
- PlatoData
- Play
- точка
- це можливо
- Професор
- програма
- сприяти
- походження
- Читати
- реальний
- насправді
- скорочення
- надійний
- видаляти
- як повідомляється
- Дослідники
- позбавитися
- праві
- Рожевий
- Зазначений
- сіль
- Сем
- то ж
- Санта
- Санта Барбара
- say
- приказка
- наука
- безпеку
- бачив
- Сенат
- Вересень
- недоліки
- Шоу
- Signatures
- So
- Софтвер
- рішення
- Рішення
- деякі
- Хтось
- що в сім'ї щось
- Source
- спеціальний
- спеціальне програмне забезпечення
- поширення
- Штати
- Як і раніше
- Вивчення
- такі
- система
- снасті
- вирішення проблем
- Приймати
- взяття
- технології
- технічних компаній
- Технології
- Технологія
- перевірений
- текст
- Що
- Команда
- Джерело
- їх
- Їх
- Там.
- вони
- думати
- Думає
- третій
- це
- У цьому році
- через
- Tik Tok
- час
- до
- сказав
- занадто
- інструмент
- топ
- ТОТАЛЬНО
- трек
- сортування
- тип
- Типи
- університет
- Університет Каліфорнії
- Університет штату Меріленд
- us
- Сенат США
- використання
- використовуваний
- користувачі
- використання
- перевірити
- Відео
- видимий
- було
- водяний знак
- Водяні знаки
- водяні знаки
- шлях..
- способи
- Що
- коли
- Чи
- який
- волі
- з
- рік
- ще
- ви
- зефірнет