Artists Can Now Poison Their Images To Deter Misuse By AI

Перевидано Платоном

читають: 0

Боффіни Чиказького університету цього тижня випустили Nightshade 1.0, інструмент, створений для покарання недобросовісних розробників моделей машинного навчання, які навчають свої системи на даних без попереднього дозволу.

Паслін є образливим інструментом для захисту даних, який доповнює інструмент захисту захисного стилю під назвою Глазур, Яка Реєстр покритий у лютому минулого року.

Паслін отруює файли зображень, викликаючи нетравлення шлунка у моделей, які приймають дані без дозволу. Це має на меті змусити ці моделі, орієнтовані на навчання, поважати побажання творців контенту щодо використання їхньої роботи.

«Паслін обчислюється як багатоцільова оптимізація, яка мінімізує видимі зміни вихідного зображення», сказав команда, відповідальна за проект.

«Наприклад, людське око може побачити затінене зображення корови в зеленому полі майже без змін, але модель AI може побачити великий шкіряний гаманець, що лежить у траві. «

Паслін був розроблений докторантами Університету Чикаго Шоном Шаном, Венсінь Дінгом і Жозефіною Пассананті, а також професорами Хізер Чжен і Бен Чжао, деякі з яких також допомагали з Glaze.

Описано в а дипломну роботу у жовтні 2023 року Паслін — це спеціальна атака отруєння. Отруєння зображення передбачає вибір ярлика (наприклад, кота), який описує, що насправді зображено, щоб розмити межі цієї концепції, коли зображення поглинають для навчання моделі.

Таким чином, користувач моделі, навченої на зображеннях, отруєних пасльоном, може надіслати запит для кота та отримати сповіщення про зображення собаки чи риби. Непередбачувані відповіді такого роду роблять моделі перетворення тексту в зображення значно менш корисними, а це означає, що виробники моделей мають стимул гарантувати, що вони навчаються лише на даних, які надаються безкоштовно.

«Nightshade може надати власникам вмісту потужний інструмент для захисту своєї інтелектуальної власності від тренерів моделей, які ігнорують або ігнорують повідомлення про авторські права, директиви «не скрейпувати/сканувати» та списки відмови», — зазначають автори у своїй статті.

Неврахування побажань творців і власників творів мистецтва призвело до судового позову подано минулого року, що є частиною ширшої боротьби проти збирання даних без дозволу на користь компаній зі штучним інтелектом. У позові про порушення, поданому від імені кількох художників проти Stability AI, Deviant Art і Midjourney, стверджується, що модель Stable Diffusion, яку використовують фірми-відповідачі, містить роботи художників без дозволу. Справа була змінена в листопаді 2023 року, щоб включити нового відповідача, Runway AI, триває бути позовним.

Автори попереджають, що паслін має деякі обмеження. Зокрема, зображення, оброблені за допомогою програмного забезпечення, можуть незначно відрізнятися від оригіналу, зокрема ілюстрації, у яких використовуються рівні кольори та гладкий фон. Крім того, вони помічають, що можуть бути розроблені методи скасування Nightshade, хоча вони вважають, що можуть адаптувати своє програмне забезпечення, щоб йти в ногу з контрзаходами.

Про це у соцмережі повідомив доцент кафедри інформатики Альбертського університету Метью Гуздіал після, «Це крута і своєчасна робота! Але я хвилююся, що це занадто розкручене рішення. Він працює лише з моделями на основі CLIP і, за словами авторів, потребує «отруєних» 8 мільйонів зображень, щоб мати значний вплив на створення подібних зображень для моделей LAION».

Glaze, який досяг 1.0 минулого червня, має веб-версія, і зараз на своєму 1.1.1 реліз, змінює зображення, щоб моделі, навчені на цих зображеннях, не повторювали візуальний стиль художника.

Імітація стилю — доступна через закриті сервіси перетворення тексту в зображення, як-от Midjourney, і через моделі з відкритим кодом, як-от Stable Diffusion — можлива, просто запропонувавши моделі перетворення тексту в зображення створити зображення в стилі певного художника.

Команда вважає, що художники повинні мати спосіб запобігти захопленню та відтворенню своїх візуальних стилів.

«Стильова мімікрія призводить до ряду шкідливих наслідків, які можуть бути неочевидними на перший погляд», — стверджують бофіни. «Для митців, чиї стилі навмисно копіюються, вони не тільки бачать втрату комісійних і основного доходу, але й низькоякісні синтетичні копії, розкидані в Інтернеті, послаблюють їхній бренд і репутацію. Найголовніше те, що художники пов’язують свої стилі з самою своєю ідентичністю».

Вони порівнюють стильову мімікрію з крадіжкою особистих даних і кажуть, що це перешкоджає митцям-початківцям створювати нові роботи.

Команда рекомендує художникам використовувати як пасльонові, так і глазурі. Зараз ці два інструменти потрібно завантажувати та інсталювати окремо, але розробляється комбінована версія. ®