아티스트는 이제 AI의 오용을 방지하기 위해 이미지를 독살할 수 있습니다

플라톤에 의해 재발행

팔로워 : 0

이번 주 시카고 대학교(University of Chicago)는 허가 없이 데이터로 시스템을 훈련시키는 부도덕한 기계 학습 모델 제작자를 처벌하기 위해 만들어진 도구인 Nightshade 1.0을 출시했습니다.

가지 속의 식물 공격적인 데이터 중독 도구로, 방어 스타일 보호 도구와 짝을 이루는 도구입니다. 유약, 그 등록 적용 작년 XNUMX 월.

Nightshade는 이미지 파일을 중독시켜 허가 없이 데이터를 섭취하는 모델에게 소화불량을 유발합니다. 이는 이러한 이미지 중심 모델 훈련이 콘텐츠 제작자의 저작물 사용에 대한 희망을 존중하도록 하기 위한 것입니다.

"Nightshade는 원본 이미지의 눈에 보이는 변화를 최소화하는 다목적 최적화로 계산됩니다." 말했다 프로젝트를 담당하는 팀.

“예를 들어 인간의 눈에는 녹색 들판에 있는 암소의 음영 처리된 이미지가 크게 변하지 않은 것으로 보일 수 있지만 AI 모델은 풀밭에 누워 있는 커다란 가죽 지갑을 볼 수 있습니다. “

Nightshade는 시카고 대학교 박사 과정 학생인 Shawn Shan, Wenxin Ding, Josephine Passananti와 Heather Zheng 및 Ben Zhao 교수가 개발했으며 이들 중 일부는 Glaze에도 도움을 주었습니다.

에 설명 연구 논문 2023년 XNUMX월 Nightshade는 즉각적인 중독 공격입니다. 이미지 중독에는 모델 훈련을 위해 이미지가 수집될 때 해당 개념의 경계를 모호하게 하기 위해 실제로 묘사된 내용을 설명하는 라벨(예: 고양이)을 선택하는 것이 포함됩니다.

따라서 Nightshade 중독 이미지에 대해 훈련된 모델 사용자는 고양이에 대한 프롬프트를 제출하고 개나 물고기 이미지에 대한 알림을 받을 수 있습니다. 이런 종류의 예측할 수 없는 반응은 텍스트-이미지 모델의 유용성을 크게 떨어뜨립니다. 즉, 모델 제작자는 무료로 제공되는 데이터에 대해서만 교육하도록 하는 인센티브를 갖게 됩니다.

저자는 논문에서 “Nightshade는 콘텐츠 소유자가 저작권 고지, 스크레이핑 금지/크롤링 지침 및 옵트아웃 목록을 무시하거나 무시하는 모델 트레이너로부터 지적 재산을 보호할 수 있는 강력한 도구를 제공할 수 있습니다.”라고 밝혔습니다.

작품 창작자와 소유자의 의사를 고려하지 않아 소송으로 이어짐 작년에 제출, AI 비즈니스의 이익을 위해 허가 없이 데이터를 수집하는 것에 대한 광범위한 반발의 일환입니다. Stability AI, Deviant Art 및 Midjourney를 상대로 여러 아티스트를 대신하여 제기된 침해 주장은 피고 회사가 사용하는 Stable Diffusion 모델이 허가 없이 아티스트의 작업을 통합했다고 주장합니다. 새로운 피고인 Runway AI를 포함하도록 2023년 XNUMX월에 수정된 이 사건은, 계속 소송을 당합니다.

저자는 Nightshade에 몇 가지 제한 사항이 있다고 경고합니다. 특히, 소프트웨어로 처리된 이미지는 원본과 미묘하게 다를 수 있으며, 특히 단조로운 색상과 부드러운 배경을 사용하는 작품은 더욱 그렇습니다. 또한 그들은 Nightshade를 실행 취소하는 기술이 개발될 수 있음을 관찰하지만 대응책에 보조를 맞추기 위해 소프트웨어를 조정할 수 있다고 믿습니다.

앨버타 대학의 컴퓨터 과학 조교수인 매튜 구즈다이얼(Matthew Guzdial)은 소셜 미디어에서 이렇게 말했습니다. 게시, “이것은 멋지고 시기적절한 작업입니다! 하지만 이것이 해결책으로 과대평가되고 있는 것은 아닌지 걱정됩니다. CLIP 기반 모델에서만 작동하며 작성자에 따르면 LAION 모델에 대한 유사한 이미지를 생성하는 데 상당한 영향을 미치려면 '중독'된 8만 개의 이미지가 필요합니다."

지난 1.0월 XNUMX에 도달한 Glaze는 웹 버전, 현재 진행 중입니다. 1.1.1 릴리스, 해당 이미지에 대해 훈련된 모델이 아티스트의 시각적 스타일을 복제하지 못하도록 이미지를 변경합니다.

Midjourney와 같은 폐쇄형 텍스트-이미지 서비스 및 Stable Diffusion과 같은 오픈 소스 모델을 통해 제공되는 스타일 모방은 특정 아티스트의 스타일로 이미지를 생성하도록 텍스트-이미지 모델을 유도하는 것만으로도 가능합니다.

팀은 아티스트가 자신의 시각적 스타일을 포착하고 재현하는 것을 방지할 수 있는 방법이 있어야 한다고 믿습니다.

"스타일 모방은 언뜻 보기에는 명확하지 않을 수 있는 여러 가지 해로운 결과를 낳습니다."라고 Boffins는 말합니다. “의도적으로 스타일을 복제한 아티스트의 경우 커미션과 기본 수입의 손실을 볼 뿐만 아니라 온라인에 흩어져 있는 저품질 합성 사본이 브랜드와 명성을 희석시킵니다. 가장 중요한 것은 예술가들이 자신의 스타일을 자신의 정체성과 연관시키는 것입니다.”

그들은 스타일 모방을 신원 도용에 비유하고 이것이 예술가 지망생이 새로운 작품을 창작할 의욕을 잃게 한다고 말합니다.

팀에서는 아티스트에게 Nightshade와 Glaze를 모두 사용할 것을 권장합니다. 현재 두 도구는 각각 별도로 다운로드하여 설치해야 하지만 결합된 버전이 개발 중입니다. ®