एआई द्वारा दुरुपयोग रोकने के लिए कलाकार अब अपनी छवियों में जहर डाल सकते हैं

प्लेटो द्वारा पुनर्प्रकाशित

अनुयायियों: 0

शिकागो विश्वविद्यालय के बोफिन्स ने इस सप्ताह नाइटशेड 1.0 जारी किया, जो मशीन लर्निंग मॉडल के बेईमान निर्माताओं को दंडित करने के लिए बनाया गया एक उपकरण है जो पहले अनुमति प्राप्त किए बिना डेटा पर अपने सिस्टम को प्रशिक्षित करते हैं।

नैटशाइड एक आक्रामक डेटा विषाक्तता उपकरण है, जिसे रक्षात्मक शैली सुरक्षा उपकरण कहा जाता है शीशे का आवरण, जो रजिस्टर कवर पिछले साल फरवरी में।

नाइटशेड उन मॉडलों को अपच देने के लिए छवि फ़ाइलों को ज़हर देता है जो बिना अनुमति के डेटा निगलते हैं। इसका उद्देश्य उन प्रशिक्षण छवि-उन्मुख मॉडलों को उनके काम के उपयोग के बारे में सामग्री रचनाकारों की इच्छाओं का सम्मान करना है।

"नाइटशेड की गणना एक बहुउद्देश्यीय अनुकूलन के रूप में की जाती है जो मूल छवि में दृश्यमान परिवर्तनों को कम करता है," कहा परियोजना के लिए जिम्मेदार टीम.

“उदाहरण के लिए, मानव आंखें हरे मैदान में गाय की छायांकित छवि देख सकती हैं, जो काफी हद तक अपरिवर्तित है, लेकिन एक एआई मॉडल घास में पड़ा हुआ एक बड़ा चमड़े का पर्स देख सकता है। “

नाइटशेड को शिकागो विश्वविद्यालय के डॉक्टरेट छात्रों शॉन शान, वेन्क्सिन डिंग और जोसेफिन पासनंती और प्रोफेसरों हीदर झेंग और बेन झाओ द्वारा विकसित किया गया था, जिनमें से कुछ ने ग्लेज़ के साथ भी मदद की थी।

a में वर्णित है शोध पत्र अक्टूबर 2023 में, नाइटशेड एक त्वरित-विशिष्ट ज़हर का हमला है। किसी छवि में जहर घोलने के लिए एक लेबल चुनना शामिल है (उदाहरण के लिए एक बिल्ली) जो वर्णन करता है कि वास्तव में क्या चित्रित किया गया है ताकि उस अवधारणा की सीमाओं को धुंधला किया जा सके जब छवि को मॉडल प्रशिक्षण के लिए शामिल किया जाता है।

इसलिए नाइटशेड ज़हरीली छवियों पर प्रशिक्षित मॉडल का उपयोगकर्ता एक बिल्ली के लिए एक संकेत प्रस्तुत कर सकता है और एक कुत्ते या मछली की छवि की सूचना प्राप्त कर सकता है। इस प्रकार की अप्रत्याशित प्रतिक्रियाएँ टेक्स्ट-टू-इमेज मॉडल को काफी कम उपयोगी बनाती हैं, जिसका अर्थ है कि मॉडल निर्माताओं के पास यह सुनिश्चित करने के लिए एक प्रोत्साहन है कि वे केवल उसी डेटा पर प्रशिक्षण लें जो मुफ़्त में पेश किया गया है।

लेखकों ने अपने पेपर में कहा है, "नाइटशेड सामग्री मालिकों को मॉडल प्रशिक्षकों के खिलाफ अपनी बौद्धिक संपदा की रक्षा करने के लिए एक शक्तिशाली उपकरण प्रदान कर सकता है जो कॉपीराइट नोटिस, स्क्रैप-न करें/क्रॉल निर्देशों और ऑप्ट-आउट सूचियों की उपेक्षा या उपेक्षा करते हैं।"

कलाकृति रचनाकारों और मालिकों की इच्छाओं पर विचार करने में विफलता के कारण मुकदमा चला पिछले साल दायरएआई व्यवसायों के लाभ के लिए डेटा की अनुमति रहित कटाई के खिलाफ व्यापक विरोध का हिस्सा है। स्टेबिलिटी एआई, डेवियंट आर्ट और मिडजर्नी के खिलाफ कई कलाकारों की ओर से किए गए उल्लंघन के दावे में आरोप लगाया गया है कि प्रतिवादी फर्मों द्वारा इस्तेमाल किया जाने वाला स्टेबल डिफ्यूजन मॉडल बिना अनुमति के कलाकारों के काम को शामिल करता है। नवंबर 2023 में संशोधित मामले में एक नए प्रतिवादी, रनवे एआई को शामिल किया गया। जारी मुकदमा चलाया जाना.

लेखक सावधान करते हैं कि नाइटशेड की कुछ सीमाएँ हैं। विशेष रूप से, सॉफ़्टवेयर के साथ संसाधित छवियां मूल से सूक्ष्म रूप से भिन्न हो सकती हैं, विशेष रूप से कलाकृति जो सपाट रंगों और चिकनी पृष्ठभूमि का उपयोग करती है। साथ ही, उनका मानना है कि नाइटशेड को नष्ट करने की तकनीकें विकसित की जा सकती हैं, हालांकि उनका मानना है कि वे जवाबी उपायों के साथ तालमेल बनाए रखने के लिए अपने सॉफ़्टवेयर को अनुकूलित कर सकते हैं।

अल्बर्टा विश्वविद्यालय में कंप्यूटर विज्ञान के सहायक प्रोफेसर मैथ्यू गुज़डियाल ने एक सोशल मीडिया में कहा पद, “यह बढ़िया और समय पर किया गया काम है! लेकिन मुझे चिंता है कि इसे समाधान के रूप में अत्यधिक प्रचारित किया जा रहा है। यह केवल सीएलआईपी-आधारित मॉडल के साथ काम करता है और लेखकों के अनुसार, LAION मॉडल के लिए समान छवियों को बनाने में महत्वपूर्ण प्रभाव डालने के लिए 8 मिलियन 'जहरीली' छवियों की आवश्यकता होगी।

ग्लेज़, जो पिछले जून में 1.0 तक पहुंच गया था एक वेब संस्करण, और अब इस पर है 1.1.1 रिलीज, उन छवियों पर प्रशिक्षित मॉडलों को कलाकार की दृश्य शैली की नकल करने से रोकने के लिए छवियों को बदलता है।

स्टाइल मिमिक्री - मिडजॉर्नी जैसी बंद टेक्स्ट-टू-इमेज सेवाओं के माध्यम से और स्टेबल डिफ्यूजन जैसे ओपन-सोर्स मॉडल के माध्यम से उपलब्ध है - एक विशिष्ट कलाकार की शैली में एक छवि बनाने के लिए टेक्स्ट-टू-इमेज मॉडल को प्रेरित करके ही संभव है।

टीम का मानना है कि कलाकारों के पास अपनी दृश्य शैलियों के कैप्चर और पुनरुत्पादन को रोकने का एक तरीका होना चाहिए।

बोफ़िन्स कहते हैं, "स्टाइल मिमिक्री कई हानिकारक परिणाम उत्पन्न करती है जो पहली नज़र में स्पष्ट नहीं हो सकते हैं।" “जिन कलाकारों की शैलियों की जानबूझकर नकल की जाती है, उन्हें न केवल कमीशन और मूल आय में नुकसान होता है, बल्कि ऑनलाइन बिखरी हुई कम गुणवत्ता वाली सिंथेटिक प्रतियां उनके ब्रांड और प्रतिष्ठा को कमजोर करती हैं। सबसे महत्वपूर्ण बात यह है कि कलाकार अपनी शैलियों को अपनी पहचान से जोड़ते हैं।

वे स्टाइल मिमिक्री की तुलना पहचान की चोरी से करते हैं और कहते हैं कि यह नए काम करने के इच्छुक कलाकारों को हतोत्साहित करता है।

टीम अनुशंसा करती है कि कलाकार नाइटशेड और ग्लेज़ दोनों का उपयोग करें। वर्तमान में दोनों टूल को अलग-अलग डाउनलोड और इंस्टॉल करना होगा, लेकिन एक संयुक्त संस्करण विकसित किया जा रहा है। ®