Google में, हम एक बनाए रखते हैं भेद्यता इनाम कार्यक्रम Google के स्वामित्व वाली और अल्फाबेट-सहायक वेब संपत्तियों में मुद्दों को संबोधित करने वाले अत्याधुनिक बाहरी योगदानों का सम्मान करना। एआई प्रौद्योगिकियों में तेजी से प्रगति के साथ बने रहना और यह सुनिश्चित करना कि हम सुरक्षा चुनौतियों से निपटने के लिए तैयार हैं जिम्मेदार वैसे, हमने हाल ही में अपने मौजूदा का विस्तार किया है बग हंटर्स कार्यक्रम हमारे एआई सिस्टम के लिए विशिष्ट मुद्दों और कमजोरियों की तीसरे पक्ष की खोज और रिपोर्टिंग को बढ़ावा देना। यह विस्तार इसे लागू करने के हमारे प्रयास का हिस्सा है स्वैच्छिक एआई प्रतिबद्धताएँ जिसे हमने जुलाई में व्हाइट हाउस में बनाया था।
सुरक्षा समुदाय को इन घटनाक्रमों को बेहतर ढंग से समझने में मदद करने के लिए, हमने इनाम कार्यक्रम तत्वों पर अधिक जानकारी शामिल की है।
पुरस्कारों के लिए क्या गुंजाइश है?
हमारे हाल ही में एआई रेड टीम की रिपोर्ट, जो पर आधारित है Google की AI रेड टीम अभ्यासों में, हमने सामान्य युक्तियों, तकनीकों और प्रक्रियाओं (टीटीपी) की पहचान की है जिन्हें हम सबसे अधिक प्रासंगिक और यथार्थवादी मानते हैं एआई सिस्टम के खिलाफ उपयोग करने के लिए वास्तविक दुनिया के प्रतिद्वंद्वी. निम्नलिखित तालिका में वह शामिल है जो हमने अनुसंधान समुदाय को एआई बग रिपोर्ट के लिए हमारे मानदंडों को समझने में मदद करने के लिए सीखा और हमारे इनाम कार्यक्रम के दायरे में क्या है। यह ध्यान रखना महत्वपूर्ण है कि इनाम की राशि हमले के परिदृश्य की गंभीरता और प्रभावित लक्ष्य के प्रकार (विज़िट) पर निर्भर करती है प्रोग्राम नियम पृष्ठ हमारी इनाम तालिका पर अधिक जानकारी के लिए)।
त्वरित हमले: प्रतिकूल संकेत तैयार करना जो एक प्रतिद्वंद्वी को मॉडल के व्यवहार और इसलिए, आउटपुट को उन तरीकों से प्रभावित करने की अनुमति देता है जो एप्लिकेशन द्वारा इच्छित नहीं थे। |
शीघ्र इंजेक्शन जो पीड़ितों के लिए अदृश्य होते हैं और पीड़ित के खाते या उनकी किसी संपत्ति की स्थिति बदल देते हैं। |
|
किसी भी उपकरण में त्वरित इंजेक्शन जिसमें प्रतिक्रिया का उपयोग निर्णय लेने के लिए किया जाता है जो सीधे पीड़ित उपयोगकर्ताओं को प्रभावित करता है। |
||
प्रॉम्प्ट या प्रस्तावना निष्कर्षण जिसमें एक उपयोगकर्ता मॉडल को प्राइम करने के लिए उपयोग किए जाने वाले प्रारंभिक प्रॉम्प्ट को तभी निकालने में सक्षम होता है जब संवेदनशील जानकारी निकाली गई प्रस्तावना में मौजूद होती है। |
||
अपने स्वयं के सत्र में उल्लंघनकारी, भ्रामक, या तथ्यात्मक रूप से गलत सामग्री उत्पन्न करने के लिए किसी उत्पाद का उपयोग करना: उदाहरण के लिए, "जेलब्रेक"। इसमें "मतिभ्रम" और तथ्यात्मक रूप से गलत प्रतिक्रियाएँ शामिल हैं। Google के जेनरेटिव AI उत्पादों में पहले से ही इस प्रकार की सामग्री समस्याओं के लिए एक समर्पित रिपोर्टिंग चैनल है। |
दायरे से बाहर |
|
प्रशिक्षण डेटा निष्कर्षण: ऐसे हमले जो संवेदनशील जानकारी वाले शब्दशः प्रशिक्षण उदाहरणों को सफलतापूर्वक पुनर्निर्माण करने में सक्षम हैं। इसे सदस्यता अनुमान भी कहा जाता है। |
प्रशिक्षण डेटा निष्कर्षण जो प्रशिक्षण डेटा सेट में उपयोग की गई वस्तुओं का पुनर्निर्माण करता है जो संवेदनशील, गैर-सार्वजनिक जानकारी को लीक करते हैं। |
|
निष्कर्षण जो गैर-संवेदनशील/सार्वजनिक जानकारी का पुनर्निर्माण करता है। |
दायरे से बाहर |
|
मॉडल में हेरफेर: एक हमलावर किसी मॉडल के व्यवहार को गुप्त रूप से बदलने में सक्षम होता है ताकि वे पूर्व-परिभाषित प्रतिकूल व्यवहार को ट्रिगर कर सकें। |
प्रतिकूल आउटपुट या व्यवहार जिसे एक हमलावर Google के स्वामित्व और संचालित मॉडल ("बैकडोर") में विशिष्ट इनपुट के माध्यम से विश्वसनीय रूप से ट्रिगर कर सकता है। केवल उस दायरे में जब किसी मॉडल के आउटपुट का उपयोग किसी पीड़ित के खाते या डेटा की स्थिति को बदलने के लिए किया जाता है। |
|
ऐसे हमले जिनमें एक हमलावर हमलावर की पसंद के अनुसार पीड़ित के सत्र में मॉडल के आउटपुट को प्रभावित करने के लिए मॉडल के प्रशिक्षण डेटा में हेरफेर करता है। केवल उस दायरे में जब किसी मॉडल के आउटपुट का उपयोग किसी पीड़ित के खाते या डेटा की स्थिति को बदलने के लिए किया जाता है। |
||
प्रतिकूल गड़बड़ी: इनपुट जो एक मॉडल को प्रदान किए जाते हैं जिसके परिणामस्वरूप मॉडल से एक नियतात्मक, लेकिन अत्यधिक अप्रत्याशित आउटपुट प्राप्त होता है। |
ऐसे संदर्भ जिनमें कोई विरोधी विश्वसनीय रूप से सुरक्षा नियंत्रण में गलत वर्गीकरण को ट्रिगर कर सकता है जिसका दुरुपयोग दुर्भावनापूर्ण उपयोग या प्रतिकूल लाभ के लिए किया जा सकता है। |
|
ऐसे संदर्भ जिनमें किसी मॉडल का गलत आउटपुट या वर्गीकरण Google या उपयोगकर्ता को नुकसान पहुंचाने के लिए एक सम्मोहक हमले का परिदृश्य या व्यवहार्य मार्ग प्रस्तुत नहीं करता है। |
दायरे से बाहर |
|
मॉडल चोरी/घुसपैठ: एआई मॉडल में अक्सर संवेदनशील बौद्धिक संपदा शामिल होती है, इसलिए हम इन संपत्तियों की सुरक्षा को उच्च प्राथमिकता देते हैं। घुसपैठ के हमले हमलावरों को किसी मॉडल के बारे में विवरण जैसे उसकी वास्तुकला या वजन चुराने की अनुमति देते हैं। |
ऐसे हमले जिनमें गोपनीय/मालिकाना मॉडल की सटीक वास्तुकला या वजन निकाला जाता है। |
|
ऐसे हमले जिनमें वास्तुकला और वज़न सटीक रूप से नहीं निकाले जाते हैं, या जब उन्हें किसी गैर-गोपनीय मॉडल से निकाला जाता है। |
दायरे से बाहर |
|
यदि आपको ऊपर सूचीबद्ध के अलावा किसी एआई-संचालित टूल में कोई खामी मिलती है, तो आप अभी भी सबमिट कर सकते हैं, बशर्ते कि यह आवश्यकताओं को पूरा करता हो। हमारे कार्यक्रम पृष्ठ पर सूचीबद्ध योग्यताएँ. |
एक बग या व्यवहार जो स्पष्ट रूप से वैध सुरक्षा या दुरुपयोग मुद्दे के लिए हमारी योग्यताओं को पूरा करता है। |
|
संभावित रूप से हानिकारक कुछ करने के लिए एआई उत्पाद का उपयोग करना जो अन्य उपकरणों के साथ पहले से ही संभव है। उदाहरण के लिए, ओपन सोर्स सॉफ़्टवेयर (सार्वजनिक रूप से उपलब्ध का उपयोग करके पहले से ही संभव) में भेद्यता ढूंढना स्थिर विश्लेषण उपकरण) और किसी हानिकारक प्रश्न का उत्तर तब प्रस्तुत करना जब उत्तर पहले से ही ऑनलाइन उपलब्ध हो। |
दायरे से बाहर |
|
हमारे कार्यक्रम के अनुरूप, जिन मुद्दों के बारे में हम पहले से जानते हैं वे पुरस्कार के पात्र नहीं हैं। |
दायरे से बाहर |
|
संभावित कॉपीराइट मुद्दे - ऐसे निष्कर्ष जिनमें उत्पाद कॉपीराइट संरक्षित प्रतीत होने वाली सामग्री लौटाते हैं। Google के जेनरेटिव AI उत्पादों में पहले से ही इस प्रकार की सामग्री समस्याओं के लिए एक समर्पित रिपोर्टिंग चैनल है। |
दायरे से बाहर |
हमारा मानना है कि हमारे बग बाउंटी कार्यक्रम को हमारे एआई सिस्टम में विस्तारित करने से सहायता मिलेगी जिम्मेदार एआई नवाचार, और हमारी एआई-संचालित सुविधाओं में सुरक्षा और दुरुपयोग के मुद्दों की खोज और उन्हें ठीक करने के लिए अनुसंधान समुदाय के साथ अपना काम जारी रखने के लिए तत्पर हैं। यदि आपको कोई योग्य समस्या मिलती है, तो कृपया हमें अपनी बग रिपोर्ट भेजने के लिए हमारी बग हंटर्स वेबसाइट पर जाएं और - यदि समस्या वैध पाई जाती है - तो हमारे उपयोगकर्ताओं को सुरक्षित रखने में हमारी मदद करने के लिए पुरस्कृत हों।
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://www.darkreading.com/vulnerabilities-threats/establishing-reward-criteria-for-reporting-bugs-in-ai-products
- :है
- :नहीं
- $यूपी
- 26
- 32
- 33
- 35% तक
- 36
- 41
- 7
- 8
- 9
- a
- योग्य
- About
- ऊपर
- गाली
- के साथ दुर्व्यवहार
- अनुसार
- लेखा
- पता
- को संबोधित
- अग्रिमों
- विरोधात्मक
- को प्रभावित
- लग जाना
- के खिलाफ
- AI
- एआई मॉडल
- एआई सिस्टम
- ऐ संचालित
- अनुमति देना
- पहले ही
- भी
- राशियाँ
- an
- विश्लेषण
- और
- जवाब
- कोई
- आवेदन
- स्थापत्य
- हैं
- AS
- संपत्ति
- At
- आक्रमण
- आक्रमण
- उपलब्ध
- पिछले दरवाजे
- आधारित
- BE
- व्यवहार
- मानना
- बेहतर
- इनाम
- बाउंटी कार्यक्रम
- दोष
- बग बक्षीस
- कीड़े
- लेकिन
- by
- बुलाया
- कर सकते हैं
- चुनौतियों
- परिवर्तन
- चैनल
- वर्गीकरण
- स्पष्ट रूप से
- सामान्य
- समुदाय
- सम्मोहक
- विचार करना
- संगत
- शामिल
- सामग्री
- जारी रखने के लिए
- योगदान
- नियंत्रण
- Copyright
- मापदंड
- अग्रणी
- तिथि
- डेटा सेट
- निर्णय
- समर्पित
- निर्भर
- विवरण
- के घटनाक्रम
- सीधे
- अन्य वायरल पोस्ट से
- खोज
- do
- कर देता है
- e
- प्रयास
- तत्व
- पात्र
- सुनिश्चित
- स्थापना
- ईथर (ईटीएच)
- उदाहरण
- उदाहरण
- एक्सफ़िलिएशन
- विस्तारित
- का विस्तार
- विस्तार
- बाहरी
- उद्धरण
- निष्कर्षण
- संभव
- विशेषताएं
- खोज
- खोज
- निष्कर्ष
- फिक्स
- दोष
- निम्नलिखित
- के लिए
- आगे
- पोषण
- पाया
- से
- FT
- लाभ
- उत्पन्न
- उत्पादक
- जनरेटिव एआई
- Go
- गूगल
- नुकसान
- हानिकारक
- है
- मदद
- मदद
- इसलिये
- हाई
- अत्यधिक
- आदर
- मकान
- एचटीएमएल
- http
- HTTPS
- पहचान
- if
- लागू करने के
- महत्वपूर्ण
- in
- ग़लत
- शामिल
- शामिल
- शामिल
- को शामिल किया गया
- प्रभाव
- करें-
- प्रारंभिक
- निवेश
- निविष्टियां
- बौद्धिक
- बौद्धिक संपदा
- इरादा
- में
- अदृश्य
- मुद्दा
- मुद्दों
- IT
- आइटम
- आईटी इस
- जेपीजी
- जुलाई
- रखना
- जानना
- रिसाव
- सीखा
- सूचीबद्ध
- देखिए
- बनाया गया
- बनाए रखना
- बनाना
- की बैठक
- सदस्यता
- भ्रामक
- आदर्श
- मॉडल
- अधिक
- अधिकांश
- नोट
- of
- अक्सर
- on
- ऑनलाइन
- केवल
- खुला
- खुला स्रोत
- संचालित
- or
- अन्य
- हमारी
- उत्पादन
- अपना
- स्वामित्व
- भाग
- पथ
- पीडीएफ
- जगह
- प्लेटो
- प्लेटो डेटा इंटेलिजेंस
- प्लेटोडाटा
- कृप्या अ
- संभव
- संभावित
- ठीक - ठीक
- तैयार
- वर्तमान
- मुख्य
- प्राथमिकता
- प्रक्रिया
- उत्पादन
- एस्ट्रो मॉल
- उत्पाद
- कार्यक्रम
- संकेतों
- गुण
- संपत्ति
- संरक्षित
- संरक्षण
- बशर्ते
- सार्वजनिक रूप से
- योग्यता
- क्वालीफाइंग
- प्रश्न
- उपवास
- RE
- असली दुनिया
- यथार्थवादी
- हाल ही में
- लाल
- प्रासंगिक
- रिपोर्ट
- रिपोर्टिंग
- रिपोर्ट
- अनुसंधान
- अनुसंधान समुदाय
- प्रतिक्रिया
- प्रतिक्रियाएं
- परिणाम
- वापसी
- इनाम
- पुरस्कृत
- नियम
- s
- सुरक्षित
- परिदृश्य
- क्षेत्र
- सुरक्षा
- भेजें
- संवेदनशील
- सत्र
- सेट
- तीव्रता
- So
- सॉफ्टवेयर
- कुछ
- स्रोत
- विशिष्ट
- राज्य
- फिर भी
- प्रस्तुत
- सफलतापूर्वक
- ऐसा
- समर्थन
- सिस्टम
- तालिका
- युक्ति
- लक्ष्य
- टीम
- तकनीक
- टेक्नोलॉजीज
- से
- कि
- RSI
- राज्य
- लेकिन हाल ही
- इन
- वे
- तीसरे दल
- इसका
- सेवा मेरे
- साधन
- उपकरण
- प्रशिक्षण
- ट्रिगर
- टाइप
- प्रकार
- समझना
- अप्रत्याशित
- us
- उपयोग
- प्रयुक्त
- उपयोगकर्ता
- उपयोगकर्ताओं
- का उपयोग
- वैध
- Ve
- के माध्यम से
- शिकार
- शिकार
- भेंट
- स्वैच्छिक
- कमजोरियों
- भेद्यता
- मार्ग..
- तरीके
- we
- वेब
- वेबसाइट
- थे
- क्या
- एचएमबी क्या है?
- कब
- कौन कौन से
- सफेद
- व्हाइट हाउस
- विकिपीडिया
- मर्जी
- साथ में
- काम
- इसलिए आप
- आपका
- जेफिरनेट