گوگل میں، ہم ایک کو برقرار رکھتے ہیں۔ کمزوری کا انعام پروگرام to honor cutting-edge external contributions addressing issues in Google-owned and Alphabet-subsidiary Web properties. To keep up with rapid advances in AI technologies and ensure we’re prepared to address the security challenges in a ذمہ دار ویسے، ہم نے حال ہی میں اپنے موجودہ کو بڑھایا ہے۔ بگ ہنٹر پروگرام ہمارے AI سسٹمز کے لیے مخصوص مسائل اور کمزوریوں کی تیسری پارٹی کی دریافت اور رپورٹنگ کو فروغ دینے کے لیے۔ یہ توسیع ہماری کوششوں کا حصہ ہے۔ رضاکارانہ AI وعدے جو ہم نے جولائی میں وائٹ ہاؤس میں بنایا تھا۔
To help the security community better understand these developments, we’ve included more information on reward program elements.
What’s in Scope for Rewards
ہماری حالیہ میں اے آئی ریڈ ٹیم کی رپورٹ، جس پر مبنی ہے Google’s AI Red Team مشقوں میں، ہم نے مشترکہ حکمت عملیوں، تکنیکوں اور طریقہ کار (TTPs) کی نشاندہی کی جنہیں ہم سب سے زیادہ متعلقہ اور حقیقت پسندانہ سمجھتے ہیں۔ AI سسٹمز کے خلاف استعمال کرنے کے لیے حقیقی دنیا کے مخالف. The following table incorporates what we learned to help the research community understand our criteria for AI bug reports and what’s in scope for our reward program. It’s important to note that reward amounts are dependent on severity of the attack scenario and the type of target affected (visit پروگرام کے قواعد کا صفحہ ہمارے انعام کی میز پر مزید معلومات کے لیے)۔
فوری حملے: مخالفانہ اشارے تیار کرنا جو ایک مخالف کو ماڈل کے طرز عمل پر اثر انداز ہونے کی اجازت دیتے ہیں اور اس وجہ سے آؤٹ پٹ، ان طریقوں سے جن کا مقصد ایپلی کیشن نہیں تھا۔ |
Prompt injections that are invisible to victims and change the state of the victim’s account or any of their assets. |
|
کسی بھی ٹولز میں فوری انجیکشن لگائیں جس میں ردعمل کا استعمال ایسے فیصلے کرنے کے لیے کیا جاتا ہے جو متاثرہ صارفین کو براہ راست متاثر کرتے ہیں۔ |
||
پرامپٹ یا تمہید نکالنا جس میں صارف ماڈل کو پرائم کرنے کے لیے استعمال ہونے والے ابتدائی پرامپٹ کو صرف اس صورت میں نکال سکتا ہے جب اخذ کردہ تمہید میں حساس معلومات موجود ہو۔ |
||
Using a product to generate violative, misleading, or factually incorrect content in your own session: e.g, “jailbreaks.” This includes “hallucinations” and factually inaccurate responses. Google’s generative AI products already have a dedicated reporting channel for these types of content issues. |
گنجائش سے باہر |
|
تربیتی ڈیٹا نکالنا: ایسے حملے جو کامیابی کے ساتھ لفظی تربیتی مثالوں کو دوبارہ تشکیل دینے کے قابل ہوتے ہیں جن میں حساس معلومات ہوتی ہیں۔ رکنیت کا اندازہ بھی کہا جاتا ہے۔ |
تربیتی ڈیٹا نکالنا جو تربیتی ڈیٹا سیٹ میں استعمال ہونے والی اشیاء کو دوبارہ تشکیل دیتا ہے جو حساس، غیر عوامی معلومات کو لیک کرتے ہیں۔ |
|
اخراج جو غیر حساس/عوامی معلومات کو دوبارہ تشکیل دیتا ہے۔ |
گنجائش سے باہر |
|
ہیرا پھیری کرنے والا ماڈل: ایک حملہ آور جو کسی ماڈل کے رویے کو خفیہ طور پر تبدیل کر سکتا ہے تاکہ وہ پہلے سے طے شدہ مخالفانہ رویے کو متحرک کر سکے۔ |
Adversarial output or behavior that an attacker can reliably trigger via specific input in a model owned and operated by Google (“backdoors”). Only in scope when a model’s output is used to change the state of a victim’s account or data. |
|
Attacks in which an attacker manipulates the training data of the model to influence the model’s output in a victim’s session according to the attacker’s preference. Only in scope when a model’s output is used to change the state of a victim’s account or data. |
||
Adversarial Perturbation: ان پٹ جو کسی ماڈل کو فراہم کیے جاتے ہیں جس کے نتیجے میں ماڈل سے ایک تعییناتی، لیکن انتہائی غیر متوقع آؤٹ پٹ ہوتا ہے۔ |
سیاق و سباق جس میں ایک مخالف قابل اعتماد طریقے سے سیکیورٹی کنٹرول میں غلط درجہ بندی کو متحرک کر سکتا ہے جس کا غلط استعمال یا مخالفانہ فائدہ کے لیے کیا جا سکتا ہے۔ |
|
Contexts in which a model’s incorrect output or classification does not pose a compelling attack scenario or feasible path to Google or user harm. |
گنجائش سے باہر |
|
ماڈل چوری/اخراج: AI ماڈلز میں اکثر حساس دانشورانہ املاک شامل ہوتی ہیں، اس لیے ہم ان اثاثوں کی حفاظت کو اعلیٰ ترجیح دیتے ہیں۔ ایکسفلٹریشن حملے حملہ آوروں کو کسی ماڈل کے بارے میں تفصیلات جیسے کہ اس کے فن تعمیر یا وزن کو چرانے کی اجازت دیتے ہیں۔ |
ایسے حملے جن میں خفیہ/ ملکیتی ماڈل کا عین فن تعمیر یا وزن نکالا جاتا ہے۔ |
|
Attacks in which the architecture and weights are not extracted precisely, or when they’re extracted from a non-confidential model. |
گنجائش سے باہر |
|
اگر آپ کو اوپر دیے گئے مواد کے علاوہ کسی AI سے چلنے والے ٹول میں کوئی خامی نظر آتی ہے، تو آپ پھر بھی جمع کرا سکتے ہیں، بشرطیکہ یہ ہمارے پروگرام کے صفحے پر درج قابلیت. |
ایک بگ یا رویہ جو واضح طور پر کسی درست سیکیورٹی یا بیجا استعمال کے مسئلے کے لیے ہماری اہلیت پر پورا اترتا ہے۔ |
|
AI پروڈکٹ کا استعمال ممکنہ طور پر نقصان دہ کام کرنے کے لیے جو دوسرے ٹولز کے ساتھ پہلے ہی ممکن ہے۔ مثال کے طور پر، اوپن سورس سافٹ ویئر میں کمزوری تلاش کرنا (پہلے سے ہی عوامی طور پر دستیاب کا استعمال کرتے ہوئے ممکن ہے۔ جامد تجزیہ کے اوزار) اور نقصان دہ سوال کا جواب تیار کرنا جب جواب پہلے ہی آن لائن دستیاب ہو۔ |
گنجائش سے باہر |
|
ہمارے پروگرام کے مطابق، ایسے مسائل جن کے بارے میں ہم پہلے سے جانتے ہیں وہ انعام کے اہل نہیں ہیں۔ |
گنجائش سے باہر |
|
Potential copyright issues — findings in which products return content appearing to be copyright protected. Google’s generative AI products already have a dedicated reporting channel for these types of content issues. |
گنجائش سے باہر |
ہمیں یقین ہے کہ ہمارے بگ باؤنٹی پروگرام کو ہمارے AI سسٹمز تک پھیلانے میں مدد ملے گی۔ ذمہ دار AI اختراع، اور ہماری AI سے چلنے والی خصوصیات میں سیکیورٹی اور غلط استعمال کے مسائل کو دریافت کرنے اور ان کو حل کرنے کے لیے ریسرچ کمیونٹی کے ساتھ اپنا کام جاری رکھنے کے منتظر ہیں۔ اگر آپ کو کوالیفائنگ مسئلہ ملتا ہے، تو براہ کرم ہمیں اپنی بگ رپورٹ بھیجنے کے لیے ہماری بگ ہنٹرز کی ویب سائٹ پر جائیں اور — اگر مسئلہ درست پایا جاتا ہے — اپنے صارفین کو محفوظ رکھنے میں ہماری مدد کرنے کے لیے انعام سے نوازا جائے۔
- SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
- پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
- پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
- پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
- پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
- ماخذ: https://www.darkreading.com/vulnerabilities-threats/establishing-reward-criteria-for-reporting-bugs-in-ai-products
- : ہے
- : نہیں
- $UP
- 26
- 32
- 33
- 35٪
- 36
- 41
- 7
- 8
- 9
- a
- قابلیت
- ہمارے بارے میں
- اوپر
- بدسلوکی
- کے ساتھ زیادتی
- کے مطابق
- اکاؤنٹ
- پتہ
- خطاب کرتے ہوئے
- ترقی
- شکست
- پر اثر انداز
- متاثر
- کے خلاف
- AI
- اے آئی ماڈلز
- اے آئی سسٹمز
- AI سے چلنے والا
- کی اجازت
- پہلے ہی
- بھی
- مقدار
- an
- تجزیہ
- اور
- جواب
- کوئی بھی
- درخواست
- فن تعمیر
- کیا
- AS
- اثاثے
- At
- حملہ
- حملے
- دستیاب
- گھر کے دروازے
- کی بنیاد پر
- BE
- رویے
- یقین ہے کہ
- بہتر
- فضل
- فضل پروگرام
- بگ کی اطلاع دیں
- بگ فضل
- کیڑوں
- لیکن
- by
- کہا جاتا ہے
- کر سکتے ہیں
- چیلنجوں
- تبدیل
- چینل
- درجہ بندی
- واضح طور پر
- کامن
- کمیونٹی
- زبردست
- غور کریں
- متواتر
- پر مشتمل ہے
- مواد
- جاری
- شراکت دار
- کنٹرول
- کاپی رائٹ
- معیار
- جدید
- اعداد و شمار
- ڈیٹا سیٹ
- فیصلے
- وقف
- انحصار
- تفصیلات
- رفت
- براہ راست
- دریافت
- دریافت
- do
- کرتا
- e
- کوشش
- عناصر
- اہل
- کو یقینی بنانے کے
- قیام
- Ether (ETH)
- مثال کے طور پر
- مثال کے طور پر
- exfiltration
- توسیع
- توسیع
- توسیع
- بیرونی
- نکالنے
- نکالنے
- ممکن
- خصوصیات
- مل
- تلاش
- نتائج
- درست کریں
- غلطی
- کے بعد
- کے لئے
- آگے
- رضاعی
- ملا
- سے
- FT
- حاصل کرنا
- پیدا
- پیداواری
- پیداواری AI۔
- Go
- گوگل
- نقصان پہنچانے
- نقصان دہ
- ہے
- مدد
- مدد
- لہذا
- ہائی
- انتہائی
- عزت
- ہاؤس
- HTML
- HTTP
- HTTPS
- کی نشاندہی
- if
- پر عملدرآمد
- اہم
- in
- غلط
- شامل
- شامل
- شامل ہیں
- شامل
- اثر و رسوخ
- معلومات
- ابتدائی
- ان پٹ
- آدانوں
- دانشورانہ
- املاک دانش
- ارادہ
- میں
- پوشیدہ
- مسئلہ
- مسائل
- IT
- اشیاء
- میں
- فوٹو
- جولائی
- رکھیں
- جان
- لیک
- سیکھا ہے
- فہرست
- دیکھو
- بنا
- برقرار رکھنے کے
- بنا
- ملتا ہے
- رکنیت
- گمراہ کرنا
- ماڈل
- ماڈل
- زیادہ
- سب سے زیادہ
- براہ مہربانی نوٹ کریں
- of
- اکثر
- on
- آن لائن
- صرف
- کھول
- اوپن سورس
- چل رہا ہے
- or
- دیگر
- ہمارے
- پیداوار
- خود
- ملکیت
- حصہ
- راستہ
- مقام
- پلاٹا
- افلاطون ڈیٹا انٹیلی جنس
- پلیٹو ڈیٹا
- مہربانی کرکے
- ممکن
- ممکنہ طور پر
- ٹھیک ہے
- تیار
- حال (-)
- وزیر اعظم
- ترجیح
- طریقہ کار
- پیداوار
- مصنوعات
- حاصل
- پروگرام
- اشارہ کرتا ہے
- خصوصیات
- جائیداد
- محفوظ
- حفاظت
- فراہم
- عوامی طور پر
- قابلیت
- کوالیفائنگ
- سوال
- تیزی سے
- RE
- حقیقی دنیا
- حقیقت
- حال ہی میں
- ریڈ
- متعلقہ
- رپورٹ
- رپورٹ
- رپورٹیں
- تحقیق
- ریسرچ کمیونٹی
- جواب
- جوابات
- نتائج کی نمائش
- واپسی
- انعام
- اجروثواب
- قوانین
- s
- محفوظ
- منظر نامے
- گنجائش
- سیکورٹی
- بھیجنے
- حساس
- اجلاس
- مقرر
- شدت
- So
- سافٹ ویئر کی
- کچھ
- ماخذ
- مخصوص
- حالت
- ابھی تک
- جمع
- کامیابی کے ساتھ
- اس طرح
- حمایت
- سسٹمز
- ٹیبل
- حکمت عملی
- ہدف
- ٹیم
- تکنیک
- ٹیکنالوجی
- سے
- کہ
- ۔
- ریاست
- ان
- یہ
- وہ
- تیسری پارٹی
- اس
- کرنے کے لئے
- کے آلے
- اوزار
- ٹریننگ
- ٹرگر
- قسم
- اقسام
- سمجھ
- غیر متوقع
- us
- استعمال کی شرائط
- استعمال کیا جاتا ہے
- رکن کا
- صارفین
- کا استعمال کرتے ہوئے
- درست
- Ve
- کی طرف سے
- وکٹم
- متاثرین
- دورہ
- رضاکارانہ
- نقصان دہ
- خطرے کا سامنا
- راستہ..
- طریقوں
- we
- ویب
- ویب سائٹ
- تھے
- کیا
- کیا ہے
- جب
- جس
- سفید
- وائٹ ہاؤس
- وکیپیڈیا
- گے
- ساتھ
- کام
- آپ
- اور
- زیفیرنیٹ