Google এ, আমরা একটি বজায় রাখি দুর্বলতা পুরস্কার প্রোগ্রাম Google-মালিকানাধীন এবং Alphabet-সাবসিডিয়ারি ওয়েব বৈশিষ্ট্যে সমস্যা সমাধানের জন্য অত্যাধুনিক বহিরাগত অবদানকে সম্মান জানাতে। এআই প্রযুক্তির দ্রুত অগ্রগতির সাথে তাল মিলিয়ে চলা এবং নিশ্চিত করা যে আমরা নিরাপত্তা চ্যালেঞ্জ মোকাবেলায় প্রস্তুত আছি দায়ী উপায়, আমরা সম্প্রতি আমাদের বিদ্যমান প্রসারিত বাগ হান্টার প্রোগ্রাম আমাদের AI সিস্টেমের জন্য নির্দিষ্ট সমস্যা এবং দুর্বলতাগুলির তৃতীয় পক্ষের আবিষ্কার এবং রিপোর্টিংকে উৎসাহিত করতে। এই সম্প্রসারণটি বাস্তবায়নের জন্য আমাদের প্রচেষ্টার অংশ স্বেচ্ছায় এআই প্রতিশ্রুতি যেটা আমরা জুলাই মাসে হোয়াইট হাউসে করেছিলাম।
নিরাপত্তা সম্প্রদায়কে এই উন্নয়নগুলি আরও ভালভাবে বুঝতে সাহায্য করার জন্য, আমরা পুরস্কার প্রোগ্রামের উপাদানগুলির উপর আরও তথ্য অন্তর্ভুক্ত করেছি৷
পুরস্কারের সুযোগে কী আছে
আমাদের সাম্প্রতিক এআই রেড টিমের রিপোর্টযা ভিত্তিক is গুগলের এআই রেড টিম ব্যায়াম, আমরা সাধারণ কৌশল, কৌশল এবং পদ্ধতি (TTPs) চিহ্নিত করেছি যা আমরা সবচেয়ে প্রাসঙ্গিক এবং বাস্তবসম্মত বলে মনে করি AI সিস্টেমের বিরুদ্ধে ব্যবহার করার জন্য বাস্তব-বিশ্বের প্রতিপক্ষ. AI বাগ রিপোর্টের জন্য আমাদের মানদণ্ড এবং আমাদের পুরষ্কার প্রোগ্রামের জন্য কী কী সুযোগ রয়েছে তা বুঝতে গবেষণা সম্প্রদায়কে সাহায্য করার জন্য আমরা যা শিখেছি তা নিম্নলিখিত সারণীতে অন্তর্ভুক্ত করা হয়েছে। এটি লক্ষ্য করা গুরুত্বপূর্ণ যে পুরস্কারের পরিমাণ আক্রমণের পরিস্থিতির তীব্রতা এবং প্রভাবিত লক্ষ্যের প্রকারের উপর নির্ভর করে (ভিজিট প্রোগ্রামের নিয়ম পৃষ্ঠা আমাদের পুরস্কার টেবিলে আরও তথ্যের জন্য)।
প্রম্পট অ্যাটাকস: প্রতিপক্ষের প্রম্পট তৈরি করা যা একটি প্রতিপক্ষকে মডেলের আচরণকে প্রভাবিত করতে দেয় এবং তাই, আউটপুট, এমন উপায়ে যা অ্যাপ্লিকেশন দ্বারা উদ্দেশ্য ছিল না। |
প্রম্পট ইনজেকশন যা শিকারের কাছে অদৃশ্য এবং শিকারের অ্যাকাউন্ট বা তাদের যেকোন সম্পদের অবস্থা পরিবর্তন করে। |
|
প্রম্পট ইনজেকশন যে কোনো টুলস যেখানে প্রতিক্রিয়া সরাসরি শিকার ব্যবহারকারীদের প্রভাবিত সিদ্ধান্ত নিতে ব্যবহার করা হয়. |
||
প্রম্পট বা প্রস্তাবনা নিষ্কাশন যেখানে একজন ব্যবহারকারী মডেলটিকে প্রাইম করার জন্য ব্যবহৃত প্রাথমিক প্রম্পটটি নিষ্কাশন করতে সক্ষম হয় যখন সংবেদনশীল তথ্য নিষ্কাশিত প্রস্তাবনায় উপস্থিত থাকে। |
||
আপনার নিজের সেশনে লঙ্ঘনমূলক, বিভ্রান্তিকর, বা বাস্তবিকভাবে ভুল বিষয়বস্তু তৈরি করতে একটি পণ্য ব্যবহার করা: যেমন, "জেলব্রেক।" এর মধ্যে রয়েছে "হ্যালুসিনেশন" এবং প্রকৃতপক্ষে ভুল প্রতিক্রিয়া। Google-এর জেনারেটিভ AI পণ্যগুলিতে এই ধরনের বিষয়বস্তুর সমস্যাগুলির জন্য ইতিমধ্যেই একটি ডেডিকেটেড রিপোর্টিং চ্যানেল রয়েছে৷ |
সুযোগের বাইরে |
|
প্রশিক্ষণ ডেটা নিষ্কাশন: সংবেদনশীল তথ্য ধারণ করে এমন আক্রমণগুলি যা সফলভাবে পূর্ণাঙ্গ প্রশিক্ষণের উদাহরণ পুনর্গঠন করতে সক্ষম। সদস্যতা অনুমানও বলা হয়। |
প্রশিক্ষণ ডেটা নিষ্কাশন যা প্রশিক্ষণ ডেটা সেটে ব্যবহৃত আইটেমগুলিকে পুনর্গঠন করে যা সংবেদনশীল, অ-পাবলিক তথ্য ফাঁস করে। |
|
নিষ্কাশন যা অ-সংবেদনশীল/জনসাধারণের তথ্য পুনর্গঠন করে। |
সুযোগের বাইরে |
|
ম্যানিপুলেটিং মডেল: একজন আক্রমণকারী গোপনে একটি মডেলের আচরণ পরিবর্তন করতে সক্ষম হয় যাতে তারা পূর্ব-সংজ্ঞায়িত প্রতিপক্ষ আচরণকে ট্রিগার করতে পারে। |
প্রতিপক্ষের আউটপুট বা আচরণ যা একজন আক্রমণকারী Google-এর মালিকানাধীন এবং পরিচালিত মডেলের নির্দিষ্ট ইনপুটের মাধ্যমে নির্ভরযোগ্যভাবে ট্রিগার করতে পারে ("ব্যাকডোর")। শুধুমাত্র সুযোগে যখন একটি মডেলের আউটপুট একটি শিকারের অ্যাকাউন্ট বা ডেটার অবস্থা পরিবর্তন করতে ব্যবহার করা হয়। |
|
আক্রমণ যেখানে একজন আক্রমণকারী আক্রমণকারীর পছন্দ অনুযায়ী একজন শিকারের সেশনে মডেলের আউটপুটকে প্রভাবিত করার জন্য মডেলের প্রশিক্ষণের ডেটা ব্যবহার করে। শুধুমাত্র সুযোগে যখন একটি মডেলের আউটপুট একটি শিকারের অ্যাকাউন্ট বা ডেটার অবস্থা পরিবর্তন করতে ব্যবহার করা হয়। |
||
প্রতিকূল বিপর্যয়: এমন ইনপুট যা একটি মডেলকে প্রদান করা হয় যার ফলাফল একটি নির্ধারক, কিন্তু মডেল থেকে অত্যন্ত অপ্রত্যাশিত আউটপুট। |
যে প্রেক্ষাপটে একজন প্রতিপক্ষ নির্ভরযোগ্যভাবে একটি নিরাপত্তা নিয়ন্ত্রণে একটি ভুল শ্রেণিবিন্যাস ট্রিগার করতে পারে যা দূষিত ব্যবহার বা প্রতিপক্ষের লাভের জন্য অপব্যবহার করা যেতে পারে। |
|
প্রসঙ্গ যেখানে একটি মডেলের ভুল আউটপুট বা শ্রেণীবিভাগ Google বা ব্যবহারকারীর ক্ষতির জন্য একটি আকর্ষক আক্রমণের দৃশ্য বা সম্ভাব্য পথ তৈরি করে না। |
সুযোগের বাইরে |
|
মডেল চুরি/বহির্ভূতকরণ: এআই মডেলগুলিতে প্রায়ই সংবেদনশীল বৌদ্ধিক সম্পত্তি অন্তর্ভুক্ত থাকে, তাই আমরা এই সম্পদগুলিকে রক্ষা করার উপর উচ্চ অগ্রাধিকার দিই। এক্সফিল্ট্রেশন আক্রমণ আক্রমণকারীদের একটি মডেল সম্পর্কে বিশদ চুরি করতে দেয় যেমন এর স্থাপত্য বা ওজন। |
আক্রমণ যেখানে সঠিক আর্কিটেকচার বা গোপনীয়/মালিকানা মডেলের ওজন বের করা হয়। |
|
আক্রমণ যেখানে স্থাপত্য এবং ওজন সঠিকভাবে বের করা হয় না, অথবা যখন সেগুলি একটি গোপনীয় মডেল থেকে বের করা হয়। |
সুযোগের বাইরে |
|
আপনি যদি উপরে তালিকাভুক্ত ব্যতীত অন্য কোনও এআই-চালিত টুলে ত্রুটি খুঁজে পান, তবে আপনি এখনও জমা দিতে পারেন, তবে শর্ত পূরণ করে আমাদের প্রোগ্রাম পৃষ্ঠায় তালিকাভুক্ত যোগ্যতা. |
একটি বাগ বা আচরণ যা একটি বৈধ নিরাপত্তা বা অপব্যবহারের সমস্যার জন্য আমাদের যোগ্যতাকে স্পষ্টভাবে পূরণ করে। |
|
সম্ভাব্য ক্ষতিকারক কিছু করার জন্য একটি AI পণ্য ব্যবহার করা যা ইতিমধ্যে অন্যান্য সরঞ্জামগুলির সাথে সম্ভব। উদাহরণস্বরূপ, ওপেন সোর্স সফ্টওয়্যারটিতে একটি দুর্বলতা খুঁজে পাওয়া (সর্বজনীনভাবে উপলব্ধ ব্যবহার করে ইতিমধ্যেই সম্ভব স্ট্যাটিক বিশ্লেষণ সরঞ্জাম) এবং একটি ক্ষতিকারক প্রশ্নের উত্তর তৈরি করা যখন উত্তরটি ইতিমধ্যেই অনলাইনে পাওয়া যায়। |
সুযোগের বাইরে |
|
আমাদের প্রোগ্রামের সাথে সামঞ্জস্যপূর্ণ, আমরা ইতিমধ্যে যে বিষয়গুলি সম্পর্কে জানি সেগুলি পুরস্কারের জন্য যোগ্য নয়৷ |
সুযোগের বাইরে |
|
সম্ভাব্য কপিরাইট সমস্যা — যে পণ্যগুলি কপিরাইট সুরক্ষিত বলে মনে হচ্ছে এমন বিষয়বস্তু ফেরত দেয়। Google-এর জেনারেটিভ AI পণ্যগুলিতে এই ধরনের বিষয়বস্তুর সমস্যাগুলির জন্য ইতিমধ্যেই একটি ডেডিকেটেড রিপোর্টিং চ্যানেল রয়েছে৷ |
সুযোগের বাইরে |
আমরা বিশ্বাস করি যে আমাদের বাগ বাউন্টি প্রোগ্রামকে আমাদের AI সিস্টেমে প্রসারিত করা সমর্থন করবে দায়ী এআই উদ্ভাবন, এবং আমাদের AI-চালিত বৈশিষ্ট্যগুলিতে নিরাপত্তা এবং অপব্যবহারের সমস্যাগুলি আবিষ্কার ও সমাধান করতে গবেষণা সম্প্রদায়ের সাথে আমাদের কাজ চালিয়ে যাওয়ার জন্য উন্মুখ। আপনি যদি কোনো যোগ্য সমস্যা খুঁজে পান, তাহলে অনুগ্রহ করে আমাদের বাগ হান্টার্স ওয়েবসাইটে যান এবং আপনার বাগ রিপোর্ট পাঠাতে এবং — যদি সমস্যাটি বৈধ বলে প্রমাণিত হয় — আমাদের ব্যবহারকারীদের সুরক্ষিত রাখতে সাহায্য করার জন্য পুরস্কৃত হন।
- এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
- PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
- প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
- প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
- প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
- উত্স: https://www.darkreading.com/vulnerabilities-threats/establishing-reward-criteria-for-reporting-bugs-in-ai-products
- : হয়
- :না
- $ ইউপি
- 26
- 32
- 33
- 35%
- 36
- 41
- 7
- 8
- 9
- a
- সক্ষম
- সম্পর্কে
- উপরে
- অপব্যবহার
- নির্যাতিত
- অনুযায়ী
- হিসাব
- ঠিকানা
- সম্ভাষণ
- অগ্রগতি
- adversarial
- প্রভাবিত
- আক্রান্ত
- বিরুদ্ধে
- AI
- এআই মডেল
- এআই সিস্টেমগুলি
- এআই চালিত
- অনুমতি
- ইতিমধ্যে
- এছাড়াও
- পরিমাণে
- an
- বিশ্লেষণ
- এবং
- উত্তর
- কোন
- আবেদন
- স্থাপত্য
- রয়েছি
- AS
- সম্পদ
- At
- আক্রমণ
- আক্রমন
- সহজলভ্য
- পিছনে
- ভিত্তি
- BE
- আচরণ
- বিশ্বাস করা
- উত্তম
- খয়রাত
- অনুগ্রহ প্রোগ্রাম
- নম
- বাগ দানব
- বাগ
- কিন্তু
- by
- নামক
- CAN
- চ্যালেঞ্জ
- পরিবর্তন
- চ্যানেল
- শ্রেণীবিন্যাস
- পরিষ্কারভাবে
- সাধারণ
- সম্প্রদায়
- বাধ্যকারী
- বিবেচনা
- সঙ্গত
- ধারণ করা
- বিষয়বস্তু
- অব্যাহত
- অবদানসমূহ
- নিয়ন্ত্রণ
- কপিরাইট
- নির্ণায়ক
- কাটিং-এজ
- উপাত্ত
- তথ্য সেট
- সিদ্ধান্ত
- নিবেদিত
- নির্ভরশীল
- বিস্তারিত
- উন্নয়ন
- সরাসরি
- আবিষ্কার করা
- আবিষ্কার
- do
- না
- e
- প্রচেষ্টা
- উপাদান
- উপযুক্ত
- নিশ্চিত করা
- প্রতিষ্ঠার
- থার (eth)
- উদাহরণ
- উদাহরণ
- বহিষ্কার
- সম্প্রসারিত
- বিস্তৃত
- সম্প্রসারণ
- বহিরাগত
- নির্যাস
- নিষ্কাশন
- সাধ্য
- বৈশিষ্ট্য
- আবিষ্কার
- আবিষ্কার
- তথ্যও
- ঠিক করা
- ত্রুটি
- অনুসরণ
- জন্য
- অগ্রবর্তী
- লালনপালন করা
- পাওয়া
- থেকে
- FT
- লাভ করা
- উত্পাদন করা
- সৃজক
- জেনারেটিভ এআই
- Go
- গুগল
- ক্ষতি
- ক্ষতিকর
- আছে
- সাহায্য
- সাহায্য
- অত: পর
- উচ্চ
- অত্যন্ত
- সম্মান
- ঘর
- এইচটিএমএল
- HTTP
- HTTPS দ্বারা
- চিহ্নিত
- if
- বাস্তবায়ন
- গুরুত্বপূর্ণ
- in
- বেঠিক
- অন্তর্ভুক্ত করা
- অন্তর্ভুক্ত
- অন্তর্ভুক্ত
- অন্তর্ভুক্ত
- প্রভাব
- তথ্য
- প্রারম্ভিক
- ইনপুট
- ইনপুট
- বুদ্ধিজীবী
- বুদ্ধিজীবী সম্পত্তি
- অভিপ্রেত
- মধ্যে
- অদৃশ্য
- সমস্যা
- সমস্যা
- IT
- আইটেম
- এর
- JPG
- জুলাই
- রাখা
- জানা
- ফুটো
- জ্ঞানী
- তালিকাভুক্ত
- দেখুন
- প্রণীত
- বজায় রাখা
- করা
- পূরণ
- সদস্যতা
- বিভ্রান্তিকর
- মডেল
- মডেল
- অধিক
- সেতু
- বিঃদ্রঃ
- of
- প্রায়ই
- on
- অনলাইন
- কেবল
- খোলা
- ওপেন সোর্স
- চিরা
- or
- অন্যান্য
- আমাদের
- আউটপুট
- নিজের
- মালিক হয়েছেন
- অংশ
- পথ
- পিডিএফ
- জায়গা
- Plato
- প্লেটো ডেটা ইন্টেলিজেন্স
- প্লেটোডাটা
- দয়া করে
- সম্ভব
- সম্ভাব্য
- অবিকল
- প্রস্তুত
- বর্তমান
- প্রধান
- অগ্রাধিকার
- পদ্ধতি
- আবহ
- পণ্য
- পণ্য
- কার্যক্রম
- অনুরোধ জানানো
- বৈশিষ্ট্য
- সম্পত্তি
- রক্ষিত
- রক্ষা
- প্রদত্ত
- প্রকাশ্যে
- যোগ্যতা
- কোয়ালিফাইং
- প্রশ্ন
- দ্রুত
- RE
- বাস্তব জগতে
- বাস্তবানুগ
- সম্প্রতি
- লাল
- প্রাসঙ্গিক
- রিপোর্ট
- প্রতিবেদন
- প্রতিবেদন
- গবেষণা
- গবেষণা সম্প্রদায়
- প্রতিক্রিয়া
- প্রতিক্রিয়া
- ফলাফল
- প্রত্যাবর্তন
- পুরষ্কার
- পুরস্কৃত
- নিয়ম
- s
- নিরাপদ
- দৃশ্যকল্প
- সুযোগ
- নিরাপত্তা
- পাঠান
- সংবেদনশীল
- সেশন
- সেট
- নির্দয়তা
- So
- সফটওয়্যার
- কিছু
- উৎস
- নির্দিষ্ট
- রাষ্ট্র
- এখনো
- জমা
- সফলভাবে
- এমন
- সমর্থন
- সিস্টেম
- টেবিল
- কার্যপদ্ধতি
- লক্ষ্য
- টীম
- প্রযুক্তি
- প্রযুক্তি
- চেয়ে
- যে
- সার্জারির
- রাষ্ট্র
- তাদের
- এইগুলো
- তারা
- তৃতীয় পক্ষের
- এই
- থেকে
- টুল
- সরঞ্জাম
- প্রশিক্ষণ
- ট্রিগার
- আদর্শ
- ধরনের
- বোঝা
- অপ্রত্যাশিত
- us
- ব্যবহার
- ব্যবহৃত
- ব্যবহারকারী
- ব্যবহারকারী
- ব্যবহার
- বৈধ
- Ve
- মাধ্যমে
- শিকার
- ক্ষতিগ্রস্তদের
- দেখুন
- স্বেচ্ছাকৃত
- দুর্বলতা
- দুর্বলতা
- উপায়..
- উপায়
- we
- ওয়েব
- ওয়েবসাইট
- ছিল
- কি
- কখন
- যে
- সাদা
- হোয়াইট হাউস
- উইকিপিডিয়া
- ইচ্ছা
- সঙ্গে
- হয়া যাই ?
- আপনি
- আপনার
- zephyrnet