স্কাইনেট আহয়? নেক্সট-জেন এআই নিরাপত্তা ঝুঁকির জন্য কী আশা করা যায়

কৃত্রিম বুদ্ধিমত্তার (AI) উদ্ভাবন দ্রুতগতিতে চলতে থাকায়, 2024 সংস্থা এবং পরিচালনা সংস্থাগুলির জন্য একটি গুরুত্বপূর্ণ সময় হবে নিরাপত্তার মান, প্রোটোকল এবং অন্যান্য পাহারাদলি যাতে AI-কে তাদের এগিয়ে যাওয়া থেকে রোধ করা যায়, নিরাপত্তা বিশেষজ্ঞরা সতর্ক করেছেন।

অত্যাধুনিক অ্যালগরিদম এবং বিশাল ডেটা সেট দ্বারা চালিত বড় ভাষা মডেল (LLMs), অসাধারণ ভাষা বোঝার এবং মানুষের মত কথোপকথন ক্ষমতা প্রদর্শন করে। এখন পর্যন্ত এই প্ল্যাটফর্মগুলির মধ্যে সবচেয়ে পরিশীলিত হল OpenAI-এর GPT-4, যা উন্নত যুক্তি এবং সমস্যা সমাধানের ক্ষমতা নিয়ে গর্ব করে এবং কোম্পানির ChatGPT বটকে ক্ষমতা দেয়। এবং কোম্পানি, মাইক্রোসফ্টের সাথে অংশীদারিত্বে, GPT-5 এর কাজ শুরু করেছে, যা সিইও স্যাম অল্টম্যান বলেছেন অনেক এগিয়ে যাবে - "সুপার ইন্টেলিজেন্স" ধারণ করার পর্যায়ে।

এই মডেলগুলি সংস্থাগুলির জন্য উল্লেখযোগ্য উত্পাদনশীলতা এবং দক্ষতা লাভের জন্য প্রচুর সম্ভাবনার প্রতিনিধিত্ব করে, তবে বিশেষজ্ঞরা সম্মত হন যে সামগ্রিকভাবে শিল্পের জন্য সময় এসেছে অন্তর্নিহিত নিরাপত্তা ঝুঁকি মোকাবেলা করতে তাদের উন্নয়ন এবং স্থাপনার দ্বারা জাহির. প্রকৃতপক্ষে, Writerbuddy AI দ্বারা সাম্প্রতিক গবেষণা, যা একটি AI-ভিত্তিক বিষয়বস্তু-লেখার টুল অফার করে, দেখেছে যে ChatGPT ইতিমধ্যে 14 বিলিয়ন ভিজিট করেছে এবং গণনা করেছে।

AI-ভিত্তিক গোপনীয়তা এবং নিরাপত্তা সংস্থা MineOS-এর সিইও গ্যাল রিঙ্গেল বলেছেন, সংস্থাগুলি AI-তে অগ্রগতির দিকে অগ্রসর হওয়ার সাথে সাথে এটিকে "কঠোর নৈতিক বিবেচনা এবং ঝুঁকি মূল্যায়নের সাথে মিলিত হওয়া উচিত।"

এআই কি একটি অস্তিত্বের হুমকি?

এআই-এর পরবর্তী প্রজন্মের নিরাপত্তা নিয়ে উদ্বেগগুলি মার্চ মাসে ছড়িয়ে পড়ে, প্রায় 34,000 শীর্ষ প্রযুক্তিবিদদের স্বাক্ষরিত একটি খোলা চিঠিতে যা আরও শক্তিশালী জেনারেটিভ এআই সিস্টেমের বিকাশকে থামানোর আহ্বান জানিয়েছিল। ওপেনআইএর জিপিটি -৩. চিঠিটি সমাজের জন্য "গভীর ঝুঁকি" উল্লেখ করেছে যা প্রযুক্তিটি প্রতিনিধিত্ব করে এবং "এআই ল্যাবগুলির দ্বারা নিয়ন্ত্রণের বাইরের দৌড় আরও শক্তিশালী ডিজিটাল মন বিকাশ এবং স্থাপন করার জন্য যা কেউ - এমনকি তাদের নির্মাতারাও - বুঝতে, ভবিষ্যদ্বাণী করতে পারে না বা নির্ভরযোগ্যভাবে নিয়ন্ত্রণ করুন।"

এই ডিস্টোপিয়ান ভয় থাকা সত্ত্বেও, বেশিরভাগ নিরাপত্তা বিশেষজ্ঞরা এমন একটি কেয়ামতের পরিস্থিতি নিয়ে উদ্বিগ্ন নন যেখানে মেশিনগুলি মানুষের চেয়ে স্মার্ট হয়ে ওঠে এবং বিশ্বকে দখল করে।

সাইবারসিকিউরিটি ফার্ম নেট্রিক্স-এর সেলস ইঞ্জিনিয়ারিং ডিরেক্টর ম্যাট উইলসন বলেছেন, "খোলা চিঠিটি ব্যাপকভাবে AI-এর দ্রুত অগ্রগতি এবং সম্ভাব্য অ্যাপ্লিকেশন সম্পর্কে বৈধ উদ্বেগ উল্লেখ করেছে, 'এটি কি মানবতার জন্য ভাল' অর্থে। "কিছু পরিস্থিতিতে চিত্তাকর্ষক হলেও, AI সরঞ্জামগুলির সর্বজনীন সংস্করণগুলি এতটা হুমকিজনক বলে মনে হয় না।"

গবেষকরা উল্লেখ করেছেন যে ঝুঁকিগুলি সঠিকভাবে পরিচালনা করার জন্য এআই অগ্রগতি এবং গ্রহণ করা খুব দ্রুত এগিয়ে চলেছে। এআই নিরাপত্তা প্রদানকারী স্ল্যাশ নেক্সটের সিইও প্যাট্রিক হার পর্যবেক্ষণ করেছেন, "আমরা প্যান্ডোরার বাক্সে ঢাকনাটি আবার রাখতে পারি না।"

তদুপরি, শুধুমাত্র "মহাকাশে উদ্ভাবনের হার বন্ধ করার চেষ্টা করা ঝুঁকিগুলিকে প্রশমিত করতে সহায়তা করবে না", যেগুলিকে আলাদাভাবে মোকাবেলা করতে হবে, এআই নিরাপত্তা সংস্থা ডার্কট্রেস ফেডারেলের সিইও মার্কাস ফাউলার পর্যবেক্ষণ করেছেন। এর মানে এই নয় যে এআই ডেভেলপমেন্ট অচেক করা উচিত, তিনি বলেছেন। বিপরীতে, ঝুঁকি মূল্যায়নের হার এবং যথাযথ সুরক্ষা ব্যবস্থা বাস্তবায়নের হার যে হারে এলএলএমগুলিকে প্রশিক্ষিত এবং বিকাশ করা হচ্ছে তার সাথে মেলে।

"এআই প্রযুক্তি দ্রুত বিকশিত হচ্ছে, তাই সরকার এবং এআই ব্যবহারকারী সংস্থাগুলিকে অবশ্যই এআই সুরক্ষার বিষয়ে আলোচনাকে ত্বরান্বিত করতে হবে," ফাউলার ব্যাখ্যা করেন।

জেনারেটিভ এআই ঝুঁকি

জেনারেটিভ AI-তে বেশ কিছু ব্যাপকভাবে স্বীকৃত ঝুঁকি রয়েছে যা বিবেচনার দাবি রাখে এবং প্রযুক্তির ভবিষ্যত প্রজন্ম আরও স্মার্ট হওয়ার সাথে সাথে আরও খারাপ হবে। সৌভাগ্যবশত মানুষের জন্য, তাদের মধ্যে কেউই এখন পর্যন্ত বিজ্ঞান-কল্পনা ডুমসডে দৃশ্যকল্প তৈরি করেনি যেখানে এআই তার নির্মাতাদের ধ্বংস করার ষড়যন্ত্র করে।

পরিবর্তে, তারা অনেক বেশি পরিচিত হুমকি অন্তর্ভুক্ত করে, যেমন ডেটা ফাঁস, সম্ভাব্য ব্যবসা-সংবেদনশীল তথ্য; দূষিত কার্যকলাপের জন্য অপব্যবহার; এবং ভুল আউটপুট যা ব্যবহারকারীদের বিভ্রান্ত করতে পারে বা বিভ্রান্ত করতে পারে, শেষ পর্যন্ত নেতিবাচক ব্যবসায়িক পরিণতি ঘটায়।

যেহেতু LLM-এর সঠিক এবং প্রাসঙ্গিকভাবে প্রাসঙ্গিক আউটপুট প্রদানের জন্য প্রচুর পরিমাণে ডেটা অ্যাক্সেসের প্রয়োজন হয়, তাই সংবেদনশীল তথ্য অসাবধানতাবশত প্রকাশ বা অপব্যবহার হতে পারে।

“প্রধান ঝুঁকি হল কর্মচারীরা এটি খাওয়াচ্ছে ব্যবসা-সংবেদনশীল তথ্য সহ যখন এটিকে একটি পরিকল্পনা লিখতে বা কোম্পানির মালিকানা সংক্রান্ত তথ্য সম্বলিত ইমেল বা ব্যবসায়িক ডেকগুলিকে পুনঃপ্রকাশ করতে বলে,” রিঙ্গেল নোট করে৷

সাইবার আক্রমণের দৃষ্টিকোণ থেকে, হুমকি অভিনেতারা ইতিমধ্যেই চ্যাটজিপিটি এবং অন্যান্য এআই সিস্টেমগুলিকে অস্ত্রোপচার করার অসংখ্য উপায় খুঁজে পেয়েছে। একটি উপায় হল অত্যাধুনিক ব্যবসায়িক ইমেল সমঝোতা (BEC) এবং অন্যান্য ফিশিং আক্রমণ তৈরি করতে মডেলগুলি ব্যবহার করা, যার জন্য সাফল্যের জন্য ডিজাইন করা সামাজিকভাবে প্রকৌশলী, ব্যক্তিগতকৃত বার্তা তৈরি করা প্রয়োজন৷

"ম্যালওয়্যারের সাথে, ChatGPT সাইবার অপরাধীদেরকে ম্যালওয়্যার সনাক্তকরণ ইঞ্জিনগুলির থেকে এক ধাপ এগিয়ে থাকার জন্য অসীম কোড বৈচিত্র তৈরি করতে সক্ষম করে," হার বলেছেন৷

এআই হ্যালুসিনেশনগুলিও একটি উল্লেখযোগ্য নিরাপত্তা হুমকি তৈরি করে এবং দূষিত অভিনেতাদেরকে ChatGPT-এর মতো LLM-ভিত্তিক প্রযুক্তিকে অনন্য উপায়ে সজ্জিত করার অনুমতি দেয়। একটি AI হ্যালুসিনেশন হল AI দ্বারা একটি যুক্তিসঙ্গত প্রতিক্রিয়া যা অপর্যাপ্ত, পক্ষপাতদুষ্ট বা ফ্ল্যাট-আউট সত্য নয়। "কাল্পনিক বা অন্যান্য অবাঞ্ছিত প্রতিক্রিয়া সংস্থাগুলিকে ত্রুটিপূর্ণ সিদ্ধান্ত গ্রহণ, প্রক্রিয়া এবং বিভ্রান্তিকর যোগাযোগের দিকে নিয়ে যেতে পারে," আভিভা লিটান সতর্ক করেছেন, একজন গার্টনার ভাইস প্রেসিডেন্ট৷

ডাটা সিকিউরিটি প্রোভাইডার সিকিউরিটি-তে AI-এর ভাইস প্রেসিডেন্ট মাইকেল রিনহার্ট পর্যবেক্ষণ করেছেন, হুমকির অভিনেতারাও এই হ্যালুসিনেশনগুলিকে LLM-কে বিষাক্ত করার জন্য ব্যবহার করতে পারে এবং "একটি প্রশ্নের উত্তরে নির্দিষ্ট ভুল তথ্য তৈরি করতে পারে।" "এটি দুর্বল সোর্স-কোড জেনারেশন এবং সম্ভবত, কোনও সাইটের ব্যবহারকারীদের অনিরাপদ ক্রিয়াকলাপের দিকে পরিচালিত করতে সক্ষম চ্যাট মডেলগুলির জন্য প্রসারিত।"

আক্রমণকারীরা এমনকি এতদূর পর্যন্ত যেতে পারে সফ্টওয়্যার প্যাকেজের দূষিত সংস্করণ প্রকাশ করুন যে একটি LLM একটি সফ্টওয়্যার বিকাশকারীকে সুপারিশ করতে পারে, বিশ্বাস করে এটি একটি সমস্যার বৈধ সমাধান। এইভাবে, আক্রমণকারীরা সাপ্লাই চেইন আক্রমণ মাউন্ট করতে AI-কে আরও অস্ত্র দিতে পারে।

দ্য ফরোয়ার্ড

বিশেষজ্ঞরা মনে করেন, এআই উদ্ভাবন শিল্পের নিয়ন্ত্রণের ক্ষমতাকে ছাড়িয়ে যাওয়ার আগে এই ঝুঁকিগুলি পরিচালনার জন্য পরিমাপিত এবং যৌথ পদক্ষেপের প্রয়োজন হবে। তবে এআই-এর সমস্যা কীভাবে সমাধান করা যায় সে সম্পর্কেও তাদের ধারণা রয়েছে।

হার বিশ্বাস করে "A এর সাথে AI এর সাথে লড়াই করুন” কৌশল, যেখানে “নিরাপত্তা সমাধানের অগ্রগতি এবং AI দ্বারা উদ্ভূত ঝুঁকিগুলিকে ব্যর্থ করার কৌশলগুলিকে অবশ্যই সমান বা আরও বেশি গতিতে বিকাশ করতে হবে।

"সাইবার নিরাপত্তা সুরক্ষাকে এআই প্রযুক্তি ব্যবহার করে সফলভাবে সাইবার হুমকি মোকাবেলা করার জন্য এআইকে কাজে লাগাতে হবে," তিনি যোগ করেন। "তুলনামূলকভাবে, উত্তরাধিকার সুরক্ষা প্রযুক্তি এই আক্রমণগুলির বিরুদ্ধে একটি সুযোগ দাঁড়ায় না।"

যাইহোক, সংস্থাগুলিরও এআই গ্রহণ করার জন্য একটি পরিমাপক পদ্ধতি গ্রহণ করা উচিত — সহ এআই-ভিত্তিক নিরাপত্তা সমাধান - পাছে তারা তাদের পরিবেশে আরও ঝুঁকি প্রবর্তন করে, নেট্রিক্স উইলসন সতর্ক করে।

"এআই কী তা বুঝুন এবং কী নয়," তিনি পরামর্শ দেন। "এআই কী কাজ করে, কীভাবে এটি তাদের সমাধান বাড়ায় এবং কেন এটি আপনার প্রতিষ্ঠানের জন্য গুরুত্বপূর্ণ তা বর্ণনা করতে বিক্রেতাদের চ্যালেঞ্জ করুন।"

Securiti's Rinehart ফোকাসড সলিউশন মোতায়েন করে এবং অপ্রয়োজনীয় ঝুঁকির মধ্যে সংগঠনটিকে উন্মুক্ত করার আগে অবিলম্বে গার্ডেল স্থাপন করে পরিবেশে AI-কে ফেজ করার জন্য একটি দ্বি-স্তরীয় পদ্ধতির প্রস্তাব দেয়।

"প্রথমে অ্যাপ্লিকেশন-নির্দিষ্ট মডেলগুলি গ্রহণ করুন, সম্ভাব্য জ্ঞান বেস দ্বারা বর্ধিত, যা নির্দিষ্ট ব্যবহারের ক্ষেত্রে মূল্য প্রদানের জন্য তৈরি করা হয়েছে," তিনি বলেছেন। "তারপর … গোপনীয়তা এবং নিরাপত্তা সমস্যাগুলির জন্য তাদের থেকে আসা বার্তাগুলি যাচাই করে এই মডেলগুলিকে সুরক্ষিত করার জন্য একটি মনিটরিং সিস্টেম প্রয়োগ করুন।"

বিশেষজ্ঞরা ঝুঁকি কমানোর চিন্তাভাবনা না করে AI মোতায়েন করার আগে এর চারপাশে সুরক্ষা নীতি এবং পদ্ধতিগুলি সেট করার পরামর্শ দেন। এমনকি তারা সম্মতি তত্ত্বাবধানের জন্য একটি নিবেদিত এআই ঝুঁকি কর্মকর্তা বা টাস্ক ফোর্স স্থাপন করতে পারে।

এন্টারপ্রাইজের বাইরে, সামগ্রিকভাবে শিল্পকেও AI এর চারপাশে নিরাপত্তা মান এবং অনুশীলন স্থাপনের জন্য পদক্ষেপ নিতে হবে যা প্রযুক্তির বিকাশকারী এবং ব্যবহারকারী প্রত্যেকে গ্রহণ করতে পারে - এমন কিছু যা বিশ্বব্যাপী সরকারী এবং বেসরকারী উভয় ক্ষেত্রের দ্বারা সম্মিলিত পদক্ষেপের প্রয়োজন হবে। , ডার্কট্রেস ফেডারেলের ফাউলার বলেছেন।

তিনি উদ্ধৃত করেছেন নিরাপদ এআই সিস্টেম তৈরির জন্য নির্দেশিকা ইউএস সাইবারসিকিউরিটি অ্যান্ড ইনফ্রাস্ট্রাকচার সিকিউরিটি এজেন্সি (সিআইএসএ) এবং ইউকে ন্যাশনাল সাইবার সিকিউরিটি সেন্টার (এনসিএসসি) দ্বারা যৌথভাবে প্রকাশিত হয়েছে এআই-এর ক্রমাগত বিবর্তনের সাথে যে ধরনের প্রচেষ্টা করা উচিত তার উদাহরণ হিসেবে।

"সারাংশে," Securiti's Rinehart বলেছেন, "2024 সাল এই উদীয়মান জেনারেটিভ এআই যুগে ব্যবহারকারী এবং ডেটাকে সুরক্ষিত করার জন্য ঐতিহ্যগত নিরাপত্তা এবং আধুনিক AI কৌশল উভয়েরই দ্রুত অভিযোজন প্রত্যক্ষ করবে।"

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://www.darkreading.com/vulnerabilities-threats/skynet-ahoy-what-to-expect-next-gen-ai-security-risks