'অ্যাডভারসারিয়াল এআই' সামরিক ব্যবস্থার জন্য হুমকি, Shift5's Lospinoso বলেছেন

'অ্যাডভারসারিয়াল এআই' সামরিক ব্যবস্থার জন্য হুমকি, Shift5's Lospinoso বলেছেন

সময় স্ট্যাম্প: 29 মে, 2023 3:43 অপরাহ্ন
উত্স নোড: 2685907

Josh Lospinoso এর প্রথম সাইবার সিকিউরিটি স্টার্টআপ 2017 সালে Raytheon/Forcepoint দ্বারা অধিগ্রহণ করা হয়েছিল। তার দ্বিতীয়, Shift5, মার্কিন সামরিক, রেল অপারেটর এবং JetBlue সহ বিমান সংস্থার সাথে কাজ করে। 2009 ওয়েস্ট পয়েন্ট গ্র্যাড এবং রোডস স্কলার, 36 বছর বয়সী প্রাক্তন সেনা অধিনায়ক এক দশকেরও বেশি সময় কাটিয়েছেন অথরিং হ্যাকিং টুলস জাতীয় নিরাপত্তা সংস্থা এবং মার্কিন সাইবার কমান্ডের জন্য।

লোস্পিনোসো সম্প্রতি একটি সেনেটের আর্মড সার্ভিসেস সাবকমিটিকে বলেছেন কিভাবে কৃত্রিম বুদ্ধিমত্তা সামরিক অভিযানকে রক্ষা করতে সাহায্য করতে পারে। সিইও/প্রোগ্রামার দ্য অ্যাসোসিয়েটেড প্রেসের সাথে বিষয়টি নিয়ে আলোচনা করেছেন যে কীভাবে অস্ত্র সিস্টেমে সফ্টওয়্যার দুর্বলতা মার্কিন সামরিক বাহিনীর জন্য একটি বড় হুমকি। সাক্ষাৎকারটি স্বচ্ছতা এবং দৈর্ঘ্যের জন্য সম্পাদনা করা হয়েছে।

প্রশ্ন: আপনার সাক্ষ্যে, আপনি এআই-সক্ষম প্রযুক্তির দুটি প্রধান হুমকি বর্ণনা করেছেন: একটি হল চুরি। যে স্ব-ব্যাখ্যামূলক. অন্যটি হল ডেটা পয়জনিং। আপনি যে ব্যাখ্যা করতে পারেন?

উত্তর: ডেটা বিষক্রিয়া সম্পর্কে চিন্তা করার একটি উপায় হল ডিজিটাল বিভ্রান্তি। প্রতিপক্ষরা যদি এআই-সক্ষম প্রযুক্তিগুলি দেখে এমন ডেটা তৈরি করতে সক্ষম হয়, তাহলে তারা সেই প্রযুক্তি কীভাবে কাজ করে তা গভীরভাবে প্রভাবিত করতে পারে।

প্রশ্ন: ডেটা বিষক্রিয়া কি ঘটছে?

উত্তর: আমরা এটাকে ব্যাপকভাবে দেখছি না। কিন্তু এটা ঘটেছে. সবচেয়ে পরিচিত ঘটনাগুলির মধ্যে একটি 2016 সালে ঘটেছিল। মাইক্রোসফ্ট একটি টুইটার চ্যাটবট প্রকাশ করেছে যার নাম Tay যেটি অনলাইনে কথোপকথন থেকে শিখেছে। বিদ্বেষপূর্ণ ব্যবহারকারীরা এটিতে অপমানজনক, আপত্তিকর ভাষায় টুইট করার ষড়যন্ত্র করেছে। টে প্রদাহজনক সামগ্রী তৈরি করতে শুরু করে। মাইক্রোসফ্ট এটি অফলাইনে নিয়েছে।

প্রশ্ন: AI শুধুমাত্র চ্যাটবট নয়। এটি দীর্ঘকাল ধরে সাইবার নিরাপত্তার অবিচ্ছেদ্য অঙ্গ, তাই না?

উত্তর: জাঙ্ক মেল এবং ফিশিং প্রলোভনগুলিকে ফ্ল্যাগ এবং আলাদা করার চেষ্টা করতে ইমেল ফিল্টারগুলিতে AI ব্যবহার করা হয়। আরেকটি উদাহরণ হল এন্ডপয়েন্ট, যেমন আপনার ল্যাপটপে অ্যান্টিভাইরাস প্রোগ্রাম - বা নেটওয়ার্কে চলে ম্যালওয়্যার সনাক্তকরণ সফ্টওয়্যার। অবশ্যই, আক্রমণাত্মক হ্যাকাররা সেই শ্রেণীবিভাগ সিস্টেমগুলিকে পরাস্ত করার জন্য AI ব্যবহার করে। একে বলা হয় অ্যাডভারসারিয়াল এআই।

প্রশ্ন: এবার মিলিটারি সফটওয়্যার সিস্টেমের কথা বলি। একটি উদ্বেগজনক 2018 সরকারি জবাবদিহি অফিস রিপোর্ট প্রায় সব নতুন উন্নত অস্ত্র সিস্টেমের মিশন সমালোচনামূলক দুর্বলতা আছে. আর পেন্টাগন এআইকে এমন সিস্টেমে বসানোর কথা ভাবছে?

উত্তর: এখানে দুটি সমস্যা আছে। প্রথমত, আমাদের বিদ্যমান অস্ত্র ব্যবস্থাকে পর্যাপ্তভাবে সুরক্ষিত করতে হবে। এটি আমাদের কাছে একটি প্রযুক্তিগত ঋণ যা পরিশোধ করতে অনেক সময় লাগবে। তারপরে AI অ্যালগরিদমগুলি সুরক্ষিত করার একটি নতুন সীমান্ত রয়েছে - আমরা ইনস্টল করব এমন অভিনব জিনিস৷ GAO রিপোর্ট আসলে AI সম্পর্কে কথা বলে নি। তাই এক সেকেন্ডের জন্য AI ভুলে যান। যদি এই সিস্টেমগুলি ঠিক সেভাবেই থাকে, তবে তারা এখনও গভীরভাবে দুর্বল।

আমরা উন্নত রক্ষণাবেক্ষণ এবং অপারেশনাল বুদ্ধিমত্তার মতো জিনিসগুলির জন্য খামটি পুশ করার এবং এআই-সক্ষম ক্ষমতা যুক্ত করার বিষয়ে আলোচনা করছি। সব মহান. কিন্তু আমরা কার্ডের ঘরের উপরে তৈরি করছি। অনেক সিস্টেমই কয়েক দশকের পুরনো, ডিজিটাল প্রযুক্তির সাথে রেট্রোফিট করা। বিমান, স্থল যান, মহাকাশ সম্পদ, সাবমেরিন। তারা এখন আন্তঃসংযুক্ত। আমরা ভিতরে এবং বাইরে তথ্য অদলবদল করছি. সিস্টেমগুলি ছিদ্রযুক্ত, আপগ্রেড করা কঠিন এবং আক্রমণ করা যেতে পারে। একবার আক্রমণকারী অ্যাক্সেস লাভ করলে, এটি খেলা শেষ।

কখনও কখনও বিদ্যমান সিস্টেমের ডিজিটাল উপাদানগুলিকে পুনরায় ডিজাইন করার চেয়ে একটি নতুন প্ল্যাটফর্ম তৈরি করা সহজ। কিন্তু এই সিস্টেমগুলিকে সুরক্ষিত করতে AI-এর ভূমিকা রয়েছে। কেউ যদি তাদের সাথে আপস করার চেষ্টা করে তবে AI রক্ষা করতে ব্যবহার করা যেতে পারে।

প্রশ্ন: আপনি সাক্ষ্য দিয়েছেন যে AI গবেষণাকে বিরতি দেওয়া, যেমন কেউ কেউ বলেছে, একটি খারাপ ধারণা হবে কারণ এটি চীন এবং অন্যান্য প্রতিযোগীদের পক্ষে হবে। কিন্তু এআই পণ্যের জন্য মাথাচাড়া দিয়ে যাওয়া নিয়েও আপনার উদ্বেগ রয়েছে। কেন?

উত্তর: আমি নিয়তিবাদী শোনাতে ঘৃণা করি, কিন্তু তথাকথিত "বার্নিং-ব্যবহার" ক্ষেত্রে প্রযোজ্য বলে মনে হচ্ছে। বাজারে আসা একটি পণ্য প্রায়ই আগুন ধরে যায় (হ্যাক হয়ে যায়, ব্যর্থ হয়, অনিচ্ছাকৃত ক্ষতি করে)। এবং আমরা বলি, 'বাচ্চা, আমাদের নিরাপত্তায় গড়ে তোলা উচিত ছিল।' আমি আশা করি এআই বিকাশের গতি ত্বরান্বিত হবে, এবং আমরা নিরাপদ এবং দায়িত্বশীল উপায়ে এটি করার জন্য যথেষ্ট বিরতি দিতে পারি না। অন্তত হোয়াইট হাউস এবং কংগ্রেস এসব বিষয়ে আলোচনা করছে।

প্রশ্ন: দেখে মনে হচ্ছে প্রতিরক্ষা খাত সহ - একগুচ্ছ কোম্পানি হাফ-বেকড এআই পণ্য ঘোষণা করতে ছুটে আসছে।

উত্তর: প্রতিটি প্রযুক্তি কোম্পানি এবং অনেক নন-টেক কোম্পানি এআই-এর দিকে প্রায় একটি ঝাঁকুনি তৈরি করেছে। অর্থনৈতিক স্থানচ্যুতি আসছে। ব্যবসা মডেল মৌলিকভাবে পরিবর্তন করতে যাচ্ছে. স্থানচ্যুতি ইতিমধ্যেই ঘটছে বা দিগন্তে রয়েছে - এবং ব্যবসায়ী নেতারা সমতল পায়ে ধরা না পড়ার চেষ্টা করছেন।

প্রশ্ন: লক্ষ্যবস্তুর মতো সামরিক সিদ্ধান্ত গ্রহণে AI ব্যবহার সম্পর্কে কী?

উত্তর: আমি মনে করি না, স্পষ্টতই মনে করি না যে কৃত্রিম বুদ্ধিমত্তার অ্যালগরিদমগুলি - আমরা যে ডেটা সংগ্রহ করছি - একটি প্রাণঘাতী অস্ত্র ব্যবস্থার সিদ্ধান্ত নেওয়ার জন্য প্রাইম টাইমের জন্য প্রস্তুত৷ আমরা সেই থেকে অনেক দূরে।

সময় স্ট্যাম্প:

থেকে আরো প্রতিরক্ষা সংবাদ