ভারতীয় প্রধানমন্ত্রীর উপদেষ্টারা বলেছেন যে AI 'ম্যাস সিজোফ্রেনিয়া' সৃষ্টি করতে পারে

ভারতের প্রধানমন্ত্রীর অর্থনৈতিক উপদেষ্টা পরিষদ (EACPM) একটি নথি লিখে সতর্ক করেছে যে বর্তমান বৈশ্বিক AI প্রবিধানগুলি অকার্যকর হতে পারে এবং প্রযুক্তিকে বিকল্প কৌশলগুলির সাথে নিয়ন্ত্রণ করার সুপারিশ করেছে – যেমন আর্থিক বাজারে ব্যবহৃত হয়৷

কাউন্সিল এআই নিয়ে খুবই চিন্তিত। এর নথিতে সতর্ক করা হয়েছে " নজরদারি, প্ররোচিত বার্তাপ্রেরণ এবং সিন্থেটিক মিডিয়া প্রজন্মের সমন্বয়ের মাধ্যমে, দূষিত AI ক্রমবর্ধমানভাবে তথ্য বাস্তুতন্ত্রকে নিয়ন্ত্রণ করতে পারে এবং এমনকি কাস্টমাইজড প্রতারণামূলক বাস্তবতা তৈরি করতে পারে যাতে মানুষের আচরণকে জোর করে, গণ সিজোফ্রেনিয়া প্ররোচিত করে।"

সংগঠনটি এআই-এর প্রতি মার্কিন যুক্তরাষ্ট্রের দৃষ্টিভঙ্গিকে খুব হাতছাড়া বলে সমালোচনা করে, যুক্তরাজ্য উদ্ভাবনের পক্ষে এবং লাইসেজ-ফায়ারের পক্ষে ঝুঁকি উপস্থাপন করে এবং ব্লকের সদস্য দেশগুলি বিভক্ত হয়ে যাওয়ার কারণে এবং বিভিন্ন জোর এবং প্রয়োগ গ্রহণের কারণে ইউরোপীয় ইউনিয়নের এআই নিয়মগুলিকে ত্রুটিপূর্ণ বলে সমালোচনা করে। প্রয়োগকারী ব্যবস্থা।

নথিটি আরও যুক্তি দেয় যে "একটি সর্বশক্তিমান কেন্দ্রীভূত আমলাতান্ত্রিক ব্যবস্থা" দিয়ে নিয়ন্ত্রণ করার চীনের প্রবণতা ত্রুটিপূর্ণ - যেমনটি "COVID-19 এর সম্ভাব্য ল্যাব-লিক উত্স" দ্বারা প্রদর্শিত হয়েছে।

আমরা এখানে লুকিং গ্লাস মাধ্যমে করছি, মানুষ.

(রেকর্ডের জন্য, মার্কিন জাতীয় গোয়েন্দা সংস্থার পরিচালকের অফিস রয়েছে কোনো ইঙ্গিত পাওয়া যায়নি যে ভাইরাসটি একটি চীনা ল্যাব থেকে ফাঁস হয়েছে।)

কিন্তু আমরা বিমুখ।

কাউন্সিল পরামর্শ দেয় যে AI কে একটি "বিকেন্দ্রীভূত স্ব-সংগঠিত ব্যবস্থা [যা বিকশিত হয়] ফিডব্যাক লুপ, ফেজ ট্রানজিশন এবং প্রারম্ভিক অবস্থার প্রতি সংবেদনশীলতার মাধ্যমে" হিসাবে বিবেচনা করা হয় এবং এই ধরনের সিস্টেমের অন্যান্য উদাহরণ তুলে ধরে - যেমন আর্থিক বাজারে দেখা যায় অরৈখিক সত্তা, পিঁপড়া উপনিবেশের আচরণ , বা ট্রাফিক নিদর্শন।

“ঐতিহ্যগত পদ্ধতিগুলি AI এর অ-রৈখিক, অপ্রত্যাশিত প্রকৃতির কারণে কম পড়ে। এআই সিস্টেমগুলি কমপ্লেক্স অ্যাডাপটিভ সিস্টেমের (সিএএস) অনুরূপ, যেখানে উপাদানগুলি অপ্রত্যাশিত উপায়ে ইন্টারঅ্যাক্ট করে এবং বিকশিত হয়। ব্যাখ্যা [পিডিএফ] পরিষদ।

কাউন্সিল "প্রাক্তন পূর্ব" ব্যবস্থার উপর নির্ভর করতে আগ্রহী নয়, কারণ একটি এআই সিস্টেম যে ঝুঁকি উপস্থাপন করবে তা আগে থেকে জানা অসম্ভব - এর আচরণটি অনেকগুলি কারণের ফলাফল।

নথিটি তাই ভারতকে পাঁচটি নিয়ন্ত্রক ব্যবস্থা গ্রহণের প্রস্তাব দেয়:

• গার্ডেল এবং পার্টিশন স্থাপন করা, যা নিশ্চিত করতে হবে যে AI প্রযুক্তিগুলি তাদের উদ্দেশ্যমূলক কার্যকারিতা অতিক্রম করবে না বা বিপজ্জনক অঞ্চলগুলিতে দখল করবে না – যেমন পারমাণবিক অস্ত্রের সিদ্ধান্ত গ্রহণ। যদি তারা কোনওভাবে একটি সিস্টেমে সেই রেললাইনটি লঙ্ঘন করে, তবে পার্টিশনগুলি তা ছড়িয়ে না পড়ে তা নিশ্চিত করার জন্য সেখানে রয়েছে।
• ম্যানুয়াল ওভাররাইড এবং অনুমোদন চোকপয়েন্ট নিশ্চিত করা যা মানুষকে নিয়ন্ত্রণে রাখে এবং বহু-ফ্যাক্টর প্রমাণীকরণ এবং মানব সিদ্ধান্ত গ্রহণকারীদের জন্য বহু-স্তরযুক্ত পর্যালোচনা প্রক্রিয়ার মাধ্যমে তাদের নিরাপদ রাখে।
• স্বচ্ছতা এবং ব্যাখ্যাযোগ্যতা একটি অডিট-বান্ধব পরিবেশ, নিয়মিত অডিট এবং মূল্যায়ন, এবং প্রমিত উন্নয়ন ডকুমেন্টেশন তৈরি করতে মূল অ্যালগরিদমের জন্য উন্মুক্ত লাইসেন্সিংয়ের মতো ব্যবস্থা সহ।
• স্বতন্ত্র জবাবদিহিতা পূর্বনির্ধারিত দায়বদ্ধতা প্রোটোকল, বাধ্যতামূলক প্রমিত ঘটনা রিপোর্টিং এবং তদন্ত প্রক্রিয়ার মাধ্যমে।
• একটি বিশেষ নিয়ন্ত্রক সংস্থা প্রণয়নযেটি একটি বিস্তৃত ম্যান্ডেট দেওয়া হয়, একটি প্রতিক্রিয়া-চালিত পদ্ধতি গ্রহণ করে, এআই সিস্টেমের আচরণের উপর নজর রাখে এবং ট্র্যাক করে, স্বয়ংক্রিয় সতর্কতা সিস্টেমগুলিকে সংহত করে এবং একটি জাতীয় রেজিস্ট্রি প্রতিষ্ঠা করে।

কাউন্সিল তার ধারনাগুলি - প্রাথমিকভাবে, আর্থিক বাজারগুলি কীভাবে সরবরাহ করা যায় সে সম্পর্কে ধারণাগুলির জন্য অন্যান্য CAS সিস্টেমগুলি দেখার সুপারিশ করেছে৷

"আর্থিক বাজারের মতো বিশৃঙ্খল সিস্টেমগুলি পরিচালনার অন্তর্দৃষ্টিগুলি জটিল প্রযুক্তিগুলির জন্য সম্ভাব্য নিয়ন্ত্রণ পদ্ধতি প্রদর্শন করে," নথিটি পর্যবেক্ষণ করে, পরামর্শ দেয় যে ডেডিকেটেড AI নিয়ন্ত্রকগুলি ভারতের SEBI বা USA's SEC-এর মতো আর্থিক নিয়ন্ত্রকদের মডেল হতে পারে৷

বাজার বিপদে পড়লে এই সংস্থাগুলি যেমন ট্রেডিং বন্ধ করে দেয়, নিয়ন্ত্রকরা একইরকম "চোকপয়েন্ট" গ্রহণ করতে পারে যেখানে AI হিল আনা হবে। এআই অপারেটরদের যে ধরনের ডিসক্লোজার ফাইল করার প্রয়োজন হতে পারে তার জন্য বাধ্যতামূলক আর্থিক প্রতিবেদন একটি ভাল মডেল।

লেখকদের উদ্বেগ এই বিশ্বাসের দ্বারা উদ্দীপিত হয় যে AI এর ক্রমবর্ধমান সর্বব্যাপীতা - এর কাজের অস্বচ্ছতার সাথে মিলিত - মানে সমালোচনামূলক অবকাঠামো, প্রতিরক্ষা কার্যক্রম এবং অন্যান্য অনেক ক্ষেত্র ঝুঁকির মধ্যে রয়েছে।

তারা যে বিপদগুলির রূপরেখা দিয়েছে তার মধ্যে রয়েছে "পলাতক AI" যেখানে সিস্টেমগুলি পুনরাবৃত্তভাবে মানুষের নিয়ন্ত্রণের বাইরে স্ব-উন্নত হতে পারে এবং "মানব কল্যাণের সাথে বিভ্রান্তিকর" এবং প্রজাপতি প্রভাব - একটি দৃশ্যকল্প "যেখানে সামান্য পরিবর্তনগুলি উল্লেখযোগ্য, অপ্রত্যাশিত পরিণতির দিকে নিয়ে যেতে পারে।"

"অতএব, স্বার্থকে সর্বাধিক করার লক্ষ্যে অ্যালগরিদম, প্রশিক্ষণ সেট এবং মডেলগুলির উপর অস্বচ্ছ রাষ্ট্রীয় নিয়ন্ত্রণের একটি ব্যবস্থা বিপর্যয়কর ফলাফলের দিকে নিয়ে যেতে পারে," কাউন্সিল সতর্ক করেছিল।

নথিটি নোট করে যে এর প্রস্তাবিত প্রবিধানের অর্থ হতে পারে কিছু পরিস্থিতিতে বাতিল করা প্রয়োজন।

"আমরা কখনই সবকিছুর একটি সুপার সংযুক্ত ইন্টারনেটের অনুমতি দিতে পারি না," কাউন্সিল স্বীকার করে। কিন্তু এটি এই উপসংহারে পৌঁছেছে যে মানবতার শক্তিশালী বিধিবিধান থেকে আরও বেশি কিছু লাভ করতে পারে।

“যারা AI টুল তৈরি করছে তাদের অনুমিত অনাকাঙ্ক্ষিত পরিণতির জন্য সহজে ছেড়ে দেওয়া হবে না – এর ফলে একটি প্রাক্তন 'স্কিন ইন দ্য গেম' সন্নিবেশ করানো হবে। মানুষ ওভাররাইড এবং অনুমোদন ক্ষমতা বজায় রাখা হবে. নিয়মিত বাধ্যতামূলক অডিট ব্যাখ্যাযোগ্যতা প্রয়োগ করতে হবে।" ®

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://go.theregister.com/feed/www.theregister.com/2024/02/01/indian_pms_ai_advice/