OpenAI از آژانس جهانی می خواهد تا ابراطلاعات را تنظیم کند

OpenAI از آژانس جهانی می خواهد تا ابراطلاعات را تنظیم کند

تمبر زمان: 24 مه 2023 ساعت 1:29 بعد از ظهر
گره منبع: 2674707

به گفته مدیران ارشد OpenAI سازنده GPT-4، یک آژانس بین المللی باید مسئول بازرسی و ممیزی هوش مصنوعی عمومی باشد تا اطمینان حاصل شود که این فناوری برای بشریت ایمن است.

مدیر عامل شرکت سم آلتمن و بنیانگذاران همکار، گرگ براکمن و ایلیا سوتسکور گفتند که «قابل تصور» است که هوش مصنوعی در دهه آینده توانایی‌های خارق‌العاده‌ای به دست آورد که از انسان‌ها فراتر می‌رود.

از نظر جنبه‌های مثبت و منفی بالقوه، ابر هوش قوی‌تر از سایر فناوری‌هایی است که بشر در گذشته مجبور به مبارزه با آن‌ها بوده است. ما می توانیم آینده ای به طور چشمگیری مرفه تر داشته باشیم. اما ما باید ریسک را مدیریت کنیم تا به آنجا برسیم نوشت در روز سه شنبه.

آنها استدلال کردند که هزینه های ساخت چنین فناوری قدرتمندی با تلاش بیشتر افراد برای پیشرفت آن کاهش می یابد. به منظور کنترل پیشرفت، توسعه باید توسط یک سازمان بین المللی مانند آژانس بین المللی انرژی اتمی (IAEA) نظارت شود.

آژانس بین‌المللی انرژی اتمی در سال 1957 و در زمانی که دولت‌ها نگران توسعه سلاح‌های هسته‌ای در طول جنگ سرد بودند، تأسیس شد. این آژانس به تنظیم انرژی هسته‌ای کمک می‌کند و تضمین‌هایی را برای اطمینان از عدم استفاده از انرژی هسته‌ای برای مقاصد نظامی تعیین می‌کند.

ما احتمالاً در نهایت به چیزی مانند آژانس بین‌المللی انرژی اتمی برای تلاش‌های ابراطلاعاتی نیاز خواهیم داشت. هر تلاشی که بالاتر از حد آستانه توانایی خاص (یا منابعی مانند محاسبه) باشد، باید تابع یک مرجع بین‌المللی باشد که می‌تواند سیستم‌ها را بازرسی کند، نیاز به ممیزی داشته باشد، آزمایش انطباق با استانداردهای ایمنی، اعمال محدودیت‌هایی در درجات استقرار و سطوح امنیتی و غیره، " آنها گفتند.

چنین گروهی مسئول ردیابی محاسبات و مصرف انرژی، منابع حیاتی مورد نیاز برای آموزش و اجرای مدل‌های بزرگ و قدرتمند خواهد بود.

یکی از مدیران ارشد OpenAI می‌گوید: «ما مجموعاً می‌توانیم توافق کنیم که نرخ رشد در قابلیت هوش مصنوعی در مرز به نرخ مشخصی در سال محدود می‌شود. شرکت‌ها باید داوطلبانه با بازرسی‌ها موافقت کنند، و آژانس باید روی «کاهش خطر وجودی» تمرکز کند، نه مسائل نظارتی که توسط قوانین فردی یک کشور تعریف و تنظیم شده‌اند.

هفته گذشته آلتمن این ایده را مطرح کرد که شرکت‌ها باید مجوز ساخت مدل‌هایی با قابلیت‌های پیشرفته بالاتر از یک آستانه خاص را در سنا دریافت کنند. شنوایی. پیشنهاد او بعداً مورد انتقاد قرار گرفت زیرا می تواند به طور غیرمنصفانه بر سیستم های هوش مصنوعی ساخته شده توسط شرکت های کوچکتر یا جامعه منبع باز که احتمال کمتری دارد منابع لازم برای برآورده کردن الزامات قانونی را در اختیار داشته باشند، تأثیر بگذارد.

آنها گفتند: «ما فکر می‌کنیم مهم است که به شرکت‌ها و پروژه‌های منبع باز اجازه داده شود تا مدل‌هایی را زیر حد آستانه قابل‌توجهی توسعه دهند، بدون اینکه مقرراتی که در اینجا توضیح می‌دهیم (از جمله مکانیسم‌های سنگین مانند مجوزها یا ممیزی‌ها)».

ایلان ماسک در اواخر ماه مارس یکی از 1,000 امضاکننده نامه سرگشاده ای بود که خواستار توقف شش ماهه توسعه و آموزش هوش مصنوعی قدرتمندتر از GPT4 به دلیل خطرات بالقوه برای بشریت شد، چیزی که آلتمن تایید شده در اواسط آوریل این کار را انجام می داد.

در این نامه آمده است: «سیستم‌های هوش مصنوعی قدرتمند تنها زمانی باید توسعه یابند که مطمئن شویم اثرات آن‌ها مثبت و خطرات آن‌ها قابل کنترل خواهد بود».

ساندار پیچای، مدیرعامل آلفابت و گوگل در آخر هفته مقاله ای در فایننشال تایمز نوشت. گفته: "من هنوز معتقدم هوش مصنوعی آنقدر مهم است که نمی توان آن را تنظیم کرد، و آنقدر مهم است که نمی توان به خوبی تنظیم کرد." ®

تمبر زمان:

بیشتر از ثبت نام