ایالات متحده، بریتانیا و سایر کشورها دستورالعمل‌های هوش مصنوعی «ایمن بر اساس طراحی» را جوهر می‌کنند

ایالات متحده، بریتانیا و سایر کشورها دستورالعمل‌های هوش مصنوعی «ایمن بر اساس طراحی» را جوهر می‌کنند

تمبر زمان: 26 نوامبر 2023، 11:45 بعد از ظهر
گره منبع: 2979839

ایالات متحده، بریتانیا، استرالیا و 15 کشور دیگر دستورالعمل‌های جهانی را برای کمک به محافظت از مدل‌های هوش مصنوعی در برابر دستکاری منتشر کرده‌اند و از شرکت‌ها می‌خواهند که مدل‌های خود را «با طراحی ایمن» کنند.

در 26 نوامبر، 18 کشور یک 20 صفحه منتشر کردند سند تشریح این که چگونه شرکت‌های هوش مصنوعی باید امنیت سایبری خود را هنگام توسعه یا استفاده از مدل‌های هوش مصنوعی مدیریت کنند، همانطور که ادعا می‌کنند «امنیت اغلب می‌تواند یک ملاحظات ثانویه» در صنعت پرسرعت باشد.

این دستورالعمل‌ها عمدتاً شامل توصیه‌های عمومی مانند حفظ یک بند محکم بر روی زیرساخت مدل هوش مصنوعی، نظارت بر هرگونه دستکاری در مدل‌ها قبل و بعد از انتشار، و آموزش کارکنان در مورد خطرات امنیت سایبری بود.

موارد بحث برانگیز خاصی در فضای هوش مصنوعی ذکر نشده است، از جمله اینکه چه کنترل هایی باید در مورد استفاده از آن وجود داشته باشد مدل های تولید کننده تصویر و جعلی های عمیق یا روش های جمع آوری داده ها و استفاده در مدل های آموزشی - مسئله ای که دیده می شود چندین شرکت هوش مصنوعی شکایت کردند در مورد ادعاهای نقض حق چاپ

الخاندرو مایورکاس، وزیر امنیت داخلی ایالات متحده، گفت: "ما در نقطه عطف توسعه هوش مصنوعی قرار داریم، که ممکن است مهم ترین فناوری زمان ما باشد." گفت: در یک بیانیه. "امنیت سایبری برای ساختن سیستم های هوش مصنوعی ایمن، ایمن و قابل اعتماد کلیدی است."

مرتبط: ائتلاف فناوری اتحادیه اروپا نسبت به تنظیم بیش از حد هوش مصنوعی قبل از نهایی شدن قانون هوش مصنوعی اتحادیه اروپا هشدار داد

این دستورالعمل ها از دیگر ابتکارات دولتی که بر هوش مصنوعی تأثیر می گذارد، از جمله دولت ها و شرکت های هوش مصنوعی پیروی می کند نشست برای اجلاس ایمنی هوش مصنوعی در اوایل ماه جاری در لندن برای هماهنگی توافقنامه توسعه هوش مصنوعی.

در همین حال، اتحادیه اروپا است هش کردن جزئیات قانون هوش مصنوعی خود که بر فضا نظارت خواهد کرد و جو بایدن، رئیس جمهور ایالات متحده، در ماه اکتبر فرمان اجرایی صادر کرد که استانداردهایی را برای ایمنی و امنیت هوش مصنوعی تعیین کرد - هرچند هر دو پس بک را دیده اند از صنعت هوش مصنوعی ادعا می کنند که می توانند نوآوری را خفه کنند.

سایر امضاکنندگان دستورالعمل جدید "ایمن بر اساس طراحی" عبارتند از کانادا، فرانسه، آلمان، اسرائیل، ایتالیا، ژاپن، نیوزلند، نیجریه، نروژ، کره جنوبی و سنگاپور. شرکت‌های هوش مصنوعی، از جمله OpenAI، Microsoft، Google، Anthropic و Scale AI نیز در توسعه دستورالعمل‌ها مشارکت داشتند.

مجله: AI Eye: استفاده واقعی از هوش مصنوعی در کریپتو، رقیب GPT-4 گوگل، لبه هوش مصنوعی برای کارمندان بد

تمبر زمان:

بیشتر از Cointelegraph