Lospinoso از Shift5 می گوید، "هوش مصنوعی متخاصم" تهدیدی برای سیستم های نظامی است

Lospinoso از Shift5 می گوید، "هوش مصنوعی متخاصم" تهدیدی برای سیستم های نظامی است

تمبر زمان: 29 مه 2023 ساعت 3:43 بعد از ظهر
گره منبع: 2685907

اولین استارت آپ امنیت سایبری جاش لوسپینوسو در سال 2017 توسط Raytheon/Forcepoint خریداری شد. دومین او، Shift5، با ارتش ایالات متحده، اپراتورهای راه آهن و خطوط هوایی از جمله JetBlue کار می کند. کاپیتان 2009 ساله سابق ارتش، فارغ التحصیل سال 36 وست پوینت و محقق رودز، بیش از یک دهه را سپری کرد. تالیف ابزارهای هک برای آژانس امنیت ملی و فرماندهی سایبری ایالات متحده.

لوسپینوسو اخیراً به یک کمیته فرعی خدمات مسلح سنا گفت که چگونه هوش مصنوعی می تواند به حفاظت از عملیات نظامی کمک کند. مدیر عامل/برنامه نویس این موضوع را با آسوشیتدپرس و همچنین چگونگی آسیب پذیری های نرم افزاری در سیستم های تسلیحاتی یک تهدید بزرگ برای ارتش ایالات متحده مورد بحث قرار داد. مصاحبه برای وضوح و طولانی بودن ویرایش شده است.

س: در شهادت خود، دو تهدید اصلی را برای فناوری های مجهز به هوش مصنوعی توصیف کردید: یکی سرقت است. این خود توضیحی است. مورد دیگر مسمومیت داده است. می توانید آن را توضیح دهید؟

پاسخ: یکی از راه‌های فکر کردن در مورد مسمومیت داده‌ها، اطلاعات نادرست دیجیتالی است. اگر دشمنان بتوانند داده‌هایی را ایجاد کنند که فناوری‌های مجهز به هوش مصنوعی می‌بینند، می‌توانند عمیقاً بر نحوه عملکرد آن فناوری تأثیر بگذارند.

س: آیا مسمومیت داده اتفاق می افتد؟

پاسخ: ما آن را به طور گسترده نمی بینیم. ولی رخ داده است. یکی از شناخته شده ترین موارد در سال 2016 اتفاق افتاد. مایکروسافت یک ربات چت توییتری به نام Tay منتشر کرد که از مکالمات آنلاین خود آموخته بود. کاربران مخرب توطئه کردند تا توئیت های توهین آمیز و توهین آمیز را به آن نشان دهند. تای شروع به تولید محتوای التهابی کرد. مایکروسافت آن را آفلاین کرد.

س: هوش مصنوعی فقط چت ربات نیست. این مدت طولانی است که در امنیت سایبری یکپارچه بوده است، درست است؟

پاسخ: هوش مصنوعی در فیلترهای ایمیل برای پرچم گذاری و جداسازی نامه های ناخواسته و فریب های فیشینگ استفاده می شود. مثال دیگر نقاط پایانی است، مانند برنامه آنتی ویروس در لپ تاپ شما - یا نرم افزار شناسایی بدافزار که در شبکه ها اجرا می شود. البته، هکرهای مهاجم نیز از هوش مصنوعی برای شکست دادن این سیستم های طبقه بندی استفاده می کنند. به آن هوش مصنوعی متخاصم می گویند.

س: بیایید در مورد سیستم های نرم افزاری نظامی صحبت کنیم. 2018 هشدار دهنده گزارش دفتر حسابرسی دولت گفت تقریباً تمام سیستم‌های تسلیحاتی جدید توسعه‌یافته دارای آسیب‌پذیری‌های حیاتی هستند. و پنتاگون به فکر قرار دادن هوش مصنوعی در چنین سیستم هایی است؟

ج: در اینجا دو مسئله وجود دارد. اول، ما باید سیستم های تسلیحاتی موجود را به اندازه کافی ایمن کنیم. این یک بدهی فنی است که ما داریم و پرداخت آن زمان بسیار زیادی طول می کشد. سپس مرز جدیدی برای ایمن سازی الگوریتم های هوش مصنوعی وجود دارد - چیزهای جدیدی که ما نصب می کنیم. گزارش GAO واقعاً در مورد هوش مصنوعی صحبت نکرد. پس یک لحظه هوش مصنوعی را فراموش کنید. اگر این سیستم‌ها به همان شکلی که هستند باقی بمانند، هنوز هم عمیقاً آسیب‌پذیر هستند.

ما در حال بحث در مورد فشار دادن پاکت و افزودن قابلیت‌های مبتنی بر هوش مصنوعی برای مواردی مانند بهبود تعمیر و نگهداری و هوش عملیاتی هستیم. همه عالی اما ما در بالای خانه ای از کارت ها می سازیم. بسیاری از سیستم ها ده ها سال قدمت دارند و مجهز به فناوری های دیجیتال هستند. هواپیما، وسایل نقلیه زمینی، دارایی های فضایی، زیردریایی ها. آنها اکنون به هم پیوسته اند. ما در حال مبادله داده ها در داخل و خارج هستیم. سیستم ها متخلخل هستند، به سختی ارتقا می یابند و ممکن است مورد حمله قرار گیرند. هنگامی که یک مهاجم دسترسی پیدا می کند، بازی تمام می شود.

گاهی اوقات ساختن یک پلتفرم جدید آسان تر از طراحی مجدد اجزای دیجیتال سیستم های موجود است. اما هوش مصنوعی نقشی در ایمن سازی این سیستم ها دارد. اگر کسی بخواهد آنها را به خطر بیندازد، می‌توان از هوش مصنوعی برای دفاع استفاده کرد.

س: شما شهادت دادید که توقف تحقیقات هوش مصنوعی، همانطور که برخی تاکید کرده اند، ایده بدی خواهد بود زیرا به نفع چین و سایر رقبا خواهد بود. اما شما همچنین نگرانی هایی در مورد هجوم بی درنگ به سمت محصولات هوش مصنوعی دارید. چرا؟

پاسخ: من متنفرم که سرنوشت‌ساز به نظر برسند، اما به نظر می‌رسد که موردی به‌اصطلاح «استفاده از سوختن» صدق می‌کند. محصولی که با عجله به بازار عرضه می شود اغلب آتش می گیرد (هک می شود، از کار می افتد، آسیب ناخواسته وارد می کند). و ما می گوییم، "پسر، ما باید در امنیت ایجاد می کردیم." من انتظار دارم که سرعت توسعه هوش مصنوعی تسریع شود و ممکن است ما به اندازه کافی مکث نکنیم تا این کار را به روشی ایمن و مسئولانه انجام دهیم. حداقل کاخ سفید و کنگره در حال بحث در مورد این موضوعات هستند.

س: به نظر می رسد گروهی از شرکت ها - از جمله در بخش دفاعی - عجله دارند تا محصولات نیمه کاره هوش مصنوعی را معرفی کنند.

پاسخ: هر شرکت فناوری و بسیاری از شرکت‌های غیرفناوری تقریباً یک چرخش سخت به سمت هوش مصنوعی انجام داده‌اند. نابسامانی های اقتصادی در راه است. مدل های کسب و کار اساساً تغییر خواهند کرد. جابجایی ها در حال حاضر اتفاق می افتد یا در افق هستند - و رهبران کسب و کار تلاش می کنند که با پای صاف گرفتار نشوند.

س: در مورد استفاده از هوش مصنوعی در تصمیم گیری های نظامی مانند هدف گیری چطور؟

پاسخ: من فکر نمی‌کنم، کاملاً فکر نمی‌کنم که الگوریتم‌های هوش مصنوعی - داده‌هایی که ما جمع‌آوری می‌کنیم - برای تصمیم‌گیری یک سیستم سلاح کشنده آماده هستند. ما فقط با آن فاصله داریم.

تمبر زمان:

بیشتر از اخبار دفاع