هشدار رئیس امنیت سایبری کانادا درباره ویدیوهای تولید شده توسط هوش مصنوعی که انتخابات را تهدید می کند

هشدار رئیس امنیت سایبری کانادا درباره ویدیوهای تولید شده توسط هوش مصنوعی که انتخابات را تهدید می کند

تمبر زمان: 8 ژانویه 2024، 9:57 صبح
گره منبع: 3051446

پنکا هریستوفسکا


پنکا هریستوفسکا

منتشر شده در: ژانویه 8، 2024

رئیس امنیت سایبری کانادا نسبت به خطراتی که ویدیوهای جعلی تولید شده توسط هوش مصنوعی برای انتخابات آینده ایجاد می کند، هشدار می دهد.

سامی خوری، رئیس مرکز امنیت سایبری کانادا (CCCS) می گوید که فناوری هوش مصنوعی مورد استفاده برای ساخت ویدیوهای جعلی با سرعت قابل توجهی نسبت به توسعه ابزارهای تأیید با هدف شناسایی استفاده از چنین فناوری هایی در حال رشد است.

این اساساً بدان معنی است که کانادا (یا هر کشور دیگری) ممکن است ابزاری برای ضبط موفقیت آمیز تمام ویدیوها و صداهای تقلبی هوش مصنوعی که بازیگران بد ممکن است برای انتشار اطلاعات نادرست مربوط به انتخابات آینده استفاده کنند، نداشته باشد.

خوری گفت: "هوش مصنوعی اکنون می تواند تقریباً برای جعل صدای من استفاده شود." نشنال پست. «این تکامل بعدی است. حالا، می‌توانید یک تکه از صدای من، 30 ثانیه، یک دقیقه، بردارید و کاری کنید که چیزی کاملاً مخالف پیام من باشد و بسیار معتبر خواهد بود.»

او ادامه داد: «این کار را می توان به راحتی با استفاده از ابزارهای آنلاین انجام داد. «و سپس کمی بیشتر تکامل می‌یابید و وارد ویدیوهای دیپ‌فیک می‌شوید. این فناوری در آن جهت حرکت می کند. ما هنوز نمی دانیم که چگونه احراز هویت ... یا احراز هویت را حذف کنیم. چگونه می توانم بگویم این صدای من نیست، یا چگونه می توانم تأیید کنم که یک پیام واقعاً از من است؟»

با توجه به گزارش تهدیدات سایبری برای روند دموکراتیک کانادا که می‌گوید مخالفان ژئوپلیتیک کانادا ممکن است از هوش مصنوعی برای ایجاد ویدیوها و تصاویر «دیپ جعلی» استفاده کنند، خوری همچنین به تلاش‌های متقاعدکننده‌تر فیشینگ اشاره کرد - بازیگران بد اکنون هوش مصنوعی دارند تا به آنها کمک کند حملات خود را کامل کنند. .

او گفت: «روزهایی که ایمیل های فیشینگ... غلط املایی دارد، دارای علائم نگارشی خنده دار است، و چیزی را به شما می فروشد که برای واقعی بودن خیلی خوب است، گذشته است.

به علاوه، این بسیار ساده تر از هک کردن یک سازمان است.

خوری توضیح داد: «شرکت‌ها در حال سرمایه‌گذاری در ساخت محصولات کمی امن‌تر هستند. بنابراین، اغلب تنها راه برای دور زدن آن پوسته سخت، آن امنیت محیطی، این است که ... خود را در وسط یک شبکه منجنیق کنید. فیشینگ تمایل دارد راهی برای انجام آن باشد. "

در مورد حملات باج افزار، خوری گفت که سازمان امنیت ارتباطات برنامه ای را برای هشدار دادن به سازمان های دولتی و سایر سازمان ها در صورت شناسایی یک حمله باج افزار بالقوه آغاز کرده است.

ما تکنیکی را برای تشخیص برخی از این مراحل در رقص با اطمینان کافی ابداع کرده‌ایم که اکنون می‌توانیم یک هشدار خودکار صادر کنیم تا بگوییم ... که ما برخی از آن سیگنال‌ها را دریافت کرده‌ایم، فعالیتی در زیرساخت شما انجام می‌شود. که گام هایی برای یک حادثه باج افزار بالقوه است.

این سازمان تاکنون حدود 500 اطلاعیه از این دست صادر کرده است.

خوری گفت: "در بسیاری از موارد، بازخوردی که ما می شنویم این است که تفاوت ایجاد کرده است و آنها موفق شده اند سیستم را ایزوله کنند و از استقرار باج افزار جلوگیری کنند."

تمبر زمان:

بیشتر از کارآگاهان ایمنی