Головний науковець Meta зі штучного інтелекту відкидає екзистенційну загрозу штучного інтелекту

Головний науковець Meta зі штучного інтелекту відкидає екзистенційну загрозу штучного інтелекту

Мітка часу: 23 жовтня 2023 1:50
Вихідний вузол: 2951498

Глобальні дебати щодо штучного інтелекту (ШІ) досягли критичної точки. Нещодавні заяви провідних компаній галузі свідчать про різку розбіжність у думках. Янн ЛеКун, головний науковий співробітник Meta зі штучного інтелекту, стоїть з одного боку, стверджуючи про безпеку штучного інтелекту в його нинішньому вигляді.

Навпаки, доктор Джеффрі Хінтон, якого ласкаво називають «хрещеним батьком штучного інтелекту», звільнився з Google, щоб пролити світло на свої гострі проблеми.

Великі дебати щодо ШІ

У своєму інтерв'ю з Financial Times, Лекун не сказав жодних слів. Він назвав занепокоєння щодо екзистенційного ризику ШІ «передчасним». Далі він уточнив, що ідея про те, що штучний інтелект може знищити людство, є «абсурдною». Однак ця перспектива робить поточні дебати навколо штучного інтелекту такими захоплюючими.

Він наголошує на нинішніх обмеженнях штучного інтелекту: «Дебати про екзистенціальний ризик є дуже передчасними, поки ми не маємо дизайн системи, яка може конкурувати з котом у плані можливостей навчання, чого ми не маємо на даний момент». Крім того, ЛеКун підкреслив, що наші поточні моделі ШІ повинні розуміти тонкощі нашого світу. Вони не можуть по-справжньому планувати чи міркувати.

Однак такий оптимізм поділяють за межами спільноти ШІ. Доктора Гінтона від'їзд від Google і наступні роз’яснення підкреслюють цю розбіжність. Його безпосередньо хвилює потенціал ШІ зловживання на онлайн-платформах. Він побоюється, що штучний інтелект може заполонити Інтернет підробленими фотографіями, відео та текстом, що ускладнить розрізнення реального контенту від створеного ШІ.

Окрім цих прямих наслідків, ширші побоювання Гінтона зосереджені навколо суспільного впливу штучного інтелекту, зокрема потенційної втрати робочих місць і загострення гонки озброєнь штучного інтелекту. Останнє занепокоєння прямо стосується розробки летальних автономних систем зброї (LAWS).

Помилки та неправильне використання ШІ

Іншим аспектом розмови ШІ є його потенційне зловживання. Наприклад, всесвітньо відома криптовалютна платформа Binance опинилася серед наклепницької кампанії, створеної ШІ. AI помилково пов’язав свого генерального директора Чанпена «CZ» Чжао з молодіжною організацією Комуністичної партії Китаю.

Крім того, інструменти штучного інтелекту показали потенціал для генерування фейкових новин, викликаючи серйозне занепокоєння в медіа-ландшафті. Наприклад, газета Daily Mail була введена в оману, опублікувавши історію на основі інформації, згенерованої штучним інтелектом, яку пізніше відкликала. Ці випадки підкреслюють страхи, проти яких виступають такі експерти, як доктор Хінтон.

Закликає до глобальної обережності

У той час як індивідуальні голоси важливі, колективні визнання ще більш промовисті. Декілька експертів зі штучного інтелекту, включно з керівниками таких організацій, як OpenAI і Google DeepMind, спільно висловили занепокоєння. У їхній спільній заяві, стислій, але вагомій, йдеться: «Зменшення ризику зникнення від штучного інтелекту повинно бути глобальним пріоритетом поряд з іншими ризиками суспільного масштабу, такими як пандемії та ядерна війна».

Проте шлях уперед може бути більш очевидним навіть у рамках цього колективного заклику до обережності. Генеральний директор OpenAI, Сем Альтман, дав уявлення про цю складну історію. Поки він з'явився перед а Слухання сенату обговорюючи регулювання штучного інтелекту, він підкреслив важливість стримувань і противаг без зупинки інновацій.

Рух вперед з ШІ

Навігація в цих дебатах стане ключовою, оскільки суспільство все глибше заглиблюється в епоху домінування ШІ. У той час як такі лідери галузі, як ЛеКун, висловлюють впевненість у позитивній траєкторії ШІ, голоси обережності, такі як Хінтон, нагадують нам про майбутні виклики.

Встановлення тонкого балансу між інноваціями та регулюванням буде критичним. Поточні дискусії щодо потенційних небезпек і можливостей ШІ є більш ніж академічними, оскільки вони відіграватимуть визначальну роль у тому, як людство використовує цю трансформаційну технологію.

Часова мітка:

Більше від МетаНовини