Omul de știință AI al lui Meta respinge amenințarea existențială a IA

Omul de știință AI al lui Meta respinge amenințarea existențială a IA

Marca temporală: 23 octombrie 2023 1:50
Nodul sursă: 2951498

Dezbaterea globală privind inteligența artificială (AI) a ajuns într-un moment critic. Declarațiile recente ale greilor din industrie sugerează o divergență puternică în opinii. Yann LeCun, om de știință AI al Meta, stă la un capăt, afirmând siguranța AI în forma sa actuală.

În schimb, dr. Geoffrey Hinton, numit cu afecțiune „Nașul AI”, a demisionat de la Google pentru a face lumină asupra preocupărilor sale stringente.

Marea Dezbatere AI

În lucrarea sa interviu cu Financial Times, LeCun nu a tocat cuvintele. El a numit îngrijorările legate de riscul existențial al AI „prematur”. El a explicat în continuare că ideea că inteligența artificială ar putea elimina umanitatea este „ absurdă”. Cu toate acestea, această perspectivă face dezbaterea actuală despre AI atât de captivantă.

El subliniază limitările actuale ale inteligenței artificiale: „Dezbaterea asupra riscului existențial este foarte prematură până când vom avea un design pentru un sistem care poate rivaliza cu o pisică în ceea ce privește capacitățile de învățare, pe care nu le avem în acest moment”. În plus, LeCun a subliniat că modelele noastre actuale de IA trebuie să înțeleagă complexitățile lumii noastre. Ei nu pot planifica sau raționa cu adevărat.

Cu toate acestea, un astfel de optimism este împărtășit în afara comunității AI. la Dr. Hinton plecare de la Google și clarificările ulterioare subliniază această divergență. Preocupările lui imediate includ potențialul AI folosire greșită pe platformele online. El se teme că AI ar putea inunda internetul cu fotografii, videoclipuri și texte false, ceea ce face din ce în ce mai complexă diferențierea dintre conținutul real și cel generat de AI.

Dincolo de aceste implicații directe, temerile mai ample ale lui Hinton se învârt în jurul impactului societal al inteligenței artificiale, în special a potențialelor pierderi de locuri de muncă și a unei curse înarmării în creștere a inteligenței artificiale. Această ultimă preocupare se referă în mod explicit la dezvoltarea sistemelor de arme autonome letale (LEGE).

Pași greșiți și utilizare greșită a AI

O altă dimensiune a conversației cu inteligența artificială este potențiala utilizare greșită a acesteia. De exemplu, platforma de criptomonede de renume mondial Binance s-a găsit în mijlocul unei campanii de calomnie generată de inteligență artificială. AI și-a asociat inexact CEO-ul, Changpeng „CZ” Zhao, cu o organizație de tineret a Partidului Comunist Chinez.

Mai mult, instrumentele AI au arătat potențialul de a genera știri false, provocând preocupări semnificative în peisajul media. De exemplu, Daily Mail a fost indus în eroare să publice o poveste bazată pe informații generate de AI, pe care ulterior a retras-o. Aceste cazuri subliniază temerile împotriva cărora experții precum Dr. Hinton le susțin.

Solicită prudență globală

În timp ce vocile individuale sunt esențiale, recunoașterile colective sunt și mai grăitoare. Mai mulți experți în inteligență artificială, inclusiv cei de la conducerea unor organizații precum OpenAI și Google DeepMind, și-au exprimat în comun îngrijorarea. Declarația lor comună, succintă, dar puternică, spune: „Atenuarea riscului de dispariție din cauza IA ar trebui să fie o prioritate globală alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear”.

Cu toate acestea, calea de urmat ar putea fi mai evidentă chiar și în cadrul acestui apel colectiv la prudență. CEO-ul OpenAI, Sam Altman, a oferit o privire asupra acestei narațiuni complexe. În timp ce a apărut în fața unui Audierea Senatului pentru a discuta despre reglementarea inteligenței artificiale, el a subliniat importanța controalelor și echilibrelor fără a bloca inovația.

Mergând înainte cu AI

Navigarea acestor dezbateri va fi esențială pe măsură ce societatea se adâncește în era dominată de IA. În timp ce lideri din industrie precum LeCun își exprimă încrederea în traiectoria pozitivă a AI, voci de precauție precum cea a lui Hinton ne amintesc de provocările care urmează.

Realizarea unui echilibru delicat între inovare și reglementare va fi esențială. Discursul în curs despre potențialele pericole și oportunități ale AI este mai mult decât academic, deoarece va juca un rol definitoriu în modul în care umanitatea valorifică această tehnologie transformatoare.

Timestamp-ul:

Mai mult de la MetaNews