Metin glavni znanstvenik za umetno inteligenco zavrača eksistencialno grožnjo umetne inteligence

Metin glavni znanstvenik za umetno inteligenco zavrača eksistencialno grožnjo umetne inteligence

Časovni žig: 23. oktober 2023 1
Izvorno vozlišče: 2951498

Svetovna razprava o umetni inteligenci (AI) je dosegla kritično točko. Nedavne izjave vodilnih v panogi kažejo na močno razhajanje v mnenjih. Yann LeCun, Metin glavni znanstvenik za umetno inteligenco, stoji na enem koncu in zatrjuje varnost umetne inteligence v njeni trenutni obliki.

Nasprotno pa je dr. Geoffrey Hinton, ljubkovalno imenovan »boter umetne inteligence«, odstopil iz Googla, da bi osvetlil svoje pereče skrbi.

Velika razprava o AI

V njegovi intervju pri Financial Timesu LeCun ni izgubljal besed. Zaskrbljenost glede eksistencialnega tveganja umetne inteligence je označil za "prezgodnjo". Nadalje je pojasnil, da je zamisel, da bi umetna inteligenca lahko odstranila človeštvo, "nesmiselna". Vendar pa je zaradi te perspektive trenutna razprava o AI tako privlačna.

Poudarja sedanje omejitve umetne inteligence: "Razprava o eksistencialnem tveganju je zelo preuranjena, dokler ne bomo imeli zasnove za sistem, ki se lahko kosa z mačko v smislu učnih zmožnosti, ki jih trenutno nimamo." Poleg tega je LeCun poudaril, da morajo naši trenutni modeli AI razumeti zapletenost našega sveta. Ne morejo resnično načrtovati ali razmišljati.

Vendar pa je takšen optimizem deležen zunaj skupnosti AI. Dr. Hintona odhod od Googla in kasnejša pojasnila poudarjajo to razhajanje. Njegove neposredne skrbi vključujejo potencial umetne inteligence zloraba na spletnih platformah. Boji se, da bi lahko umetna inteligenca internet preplavila s ponarejenimi fotografijami, videoposnetki in besedilom, zaradi česar bi bilo razlikovanje med resnično vsebino in vsebino, ki jo ustvari umetna inteligenca, vse bolj zapleteno.

Poleg teh neposrednih posledic se Hintonovi širši strahovi vrtijo okoli družbenega vpliva umetne inteligence, zlasti morebitnih izgub delovnih mest in vse večje oboroževalne tekme z umetno inteligenco. Ta zadnja skrb se izrecno dotika razvoja smrtonosnih avtonomnih orožnih sistemov (LAWS).

Napačni koraki in zloraba AI

Druga razsežnost pogovora o AI je njegova morebitna zloraba. Na primer, svetovno znana platforma za kriptovalute Binance se je znašla sredi blatne kampanje, ki jo je ustvarila umetna inteligenca. AI je napačno povezal svojega izvršnega direktorja Changpenga »CZ« Zhaoa z mladinsko organizacijo kitajske komunistične partije.

Poleg tega so orodja umetne inteligence pokazala potencial za ustvarjanje lažnih novic, kar povzroča veliko skrbi v medijski krajini. Na primer, Daily Mail je bil zaveden, da je objavil zgodbo, ki je temeljila na informacijah, ustvarjenih z umetno inteligenco, ki jih je pozneje umaknil. Ti primeri poudarjajo strahove, proti katerim se zavzemajo strokovnjaki, kot je dr. Hinton.

Poziva k globalni previdnosti

Čeprav so individualni glasovi bistveni, so skupna priznanja še bolj zgovorna. Več strokovnjakov za umetno inteligenco, vključno s tistimi na čelu organizacij, kot sta OpenAI in Google DeepMind, je skupaj izrazilo zaskrbljenost. Njihova skupna izjava, jedrnata, a močna, se glasi: "Zmanjšanje tveganja izumrtja zaradi umetne inteligence bi moralo biti svetovna prednostna naloga poleg drugih družbenih tveganj, kot so pandemije in jedrska vojna."

Vendar bi lahko bila pot naprej bolj očitna tudi v tem skupnem pozivu k previdnosti. Izvršni direktor OpenAI, Sam Altman, je zagotovil vpogled v to zapleteno pripoved. Medtem ko se je pojavil pred a Zaslišanje senata za razpravo o ureditvi umetne inteligence je poudaril pomen zavor in ravnotežij brez zastoja inovacij.

Naprej z AI

Krmarjenje po teh razpravah bo ključnega pomena, ko se bo družba poglobila v dobo, v kateri prevladuje umetna inteligenca. Medtem ko vodilni v panogi, kot je LeCun, izražajo zaupanje v pozitivno usmeritev umetne inteligence, nas previdni glasovi, kot je Hinton, opominjajo na prihodnje izzive.

Ključnega pomena bo vzpostavitev občutljivega ravnovesja med inovacijami in ureditvijo. Tekoči diskurz o morebitnih nevarnostih in priložnostih umetne inteligence je več kot le akademski, saj bo imel odločilno vlogo pri tem, kako človeštvo izkoristi to transformativno tehnologijo.

Časovni žig:

Več od MetaNovice