Metas chef AI-forsker afviser eksistentiel trussel om AI

Metas chef AI-forsker afviser eksistentiel trussel om AI

Tidsstempel: 23. oktober 2023 kl. 1
Kildeknude: 2951498

Den globale debat om kunstig intelligens (AI) har nået et kritisk tidspunkt. Nylige erklæringer fra industriens sværvægtere tyder på en skarp divergens i meninger. Yann LeCun, Metas Chief AI Scientist, står i den ene ende og hævder sikkerheden ved AI i sin nuværende form.

Omvendt trak Dr. Geoffrey Hinton, kærligt betegnet "Gudfaderen af ​​AI", fra Google for at kaste lys over hans presserende bekymringer.

Den store AI-debat

I sin Interview med Financial Times havde LeCun ingen ord. Han kaldte bekymringer om AI's eksistentielle risiko "for tidligt." Han uddybede yderligere, at ideen om, at kunstig intelligens kunne eliminere menneskeheden var "befængelig." Men dette perspektiv gør den aktuelle debat omkring AI så medrivende.

Han understreger AI's nuværende begrænsninger: "Debatten om eksistentiel risiko er meget for tidlig, indtil vi har et design til et system, der kan konkurrere med en kat med hensyn til indlæringsevner, som vi ikke har i øjeblikket." Derudover fremhævede LeCun, at vores nuværende AI-modeller skal forstå forviklingerne i vores verden. De kan ikke virkelig planlægge eller ræsonnere.

En sådan optimisme deles dog uden for AI-fællesskabet. Dr. Hintons afgang fra Google og efterfølgende præciseringer understreger denne divergens. Hans umiddelbare bekymringer omfatter AI's potentiale misbruge på online platforme. Han frygter, at AI kan oversvømme internettet med falske fotos, videoer og tekst, hvilket gør det stadig mere komplekst at skelne mellem ægte og AI-genereret indhold.

Ud over disse direkte implikationer drejer Hintons bredere frygt sig om de samfundsmæssige konsekvenser af AI, især potentielle jobtab og et eskalerende AI-våbenkapløb. Sidstnævnte bekymring berører eksplicit udviklingen af ​​dødelige autonome våbensystemer (LAWS).

AI fejltrin og misbrug

En anden dimension af AI-samtalen er dens potentielle misbrug. For eksempel befandt den verdenskendte kryptovalutaplatform Binance sig selv midt i en AI-genereret smædekampagne. AI associerede unøjagtigt sin administrerende direktør, Changpeng "CZ" Zhao, med en kinesisk kommunistpartis ungdomsorganisation.

Desuden har AI-værktøjer vist potentiale til at generere falske nyheder, hvilket forårsager betydelige bekymringer i medielandskabet. For eksempel blev Daily Mail vildledt til at offentliggøre en historie baseret på AI-genereret information, som den senere trak tilbage. Disse tilfælde understreger den frygt, eksperter som Dr. Hinton har talt imod.

Opfordrer til global forsigtighed

Mens individuelle stemmer er essentielle, er kollektive anerkendelser endnu mere sigende. Adskillige AI-eksperter, inklusive dem, der står i spidsen for organisationer som OpenAI og Google DeepMind, har i fællesskab udtrykt bekymring. Deres fælles erklæring, kortfattet, men alligevel potent, lyder: "At mindske risikoen for udryddelse fra AI bør være en global prioritet sammen med andre samfundsmæssige risici såsom pandemier og atomkrig."

Vejen frem kunne dog være mere tydelig selv inden for denne kollektive opfordring til forsigtighed. OpenAIs administrerende direktør, Sam Altman, gav et indblik i denne komplekse fortælling. Mens han optrådte før en Senatets høring for at diskutere AI-regulering understregede han vigtigheden af ​​checks og balances uden at stoppe innovation.

Gå fremad med AI

At navigere i disse debatter vil være afgørende, efterhånden som samfundet dykker dybere ned i den AI-dominerede æra. Mens industriledere som LeCun udtrykker tillid til AI's positive bane, minder forsigtige røster som Hintons os om de kommende udfordringer.

Det vil være afgørende at finde en hårfin balance mellem innovation og regulering. Den igangværende diskurs omkring AI's potentielle farer og muligheder er mere end akademisk, da den vil spille en afgørende rolle i, hvordan menneskeheden udnytter denne transformative teknologi.

Tidsstempel:

Mere fra MetaNews