Metas sjef for AI-forsker avviser eksistensiell trussel om AI

Metas sjef for AI-forsker avviser eksistensiell trussel om AI

Tidsstempel: 23. oktober 2023 1
Kilde node: 2951498

Den globale debatten om kunstig intelligens (AI) har nådd et kritisk tidspunkt. Nylige erklæringer fra tungvektere i industrien antyder en sterk divergens i meninger. Yann LeCun, Metas Chief AI Scientist, står i den ene enden og hevder sikkerheten til AI i sin nåværende form.

Omvendt trakk Dr. Geoffrey Hinton, kjærlig kalt "Gudfaren til AI", opp fra Google for å kaste lys over hans presserende bekymringer.

Den store AI-debatten

I sin intervju med Financial Times sa LeCun ingen ord. Han kalte bekymringer om AIs eksistensielle risiko "for tidlig." Han utdypet videre at ideen om at AI kunne eliminere menneskeheten var "ubehagelig." Dette perspektivet gjør imidlertid den nåværende debatten rundt AI så medrivende.

Han understreker AIs nåværende begrensninger: "Debatten om eksistensiell risiko er veldig for tidlig før vi har et design for et system som kan konkurrere med en katt når det gjelder læringsevner, som vi ikke har for øyeblikket." I tillegg fremhevet LeCun at våre nåværende AI-modeller trenger å forstå vanskelighetene i vår verden. De kan ikke virkelig planlegge eller resonnere.

En slik optimisme deles imidlertid utenfor AI-fellesskapet. Dr. Hintons avgang fra Google og påfølgende avklaringer understreker denne divergensen. Hans umiddelbare bekymringer inkluderer AIs potensial misbruk på nettplattformer. Han frykter at AI kan oversvømme internett med falske bilder, videoer og tekst, noe som gjør det stadig mer komplisert å skille mellom ekte og AI-generert innhold.

Utover disse direkte implikasjonene dreier Hintons bredere frykt rundt den samfunnsmessige virkningen av AI, spesielt potensielle tap av jobber og et eskalerende AI-våpenkappløp. Denne siste bekymringen berører eksplisitt utvikling av dødelige autonome våpensystemer (LAWS).

AI feiltrinn og misbruk

En annen dimensjon ved AI-samtalen er potensiell misbruk. For eksempel befant den verdenskjente kryptovalutaplattformen Binance seg midt i en AI-generert svertekampanje. AI assosierte unøyaktig sin administrerende direktør, Changpeng "CZ" Zhao, med en kinesisk kommunistpartis ungdomsorganisasjon.

Dessuten har AI-verktøy vist potensial for å generere falske nyheter, noe som forårsaker betydelige bekymringer i medielandskapet. For eksempel ble Daily Mail villedet til å publisere en historie basert på AI-generert informasjon, som den senere trakk tilbake. Disse tilfellene understreker frykten eksperter som Dr. Hinton har talt mot.

Oppfordrer til global forsiktighet

Mens individuelle stemmer er avgjørende, er kollektive anerkjennelser enda mer talende. Flere AI-eksperter, inkludert de som sitter ved roret i organisasjoner som OpenAI og Google DeepMind, har i fellesskap uttrykt bekymring. Deres felles uttalelse, kortfattet, men likevel potent, lyder: "Å redusere risikoen for utryddelse fra AI bør være en global prioritet sammen med andre samfunnsmessige risikoer som pandemier og atomkrig."

Veien videre kan imidlertid være tydeligere selv innenfor denne kollektive oppfordringen til forsiktighet. OpenAIs administrerende direktør, Sam Altman, ga et glimt inn i denne komplekse fortellingen. Mens han dukket opp før en Senatet høring for å diskutere AI-regulering, understreket han viktigheten av kontroller og balanser uten å stoppe innovasjonen.

Går fremover med AI

Å navigere i disse debattene vil være sentralt når samfunnet dykker dypere inn i den AI-dominerte epoken. Mens industriledere som LeCun uttrykker tillit til AIs positive bane, minner varsomme røster som Hinton oss om utfordringene som ligger foran oss.

Å finne en hårfin balanse mellom innovasjon og regulering vil være avgjørende. Den pågående diskursen rundt AIs potensielle farer og muligheter er mer enn akademisk siden den vil spille en avgjørende rolle i hvordan menneskeheten utnytter denne transformative teknologien.

Tidstempel:

Mer fra MetaNews