Hva er superjustering og hvorfor er det viktig? - KDnuggets

Publisert av Platon

Følgere: 0

Hva er Superalignment og hvorfor er det viktig?
Bilde av forfatter

Superintelligens har potensial til å bli det viktigste teknologiske fremskritt i menneskets historie. Det kan hjelpe oss med å takle noen av de mest presserende utfordringene menneskeheten står overfor. Selv om det kan føre til en ny æra av fremgang, utgjør det også visse iboende risikoer som må håndteres med forsiktighet. Superintelligens kan uføre menneskeheten eller til og med føre til menneskelig utryddelse hvis den ikke håndteres eller justeres på riktig måte.

Selv om superintelligens kan virke langt unna, tror mange eksperter at det kan bli en realitet i løpet av de neste årene. For å håndtere de potensielle risikoene, må vi opprette nye styrende organer og ta opp det kritiske spørsmålet om innretting av superintelligens. Det betyr å sikre at systemer for kunstig intelligens som snart vil overgå menneskelig intelligens, forblir på linje med menneskelige mål og intensjoner.

I denne bloggen vil vi lære om Superalignmnet og lære om OpenAIs tilnærming til å løse de tekniske kjerneutfordringene med superintelligensjustering.

Superalignment refererer til å sikre at superkunstig intelligens (AI)-systemer, som overgår menneskelig intelligens på alle domener, handler i henhold til menneskelige verdier og mål. Det er et essensielt konsept innen AI-sikkerhet og -styring, som tar sikte på å adressere risikoene forbundet med utvikling og distribusjon av svært avansert AI.

Etter hvert som AI-systemer blir mer intelligente, kan det bli mer utfordrende for mennesker å forstå hvordan de tar beslutninger. Det kan skape problemer hvis AI handler på måter som strider mot menneskelige verdier. Det er viktig å løse dette problemet for å unngå skadelige konsekvenser.

Superalignment sikrer at superintelligente AI-systemer fungerer på måter som stemmer overens med menneskelige verdier og intensjoner. Det krever nøyaktig å spesifisere menneskelige preferanser, designe AI-systemer som kan forstå dem, og skape mekanismer for å sikre at AI-systemene forfølger disse målene.

Superalignment spiller en avgjørende rolle for å håndtere de potensielle risikoene forbundet med superintelligens. La oss fordype oss i grunnene til at vi trenger Superalignment:

Reduserende Rogue AI-scenarier: Superalignment sikrer at superintelligente AI-systemer stemmer overens med menneskelige intensjoner, og reduserer risikoen for ukontrollert atferd og potensiell skade.
Ivaretakelse av menneskelige verdier: Ved å tilpasse AI-systemer med menneskelige verdier, forhindrer Superalignment konflikter der superintelligent AI kan prioritere mål som er i strid med samfunnsnormer og prinsipper.
Unngå utilsiktede konsekvenser: Superalignment-forskning identifiserer og reduserer utilsiktede uønskede utfall som kan oppstå fra avanserte AI-systemer, og minimerer potensielle negative effekter.
Sikre menneskelig autonomi: Superalignment fokuserer på å designe AI-systemer som verdifulle verktøy som forsterker menneskelige evner, bevarer vår autonomi og forhindrer overavhengighet av AI-beslutninger.
Bygge en fordelaktig AI-fremtid: Superalignment-forskning har som mål å skape en fremtid der superintelligente AI-systemer bidrar positivt til menneskelig velvære, og tar tak i globale utfordringer samtidig som risikoen minimeres.

OpenAI bygger en automatisert innrettingsforsker på menneskelig nivå som vil bruke enorme mengder databehandling for å skalere innsatsen, og iterativt justere superintelligens – Vi introduserer Superalignment (openai.com).

For å justere den første automatiserte justeringen, må OpenAI:

Utvikle en skalerbar treningsmetode: OpenAI kan bruke AI-systemer for å hjelpe til med å evaluere andre AI-systemer på vanskelige oppgaver som er vanskelige for mennesker å vurdere.
Valider den resulterende modellen: OpenAI vil automatisere søk etter problematisk oppførsel og problematiske interne elementer.
Motstridende testing: Test AI-systemet ved å trene opp modeller som er feiljustert, og verifiser at metodene som brukes kan identifisere selv de mest alvorlige feiljusteringene i rørledningen.

Team

OpenAI danner et team for å takle utfordringen med superintelligensjustering. De vil allokere 20 % av dataressursene sine i løpet av de neste fire årene. Teamet vil bli ledet av Ilya Sutskever og Jan Leike, og inkluderer medlemmer fra tidligere opprettingsteam og andre avdelinger i selskapet.

OpenAI søker for tiden eksepsjonelle forskere og ingeniører for å bidra til sitt oppdrag. Problemet med å samkjøre superintelligens er først og fremst knyttet til maskinlæring. Eksperter innen maskinlæring vil, selv om de for øyeblikket ikke jobber med justering, spille en avgjørende rolle for å finne en løsning.

Mål

OpenAI har satt seg et mål om å møte de tekniske utfordringene med superintelligensjustering innen fire år. Selv om dette er et ambisiøst mål og suksess ikke er garantert, er OpenAI fortsatt optimistisk om at en målrettet og målbevisst innsats kan føre til en løsning på dette problemet.

For å løse problemet må de presentere overbevisende bevis og argumenter for maskinlærings- og sikkerhetsmiljøet. Å ha høy grad av tillit til de foreslåtte løsningene er avgjørende. Hvis løsningene er upålitelige, kan samfunnet fortsatt bruke funnene til å planlegge deretter.

OpenAIs Superalignment-initiativ gir store løfter når det gjelder å møte utfordringene med superintelligensinnretting. Med lovende ideer som dukker opp fra foreløpige eksperimenter, har teamet tilgang til stadig mer nyttige fremdriftsmålinger og kan utnytte eksisterende AI-modeller for å studere disse problemene empirisk.

Det er viktig å merke seg at Superalignment-teamets innsats kompletteres av OpenAIs pågående arbeid for å forbedre sikkerheten til gjeldende modeller, inkludert den mye brukte ChatGPT. OpenAI er fortsatt forpliktet til å forstå og redusere ulike risikoer knyttet til AI, som misbruk, økonomisk forstyrrelse, desinformasjon, skjevhet og diskriminering, avhengighet og overdreven tillit.

OpenAI har som mål å bane vei for en tryggere og mer fordelaktig AI-fremtid gjennom dedikert forskning, samarbeid og en proaktiv tilnærming.

Abid Ali Awan (@1abidaliawan) er en sertifisert dataforsker som elsker å bygge maskinlæringsmodeller. For tiden fokuserer han på innholdsskaping og skriver tekniske blogger om maskinlæring og datavitenskapsteknologier. Abid har en mastergrad i teknologiledelse og en bachelorgrad i telekommunikasjonsteknikk. Hans visjon er å bygge et AI-produkt ved å bruke et grafisk nevralt nettverk for studenter som sliter med psykiske lidelser.