Mennesker er 'dypt gode': Ethereum-skaper Vitalik Buterin - Dekrypter

Mennesker er 'dypt gode': Ethereum-skaper Vitalik Buterin – Dekrypter

Tidsstempel: 27. november 2023 10:13
Kilde node: 2981934

På mandag reflekterte Ethereum-skaperen Vitalik Buterin over sitt eget syn på "teknooptimisme, "inspirert av Marc Andreessen, som mente om AI i sin Techno-Optimist-manifest i oktober. Mens Buterin var enig i Andreessens positive syn, bemerket Buterin også viktigheten av hvordan AI utvikles og teknologiens fremtidige retning.

Buterin erkjente den eksistensielle risikoen for kunstig intelligens, inkludert å forårsake utryddelse av menneskeslekten.

"Dette er en ekstrem påstand: så mye skade som det verste scenarioet med klimaendringer, eller en kunstig pandemi eller en atomkrig, kan forårsake, er det mange øyer i sivilisasjonen som vil forbli intakte for å plukke opp brikkene," han sa.

"Men en superintelligent AI, hvis den bestemmer seg for å vende seg mot oss, kan godt etterlate ingen overlevende og avslutte menneskeheten for godt," sa Buterin. "Selv Mars er kanskje ikke trygg."

Buterin pekte på en 2022 Undersøkelsen av AI Impacts, som sa at mellom 5% og 10% av deltakerne tror at mennesker står overfor utryddelse fra henholdsvis AI eller menneskers manglende kontroll av AI. Han sa at en sikkerhetsfokusert åpen kildekode-bevegelse er ideell for å lede AI-utvikling i stedet for lukkede og proprietære selskaper og venturekapitalfond.

"Hvis vi ønsker en fremtid som er både superintelligent og "menneskelig - en der mennesker ikke bare er kjæledyr, men faktisk beholder meningsfull handlefrihet over hele verden - så føles det som om noe slikt er det mest naturlige alternativet," sa han.

Det som trengs, fortsatte Buterin, er den aktive menneskelige intensjonen om å velge retning og utfall. "Formelen for 'maksimere profitt' vil ikke komme frem til dem automatisk," sa han.

Buterin sa at han elsker teknologi fordi den utvider menneskelig potensial, og peker på historien til innovasjoner fra håndverktøy til smarttelefoner.

"Jeg tror at disse tingene er dypt gode, og at det å utvide menneskehetens rekkevidde enda lenger til planetene og stjernene er dypt bra, fordi jeg tror menneskeheten er dypt god," sa Buterin.

Buterin sa at selv om han tror transformativ teknologi vil føre til en lysere fremtid for menneskeheten, avviser han forestillingen om at verden bør forbli slik den er i dag, bare med mindre grådighet og mer offentlig helsevesen.

"Det er visse typer teknologi som mye mer pålitelig gjør verden bedre enn andre typer teknologi," sa Buterin. "Det er visse typer teknologi som, hvis de utvikles, kan dempe de negative virkningene av andre typer teknologi."

Buterin advarte om en økning i digital autoritarisme og overvåkingsteknologi som brukes mot de som trosser eller tar avstand mot regjeringen, kontrollert av en liten kabal av teknokrater. Han sa at flertallet av folk heller vil se svært avansert kunstig intelligens forsinket med et tiår i stedet for å bli monopolisert av en enkelt gruppe.

«Min grunnleggende frykt er at de samme typene ledelsesteknologier som gjør at OpenAI kan betjene over hundre millioner kunder med 500 ansatte, også vil tillate en politisk elite på 500 personer, eller til og med et styre på fem personer, å opprettholde en jernhånd over en hele landet, sa han.

Mens Buterin sa at han er sympatisk til den effektive akselerasjonsbevegelsen (også kjent som "e/acc"), har han blandede følelser om dens entusiasme for militær teknologi.

"Entusiasme for moderne militærteknologi som en kraft for det gode ser ut til å kreve å tro at den dominerende teknologiske makten pålitelig vil være en av de gode gutta i de fleste konflikter, nå og i fremtiden," sa han, og siterte ideen om at militærteknologi er bra fordi det bygges og kontrolleres av Amerika og Amerika er bra.

"Krever det å være en e/acc å være en Amerika-maksimalist, satse alt på både regjeringens nåværende og fremtidige moral og landets fremtidige suksess?" han sa.

Buterin advarte mot å gi "ekstrem og ugjennomsiktig makt" til en liten gruppe mennesker med håp om at de vil bruke den klokt, og foretrekker i stedet en filosofi om "d/acc" - eller forsvar, desentralisering, demokrati og differensial. Denne tankegangen, sa han, kunne tilpasse seg effektive altruister, libertarianere, pluralister, blockchain-forkjempere og sol- og måne-punkere.

"En forsvarsgunstig verden er en bedre verden, av mange grunner," sa Buterin. "Først er selvfølgelig den direkte fordelen med sikkerhet: færre mennesker dør, mindre økonomiske verdier blir ødelagt, mindre tid kastes bort på konflikt.

"Det som imidlertid er mindre verdsatt, er at en forsvarsbegunstigende verden gjør det lettere for sunnere, åpnere og mer frihetsrespekterende styringsformer å trives," konkluderte han.

Mens han understreket behovet for å bygge og akselerere, sa Buterin at samfunnet regelmessig bør spørre hva vi akselererer mot. Buterin antydet at det 21. århundre kan være "det sentrale århundre" for menneskeheten som kan avgjøre menneskehetens skjebne i årtusener.

"Dette er utfordrende problemer," sa Buterin. "Men jeg ser frem til å se og delta i artens store kollektive innsats for å finne svarene."

Redigert av Ryan Ozawa.

Hold deg oppdatert på kryptonyheter, få daglige oppdateringer i innboksen din.

Tidstempel:

Mer fra dekryptere