Människor är "djupt goda": Ethereum-skaparen Vitalik Buterin - Dekryptera

Människor är "djupt goda": Ethereum-skaparen Vitalik Buterin – Dekryptera

Tidsstämpel: 27 november 2023 10:13
Källnod: 2981934

På måndagen reflekterade Ethereum-skaparen Vitalik Buterin över sitt eget syn på "teknooptimism, inspirerad av Marc Andreessen, som tyckte om AI i sin Teknooptimistmanifest i oktober. Medan Buterin höll med Andreessens positiva syn, noterade Buterin också vikten av hur AI utvecklas och teknikens framtida riktning.

Buterin erkände den existentiella risken med artificiell intelligens, inklusive att orsaka mänsklighetens utrotning.

"Detta är ett extremt påstående: lika mycket skada som det värsta scenariot med klimatförändringar, eller en artificiell pandemi eller ett kärnvapenkrig, kan orsaka, det finns många civilisationsöar som skulle förbli intakta för att plocka upp bitarna," han sa.

"Men en superintelligent AI, om den bestämmer sig för att vända sig mot oss, kan mycket väl inte lämna några överlevande och avsluta mänskligheten för gott," sa Buterin. "Även Mars kanske inte är säker."

Buterin pekade på en 2022 undersökning av AI Impacts, som sa att mellan 5 % och 10 % av deltagarna tror att människor står inför utrotning från AI respektive från människors misslyckande att kontrollera AI. Han sa att en säkerhetsfokuserad öppen källkodsrörelse är idealisk för att leda AI-utveckling snarare än slutna och proprietära företag och riskkapitalfonder.

"Om vi ​​vill ha en framtid som är både superintelligent och "mänsklig - en där människor inte bara är husdjur, utan faktiskt behåller meningsfull handlingsfrihet över hela världen - så känns det som att något sådant här är det mest naturliga alternativet", sa han.

Vad som behövs, fortsatte Buterin, är den aktiva mänskliga avsikten att välja riktning och resultat. "Formeln "maximera vinsten" kommer inte fram till dem automatiskt, sade han.

Buterin sa att han älskar teknik eftersom den utökar den mänskliga potentialen, och pekar på historien om innovationer från handverktyg till smartphones.

"Jag tror att dessa saker är djupt bra, och att det är djupt bra att utöka mänsklighetens räckvidd ännu längre till planeterna och stjärnorna, eftersom jag tror att mänskligheten är djupt bra," sa Buterin.

Buterin sa att även om han tror att transformativ teknologi kommer att leda till en ljusare framtid för mänskligheten, avvisar han uppfattningen att världen borde vara som den är idag, bara med mindre girighet och mer offentlig sjukvård.

"Det finns vissa typer av teknik som mycket mer tillförlitligt gör världen bättre än andra typer av teknik," sa Buterin. "Det finns vissa typer av teknik som, om de utvecklas, kan mildra de negativa effekterna av andra typer av teknik."

Buterin varnade för en ökning av digital auktoritärism och övervakningsteknik som används mot dem som trotsar eller tar avstånd från regeringen, kontrollerad av en liten kabal av teknokrater. Han sa att majoriteten av människor hellre skulle se att mycket avancerad AI försenades med ett decennium snarare än att bli monopoliserat av en enda grupp.

"Min grundläggande rädsla är att samma typer av ledningsteknologier som gör att OpenAI kan betjäna över hundra miljoner kunder med 500 anställda också kommer att tillåta en politisk elit på 500 personer, eller till och med en styrelse på fem personer, att hålla en järnhand över en hela landet, sa han.

Medan Buterin sa att han är sympatisk för den effektiva accelerationsrörelsen (även känd som "e/acc"), har han blandade känslor om dess entusiasm för militär teknik.

"Entusiasm över modern militär teknik som en kraft för det goda verkar kräva att man tror att den dominerande tekniska makten på ett tillförlitligt sätt kommer att vara en av de goda killarna i de flesta konflikter, nu och i framtiden", sa han och citerade tanken att militär teknik är bra eftersom det byggs och kontrolleras av Amerika och Amerika är bra.

"Kräver det att vara en e/acc att vara en Amerika-maximalist, satsa allt på både regeringens nuvarande och framtida moral och landets framtida framgång?" han sa.

Buterin varnade för att ge "extrem och ogenomskinlig makt" till en liten grupp människor med hopp om att de kommer att använda den på ett klokt sätt, och istället föredra en filosofi om "d/acc" - eller försvar, decentralisering, demokrati och differentiering. Detta tänkesätt, sa han, skulle kunna anpassa sig till effektiva altruister, libertarianer, pluralister, blockchain-förespråkare och sol- och månpunkare.

"En försvarsgynnande värld är en bättre värld, av många anledningar," sa Buterin. "För det första är naturligtvis den direkta fördelen med säkerhet: färre människor dör, mindre ekonomiskt värde förstörs, mindre tid slösas bort på konflikter.

"Vad som dock är mindre uppskattat är att en försvarsgynnande värld gör det lättare för friskare, öppnare och mer frihetsrespekterande styrformer att frodas", avslutade han.

Medan han betonade behovet av att bygga och accelerera, sa Buterin att samhället regelbundet borde fråga vad vi accelererar mot. Buterin föreslog att 21-talet kan vara "det avgörande århundradet" för mänskligheten som kan avgöra mänsklighetens öde i årtusenden.

"Det här är utmanande problem," sa Buterin. "Men jag ser fram emot att se och delta i vår arts stora kollektiva ansträngning för att hitta svaren."

Redigerad av Ryan Ozawa.

Håll dig uppdaterad om kryptonyheter, få dagliga uppdateringar i din inkorg.

Tidsstämpel:

Mer från Avkryptera