Ludzie są „głęboko dobrzy”: twórca Ethereum Vitalik Buterin – odszyfruj

Ludzie są „głęboko dobrzy”: twórca Ethereum Vitalik Buterin – odszyfruj

Znacznik czasu: 27 listopada 2023 10:13
Węzeł źródłowy: 2981934

W poniedziałek twórca Ethereum Vitalik Buterin zastanawiał się nad własnym podejściem do „techno-optymizm”, zainspirowany Markiem Andreessenem, który w swoim artykule wypowiadał się na temat sztucznej inteligencji Manifest technooptymisty w październiku. Chociaż Buterin zgodził się z pozytywnym nastawieniem Andreessena, Buterin zauważył również znaczenie sposobu rozwoju sztucznej inteligencji i przyszłego kierunku rozwoju technologii.

Buterin uznał egzystencjalne ryzyko, jakie niesie ze sobą sztuczna inteligencja, w tym spowodowanie wyginięcia rasy ludzkiej.

„To skrajne twierdzenie: niezależnie od tego, ile szkód może spowodować najgorszy scenariusz zmian klimatycznych, sztuczna pandemia czy wojna nuklearna, istnieje wiele wysp cywilizacyjnych, które pozostałyby nienaruszone, aby pozbierać kawałki” – stwierdził. powiedział.

„Ale superinteligentna sztuczna inteligencja, jeśli zdecyduje się zwrócić przeciwko nam, może nie pozostawić żadnych ocalałych i zakończyć ludzkość na dobre” – powiedział Buterin. „Nawet Mars może nie być bezpieczny”.

Buterin wskazał na rok 2022 badanie przeprowadzonego przez AI Impacts, z którego wynika, że ​​od 5% do 10% uczestników uważa, że ​​ludzkości grozi wyginięcie odpowiednio z powodu sztucznej inteligencji lub braku kontroli nad sztuczną inteligencją. Powiedział, że ruch open source skupiający się na bezpieczeństwie jest idealny do kierowania rozwojem sztucznej inteligencji, a nie do zamkniętych i zastrzeżonych korporacji i funduszy venture capital.

„Jeśli chcemy przyszłości, która będzie zarówno superinteligentna, jak i „ludzka – takiej, w której ludzie nie będą tylko zwierzętami domowymi, ale faktycznie będą mieli znaczącą władzę nad światem – to wydaje nam się, że coś takiego jest najbardziej naturalną opcją” – powiedział.

Potrzebna jest aktywna ludzka intencja, aby wybrać kierunek i wynik, kontynuował Buterin. „Formuła «maksymalizacji zysku» nie pojawi się automatycznie” – stwierdził.

Buterin powiedział, że kocha technologię, ponieważ poszerza ludzki potencjał, wskazując na historię innowacji, od narzędzi ręcznych po smartfony.

„Wierzę, że te rzeczy są głęboko dobre i że rozszerzenie zasięgu ludzkości jeszcze dalej, na planety i gwiazdy, jest głęboko dobre, ponieważ uważam, że ludzkość jest głęboko dobra” – powiedział Buterin.

Buterin powiedział, że choć wierzy, że technologia transformacyjna doprowadzi do jaśniejszej przyszłości ludzkości, odrzuca pogląd, że świat powinien pozostać taki, jaki jest dzisiaj, tylko z mniejszą chciwością i większymi publicznymi opieką zdrowotną.

„Istnieją pewne rodzaje technologii, które znacznie bardziej niezawodnie czynią świat lepszym niż inne rodzaje technologii” – powiedział Buterin. „Istnieją pewne rodzaje technologii, które, jeśli zostaną opracowane, mogłyby złagodzić negatywny wpływ innych rodzajów technologii”.

Buterin przestrzegł przed wzrostem cyfrowego autorytaryzmu i technologii inwigilacji stosowanych wobec tych, którzy przeciwstawiają się rządowi lub mają sprzeciw wobec niego, kontrolowanego przez małą klikę technokratów. Powiedział, że większość ludzi wolałaby, aby wysoce zaawansowana sztuczna inteligencja została opóźniona o dekadę, niż została zmonopolizowana przez jedną grupę.

„Moja podstawowa obawa jest taka, że ​​te same technologie zarządcze, które pozwalają OpenAI obsługiwać ponad sto milionów klientów zatrudniających 500 pracowników, pozwolą także 500-osobowej elicie politycznej, a nawet 5-osobowemu zarządowi, utrzymać żelazną pięść nad całego kraju” – powiedział.

Chociaż Buterin wyraził sympatię dla ruchu efektywnego przyspieszenia (znanego również jako „e/acc”), ma mieszane uczucia co do jego entuzjazmu dla technologii wojskowej.

„Wydaje się, że entuzjazm wobec nowoczesnej technologii wojskowej jako siły służącej dobru wymaga wiary, że dominująca siła technologiczna z pewnością będzie jedną z dobrych stron w większości konfliktów, teraz i w przyszłości” – stwierdził, powołując się na pogląd, że technologia wojskowa jest dobra ponieważ jest budowany i kontrolowany przez Amerykę, a Ameryka jest dobra.

„Czy bycie e/acc wymaga bycia amerykańskim maksymalistą, stawiając wszystko na obecną i przyszłą moralność rządu oraz przyszły sukces kraju?” powiedział.

Buterin przestrzegł przed oddawaniem „skrajnej i nieprzejrzystej władzy” małej grupie ludzi w nadziei, że wykorzystają ją mądrze, preferując zamiast tego filozofię „d/acc” – czyli obronę, decentralizację, demokrację i dyferencjał. Powiedział, że taki sposób myślenia można dostosować do skutecznych altruistów, libertarian, pluralistów, zwolenników blockchainu oraz słonecznych i księżycowych punków.

„Świat sprzyjający obronności jest lepszym światem z wielu powodów” – powiedział Buterin. „Po pierwsze, bezpośrednia korzyść wynika z bezpieczeństwa: mniej ludzi umiera, mniej wartości ekonomicznej zostaje zniszczone, mniej czasu marnuje się na konflikty.

„Jednak mniej doceniane jest to, że świat sprzyjający obronności ułatwia rozwój zdrowszych, bardziej otwartych i bardziej szanujących wolność form rządów” – podsumował.

Podkreślając potrzebę budowania i przyspieszania, Buterin powiedział, że społeczeństwo powinno regularnie zadawać sobie pytanie, do czego przyspieszamy. Buterin zasugerował, że XXI wiek może być „wiekiem kluczowym” dla ludzkości, który może zadecydować o losach ludzkości na tysiąclecia.

„To trudne problemy” – powiedział Buterin. „Ale nie mogę się doczekać oglądania i uczestniczenia w wielkim wspólnym wysiłku naszego gatunku, aby znaleźć odpowiedzi”.

Edytowany przez Ryana Ozawy.

Bądź na bieżąco z wiadomościami o kryptowalutach, otrzymuj codzienne aktualizacje w swojej skrzynce odbiorczej.

Znak czasu:

Więcej z Odszyfruj