인간은 '매우 선하다': 이더리움 창시자 Vitalik Buterin - Decrypt

인간은 '매우 선하다': 이더리움 창시자 Vitalik Buterin – Decrypt

타임 스탬프 : 27 년 2023 월 10 일 오후 13시
소스 노드 : 2981934

월요일, 이더리움 창시자인 비탈릭 부테린(Vitalik Buterin)은 “기술 낙관주의”는 그의 저서에서 AI에 관해 의견을 제시한 Marc Andreessen에게서 영감을 받았습니다. 기술 낙천주의 선언 XNUMX 월. Buterin은 Andreessen의 긍정적인 전망에 동의하는 동시에 AI 개발 방식과 기술의 미래 방향의 중요성도 언급했습니다.

부테린은 인류의 멸종을 초래하는 것을 포함해 인공지능의 실존적 위험을 인정했다.

“이것은 극단적인 주장입니다. 기후 변화, 인위적인 전염병, 핵전쟁 등 최악의 시나리오가 야기할 수 있는 피해만큼 손상을 입지 않고 남아 있는 문명의 섬도 많이 있습니다.” 말했다.

부테린은 "그러나 초지능 AI가 우리에게 등을 돌리기로 결정하면 생존자를 남기지 않고 인류를 영원히 멸망시킬 수도 있다"고 말했다. “화성조차 안전하지 않을 수도 있어요.”

부테린은 2022년을 지적했다. 측량 AI Impacts에 따르면 참가자 중 5%에서 10%가 각각 인간이 AI로 인해 멸종에 직면하거나 인간이 AI를 제어하지 못해서 멸종될 것이라고 믿고 있습니다. 그는 폐쇄적이고 독점적인 기업과 벤처캐피탈 펀드보다는 보안에 초점을 맞춘 오픈소스 운동이 AI 개발을 선도하는 데 이상적이라고 말했습니다.

“만약 우리가 초지능과 인간이 동시에 존재하는 미래, 즉 인간이 단순한 애완동물이 아니라 실제로 전 세계에 걸쳐 의미 있는 주체를 유지하는 미래를 원한다면, 이것이 가장 자연스러운 선택인 것처럼 느껴집니다.”라고 그는 말했습니다.

부테린은 계속해서 필요한 것은 방향과 결과를 선택하려는 적극적인 인간 의도라고 말했습니다. “'이윤 극대화'라는 공식은 그들에게 자동으로 도달하지 않을 것입니다.”라고 그는 말했습니다.

부테린은 기술이 인간의 잠재력을 확장하기 때문에 좋아한다고 말하면서 수공구부터 스마트폰까지 혁신의 역사를 지적했습니다.

부테린은 “나는 이러한 것들이 매우 선하다고 믿으며, 인류의 범위를 행성과 별까지 더욱 확장하는 것이 매우 좋다고 믿는다. 왜냐하면 나는 인류가 매우 선하다고 믿기 때문”이라고 말했다.

부테린은 혁신적인 기술이 인류를 위한 더 밝은 미래로 이어질 것이라고 믿지만 탐욕을 줄이고 공공 의료를 강화함으로써 세상이 현재와 같은 상태를 유지해야 한다는 생각은 거부한다고 말했습니다.

부테린은 “다른 유형의 기술보다 훨씬 더 안정적으로 세상을 더 좋게 만드는 특정 유형의 기술이 있습니다.”라고 말했습니다. "개발되면 다른 유형의 기술이 미치는 부정적인 영향을 완화할 수 있는 특정 유형의 기술이 있습니다."

부테린은 소규모 기술 관료 집단이 통제하는 정부에 저항하거나 반대하는 사람들을 대상으로 사용되는 디지털 권위주의와 감시 기술의 증가에 대해 경고했습니다. 그는 대다수의 사람들이 단일 그룹에 의해 독점되는 것보다 고도로 발전된 AI가 XNUMX년 지연되는 것을 선호한다고 말했습니다.

“나의 기본적인 두려움은 OpenAI가 500명의 직원과 500억 명 이상의 고객에게 서비스를 제공할 수 있게 해주는 동일한 종류의 관리 기술이 5명의 정치 엘리트 또는 심지어 XNUMX명으로 구성된 이사회가 정치에 대한 철권을 유지할 수 있게 한다는 것입니다. 전국적으로”라고 말했다.

부테린은 효과적인 가속("e/acc"라고도 함) 운동에 공감한다고 말했지만, 군사 기술에 대한 열정에 대해서는 엇갈린 감정을 갖고 있습니다.

“선을 위한 힘으로서의 현대 군사 기술에 대한 열정은 현재와 미래의 대부분의 분쟁에서 지배적인 기술 강국이 확실히 선량한 사람 중 하나일 것이라는 믿음을 요구하는 것 같습니다.”라고 그는 군사 기술이 좋다는 생각을 인용하면서 말했습니다. 미국에 의해 건설되고 통제되고 있기 때문에 미국은 좋은 것입니다.

"e/acc가 되려면 정부의 현재와 미래의 도덕과 국가의 미래 성공에 모든 것을 걸고 미국의 최대주의자가 되어야 합니까?" 그는 말했다.

부테린은 소수의 사람들이 현명하게 사용할 것이라는 희망을 갖고 “극단적이고 불투명한 권력”을 부여하는 것에 대해 경고했으며 대신 “d/acc” 철학, 즉 방어, 분권화, 민주주의, 차등을 선호했습니다. 그는 이러한 사고방식이 효과적인 이타주의자, 자유주의자, 다원주의자, 블록체인 옹호자, 태양광 및 달의 펑크에 적응할 수 있다고 말했습니다.

부테린은 “국방을 선호하는 세상은 여러 가지 이유로 더 나은 세상이다”고 말했다. “물론 안전의 직접적인 이점은 다음과 같습니다. 사망하는 사람이 적고, 경제적 가치가 덜 파괴되고, 분쟁에 낭비되는 시간이 줄어듭니다.

“하지만 덜 평가받는 것은 국방을 선호하는 세계가 더 건강하고 개방적이며 자유를 존중하는 형태의 거버넌스가 번성하는 것을 더 쉽게 만든다는 것입니다.”라고 그는 결론지었습니다.

부테린은 구축과 가속화의 필요성을 강조하면서 사회는 우리가 무엇을 향해 가속화하고 있는지 정기적으로 질문해야 한다고 말했습니다. 부테린은 21세기가 수천년 동안 인류의 운명을 결정할 수 있는 인류의 '중추적인 세기'가 될 수 있다고 제안했다.

부테린은 “이것은 어려운 문제이다. “그러나 나는 답을 찾기 위한 우리 종의 대대적인 공동 노력을 지켜보고 참여하기를 기대합니다.”

에 의해 수정 라이언 오자와.

암호화 뉴스를 최신 상태로 유지하고 받은 편지함에서 매일 업데이트를 받으십시오.

타임 스탬프 :

더보기 해독