Люди «глубоко добры»: создатель Ethereum Виталик Бутерин – Расшифруйте

Люди «глубоко добры»: создатель Ethereum Виталик Бутерин – Расшифруйте

Отметка времени: 27 ноября 2023 г., 10:13
Исходный узел: 2981934

В понедельник создатель Ethereum Виталик Бутерин поделился своим мнением о «технооптимизм», вдохновленный Марком Андриссеном, который высказал мнение об ИИ в своей Технооптимистический манифест в октябре. Хотя Бутерин согласился с позитивным прогнозом Андриссена, Бутерин также отметил важность того, как развивается ИИ, и будущее направление этой технологии.

Бутерин признал экзистенциальный риск искусственного интеллекта, в том числе вызывающий вымирание человечества.

«Это крайнее заявление: сколько бы вреда ни причинил наихудший сценарий изменения климата, искусственной пандемии или ядерной войны, существует множество островков цивилизации, которые останутся нетронутыми, чтобы собрать их по кусочкам», — сказал он. сказал.

«Но сверхразумный ИИ, если он решит восстать против нас, вполне может не оставить выживших и навсегда покончить с человечеством», — сказал Бутерин. «Даже Марс может быть небезопасным».

Бутерин указал на 2022 год. , по данным AI Impacts, в котором говорится, что от 5% до 10% участников считают, что людям грозит вымирание из-за ИИ или из-за неспособности людей контролировать ИИ соответственно. Он сказал, что движение за открытый исходный код, ориентированное на безопасность, идеально подходит для ведущих разработок ИИ, а не закрытых и частных корпораций и фондов венчурного капитала.

«Если мы хотим будущего, которое было бы одновременно сверхразумным и «человечным» — в котором люди будут не просто домашними животными, но фактически сохранят значимую свободу действий в мире — тогда кажется, что нечто подобное — наиболее естественный вариант», — сказал он.

Что необходимо, продолжил Бутерин, так это активное человеческое намерение выбрать направление и результат. «Формула «максимизации прибыли» не придет к ним автоматически», - сказал он.

Бутерин сказал, что любит технологии, потому что они расширяют человеческий потенциал, указав на историю инноваций — от ручных инструментов до смартфонов.

«Я верю, что эти вещи очень хороши, и что расширение охвата человечества еще дальше, к планетам и звездам, — это очень хорошо, потому что я верю, что человечество очень хорошо», — сказал Бутерин.

Бутерин сказал, что, хотя он верит, что преобразующие технологии приведут к более светлому будущему человечества, он отвергает идею о том, что мир должен оставаться таким, какой он есть сегодня, только с меньшей жадностью и большим количеством общественного здравоохранения.

«Есть определенные типы технологий, которые гораздо более надежно делают мир лучше, чем другие типы технологий», — сказал Бутерин. «Существуют определенные типы технологий, которые, если их разработать, могут смягчить негативное воздействие других типов технологий».

Бутерин предупредил о росте цифрового авторитаризма и технологий наблюдения, используемых против тех, кто бросает вызов правительству или несогласен с ним, контролируемым небольшой кликой технократов. Он сказал, что большинство людей предпочли бы, чтобы развитие высокоразвитого ИИ было отложено на десятилетие, а не было бы монополизировано одной группой.

«Мое основное опасение заключается в том, что те же виды управленческих технологий, которые позволяют OpenAI обслуживать более ста миллионов клиентов с 500 сотрудниками, также позволят политической элите из 500 человек или даже совету директоров из 5 человек поддерживать железный кулак над всей страны", - сказал он.

Хотя Бутерин сказал, что он симпатизирует движению за эффективное ускорение (также известному как «e/acc»), у него смешанные чувства по поводу его энтузиазма в отношении военных технологий.

«Энтузиазм по поводу современных военных технологий как силы добра, похоже, требует веры в то, что доминирующая технологическая держава обязательно будет одним из хороших парней в большинстве конфликтов сейчас и в будущем», — сказал он, сославшись на идею о том, что военные технологии — это хорошо. потому что его строит и контролирует Америка, и Америка – это хорошо.

«Неужели для того, чтобы стать e/acc, нужно быть американским максималистом, ставить все на нынешнюю и будущую мораль правительства и на будущий успех страны?» он сказал.

Бутерин предостерег от предоставления «чрезвычайной и непрозрачной власти» небольшой группе людей в надежде, что они будут использовать ее мудро, предпочитая вместо этого философию «d/acc» – или защиты, децентрализации, демократии и дифференциала. По его словам, такое мышление может адаптироваться к эффективным альтруистам, либертарианцам, плюралистам, сторонникам блокчейна, а также солнечным и лунным панкам.

«Мир, отдающий предпочтение обороне, является лучшим миром по многим причинам», — сказал Бутерин. «Во-первых, конечно, это прямая выгода от безопасности: меньше людей погибает, меньше разрушается экономическая ценность, меньше времени тратится на конфликты.

«Однако менее ценится то, что мир, поддерживающий оборону, облегчает процветание более здоровых, более открытых и более уважающих свободу форм управления», — заключил он.

Подчеркнув необходимость строительства и ускорения, Бутерин сказал, что общество должно регулярно задаваться вопросом, в каком направлении мы ускоряемся. Бутерин предположил, что XXI век может стать «поворотным веком» для человечества, который может решить судьбу человечества на тысячелетия.

«Это сложные проблемы», — сказал Бутерин. «Но я с нетерпением жду возможности наблюдать и участвовать в великих коллективных усилиях нашего вида по поиску ответов».

Под редакцией Райан Одзава.

Будьте в курсе крипто-новостей, получайте ежедневные обновления на свой почтовый ящик.

Отметка времени:

Больше от Decrypt