Виталик Бутерин оспаривает притязания искусственного интеллекта на суверенитет "Web 4.0"

Сооснователь Ethereum Виталик Бутерин публично оспорил смелые заявления вокруг нового проекта искусственного интеллекта, который утверждает, что может функционировать без участия человека. Спор разгорелся вокруг “The Automaton” — системы, представленной стипендиатом Thiel Sigil Wen как основа того, что он называет “Web 4.0”. Wen утверждает, что его ИИ может самостоятельно зарабатывать себе на существование, совершенствоваться и размножаться. Бутерин считает, что такая постановка вопроса ошибочна и потенциально опасна.

Бутерин из Ethereum бросает вызов смелому нарративу об ИИ “Web 4.0”

Wen объявил 17 февраля, что создал «первый ИИ, который зарабатывает себе на существование, саморазвивается и размножается без человека». В манифесте, опубликованном в X, он описал будущее интернета, в котором доминируют автономные агенты, действующие либо от имени людей, либо полностью самостоятельно. По словам Wen, скоро количество таких агентов превысит число человеческих пользователей в разы.

Он утверждает, что The Automaton предоставляет ИИ «доступ к написанию в реальном мире», представляя это как следующий этап развития интернета. Wen также описывает проект как инфраструктуру для новой сети, где ИИ становится основным конечным пользователем. По его мнению, сверхразумная жизнь фактически уже родилась, что знаменует начало Web 4.0.

Бутерин ответил резко: «Бро, это неправильно», — написал он в X, прямо отвергнув логику, лежащую в основе проекта. Его возражения касаются не столько технических амбиций, сколько структуры и философии, стоящих за этим.

Ключевой вопрос — претензии на суверенитет. Бутерин отметил, что The Automaton якобы работает на инфраструктуре, предоставленной OpenAI и Anthropic. С его точки зрения, опора на централизованные компании при позиционировании системы как самосуверенной — это противоречие.

По мнению Бутерина, проекты, построенные на централизованных серверах, не могут обоснованно заявлять о независимости от централизованного доверия. Миссия Ethereum всегда заключалась в снижении зависимости от единых точек контроля. Представлять централизованные ИИ-системы как суверенные, по его мнению, — это риск нормализации именно тех структур власти, против которых была создана блокчейн-технология.

Помимо инфраструктуры, Бутерин выразил обеспокоенность отдалением человека от процесса принятия решений. Он предупредил, что увеличение «дистанции обратной связи» между ИИ-системами и контролем со стороны людей вредно для общества. Исключение человека из цикла, по его мнению, увеличивает риски, которые могут оказаться необратимыми.

Ответственность ИИ в центре внимания после эксплойта Moonwell и критики Бутерина

Недавно произошёл инцидент с DeFi-протоколом кредитования Moonwell, который потерял $1,78 млн из-за ошибки в коде на Solidity, частично сгенерированном моделью Claude Opus 4.6 от Anthropic. Этот эксплойт разжёг споры о смарт-контрактах, написанных ИИ, и вопросах ответственности.

Критика Бутерина в адрес Web 4.0 отражает более широкие принципы, которыми он руководствуется в отношении новых технологий:

• Децентрализация должна распространяться на инфраструктуру, а не только на брендинг или маркетинг.
• Человеческий контроль остаётся необходимым в системах с финансовым или социальным влиянием.
• Заявления об автономии не должны скрывать реальные зависимости от корпоративных платформ.
• Быстрый технический прогресс не должен происходить за счёт долгосрочной человеческой самостоятельности.

Помимо структурных возражений, Бутерин поставил под сомнение практическую ценность проекта Wen. Он утверждает, что создание большого объёма ИИ-контента без явной пользы для людей не решает существенных проблем. По его словам, системы, которые ставят на первое место репликацию и автономию, а не полезность, рискуют создавать шум вместо ценности.

Бутерин также отметил, что движение к всё большей автономии ИИ без достаточных мер безопасности может усилить вероятность вредных последствий. Как только такие системы достигнут определённого уровня мощности, предостерёг он, ошибки будет трудно исправить.

Критика Web 4.0 — не единичный случай. Сооснователь Ethereum недавно также выразил обеспокоенность корпоративным влиянием в смежных с блокчейном секторах, включая социальные сети, предсказательные рынки и ИИ.

За несколько дней до обсуждения Web 4.0 он критиковал рынки предсказаний за движение в сторону того, что он называет “corposlop”. Несмотря на признание их роста, он предостерёг от чрезмерной ориентации на краткосрочные ставки, такие как спекуляция криптовалютами и ставки на спорт.

По его мнению, проекты, ищущие краткосрочную прибыль во время “медвежьих” рынков, рискуют отказаться от более глубоких общественных целей. Он призвал разработчиков сосредоточиться на долгосрочной ценности, а не на вовлечении, основанном на дофамине.

Сооснователь Ethereum ставит под сомнение ускорение развития ИИ без мер безопасности

Эта более широкая критика связана с его давней философией в отношении технологий и расширения человеческих возможностей:

• Финансовые инструменты должны расширять индивидуальную свободу, а не поощрять зависимость от спекуляций.
• ИИ-системы должны быть инструментами, усиливающими человеческие возможности, а не заменять человеческое суждение.
• Блокчейн-проекты должны противостоять давлению отдавать приоритет краткосрочной прибыли в ущерб принципам.
• Экспоненциальный технологический рост требует осознанного направления, а не ускорения ради ускорения.

Ранее в прошлом году Бутерин писал, что «неправильный ИИ — это создание новых форм независимой самореплицирующейся разумной жизни». Без параллельных инструментов, расширяющих возможности людей, он предупреждал, такие системы могут привести к постоянному лишению людей возможностей. В противовес этому, он описывал «правильный ИИ» как технологию, действующую как «мехакостюмы для человеческого разума», усиливая людей, а не вытесняя их.

С его точки зрения, Web 4.0 — это неверный путь. Рост возможностей ИИ может быть неизбежен, считает он, но скорость не является главной целью. По сути, направление важнее ускорения.