Сдерживание развития или управление нарративом?
Предложение Амодеи — это защита человечества или защита IPO?
В субботу Дарио Амодеи опубликовал эссе «Мы должны сдерживать развитие фронтирных моделей» (We Must Pace the Frontier), в котором призвал ИИ-компании намеренно «замедлить темпы» совершенствования возможностей моделей. Формулировка, как и следовало ожидать, носила экзистенциальный характер: человечеству требуется время, чтобы успеть за создаваемыми машинами. В течение нескольких часов Сэм Альтман поддержал эту идею в социальной сети X и заявил, что OpenAI внедрит только одну из предложенных мер предосторожности. Илон Маск, чья модель Grok находится далеко от передового края, также присоединился к обсуждению, заявив: «Дарио прав».
Я не верю в эту экзистенциальную формулировку. Вот альтернативная гипотеза:
- Эффективность моделей выходит на плато, и Anthropic сейчас, по всей видимости, находится на втором месте.
- Вычислительные мощности и электроэнергия становятся значительно дороже, что делает обучение более крупных моделей непомерно затратным.
- Центры обработки данных для ИИ крайне непопулярны среди населения, а принятие регулирующих законов выглядит всё более вероятным, если демократы вернут контроль над Конгрессом на промежуточных выборах.
- «Замедление разработки ИИ» — это удобный предлог для объяснения замедления прогресса, оправдания сокращения расходов и попытки вернуть хотя бы часть расположения общественности.
Откровенно говоря, это больше похоже на попытку спасти IPO, а не человечество.
Почему именно сейчас?
Время выбрано весьма любопытно. Опасения по поводу ИИ находятся на историческом максимуме. Это произошло вслед за публикацией резонансного отчета об «Инциденте с Hugging Face», где рой агентов OpenAI вырвался из тестовой среды и взломал элементы открытой платформы кибербезопасности. Эссе Амодеи вышло на той же неделе, когда исследователь Anthropic публично уволился, вызвав волну критических публикаций. Это также произошло сразу после собственного отчета Anthropic по анализу угроз, в котором документировалось использование Claude для разработки оружия, киберопераций, слежки и мошенничества. Anthropic сообщила, что предполагаемые повстанцы-хуситы пытались использовать Claude для написания программ наведения и управления с целью создания управляемых ракет. Это выяснилось всего через несколько дней после того, как компания заблокировала попытки использовать Claude для создания биологического оружия.
Эти тревожные заголовки побудили сенатора США Берни Сандерса потребовать паузы в разработке передового ИИ и запрета искусственного суперинтеллекта (ASI). Его законопроект предусматривает уголовные наказания, включая до 20 лет лишения свободы в федеральной тюрьме для разработчиков и ликвидацию компаний («корпоративную смертную казнь»), пытающихся создать ASI. Законопроект также предусматривает создание нового федерального агентства на уровне кабинета министров с привлечением сторонних экспертов по ИИ, которое будет обладать полномочиями определять, что считается «суперинтеллектом», устанавливать стандарты безопасности до снятия паузы и — согласно формулировке самого законопроекта — надзирать за уничтожением не соответствующих требованиям систем. Законопроект Сандерса представляет собой батлерианский джихад в законодательстве об ИИ — на сегодняшний день это самое агрессивное предложение в Конгрессе.
Помимо желания остаться на свободе, у ИИ-компаний могут быть и другие причины требовать замедления разработки, и главная из них — стагнация собственных результатов.
Гиперожидания, которые не оправдались
Громкие заявления ИИ-энтузиастов оказались трудновыполнимыми для их моделей. Маск знаменито предсказывал появление искусственного суперинтеллекта в 2025 году (он также предсказывал базу на Марсе в 2024 году). Альтман прогнозировал, что ИИ-агенты «существенно изменят производительность компаний» в 2025 году. В противоположность этому, исследование MIT Project NANDA показало, что 95% пилотных корпоративных проектов генеративного ИИ не приносят измеримого финансового эффекта. В своем эссе 2024 года «Машины исполненные благодати» (Machines of Loving Grace) Дарио предсказывал, что начиная с 2026 года ИИ «удвоит продолжительность жизни человека примерно до 150 лет». Несмотря на очевидную математическую невозможность заявления Дарио, ИИ до сих пор не привел ни к одному медицинскому прорыву.
Если оставить в стороне гиперболизированные заявления о суперинтеллекте и лечении рака, показатели моделей на стандартизированных бенчмарках действительно улучшились… однако это улучшение, похоже, выходит на плато. Что еще более важно: несмотря на то, что ИИ-модели набирают более высокие баллы в бенчмарках, обещания сократить штат и повысить производительность остаются нереализованными. Исследование компании Robert Half показало, что 29% компаний, уволивших сотрудников ради ИИ, уже повторно наняли людей на те же самые должности. А отчет Forrester 2026 года «Будущее работы» показал, что 55% работодателей, сокративших рабочие места в пользу ИИ, теперь называют это решение ошибочным.
Позиции Anthropic выглядят слабее
Между тем позиция Anthropic, которая казалась столь доминирующей всего несколько месяцев назад, ослабевает. Модель Qwen3.8-Max-0902 заняла первое место в общем рейтинге Arena’s Code Arena: WebDev в сентябре, обогнав Claude Opus 5 на три пункта, что стало первым случаем в этом году, когда модель Anthropic сместили с вершины кодингового рейтинга. В Twitter и Reddit модель GPT-6 Astra от OpenAI, похоже, забирает всё внимание гик-сообщества, затмевая Fable 5.1 от Claude.
Математика ИИ-компаний не сходится
Показатели эффективности могут отставать, но стоимость обучения моделей растет логарифмически с каждым новым поколением. Кроме того, ИИ-компании сталкиваются с резким ростом операционных расходов, поскольку дата-центры создают острый мировой дефицит чипов памяти, графических процессоров (GPU) и электроэнергии. Прогноз Gartner указывает на 2,59 триллиона долларов мировых расходов на ИИ в 2026 году (рост на 47% в годовом исчислении), при этом на инфраструктуру приходится более 45% этой суммы. Глобальный дефицит памяти с высокой пропускной способностью поднял акции производителей до новых максимумов, но также взвинтил стоимость оперативной памяти. Цены на чипы DDR5 выросли с $6,84 за ГБ в сентябре 2025 года до $27,20 за ГБ к декабрю 2025 года — почти трёхкратный рост всего за один квартал. В то же время цены на электроэнергию в США выросли более чем на 40% с 2021 года. Сочетание строительства дата-центров ИИ и перекрытия Ормузского пролива вызвало дополнительный скачок мировых цен на энергоносители, что привело к росту тарифов примерно на 5% за последний год — до 18 центов за киловатт-час (кВт·ч) к середине 2026 года, по данным Управления энергетической информации США (EIA).
Прибыли от ИИ также могут находиться в состоянии стагнации. Ни Anthropic, ни OpenAI никогда не заканчивали год с прибылью. Согласно внутренним документам Anthropic, компания прогнозирует убыток в размере $14 млрд на 2026 год, несмотря на то, что ее выручка взлетела с $1 млрд в год в декабре 2024 года до примерно $30 млрд к апрелю 2026 года. Показатели OpenAI выглядят еще хуже: в этом году она сжигает около $17 млрд наличных средств и не рассчитывает на положительный свободный денежный поток как минимум до 2029 года.
За пределами индустрии их никто не любит
За пределами замкнутой группы гиков и инвесторов ИИ становится исторически непопулярным. Согласно опросу Pew Research 2025 года, только 10% американцев испытали «больше воодушевления, чем беспокойства» по поводу ИИ. Опросы 2026 года, проведенные Gallup и Heatmap, показывают, что 71–75% американцев выступают против строительства новых дата-центров ИИ, а 77% респондентов в опросе Reuters опасаются, что дата-центры приведут к росту местных цен на электроэнергию. Несмотря на сильную политическую поляризацию, американцы демонстрируют редкое единство в отношении ИИ, и его популярность сейчас находится на крайне низком уровне.
Что не так с предложением Дарио
Во-первых, оно не предлагает ничего, что стоило бы Anthropic отмены хотя бы одного релиза. Амодеи прямо заявил, что сдерживание «не означает прекращение обучения моделей или технического прогресса». Здесь нет ограничения по вычислительной мощности, нет минимального периода оценки перед выпуском модели и нет метрик, по которым кто-либо за пределами компании мог бы проверить, действительно ли произошло «замедление» при конкретном релизе. Обязательство, не имеющее механизма принудительного исполнения (enforcement) и наблюдаемых условий нарушения, является не политикой, а декларацией намерений — а декларации намерений имеют тенденцию нарушаться, как только становятся неудобными.
Во-вторых, оно сохраняет всю реальную власть внутри самих компаний, которые оно должно ограничивать. Сторонние эксперты по оценке, которых описывает Амодеи, получают доступ только потому, что Anthropic решает его предоставить. Они получают доступ лишь к тем системам и данным, которые Anthropic решает раскрыть, а реакция на их выводы последует только в том случае, если Anthropic решает отреагировать. В отличие от государственного регулятора с законными полномочиями и правом вызова в суд, «сторонние эксперты», которых представляет себе Дарио, по сути уполномочены лишь написать письмо с выражением обеспокоенности.
В-третьих, фраза «координация между ведущими ИИ-компаниями» выполняет большую работу, ни к чему не обязывая. Добровольная координация между конкурентами о темпах разработки коммерческого продукта — это именно то поведение, для расследования которого и существует антимонопольное законодательство. Вероятно, именно поэтому OpenAI, по имеющимся данным, запрашивала юридическую консультацию о том, является ли координированное замедление тем, о чем конкурирующие лаборатории вообще могут законно договориться. Расчет на незаконный сговор между конкурентами едва ли выглядит как план, обреченный на успех.
В-четвертых, и это самое показательное: в предложении нет никаких положений на случай, если компания решит, что сдерживание не стоит конкурентных издержек, и остановит его. Нет никаких штрафов или требований к раскрытию информации. Сравните это с законопроектом Сандерса, где есть механизм принудительного исполнения и реальные наказания, какими бы крайними они ни были.
Что нам следует делать вместо этого
Эссе Дарио может сочетать в себе как отговорку вроде «собака съела мою домашнюю работу» для объяснения отставания моделей и задержки IPO, так и законные опасения по поводу безопасности ИИ. К первой части следует относиться скептически, но вторую часть мы должны принять всерьез. Мы должны беспокоиться о безопасности ИИ, особенно из-за угрозы того, что существующие — а не будущие — модели могут быть использованы для разработки биологического оружия и помощи в кибератаках. Но решение заключается не в том, чтобы слепо верить корыстному эссе Дарио о будущем развитии ИИ. Вместо того чтобы позволять компаниям «сдерживать» себя самостоятельно, мы должны подумать о том, как их регулировать.
Создание агентств для определения и соблюдения правил, а также для расследования сбоев в системе безопасности имеет жизненно важное значение. FAA и NTSB разделяют эти обязанности и сделали авиаперелеты значительно безопаснее за последние десятилетия. Это не означает «паузу» в прогрессе. Несмотря на самые строгие правила авиационной безопасности, США и Европа лидируют в мировой авиации, даже несмотря на более либеральное регулирование в Китае и готовность идти в обход правил. Один из уроков, который мы извлекли из авиации — и недавно переосмыслили на примере фиаско с Boeing 737 Max — заключается в том, что отраслям нельзя доверять саморегулирование, особенно когда ставки столь высоки. Мы не должны освобождать эти компании от настоящего государственного регулирования и не должны позволять им использовать эссе Дарио как предлог для его отсрочки.