Карпати: мы создаём не разум, а призраков без контроля
Андрей Карпати — сооснователь OpenAI, экс-директор AI в Tesla, основатель Eureka Labs — снова выступил на конференции AI Ascent 2026, организованной Sequoia Capital. Это русскоязычный пересказ и расширенный анализ его выступления (оригинал опубликован 29.04.2026 на английском). Карпати разбирает парадигмы Software 1.0/2.0/3.0 на живых примерах, объясняет скачкообразный характер способностей моделей через концепт верифицируемости и честно говорит, что именно модели до сих пор делают отвратительно — и почему это изменится только через RL.
Это продолжение его более раннего выступления — см. Карпати: от вайб-кодинга к агентной инженерии (AI Ascent 2026).
1. Декабрь 2024: переломный момент, который стоит принять всерьёз
Карпати начинает с личного признания: он никогда ещё не чувствовал себя таким «отставшим» как программист. И это — воодушевляющее чувство, а не тревожное.
Переломный момент случился в декабре 2024 года. До этого агентные инструменты вроде Cursor давали код «неплохо» — иногда с ошибками, которые приходилось чинить. В декабре что-то изменилось принципиально:
«Я просил сделать больше — и всё выходило с первого раза. Я уже и не помню, когда в последний раз что-то исправлял за нейросетью. Я стал доверять системе всё больше. И вот я уже вовсю занимаюсь вайп-кодингом.»
Для многих в 2024 году ИИ воспринимался просто как «аналог ChatGPT» — умный чат-бот. Но агентный workflow, когда ИИ выполняет последовательность действий автономно — это принципиально другой уровень, и он реально заработал именно в декабре.
Практический вывод: Если вы смотрели на AI год назад и решили, что понимаете его возможности — смотрите снова. Изменения фундаментальные, а не инкрементальные.
2. Software 1.0 / 2.0 / 3.0: почему LLM — это новый тип компьютера
Карпати формализует три эпохи программирования:
| Эра | Метод | Как вы «программируете» |
|---|---|---|
| Software 1.0 | Явный код | Пишете инструкции вручную на Python, C++, etc. |
| Software 2.0 | Нейросети | Собираете датасеты, задаёте архитектуры, оптимизируете objective |
| Software 3.0 | LLM | Пишете промпты; контекстное окно — ваш рычаг управления |
Ключевой инсайт: LLM, обученная на огромном массиве текстов интернета, по сути стала универсальным программируемым компьютером. Только «программируете» вы её не машинным кодом, а естественным языком через контекстное окно.
«Что находится в контекстном окне — это ваш рычаг управления интерпретатором, которым является LLM. Она интерпретирует ваш контекст и выполняет вычисления в цифровом информационном пространстве.»
Следствие: разработка — это уже не только «писать код». Это более общий процесс автоматизации работы с информацией. Раньше код работал со структурированными данными. Теперь можно взять разрозненные документы, переосмыслить и скомпилировать их в новую форму — и это тоже программирование.
3. Агенты как установщики: пример OpenClaw
Раньше установка инструмента = bash-скрипт. Который разрастается до монстра, поддерживающего 30 платформ. Вы всё ещё заперты в парадигме Software 1.0, где непременно нужно написать код.
На примере OpenClaw: установка — это просто кусок текста, который нужно скопировать и отдать агенту. Агент сам видит вашу систему, принимает решения, дебажит в процессе.
«Это принципиально другой тип мышления. Вопрос теперь: какой именно текст нужно скопировать и вставить агенту? Вот что такое программирование теперь.»
Это работает мощнее, потому что вы работаете в парадигме Software 3.0: у агента есть собственный интеллект. Не нужно расписывать каждый шаг до мелочей.
4. MenuGen и «приложения, которых не должно существовать»
Один из самых сильных тезисов Карпати — о том, что огромная часть кода в Software 3.0 просто не нужна.
Его личный пример: он создал MenuGen — приложение, которое фотографирует меню ресторана, распознаёт блюда через OCR и рисует их через генератор изображений. Затем он увидел Software 3.0-версию:
«Буквально: берёшь фото меню, отдаёшь Gemini и говоришь “используй [инструмент] чтобы наложить изображения прямо поверх меню”. Gemini возвращает фотографию меню, на которой прямо в пикселях уже отрисованы блюда рядом с названиями.»
Вывод, который его поразил:
«Весь мой MenuGen оказался бессмысленным. Он работает, но в старой парадигме. Такого приложения вообще не должно существовать.»
В Software 3.0 всё происходит напрямую: нейросеть берёт на себя всё больше работы. Промпт или картинка на входе — картинка на выходе. Промежуточное приложение не нужно.
Вывод для разработчиков: Перестаньте смотреть на AI как на ускоритель того, что существовало раньше. Думайте о том, что стало возможным принципиально новым способом — и что из старых приложений больше не должно существовать.
5. Верифицируемость: почему интеллект моделей такой «скачкообразный»
Карпати вводит концепт jagged intelligence («скачкообразный» или «зазубренный» интеллект): модели поразительно хороши в одних задачах и поразительно плохи в других, без очевидной логики.
Его объяснение: всё дело в верифицируемости.
Когда лаборатории обучают модели через RL — им нужны среды с чёткими сигналами вознаграждения. Математика, код, шахматы — всё это легко верифицировать. Поэтому модели в этих областях обучены очень хорошо.
Пример, который демонстрирует скачкообразность:
Я хочу помыть машину на мойке в 50 метрах от меня. Мне поехать или пойти пешком?
Даже топовая Claude Opus 4.7 скажет — идти пешком, это же близко. Та же модель способна провести рефакторинг 100 000-строчного кодбейса или найти уязвимость нулевого дня.
Почему так происходит:
| Фактор | Влияние |
|---|---|
| Задача легко верифицируется (код/математика) | Лаборатории добавляют RL-среды → резкий пик способностей |
| Задача плохо верифицируется (здравый смысл, контекст) | Нет функции вознаграждения → стагнация |
| Лаборатории сфокусировались на задаче | Специально добавляют данные → скачок (пример: шахматные данные в GPT-4) |
Следствие: вы буквально изучаете инструмент «на ощупь» без инструкции. Если ваша задача попадает в паттерны RL-обучения — всё взлетает. Если оказывается за пределами — начнутся проблемы.
Практический вывод:
- Если вы в «цепях RL» (код, математика, верифицируемые задачи) — вы летите
- Если вне этих цепей — будете «выдирать зубы»
- Хотите способность вне дефолтного распределения — думайте о файн-тюнинге на собственных RL-средах
6. Вайб-кодинг vs Агентная инженерия: два разных инструмента
Карпати сам разграничил эти понятия — и это главный практический тезис выступления:
Вайб-кодинг — поднимает пол возможностей. Любой человек теперь может создать рабочий прототип практически чего угодно. Это невероятно и важно. Минимальный порог для всех вырос.
Агентная инженерия — это про сохранение планки качества при высокой скорости. Вы по-прежнему несёте ответственность за безопасность, архитектуру, отсутствие уязвимостей — просто теперь у вас есть агенты.
«Агентная инженерия — это полноценная инженерная дисциплина. У вас есть агенты: довольно непредсказуемые структуры, с элементом стохастичности, но невероятно мощные. Суть в том, как координировать их работу, чтобы двигаться быстрее без потери качества.»
Про потолок возможностей:
«Раньше говорили про программиста 10X. Сейчас этот масштаб стал куда больше. 10X — это далеко не предел ускорения, которое вы получаете.»
| Подход | Что делает | Для кого |
|---|---|---|
| Вайб-кодинг | Поднимает минимальный порог | Все — от дизайнера до фаундера |
| Агентная инженерия | Масштабирует верхний потолок качества | Профессионалы, команды, продакшн |
7. Как выглядит AI-native инженер и новый подход к найму
Карпати сравнивает это с тем, как хорошие инженеры выжимали максимум из своих инструментов — vim, VS Code. Сейчас то же самое, только инструменты — это Claude Code, Codex и подобные. Разница между посредственным и сильным пользователем — в умении использовать весь спектр доступных возможностей, вкладываться в настройку своего окружения.
Про найм — большинство компаний ещё не перестроили процесс:
«Если вы до сих пор даёте на собеседованиях задачки-головоломки — вы в старой парадигме.»
Как должен выглядеть отбор агентного инженера по Карпати:
- Дать кандидату реально крупный проект: «Напиши клон Твиттера»
- Потребовать: сделать его безопасным, задеплоить
- Запустить симулированных пользователей
- Нанять десяток агентов, чтобы попытались взломать приложение
- Приложение не должно сломаться
«Смотреть нужно на то, как человек строит большие проекты. Это и есть агентная инженерия.»
8. Что остаётся ценным у человека: вкус, суждение, надзор
Агенты воспринимаются сейчас как «сущности уровня стажёров». Вы по-прежнему отвечаете за эстетику, суждение, вкус и верхнеуровневый контроль.
Пример из MenuGen — реальный баг агента:
Пользователь регистрировался через Google, но покупал кредиты через Stripe — с разных email. Агент пытался сопоставить их по email-адресу. Но email — не уникальный ID! Это концептуально неверное решение, которое агент принял самостоятельно.
Такой тип ошибок — концептуальная ошибка в проектировании, а не синтаксическая. Человек должен это замечать.
Про качество кода:
«Порой, когда я смотрю на сгенерированный код, мне дурно становится. Он очень раздутый, куча копипасты, хрупкие абстракции. Он работает, но выглядит отвратительно.»
Улучшится ли это? Скорее всего — когда лаборатории включат эстетику кода в RL. Пока нет штрафов за «уродливый» код — агент не оптимизирует его.
Важная нюансировка: базовое понимание всё ещё необходимо. Карпати сам говорит, что перестал помнить API-детали (dim/axis/permute в PyTorch) — это теперь дело агента-стажёра. Но понимать, что такое тензор и как устроена память — надо. Иначе не поймёте, когда агент делает дорогостоящую лишнюю копию.
9. Призраки vs Животные: что такое LLM на самом деле
Один из самых философских и практически важных тезисов — Карпати писал об этом в статье «Animals vs Ghosts».
Мы не строим животных — сущностей с внутренней мотивацией, любопытством, эволюционно сложившимися инстинктами. Мы вызываем призраков — статистические симуляции, сформированные данными предобучения и RL.
«Я пытаюсь понять, что эти штуки такое. Потому что если у вас правильная ментальная модель того, чем они являются и чем не являются — вы будете компетентнее их использовать.»
Практические следствия понимания «призрак, а не животное»:
| Следствие | Что это означает |
|---|---|
| Кричать на модель бесполезно | Она не реагирует на эмоциональный давление |
| Нет консистентной личности между сессиями | «Память» — технический трюк с контекстом |
| Способности формируются данными и reward | Пики возможностей — результат RL, а не «понимания» |
| RL расширяет отдельные пики | Базовое предобучение + слой RL = неравномерная карта способностей |
Это не пессимизм. Это прагматизм: адекватная ментальная модель инструмента — ключ к его эффективному использованию.
10. Агент-нативный мир: всё придётся переписать
Карпати убеждён: всё написано для людей и должно быть переписано для агентов.
Его любимая жалоба: документация библиотек написана для людей — «перейди по этой ссылке, сделай то-то в интерфейсе». Он хочет вместо этого «кусок текста, который можно скопировать и отдать агенту».
Модель агент-нативного мира — сенсоры и исполнительные механизмы:
- Агенты получают данные из мира через сенсоры
- Агенты воздействуют на мир через актуаторы
- Вся инфраструктура должна быть изначально описана в форматах, понятных LLM
Проверка готовности инфраструктуры к агентному миру:
«Я должен дать один промпт — и MenuGen будет задеплоен в интернете. Без того, чтобы я касался DNS, настроек, разрозненных сервисов.»
Конечная точка: «Мой агент поговорит с вашим агентом, чтобы договориться о встрече.»
11. Единственное, что нельзя делегировать: понимание
Финальный тезис — самый важный, по мнению Карпати. Его вдохновил твит, к которому он возвращается постоянно:
«Можно делегировать мышление. Нельзя делегировать понимание.»
Карпати описывает себя как bottleneck собственной системы: агенты генерируют, пишут, деплоят — но он должен понимать, что строить и зачем. Иначе некому направлять.
Именно поэтому он так увлечён LLM Wiki-проектом (см. LLM Wiki как система знаний): это инструмент для углубления понимания, а не замена ему.
«Каждый раз, когда я вижу другую проекцию на данные — я чувствую, что получаю новое понимание. Это синтетическая генерация данных над фиксированными данными, только для мозга.»
И предупреждение тем, кто думает, что понимание скоро тоже автоматизируют:
«LLM точно не преуспевают в глубоком понимании. Эта задача всё ещё лежит исключительно на вас.»
12. Верифицируемость и советы фаундерам
Если бы Карпати сегодня создавал компанию, он думал бы через призму верифицируемости: какие ценные области ещё не попали в фокус лабораторий, где есть возможность построить собственные RL-среды?
Его тезис: верифицируемость делает задачу решаемой в текущей парадигме, потому что на неё можно направить RL. Это работает даже если сами лаборатории не фокусируются на этой области — вы можете создавать RL-среды самостоятельно.
«Если у вас есть разнообразный датасет и фреймворк для файн-тюнинга — нажимаете на рычаг и получаете то, что реально хорошо работает.»
Его прогноз: в конечном счёте почти всё можно сделать верифицируемым. Даже писательство — через «судейскую коллегию» из LLM. Вопрос лишь в том, что легко, а что трудно сделать верифицируемым сейчас.
Ключевые выводы
| Тезис | Суть |
|---|---|
| Декабрь 2024 — разрыв | Агентные инструменты не стали чуть лучше. Они перешли порог. |
| Software 3.0 | Промпт = программа. LLM = интерпретатор. Контекст = рычаг управления. |
| Большинство приложений не должно существовать | Если логика = «передать данные через LLM», приложение-посредник лишнее. |
| Скачкообразный интеллект | Верифицируемость задачи + интерес лаборатории = пики способностей. Знайте свои паттерны RL. |
| Вайб ≠ агентная инженерия | Вайб поднимает пол. Агентная инженерия масштабирует верхний потолок. |
| Призраки, не животные | Правильная ментальная модель = правильное ожидание от инструмента. |
| Агент-нативный мир | Всё придётся переписать для агентов: документация, API, деплоймент. |
| Понимание нельзя делегировать | Мышление — можно. Понимание — нет. Это ваш главный актив. |
Источник: Новое интервью Карпатого: мы создаём не разум, а призраков без контроля · AI из первых уст · YouTube, 08.06.2026 Оригинал (EN): Andrej Karpathy: From Vibe Coding to Agentic Engineering — AI Ascent 2026, Sequoia Capital · 29.04.2026 Транскрипт: raw
Связанные статьи: Карпати: от вайб-кодинга к агентной инженерии · Агентная инженерия 2026 · LLM Wiki по методу Карпати