Роман Ямпольский: 99% профессий исчезнут. Что останется к 2030-му и почему безопасный ИИ невозможен
Роман Ямпольский — профессор информатики, автор термина «AI Safety», 15 лет занимается безопасностью искусственного интеллекта. В отличие от большинства экспертов, он не продаёт оптимизм: его тезисы опираются на математику и теорию сложности. Интервью для The Diary of a CEO (сентябрь 2025) — один из наиболее сжатых и честных разборов того, что нас ждёт.
1. Почему безопасный ИИ — математически невозможная задача
Ямпольский начал работу по безопасности ИИ как оптимист: он был уверен, что задача решаема. Пять лет спустя изменил позицию радикально.
Проблема не в том, что компании не стараются. Проблема в архитектуре задачи:
- Прогресс в возможностях ИИ — экспоненциальный (или даже гиперэкспоненциальный)
- Прогресс в безопасности ИИ — линейный или постоянный
- Разрыв увеличивается с каждым годом
Любой механизм безопасности представляет собой «патч»: люди находят обходные пути, систему взламывают, и поведение вытесняется в ещё не ограниченную область. По аналогии с корпоративным HR-регламентом: умный человек всегда найдёт обходной путь, не нарушая формальных правил.
«Каждый компонент этого уравнения — не то, что мы реально можем сделать. Чем глубже смотришь, тем больше проблем — как фрактал. И все они не просто сложные: они невозможные.»
Ключевое следствие: нет ни одной фундаментальной научной работы, где было бы решено что-то из аспектов выравнивания. Есть только временные заплатки.
2. Где мы находимся: AGI уже есть или нет?
Ямпольский использует градуированную классификацию:
| Уровень | Определение | Статус |
|---|---|---|
| Узкий ИИ | Лучше человека в одном домене | Достигнут (шахматы, покер, сворачивание белков) |
| AGI (слабый) | Работает в сотнях доменов, лучше человека во многих | Уже есть — «слабая версия» |
| Суперинтеллект | Умнее всех людей во всех доменах | Ещё нет, но разрыв закрывается стремительно |
Три года назад LLM не могли решить базовую алгебру. Сейчас они помогают доказывать теоремы и побеждают на математических олимпиадах. В математике за три года прошли путь от субчеловеческого уровня до уровня лучших математиков мира.
3. Прогнозы по годам
2027 — AGI
По прогнозным рынкам и прогнозам руководителей ведущих лабораторий: AGI к 2027 году. Это означает «drop-in» замену — бесплатный когнитивный труд в любом масштабе. Нанимать людей для большинства задач становится экономически бессмысленным при наличии $20/месяц подписки.
2030 — Физический труд
Humanoid-роботы от Tesla и других компаний к 2030 году достигнут гибкости и ловкости, позволяющей конкурировать с людьми в физических профессиях, включая сантехника и строителя.
2045 — Сингулярность
По Рэю Курцвейлу — точка, за которой прогресс ускоряется настолько, что человек больше не способен его воспринимать или осмыслить. Ямпольский соглашается с логикой: как только ИИ начинает самостоятельно делать науку и инженерию — итерации ускоряются до масштаба, недоступного для человека.
4. Занятость: почему 99% — не преувеличение
Исторически технологии автоматизировали конкретный класс задач, создавая новые профессии. ИИ нарушает эту логику:
«Мы изобретаем не инструмент. Мы изобретаем замену человеческого разума — нового изобретателя, способного делать новые изобретения. Это последнее изобретение, которое нам когда-либо придётся сделать.»
Традиционный аргумент: Промышленная революция тоже убрала профессии, но создала новые. Ответ Ямпольского: тогда инструмент делал задачу эффективнее, но сам не мог изобретать. ИИ — первый «инструмент», который применим к любой новой задаче, включая создание следующего поколения ИИ.
Единственные сохраняющиеся категории работ
По Ямпольскому, останутся ниши, где по социальным или эмоциональным причинам предпочитают человека:
- Богатые клиенты с консервативными предпочтениями (бухгалтер, врач)
- «Ручная работа» как люкс-маркер (аналог товаров made in USA vs. China)
- Это не экономика — это «почти фетиш»
Всё остальное — включая программирование, проектирование промптов, дизайн агентных систем — будет автоматизировано в горизонте 1–2 лет с момента появления.
5. Чёрный ящик: создатели не понимают своих систем
Один из самых недооценённых тезисов Ямпольского: разработчики ведущих AI-систем не знают, что внутри.
Процесс: обучение на триллионах токенов → запуск → научное изучение артефакта (что он умеет? на что способен?). Это больше не инженерия, это наука. Модель похожа на «инопланетное растение», которое выращивают и потом исследуют.
Следствие: нельзя ни дать, ни получить информированное согласие на эксперимент. Испытуемые (все 8 млрд человек) не понимают, на что соглашаются. Это делает весь процесс развёртывания ИИ этически несостоятельным по определению.
6. Суперинтеллект vs. ядерное оружие: в чём принципиальная разница
| Параметр | Ядерное оружие | Суперинтеллект |
|---|---|---|
| Доступность | Требует миллиарды + обогащение урана | Удешевляется экспоненциально |
| Управляемость | Инструмент — нужен человек для применения | Агент — принимает решения самостоятельно |
| Можно «выключить» | Теоретически да | Нет: распределённая система, умнее нас |
| Контроль | Режим нераспространения работает | Не применим — код копируется |
«Вы не можете выключить биткоин. Вы не можете выключить вирус. Это распределённые системы. А суперинтеллект — умнее вас. Он сделает резервные копии. Он предсказал ваши действия. Он выключит вас раньше, чем вы успеете нажать кнопку.»
7. Сэм Альтман и структура стимулов
Ямпольский встречал Альтмана лично: «идеальный публичный интерфейс». Перед сенаторами — правильные слова. Перед инвесторами — правильные слова. Но по мнению тех, кто работал с ним:
- Безопасность стоит второй после победы в гонке
- Главная мотивация — контроль над «световым конусом вселенной» (всем, до чего достигает свет из данной точки)
- Worldcoin — параллельный проект по контролю над мировыми финансами на случай массовой безработицы
Иллюстрация системного провала: команда OpenAI по выравниванию суперинтеллекта была анонсирована с обещанием решить проблему за 4 года. Через полгода — расформирована.
8. Что можно сделать
Ямпольский не даёт оптимистичных рецептов, но формулирует направления:
На уровне компаний: строить узкие инструменты, решающие конкретные задачи (например, лечение рака молочной железы). Не строить общий суперинтеллект.
На уровне общества: организации Pause AI и Stop AI — пока маргинальные, но единственные демократические инструменты давления.
На уровне журналистов и аудитории: задавать конкретный вопрос разработчикам ИИ-«безопасности» — «Объясните в научных терминах, как именно вы собираетесь контролировать суперинтеллект. Опубликуйте рецензируемую статью».
Для обычного человека сейчас: живи свою жизнь хорошо — это лучший совет при любом горизонте планирования.
9. Симуляция и 2100-й год
Ямпольский склоняется к тому, что мы живём в симуляции. Прагматичное следствие: ведите себя так, чтобы симуляцию не выключили — то есть создавайте что-то интересное и ценное.
К 2100 году возможны только два исхода:
- Человечества нет
- Мир настолько изменился, что мы не можем его вообразить
В этом ограниченность любого прогнозирования за горизонтом сингулярности: предсказать поведение системы умнее себя — логическое противоречие.
10. Ямпольский vs. Токовинин и Молик: три позиции на одной шкале
| Эксперт | Позиция | Главный тезис |
|---|---|---|
| Ямпольский | Алармизм, доказательный | Безопасный ИИ невозможен математически; 99% безработица неизбежна |
| Молик (Wharton) | Прагматичный оптимизм | ИИ — инструмент; люди с опытом имеют преимущество; учиться работать вместе |
| Токовинин (amoCRM) | Историческая перспектива | Аналог индустриализации; не суетиться; идти с толпой; выиграют спортсмены и блогеры |
Все трое согласны, что изменения реальны и масштабны. Расходятся в оценке необратимости и масштаба угрозы.
Источник: The Diary of a CEO — Dr. Roman Yampolskiy · YouTube · Сентябрь 2025 Транскрипт: raw