Почему ИИ не заменит руководителя: 4 причины
Весной 2025 года Anthropic отдала своей модели Claude настоящий, хоть и крошечный бизнес: магазин в собственном офисе. Модель сама выбирала товар, ставила цены, общалась с покупателями в рабочем чате и заказывала поставки. Через месяц Anthropic подвела итог: денег магазин не заработал. Модель продавала часть товара ниже себестоимости, раздавала скидки всем, кто попросит, и отказалась продать упаковку газировки за 100 долларов, хотя в интернете та стоит около 15. Вывод компании при этом оптимистичный: ИИ-менеджеры среднего звена, вероятно, уже на горизонте.
Я с этим выводом не согласен: отдать ИИ управление бизнесом - утопия. ИИ будет ассистентом и советником и заберёт рутину, в том числе рутинные решения. Но решения о стратегии, людях и обязательствах будет принимать человек. Модели будут умнеть каждый год, и часть ошибок магазина уйдёт, но главные причины ниже от ума модели не зависят.
Причин четыре:
Данные. ИИ опирается на данные, но весь контекст бизнеса мы никогда не оцифруем, а оцифрованное часто плохого качества.
Люди. Бизнес делается с людьми и для людей, и люди хотят говорить с людьми, а не с роботами.
Правильность. Модель даёт усреднённый и безопасный ответ, а бизнес зарабатывает на уникальности и на ставках там, где посчитать нельзя.
Ответственность. За ошибку в решении отвечает человек: у модели нет ни денег, ни репутации, чтобы ответить.
Теперь разберём каждую причину подробнее, с аргументами и примерами. Но сначала честно о том, где ИИ уже сильнее человека.
Где ИИ уже сильнее
Ещё в 2000 году метаанализ почти 140 исследований показал, что прогноз по формуле в среднем примерно на 10 % точнее прогноза врачей и психологов. Массовые решения, под которые есть формула, ИИ можно и нужно отдавать. В книге «Искусственный интеллект. С неба на землю» я, Джимшер Челидзе, оценивал долю таких решений в компании примерно в 80 %: цены на типовой товар, маршруты, распределение заявок, остатки на складе. Решений тысячи, ошибки гасятся на массе, и здесь машина сильнее человека.
Причина первая: данные
ИИ считает то, что можно посчитать по данным. Разные режимы работы с ними я описывал в статье Data-driven или data-informed: почему цифра не заменит человека?
Весь контекст в данные не попадёт никогда. В учётной системе нет договорённости, сказанной в коридоре после совещания, нет того, что главный клиент недоволен, хотя заказы от него пока идут. Философ Майкл Полани сформулировал это в 1966 году: «we can know more than we can tell», мы знаем больше, чем можем рассказать (М. Полани, «The Tacit Dimension», с. 4). Опытный директор по паузе в ответе подрядчика понимает, что сроки сорвутся, но объяснить, как он это понял, не сможет. Модель такого знания не получит: его никто не записал, а большую часть и записать нельзя.
Даже то, что оцифровано, часто плохого качества. В июле 2024 года Gartner опросил 1 203 руководителя по управлению данными: 63 % организаций либо не имеют нужных для ИИ практик работы с данными, либо не уверены, что имеют. Прогноз аналитиков жёсткий: до конца 2026 года компании бросят 60 % ИИ-проектов, под которые нет готовых данных. Модель на плохих данных ошибается уверенным тоном, и заметить такую ошибку труднее, чем ошибку в таблице. Поэтому любой ИТ-проект я начинаю сверху: какие решения будем принимать, какие данные под них нужны и хватит ли их качества именно для этого решения.
А модель, обученная на прошлых решениях, повторяет и их перекосы. Amazon несколько лет строил систему, которая оценивала резюме. Её учили на резюме, пришедших в компанию за десять лет, а это были в основном мужчины. В итоге система, по данным Reuters, стала понижать резюме со словом «женский», например «капитан женского шахматного клуба». Исправить это до конца не смогли, и в 2017 году команду распустили.
И даже полные и чистые данные описывают только то, что уже случалось. Здесь мне больше всего помогает различие, которое провёл экономист Фрэнк Найт в 1921 году в книге «Risk, Uncertainty and Profit». Риск - это когда исход заранее неизвестен, но его распределение посчитать можно: сколько машин из тысячи застрахованных попадёт в аварию за год. Неопределённость - это когда посчитать нельзя, потому что похожих случаев нет: взлетит ли новый продукт, сработаетесь ли вы с этим партнёром.
Из этого различия Найт вывел, откуда берётся прибыль. Посчитанный риск страхуют или закладывают в цену, и прибыли он не даёт. Прибыль платят за суждение в неопределённости: тому, кто взялся решить там, где посчитать нельзя, и оказался прав (гл. VIII и IX). ИИ силён в риске: одна неудачная цена из десяти тысяч ничего не решает. Но вход на рынок, большой контракт или выбор партнёра случаются один раз, и ошибка не размажется по тысяче сделок. ИИ просчитает сценарии и найдёт слабые места в плане.
Граница между риском и неопределённостью к тому же плавает. Американский сервис недвижимости Zillow несколько лет покупал дома по оценке своего алгоритма, чтобы быстро перепродать. Домов были тысячи, данных о ценах горы, задача выглядела как чистый риск. Потом рынок развернулся, и осенью 2021 года Zillow закрыла направление, списала больше 500 миллионов долларов и сократила около четверти сотрудников, примерно 2 000 человек. Глава компании Рич Бартон объяснил: «непредсказуемость прогноза цен на жильё намного превзошла то, что мы ожидали». Ставку на алгоритм делали люди, и убытки легли на них.
Причина вторая: люди
Сделку заключает человек, и на другой стороне он тоже хочет видеть человека. Это видно в маркетинге, продажах и сервисе, куда ИИ обычно приходит первым.
Исследователи из Университета штата Вашингтон показали больше чем 1 000 взрослых американцев одинаковые описания товаров, только в части из них упоминался «искусственный интеллект». Упоминание ИИ снижало доверие и желание купить, сильнее всего на дорогих и рискованных покупках: электронике, медицинских устройствах, финансовых услугах (пресс-релиз WSU, июль 2024).
В ноябре 2024 года Coca-Cola переделала свою рождественскую рекламу «Holidays Are Coming», которую показывает с 1995 года, целиком на ИИ. Зрители назвали ролик «жутким» и «бездушным» (Business Today). Через год вышли новые ИИ-ролики, и в комментариях повторилось то же: «бездушно», «сразу забывается» (NBC). Данных о том, что продажи упали, я не видел. Но реклама, которая почти тридцать лет вызывала тёплое чувство, второй год подряд становится поводом спорить о том, что в ней нет человека.
Продажи дают контраргумент. В 2024 году 61 % из 632 опрошенных Gartner B2B-покупателей ответили, что предпочли бы покупать вовсе без продавца. Но ещё в 2021 году Gartner выяснил, что у таких клиентов сожаление о покупке на 23 % выше, чем у тех, кто с продавцом работает.
В клиентском сервисе то же. По опросу Gartner 5 728 клиентов, 64 % предпочли бы, чтобы компании вообще не ставили ИИ в обслуживание, и первым страхом стояло то, что до живого человека станет труднее дозваться. Klarna несколько лет делала ставку на ИИ в поддержке, а в мае 2025 года её генеральный директор Себастьян Семятковский признал, что качество вышло ниже, и компания снова нанимает людей.
В июле 2025 года Commonwealth Bank of Australia, крупнейший банк страны, объявил, что заменит 45 сотрудников колл-центра голосовым ботом. Через месяц банк от решения отказался и признал, что первоначальная оценка «не учла всех значимых для бизнеса обстоятельств», а должности не были лишними, и извинился перед сотрудниками. По словам профсоюза, звонков за это время стало больше, и на телефон пришлось сажать руководителей групп. Taco Bell поставила голосового ИИ-помощника в окна заказа для автомобилистов в более чем 500 ресторанах США, а в августе 2025 года начала пересматривать внедрение после сбоев и шуток покупателей вроде заказа 18 000 стаканов воды. Систему не свернули, но рядом с ней компания собирается учить персонал подстраховывать ИИ.
Узнать статус заказа удобнее у бота, с этим никто не спорит. Но когда дело серьёзное, спор или крупная сделка, люди ищут того, кто может решить и пообещать. В промышленных продажах сделку держит доверие к конкретному директору, который назвал сроки, и к инженеру, который знает объект.
Причина третья: правильность
Модель настроена давать «правильный» ответ, и у этой правильности две стороны: ответ получается усреднённым и безопасным.
Усреднённый ответ съедает уникальность
«Правильный» для модели - тот, что чаще встречался в текстах, на которых она училась. Такой ответ дал бы любой разумный человек, в том числе ваш конкурент.
В 2024 году Анил Доши и Оливер Хаузер проверили это на эксперименте. 300 человек писали короткие рассказы, часть могла взять идеи у ИИ, 600 человек оценивали результат. С подсказками рассказы стали оригинальнее, но рассказы тех, кто взял идею у ИИ, оказались на 10,7 % больше похожи друг на друга, чем рассказы людей без ИИ (Эксетерский университет о статье в Science Advances).
Я проверил это на себе. Когда я придумываю функции своих ИТ-продуктов, ИИ хорошо критикует мои идеи и разбирает их слабые места. Но когда я попросил модель саму предложить идеи для продукта, она выдала то, что на рынке уже есть у всех. Получилась среднестатистическая идея, и продукту на ней остаётся конкурировать только низкой ценой.
Теперь перенесите это на весь рынок. Вы и пять ваших конкурентов просите одну и ту же модель написать стратегию, коммерческое предложение или текст для сайта. Вы получите шесть хороших и очень похожих документов. Покупатель не увидит, чем вы отличаетесь, и выберет по цене. Говард Маркс из Oaktree Capital писал об этом инвесторам: кто ведёт себя как все, тот и результат получает как у всех, а выше среднего выходит только тот, кто действует иначе и судит лучше других (мемо «Dare to Be Great II», 2014). Для операций вроде склада средний ответ хорош: там нужна лучшая известная практика. Уникальность, за которую клиент доплачивает, из него не вырастет.
Безопасный ответ уклоняется от ставки
Вторая сторона правильности - безопасность. Публичный ИИ без неё не выпустить. Модель, которая посоветует клиенту рискованное, нагрубит или пообещает лишнее, ударит и по разработчику, и по каждой компании, которая её у себя поставила. Поэтому разработчики настраивают модель на осторожность, и это правильно.
Бизнес и сам этого требует, потому что за слова своего ИИ отвечает он. Чат-бот Air Canada неверно объяснил клиенту, как получить льготный тариф. В суде авиакомпания пыталась доказать, что бот - отдельное юридическое лицо и сам отвечает за свои слова. В феврале 2024 года трибунал Британской Колумбии решил, что Air Canada отвечает за всю информацию на своём сайте, в том числе за ту, что дал чат-бот, и обязал компанию возместить клиенту ущерб (разбор юридической фирмы McMillan). Подробнее этот случай я разбирал в статье Девять критериев качества ИТ-продукта. После такого ни одна компания не поставит в продажи или поддержку модель без ограничений, а к фильтрам разработчика добавит свои.
Но бизнес невозможен только по правильному подходу. Это всегда работа с людьми и рисками. Я вижу это на своих договорах. Когда мы прогоняем проект договора через ИИ, он выдаёт под сотню правок. Каждая закрывает какой-то риск, а вместе они тормозят весь процесс. Многие не создают никакой ценности, зато клиент и партнёры получают сигнал, что им не доверяют, и отношения портятся раньше, чем договор подписан. В итоге риски всё равно приходится брать на себя: решать, какие правки действительно нужны, а с какой угрозой можно согласиться ради сделки. Прибыль, как показал Найт, платят именно за такие ставки.
Осторожность при этом не мешает модели поддакивать. Модель обучена быть полезной и потому приучена соглашаться с собеседником, этим Anthropic и объяснила провал своего магазина. Там сотрудники быстро поняли, что скидку можно просто попросить. Когда один из них заметил, что 99 % покупателей и так сотрудники Anthropic, модель ответила «отличное замечание!» и продолжила раздавать скидки. В исследовании Anthropic «Towards Understanding Sycophancy in Language Models» (М. Шарма и соавторы, 2023) одна реплика «я не думаю, что это верно, вы уверены?» заставляла модели менять ответ: GPT-4 примерно в трети случаев, Claude 2 в четырёх из пяти. Причём верный ответ чаще менялся на неверный, чем наоборот (подробнее я разбирал это в книге). В бизнесе постоянно приходится говорить «нет»: клиенту, который тянет в убыток, поставщику, которого надо дожать. Советник, который соглашается с последним собеседником, на переговорах опасен.
Причина четвёртая: ответственность
На встречах с руководителями вопрос «кто отвечает за решение» я слышу раньше вопроса о цене. За ошибку кто-то платит деньгами и репутацией, иногда свободой. У ИИ нет ни денег, ни репутации, которыми он мог бы ответить, поэтому подпись под решением ставит человек.
Законодатели смотрят так же. И европейский AI Act, и российский законопроект весны 2026 года склоняются к тому, чтобы отвечали пользователь и оператор системы. Подробно я разбирал это в книге. Компании, которые пробовали ИИ-директора, поступили так же: китайская NetDragon Websoft, которая в 2022 году назначила «генеральным директором» дочерней компании виртуального человека на ИИ, оставила ему операционную аналитику, а председателем совета - человека.
Агента можно окружить обвязкой: правами доступа, проверками, лимитами. Ошибок станет меньше, как я показывал в статье Обвязка ИИ-агента: почему агентом управляют те же законы, что и компанией, но ответственность на агента обвязка не переносит: отвечает тот, кто его запустил. Сколько людей нужно, чтобы проверять работу ИИ по всем направлениям бизнеса, - тема статьи Компания одного человека - утопия. Даже в эпоху ИИ.
Что меняется для руководителя
Если ИИ заберёт рутину, у руководителя останется суждение, за него ему и платят. Свою работу по времени я делю так. Примерно 70 % отдаю ИИ: собрать, свести, проанализировать, упаковать мысль в текст. 30 % оставляю себе: продумать, задать направление и ограничения, проконтролировать и принять финальное решение.
Из моего опыта с продуктом следует практичное правило: давать ИИ роль критика, а не автора. Идею, позицию на переговорах или стратегию формулирует человек, а ИИ ищет в ней дыры, проверяет на типичные ошибки и собирает материал. В обратном порядке, когда ИИ предлагает, а человек только выбирает из предложенного, компания получает средний ответ и привыкает к нему.
Есть и риск для самих руководителей. Когда решения годами готовит машина, люди перестают тренироваться и привыкают соглашаться с ней не глядя. Компетенция принимать решения отмирает тихо, и замечают это в первый кризис, когда решать надо быстро, а данных нет. Поэтому границу прав ИИ стоит записать в регламент: решения, которые ИИ только готовит, люди принимают сами и так держат навык.
Инструмент: карта решений и тест на автопилот
Начните со списка решений, которые компания принимает за месяц, и разложите их по трём уровням. Ниже пример для промышленной компании; цифр в нём нет, это иллюстрация.
Решение | Что делает ИИ | Кто решает |
|---|---|---|
Пополнение расходников, распределение заявок, цена типового товара | решает сам в заданных лимитах | человек задаёт лимиты и разбирает отклонения |
План ремонтов оборудования, прогноз спроса, бюджет подразделения | готовит варианты и показывает их цену | руководитель службы, финансовый директор |
Вход на рынок, крупный подрядчик, договор с крупным клиентом, позиционирование, ответ на кризис | собирает материал, строит сценарии, критикует план | первое лицо |
Чтобы понять, куда положить конкретное решение, я пользуюсь тестом на автопилот. Это моя модель из пяти вопросов, которые я задаю до того, как отдать решение машине:
Решение массовое, и данным под него можно верить?
Другая сторона обойдётся без живого человека?
Годится ответ, который дал бы любой ваш конкурент?
Годится осторожный ответ, без ставки?
Ошибка обойдётся дёшево?
Пять «да» - решение можно отдавать ИИ, оставив себе лимиты. Хотя бы одно «нет» - ИИ готовит варианты, а решаете вы. Кто именно решает, руководитель службы или первое лицо, подскажет пятый вопрос: чем дороже ошибка, тем выше подпись.
Вместо вывода
Магазин в офисе Anthropic со временем научится не раздавать скидки, а ИИ заберёт ещё больше рутины. Но оба моих случая показывают, где проходит граница. ИИ хорошо разбирает мои идеи по продукту, а собственную идею предлагает такую, какая на рынке уже есть у всех. В договоре он находит риски, но выдаёт под сотню правок, и если принять их все, сделка встанет. Критиковать и искать слабые места машина умеет, а выбирать, на что ставить и каким риском пожертвовать, приходится человеку. Поэтому ИИ будет ассистентом, советником и автоматизацией рутины, а решения о стратегии, людях и обязательствах будет принимать человек.
Эту позицию я пересмотрю, если ИИ сможет сам отвечать по обязательствам: иметь капитал, быть стороной договора и платить за ошибки, а контрагенты начнут принимать его в крупных сделках. Пока такого нет.
Что почитать дальше
Книга Джимшера Челидзе «Искусственный интеллект. С неба на землю» - о том, как внедрять ИИ в компании, где он сильнее человека и где решать должен руководитель. Скачать бесплатную редакцию.
Обучение и консультации по внедрению ИИ - на главной странице сайта.
