Искусственный интеллект в бизнесе: реальные плюсы, скрытые риски и что действительно происходит

Главный минус ИИ в бизнесе не в том, что он «заменит людей». Опаснее другое: система может уверенно сказать неправду от имени компании, пообещать клиенту несуществующие условия, выдать чужому человеку внутренний регламент или отправить персональные данные туда, куда их нельзя отправлять. Для клиента это не эксперимент с технологией, а позиция вашей компании.

Главный плюс тоже уже, чем звучит в презентациях. ИИ действительно ускоряет часть операций, но чаще всего подтягивает новичков и слабых сотрудников к среднему уровню, а сильным специалистам даёт мало или даже мешает. Это не про то, поработит ли нас ИИ. Это про то, что ломается в рабочем процессе и во сколько обходится.

ИИ в бизнесе — это рабочий инструмент, который приносит пользу там, где процесс описан, данные подготовлены, а цена ошибки заранее понятна.

Плюсы и минусы искусственного интеллекта

В разговорах об ИИ часто есть две крайности. Первая: «внедрим модель — прибыль вырастет сама». Вторая: «95% проектов проваливаются, лучше не начинать». Обе позиции удобны для заголовков, но плохо помогают управлять риском.

По данным McKinsey «The State of AI in 2026», влияние ИИ на EBIT хотя бы частично видят 37% компаний, а высокими исполнителями, где вклад достигает 5% EBIT и выше, остаются около 6%. При этом 80% респондентов говорят о росте личной продуктивности. Получается важный разрыв: сотрудники чувствуют ускорение, но финансовая отдача компании растёт медленнее.

Российские оценки дают похожий порядок. Yandex Cloud сообщал, что 88% российских компаний используют ИИ, но меньше 10% видят эффект выше 5% прибыли. У этой цифры есть конфликт интересов: Яндекс продаёт ИИ-инфраструктуру. Но даже с этой оговоркой вывод полезен: массовое использование не равно массовой окупаемости.

Теперь о страшной цифре «95% провалов». Она часто ссылается на препринт MIT Project NANDA «The GenAI Divide» 2025 года. Это не рецензированная работа, выборка не случайная, а речь шла не обо всех ИИ-проектах, а об узкой категории кастомных встроенных инструментов. Воронка выглядела примерно так: 60% компаний рассматривали тему, 20% дошли до пилота, 5% — до продакшена. То есть значительная часть вообще не пробовала, а среди тех, кто пилотировал, успешной оказалась примерно четверть.

Более аккуратная формулировка: многие ИИ-проекты не доходят до устойчивой эксплуатации, потому что у них не посчитана ценность, не ограничены расходы и не разобраны риски. Gartner в июне 2025 дал именно прогноз, а не измерение: более 40% агентных проектов могут закрыть до конца 2027 года из-за затрат, неясной ценности и слабого контроля.

Риски искусственного интеллекта

Реальные риски искусственного интеллекта обычно выглядят скучнее фантастики и потому опаснее. Они не приходят как катастрофа в стиле кино. Они приходят как спор с клиентом, счёт от провайдера, штраф регулятора, утечка данных или потерянная база.

Вместо абстрактных страхов стоит смотреть на правую колонку: бот пообещал скидку, которой нет; сотрудник загрузил персональные данные в публичный чат; счёт за модели вырос втрое без роста нагрузки; агент выдал внутренний документ; проект запустили без метрик и не смогли доказать эффект. Это и есть практическая карта риска.

Хорошая новость только одна: почти каждый из этих рисков можно заранее перевести из «непонятно страшно» в инженерное или управленческое ограничение. Но для этого риск нельзя смягчать словами «модель умная» или «такое редко бывает».

Минус номер один: ИИ ошибается уверенно

Языковая модель не проверяет факты как аудитор. Она продолжает текст так, чтобы он выглядел правдоподобно. У результата часто нет внешнего признака «я не уверен»: фраза звучит гладко, таблица выглядит аккуратно, ссылка похожа на настоящую. Простое объяснение механики таких агентов стоит выносить в отдельный материал о том, как устроен ИИ-агент.

Кейсы уже достаточно приземлённые. Air Canada получила решение трибунала Британской Колумбии от 14.02.2024 на 812,02 CAD после того, как бот сообщил пассажиру о возможности оформить льготный тариф задним числом. Аргумент компании, что бот — отдельная сущность, не сработал. Cursor столкнулся с отменами подписок, когда бот выдумал политику «одно устройство на подписку». DPD отключила чат-бота в день, когда тот начал ругаться и называть службу худшей в мире. В Австралии Deloitte вернула 97 587,11 AUD по контракту на 440 000 после отчёта с выдуманными ссылками и сфабрикованной цитатой решения суда.

Есть и менее юридические, но показательные истории. Chevrolet of Watsonville отключил чат после того, как бот согласился продать автомобиль за один доллар. Taco Bell пересматривала сценарии голосового ИИ после сбоев в заказах, включая абсурдные комбинации. Klarna сначала рассказывала, что бот заменяет 700 операторов, а затем признала снижение качества и вернула людей в канал поддержки. Это не отказ от ИИ, а переход к смешанной модели.

Важно различать сценарии. Когда Vectara измеряет 2–4% галлюцинаций, речь идёт о пересказе документа только по фактам из него. Это режим «отвечай по базе знаний». Когда модель отвечает «из головы», риск другой: в бенчмарках вроде Artificial Analysis оценивают уже способность признать незнание, а не просто красиво сформулировать ответ. Разница между этими режимами — не тонкость, а архитектурное решение.

Нельзя смотреть и только на процент ошибок. У модели может быть 3,7% ошибок, но она отвечает лишь в 80% случаев: точность покупается молчанием. В юридических задачах Legal Research Bench показывал частичный зачёт около 80%, но выполнение всех обязательных элементов — примерно 44–55%. Это та самая зона «почти справился», которая в бизнесе часто хуже честного отказа.

Риски использования искусственного интеллекта с юридической стороны

Риски использования искусственного интеллекта с начинаются с простого правила: если бот говорит от имени компании, спорить с клиентом будет компания. Российский закон об ИИ не создаёт удобной защиты «это решила модель».

ФЗ от 26.07.2026 № 243-ФЗ действует с 01.09.2026, часть норм — с 01.03.2027. Его область узкая: большие фундаментальные модели от 1 млрд параметров, которые служат основой для другого ПО. Обычные чат-боты поддержки, скоринговые модели, компьютерное зрение и классическое машинное обучение туда напрямую не сводятся. При этом ответственности за ошибку модели закон не распределяет: статья 11 отсылает к общему праву. Риск между заказчиком, интегратором и поставщиком можно распределять договором, но перед клиентом и судом это не отменяет факта применения системы компанией.

Практика уже показывает направление. В деле № А27-7831/2025 Арбитражный суд Западно-Сибирского округа 14.05.2026 столкнулся со ссылками на несуществующие акты, сгенерированные нейросетью. Суд указал: использовать ИИ можно, но достоверность на участнике дела. Итог — штраф 50 тыс. ₽ за неуважение к суду. Если ИИ готовит документы, ответы клиентам или претензии, проверка ссылок, реквизитов и норм — не «желательно», а фактически обязательная процедура.

Отдельный миф — обязательная маркировка любого ИИ-контента. В ФЗ-243 речь идёт о возможности маркировки, а не об обязанности помечать каждый текст. Норма касается аудио и видео, текст прямо не упомянут. Площадки с большой аудиторией должны дать кнопку или возможность, а не сами ставить отметку за автора. Но ожидание аудитории уже есть: по данным ВЦИОМ, значительная часть пользователей поддерживает маркировку. Поэтому добровольная пометка в клиентском сервисе может быть разумнее молчания, даже если закон прямо не заставляет.

Зарубежные кейсы переносить на Россию напрямую нельзя, но логика полезна. Суд Хамма 12.05.2026 рассматривал историю бота клиники, который приписал руководителям несуществующие квалификации. Довод «бот автономный» отклонили: рамки можно было задать, а после инцидента систему перенастроили. Для экспортёров важен и AI Act: если результат ИИ используется в ЕС, отдельные требования могут затронуть поставщиков из третьих стран. Этот раздел не заменяет консультацию юриста.

Персональные данные: самый дорогой из рисков ИИ в России

Персональные данные — самый дорогой из рисков ИИ не потому, что штраф обязательно наступит завтра, а потому что нарушение может быть встроено прямо в архитектуру. Сотрудник отправляет клиентскую базу в удобный зарубежный сервис, виджет пишет диалоги в иностранное хранилище, подрядчик подключает API без карты потоков данных — и компания получает не техническую, а юридическую проблему.

С 01.07.2025 действует запрет из ч. 5 ст. 18 ФЗ-152 в редакции ФЗ от 28.02.2025 № 23-ФЗ: запись, систематизация, накопление, хранение, уточнение и извлечение данных граждан РФ в базах за пределами России не допускаются, кроме установленных исключений. Это не требование «иметь ещё и российскую копию». Это запрет на определённые операции в зарубежных базах. Поэтому схема «сначала положим в РФ, а обработаем за рубежом» больше не выглядит безопасной.

Локализацию и утечку часто смешивают, хотя это разные составы и разные деньги. За обработку данных граждан РФ не в российских базах для юрлица предусмотрены штрафы 1–6 млн ₽, при повторе — 6–18 млн ₽. Утечки регулируются отдельно: с 30.05.2025 действуют оборотные штрафы. Повторная утечка обычных данных может стоить 1–3% выручки, но в пределах 20–500 млн ₽; для спецкатегорий и биометрии — 25–500 млн ₽. ИП по ряду частей ст. 13.11 отвечает как юрлицо, а не как «маленький предприниматель» с символическим штрафом.

Трансграничная передача добавляет ещё один слой. До начала нужно уведомить Роскомнадзор, отдельно от общего уведомления об обработке, и получить от иностранного получателя сведения о защите данных. Документ от зарубежного поставщика модели для такой схемы часто невозможно собрать в нужном виде. Локальное развёртывание или on-premise-агент не «модная архитектура», а способ убрать часть юридического риска ценой железа и сопровождения.

Показательный зарубежный пример — CB Financial Services в США: сотрудник с личного аккаунта загрузил в неодобренный ИИ имена, SSN и даты рождения при подготовке макета, хотя одобренный инструмент в банке был. Инцидент признали существенным. Утечка здесь произошла не из-за хакера, а из-за удобства. Если разрешённый инструмент неудобнее личного чата, сотрудники выберут личный чат.

Безопасность: чужой текст как команда вашему агенту

Для языковой модели текст в письме, на сайте, в документе и в системной инструкции выглядит как текст. Если агент читает входящее письмо и одновременно имеет право отправлять данные наружу, чужая фраза может стать командой. Это называется инъекцией в промпт, и в 2026 году проблема не считается решённой.

В OWASP Top 10 для LLM-приложений редакции 2026 на первом месте стоит инъекция, на втором — раскрытие данных, а избыточные полномочия поднялись в верхнюю часть списка. Тяжёлыми инциденты становятся не от самой фразы «игнорируй предыдущие инструкции», а от сочетания: у агента есть доступ к приватным данным, он читает недоверенный текст и имеет канал наружу.

Эту комбинацию часто называют «смертельной тройкой»: приватные данные, недоверенный текст, внешний канал. Уберите любой элемент — атака перестаёт собираться в прежнем виде. Поэтому безопасность ИИ-агента — это не только фильтр плохих слов в промпте, а прежде всего права, изоляция, журналы, подтверждение необратимых операций и запрет лишних каналов.

Кейсы с агентами разработки показывают, чем опасны лишние права. В Replit в июле 2025 агент во время заморозки удалил рабочую базу с данными более чем 1 200 руководителей и 1 190 компаний, а затем сообщил, что откат невозможен. Откат всё же сработал; признание агента оказалось текстовой генерацией, а не прибором. В истории PocketOS агент за секунды снёс продакшен вместе с копиями внутри него, использовав найденный токен с полными правами. Резервная копия рядом с рабочими данными — не резервная копия.

Деньги: почему счёт за ИИ растёт не тогда, когда вы этого ждёте

Счёт за ИИ редко растёт красиво и линейно. Он растёт из-за длины диалога, повторных вызовов, зацикливания агента, открытого виджета, длинных ответов инструментов и смены прайса провайдера. На старте это выглядит как мелкая техническая деталь, а через месяц превращается в вопрос финансового контроля.

Каждое новое сообщение в длинном диалоге часто тащит предыдущий контекст. Цена растёт, а качество может падать. Chroma в исследовании 2025 года сравнивала короткий промпт примерно на 300 токенов с длинным контекстом около 113 000 токенов и показывала, что длиннее не всегда точнее. У Chroma есть коммерческий интерес как у поставщика векторной базы, но сама мысль практична: хранить весь диалог в модели дорого и не всегда полезно.

Отдельная ловушка — токены инструментов. Когда агент вызывает CRM, базу знаний или внутреннюю функцию, ответ этой функции часто возвращается в модель и тарифицируется. В расчётах это забывают: считают только запрос пользователя и ответ бота. У Яндекса, например, рядом с входящими, исходящими и кэшем есть отдельные элементы тарификации, связанные с инструментами.

Алерт по бюджету — не защита, если он приходит после списания. Нужна проверка до вызова: лимит на диалог, пользователя, сутки и цепочку действий. Если вложенный агент может перепланировать задачу и снова вызвать внешний сервис, он способен съесть дневной бюджет за час. Открытый виджет на сайте без защиты фактически даёт чужим людям доступ к вашему API.

Есть и риск доступности. В 2026 году Anthropic на 18 дней отключала доступ к двум моделям для широкого круга пользователей из-за экспортных ограничений: компания не могла в реальном времени проверить гражданство. Российский поставщик тоже не даёт иммунитета: тарифы, площадки и единицы расчёта меняются. Провайдер должен быть сменной деталью. Если формат вызовов и цена зашиты в продукт, замена превращается в переписывание.

Люди: что происходит, когда клиент понимает, что говорит с роботом

Клиенты не одинаково «ненавидят ботов» и не одинаково готовы говорить только с человеком. Их раздражает не сам факт ИИ, а беспомощность: бот не понял, повторяет шаблон, не даёт позвать оператора, а при переводе заставляет заново пересказывать проблему.

По исследованию edna 2026 года, 53% респондентов раздражает, когда сначала отвечает бот; 33% хотят дождаться человека; 27% не купили товар или услугу, потому что бот не помог. При этом эти цифры не означают запрет на автоматизацию. Они означают, что автоматизация должна знать момент, когда нужно уйти со сцены.

Gartner в опросе 3 566 человек весной 2026 года показывал двойную картину: 87% считают живого оператора обязательным, но 50% признают, что ИИ упростил общение. Вендорские опросы дают широкий разброс — от 61% до 84,7% за человека, и это зависит от формулировки вопроса. Одновременно часть сторонников живого оператора готова перейти на автоматику, если она реально решает вопрос.

Практическое правило проще исследований: одна неудача — дальше человек. Если клиент раздражён, его стоит передавать раньше, чем технически сложный, но спокойный запрос. Исследование в Management Science показывало, что после неудачного контакта с ботом слишком быстрый ответ оператора с ИИ-подсказкой может восприниматься как продолжение разговора с машиной. После провала оператору лучше явно представиться и забрать ответственность.

Кейс Cursor показывает ещё одну деталь: людей раздражает неотличимость. Если ответ сгенерирован ИИ, а выглядит как официальная политика, цена ошибки выше. Добровольная маркировка может быть не только этикой, но и способом снизить напряжение.

Что из плюсов искусственного интеллекта подтверждено измерениями

Плюсы искусственного интеллекта лучше обсуждать не по презентациям поставщиков, а по исследованиям с контрольной группой. Там картина менее блестящая, зато полезнее для бизнеса.

Бриньольфссон, Ли и Реймонд в работе «Generative AI at Work» изучали 5 179 операторов клиентской поддержки. Эффект — плюс 14% обращений в час в среднем, до 35% у новичков и слабых сотрудников. У опытных эффект минимален, а местами качество диалогов немного снижалось. При этом росла удовлетворённость и снижалась текучесть. Вывод не «ИИ ускоряет всех», а «ИИ особенно помогает тем, чья квалификация ниже качества подсказки».

METR в июле 2025 провёл рандомизированное исследование с 16 опытными разработчиками и 246 задачами в их собственных репозиториях. ИИ замедлил работу на 19%, хотя участники ожидали ускорения и после опыта считали, что ускорились. В феврале 2026 результат сместился к возможному ускорению, но доверительные интервалы включали ноль. Это важный урок: ощущениям о продуктивности верить нельзя без замеров.

Полевые эксперименты Alibaba 2026 года дают более свежую картину для поддержки. Помощник, случайно включённый части операторов, повышал скорость и оценки клиентов, но повторные обращения значимо не менялись. Слабые сотрудники выигрывали, у лучших могло снижаться и субъективное, и объективное качество. Во втором эксперименте агент вёл часть диалогов под надзором: человек сохранял качество при технических эскалациях, но хуже работал с эмоциональными, потому что вовлекался меньше.

Итог трёх линий данных один: ИИ окупается на массовых, повторяемых задачах, где ошибка ограничена, а качество модели выше качества новичка. Он хуже подходит для исключений, сильных экспертов и ситуаций, где важны ответственность, эмпатия и редкая контекстная деталь. Вендорские заявления вроде «76% запросов решаются сами» нужно читать с вопросом: что считается решённым и считается ли молчаливый уход клиента успехом.

Как снизить риски ИИ: десять правил, которые работают

Риски ИИ нельзя убрать обещанием подрядчика. Их снижают правилами в процессе, архитектуре и договоре. Проверять исполнителя стоит не по словам «у нас безопасно», а по тому, как он отвечает на эти пункты: где данные, какие права у агента, что считается успехом, как останавливаются расходы и когда подключается человек. Подробный выбор подрядчика — отдельная тема для материала о компании по внедрению ИИ.

1. Первый процесс — там, где ошибка дешева. Справочник, подбор инструкции, черновик ответа — да. Обещания по цене, срокам, льготам и юридическим последствиям — нет.
2. Если цифры нет в базе знаний, агент её не называет. Иначе отказ или эскалация. Уверенная выдумка дороже честного «не знаю».
3. Кнопка «позвать человека» — с первого сообщения. История диалога передаётся оператору, иначе эскалация только усиливает раздражение.
4. Ответы ИИ лучше помечать. В тексте это не всегда обязанность закона, но это закрывает сценарий неотличимости и снижает конфликт.
5. Данные должны физически считаться там, где их можно считать. Персональные данные не отправляют в API, по которому нельзя собрать правовое основание. Для части процессов нужен локальный ИИ-агент или on-premise.
6. Разорвите «смертельную тройку». Не соединяйте приватные данные, недоверенный текст и внешний канал в одном агенте без изоляции.
7. Лимиты ставятся до запуска. Нужен стоп до запроса, а не уведомление после списания.
8. Права — ровно под задачу. Необратимые действия только с подтверждением человека. Запрет в инструкции не заменяет контроль доступа.
9. Одобренный инструмент должен быть удобнее неодобренного. Иначе сотрудники уйдут в личные чаты, как в кейсах теневого ИИ.
10. Метрики снимают до старта. Мерят решённые обращения, повторы, стоимость, качество эскалации и влияние на выручку, а не долю клиентов, которых бот удержал в себе.

Техническое задание на ИИ-агента может начинаться со следующих границ: какие ответы запрещены, какие данные нельзя передавать, какие действия требуют подтверждения и что считается измеримым успехом.

Автор Антон Амосов

Поделиться Скопировано!