McDonald’s три года пытался заменить людей на стойках заказов голосовым искусственным интеллектом. Казалось бы, у гиганта есть все ресурсы: лучшие программисты, огромные бюджеты и миллионы реальных заказов для обучения нейросети. Но в июне 2024 года систему просто отключили.

Проблема оказалась не в том, что технология не работает, а в том, что она работает «почти» правильно.

Ловушка среднего результата

Точность системы в McDonald’s была в районе 80–85%. Если вы руководитель отдела аналитики и видите такую цифру в отчёте, вы, скорее всего, поставите галочку «принято». Для внутреннего анализа данных или классификации документов 85% — это очень достойный результат. Мелкие ошибки там легко сглаживаются или просто не влияют на общую картину.

Но когда ИИ выходит в «поле» и начинает общаться с живым клиентом, математика меняется.

В McDonald’s нейросеть начала допускать абсурдные ошибки. Она могла внезапно добавить бекон в мороженое или приписать к заказу сотни долларов наггетсов, которых клиент не просил. Для системы это была просто «статистическая погрешность» в рамках тех самых 15% ошибок. Для клиента это был повод для ярости и долгого спора с кассиром.

В итоге в каждом пятом заказе сотруднику всё равно приходилось вмешиваться, чтобы исправить бред ИИ. Экономия на персонале превратилась в иллюзию. Люди всё равно были нужны у окна. Теперь им приходилось не только принимать заказы, но и извиняться за ошибки машины.

Где 85% — это успех, а где — банкротство

Важно разделять задачи, где ИИ помогает человеку, и задачи, где ИИ заменяет человека перед клиентом.

Если вы используете нейросеть для первичной сортировки почты или поиска документов в базе — 85% точности вам хватит. Вы всё равно перепроверите результат, и ИИ просто сэкономит вам время на поиске.

Но если ошибку ИИ сразу видит клиент — порог должен быть выше 95%, а в идеале стремиться к 99%. Потому что в клиентском сервисе работает правило «одной фатальной ошибки». Один заказ с беконом в мороженом не просто портит обед — он заставляет клиента сомневаться в адекватности всего вашего бизнеса.

Провал McDonald’s показал: технологию запустили слишком рано. Они перепутали «готовность модели» с «готовностью продукта».

Как проверить своего ИИ перед запуском

Если вы внедряете ИИ в общение с клиентами или в автоматизацию заказов, не верьте цифрам из презентаций вендоров. Фраза «наша модель точна на 90%» в реальности может означать, что каждый десятый ваш клиент уйдёт к конкуренту.

Вот простой алгоритм, как проверить систему на своих данных:

1. Соберите реальные логи. Возьмите 1000 последних диалогов или заказов, которые обработали люди. Это будет ваш «золотой стандарт». 2. Запустите ИИ в фоновом режиме. Пусть нейросеть обрабатывает эти же заказы параллельно с людьми, но её ответы не уходят клиенту. 3. Разделите ошибки на типы. Не считайте общую точность. Разделите ошибки на «мелкие» (опечатка в слове, не тот тон) и «фатальные» (неверная цена, перепутанный товар, грубость). 4. Посчитайте стоимость одной фатальной ошибки. Сколько стоит один потерянный клиент? Сколько времени потратит менеджер на исправление ситуации?

Если стоимость одной фатальной ошибки выше, чем выгода от автоматизации, значит, ваша система ещё не готова.

Помните: в бизнесе доверие строится годами, а рушится одним заказом наггетсов на пятьсот долларов. Проверяйте систему на реальных заказах до того, как её увидит первый покупатель.