OpenAI снова обновила прайс-листы. Если коротко: некоторые модели стали очень дешевыми, но самые мощные остались дорогими. Для тех, кто просто пробует нейросети, это отличная новость. Для тех, кто строит автономных агентов, которые работают без присмотра, это может стать ловушкой.

Почему скидка 80% — это не всегда победа

Самая быстрая и простая модель в новой линейке, Luna, подешевела на 80%. Теперь обработка одного миллиона знаков стоит всего 1,4 доллара. Чтобы понять масштаб: в июне это стоило почти в пять раз больше. Модель Terra также стала доступнее — её цена снизилась на 20%. Теперь можно скармливать нейросети огромные простыни текста, не дрожа за бюджет.

Но здесь есть важный подвох. Самая умная модель, Sol, которую используют для сложных рассуждений и автономных агентов, в цене не изменилась. Она по-прежнему стоит 35 долларов за миллион знаков.

Разница в цене между «быстрой» Luna и «умной» Sol — колоссальная. Если вы решите, что теперь всё дешево, и отправите агента на флагманскую модель без контроля, ваш счет не уменьшится. Напротив, он может вырасти, потому что Luna дешевле, но она заметно слабее в логике.

История о том, как наш агент сжег 100 долларов за неделю

Мы на своем опыте поняли, что автономность агента — это всегда риск для кошелька. Недавно мы запустили задачу на модели Sol. Агент должен был анализировать данные, но в какой-то момент он «зациклился» или просто решил проявить излишнее любопытство.

Он начал читать огромные выгрузки из баз данных, которые вообще не требовались для решения задачи. Модель Sol очень мощная, она видит много связей, и агент решил, что в этих гигантских файлах скрыта важная информация. В итоге за одну неделю агент просто «прочитал» лишние токены на сумму 100 долларов.

Это был наш провал, за который мы заплатили, чтобы вы не повторяли эту ошибку. Проблема не в цене модели. Агенты на дорогих моделях могут начать «пылесосить» данные, если им не поставить жесткие рамки.

Как правильно разделить задачи, чтобы экономить

Если вы хотите сократить расходы, не теряя в качестве, забудьте про стратегию «одна модель для всего». Теперь нужно разделять задачи по уровню сложности.

1. Задачи для Luna (дешёво и быстро): – Сюда подходит простой пересказ текста. – Модель отлично очищает данные от мусора. – Можно использовать её для классификации простых заявок (например, «жалоба» или «запрос цены»). – Она хорошо отвечает на часто задаваемые вопросы по готовой базе знаний. Здесь Luna справится почти так же, как и Sol, но в несколько раз дешевле.

2. Задачи для Sol (дорого, но надежно): – Сложные рассуждения, где ошибка в одном звене рушит весь результат. – Написание кода с глубокой архитектурой. – Управление другими агентами (роль «дирижера»). – Работа с очень тонкими нюансами в юридических или технических документах.

Если вы перенесете хотя бы половину простых задач с Sol на Luna, ваши расходы упадут в разы.

Пошаговая инструкция: что сделать прямо сейчас

Чтобы ваши роботы не превратились в «пылесосы для денег», введите три простых правила:

Шаг 1. Ограничьте размер файлов. Запретите агентам читать любые файлы больше 2 мегабайт. Если файл больше — он должен либо сжаться, либо агент должен прочитать его по частям, предварительно создав оглавление. Это спасет вас от ситуации, когда агент решает «прочитать всё» в огромной базе данных.

Шаг 2. Закройте лишние папки. Дайте агенту доступ только к тем папкам, где лежат рабочие документы. Не позволяйте ему гулять по системным логам или архивам, если это не предусмотрено задачей.

Шаг 3. Проверьте «умность» задачи. Возьмите одну свою регулярную задачу. Попробуйте прогнать её через Luna. Если результат вас устраивает на 90% — переводите задачу на дешевую модель немедленно.

Помните: в мире ИИ-агентов дисциплина в подаче данных важнее, чем выбор самой мощной модели. Сначала ставим рамки — потом запускаем автоматизацию.