От оптимизации машин к оптимизации токенов: как ИИ‑агенты меняют разработку
Мир разработки переживает тихий, но очень глубокий сдвиг. Долгое время инженеры думали прежде всего о том, как сэкономить вычислительные мощности: память, время работы процессора, место на диске, сетевой обмен. Это влияло на архитектуру программ, выбор языков, способы хранения данных и даже на стиль мышления разработчика. Сегодня к этим ограничениям добавилось новое: стоимость и объём текстового контекста для систем на основе искусственного интеллекта.
Если раньше узким местом часто была машина, которая выполняет программу, то теперь всё чаще узким местом становится количество токенов — фрагментов текста, которые языковая модель получает на вход и создаёт на выходе. Особенно заметно это в системах из ИИ-агентов, где несколько самостоятельных программных участников обмениваются сообщениями, уточняют задачи, пишут код, проверяют результаты и принимают решения. Такая система может быть очень полезной, но без продуманной экономии быстро превращается в дорогой и шумный механизм.
От экономии памяти к экономии смысла
В классической разработке оптимизация часто была связана с физическими ресурсами. Инженер выбирал более компактную структуру данных, избегал лишних вычислений, следил за числом обращений к базе данных, сокращал сетевые запросы. Хорошая программа считалась не только правильной, но и бережной: она не тратила лишнее время, память и мощность.
С появлением мощных облачных вычислений часть этих ограничений стала менее заметной. Многие команды привыкли решать задачи за счёт масштабирования: добавить серверы, увеличить память, вынести тяжёлые операции в отдельные службы. Конечно, экономия вычислительных мощностей никуда не исчезла, но для многих прикладных задач она перестала быть главным ежедневным страхом.
Системы на основе больших языковых моделей вернули разработчикам чувство ограниченности, только в новой форме. Теперь нужно думать не только о том, сколько байтов занимает объект в памяти, но и о том, сколько словесного контекста потребуется модели, чтобы понять задачу. Токен стал новой единицей расхода. Он отражает не просто объём текста, а стоимость передачи смысла машине.
Почему токены стали новым ресурсом разработки
Токен — это небольшой фрагмент текста, с которым работает языковая модель. Это может быть слово, часть слова, знак препинания или иной текстовый кусок. Когда пользователь отправляет запрос, модель читает его как набор таких фрагментов. Когда она отвечает, ответ тоже состоит из токенов.
У токенов есть несколько важных особенностей. Во-первых, они стоят денег, потому что обработка текста требует вычислений. Во-вторых, у модели есть ограничение на размер контекста: она не может одновременно учитывать бесконечно много сведений. В-третьих, избыток текста ухудшает качество решений: модель может потеряться в подробностях, начать учитывать устаревшую информацию или уделить внимание второстепенным деталям.
Поэтому экономия токенов — это не только вопрос бюджета. Это вопрос управляемости. Чем точнее система передаёт нужные сведения, тем выше вероятность, что искусственный интеллект выполнит задачу правильно. В разработке появляется новая дисциплина: проектирование краткого, достаточного и проверяемого контекста.
ИИ-агенты как новый тип программной системы
ИИ-агент — это программный участник, который использует модель искусственного интеллекта для выполнения части задачи. Один агент может анализировать требования, другой — писать код, третий — проверять ошибки, четвёртый — готовить пояснения для пользователя. В более сложных системах агенты общаются друг с другом, строят план, выбирают средства, обращаются к хранилищам данных и уточняют результат.
На первый взгляд такая схема выглядит почти как команда специалистов. Но у неё есть особенность: каждый обмен сообщениями расходует токены. Если агенты пересказывают друг другу всё подряд, повторяют исходную задачу в полном объёме, прикладывают длинные журналы выполнения и не очищают контекст, система становится дорогой и медленной.
Поэтому разработка систем из ИИ-агентов требует нового архитектурного мышления. Недостаточно просто соединить несколько моделей в цепочку. Нужно определить, какие сведения действительно нужны каждому агенту, в какой форме их передавать, что можно хранить отдельно, а что следует сжимать до короткого вывода.
Как изменилась архитектура: контекст стал частью проектирования
В традиционной архитектуре много внимания уделялось потокам данных: откуда данные приходят, где они хранятся, кто имеет к ним доступ, как они преобразуются. В системах с искусственным интеллектом появляется ещё один поток — поток контекста. Это не просто данные, а отобранные сведения, которые модель должна увидеть прямо сейчас для принятия решения.
Контекст нельзя считать бесконечной корзиной, куда складывается всё полезное. Его нужно проектировать так же внимательно, как проектируют базу данных или программный интерфейс. Если агенту нужно проверить код, ему не всегда требуется вся история обсуждения. Иногда достаточно требований, изменённого фрагмента и списка ограничений. Если агенту нужно подготовить ответ пользователю, ему не нужно видеть внутренние рассуждения всех предыдущих участников, но нужен итог и основания решения.
Хорошая архитектура ИИ-системы отделяет долговременные знания от рабочего контекста. Документы, правила, примеры, исходный код и журналы могут храниться во внешнем хранилище. Перед обращением к модели система выбирает только относящиеся к задаче фрагменты. Так токены расходуются на то, что действительно влияет на ответ.
Новая оптимизация: меньше шума, больше сигнала
Раньше оптимизация часто означала «выполнить меньше операций». Теперь всё чаще она означает «передать меньше лишнего текста». Это меняет подход к разработке. Инженер начинает думать о плотности смысла: насколько каждое предложение помогает модели выполнить работу.
Например, плохой запрос к агенту может содержать длинную историю проекта, множество неактуальных требований, старые решения и эмоциональные комментарии. Формально информации много, но полезного сигнала мало. Хороший запрос содержит цель, текущие ограничения, входные данные, ожидаемый вид результата и критерии проверки.
Экономия токенов не должна превращаться в чрезмерную краткость. Если убрать важные условия, модель начнёт додумывать. Поэтому задача разработчика — не просто сокращать текст, а выделять главное. В этом смысле современная оптимизация становится ближе к редактуре, постановке задач и управлению знаниями.
Практики экономии токенов в системах из ИИ-агентов
Первая практика — разделение ролей. Агент должен получать только те сведения, которые соответствуют его назначению. Проверяющему не всегда нужен полный замысел изделия, а составителю краткого отчёта не нужен весь исходный журнал действий.
Вторая практика — краткие промежуточные итоги. После большого этапа система может сохранять не весь разговор, а сжатое резюме: что решено, какие ограничения действуют, какие вопросы остаются открытыми. Такое резюме становится новым рабочим состоянием.
Третья практика — выборочное извлечение знаний. Вместо того чтобы каждый раз отправлять модели всю документацию, система ищет наиболее подходящие фрагменты и добавляет их в запрос. Это снижает расход токенов и уменьшает вероятность противоречивого ответа.
Четвёртая практика — строгие форматы обмена. Если агент возвращает результат в заранее заданной структуре, его ответ легче проверить и передать следующему участнику. Лишние рассуждения, повторы и украшения сокращаются.
Пятая практика — кэширование, то есть повторное использование уже полученных результатов. Если система однажды вычислила краткое описание модуля или проверила типовую ошибку, не всегда нужно снова обращаться к модели. Можно сохранить итог и использовать его при похожих задачах.
Цена ошибки: почему лишний контекст может вредить
Интуитивно кажется, что чем больше информации получает модель, тем лучше. На практике это не всегда так. Лишний контекст может ухудшить ответ, потому что модель начинает учитывать второстепенные детали или смешивает новые требования со старыми.
В агентных системах эта проблема усиливается. Один агент добавил длинное пояснение, второй пересказал его с искажениями, третий включил оба текста в новый запрос. Через несколько шагов система уже несёт за собой большой багаж повторов, неточностей и устаревших выводов. Такой контекст не только дорогой, но и опасный.
Поэтому важно вводить правила очистки. Система должна понимать, какие сведения устарели, какие решения отменены, какие данные являются источником истины, а какие — временной заметкой. Управление контекстом становится частью качества программного продукта.
Разработчик будущего: архитектор ограничений и смысловых потоков
Роль разработчика меняется. Он по-прежнему должен понимать алгоритмы, данные, безопасность и надёжность. Но теперь ему также нужно уметь проектировать взаимодействие с искусственным интеллектом: формулировать задачи, ограничивать контекст, проверять ответы, строить цепочки агентов и задавать правила их общения.
Хороший специалист будет отличаться не тем, что просто «подключил модель», а тем, что сделал систему предсказуемой. Он понимает, где модель полезна, где нужна обычная программная логика, где требуется проверка, а где лучше не тратить токены вообще.
Это напоминает зрелый этап любой технологии. Сначала появляется восхищение возможностями, затем — массовые эксперименты, а потом приходит инженерная дисциплина. В случае с ИИ-агентами такой дисциплиной становится экономика контекста.
Что останется от старой школы оптимизации
Новый фокус на токенах не отменяет старые принципы. Вычислительные мощности всё ещё важны. Быстрые алгоритмы, чистая архитектура, надёжные хранилища и грамотная работа с сетью никуда не исчезают. Более того, системы искусственного интеллекта часто требуют ещё более строгой инженерии, потому что ошибки могут становиться дороже.
Однако меняется центр внимания. Раньше разработчик мог оптимизировать программу, почти не думая о языке описания задачи. Теперь язык становится частью исполнения. То, как сформулирован запрос, какие данные включены в контекст и как агент описывает результат, напрямую влияет на стоимость, скорость и качество работы системы.
Можно сказать, что старая школа учила экономить операции, а новая школа учит экономить неопределённость. Чем точнее система передаёт смысл, тем меньше ей нужно лишних попыток, уточнений и переработок.
Как командам готовиться к новой реальности
Командам разработки стоит начинать с простого: измерять расход токенов и связывать его с результатом. Если обращение к модели дорогое, но не улучшает качество, его нужно пересмотреть. Если агент создаёт длинные ответы, которые никто не использует, формат следует сократить.
Полезно вводить правила написания системных инструкций, шаблоны запросов, требования к кратким итогам и проверки качества ответов. Важно также хранить знания не в бесконечных переписках, а в управляемых источниках: документации, базе решений, описаниях архитектуры, наборах примеров.
Отдельное внимание нужно уделять безопасности. Чем больше контекста получает модель, тем выше риск передать лишние сведения. Экономия токенов здесь совпадает с принципом минимального доступа: агент должен видеть только то, что необходимо для выполнения задачи.
Вывод: токены стали новой инженерной валютой
Разработка прошла путь от борьбы за каждый байт памяти до проектирования сложных распределённых систем. Теперь к этому пути добавился новый этап: проектирование систем, где важнейшим ресурсом становится смысловой контекст. Токены — это не просто техническая единица расчёта. Это новая инженерная валюта, через которую выражаются стоимость понимания, цена взаимодействия и качество управления искусственным интеллектом.
Будущее ИТ-разработки будет определяться не только тем, кто умеет строить быстрые программы, но и тем, кто умеет строить экономные цепочки мышления между человеком, кодом и ИИ-агентами. Победят не самые многословные системы, а те, которые умеют давать модели ровно столько контекста, сколько нужно для точного действия.
Автор
Антон Амосов
