RedactorOpenAI анонсировала Codex CLI — новый локальный агентный инструмент, предназначенный для упрощения работы с кодом непосредственно на компьютерах пользователей. Этот материал особенно полезен для тех, кто создает собственных агентов или стремится оптимизировать расходы на инференс и управление контекстом.
Codex CLI функционирует благодаря классическому агентному циклу: пользователь посылает запрос, на который система формирует большой промпт с инструкциями, после чего модель отвечает текстом или вызывает инструменты. Стоит отметить, что все инструкции сливаются в один JSON, лимит которого составляет 32 Кб.
Чтобы снизить затраты, разработчики внедрили механизм кэширования промптов, позволяющий избежать значительного роста расходов при изменении запроса. Архитектура API теперь стала stateless, что улучшило режимы Zero Data Retention. В процессе, когда заполняется контекст, происходит автоматическая компакция сообщений, что также повышает эффективность.
Codex CLI может работать и с локальными моделями через Ollama или LM Studio. В будущих публикациях OpenAI намерена раскрыть детали архитектуры и реализации инструментов.
