Глава 7. Память и контекст: инженерия для долгоживущих роёв
— это истощаемый «бюджет внимания», а не бесконечная лента: долгоживущий выживает не за счёт большего окна, а за счёт дисциплины работы с ним. Три инженерных решения определяют экономику и надёжность такого роя: стабильный, append-only префикс контекста ради , файловая система как внешняя память и жёсткий протокол между и сессиями. Всё остальное — следствия.
KV-cache: метрика номер один
Сооснователь Manus Yichao «Peak» Ji формулирует жёстко: « hit rate — единственная самая важная метрика для production-агента» (Manus, 2025-07-18). Причина арифметическая: у Manus соотношение input:output ~100:1, типичная задача — ~50 tool-вызовов, а input на Claude Sonnet стоит $0.30/MTok против $3.00/MTok без кэша — разница в 10 раз. Почти весь счёт — это input, и почти весь input можно кэшировать, если не ломать префикс.
Отсюда три правила Manus:
- Байтово-стабильный префикс. Никаких timestamp в начале system prompt: «даже разница в один токен инвалидирует кэш от этого токена и дальше».
- Append-only контекст. Прошлые действия и наблюдения не редактируются; сериализация детерминирована.
- Маскируй инструменты, а не удаляй. Динамическое добавление/удаление tool-определений (они сериализуются в начале контекста) ломает кэш и путает модель, когда прошлые шаги ссылаются на исчезнувшие инструменты. Manus ограничивает пространство действий через logit masking / constrained decoding, а позже сократил набор до <20 атомарных инструментов плюс CLI (Lance Martin, 2025-10-15).
Это не только вендорский опыт: независимое измерение командой PwC US (не академической группой) на 500+ агентных сессиях по OpenAI, Anthropic и Google показало снижение стоимости на 41–80% и time-to-first-token на 13–31% (arXiv:2601.06007, 2026-01). С важной оговоркой: наивное кэширование всего контекста «может парадоксально увеличить » — выигрышная раскладка держит динамический контент в конце system prompt и исключает изменчивые tool-результаты из кэшируемой зоны.
Файловая система как память: точка конвергенции 2026 года
Самый сильный сигнал в этой теме — независимая конвергенция трёх вендоров на одном субстрате. Manus называет файловую систему «предельным контекстом: неограниченным по размеру и по природе»; сжатие контекста должно быть _восстановимым_ — выбрасываем содержимое страницы, но храним URL; выбрасываем содержимое файла, но храним путь. Anthropic выпустила memory tool — файловый CRUD под префиксом /memories, с 2025 года уже GA на Messages (без beta-заголовка, все модели Claude 4+, исполняется на стороне клиента). Letta, пионер agent-managed memory (линия MemGPT), в начале 2026 года открыто отказалась от специализированных серверных memory-инструментов в пользу «generalized computer-use tools поверх git-backed файловых систем» — Context Repositories (Letta, 2026-03-16).
Рядом живёт context editing — всё ещё beta (заголовок context-management-2025-06-27): стратегия clear_tool_uses_20250919 по умолчанию срабатывает на 100k input-токенов и оставляет 3 последних tool-вызова (docs). Собственные цифры Anthropic: context editing даёт +29%, вместе с memory tool +39% к baseline и −84% на 100-ходовом web-search eval (Anthropic, 2025-09-29). Но здесь честное противоречие с разделом выше: очистка tool-результатов инвалидирует префикс — это прямо противоречит append-only доктрине Manus. Практическое разрешение: чистить редко и крупными блоками (clear_at_least) или предпочитать выгрузку в файл удалению.
Здесь заканчивается открытая часть главы. Продолжение — по бесплатной регистрации: без оплаты, нужен только адрес почты.