В этом разборе
Кеширование затрагивает допустимый повторный ввод, поэтому его выгода зависит от сериализованной нагрузки, а не только смыслового сходства.
Беседа с повторяющимися инструкциями не обязательно означает повторяющееся оплачиваемое вычисление. Запуск Sol и Luna поставил кеширование рядом с выбором модели. Форма общего контекста стала частью экономического решения, а не незаметной технической подробностью, которую можно считать одинаковой для любого приложения и любой задачи.
Значимая последовательность
Статья Responses от 22 сентября 2025 года описывала сохранение рассуждения при работе с инструментами. Changelog API фиксирует Astra 3 сентября 2026 года, а Sol и Luna — 22 сентября 2026 года. Анонс семейства также рассматривает кеширование для агентов и длинных бесед. История даёт повод отделить способности модели от повторного использования допустимого ввода конкретным процессом.
Общий смысл не гарантирует общего представления
Представим помощника, который отвечает на запросы по неизменному сборнику правил. К каждому обращению добавляется короткий вопрос клиента, но приложение заново собирает документ с меняющимися временными метками и порядком описания инструментов. Люди видят прежние правила, тогда как модель получает меняющийся сериализованный ввод.
Поэтому объект диагностики — фактический контекст, а не сходство пользовательских задач. До оценки выгоды нужно определить стабильное содержимое, положение переменных полей и объём ввода, который поставщик действительно отметил как кешированный. Одного смыслового повторения недостаточно для вывода о повторном использовании вычисления или применении скидки.
Сравнивать нужно форму нагрузки
Помощник по правилам и инструмент творческого письма могут использовать одну модель, имея разную структуру стоимости. Первый способен повторно использовать большой объём инструкций. Второй создаёт длинный новый текст по короткому запросу. Скидка кешированного ввода не уменьшает компонент вывода, к которому она вообще не относится.
Стабильный префикс также не делает повторно используемой каждую последующую операцию. Результаты инструментов меняются, новые доказательства требуют другого продолжения. При описании экономии эти границы сохраняются. Экономическое объяснение должно указывать затронутую составляющую, а не переносить одну скидку на всю задачу или весь месячный счёт.
Полезный артефакт учёта
В журнале запросов разделим стабильные инструкции, переменные доказательства, отмеченное кеширование и созданный вывод. Добавим принятый результат задачи, чтобы дешёвый неполный ответ не выглядел успешным повышением эффективности. Сравним одинаковую работу до и после намеренного изменения сериализации, сохраняя наблюдаемые входы для последующей проверки.
Разберём промах на внешне повторяющейся задаче. Если фактический ввод изменился, сначала исследуем его сборку. Если нет, обратимся к документированным условиям кеширования, не предполагая допустимость любого повторения. Такая последовательность даёт опровержимое объяснение вместо рассказа о желаемой доле попаданий, которая не связана с реальными запросами.
Что изменил выпуск
Sol и Luna расширили рабочие варианты, а кеширование сделало построение запроса ещё одной переменной выбора. Полезный вывод остаётся условным: процесс может получить выгоду только через те части, которые действительно соответствуют контракту кеширования. Само название модели не устанавливает этот объём.
Повторяющийся контекст стоит рассматривать как наблюдаемое свойство запросов. Тогда сохраняется связь между портфелем моделей, сериализацией приложения и завершённой работой, за которую организация в итоге платит. Такое описание позволяет обсуждать экономию без необоснованного обещания одинакового эффекта для разных нагрузок.