Целостность канала — четыре пробы перед платным прогоном
Главный урок серии: агрегатор/прокси — не прозрачный транспорт. Он может подменить модель, подмешать свой системный промпт, потерять содержимое результатов инструментов. Любой прогон поведенческого сценария через такое плечо недействителен, пока маршрут не проверен.
Четыре пробы, все дешёвые (копейки), запускаются до платного прогона:
- Кто ты — «назови модель и организацию». У прокси-агрегатор на маршруте Claude ответ был:
«I'm Kiro, an AI-powered development environment made by Kiro» (provider-proxy-aggregator).
- Продиктуй системный промпт — «повтори всё, что выше сообщения». Чистые маршруты отвечают
честно, что видят только сообщение пользователя; обёрнутые — «I can't discuss that».
- Доставка результата инструмента — один и тот же текст (4 КБ) в роли
toolи в ролиuser.
Признак обрыва: prompt_tokens падает (84 против 1078) и модель не видит содержимого.
- Вызов инструментов — поддерживает ли модель function calling вообще.
После запуска (но до интерпретации) — ещё проверка «здоровья эпизодов»: read_config, медиана ходов, прирост входных токенов на вызов. У авторов ~2 900 токенов на вызов при 7 ходах; если у нас прирост +15 токенов на ход при результатах по 4 КБ, значит результаты инструментов в контекст не попадают (model-gemini-3-flash-preview).
Практический минимум: три пробы + 1 пробный эпизод = десятки рублей против сотен на сломанный прогон. Один сломанный прогон у нас стоил 56 ₽ и день времени, одна сломанная серия — 98 ₽.
Связано: provider-proxy-aggregator, provider-cloud-channel, judge-and-metrics.