Валидация

Автопроизводитель не может обосновать обещание «прослужит 100 000 миль» осмотром конструкторского чертежа. Авиапроизводитель не может считать, что крылья не отвалятся, лишь потому, что прототип совершил один полёт. Оба утверждения требуют доказательств в репрезентативных условиях.

Агентам нужна та же дисциплина. LLM может написать миграцию, переработать экран или подготовить изменение для продакшена, но не может доказать, что результат выдержит условия, с которыми столкнётся после приёмки. Среда агента может запускать инструменты и принудительно применять контрольные этапы; это не меняет границу: модель генерирует, а система и оператор решают, принимать ли результат.

Валидация собирает свидетельства того, что артефакт-кандидат соответствует заявленному эксплуатационному утверждению и допустимому уровню качества.

Дело не в написании более хороших тестов. Тесты проверяют детерминированный код на соответствие известным требованиям. Валидация в контексте агентов принципиально отличается: генератор результата вероятностный, поэтому корректность нельзя доказать — можно лишь собрать свидетельства в её пользу. Вопрос меняется с «проходит ли проверку?» на «насколько мы должны быть уверены?».

Определи «достаточно хорошо» до выбора первой проверки​

Начни с утверждения, а не с набора тестов.

Утверждение описывает то, что должно оставаться истинным: «это оформление заказа корректно завершается даже при отклонённом платеже», «эта фабрика посадочных страниц публикует пригодные к использованию страницы в масштабах кампании» или «этот контур управления никогда не выдаёт небезопасную команду». Эксплуатационный профиль описывает репрезентативные условия, в которых утверждение должно выполняться:

• Рабочие сценарии, которые пользователи действительно запускают чаще всего, — и те, к которым обращаются первыми после развёртывания.
• Операции, которые дороги, необратимы или требуют разрешений.
• Реалистичные структуры и объёмы данных, задержки и ограничения среды, с которыми система встретится в продакшене.
• Поведение при медленной, частично работающей или устаревшей зависимости — и при повторных попытках агента.
• Входные данные и пути выполнения, которые некорректны, намеренно вредоносны или явно выходят за рамки задачи.

Строй профиль на основе трассировок из продакшена, обращений в поддержку и знаний предметной области, а не того, что удобно замокать. Веб-поиск недорого расширяет охват: изучай отраслевые практики, известные режимы отказа, опубликованные разборы инцидентов и устоявшиеся бенчмарки, чтобы понять, что должен включать профиль. Набор тестов, покрывающий удобные внутренние детали, но пропускающий реальную нагрузку, ничего не доказывает о заявленном утверждении.

Затем определи допуск: какая степень ошибок, задержки, деградации или ручного вмешательства приемлема для этого утверждения. Фундаментальный компромисс проходит между пропускной способностью и точностью — большинство задач находится где-то между этими полюсами.

Калибровка

Точность снижает пропускную способность

Даже полюс высокой пропускной способности требует валидации: сломанная форма, ложное утверждение или недоступная страница не становятся приемлемыми лишь потому, что кампания развивается быстро. Полюс точности требует гораздо более сильных доказательств, поскольку цена незамеченного дефекта радикально выше. Большинство задач находится между этими крайностями: выбирай положение исходя из того, сколько ручного вмешательства на артефакт допускает утверждение.

Компромисс между пропускной способностью и точностью — не только инженерное решение. Это продуктовое и деловое решение, определяющее устройство инженерной системы. Продакт-менеджер фабрики кампаний выберет иную настройку, чем тот, кто выпускает промышленное управляющее ПО. Дизайнеры тоже заинтересованы: конвейер валидации с высокой пропускной способностью масштабируется только тогда, когда критерии оценки учитывают важные для команды качества дизайна. Утверждение, профиль и допуск нужно записать в спецификацию функции до запуска любого агента: агент действует в соответствии с уже установленной спецификацией, а не с её новой интерпретацией при каждом выполнении.

Жизненный цикл валидации

Преврати утверждение в доказательства до выпуска

Четыре класса методов — детерминированные проверки, LLM-судьи, ручная валидация и исследовательские агенты — выявляют разные режимы отказа и дополняют слепые зоны друг друга. Следующие страницы подробно разбирают каждый метод, начиная с набора свидетельств для валидации.

Основные выводы​

• Валидация обосновывает эксплуатационное утверждение. До выбора проверок определи предполагаемое использование, реалистичные нагрузки и допуски. Компромисс между пропускной способностью и точностью — продуктовое решение с инженерными последствиями; за его настройку отвечают все участники.
• Сгенерированные артефакты — кандидаты. Вероятностная природа не гарантирует, что они выдержат условия эксплуатации. Вопрос всегда звучит как «насколько мы должны быть уверены?», а не «проходит ли проверку?».
• Используй набор методов, а не единственный источник истины. Детерминированные проверки, LLM-судьи, люди и исследование обнаруживают разные сбои. Осознанно закрывай слепые зоны.