Выбор средств обеспечения надёжности
Определи тип сбоя, прежде чем менять рабочий процесс
Средства управления не взаимозаменяемы. Случайный промах генерации требует иной реакции, чем отсутствующее ограничение или план, уже содержащий ошибку. Повторная попытка с неверным предположением порождает новые догадки; добавление контекста в перегруженный процесс усиливает нагрузку; продолжение работы после нерешённого вопроса с высоким риском превращает его в состояние системы.
| Тип сбоя | Как он выглядит | Используй этот рычаг |
|---|---|---|
| Недостающий или зашумлённый контекст | Агент не может надёжно определить релевантные факты, ограничения, API или пути исполнения кода | Поиск и опора на факты |
| Неудачная организация работы | В запуске слишком много зависимых решений, исследование смешано с выполнением или объём работ постоянно пересматривается | Организация работы |
| Вариативность генерации | Цель ясна, но отдельная попытка может отличаться по качеству или упустить деталь | Генерация вариантов и отбор |
| Риск распространения ошибки | Неверное промежуточное решение исказит дальнейшую работу или вызовет дорогой побочный эффект | Контрольные точки с участием человека |
Эти четыре рычага меняют разные переменные системы. Поиск и опора на факты повышают качество сведений, доступных каждому шагу. Организация работы меняет сложность шагов и структуру зависимостей. Генерация вариантов и отбор улучшают ограниченное по объёму преобразование с вариативным результатом, если оценка надёжна. Контрольные точки с участием человека не дают неразрешённому состоянию пересечь границу высокого риска.
Рычаги надёжности
Четыре средства против четырёх типов сбоев
В производственных рабочих процессах редко используют один рычаг изолированно. Спецификация даёт контекст и границу ревью, валидация оценивает повторные попытки и проверяет выполнение, субагенты меняют оркестрацию и изолируют контекст, а сжатие контекста управляет переносом информации между запусками. Соотнеси каждое средство с типом сбоя: больше контекста, декомпозиция, повторные попытки или ревью не являются универсально более безопасными решениями.