Рабочий процесс из четырёх этапов

ИИ-агент для программирования — это оболочка, которая окружает языковую модель циклом действий: подготовить контекст, вызвать модель, выполнить инструменты, изучить результаты и продолжить. Модель в его основе предсказывает следующий токен по полученному контексту; сверка с реальностью происходит только через цикл выполнения инструментов оболочки, а не внутри самой модели. Хорошо составленный запрос может направить одно взаимодействие к чёткой цели и ограничениям, но это лишь один ход в более крупном процессе.

Этих трёх механизмов — как модель генерирует по контексту, как оболочка превращает предсказание в действие и как управление на уровне запроса направляет отдельные взаимодействия — достаточно, чтобы понять работу агентов. Их недостаточно, чтобы управлять агентами на производственных задачах.

Производственные задачи занимают у опытного оператора дни или недели — это гораздо больше одного контекстного окна. Нужно решать, какую реальность агент должен видеть в каждой сессии, как распределять работу по контекстам, какая автономия безопасна и какие подтверждения доказывают приемлемость результата. Это решения оператора. Они определяют, приблизится ли работа агента к твоей реальной цели или лишь создаст правдоподобный артефакт.

Эта глава знакомит с таким рабочим процессом. Каждый этап отвечает на один вопрос оператора:

1. Сбор фактической основы — что агенту нужно знать о реальности до начала действий? Собери шаблоны кода, продуктовые ограничения, внешние факты и прежние решения, определяющие успех именно этой задачи.
2. Планирование — какой должна быть структура работы? Определи, что добавить, удалить, изменить и защитить; разбей задачу на ограниченные части, которые агент способен надёжно завершить; поставь контрольные точки до того, как рискованные решения распространятся дальше.
3. Выполнение — какую готовую часть запустить сейчас и какой вернувшийся артефакт следующим заслуживает твоего внимания? Планируй ограниченные потоки работ так, чтобы выполнение агентом шло одновременно со сбором фактов, ревью плана, проверкой или принятием решения по другой части.
4. Проверка — действительно ли результат достиг цели? Проверь артефакт с нескольких сторон, затем реши: принять его, повторить работу на меньшей части, заново собрать факты, перепланировать или сгенерировать заново.

Рабочий процесс из четырёх этапов​

Методология

Цикл оператора

СБОР ОСНОВАНИЙКакие сведения нужны агенту?Загрузи факты о репозитории, ограничения, текущее состояние и важные прошлые решения.

ПЛАНКакой должна быть форма работы?До начала работы определи, что добавить, удалить, изменить и защитить.

ВЫПОЛНИСколько самостоятельности допустимо?Передай ограниченные задачи с явными контрольными точками.

ПРОВЕРКАДостигнута ли цель?Проверяй доказательства, а не уверенность. Если факты не сходятся, повтори итерацию.

Процесс цикличен, потому что у ошибок агента разные причины. Недостаток локальных знаний означает слабый сбор фактов. Неверный подход — слабое планирование. Неполная реализация означает, что выполнение нужно сузить или повторить. Низкая уверенность при работающем результате означает, что проверке нужен ещё один ракурс.

Цель — не сделать первый проход идеальным. Цель — знать, какой этап дал сбой, вернуть работу в правильную точку и удерживать действия агента внутри понятных тебе границ.

Это важнее, чем кажется. Даже с идеальной фактической основой, идеальным планированием и дисциплинированным выполнением ты управляешь стохастической системой. Агент подчиняется вероятностям, а не логике. Он будет совершать случайные ошибки — не вовремя, в неожиданных местах и обычно там, куда ты меньше всего смотришь. Это не дефект твоего процесса. Такова природа системы. Прими это, ожидай этого и строй процесс так, чтобы обнаруживать и исправлять такие сбои, а не пытаться исключить их полностью.