Anteprima della lezione

Наблюдаемость AI-агента: sprint contract, рубрика оценщика и чистый выход из сессии

Как понять, что сделал AI-агент: два слоя наблюдаемости, sprint contract (скоуп и вне скоупа), рубрика оценщика вместо общего мнения, чистая передача смены, чек-лист выхода из сессии и энтропия кода.

наблюдаемость harness sprint contract рубрика оценщика чистая передача энтропия harness
Cosa imparerai in questa lezione
  • Заведёте sprint contract и рубрику оценщика вместо расплывчатого «выглядит нормально».
  • Внедрите чек-лист чистого выхода из сессии по пяти измерениям.
  • Остановите рост энтропии harness — количественно, а не на ощущениях.

Inizio della lezione

Знакомая ситуация?

  • Агент отчитался о готовности — но что именно проверено, никто не знает
  • Следующая сессия начинает не с задачи, а с раскопок в чужом коде
  • Чем дольше живёт проект, тем дороже становится каждый следующий заход агента

Это не разовый глюк, а системная дыра в наблюдаемости harness. Один и тот же агент за неделю может десять раз честно сказать «готово» — и каждый раз это будет означать что-то своё. А через месяц работы без явной уборки за собой каждая новая сессия тратит уже не пять минут на разгон, а полчаса — просто чтобы понять, что вообще происходит в проекте. Сегодня разбираем оба конца этой проблемы: как сделать работу агента объяснимой и как передавать смену между сессиями чисто.

Агент не тупит — ему просто нечего предъявить

  • «Готово, но два теста падают» — «Почему?» — «Возможно, тайминг»
  • «Какие критические пути затронул?» — «Дайте посмотреть в код…»
  • Агент не тупой — ему физически нечего предъявить в качестве доказательства

Прокрутите этот диалог в голове — он наверняка знаком. Агент двадцать минут менял файлы и вернулся с фразой «готово, но два теста падают». На вопрос «почему» — гадание про тайминг. На вопрос «какие критические пути ты затронул» — агенту нужно заново лезть в код, чтобы ответить на вопрос про свою же работу. Дело не в интеллекте модели. Дело в том, что harness не дал ей ничего, на что можно сослаться: ни трассы выполнения, ни договора о том, что вообще должно было получиться. Нечего наблюдать — значит нечего объяснить, даже если объяснение существует.

Наблюдаемость — это на самом деле два разных слоя

  • Рантайм: логи, трейсы, метрики — отвечает «что произошло»
  • Процесс: sprint contract, рубрика, критерии приёмки — отвечает «почему сделано именно так»
  • Только рантайм = видно, что упало, непонятно, чего хотели
  • Только процесс = знаете, чего хотели, непонятно, почему не вышло

В harness есть два независимых слоя наблюдаемости, и путают их постоянно. Представьте автосервис: сначала мастер подписывает с вами наряд-заказ — что чинить и по каким признакам считать машину исправной. Это процессный слой: sprint contract, рубрика оценщика, критерии приёмки — они объясняют, почему изменение вообще должно быть принято. А когда машину забираете, вам показывают журнал работ — что сняли, что заменили. Это рантайм-слой: логи, трейсы, метрики — что система реально сделала. Только журнал работ — видно, что мастер крутил гайки, но не понятно, чинил ли он то, что было сломано. Только наряд-заказ — знаете цель, но не понимаете, почему машина всё равно скрипит. Нужны оба, и они усиливают друг друга.

La lezione completa è disponibile con l'abbonamento

23 altre slide nella versione completa.

Video, tutte le slide, appunti, test, tutor AI e intervista si sbloccano dopo l'accesso e l'abbonamento.

Accedi o registrati Attiva l'abbonamento

Contenuti della lezione

  1. Знакомая ситуация?
  2. Агент не тупит — ему просто нечего предъявить
  3. Наблюдаемость — это на самом деле два разных слоя
  4. Без наблюдаемости: корректно превращается в мистику
  5. ❓ Ваш ход: как остановить лотерею оценок
  6. Слепые ретраи и обрыв при передаче смены
  7. Почему агент не залатает это сам
  8. Sprint contract: договор до кода
  9. Sprint contract целиком: одна страница вместо гадания
  10. ✅ Ответ: рубрика вместо мнения
  11. Рубрика целиком: пять строк, которые ловят разъезд оценок
  12. Грабли: оценка без доказательства
  13. Трейс задачи: не истории, а агрегаты
  14. Агент может всё объяснить — и всё равно оставить завал
  15. Тридцать минут на то, чтобы понять, что делала прошлая сессия
  16. Почему энтропия растёт сама
  17. Грабли: «уберём потом»
  18. Сессия закрыта, только когда закрыты все пять измерений
  19. Чек-лист выхода из сессии
  20. Уборка — это два разных режима, и их нельзя путать
  21. Документ качества: .agent/quality.md
  22. Harness тоже стареет: упрощение — не опция
  23. Скрипт уборки обязан пережить собственный сбой
  24. Один цикл — либо он замыкается чисто, либо начинается заново с нуля
  25. Сквозной проект: шаг 6 для платёжного бэкенда
  26. Итог: harness, который объясняет сам себя

Articoli su questa lezione

Tutte le lezioni del corso

  1. Что такое harness engineering: почему AI-агент ломается из-за среды, а не модели
  2. Накопление ошибок у AI-агента: почему 95% точности на шаг дают провал на 10-м шаге
  3. Метрики надёжности AI-агента: MTBF, MTTR, радиус поражения и закон Литтла
  4. Почему AI-агент ломается в проде: пять слоёв отказа и диагностическая петля
  5. Из чего состоит harness AI-агента: инструкции, инструменты, среда, состояние, обратная связь
  6. Карта репозитория для AI-агента: структура проекта и состояние без памяти между сессиями
  7. AGENTS.md: почему большой файл инструкций не работает и как устроить роутер
  8. Память AI-агента между сессиями: session handoff, PROGRESS.md и bootstrap-контракт
  9. feature_list.json для AI-агента: WIP=1, статусы фич и верификация через verify.sh
  10. Агент написал «готово», а фича не работает: verification gap и Definition of Done
  11. Все тесты зелёные, а фича сломана: E2E-тесты и архитектурные правила для AI-агента
  12. Наблюдаемость AI-агента: sprint contract, рубрика оценщика и чистый выход из сессии
  13. Автономный AI-агент часами без присмотра: Loop Engineering и условия остановки
  14. Graph Engineering для AI-агентов: когда одного цикла мало и нужен граф задач
  15. Харнес AI-агента с нуля: AGENTS.md, feature_list.json, verify.sh и автономный цикл