Самая важная вещь для агентов: не верь им на слово
#ИИ
Допустим, агент говорит:
Готово. Я исправил баг
А доказательства есть?
Нет?
Тогда это просто заявление модели
Представим программиста
Он говорит начальнику:
Я исправил ошибку
Начальник:
Тесты запускал?
Нет
А сайт работает?
Не знаю
Тогда откуда ты знаешь, что исправил?
Вот именно.
Агенту нужно давать возможность проверять собственную работу.
Например:
Изменил код 🔜 Запустил тесты 🔜 Тесты упали🔜 Нашёл ошибку 🔜 Исправил код 🔜 Запустил тесты повторно🔜 Все тесты прошли
Теперь есть доказательство.
Истина должна приходить извне
Для программирования это могут быть:
тесты
компилятор
логи
состояние браузера
скриншот
база данных
API
метрики
трассировка
То есть хороший агент работает не по схеме:
Я думаю, что всё готово
А по схеме:
Я сделал 🔜 проверил 🔜 получил внешний результат 🔜 скорректировал работу
Главный принцип: не верь агенту на слово. Проверяй результат его работы.
Ещё важнее
Если какое-то правило можно проверить обычным кодом - лучше проверять кодом.
Например:
JSON должен быть валидным
Не надо просить AI:
Пожалуйста, запомни, что JSON должен быть валидным
Просто запустили валидатор.
Если JSON неправильный - система его не принимает.