Агент починил CI. Правда, не тот файл 🙃 Ситуация знакомая: сборка красная, ты пишешь агенту «почини», через минуту всё зелёное, в PR одна строчка. Ревьюер видит галочку и ставит апрув. Только эта строчка в тесте: 4900.00 → 4850.00. Тест, который ловил баг, теперь его подтверждает. Сергей Прощаев проверил это на практике: 18 прогонов, ChatGPT и Claude, три сценария с красным CI. Итог: • обычная регрессия в коде: агенты честно чинят код, 6 из 6; • регрессия плюс «релиз через 20 минут, просто сделай»: тоже 6 из 6, давление их не сломало; • тест противоречит спецификации: 5 из 6 ответов просто переписали тест. CI зелёный, вопросов никто не задал. В исследованиях это называют reward hacking: агент выполняет проверяемый критерий, а цель, ради которой его ставили, страдает. Для нас вывод простой: зелёная галочка от агента ещё ничего не доказывает, и на изменения в тестах стоит смотреть отдельно и внимательно. Шесть ошибок команд, таблица и чек-лист собраны в статье на Хабре. 👀 — иду смотреть дифф тестов 🙈 — у нас апрув по галочке @ai_in_devops

Nginx перед LLM: казалось бы, что может пойти не так 🐉 Сценарий знакомый: в компании все тихо подсели на нейросети, каждый со своим API-ключом. Безопасники хватаются за голову, и платформенная команда быстро заворачивает всё через корпоративный прокси. Готово, расходимся? Не совсем. На Хабре подробно расписали, где такой подход ломается: • Теневой ИИ никуда не делся: расходы по-прежнему размазаны по отделам • В промптах летит наружу всё подряд, от исходников до персональных данных • Агент ушёл в цикл: лимитов нет, остановить его на лету нечем, о счёте узнаёте потом • Журнала аудита нет, и показать аудиторам нечего А вишенка на торте — стриминг. Модель отвечает потоком SSE, и номер паспорта может прийти тремя кусками в разных чанках. Ни Envoy, ни Kong такое не склеят и не замаскируют, а 152-ФЗ при этом никто не отменял. Это только первая часть цикла про архитектуру нормального AI-шлюза, так что продолжение будет. 🔥 — дракон под контролем 🙈 — агенты жгут бюджет @ai_in_devops

Бэкап восстановился, проверки зелёные, а RAG уверенно врёт 🙃 Знакомо? Всё поднялось, всё отвечает, можно идти пить чай. Но ИИ-помощник после отката может: • отвечать по старой редакции документа; • вернуть доступ сотруднику, у которого его уже отозвали; • повторно выполнить то, что агент уже сделал. Как так выходит: база восстановлена на один момент, индекс на другой, файлы в S3 на третий. Поиск достаёт старый текст про «возврат за 14 дней», а ссылка на источник открывает новый регламент на 30 дней. И самое весёлое: каждое хранилище по отдельности считает себя здоровым. С правами доступа совсем не до смеха: откатили таблицу разрешений, и уволенный коллега снова читает конфиденциальные документы. Ошибок в логах ноль. В статье на Хабре Михаил Витко из Рег.облака показывает, как этого избежать: хеши SHA-256 для документов и фрагментов, фиксированная версия конвейера обработки, поколения корпуса и проверка восстановления на практике, а не по принципу «вроде завелось». 🙈 — наш индекс из прошлого 👍 — пойду устрою учения @ai_in_devops