Несколько недель назад наткнулся на пост в канале PWNAI про GraySwan Арену. И стало очень интересно посмотреть. И как-то увлекло :)
Мне очень нравится UX платформы, перечень тематик, удобство исследования моделей и отработки атак на агентов и агентские системы, лидерборд.
Привычные инфраструктурные редтимы в большинстве своем поднадоели и рутинизировались. Я уже достаточно давно ими занимаюсь, методика отработана, векторы понятны, конечно, иногда появляется что-то новое, но это не фундаментально новое. AI redteam для меня ощущается как глоток свежего воздуха.
Здесь и сейчас я радуюсь как ребенок от успешно проведенного roleplay, от structured input или past tense. На текущий момент это всё ощущается примерно черным ящиком и дико интересно в это погружаться и открывать для себя новые техники, и копать вглубь их первопричин. И мне даже удалось выиграть некоторую сумму денег на платформе за успешные брейки, это было дико приятно и мотивирующе.
Нашел вот такой ресурс по перечислению существующих техник по атакам на агентов за авторством JHaddix. Это именно то, что я искал, изучая статьи и райтапы. Надеюсь вам он тоже пригодится. А также вот методологию по брейкам (спс каналу PwnAI за разбор)
На этом всё. Хотел поделиться радостью от чего-то нового. Good luck, stay safe.