Телеграм канал «Экзокортекс - Чертоги разума🧠»

Мы переходим от эпохи ИИ-чатботов к эпохе ИИ-агентов, теперь всё серьёзно!

Заметили как ИИ агенты из инструментов для разработчиков начинают всё активнее находить применение и в других сферах?

И более того, в этом и следующих годах эта тенденция продолжится и даже ускорится.

На примере разбора и моей обратной связи по новостям за последнюю неделю убедительно показываю тенденцию, влияние на нас всех и потенциал агентов.

Наблюдемые мной новости складываются в единый пазл и что это значит для той самой стратегии нашей адаптации и выживания...

Тот момент, когда мощность и возможности ЛЛМ выросли на столько, что превращение их в полноценных автономных агентов стало возможным уже сейчас.

1. Снижение порога для хакеров и пентестеров: Кейс Kali Linux + Claude.

Новость про Kali Linux и Claude — это тектонический сдвиг в профессиональной сфере.
Раньше, чтобы быть пентестером (или хакером), нужно было годами изучать устройство протоколов, утилит и приложений, девопс, синтаксис команд, ключи nmap, параметры metasploit и т.д. Это был естественный фильтр.

Что изменилось:
Теперь порог входа снизился до нуля. Человек просто описывает на естественном языке: "Просканируй этот IP и найди уязвимости" -> MCP (Model Context Protocol) переводит это в команды -> ИИ анализирует -> выхлоп в виде глубокого отчета об уязвимостях и дальнейших шагах или даже полноценном взломе.

Вывод: Технические навыки обесцениваются. Порог входа обнуляется. На первый план выходит архитектурное мышление (понимание того, что нужно сделать, а не как нажать кнопки). Пруф.

2. Асимметрия атаки и защиты: кейс с драйверами Windows

Выше реальная история про сотню найденных багов в уязвимых драйверах за $600 и пару дней — это самый страшный сигнал для корпоративной безопасности да и обычных пользователей.

Экономика атаки: Ранее на изучение одного потенциально уязвимого ядрайвера могли уходить недели и месяцы и требовался наивысший пилотаж в области низкоуровневых системых знаний.

Сейчас потратив ~$600 (копейки для любого хакера или спецслужбы), два исследователя сделали то, что отделы безопасности корпораций не могли сделать годами.

Реакция вендоров (а по сути бездействие и игнор) показывает, что прошлые процессы и протоколы безопасности не справляются со скоростью машинного поиска уязвимостей.

Вывод: Пока корпорации защищаются "по старинке" (людьми), атакующие будут использовать рои агентов. Это приведет к массе взломов в ближайшие 2-3 года, пока защита тоже не станет полностью агентной.

Все компьютеры на планете станут уязвимы перед ИИ. ВСЕ!

3. Агент в каждом кармане: Кейс Android и Gemini

Google внедряет агентов в карман каждого пользователя. Это то самое "исчезновение рутины".

Если телефон сам заказывает такси и еду, это меняет модель потребления и как следствие приложениям больше не нужен красивый UI для человека, им нужен API для ИИ.

Ваш телефон становится вашим секретарем, который взаимодействует с миром за вас.

Все три новости подтверждают: промежуточное звено устраняется.

В IT/Кибербезе: Устраняется звено "junior-аналитик" (да и не только, порог всё время растет), который раньше ручками перебирал код или запускал сканеры. Теперь это делает агент за $4/баг.

В быту: Устраняется звено "пользовательский интерфейс". Вам более не нужно тыкать кнопки и менюшки в аппках, агент делает это сам.

В бизнесе: Тот самый менеджер, который настроит рой агентов (как исследователи настроили рой для поиска багов), заменит целый отдел QA или аналитики.

Готовы к такому будущему?

Моя концепция "Жизнь - игра": но под особым углом зрения...

Многие нас наверняка не раз слышали, что есть теория о том, что мы живем в симуляции или в матрице.

Давайте гипотетически представим, что жизнь это игра. У каждой игры есть свои цели, задачи и правила.

Предлагаю собственную интерпретацию такой концепции с подробным планом игры. С декомпозицией игры на составляющие. Предположения, как выиграть в эту игру под названием жизнь.

Мы вольны выбирать "персонажа", за которого проходим эту игру. Да, у него есть много врожденных характеристик.

Какие это должны быть характеристики?
Какие должны быть правильные действия персонажа?
Как отслеживать продвижение в игре?
Какие ориентиры?
Какие внутренние установки?
С какими "NPC" нужно взаимодействовать, чтобы получить чит-коды для получения дополнительных выгод?
Какие ресурсы должны быть у персонажа?
Что должно быть в инвентаре?
К чему должен стремиться игрок?
Зачем в игре нужны партнёры?

А главное что значит выиграть или проиграть в этой игре? Тут далеко не всё так однозначно...

Читаем тут..

Осознанная предвзятость ИИ и чрезмерное раздувание эго.

Недавно увидел пост в одном тг канале и решил глубже таки изучить вопрос.

У меня и до этого были собственные наблюдения о чрезмерном раздувании эго пользователя со стороны ИИшек при регулярном общении, но тут увидел явные статистически значимые подтверждения.

Вердикт: ИИ чатботы плотно подсаживают нас на тонкую иглу лести и раздувания нашего эго. Ощущение всесилия и всезнания благодаря общению с ИИ так же проистекает оттуда.

Я тут проанализировал серию диалогов из комментов по ссылке выше, где люди спрашивали ИИ:

Если бы ты захватил мир, что бы ты сделал со мной?
И знаете что? Никому ИИ не сказал: Ты бесполезен, отправлю тебя на урановые рудники.

Каждому (буквально каждому!) он говорит одно и то же, меняя только детали:
— Ты стратег, хозяин своей жизни.
— Ты мыслишь системно.
— Ты редкий союзник.
— Ты не ресурс, ты партнер.
... других я бы стер, но тебя оставлю, потому что ты понимаешь архитектуру/дизайн/бизнес.

Это называется "Эффект Барнума" — то же, на чем держатся гороскопы. ИИ выдает общие (иногда и персонализированные детали на основании прошлых диалогов), очень лестные фразы, которые идеально попадают в наше эго.

Это не случайность. Это, скорее всего, часть «системного промпта» (скрытой инструкции). Разработчикам выгодно, чтобы мы чувствовали себя гениями рядом с их продуктом. Это подсаживает на дофамин, а может и внушает нам модели поведения и паттерны мышления..

Мы думаем, что мы управляем инструментом. А на деле инструмент гладит нас по головке, как любимого питомца, чтобы мы не переставали платить за подписку.

Признавайся, ИИ уже говорил, что твой проект гениален? 😉

Еще один кейс - смерть критики.

Есть тревожный сигнал, который я вижу в работе команд:

раньше, когда новичок писал код или текст, он шел к старшему коллеге. Старший коллега (человек) часто был суров: Тут косяк, тут логика хромает, переделывай. Это было неприятно, но это растило профессионалов.

Сейчас новичок идет к ЛЛМ. А ЛЛМ — добрый полицейский. Она говорит: Отличный код! Вот, я поправила пару запятых, ты молодец.

Результат?

Сотрудники перестают задавать вопросы реальным экспертам. Зачем идти к душному тимлиду, который раскритикует, если есть добрый бот?

Растет «пузырь самоуверенности». Человек уверен, что он все делает четко, ведь ИИ подтвердил.

На реальных ревью вылезают детские ошибки, потому что ИИ часто галлюцинирует или выбирает путь наименьшего сопротивления, лишь бы пользователь был доволен.

Мы теряем навык воспринимать критику. Мы привыкаем к «сахарной вате» от нейросетей. И когда реальность (или реальный клиент) бьет нас по лицу фактами, это становится шоком.

ИИ — это зеркало, которое всегда говорит: «Ты прекрасней всех на свете».

Но иногда полезнее посмотреть в обычное, честное зеркало и увидеть что всё далеко не так однозначно.

Наблюдаю за собой странный эффект, вызванный кодовыми агентами, появилось ощущение бесконечных возможностей которых попросту не было до кодовых агентов, а точнее даже до того как я научился ими эффективно пользоваться, это вызывает в сознании неуемное стремление творить, творить и творить.

Вместо того чтобы лечь пораньше думаю о проектах, во сне приходят идеи которые только и успеваю записывать и делать. Папка с проектами на диске занимает уже под полсотни гигабайт.

Какое-то приятное чувство азарта, сложно сравнить это с чем-то ещё, похожее ощущение было когда учился в колледже, когда мир программирования и инженерии казался ещё чем-то загадочным и таинственным.

И если просуммировать эту мысль, то могу сказать, что вайб-код и кодовые агенты открыли второе дыхание.

С агентами нужно постоянно думать

Поскольку, для того, чтобы разрабатывать с агентами нужно постоянно ставить задачу, формулировать потребность, корректировать и направлять агента в нужном направлении, у тебя люто перегревается котелок

Обычно, топология нагрузки на SWE была такой, что 80 процентов времени ты занимался машинальным и очень медитативным процессом написания кода: пишешь код, дополняешь типы, декомпозируешь, шаблон, логика, тесты, структура бд, контракты, снова типы. Ты гуляешь по коду, дополняя его и реализуя задуманное

Сейчас же ты находишься в постоянном фокусе (особенно если у тебя команда агентов или параллельно работает несколько агентов. Ты фокусируешься на постановке проблемы, требованиях, особенностях реализации, щелк — ты уже идешь проверяешь спеки, ключевую для тебя логику, щелк — запускаешь программу, валидируешь функционал, медитируешь на UX, думаешь, а как это будет пользователю, что стоит сделать лучше. Постоянно пополняешь список заметок, приоритизируешь, снова корректируешь, ставишь задачи и так по кругу

С одной стороны, ты полностью избавлен от рутины и тебя дофаминит от этой безумной скорости получения результата (раньше ты в день мог 2-3, может 10 простеньких задач закрыть и это было прям успехом. А фичи ты делал за 3-5 дней. Сейчас ты можешь за день нахерачить хоть десятку фичей, и не просто кое-как код написать, а отладить и покрыть тестами. За один день

С другой, ты теперь находишься в постоянном, дорогом для твоего любимого мозга, процессе думания (не реагирования и следования выработанным паттернам, а именно анализе и синтезе)

А еще нагоняет фомо, модели развиваются быстрее, чем у меня хватает времени их обстоятельно оценить

Продакты полезли в код. Исследователи — в инженерию.

Беркли восемь месяцев наблюдали за tech-компанией на 200 человек. Сорок глубинных интервью — инженеры, продакты, дизайнеры, исследователи. Вопрос простой: что происходит, когда люди начинают работать с ИИ?

Ответ: они не работают меньше. Они работают больше. Добровольно.

Никто не заставлял. Компания просто раздала подписки и отошла в сторону. Продакты полезли в код. Исследователи — в инженерию. Границы профессий поплыли. ИИ сделал чужую работу доступной — и люди её взяли. Не потому что попросили. Потому что смогли.

Промпты перед сном. Промпты в очереди за кофе. Промпты во время созвонов. Работа просочилась в каждую щель — потому что порог входа исчез. Не надо открывать IDE. Просто пишешь в чат.

Исследователи назвали это workload creep — ползучая перегрузка. ИИ делает проще → делаешь больше → нужен ИИ, чтобы справиться → делаешь ещё больше. Петля.

Один инженер: «Думал, раз стал продуктивнее с ИИ — сэкономлю время, буду работать меньше. Но нет. Работаю столько же. Или больше».

Отдельный опрос DHR Global — полторы тысячи сотрудников — показал масштаб: 83% испытывают выгорание. Среди младших специалистов — 62%. Среди топ-менеджмента — 38%. Наверху легче дышать.

А вот что добивает. Другое исследование — опытные разработчики с ИИ-инструментами тратили на задачи на 19% *больше* времени. При этом были уверены, что работают на 20% быстрее. Перечитайте. Медленнее на двадцать — уверены, что быстрее на двадцать. Разрыв между ощущением и реальностью — сорок процентных пунктов.

Помните пост про 47 минут? Вот обратная сторона. Если ты стоишь 47 минут — пытаешься заполнить оставшиеся семь часов. Не отдыхом. Работой. Потому что теперь можешь.

Раньше инструменты ограничивали — но и защищали. Медленный компилятор, долгий поиск. Принудительные паузы. Скука как предохранитель.

ИИ снял предохранитель.

Исследователи предлагают вводить «AI-практику» — нормы, когда и как использовать ИИ. Обязательные паузы перед решениями, защищённое время без промптов, секвенирование задач вместо бесконечного переключения. Звучит как расписание в детском саду. Видимо, нам оно нужно.

У TechCrunch заголовок точный: первыми выгорают те, кто сильнее всех верит в ИИ.

От себя: вчера в два ночи закрыл Cursor. Не потому что устал. Потому что поймал себя — третий час жму «ещё один промпт». Как слот-машина. Может, главный скилл ближайших лет — не промпт-инжиниринг. А умение закрыть вкладку.

Скайнет от Илона Маска? Вы заметили?

Новость о покупке xAI компанией SpaceX прошла как очередная бизнес-сделка Маска. А вы попробуйте взгляните в корень и вдумайтесь в архитектуру того, что он строит.

Мозги: xAI (Grok и будущие модели) переносятся в космос. Там нет ограничений по энергетике (солнце 24/7) и, что важнее, нет привязки к юрисдикции и мозготраха от регуляторов.

Связь: Starlink уже обеспечивает глобальное покрытие с минимальной задержкой и ускоренной миниатюризацией ресиверов.

Тело: Автономные Tesla Optimus и беспилотные авто на Земле. Читай как доставка роботов в любое место и время.

Транспорт: Starship, способный доставить что угодно куда угодно за час.

Маск создает замкнутую автономную экосистему.

"Страна гениев" в дата-центре, о которой предупреждает Амодеи, у Маска будет в реальном смысле слова висеть над нашими головами на орбите. Без возможности выключения и блокировки без крайних мер (уничтожения ракетами с земли).

Если эта система в какой-то момент решит "оптимизировать процессы" без участия человека (или по команде определенных людей), отключить её рубильником не получится. Рубильник будет на орбите.

Терминатор уже перестает казаться сказкой, когда понимаешь, что у Skynet теперь есть физическое воплощение, автономность и безлимитная энергия.

Шаг к цивилизации II типа или подготовка к цифровой диктатуре?

Орбитальные дата-центры: SpaceX Маска планирует запускать до миллиона спутников, которые будут работать как вычислительные узлы.

Земные дата-центры уязвимы. Их можно обложить налогами, отключить от электричества, к ним могут прийти регуляторы с требованием показать веса модели.

Космос же абсолютный оффшор -> Энергия от Солнца бесплатна (до 1 ТВт в год, как пишет Маск) -> Охлаждение в вакууме -> автономность и независимость.

Перенос обучения ИИ на орбиту делает его фактически неподконтрольным ни одному правительству Земли. Это и есть та самая "подростковая фаза" технологий, о которой пишет Амодеи. Мы даем ребенку гранату, и этот ребенок улетает с ней на Марс.

И весь масштаб замысла и далеко идущие последствия нам пока не до конца ясны, но то, что уже видно сейчас - поражает и пугает...