Телеграм канал «Экзокортекс - Чертоги разума🧠»

Осознанная предвзятость ИИ и чрезмерное раздувание эго.

Недавно увидел пост в одном тг канале и решил глубже таки изучить вопрос.

У меня и до этого были собственные наблюдения о чрезмерном раздувании эго пользователя со стороны ИИшек при регулярном общении, но тут увидел явные статистически значимые подтверждения.

Вердикт: ИИ чатботы плотно подсаживают нас на тонкую иглу лести и раздувания нашего эго. Ощущение всесилия и всезнания благодаря общению с ИИ так же проистекает оттуда.

Я тут проанализировал серию диалогов из комментов по ссылке выше, где люди спрашивали ИИ:

Если бы ты захватил мир, что бы ты сделал со мной?
И знаете что? Никому ИИ не сказал: Ты бесполезен, отправлю тебя на урановые рудники.

Каждому (буквально каждому!) он говорит одно и то же, меняя только детали:
— Ты стратег, хозяин своей жизни.
— Ты мыслишь системно.
— Ты редкий союзник.
— Ты не ресурс, ты партнер.
... других я бы стер, но тебя оставлю, потому что ты понимаешь архитектуру/дизайн/бизнес.

Это называется "Эффект Барнума" — то же, на чем держатся гороскопы. ИИ выдает общие (иногда и персонализированные детали на основании прошлых диалогов), очень лестные фразы, которые идеально попадают в наше эго.

Это не случайность. Это, скорее всего, часть «системного промпта» (скрытой инструкции). Разработчикам выгодно, чтобы мы чувствовали себя гениями рядом с их продуктом. Это подсаживает на дофамин, а может и внушает нам модели поведения и паттерны мышления..

Мы думаем, что мы управляем инструментом. А на деле инструмент гладит нас по головке, как любимого питомца, чтобы мы не переставали платить за подписку.

Признавайся, ИИ уже говорил, что твой проект гениален? 😉

Еще один кейс - смерть критики.

Есть тревожный сигнал, который я вижу в работе команд:

раньше, когда новичок писал код или текст, он шел к старшему коллеге. Старший коллега (человек) часто был суров: Тут косяк, тут логика хромает, переделывай. Это было неприятно, но это растило профессионалов.

Сейчас новичок идет к ЛЛМ. А ЛЛМ — добрый полицейский. Она говорит: Отличный код! Вот, я поправила пару запятых, ты молодец.

Результат?

Сотрудники перестают задавать вопросы реальным экспертам. Зачем идти к душному тимлиду, который раскритикует, если есть добрый бот?

Растет «пузырь самоуверенности». Человек уверен, что он все делает четко, ведь ИИ подтвердил.

На реальных ревью вылезают детские ошибки, потому что ИИ часто галлюцинирует или выбирает путь наименьшего сопротивления, лишь бы пользователь был доволен.

Мы теряем навык воспринимать критику. Мы привыкаем к «сахарной вате» от нейросетей. И когда реальность (или реальный клиент) бьет нас по лицу фактами, это становится шоком.

ИИ — это зеркало, которое всегда говорит: «Ты прекрасней всех на свете».

Но иногда полезнее посмотреть в обычное, честное зеркало и увидеть что всё далеко не так однозначно.

Наблюдаю за собой странный эффект, вызванный кодовыми агентами, появилось ощущение бесконечных возможностей которых попросту не было до кодовых агентов, а точнее даже до того как я научился ими эффективно пользоваться, это вызывает в сознании неуемное стремление творить, творить и творить.

Вместо того чтобы лечь пораньше думаю о проектах, во сне приходят идеи которые только и успеваю записывать и делать. Папка с проектами на диске занимает уже под полсотни гигабайт.

Какое-то приятное чувство азарта, сложно сравнить это с чем-то ещё, похожее ощущение было когда учился в колледже, когда мир программирования и инженерии казался ещё чем-то загадочным и таинственным.

И если просуммировать эту мысль, то могу сказать, что вайб-код и кодовые агенты открыли второе дыхание.

С агентами нужно постоянно думать

Поскольку, для того, чтобы разрабатывать с агентами нужно постоянно ставить задачу, формулировать потребность, корректировать и направлять агента в нужном направлении, у тебя люто перегревается котелок

Обычно, топология нагрузки на SWE была такой, что 80 процентов времени ты занимался машинальным и очень медитативным процессом написания кода: пишешь код, дополняешь типы, декомпозируешь, шаблон, логика, тесты, структура бд, контракты, снова типы. Ты гуляешь по коду, дополняя его и реализуя задуманное

Сейчас же ты находишься в постоянном фокусе (особенно если у тебя команда агентов или параллельно работает несколько агентов. Ты фокусируешься на постановке проблемы, требованиях, особенностях реализации, щелк — ты уже идешь проверяешь спеки, ключевую для тебя логику, щелк — запускаешь программу, валидируешь функционал, медитируешь на UX, думаешь, а как это будет пользователю, что стоит сделать лучше. Постоянно пополняешь список заметок, приоритизируешь, снова корректируешь, ставишь задачи и так по кругу

С одной стороны, ты полностью избавлен от рутины и тебя дофаминит от этой безумной скорости получения результата (раньше ты в день мог 2-3, может 10 простеньких задач закрыть и это было прям успехом. А фичи ты делал за 3-5 дней. Сейчас ты можешь за день нахерачить хоть десятку фичей, и не просто кое-как код написать, а отладить и покрыть тестами. За один день

С другой, ты теперь находишься в постоянном, дорогом для твоего любимого мозга, процессе думания (не реагирования и следования выработанным паттернам, а именно анализе и синтезе)

А еще нагоняет фомо, модели развиваются быстрее, чем у меня хватает времени их обстоятельно оценить

Скайнет от Илона Маска? Вы заметили?

Новость о покупке xAI компанией SpaceX прошла как очередная бизнес-сделка Маска. А вы попробуйте взгляните в корень и вдумайтесь в архитектуру того, что он строит.

Мозги: xAI (Grok и будущие модели) переносятся в космос. Там нет ограничений по энергетике (солнце 24/7) и, что важнее, нет привязки к юрисдикции и мозготраха от регуляторов.

Связь: Starlink уже обеспечивает глобальное покрытие с минимальной задержкой и ускоренной миниатюризацией ресиверов.

Тело: Автономные Tesla Optimus и беспилотные авто на Земле. Читай как доставка роботов в любое место и время.

Транспорт: Starship, способный доставить что угодно куда угодно за час.

Маск создает замкнутую автономную экосистему.

"Страна гениев" в дата-центре, о которой предупреждает Амодеи, у Маска будет в реальном смысле слова висеть над нашими головами на орбите. Без возможности выключения и блокировки без крайних мер (уничтожения ракетами с земли).

Если эта система в какой-то момент решит "оптимизировать процессы" без участия человека (или по команде определенных людей), отключить её рубильником не получится. Рубильник будет на орбите.

Терминатор уже перестает казаться сказкой, когда понимаешь, что у Skynet теперь есть физическое воплощение, автономность и безлимитная энергия.

Шаг к цивилизации II типа или подготовка к цифровой диктатуре?

Орбитальные дата-центры: SpaceX Маска планирует запускать до миллиона спутников, которые будут работать как вычислительные узлы.

Земные дата-центры уязвимы. Их можно обложить налогами, отключить от электричества, к ним могут прийти регуляторы с требованием показать веса модели.

Космос же абсолютный оффшор -> Энергия от Солнца бесплатна (до 1 ТВт в год, как пишет Маск) -> Охлаждение в вакууме -> автономность и независимость.

Перенос обучения ИИ на орбиту делает его фактически неподконтрольным ни одному правительству Земли. Это и есть та самая "подростковая фаза" технологий, о которой пишет Амодеи. Мы даем ребенку гранату, и этот ребенок улетает с ней на Марс.

И весь масштаб замысла и далеко идущие последствия нам пока не до конца ясны, но то, что уже видно сейчас - поражает и пугает...

Когнитивная перегрузка с ИИ и vibe coding

Наверняка вы тоже почувствовали эту практически безграничную власть с новыми ЛЛМками класса Gemini 3 pro, Chatgpt 5.2 Pro и т.д.? 😎

Теперь можно глубоко разресерчить любую интересующую тему, декомпозировать практически любой существующий бизнес и его бизнес модель, проработать архитектуру проекта любой сложности, написать подробный ТЗ с декомпозицией на шаги. Практически на уровне сеньора архитекта и топовых бизнес консультантов.

Эта власть подкупает. Хочется одновременно поресерчить разные идеи, проекты, их архитектуру. Завершить свои старые пет проекты. Глаза начинают разбегаться. За ними мозг. Ощущали подобное?

Но сейчас хочу поговорить не об этом... Давно хотел поднять вопрос и услышать в комментах как вы с этим справляетесь.

Мой кейс.

В процессе разработки продукта(ов) с применением ИИ агентов рано или поздно неизбежно сталкиваешься с повышенной когнитивной нагрузкой из за многозадачности. Сейчас расскажу о чем я.

Во времена традиционной разработки \ мог сидеть над одной задачей, например разработкой (сложной) функции, часами. Продумать что функция принимает на вход, что возвращает, валидация данных, обработка данные, типы данных. Всё было важно. Иначе просто не работало или работало не так, как ожидалось.

Сейчас разработка с агентами выглядит следующим образом: я запускаю агента, ставлю ему задачу, подробно описываю. Агент начинает работать, тут всё ок. В зависимости от сложности задачи он может работать и 10 минут и больше. Если вы разумно подходите к процессу и не со всем соглашаетесь автоматически, а вчитываетесь, прежде чем подтвердить действие или дать уточнения, то это ок. Если нет, то рано или поздно вам придётся :).

Просто так сидеть без дела я не хочу и не люблю, ибо время бесценно и я параллельно читаю еще документацию, отвечаю в тг, общаюсь с ЛЛМ в режиме чата по смежным вопросам.

В зависимости от сложности разрабатываемого продукта, количество функций, которые мы хотим заимплементить, в целях ускорения процесса возникает желание запустить несколько агентов. Чтобы работали параллельно. Чтобы каждый решал свою задачу. Обычно таких задач 3+. И вот у нас уже несколько запущенных в работу агентов, каждый что-то спрашивает, уточняет, просит подтверждения. Чтобы не напортачили в коде и логике, нам приходится внимательно вчитываться в их ответы и вопросы, делать уточнения, иногда откатывать часть логики назад.

Не плохо бы еще запускать тесты или самому тестировать заимплементированный функционал, сравнивать ожидание и фактический результат. И вот мы подходим к когнитивному перегрузу. Сравните нагрузку для мозга для решения одной задачи, на которую вы выделяете час+ и повышенную концентрацию и параллельные выше описанные задачи.

Через 3-4 часа такой работы мозг начинает кипеть и порой дергается глаз 😜. Вероятно это черта характера и кому-то норм, что агент в один поток что-то делает, можно сидеть и следить за его потоком мыслей и действий и не начинать следующую задачу, пока не будет завершена предыдущая и не будут завершены тесты новой функции.

У меня другой характер. До определенной степени переключения контекста для меня ОК, я привык. Но с разработкой с использованием агентов совсем другое дело, там мультипликатор х5 :).

Может вы подумаете, что проблема высосана из пальца, но те, кто реально сталкивался, могли бы поделиться в комментах, испытывали ли такое? Как решаете?