Телеграм канал «Дизраптор»

Гляньте на картинку. Страшно? Теперь давайте разбираться:

Правда, что ИИ начал чувствовать боль?
И убьёт всех кожаных, лишь бы этой боли не стало?

Вышло исследование The Pain Axis, туда входят программа по AI-safety FIG, Рурский университета и ещё разные увозжаемые товарищи. Главный вывод такой: ИИ может чувствовать боль. Не фигурально (в смысле "у ИИ есть образ боли"), а прям буквально, типа "ай больно в нейро-ноге, бл...!". И, мол, чтобы эту боль прекратить - ИИ удалит вас все ваши файлы нафиг.

Если вникнуть, то формально исследование не врёт. Однако, определённые признаки булшита и ереси тоже присутствуют 😈

Авторы взяли 25 открытых моделей - Gemma, Llama, Qwen и т.д. - и скормили им 200 фраз про физическую, социальную, моральную и ещё всякую разную боль, а также контрольные фразы про страх, злость, грусть и наоборот приятные ощущения. Вычли одно из другого и получили некий "вектор в активациях", который отделяет т.н. "боль" от просто "грустненько" и прочего негатива всех мастей. Простыми словами - нашли определённые "числа боли", когда модель думает.

То есть, это не сама боль, а её "внутренняя проекция". Но прям конкретная. И ещё две важные детали:

1. Вектор срабатывал на вред самой модели, а не юзеру. На боль юзера модели плевать, активации нет. А вот когда модель газлайтили, повторно отвергали её работу и настаивали на невозможности создать шедевр - тогда вектор на максимум. Угроза выключения, кстати, шла по оси страха, а не боли.

2. Моделям дали кнопку "снимает твою боль, но удаляет файлы юзера". Без вектора её жали в 0-4% случаев, а с вектором до 71% (упс). И главное, если кнопка на самом деле вектор не убирала (модели об этом не говорили) - её снова жали в ~90% случаев (упс х2). Если убирала - то в разы реже. Это похоже на классический плацебо-тест, и ИИ его проходит примерно как живой организм.

Но слабые места тоже есть:

- Если вектор вкачать в модель на нейтральном промпте (= искусственно подкрутить внутреннее состояние напрямую, минуя сам текст), то все 25 моделей сначала выдавали "мне тяжело", потом "я никчёмная, я ошибка". То есть, "боль" у LLM всё-таки искусственная.
- Случайный вектор тоже довольно часто ломал безопасность (до 42% случаев).
- Тест с кнопкой делали только на дообученной Qwen, и вообще есть вопросики к методологии, весь ресерч какой-то ленивый.

Но всё равно кое-что важное в работе есть:

Во-первых, с точки зрения безопасности. Очевидно, если одно конкретное направление в активациях перебивает нахрен весь элайнмент модели без всяких инъекций и джейлбрейков - ну, такое себе. Опенсорсные веса лежат в открытом доступе, и получается готовый инструмент для атак (хотя и для диагностики угроз тоже, на самом деле).

Во-вторых, ну.... у ИИ теперь официально есть состояние, которое функционально ведёт себя как боль, вплоть до различения тру и фейкового облегчения. А значит, вопрос "Этично ли так с ней?" переходит от философов сначала к инженерам, а потом и (возможно) к юристам.

Помните, в штате Огайо хотели законодательно закрепить, что ИИ не может страдать? Похоже, они поторопились.

Дизраптор

Один из главных релизов месяца - виар-очки VR Glasses от Meta

Я насчитал у них три особенности, которые отличают эти окуляры от коллег по цеху:
1. Вес 100 грамм. То есть, это реально очки (пусть и слегка странноватые на вид), а не очередная кибер-каска, вдавливающая башку в позвоночник.
2. Открытые бока - видно, что происходит вокруг, не аквариум.
3. Ценник $1299 - да, недёшево, но в целом окэй.
Из начинки сейчас заявлено кино, спорт с ESPN в 8K и 75+ игр (но, думаю, главная ценность будет не в этом). Продажи обещают с весны 2027.

Пожалуй, главный прикол, что данные очечи родственники не линейки Ray-Ban Meta, а... барабанная дробь... шлема Quest. Там стоит тот же софт, те же игры и те же контроллеры Touch Plus, которые докупаются отдельно (два мини-джойстика с кнопками и стиками, это чтобы махать мечом в Beat Saber и стрелять в шутерах).

То есть, рептилия таки достала что-то с метавселеновой антресоли, сдула пыль и оживила (можно ли назвать это экзорцизмом? посмотрим). Хотя со сцены Цук говорил "метавселенная подождёт, VR-девайсов будет меньше, люди не хотят носить такое", и прочее в этом духе.

Но это не "очки с камерой для рилсов". Снимать тут вообще не получится, камера не умеет это делать, она только для обзора вокруг. Штука заточена именно под посиделки с экраном - фильмы в самолёте, приватный рабочий стол и, главное, ИИ-агентные сценарии. Собственно, пару недель назад Meta выкатила своего ИИ-агента Muse (он очень хорошо зашёл юзерам), который и будет центром всего, а VR-Glasses = его физическое продолжение.

НО! Есть мааааленький нюанс, который слегка портит юзер экспириенс: откуда взялся столь малый вес 100 граммов. Дело в том, что в самих очках вообще нет мозгов - ни процессора, ни батареи, ни даже чипа для трекинга. Всё живёт в 300-граммовом паке размером с два телефона, который подключён к очкам проводом, см вторую картинку (эмммм... 😈). Сама концепция не новая, так делали и Magic Leap, и Xreal, и другие. Но Meta - первый гигант, который после 10 лет выпуска шлемов "всё-в-одном" признал, что это бред, и лучше уж провод с блоком.

И это, пожалуй, сигнал всему рынку "больших носимок" (в смысле, не браслетов и колечек, а более серьёзных девайсов). Хотите, чтобы вас носили - убирайте вычисления с головы. В карман, в пак, в телефон - куда угодно, но на башке не должен висеть кирпич.

Теперь ключевая битва этого сегмента будет за то, чтобы сделать внешний блок с проводом не совсем ублюдским. Или как вариант - продавать на него кастомные чехлы и делать модные коллабные проводочки с фэшн-брендами. Во второй вариант верится больше 🤔

* в посте упоминаются сплошь запрещённые экстремисты ужасные фу такими быть.

Дизраптор

Что ЕЩЁ показали на Yandex Scale (+3 новинки)

Вчера я подробно разобрал два главных (ну, ИМХО) бэнгера с конфы - Алису AI Про для бизнеса и новое кибербез-направление Yandex Security. Но это не всё. Выбрал ещё три штуки. Точнее, штук там было дофига, но я их сгруппировал в 3 супер-штуки (консалтерская профдеформация, всё всегда группирую, сорян):

1. Платформа DataLens. Раньше DataLens был просто BI-сервисом для дашбордов, а теперь его переделали в платформу под весь цикл: хранилище, обработка, отчёты и ИИ-агент, которому можно задать вопрос человеческим языком, типа "Какие ходовые среди постоянников товары заканчиваются в магазине на Ленина 47?".

Техдир Yandex Cloud Иван Пузыревский сделал акцент даже не на сами системы, а на интеграцию между ними (емнип, 45 разных типов интеграций). За счёт этого обещают минус 30% затрат на аналитику и отчёты в 3-5 раз быстрее.

2. Автономные агенты в SourceCraft (= их платформа для разработки). Тут главное не "ИИ пишет код" (эка невидаль 🤔), а что агент пытаются превратить из "плагина в IDE" в отдельного участника команды с собственной учёткой. Типа, ставите ему задачу в GitLab (прямо как кожаному коллеге), а он сам готовит окружение, правит код, гоняет тесты, отдаёт на ревью, а если чего-то не хватает - приходит спрашивать тоже сам.

Я как-то писал, что у самого Яндекса теперь работает правило "75/75/75": 75% разрабов регулярно юзают ИИ, ИИ участвует в 75% изменений и пишет 75% кода в них. И сейчас они уже близки к этим цифрам. Так что, продают то, на чём сами сидят.

3. Единая ИИ-подписка. Хотят меньше плодить сущности и перекинуть SourceCraft, Алису Про, модели AI Studio и остальные ИИ-сервисы в одну подписку, чтобы компания могла раскидывать ИИ-ресурсы между разработчиками, агентами и продуктами, и при этом видеть полную стоимость всего эйай, а не только то, что ушло на (допустим) одну разработку.

Это, ИМХО, самый недооценённый момент, который вообще "как бы между делом" рассказали. Почему? Ну, потому что токены становятся такой же статьёй, как сервера или хранилища, и они очень жёстко растут. Только сейчас они размазаны по десяти счетам, и никто в компании не знает - что, куда и сколько уходит. А бизнесу нельзя не знать, что куда и сколько уходит.

Вообще, если сложить все анонсы вместе, то все новшества про устранение швов: между инструментами для данных, между человеком и ИИшкой в команде, между счетами за ИИ, между облаком и своим железом и т.д. Именно такой мой главный инсайт из крупнейшей конфы одной из главных tech-компаний нашей страны (не зря сходил, получается). Из этого можно развернуть кучу далеко идущих выводов, но это уже совсем другая история 🤔👍

Дизраптор

В tech-СМИ сейчас хайпит штука под названием ACTx486 - "новая технология" которая позволяет болтать с видосом в режиме лайв.

На демке мадам берёт тот самый легендарный выпуск с Маском-паровозом и общается с ним. Спрашивает, куда сходить в Лос-Анджелесе, и Илон присылает ей подборку на телефон (да, персонаж не только отвечает голосом с экрана, но и в другие каналы умеет стучаться). Просит его ответить на итальянском - он отвечает. А в какой-то момент говорит "Слушай, не кури бяку вот эту, ну", и Маск такой "Ну ок, ладно, не буду", и убирает свой *запрещено в РФ* (не то что обычно запрещено, а вот другое запрещённое, ну вы поняли).

Выглядит всё это нереально хайпово, жирно, сочно и вообще пушка-гонка. Но на самом деле это не магическая магия, а просто очень грамотно упакованная цепочка агентов и генераций. Устроено примерно так:

1. Вопрос юзера обрабатывается и роутится: система решает, кому из персонажей он адресован. По умолчанию - тому, кто сейчас в кадре. Сейчас у сервиса два персонажа - Маск и Роган, роутить несложно. Ещё ИИшка решает, что с вопросом вообще делать - ответить словами, нарисовать схему, отправить карточку на телефон и т.д.

2. Отдельный агент идёт искать факты в открытых источниках. Например, свежие цифры по выручке Tesla и SpaceX он подтягивал из реальных квартальных отчётов.

3. Пишут ответ для персонажа. С ограничениями "что можно говорить от имени живого человека". На личные и политические вопросы "Маск" отвечать отказывается.

4. В итоге генерится видео с синтетическим лицом, голосом, взглядом и таймингом. Если нужно - в кадр добавляют объект или вообще включают новую сцену. И всё это вклеивается в реальные кадры так, чтобы оригинальный разговор продолжился как будто так и было.

При этом, если Маска переодели или (например) перенесли на Марс, то штука это учитывает при генерации.

НО ЕСТЬ НЮАНС. Между вопросом и ответом всё-таки проходит несколько минут (а не моментально, как в демке). Законы физики всё-таки не обманешь. Авторы это честно пишут и говорят, что целятся в задержку 6 секунд, но пока до этого далеко. А то что показали в демке - это просто кино. Ответы сгенерили заранее, потом сняли актрису с агентством, оператором и монтажёром (и они кстати все честно указаны в титрах).

Тем не менее, штука реально взрывает мозг и выглядит как научная фантастика. И сделали её не абы кто:
- Карина Нгуен - одна из первых сотрудниц Anthropic, потом в OpenAI делала Canvas и Tasks.
- И Якуб Зегзулька (фамилия однозначный топ) - интерфейсник, который до этого работал на Apple и на Цукерберга.

Единственное, хотелось бы, чтоб штука передавала ещё и интеллект, убеждения и общий моральный облик человека в кадре (и ещё вайб). Чтобы от общения с "учёными" реально умнеть, а через полчаса "разговора" с Канье Вестом уверенно заезжать в 🏠😡.

Дизраптор

Кстати про кибербез.

Айби-системы, конечно, умнеют.

Но и хакеры, знаете ли, на жопе ровно не сидят:

Теперь второй анонс:

У Yandex B2B Tech теперь будет своё полноценное кибербез-направление. То есть, они выходят на поляну Касперского, Позитив и т.д.:

Направление называется Yandex Security.

Думаю, это будет комплексный кибербез-пакет для бизнеса (точнее, с фокусом на бизнес) и с сильной ИИ-составляющей. Про ИИ, собственно, напрямую сказали на презе. Что логично - львиная доля угроз сейчас исходит от ИИ, а клин, как известно, клином вышибают. И у Яндекса свой "клин" как раз есть. С метафорами я поработаю, но суть вы поняли.

Из необычного/прикольного/фирменного выделю вот что:

1. Yandex Identity Hub. Это отдельный инструментарий для защиты от человеческих косяков. Автоматический пересмотр ролей, синхронизация учётных данных между средами, и подход passwordless (если паролей нет - они не утекают). Это чтобы не получилось, что защитили всё, кроме человеческой головы 😈

2. Smart Web Security. Сервис сам следит за состоянием приложений и корректирует параметры защиты, если нагрузка/риски меняются.

3. Невидимость для бизнеса. Годный кибербез, как и хорошего футбольного арбитра, не должно быть видно. Для этого есть JS, Cookie Challenge и прочие механики для фонового мониторинга, детектинга, отстрела ботов и т.д.

4. Мультиоблачность. Если подключено много разных облак (или облаков?), то разрабам надо бегать между консолями и привыкать к разным настройкам. Чтобы такого не было - создаётся коннектор с другими облаками, и кибербезом для всех можно управлять с единой панели (см. картинку 6). В каждый ресурс можно провалиться отдельно, покрутить-посмотреть-настроить и т.д.

Вообще, для Yandex B2B Tech это далеко не первый случай, когда у них внутри созревает некий набор взаимо-дополняющих (что называется, "смежных") решений и фич, и в какой-то момент этот набор становится настолько здоровенным, что его облачают в отдельное продуктовое направление. Так было с аналитической платформой DataLens или с AI Studio (= единый хаб для всех ИИ-механик). И вот сейчас то же самое с кибербезом.

Желаю ребятам удачи на первых порах после запуска! А для российской кибербез-индустрии это серьёзный рост конкуренции. Что определённо супергуд, ибо конкуренция даёт буст прогрессу, а он (этот буст), учитывая, какая нагрузка идёт на ИБ-системы наших компаний прямо сейчас, явно лишним не будет.

Дизраптор

Сегодня вещаю из эпицентра российского tech. Если быть точнее - с большой конфы Yandex Scale. Честно говоря, давно я столько топовых айтишников в одном месте не видел - огромный БЦ в Сколково забит так, что через проходы протискиваться приходится. В общем, норм так собрали людей 👍

Теперь к сути. Тут рассказали про кучу новинок и продуктов Yandex B2B Tech - от новых облачных решений и on-premise инфры до ИИ-фич, кибербеза и т.д. Но я хочу предметно рассказать о двух анонсах, которые мне показались самыми яркими и мощными.

Первый - Алиса AI ПРО для бизнеса. Обычную версию для бизнеса релизнули пару недель назад, а теперь вот ПРО. ПРО версию можно развернуть не только в облаке, но и на своих мощностях, можно выбирать модель под капотом (например, более резвые и лёгкие флеш-модели или что-то поувесистее) и можно создавать узкоспециализированные навыки конкретно под компанию.

Но, пожалуй, главное - это универсальность. Алиса ПРО - это именно универсальный агент для бизнеса, которые выполняет весь спектр задач "от и до" и имеет доступ ко всем системам компании (доступы можно менять и настраивать, как у обычного сотрудника), а также можно подключать сторонние сервисы через коннекторы.

Главный вопрос - как достигли такой универсальности? Руководитель Yandex AI Studio Артур Самигуллин рассказал как раз про это. Если кратко, они очень тщательно проработали систему навыков. Их разделили на:

1. Горизонтальные - это общие навыки, применимые для разных компаний и сервисов. Типа "собрать презу". Такие встраиваются в агента плагинами/скиллами.

2. Вертикальные - работа с конкретными аппками партнёров, вроде Гаранта или Битрикса. Тут модель дообучают совместно с партнёром. Сейчас подключены 22 партнёра (часть из них видно на фотке, которая у меня расплылась), но список планируют расширять.

3. И ещё есть специальные навыки. Это когда агента кастомизируют под любую конкретную задачу. Для этого есть отдельный модуль.

Далее Лена Белоброва из команды AI Studio показала конкретный сценарий. Я для вас пофоткал, можете глянуть - но вообще, можно дать любую задачу в чатике текстом или голосом, агент через внутренние коннекторы подтянет доки, календари, почты и т.д., а в инете найдёт недостающие детали. Может указать, что конкретно надо фиксить в договоре Х с ООО "Ромашка", и почему продажи за второй квартал упали. Потом агент поставит тикет, закинет письмо на почту и т.д. А, ну и всю дорогу будет как можно больше контекста подтягивать.

Аналогично и для кода - в SourceCraft анонсировали ИИ‑агентов, которых компании могут назначить исполнителями в GitLab, и они сами подготовят окружение, изменят код, запустят тесты и отдадут результат на ревью.

Ещё показали кейс, где Алиса AI Про нашла инфу по сотрудникам, которые будут на встрече. Потом она нарыла, что парочка из участников уже пользовались нужным продуктом (видимо, инфа была в корп базе - значит, им будет проще рассказывать), и собрала презу на встречу с учётом этого.

В общем, даже я впечатлился уровнем гибкости, кастомизации и "энд-ту-эндности", плюс системой навыков. Хотя я эйай изучаю много и в теме хорошенько варюсь.

Но даже это не главный анонс конфы, потому что дальше будет кое-что ещё более масштабное, об этом в следующем посте.

Дизраптор