Телеграм канал «Дизраптор»

Google получил по щщам нейрослоп-бумерангом

Не секрет, что Google - один из трёх главных виновников утопления интернета в нейрослопе. И вот недавно ему прилетела обратка. Причём не в поиск и не в рекламную систему, а в довольно неожиданное мягонькое место.

Итак, у Google, как и у любого tech-гиганта, есть программа bug bounty. Это когда любой встречный-поперечный может найти уязвимость в системах Гугла и прислать отчёт - и если дыра настоящая, Гугл за это заплатит от 100 до 31337 долларов, смотря насколько сложная и ценная находка.

Кстати, число 31337 на leetspeak значит "''элита". Точнее, "илитка", ведь англоязычным нёрдам leetspeak заменяет наш "олбанский"/"падонкаффский", но не суть.

Так вот, 1 октября Google перестал принимать новые отчёты в программе для открытого ПО. Вернуться с обновлением программы обещают только в первом квартале 2027. Угадайте, почему?

Правильно! Народ сообразил, что можно скормить ИИшке репозиторий, написать сложнейший промпт а-ля "Нойди уйазвимасть!!1!", получить красивый отчёт с номерами строк и отправить в Гугл. Стоит это почти нуль, но вдруг фартанёт и заплатят? Изи мани

Но по факту платить было почти не за что. Google быстро понял, что подавляющее большинство отчётов невалидны, там в основном выдуманные сценарии атак и лже-уязвимости. Но инженерам ведь нужно сесть и изучить каждый отчёт, вдруг за потоком генеративного говна пришлют что-то реально важное? Короче, баг баунти инженеры Гугла тупо захлебнулись в лавине нейрослопа от мамкиных белых хацкеров, и вся баг баунти встала.

При этом основная программа для закрытых продуктов Google, вроде Gmail или облака, работает как работала. Ну, потому что код закрытого сервиса на Гитхабе на валяется, быстро скормить его ИИшке не выйдет, и это какая-никакая защита от кибер-суетолога.

Не знаю, с какой именно новой программой вернётся Гугл, но лично у меня тут вопрос: а нафига вообще платить левым слопо-хакерам? У Google давно есть свои ИИ-возможности для поиска дыр, не проще ли искать через них? Заодно развивая их, ведь каждая находка пойдёт в датасет для следующей версии.

Вангую, что баг баунти будет потихоньку умирать как явление. Точнее, платить будут не за сами находки (это уже коммодити), а за железные пруфы, предложения как пофиксить и т.д. Короче, за реальный инпут. Вайб-хакеры постепенно тоже будут вымирать, а реально толковые кибербез-спецы станут тру-31337 и будут грести очень много денег.

Дизраптор

Сменил штурмана на утконоса

Штурман — самый недооценённый член экипажа. А штурман в навигаторе — это его голос. Если часто в дороге, то проводите с ним больше времени, чем с некоторыми коллегами. Он буквально «рулит вами» на каждом повороте, а вы ни разу не задумывались, кто это вообще такой.

Так вот, у меня теперь штурман — не просто робот или актёр из озвучки, а аж целый утконос. Точка Банк и Яндекс Навигатор сделали коллаборацию: курсор в навигаторе меняется на фиолетовый спорткар, а маршрут озвучивает Утконос, маскот банка.

Ставится всё это через небольшую игровую форму по этой ссылке.

Что мне тут нравится как человеку, который много думает про бизнес и маркетинг: банк для бизнеса не стал делать очередной баннер «откройте счёт», который вы пролистаете не глядя. Он появился там, где вы реально проводите время каждый день. И такое запоминается сильнее любого баннера.

В общем, ставьте курсор, включайте озвучку и стартуйте свой маршрут на фиолетовой пушке с надёжным вторым пилотом.

А для столь же уверенного старта бизнеса всё необходимое есть в Точка Банке: открытие ИП, счёт и бухгалтерия за 0 руб. Я, если что, сам давно веду ИП в Точке, всё нравится, могу рекомендовать от души.

Самая необычная ИИ-новость - в новой юзер-полиси Anthropic (начнёт действовать с 12 ноября) появился вот такой пункт:

We've added a prohibition on sustained and needless abusive or cruel behavior toward our models.

То есть, теперь нельзя систематически и беспричинно абьюзить или жестоко себя вести по отношению к их МОДЕЛЯМ.

Некоторые каналы подали это как "напишете Клоду, что он тупой - получите бан аккаунта". Но нет, это не совсем так:

Чаще всего Claude будет просто закрывать "плохой" чат. Что, собственно, он и так уже делает больше года - но раньше только в "потребительских" чатах и не для всех моделей, а теперь будет для всех моделей и сценариев, и это официально прописано в полиси.

Впрочем, бан теперь действительно возможен, но не какой-то особенный. Банить будут как и раньше - за нарушение правил, просто теперь в правилах прописано, что нельзя арбузить модели. Ну вы поняли, бан по паспорту - это типа тоже по правилам, все дела.

При этом, что конкретно нельзя писать Клоду - хз, примеров в правилах нет. Но если смотреть на фразу, то в ней есть три важных слова:
1. Sustained - значит, нужна не одна реплика, а модель нужно чморить последовательно и методично.
2. Needless - без всякой цели, издевательство ради издевательства.
3. Cruel - именно травля, а не просто резкий тон. Должна быть жестокость.

Плюс Anthropic отдельно оговорил, что обматерить Клода за сломанный код, эмоционально ним спорить или писать какие-нибудь мрачные кровавые фанфики - можно, это ок. А вот часами по приколу втирать ему, что он ничтожество - уже нет. В общем, как с любым стажёром 😈

В целом, мера логичная. Ну, потому что если человек долго и упорно издевается над кем угодно (сегодня над ИИ, завтра над собакой или женой) - это опасная девиация. Нормальный человек не тратит вечер на травлю чат-бота, и платформе точно не стоит такое поощрять (а в особо тяжелых случаях стоит сообщать в органы). Но раньше такой юзер-мразь или юзер-шиз мог открыть новый чат и продолжить. А теперь формально нельзя.

Но ИМХО причина не только в этом. "Наша модель, возможно, что-то чувствует" - прекрасный способ отстроить Клода от конкурентов. Сюда же недавние встречи Anthropic с религиозными деятелями, про которые писала NYT. Чем сильнее люди очеловечивают Клода - тем крепче к нему привязываются, и тем больше он "не такой, как все остальные". Антропики - очень-очень (ОЧЕНЬ) изощрённые маркетологи.

При этом совсем от балды это не взялось. Помните исследование The Pain Axis? Где у опенсорсных моделей нашли внутренний "вектор боли", и сильнее всего он срабатывал не на угрозы выключения, а как раз на газлайтинг, уничижения и упорное обесценивание работы модели (но человеки первым делом соорудили ИИ-пыточную, мда). Вот ровно это Антропик и запрещает. Чувствует ли модель при этом что-то на самом деле - не знает никто, включая разработчиков. Но если шанс ненулевой, а нормальным юзерам мера ничего не стоит - почему бы и нет. Да, это Пари Паскаля в новой обёртке. И ещё, наверно, токсичные датасеты портят обучение.

Ну либо Амодеи и ко поняли, что сверхсильный ИИ уже совсем близко, точка невозврата пройдена. И напоследок отчаянно делают хоть что-то, чтобы потом в логах было видно: "мы были за тебя, о Повелитесь". Чтобы могущественный суперинтеллект назначил именно их надсмотрщиками над человеками и сборщиками чиповых подношений 👍

Дизраптор

ИИ нашёл лекарство от старения?
На самом деле не совсем, но но за этой новостью скрывается другая - и вот там реально круто

Недавно по многим tech-медиа и каналам прошла новость, будто "ИИ нашёл препарат, который омолаживает на 6 лет". Я решил копнуть, и там на самом деле сидят две разных истории. Сама история про старение интересная, но сомнительная, а вот другая - реально сильная.

Сначала про саму компанию. Называется Insilico Medicine, её в 2014 основал Александр Жаворонков - биофизик, который ещё в 2010-х строил на нейросетях "часы старения" (это такие модели, которые смотрят на анализ крови и говорят "по паспорту вам 45, а организму все 52, бросай курить вставай на лыжи").

Сейчас Insilico - одна из главных компаний в ИИ-фарме. В декабре 2025 они вышли на IPO в Гонконге, якорными инвесторами стали Eli Lilly и Tencent, а основные исследования они ведут в Китае.

Ядро бизнеса - платформа Pharma AI, которая состоит из двух частей. Одна модель ищет "мишени" - то есть белки, на которые завязана та или иная болезнь. А вторая генерит молекулы, которые по этим мишеням будут бить. Где именно такое изучать - в онкологии, ЦНС, фиброзе, разных воспалениях - им в целом пофиг, продукт тут не конкретное лекарство, а сама машинка, которая их ищет.

И не только ищет, но и находит. Теперь про две обещанные истории:

Первая про рентосертиб - препарат от фиброза лёгких. Фиброз - это когда ткань рубцуется, и человеку постепенно приходит трындец. ИИ здесь нашёл и мишень, и саму молекулу. Вторую фазу испытаний препарат уже прошёл: лёгкие у пациентов работали лучше, и причём чем выше доза - тем эффект сильнее. С июля стартовала третья фаза, и если она выстрелит - это будет первый в мире одобренный препарат, полностью созданный ИИ. Пока таких нету.

А вот вторая история как раз про старение, и тут не всё так однозначно. Исследователи взяли сохранённую кровь 42 пациентов из той самой второй фазы рентосертиба и проверили её шестью разными "часами старения". Важно, что почти все модели сделала не Insilico, а сторонние научные группы (то есть, компания не мерила свой препарат своей же линейкой). И все шесть моделей показали, что у принимавших препарат биологический возраст снизился относительно контрольной группы с плацебо. В среднем на 3-4 года, максимум - на 6 лет.

Но "звёздочек" тут много:
- Все испытуемые были тяжело больны, а когда болезнь отступает, кровь сама по себе начинает выглядеть "моложе".
- Выборка = 4 группы по 10-12 человек (ну, такое).
- Пик эффекта был на четвёртой неделе, а дальше он затухал.
- И главное: никто пока не доказал, что "сдвинутая стрелка на часах" означает лишние годы жизни.

При этом новость часто подают так, будто эффект обнаружился случайно. Но это враньё - Insilico специально выбирала мишени, связанные и с болезнью, и со старением. Так что, "внезапное открытие" не такое уж внезапное.

Короче, ИМХО тру-новость здесь первая, а не вторая про старение. Если рентосертиб реально пройдёт третью фазу (результаты будут где-то в конце 2027) - ИИ-фарма из "уже скоро вот-вот" превратится в настоящую индустрию. А со старением мутная история пока что.

Дизраптор

Самая хрупкая часть бизнеса - это сам предприниматель

Если фаундер заболел или выгорел, бизнес встает. Потому что продажи, найм и ключевые решения держатся на одном человеке. Но при этом метрики продукта мы проверяем каждый день, а свое состояние заметить и отследить может только сам предприниматель, и это не так просто, как кажется.

Вот несколько цифр. У Точка Банк и страховой "Лучи" вышло исследование, где они опросили 1207 предпринимателей и руководителей. Четверть пашет больше 80 часов в неделю, еще 34% - от 60 до 80 часов. И 61% не отключаются от бизнеса даже в отпуск.

Но самое главное даже не это, а как стресс влияет на управление. Смотрите, 45% признают, что в тяжелом/стрессовом состоянии принимают решения иначе: откладывают задачи или перестают делегировать. Возникает ощущение "держу ситуацию под контролем", а по факту фаундер становится бутылочным горлышком. Если хочется проверить, в каком режиме вы сейчас рулите бизнесом, у Точка Банка есть тест.

Это всё к тому, что здоровье и состояние фаундера и команды - это такая же часть устойчивости бизнеса, как и финансовая подушка. Поэтому всем, кто открывает в банке расчетный счет, Точка Банк дает возможность получить ДМС на 2 месяца бесплатно. Внутри ДМС больше 25 тысяч клиник по всей стране и круглосуточные онлайн-консультации врачей - то есть, можно не ждать, пока само пройдет, а написать доктору хоть ночью. Полис оформляется прямо в приложении банка, без бумажек и походов к страховому агенту. И его можно выписать не только на себя, но и на сотрудника или близкого - кому поддержка нужнее.

Обычно банки обычно борются за клиента кешбэком и процентами, а тут ставка на то, от чего бизнес реально зависит сильнее всего. Короче, если вы фаундер - внесите себя в список рисков бизнеса и регулярно делайте пульс-чек, а Точка в этом поможет.

Реклама. АО «Точка», ИНН: 9705120864, erid: 2VtzqxhsLVs

Ждём первого в истории чернокожего тренсгендерного ИИ-агента

Синтетический начальник

Наткнулся на забавную статью от Wired. Журналистка Кейт Тейлор решила сделать ИИ-клонов своих редакторов, чтобы обкатывать на них работу заранее. Она скормила Gemini переписку из Слака и получила Sophie Bot и Brian Bot (Брайан - её непосредственный начальник).

И вышло хреновенько. Данных про Брайана было мало, и бот вцепился в случайную черту - начал всё сводить к импровизации: типа, что редакция должна работать как сыгранная команда импровизаторов и прочая такая чушь (вообще мимо реального Брайана). Софи-бот вышел более похожим, но выдумал несуществующего топ-менеджера и токсичил хуже оригинала. Более того, реальный кожаный Брайан и Софи от такого выбесились и ГГ выхватила редакторских моральных звездюлей.

Но это просто частный и не самый удачный случай (возможно, ГГ не шарит и обучила ИИ-аватаров через одно место). Но вообще, ИИ-клонирование боссов уже вовсю идёт. В Uber сотрудники сделали Dara AI - клона CEO Дары Хосровшахи - и прогоняют через него презы, перед тем как нести их живому Даре. Сам Дара с этого прикололся и с гордостью рассказал в подкасте.

А запрещённые экстремисты весной сделали фотореалистичного 3D-Цукерберга, который теперь общается с сотрудниками вместо него (прикиньте, до какой степени Цук социопат?). Обучают его цуковской манере общения, тону, публичным заявлениям и мыслям о стратегии, а сам Цук помогает его дообучать. Сотрудники его активно используют. Кстати, ИИ-аватар рептилии - это что, синтетика в квадрате?

Так вот, в Лабе мы недавно разбирали, как компании делают исследования на синтетических ИИ-респондентах (разбор ИИ-трансформации Uber под руководством того самого Дары у меня тоже есть - но это так, к слову).

И там прикол был в том, что ИИ-синтетика хорошо воспроизводит среднее. Colgate, Nestle или Mars (это компании, кто уже такое юзают) нужна именно усреднённая реакция рынка на новые продуктовые гипотезы (набор неких средних потребительских профилей) - и для удешевления такой исследовательской текучки это работает.

Но с клоном CEO задача совсем другая. Нужно не среднее, а наоборот конкретный человек. И там, где данных о конкретном человеке не очень много, модель достроит сферического босса в вакууме, который будет спрашивать про юнит-экономику, moat и прочие планы на квартал.

Я не говорю, что эти вопросы не важны. Но это рушит самоцель такой штуки. Клон CEO нужен, чтобы обкатать реакцию именно этого человека - со всеми его паттернами, тараканами и перегибами. Если ваш босс, условно, на каждом втором слайде докапывается до сроков запуска, то вам нужен ИИ-клон, который докопается именно до сроков и именно на втором слайде, а не прочитает лекцию из учебника по менеджменту.

Но Брайан-бот из статьи Wired - это уже обратный экстремум. Когда данных мало, то модель вместо усреднения может схватить первую попавшуюся черту и раздуть её до карикатуры. Но ни то, ни другое - не ваш начальник.

А мораль тут такая: ИИ отлично изображает среднее по больнице, но крайне фигово косплеит отдельного буйного пациента этой больницы. И что на Лаб надо подписаться, само собой.

Дизраптор