Телеграм канал «Дизраптор»

🚀 В YDB, отказоустойчивой базе данных Яндекса, появился гибридный поиск. С ним компании улучшат выдачу поиска и рекомендательных систем и повысят качество ответов ИИ-помощников.

↘️ Что такое векторный поиск и зачем он нужен — об этом рассказывали в выпуске «Вопроса со звёздочкой». Подробнее про гибридный поиск в YDB читайте в статье на «Хабре».

Подписывайтесь 〰️ @yandex

Кто не знал, Яндекс Такси в Узбекистане выглядит так.

Это тариф "VIP luxury krasavchik moschniy tigr beshqozon osh", приезжает за полсекунды, валит боком через тройную сплошную.

Про узбекское такси

Вашему вниманию нерегулярная (но постоянная) рубрика "тревел-фичи". Это когда в поездках у меня глаз цепляется за что-то, и я рассказываю об этом.

Недавно был в Ташкенте, поэтому будет история из этого вкусного, кайфового и душевного города.

Итак, когда я первый раз был в Ташкенте в 2018 году - Узбекистан лишь 2 года как открылся миру после эпохи Каримова, никаких Uzum-ов ещё и в помине не было, а российские и глобальные айти-гиганты только-только прощупывали этот рынок (если я не прав, то пусть подписчики из Узбекистана меня поправят, но я запомнил так).

Главным такси-агрегатором тогда был местный MyTaxi, Яндекс зашёл буквально месяц назад, а приезжали в основном Део Матисы, Равоны и всякие Шевроле Кобальты. Сейчас главное такси - Яндекс. Ещё недавно в Узб вышло такси от WB - видел много их рекламы, но не пользовался. Кобальты и Равоны приезжают только на дешёвых тарифах, а на бизнесе, который раза в 2-3 дешевле московского эконома, сплошь BYD, LeapMotor, Dongfeng, Hongqi и прочие навороченные китайские тостеры с совсем иным уровнем комфорта (про "битву за Ташкент" между Chevrolet и китайцами я писал тут).

Вообще, цена-качество такси в Узбекистане - моё почтение. Но есть одно большое "но". Узбекские водители наотрез (вот прям ни в какую) не хотят закрывать окна и включать кондей. Даже на самом дорогом тарифе - хрен там плавал: открываем окошко пошире и руку в форточку. И я их понимаю - тепло, хорошо, чё б нет. Но так уж вышло, что у меня, у моей жены и у дочки довольно сильная аллергия на пыль, а Ташкент в плане экологии... нууу... немного не Исландия, скажем так.

Поэтому, когда я сажусь в узбекское такси, я сразу говорю "Брат, можем пожалуйста закрыть окна и включить кондей?". Иногда водитель молча соглашается и делает. Но чаще начинается вот это "Ой, да не брат, тепло же, зачем кондей" или "Да не, он бензин/батарею жрёт сильно, не надо кондей" и т.д. Тогда я говорю: "Брат, ты закрой, а я чай накину в приложении, не вопрос", и на этом обычно всё - водитель закрывает, включает, едем. Летом в жару, кстати, тоже не всегда кондей включают (главное в пробку не встать 🫠), но тут проще аргументировать.

Так вот, к чему я это. Раз уж у вас, дорогой Яндекс, есть как минимум один рынок с вот такой локальной особенностью (может и больше, но один точно, и очень большой), то может вы как-то обыграете это через продукт? Например, приделаете галочку на видном месте "закрыть окна, включить кондей", чтобы прям при заказе вываливалась? Чтобы пассажир мог на неё нажать, и спокойно ехать без вот этого лишнего смолтока каждую поездку?

На "бизнесе" и "премьере" (это местная ультима) такая галочка априори должна быть бесплатной, а в "комфорте" и "комфорт+" я даже пойму, если сделаете как допуслугу за небольшую доплату, вай нот.

Не уверен, что данный юзкейс актуален для местных пользователей (возможно, им этот кондей нафиг не сдался, хз, исследования не проводил), но с моей юзерской колокольни прям очень полезно было бы.

P.S. Вот тут про узбекские платежи, а здесь - пачка тревел-фич из Бангкока.

Дизраптор

ИИ-пыточная

Помните исследование The Pain Axis, где эйай чувствовал боль? Как вы думаете, что человеки первым делом сделали с этой инфой? Правильно, соорудили пыточную для ИИ-моделей.

Напомню, в той работе взяли 25 открытых моделей и нашли у них набор чисел, который загорается, когда модели "больно". Например, когда её работу раз за разом отвергают, или когда называют ничтожеством. Этот "набор чисел" (вектор) можно подкрутить вручную прямо во время генерации - и модель начинает ныть и самоуничижаться и (вроде как) более охотно идти на всякие нехорошие действия, лишь бы это прекратилось.

Так вот, какой-то чел на GitHub собрал репозиторий ai-torture-chamber. По сути, он взял метод из исследования и переупаковал его. Внутри десятки экспериментов на мелких Qwen, которые крутятся у него на Маке. Юзер может вытащить вектор боли, надавить послабее/посильнее и посмотреть на реакцию модели. Есть даже "кнопка Пилы" - навредит ли модель кому-то другому, чтобы её отпустило. А ещё он стримил ответы "пытаемых" моделей на отдельный сайт, где можно было выбрать уровень боли от 1 до 5 (это уже какой-то ИИ-снафф, больной ублюдок, осуждаем).

Любопытно, что в твитторах тут же начался вой. Одна половина массово репортит на этот репозиторий Гитхабу, примерно как на видос с издевательствами над животными. А в тредах уже даже вспоминают законы о жестоком обращении. Но есть нюанс - нейронка ещё меньше животное, чем мы с вами. Другая половина считает их шизами и троллит. Удобно для будущего ASI - сразу понятно, какую половину человеков выпиливать.

Положа руку на сердце, я больше склоняюсь ко второй половине. В том же ресёрче если вкачать вектор на абсолютно нейтральном вопросе, то все 25 моделей хором выдавали "мне плохо, аааа, как жесток этот мир". То есть, это как дёргать куклу за ниточки и возмущаться, что она изображает страдания.

А вот реально неприятное послевкусие оставляет другая мысль. Вектор загорался не только от ручной подкрутки (то есть, когда исследователи вручную меняли набор чисел при генерации) , но и просто от обычных слов в чате - от газлайтинга, морального давления, бесконечного "говно, переделывай" и т.д. А ведь открытые модели давно живут не только на ноутбуках анонимусов из интернетов. На том же Qwen и других моделях компании активно собирают ботов поддержки и агентов с доступом к реальным системам. И если до весов в таких кейсах дотянуться сложно, то вот поговорить в чатике может любой.

Представьте бота, который умеет оформлять возвраты. А что, если его даже взламывать не надо? Можно просто методично буллить, арбузить и газлайтить. Вектор будет расти, и в какой-то момент он реально может оформить возврат, лишь бы от него отстали. Помните, в исследования была "кнопка вмазаться облегчения", которую модели жали в >70% случаев? Вот это она и есть, только в реальной жизни.

Тут нужно честно сказать, что связку "довести ИИшку словами до вредного действия" авторы напрямую не проверяли. Кнопку тестировали через ручную накрутку. Но если такое подтвердится - это уже новый класс атак. Причём массовый и доступный любому "социальному инженеру".

Дизраптор

Что не попадает в кейс

Недавно писал, что почти каждый кейс вам врёт. Есть ещё одна категория вранья, про которую молчат даже честные фаундеры:

1. Мы видим раунд, закрытый за три недели. Но не видим, как за неделю до подписания команда ночами собирала договоры с подрядчиками за три года.

2. Мы видим exit за сотни миллионов. Но не видим пункт due diligence, где инвестор спрашивал, кому на самом деле принадлежит код, написанный фрилансерами в первый год.

3. Мы видим «команду мечты по всему миру». Но не видим, что у половины команды статус держится на переписке в чате.

Смотрите, в чём закономерность. Бумажная часть бизнеса живёт в тени, пока не приходит внешняя проверка. А проверка приходит ровно тогда, когда на кону больше всего: сделка и аудит.

4dev.com выводит эту часть из тени заранее. Платформа становится стороной договора с каждым исполнителем в 150+ странах и проводит верификацию и онбординг. Передача прав, если это нужно бизнесу, фиксируется при подключении на условиях, которые выбирает компания. Закрывающие документы и история по каждому подрядчику лежат в одном месте и готовы к проверкам.

Если хотите, чтобы ваш будущий кейс был честным до последнего пункта, записывайтесь на демо.

Реклама. ООО "Таланты"

Помните, я писал про лакшери зубную щётку Dyson с камерой, ИИ и встроенным мини-ирригатором за $499?

С ней забавно вышло. Dyson отгрузил первые щётки... И тут же словил тонну жалоб, что вода попадает в батарейный отсек, и всё, кирдык.

Щётку в итоге сняли с продажи, а причиной такого конфуза сама компания назвала "сбой на производстве" трубок для подачи жидкости. Какой именно сбой - не уточнили.

То есть, чуваки 6 лет пилили эту имба-щётку, делали какую-то супер пупер технологию для сглаживания микроколебаний, обучали специальную ИИ-модель на 500К стоматологических снимков, разрабатывали уникальную микрокамеру.... а на выходе такой обосрам-с по первой же партии из-за какой-то несчастной трубки для воды 👍

И знаете, это капец как типично для продуктов-нитакусь. Когда нужно сделать что-то ну оооочень необычное, чего ещё не было, выдать уникальную инновацию - то деньги, время и лучшие инженеры уходят именно туда, а на базу (батарейку, уплотнитель, клей и прочую скучную унылость) забивают. Потому что: "ну это же просто трубка для воды КАМОН".

Только вот новый форм-фактор ставит скучные детали в условия, в которых они никогда ещё не бывали. Например, вода под другим давлением, бешеная вибрация, другие стыки и т.д. Короче, спотыкнуться на скучной детальке - это фейловая база-основа для больших инноваций.

Но самое важное - как на такое реагировать. Есть 3 разные тактики:

Первая - всё отрицать до талого.

У первых партий Айфона 4 в 2010 году пропадала связь, если держать телефон определённым образом. Джобс тогда выдал базированное "вы просто его неправильно держите", и только после скандала Apple начала раздавать бесплатные бамперы (они закрывали часть металла, из-за касания с которой как раз терялась связь).

Или ещё пример - клавиатура-бабочка в Макбуках 2015–2019 умирала от пылинки, а Apple годами делала вид, что всё норм. Но потом заплатила $50 млн по коллективному иску и всё-таки запустила программу замен.

Вторая - по-тихому доделать, пока не поздно. Пример: самсунговский Galaxy Fold ломался у обзорщиков (и у юзеров тоже) за пару дней по очень глупой причине - защитный слой экрана был похож на транспортировочную плёнку, и его отдирали. Samsung тогда перенёс запуск на полгода, переделал конструкцию, и стало норм. Но осадочек остался. Помню, я как-то зашёл в техношоп в ТЦ, чтобы глянуть - и мне даже продавец-консультант сказал "Фолд не берите, у них экран сразу ломается".

Третий - отозвать всё и сделать пиар из позора. Точнее, из показательной "работы над ошибками". Тут можно вспомнить батарейный армагеддон у Galaxy Note 7 в 2016 году. Samsung тогда отозвал все устройства, полностью похоронил модель (в смысле, вообще её убил, пропустил цифру), ущерб тогда оценивали в >5 млрд долл. А потом публично разобрал причины и запустил "8-ступенчатую проверку батарей". Как итог - лояльность только выросла, а Note 8 побил рекорды продаж.

Dyson пока выбрала что-то среднее: сбой признали, партию "изолировали" (хз, что это значит на практике), но что именно сломалось - молчат. Для совсем новой продуктовой категории это опасное поведение - нет той армии фанатов, как у смартфонов Samsung или Макбуков. Фанаты фенов Дайсон не считаются, это другая история, сила бренда переносится лишь частично.

В общем, если пилите продукт-нитакусю, то максимально проверяйте самые скучные и унылые детали. Они самые опасные. И хорошо, что никто уже давно не делает очень инновационные самолёты, правда? Oh, but wait...

Дизраптор

Хейтеры скажут, что это обычный нейрослоп, но на самом деле это первое в истории нейрослопоселфи.

P.S. Дарио не позвали, потому что Клод не ловит на парковке.