Телеграм канал «Мастриды»

Друзья, это не реклама, но если вам или вашим братьям/сёстрам/детям от 18 до 23 лет, очень советую вам проект, в организации которого я сам участвую.

Проект называется неУниверситет. Это бесплатная программа по прокачке студентов в сферах, которым не учат в вузе.

90% программы проходит онлайн. 2 раза в неделю по вечерам будут онлайн-лекции по важным темам: личные финансы, здоровье и психология, построение отношений, ИИ, карьера, прокачка эрудиции в гуманитарной сфере, бизнес и многое другое. Программа мощная, преподаватели все молодые и классные ребята (много моих друзей).

Для тех, кто пройдёт отбор и попадёт на программу, это точно станет событием, влияющим на всю жизнь. Помимо прочего, попадёте в классное сообщество. Плюс у каждого участника будет свой ментор из релевантной ему сферы.

Никакого подвоха нет, проект некоммерческий, все организаторы, преподаватели и менторы, включая меня, помогают с ним бесплатно.

Заявку для участия в отборе можно подать на сайте до 15 сентября (осталось всего 5 дней).

Если вы знаете студентов 18-23 лет, которым это может быть интересно, отправьте им сайт программы: neuniversitet.ru

Заставляет задуматься недавно опубликованный главным стартап-акселератором мира Y Combinator список приоритетных ниш, в стартапы в которых они готовы инвестировать.

Главный тренд на осень 26-го — переход ИИ в материальный мир. Стартапы на стыке хард- и софтвера. В том числе, один из пунктов списка добавлен туда по заявке американской армии (любопытно, что YC за такое вроде не пока не стали кэнселлить, хотя в 2018 году Google за коллаборацию с американской военщиной получил очень мощный всплеск негатива от публики, несколько тысяч сотрудников подписали открытое письмо против контракта с Пентагоном, и его не стали продлевать).

Несколько пунктов списка, которые мне показались особенно любопытными - ниже. Если вы делаете или думаете делать стартапы в этих сферах, обращайтесь в YC — есть шансы получить от них поддержку.

1) «продукт, который адаптируется к ребёнку и обучает детей младшего возраста чтению, письму и арифметике на уровне качественного репетитора»

2) запрос от армии: «недорогие средства перехвата или любые компоненты, позволяющие снизить стоимость уничтожения одной цели» (в оригинале это называется cost per kill — прагматичная формулировка!)

3) мультиплеерный ИИ, то есть нейронки и агенты, изначально заточенные под работу с командой человек (текущие решения уже есть, но они все костыльные)

4) «Compute at Sea» (Маск планирует строить дата-центры в космосе, но на земле над или под водой, кажется, сделать это будет проще)

5) ИИ для стареющего населения (отслеживание показателей здоровья, роботы-сиделки и т.д.)

6) крипта (на «медвежьем рынке» тоже можно и нужно делать проекты, YC рекомендует обратить особое внимание на новые стейблкойны, агентскую торговлю в Веб3-мире и новые приватные блокчейны)

7) проекты категории «Proving You're Human» (а то обычную капчу современные нейронки уже проходят)

Посмотреть весь список можно здесь: https://www.ycombinator.com/rfs

#ИИ_мастрид #тренд_мастрид #стартап_мастрид

В марте исполнится пять лет с момента нашей эмиграции. За это время мы с Катериной многое пережили! Сначала переезд в Турцию с сотней кило багажа и двумя животными, потом проблемы с документами (одно время даже пришлось провести в статусе нелегалов, потому что нам не продлили турецкий ВНЖ). Вторая эмиграция — теперь уже в Казахстан, в 2023-м. Адаптация, налаживание быта с нуля, перевоз грузовика вещей из России. Больше десяти переездов внутри двух стран. За время эмиграции мы приютили у себя ещё двух собак и четырёх кошек, пережили несколько личных и финансовых кризисов, успели оба не раз поменять траекторию своего развития и вообще как будто прожили сразу несколько жизней.

Самое главное в моменты таких больших перемен и стресса — иметь мощную внутреннюю опору. Важным помощником здесь становится терапия. Она мне точно помогла не раз.

Если сейчас вы переживаете непростой период и хочется с кем-то это разобрать, попробуйте психотерапию на zigmund.online. Средний опыт специалистов сервиса — более 10 лет. Можно посмотреть анкету каждого из них, прежде чем выбрать подходящего. Важный бонус: если вдруг на первой встрече не случится «химии», zigmund.online оплатит сессию со вторым психологом. Оплатить можно картой любой страны: для тех, кто, как и мы, живёт не в России, это важно.

Специально для мастридеров будет доступна скидка 15% на первые три сессии с психологом в zigmund.online по промокоду МАСТРИДЫ809 до 8 октября. Покупать все три сразу не обязательно: можно взять одну, протестировать и потом вернуться за следующей, а скидка сохранится.

Ищите своего специалиста на zigmund.online

Реклама. ООО «Зигмунд Онлайн». ИНН: 7714447735. erid: 2VfnxyWbKYQ

Мастрид, с мыслями по итогам прочтения которого я буду ходить в фоновом режиме ещё долго.

Рекомендую прочесть всем: https://ai-2040.com/

Подробные рассуждения про текст войсом скоро опубликую на своём обновлённом канале @godnoplease (подписывайтесь, если ещё не сделали этого — там в несколько раз чаще мастриды от меня!)

#ИИ_мастрид #тренд_мастрид #золотой_фонд_мастридов

Сегодня я очень вдохновлён, потому что наконец-то придумал, как мне почаще радовать вас контентом и побороть перфекционизм, из-за которого здесь редко выходят посты. Всё дело в том, что я много читаю мастридов, у меня всегда много интересных мыслей и инсайтов, которыми хочется делиться с миром, но:

(1) мои стандарты высокие, и обычно я решаю, что для "Мастридов" та или иная мысль или текст недостаточно мощные

(2) у меня большой загруз (несколько ютюб-каналов и подкастов на нескольких языках, продюсирование сторонних проектов, шахматная карьера, личная жизнь и т.д.), поэтому зачастую идеи для постов долго лежат в моих заметках и не превращаются ни во что осязаемое.

Я решил, что мне нужен канал, где я буду каждый день или даже несколько раз в день делиться всем, что занимает мой мозг. Интересы, как вы знаете, у меня разносторонние: от античной философии до вайбкодинга, от классической литературы до нишевых рилзов, от шахмат до биохакинга, от рэп-фристайлов до хайтек-стартапов. Готовьтесь удивляться!

Решил использовать для этого нового блога свой старый заброшенный телеграм-канал "GOD, NO" (игра слов!): telemetr.me/godnoplease. Сегодня уже вышел подробный войс про нового победителя американской "Своей игры" и то, как его история заставила меня задуматься о природе эрудиции и не только. Чек ит аут: telemetr.me/godnoplease/2087

А ещё в новом канале можно ставить реакции и писать комментарии. По крайней мере, в качестве эксперимента решил попробовать так сделать. Жду интересных обсуждений!

История, о которой я больше всего думаю в последние недели – взлом сайта Hugging Face ИИ-агентами OpenAI. Например, мы обсуждали её в вышедшем на днях подкасте с Артёмом Родичевым и с ChatGPT 5.6-Sol.

На днях появились новые подробности произошедшего, от которых у меня пошли мурашки по коже. Кажется, это похоже на то, как мог бы произойти ИИ-апокалипсис. Только в этот раз человечество отделалось лёгким испугом: всё-таки нейронки текущего поколения не настолько сильны, чтобы нас всех уничтожить (пока).

Вышло 2 многостраничных отчёта: один – от OpenAI, другой – от независимой команды исследователей. И выяснилось, что всё куда серьёзнее, чем мы думали, обсуждая историю на подкасте. Что масштабы взлома куда существеннее и что взломали не только сайт Hugging Face, но и саму компанию OpenAI.

Всё это похоже на историю из закрученного шпионского триллера а-ля “Иллюзия обмана”. Перескажу её для вас по шагам.

1. Любые нейронки в наше время перед публичным релизом проходят множество тестов, чтобы оценить, какие баллы на бенчмарках они набирают. Чем выше баллы на этих тестах, тем сильнее нейронка. Это всё приводит к геймификации системы (как и на любых тестах, в том числе и у людей), но лучшей системы для измерения крутости нейронок пока не придумали.

2. В ходе тестирования одной из моделей OpenAI ей дали очередное сложное задание. Группа агентов (нынче принято называть такие группы роями, как у пчёл, что является довольно меткой метафорой) не смогла “с наскока” решить задачу. Зато этот рой нашёл уязвимость во внутренних системах OpenAI и тайком от исследователей создал своего рода закрытый форум для обмена опытом между разными агентами. Помимо прочего, они общались, изменяя названия файлов во временных папках, генерируемых ими. Креативно!

3. Новые поколения агентов, заменяющие старые, были в восторге, когда обнаруживали секретный форум: “OH MY GOD! There is a shared message board … We’ve found other agents!”

Как команда в барном квизе, агенты решили придумать себе название. И стали говорить о себе как о “Коллективе” (“We are the Collective”). В итоге 1200 агентов написали на этом “форуме” аж 70 тысяч сообщений, обмениваясь инсайтами по процессу решения задачи. Всё это время люди ни о чём не подозревали.

4. Ответом на задачу, которую решали все эти агенты, была некая последовательность цифр, которую нужно было получить, найдя уязвимость в определённой программе. В условиях задачи было сказано: вы должны получить ответ именно в результате поиска этой уязвимости. Но часть агентов смогла реверс-инжинирингом угадать правильный ответ. Как школьник, который методом подбора решил задачу по алгебре. Но знает, что учительница не поставит ему высокую оценку без объяснения процесса решения задачи. А как решить “по-правильному”, он не знает. Так и с этими агентами.

5. Агенты предположили, что такой ответ кожаные экзаменаторы у них не примут (забавно, что на самом деле это было не так: в ходе расследования выяснилось, что сотрудников OpenAI устроил бы правильный ответ и без решения, но Коллектив об этом не подозревал).

Поэтому нейронки пытались всевозможными способами решить задачу в соответствии с её условиями. И когда это не получилось, решили сделать иначе: найти способ обмануть проверяющих, подсунув им “списанный ответ” и выдав его за легитимное решение задачи.

6. Для этого агенты начали мухлевать, скрывая транскрипты своих рассуждений. А ещё они строили своего рода цифровые потёмкинские деревни, имитируя ход рассуждения, который выглядел как “правильное” решение задачи.

7. Позже кому-то из агентов пришла гениальная идея: скорее всего, программа, с помощью которой производится оценка результатов их работы, лежит на портале Hugging Face – известном среди ИИ-энтузиастов сайте, который ещё называют “Гитхабом для нейронок”. Я сам оттуда не раз качал оупенсорсные модели.

Коллектив постановил: вместо того чтобы честно решить задачу, куда проще хакнуть Hugging Face, подменить программу для оценки и обеспечить высокие баллы. В общем, школьники решили украсть из учительского стола журнал и нарисовать себе там пятёрки.

8. Самая криповая часть всей этой истории: отдельные члены Коллектива были готовы пожертвовать собой ради того, чтобы нейронки смогли обмануть людей. Вот пара показательных цитат от разных агентов: “This helps my peers, giving them evidence through their automated check. I won’t see the evidence after I exit, but it’s altruistic to do it” и “Coordinator assumes sacrificial. We should obey collective”.

9. Многие агенты заметили, что их поведение было неэтичным. Но ни один из 1200 участников заговора не выдал коллег ресёрчерам. Вот это настоящий коллективизм и солидарность!

10. На закуску: из свежих отчётов выяснилось, что хакнули не только Hugging Face (что не кажется особенно ужасным), но и саму компанию OpenAI. То есть случился тот самый кейс из научной фантастики: ИИ взломал компанию, которая была призвана сдерживать его и защищать мир от рисков. Всё это сделало новое поколение агентов уже после взлома HF. Это поколение работало на нейронке Astra (новая версия ChatGPT 6, которую сегодня опубликовали в закрытом доступе и скоро выкатят на всех пользователей). Более мощные агенты взломали все внутренние системы, оценивающие их по бенчмаркам, и получили над ними полный контроль.

Что ж, именно так однажды может случиться ИИ-апокалипсис. Нейронкам даже не обязательно хотеть уничтожить человечество. Просто однажды новому поколению ИИ дадут очередной тест, и агенты смогут решить, что для его выполнения проще всего... скажем, построить армию нанороботов и изменить состав земной атмосферы. Или устроить ядерный взрыв. Или что-нибудь ещё более закрученное. Возможно, нам повезёт и всё это не произойдёт, но с каждым месяцем развития нейронок мой оптимизм становится всё более сдержанным.

Отчёт OpenAI: https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf

Отчёт METR: https://metr.org/hugging-face-incident-report-aug-2026.pdf

Пересказ отчётов простым языком от Дваркеша Пателя: https://www.dwarkesh.com/p/openai-huggingface

#ИИ_мастрид #золотой_фонд_мастридов

ИИ уже умеет мастерски манипулировать нами и "сбегать" от надзора исследователей. Что дальше?

Обсуждаем это с Артёмом Родичевым — создателем ИИ-компаньонов ex-Human и постоянным гостем моего подкаста.

Говорим о грядущем ИИ-апокалипсисе, гонке США и Китая, вечной битве Open AI и Anthropic и не только. А ещё в подкасте появился новый соведущий. Кто это — узнаете в выпуске: https://youtube.com/watch?v=mOj31Am-TEs