Телеграм канал «Take Friends to Luna Park»

tl;dr: software engineer (full-time in SF $230k-280k + equity or remote contractor $60-80/hour)

Помните трёхдневного CEO OpenAI? Зовём вас к нему писать видеоигру. В неё играют AI-агенты, и на самом деле это бенчмарк кооперативности. А ещё она решает алайнмент, но компания — не AI safety. Надеемся, вы немного заинтригованы 🎮

Итак: в 2023 Илья Суцкевер и борд OpenAI уволили Сэма Альтмана. На его место позвали Эммета Шира, бывшего CEO Twitch — он согласился, но потребовал независимое расследование и доказательства против Альтмана. Но за следующие трое суток 95% сотрудников подписали открытое письмо в поддержку Альтмана и пригрозили уйти, если его не вернут. Борд сдался, Сэм вернулся, все сделали вид, что ничего не произошло — а в твиттере родился мем «What did Ilya see?» и разошлись слухи о секретном проекте Q* и прорыве к AGI 🍓

Что там увидел Илья, мы до сих пор не знаем. А вот Эммет увидел отсутствие реального плана в топ-1 AI-лабе мира, очень расстроился и вместе с Адамом Голдстином (основатель Hipmunk) и Дэвидом Блумином (советник Цукерберга в Facebook) основал Softmax 💙

Softmax считают, что пытаться контролировать модели, как это обычно делают в сейфти — обречённая затея. Вместо этого они хотят научить модели кооперироваться в широком смысле: и друг с другом, и с людьми — и называют это organic alignment 🍀

Прямо сейчас команда делает 5v5 игру-бенчмарк в духе Dota/LoL. Ресёрчеры сабмитят своих агентов — и бенчмарк оценивает, насколько хорошо они умеют не стилить крипов кооперироваться и не тащить одеяло на себя. За спиной у Softmax, кроме офигенной команды, уже есть раунд от Andreessen Horowitz и Lionheart 🎮

Попасть к ним есть два способа — можно в офис в США, а можно удалённо как контрактор📎

Для офиса понадобится или уже быть в США, или хотя бы иметь визу, чтобы приехать на work trial. Планка там несколько выше, но и вилка, конечно, тоже. Плюс есть эквити.

А если вы пока не готовы коммититься на переезд и хождение в офис каждый день, или вам больше нравится спокойно закрывать issues, чем переживать про big picture органического алайнмента — можно стать контрактором.

По требованиям:
🎯 сильный инженерный бэкграунд;
🎯 Python и/или C++;
🎯 хороший письменный английский;
➕опыт с distributed systems, или ML/DS, или visualisation tools — плюс.

Для SF вилка $230k-280k + equity. Для контракторов — $60-80/hour. Можно перейти в штат, если зайдёт обеим сторонам 🏠

Пишите Феде @owlkov ❤️

tl;dr: ml data engineers and ml research engineers, $130k-200k + equity, London

Это будет короткий пост: Recraft выпустили новую модель V4 и она непростительно хороша. Её главная суперспособность — делать фэшн и дизайнерские штуки. Разница выходит примерно как между профессиональной художественной съёмкой и картинками с фотостока.

У Рекрафт есть $30M инвестиций, больше 4 миллионов пользователей и $5M ARR. Их прошлая модель, V3 несколько месяцев держалась в топ-1 text-to-image арены. V4 пока устойчиво держится в топ-1 в сердечке у редакции, полдня генерируем картинки. Если бы мы могли, то сами бы пошли к ним работать, но мы, в основном, не ML-инженеры, а вот вы — можете.

ML Data Engineer :
📍отличное знание Python и опыт с k8s;
📍опыт работы с неструктурированными данными, особенно картинками;
📍опыт разработки инструментов для data ingestion и парсинга.

ML Research Engineer:
🟡уже тренировал большие генеративные модели;
🟡отлично разбирается в PyTorch;
🟡умеет и готов отвечать за весь тренировочный пайплайн от сбора данных до инференса.

Платят $130k-175k для DE и $130-200k для RE, плюс эквити. Перевозят в Лондон. Присылайте резюме и вопросы Диане @yourdivna, а стильные картинки от V4 — в комментарии.

tl;dr: research engineer + research scientist, non-profit, full-time or short-term for NeurIPS submission, $60k-250k, remote

Посадили как-то нейроученого, биолога и правоведа писать статьи по безопасности ИИ — а она им как раз 🎩

📘 Нейроученый обнаружил, что когда модель лжёт — это видно по внутренним активациям — ICML 2024.
🪐 Биолог в компании теорфизиков доказал, что трансформеры строят что-то вроде модели мира, чтобы предсказать следующий токен — NeurIPS 2024.
✏️ Профессор права расписал, как по уже существующим законам можно привлекать разработчиков ИИ к ответственности за катастрофический ущерб. Об этом написал Vox 🎩

Как вы уже поняли, это не юмореска. Это нонпрофит Principles of Intelligence (PIBBSS). Они платят стипендии ресёрчерам из разных сфер, а те взамен пишут статьи по сейфти. Ученым нравится — настолько, что они потом часто меняют профиль и идут работать в Anthropic или DeepMind. Организацию спонсирует Open Philantropy, и за два года грант от них увеличился в 7 раз.

Скоро дедлайн NeurIPS, и PIBBSS хотят успеть к нему несколько новых статей в своем mech interpretability подразделении. Поэтому можно подписаться на короткий контракт до 11 мая, а можно — сразу на долгий фуллтайм. Темы — реверс-инжиниринг моделей, интерпретируемость на этапе обучения и интерпретируемые из коробки архитектуры. Ищут два профиля:

Research Engineer:
🔸 Сильный SWE-бэкграунд;
🔹 Опыт с ML;
🔵 Сможете запустить эвалы на LLM.
🔸 Плюсом будут: GPU-программирование (CUDA/Triton), распределённые вычисления, курсы по AI Safety вроде ARENA.

Research Scientist:
🔸 PhD или несколько лет исследовательского опыта в CS, математике, физике или экономике;
▫️ Публикации в ML или смежных областях. Идеально, если в interpretability, но PIBBSS — междисциплинарные и умеют работать с разными направлениями.
▪️ Плюсом будет: если вы лидили исследовательские проекты по ML.

Как мы уже сказали, можно вписаться в контракт на пару месяцев с возможностью перейти потом на фуллтайм — а можно сразу решиться на фуллтайм. Платят $60k-$180k в год для инженеров, и $80k-$250k — для ресёрчеров, в зависимости от вашей локации и опыта.

Пишите Даше: @d_shteinardt 💌

tl;dr: backend / ai engineers (Python), $115k-140k + equity, Munich

Мы любим healthtech — да и кто его не любит: это же возможность помогать людям в действительно важной сфере жизни! 🏥

Но по-настоящему клёвых стартапов в health (не wellness!) не так уж много. Миллионы регуляций, сложная экономика — и не так много способов встроиться в эту систему так, чтобы при этом зарабатывать деньги.

Тем круче кажется нам бизнес-модель Neru Health, для которых мы снова ищем инженеров. Как вы помните, они делают AI-поддержку для пациентов, использующих медицинские устройства. Начали с CPAP-масок для лечения апноэ сна — а теперь расширяются и на другие хронические заболевания!
AI-ассистент Нора отвечает на вопросы по использованию устройств, помогает разобраться с проблемами и вовремя заказывать расходники 👩‍⚕️

Благодаря этому пациенты начинают следовать рекомендациям намного чаще — но выигрывают от этого не только они: рады ещё и провайдеры оборудования. Страховые компании в США компенсируют провайдеру расходы, только если пациент регулярно пользуется выданным устройством. Перестал пользоваться — перестали платить 🤷‍♀️

А ещё Нора снижает нагрузку на колл-центры провайдеров — и позволяет живым специалистам заниматься более сложными кейсами. Получается win-win: пациенты получают поддержку и не забрасывают лечение, провайдеры экономят и улучшают сервис — а Neru продолжают расти и строить продукт 😼

Мы уже нашли бэкендера и млщика в их клёвую команду (МФТИ, ШАД, Гарвард, ВШЭ итд), а сейчас ищем еще двоих:

Backend Engineer:
📌3+ лет опыта на Python;
📌разбираетесь в облачной инфраструктуре;
📌готовы к стартапу: можете и думать про продукт, и мониторинг настраивать.

AI Engineer:
📌 сильный продуктовый бэкендер, который однажды ушёл строить LLM-based системы;
📌 уже работал с conversational AI — голосовым или чатовым;
📌 отлично знает Python, а может быть, и фронтенд немного.

Офис в Мюнхене, платят $115k–140k + equity, с переездом помогут внутри EU, плюс готовы рассмотреть США с другой вилкой 🥨

Присылайте резюме и все вопросы Феде @owlkov

tl;dr: founding engineers, any experience lvl, $100k–300k + equity, remote/SF/Singapore

Не знаем, следите ли вы за развитием персональных агентов и дефицитом Mac mini в Сан-Франциско — и включит ли ИИ-ассистент этот пост в ваш ежедневный дайджест.

Мы пока наблюдаем с интересом. Вот на днях директор Meta по алайнменту рассказала, как OpenClaw почистил ей почту, да так решительно, что остановить его словами не вышло — пришлось бежать выдёргивать машину из розетки 🔌

Кроме консольных агентов вроде OpenClaw, есть ещё браузерные — они «видят» ваш экран и буквально нажимают на кнопочки. В каком-то смысле это делает их "мощнее" — они могут и картинку в GIMP нарисовать, и эксель-табличку посчитать, и посмотреть на дашборд в кубернетесе, и всё — как человек, без каких-то дополнительных протоколов и девтулов.

Но и вопросов тоже больше. Оценивать работу такого агента сложнее, а хорошо его контролировать — важнее: случись что, он доберётся не только до инбокса, но и до автофилла паролей, например 🤩

Эти задачи решают HUD, наши новые клиенты. Их продукт позволяет превратить вашу продакшен-систему в RL-среду, где агентов можно запускать, оценивать и дотренировывать на ваших конкретных задачах. Успех впечатляющий — среди их клиентов фронтирные AI-лабы и крупные компании вроде DoorDash, а совсем недавно ребята подняли раунд на десятки миллионов 💸

В команде сейчас 8 человек, среди них три медалиста межнара (есть плоттвист: у фаундера золото по лингвистике).

А ищут они Founding Engineers — и готовы смотреть и синьоров, и ньюградов. Правда, чем меньше опыта, тем сильнее должны быть другие ачивки.

Как это бывает с фаундинг ролями, вместо жёстких требований тут, скорее, сигналы. Не надо иметь все сразу, но хотя бы что-то одно из списка сильно повысит ваши шансы на мэтч:

🏆 Олимпиады: хоть IOI, хоть межнар по лингвистике.

🌱 Билдерство: вы строили штуки для удовольствия — пет-проекты, стартапы, хакатоны;

🔬 Ресёрч: бэкграунд в ML/RL, опыт с LLM-системами. Это чуть более важно, если вы опытный, если ньюград — можно без.

➡️По стэку — круто, если разбираетесь в Python, Docker, Linux, React (агенты браузерные, как-никак), совсем здорово, если есть опыт с evals и агентными системами.

Вилки: зависят от локации и опыта. Ньюград на удалёнке может рассчитывать на ~$100k, миддл в SF может рассчитывать на $200k+ кэша и тотал до $400k-500k,
совсем крутышам дадут и до $300k кэшем.

Можно работать удалённо из Европы, можно переехать в хаб в SF или Сингапуре — HUD помогут с O-1.

Пишите Наро @a_nro сами — или отправьте своего агента, мы не против 🦞