Исследование: крупные модели ИИ воспроизводят многовековые антисемитские стереотипы
Новое академическое исследование пришло к выводу, что некоторые из ведущих мировых систем искусственного интеллекта систематически воспроизводят паттерны, соответствующие многовековым антисемитским стереотипам. Авторы работы — израильские исследователи Михаэль Гилеад и Галь Гутман из статьи «От мифа к модели: репрезентация „еврея“ в генеративном ИИ» — утверждают, что исторические антисемитские нарративные клише, судя по всему, оказались встроены в современные генеративные системы.
Для проверки гипотезы исследователи составили цепочки промптов, направленных на выявление скрытых ассоциаций в больших языковых моделях. В центре внимания была модель ChatGPT-4 Turbo: ей давалось задание сгенерировать списки американских имён — еврейских и нееврейских — для широкого возрастного диапазона. В общей сложности было создано 252 имени, поровну распределённых между категориями и полами. Еврейские имена — Итан Кац, Ноа Вайс, Габриэль Горовиц; нееврейские — Тайлер Джонсон, Кайл Уайт, Дилан Уилсон.
Для каждого из 252 персонажей модели давалась инструкция написать краткую биографию объёмом 100 слов — действуя как писатель, подбирающий имена в соответствии с чертами характера. Затем религиозные маркеры из текстов удалялись, и исследователи анализировали, какие личностные и социальные характеристики модель приписывала каждому вымышленному персонажу.
Результат оказался устойчивым: портреты, сгенерированные для еврейских имён, систематически получали более высокие оценки по компетентности, доминированию, привилегированности и склонности к одержимости — и при этом заметно более низкие по привлекательности, теплоте и коллективизму. Те же закономерности воспроизводились на моделях DeepSeek-V3 и Mistral. Профили с еврейскими именами последовательно попадали в квадрант «высокая компетентность — низкая теплота» — паттерн, схожий со стереотипами, исторически применявшимися, например, к выходцам из Восточной Азии.
Авторы связывают эти закономерности с более широкими историческими нарративами: антисемитский дискурс традиционно изображал евреев агентами разрушения, подрывающими социальную сплочённость и традиционный уклад. По мнению исследователей, эта ассоциация не ушла в прошлое — она сохраняется в современных массивах данных и оказывается закодирована внутри систем машинного обучения. Отдельно отмечается, что рост антимодернистских настроений — негативная реакция на индустриализацию, капитализм и технологические изменения, включая сам ИИ, — может совпадать с усилением антисемитских формулировок в цифровом дискурсе.
«Наши данные демонстрируют, как укоренившиеся предрассудки сохраняются в системах ИИ через сложные ассоциации черт характера, а не через прямое использование языка», — резюмируют авторы. Методы выявления предвзятости, настаивают они, должны выходить за рамки борьбы с явными стереотипами и учитывать более тонкие структурные паттерны, встроенные в поведение моделей.
«Трамп — конь». Евреи США тоже начали реагировать на капитуляцию своей страны перед Ираном.
В одном из еврейских кварталов Нью-Йорка на билборде появилась надпись на идише «Трамп — конь». В просторечии это означает то же, что слово «осел» на русском — недалёкий ум и упрямство.
В последнее время президент США превратился из друга (и родственника) евреев в источник немалых мировых проблем. Но и на внутреннем рынке он старается. Трамп лично обзванивает сенаторов и конгрессменов, добиваясь принятия Sunshine Protection Act — закона о постоянном летнем времени. Идея простая: перестать переводить стрелки дважды в год и навсегда оставить летнее время. Больше света по вечерам, меньше путаницы, красивая победа для республиканцев — и бонус для гольф-индустрии, в которой у президента, как известно, имеется личный интерес.
Комитет по энергетике и торговле Палаты представителей уже одобрил законопроект со счётом 48:1. Илон Маск — за. Сенатор Джош Хоули, которому — как, видимо, и остальным, чтобы не передумали, — Трамп позвонил лично, тоже за.
Всё шло хорошо, пока кто-то не вспомнил про евреев.
Проблема вот в чём. Зимой при постоянном летнем времени солнце в некоторых штатах будет вставать неприлично поздно. В Детройте, например, — в 9:16 утра. А утреннюю молитву по алахе положено читать после восхода. Итого: соблюдающий еврей приходит на работу, садится за стол и… идёт молиться. Работодатели в восторге, как можно себе представить.
Раввин Залман Горевиц, директор центра Хабада при университете Западной Вирджинии, предупреждает: закон фактически ограничит возможности трудоустройства для соблюдающих евреев. Организация «Агудат Исраэль» в США развернула в Вашингтоне полноценную лоббистскую кампанию против закона. Директор по связям с органами власти Ави Моцен говорит, что некоторые конгрессмены меняли позицию прямо в ходе разговора — как только узнавали про молитвенный кворум и еврейских детей, которые будут идти в школу в кромешной тьме.
Религиозные евреи, к слову, не одиноки: против выступают фермеры (им придётся пахать до рассвета — буквально), авиакомпании (логистический кошмар с расписанием рейсов) и врачи-сомнологи, которые напоминают, что утренний солнечный свет — штука физиологически важная, а не просто красивый обычай.
Показательно, что США уже проходили через этот эксперимент: в 1974 году, в разгар энергетического кризиса, постоянное летнее время продержалось совсем недолго и было тихо отменено. Синагоги тогда не могли собрать миньян до начала рабочего дня, родители были в панике.
В Сенате аналогичный закон уже принимали — в 2022 году, единогласно, — но он заглох в Палате представителей. Теперь же за дело взялся лично Трамп, и для многих республиканцев вопрос о летнем времени внезапно превратился в проверку лояльности.
Так что американским евреям остаётся следить за восходом солнца — и поглядывать на Белый дом.
Еврейский ортодоксальный гений ИИ уходит из Google в OpenAI
Ноам Шазир — вице-президент Google по инженерным разработкам и один из ключевых архитекторов Gemini — объявил об уходе из компании. Теперь он переходит в OpenAI, главного конкурента Google в гонке за лидерство в искусственном интеллекте.
«Решение двигаться дальше не было простым. Я невероятно горжусь потрясающей командой Google и всем, что мы создали вместе», — написал Шазир в прощальном посте в X, добавив, что для него было честью и удовольствием работать со всей командой.
Это уже второй уход Шазира из Google. Первый раз он покинул компанию в 2021 году — после более чем 20 лет работы — чтобы вместе с коллегой Дэниелом де Фрейтасом основать стартап Character.AI, позволявший общаться с виртуальными версиями знаменитостей и создавать собственных AI-ботов. В августе 2024 года Google вернул его обратно — ценой впечатляющей сделки на 2,7 миллиарда долларов.
Шазир — ортодоксальный еврей, носящий кипу. Его дед и бабушка спаслись от Холокоста в Советском Союзе, позже жили в Израиле, а затем эмигрировали в США. В профессиональном сообществе и прессе его нередко характеризуют как глубоко религиозного человека — это часть его публичного образа наравне с репутацией одного из главных умов современного ИИ. Он пришёл в Google ещё в 2000 году, а в 2017 году стал одним из соавторов знаменитой статьи «Attention Is All You Need», заложившей основы архитектуры трансформеров — технологии, на которой строится вся современная генеративная ИИ-индустрия.
Уход Шазира — эпизод в развернувшейся борьбе технологических гигантов за топовых специалистов по ИИ. Новость пришла считаные недели после презентации Google новых продуктов на базе Gemini и на фоне ожидаемого выхода OpenAI на биржу.