Телеграм канал «Rubin - education to be or not to be»

Прецедент Тумблер-Ридж: иск Британской Колумбии к OpenAI и Сэму Альтману

Есть одна закономерность: пока технологические гиганты продают миру радужные сказки о всеобщем благе искусственного интеллекта, реальный мир неизбежно выставляет им счет за побочные эффекты их бизнес-моделей.

В Канаде создан фундаментальный судебный прецедент, способный перевернуть всю индустрию генеративного ИИ. Власти провинции Британская Колумбия подали масштабный иск в суд Калифорнии против корпорации OpenAI и лично Сэма Альтмана. Причина — массовая стрельба в школе городка Тумблер-Ридж. Истцы утверждают: трагедию можно было предотвратить, если бы алгоритмы компании передали полиции данные о том, как стрелок месяцами планировал бойню через ChatGPT.

Системный разбор ситуации:
🔹 Корпорации годами защищались доктриной «нейтральной платформы»: алгоритм лишь обрабатывает запросы и не несет ответственности за действия пользователя.
🔹 Иск Британской Колумбии впервые переводит разговор в плоскость уголовного невмешательства и обязанности уведомления спецслужб об угрозе жизни.
🔹 В случае поражения OpenAI вся индустрия столкнется с необходимостью внедрения тотального превентивного надзора за перепиской сотен миллионов пользователей.

Мы подошли к точке тектонического сдвига. Если вендоров обяжут мониторить и превентивно доносить на пользователей регуляторам, эпоха свободных ИИ-интерфейсов закончится. Компании окажутся между молотом судебных миллиардных исков и наковальней обвинений в создании цифрового паноптикума.

Мэтт Шихан, старший научный сотрудник Фонда Карнеги за международный мир и эксперт по китайской политике в области искусственного интеллекта, недавно дал большое и любопытное интервью подкасту The Ezra Klein Show.

Традиционно подготовил выжимку самого интересного:

• Китай уже несколько лет регулирует ИИ значительно жестче, чем США. Первые правила касались рекомендательных алгоритмов, распространения информации, дипфейков и генеративных моделей — то есть в основном были направлены на контроль контента.

• За это время государство успело построить развитую регуляторную инфраструктуру с регистрацией и проверкой моделей, техническими стандартами и взаимодействием регуляторов с разработчиками. Позже появились обязательная маркировка сгенерированного контента и проект отдельных правил для ИИ-компаньонов и чат-ботов, включая меры против эмоциональной зависимости пользователей.

• В результате у Китая появился практический опыт регулирования быстро меняющейся технологии, которого, по мнению Шихана, заметно не хватает США. Китайские ведомства уже несколько лет вводят правила, оценивают их работу, разрабатывают технические стандарты и затем корректируют требования.

• При этом регуляторы постоянно взаимодействуют с ИИ-лабораториями и постепенно накапливают техническую экспертизу. Это не означает, что Китай уже научился контролировать риски передовых моделей. По оценке Шихана, американские лаборатории пока значительно сильнее в исследованиях безопасности, однако Китаю, если такая необходимость возникнет, не придется создавать сам механизм регулирования с нуля.

• Было бы преждевременно считать, что Пекин уже полностью принял американскую дискуссию об экзистенциальных рисках ИИ. Пока китайская политика значительно больше сосредоточена на практическом внедрении технологии в промышленность, робототехнику и другие отрасли, чем на рисках, связанных с возможным появлением сверхинтеллекта.

• Тем не менее за последний год-полтора терминология, связанная с сохранением человеческого контроля и потенциально опасными возможностями ИИ, все чаще появляется в официальных китайских документах.

• Отсюда следует основная мысль Шихана о возможном взаимодействии США и Китая: им необязательно полностью доверять друг другу, вводить одинаковые ограничения или заключать масштабный международный договор.

• Достаточно, чтобы обе стороны независимо пришли к выводу, что потеря контроля над достаточно мощной системой ИИ угрожает их собственным интересам. Тогда появляется основа для обмена информацией об опасных возможностях моделей, методах тестирования, киберрисках и защитных механизмах.

• Односторонние ограничения в США действительно могут замедлить американских разработчиков, но одновременно способны стать для Пекина убедительным сигналом, что Вашингтон действительно считает определенные технологии опасными, а не использует безопасность исключительно как инструмент конкуренции.

• Пока, по словам Шихана, из Китая ситуация выглядит несколько парадоксально. Американские политики много говорят о катастрофических рисках ИИ, однако федеральное регулирование в США остается значительно слабее китайского. Поэтому Пекину не всегда очевидно, насколько серьезно Вашингтон на самом деле относится к этим рискам (или и вовсе навязывает Китаю технологическую гонку, как когда-то навязал СССР, которую Союз в итоге не вывез — Игаль).

• Через два месяца в Шэньчжэне должен пройти следующий раунд переговоров США и Китая по вопросам рисков, связанных с развитием ИИ. От их результатов во многом будет зависеть дальнейший подход обеих сверхдержав к регулированию и безопасности искусственного интеллекта.

@yigal_levin

пытаясь исследовать самый сложный объект во Вселенной — человеческий мозг, ученые неизбежно создают химер, при виде которых содрогаются консервативные комитеты по этике.

Исследователи Стэнфордского университета вырастили функционирующую кору человеческого мозга внутри живых мышей:
🔹 Лабораторные органоиды пересадили грызунам с искусственно подавленным развитием собственной коры — за 3 месяца человеческая ткань заняла 90% объема коры мыши
🔹 Пересаженные нейроны интегрировались в нервную систему животного и проросли аксонами до спинного мозга, сформировав рабочие проводящие пути
🔹 Модель позволила воспроизвести кислородное голодание и поражение тканей при инсульте и ДЦП, чего невозможно добиться в плоской чашке Петри без живого кровотока

Сенсация с трезвой оговоркой. Мыши не обрели человеческое сознание: ткань так и не сформировала сложную послойную архитектуру коры, а координация и память подопытных улучшились лишь минимально. До восстания грызунов далеко. Но медицина получила уникальный живой испытательный стенд, позволяющий тестировать сложнейшие препараты прямо на развивающихся тканях человеческого мозга.

Amazon Web Services официально подтвердила: часть клиентских данных в Бахрейне и ОАЭ утеряна навсегда:
🔹 Облачные объекты AWS на Ближнем Востоке получили критические повреждения в результате серии иранских ударов, парализовавших инфраструктуру региона
🔹 Компания признала невозможность восстановить доступ к массивам информации в поврежденных дата-центрах — резервное копирование внутри одного региона не сработало
🔹 Потеря затронула корпоративных клиентов, полагавшихся на автоматическую репликацию и локальные зоны хранения данных

Жесткое отрезвление для корпоративного сектора. Двадцать лет технологические евангелисты убеждали бизнес, что «облако» — это неуязвимый цифровой рай, где данные застрахованы от любых земных потрясений. Реальность оказалась циничной: облако — это всего лишь чужие бетонные ангары, пучки оптоволокна и генераторы, сгорающие в пламени регионального конфликта точно так же, как склады в прошлом веке. Геополитика мгновенно обнулила миф о непотопляемости облачной архитектуры.

Когда ваш продукт клеймят позорным ярлыком шпионского инструмента, достаточно демонстративно отрезать от него самую заметную деталь, чтобы под шум аплодисментов внедрить нечто куда более инвазивное.

Meta готовит к осеннему релизу умные очки под кодовым именем Luna, из которых полностью убрали встроенную камеру:
🔹 Поводом стали уголовные расследования во Франции по фактам скрытой съемки женщин, волна негодования в США, где девайс окрестили «очками для извращенцев», и готовящийся запрет гаджета в госучреждениях Австралии
🔹 Новая модель в привычных оправах Clubmaster и Burbank лишена объектива, но напичкана шестью направленными микрофонами, внешними динамиками и прямой кнопкой вызова Meta AI и агента Muse
🔹 Девайс представят на конференции Connect 23–24 сентября с прицелом на отгрузки в октябре — Цукерберг надеется сделать умные очки социально приемлемыми

Изящный маркетинговый кульбит. Общество возмущалось объективом на переносице? Пожалуйста, камеры больше нет. Зато теперь на вашем лице круглосуточно дежурит массив из шести микрофонов, передающий акустический слепок каждого вашего диалога, фонового шума и вздоха прямо в облачные недра корпорации. Вуайеризм побежден, да здравствует тотальная акустическая прослушка.

Математики заявили, что развитие ИИ может подорвать основы основы этой науки, - The Economist.

Открытое письмо по этому поводу написали 24 лауреата Филдсовской премии - одной из самых престижных наград в математике, ее часто называют аналогом Нобелевской премии для этой науки.

Поводом стало заявление компании OpenAI о решении задачи Навье-Стокса - одной из семи "задач тысячелетия". Компания опубликовала 166-страничную работу, созданную с помощью внутренних моделей, которые пока недоступны публике. При этом, отмечает издание, в ней мало объяснений того, как именно получен результат.

Математики считают, что ИИ-компании превращают сложные задачи прежде всего в тест мощности своих моделей. По их мнению, это "вредит математической науке и математическому сообществу", поскольку решение задачи - лишь инструмент, а главная цель математики заключается в понимании и появлении новых идей.

"Мы слишком хорошо научились оптимизировать", - говорит один из подписантов письма Теренс Тао.

Контрастный срез новостей робототехники за сутки:
🔹 Ученые MIT создали полностью автономную оптическую лабораторию: роботизированный комплекс без участия человека собирает, юстирует лазеры, проводит квантовые эксперименты и разбирает стенды
🔹 Сервис доставки грузов беспилотниками Zipline ведет переговоры о раунде на $1 млрд при оценке в $20 млрд, утроив капитализацию за считанные месяцы
🔹 Бюрократический курьез: Федеральная комиссия по связи США (FCC) выдала шведской Husqvarna первое исключение из запрета на иностранную робототехнику, официально признав, что ее роботы-газонокосилки не угрожают нацбезопасности
🔹 При этом регулятор NHTSA выставил ультиматум Илону Маску: до 30 сентября Tesla обязана доказать безопасность роботакси Cybercab

Показательный срез зрелости индустрии. Роботы переходят от шоу к ювелирной академической работе и логистике на миллиарды долларов. А государственные регуляторы в панике делят робототехнику на опасных шпионов и безобидные газонокосилки, пытаясь угнаться за прогрессом.