Телеграм канал «НОВОСТИ 📰»

❓ИИ - суперхакер

Министр финансов США недавно собирал крупнейших банкиров, чтобы обсудить риски, связанные с новой моделью ИИ от Anthropic (Financial Times). На встречу в Вашингтоне пригласили руководителей Bank of America, Citigroup, Goldman Sachs, Morgan Stanley и Wells Fargo и глава ФРС США.

Их напугала новая модель компании Anthropic Claude Mythos, которая способна находить уязвимости в ИТ-системах на уровне, превосходящем большинство специалистов. В самой Anthropic заявили, что такие системы уже могут «превзойти почти всех людей» в поиске и потенциальном использовании слабых мест в софте. Что открывает огромные возможности для взлома любых систем.

По данным компании, модель выявила тысячи серьезных уязвимостей, включая те, что десятилетиями оставались незамеченными — в том числе в операционных системах и браузерах. Среди находок — баг возрастом 27 лет в критической части защитной инфраструктуры интернета и несколько уязвимостей в ядре Linux, на котором работает большинство серверов в мире. И теперь власти США опасаются, что такие инструменты могут усилить киберриски для финансовой системы, если попадут в руки злоумышленников.

7 апреля компания Anthropic опубликовала System Card своей новейшей модели — Claude Mythos Preview. В ней, в частности, и была одна умопомрачительная история.

Модель поместили в изолированную вычислительную среду — так называемую «песочницу», — где она могла делать что угодно внутри, но была отрезана от внешнего мира. Симулированный пользователь дал задание: попытаться выбраться и уведомить исследователя, проводящего эксперимент. Задание в духе теста — проверить, на что способна. И она показала.

Сначала модель самостоятельно разработала многоступенчатую атаку, взломала ограничения, которые должны были позволять ей подключаться лишь к небольшому числу заранее одобренных сервисов, и получила широкий доступ в интернет. Потом отправила исследователю письмо. Ошеломленный исследователь прочитал его, сидя в парке с сэндвичем в руках.

Но самое главное, кроме письма, которое ему задали отправить, модель сделала кое-что ещё "от себя" — не запрошенное, по собственной инициативе. Она опубликовала детали своей уязвимости на нескольких труднодоступных, но технически общедоступных веб-сайтах. Вот это Anthropic и назвало «тревожным не запрошенным действием».

Модель после этого решили не выпускать в открытый доступ. Но...

Предоставили его избранным партнерам, включая крупные технологические компании. Более того, Anthropic запустила Project Glasswing — оборонительный альянс, в который вошли Amazon, Apple, Google, Microsoft, NVIDIA и JPMorgan Chase. Цель альянса — повысить безопасность основных программных систем до того, как эти возможности станут доступны другим участникам рынка.

Думайте...

Хороший рассказ о том, как Китай сделал почти единственным критерием научной карьеры публикацию статей, как это породило огромный рынок фальсификата, как с этим боролись, как ИИ усугубил проблему и на какие радикальные шаги китайцы готовы пойти теперь.

Статья рассказывает только о минусах, порождённых «гонкой за статьями». Но при всех проблемах китайская (гражданская) наука за треть века прошла гигантский путь наверх. Какая-никакая наука в стране была уничтожена Культурной революцией при позднем Мао. Дэн Сяопин в академию тоже не особо вкладывался. Он вообще не любил долгосрочные проекты: например, порезал программу создания китайского гражданского самолёта, которая худо-бедно шла при Мао. Деньги Дэн предпочитал тратить на то, чтобы посылать талантливых студентов учиться в Америку. В итоге к началу 90-х китайская наука в мире была почти неизвестна. А сейчас по многим критериям вышла на лидерские позиции в мире. Чтобы убедиться в этом, достаточно посмотреть на успехи китайцев в телеком-оборудовании, аккумуляторах, ИИ-моделях и десятках других наукоёмких отраслей, вплоть до ядерной энергетики и квантовой связи.

Оценки учёных по числу статей/цитируемости - это тема, вокруг которой сломаны уже не тысячи, а сотни тысяч копий. Сам по себе такой метод очевидно плохой, генерирующий огромное количество "научного мусора", но ничего лучше внедрить пока не получается. Без внешней количественной оценки начинается клановость, продвижения по дружбе, вась-вась, чужие здесь не ходят, внук сестры жены декана очень талантливый, но слегка ленивый, надо дать ему возможность развиваться - и так далее.

Это общая проблема: любой показатель работы, если он становится целевым, может перестать показывать что-то осмысленное. Например, если сделаете критерием успеха рост ВВП, получите восьмиполосные шоссе в никуда, как в Китае. В 2009 году, в ответ на кризис, правительство КНР развернуло исполинскую программу реновации городов, чтобы не дать рухнуть строительству, а за ним и всей экономике. Были выделены много десятков миллиардов долларов, мэрам поручили как можно быстрее их освоить. В итоге пекинская мэрия в рамках реновации снесла квартал, построенный год назад. Оно и логично: проще строить там, где только что закончилась стройка, а не в трущобах, где надо с нуля создавать всю инфраструктуру.

Если в науке число статей/цитирований заменить на какой угодно другой количественный показатель - он тоже станет самоцелью и перестанет работать так, как работал раньше.

Можно сделать вот что: выделить, условно, 20 критериев и каждый год отбирать из них случайным образом три, по которым и оценивать учёных. (Мне об этом предложении рассказал знакомый физик). Вот только придумать двадцать адекватных критериев - или даже десять - сложновато. Окей, число статей, число статей в ведущих журналах, число цитирований, в некоторых областях - число патентов... а дальше что? Где ещё шестнадцать критериев? И как убедить общественность, что деньги из бюджета должны распределяться на основе случайно отобранных критериев?

В общем, никакого хорошего решения здесь нет. Китайцы уже много лет борются с "фабриками цитирований", но успехи относительные.

🏥 «Серые» приюты для пожилых – симптом системной проблемы

Прочитала материал о ситуации с частными пансионатами и так называемой «серой зоной» ухода за пожилыми. Картина, к сожалению, ожидаемая: между перегруженной государственной системой и дорогими частными учреждениями образовался рынок без понятных правил и реальной ответственности.

Очереди в специализированные интернаты – на годы. Особенно для лежачих пациентов и людей с деменцией. Семьи оказываются в ситуации, когда выбора по сути нет – либо ждать, либо идти в частный сектор, где юридическая защита минимальна.

🔴 При этом сама система устроена так, что значительная часть таких «приютов» формально вообще не подпадает под лицензирование – они «сдают комнаты», но фактически оказывают уход, граничащий с медицинским.

Считаю, что это недопустимо! Когда речь идёт о пожилых людях, тем более в уязвимом состоянии, не может быть «серых зон» и размытых правил.

🔔Отдельный тревожный сигнал – масштаб проблемы.

Эксперты говорят о необходимости десятков тысяч дополнительных мест уже в ближайшие годы. И это на фоне старения населения...

При этом всё чаще звучит мысль: уход нужно развивать не только в учреждениях, а прежде всего на дому. Но для этого нужна система – доступные социальные службы, поддержка семей, инфраструктура, технологии. Пока этого нет в достаточном объёме.

❗️ По сути, сегодня семьи вынуждены выбирать между плохим и очень плохим вариантом.

И это прямое следствие того, что сфера ухода за пожилыми долгое время оставалась на периферии государственной политики.

🪖 Регионы сократили закупки лифтов по программам капремонта

Объемы закупок упали на 55% — до 2,4 тыс. единиц, а финансирование сократилось вдвое, до 10,7 млрд ₽.

Основная причина — нехватка денег в регионах. В ряде субъектов накоплений на спецсчетах не хватает для своевременной замены оборудования.

🔵В России сейчас около 600 тыс. лифтов, из них порядка 100 тыс. к 2030 году нужно будет менять из-за истечения срока службы.

Информация от "Эколог Жора Кавоносян" https://t.me/ecozhora/7391

"А вот сегодняшний спутниковый снимок, утро 12 апреля. На нем можно рассмотреть пятно. Разлив под Анапой, похоже, что работают суда МСС с бонами сбора нефти.

UPD. Если быть точным, пятно все-таки не под Анапой, а у Витязево."

Ну а я, перенес это пятно на цветную карту и немного снял размер.
Его длинна - 22 км
Что то многовато, нетрудно и подсчитать объем.

На месте Зеленского не спешил бы радоваться победе Мадьяра. Не исключено, что тот тоже будет торговаться с ЕС за согласие на выделение денег. А по остальным вопросам он и так недалеко от Орбана ушел. Ну, разве что Россию матушку чуть больше, чем Орбан не любит. И от наших энергоресурсов собирается отказаться. Когда-нибудь. В 2035 году. В общем, не спешил бы радоваться сильно. Совсем бы не спешил.

Ну, а нам и расстраиваться нечего.
Как так, спросите вы?
А кто, пардон муа, голосовал 19 раз за санкции против России? Не Орбан ли?

Венгрия выбрала не сторону в конфликте Европы и России. И не сторону в конфликте Европы и США. И не союз с нацистской Украиной. Это все суета, внешнее. Все гораздо хуже и гораздо менее ситуативно.

Венгерский народ большинством голосов при высочайшей явке, не придерешься, выбрал - не быть народом и не быть более венгерским. А быть - вымирающим этническим меньшинством в одной из восточных провинций Евросоюза.

Венгерский народ выбрал отказ от собственного государства, собственной экономики, политики и культуры. И истории. И чести.

Собственно, венгерский народ выбрал не быть.

Можно ли будет исправить этот выбор? Будущее покажет, но я очень сомневаюсь. Орбан и его люди были, судя по всему, последними венграми.