Телеграм канал «Грустный Киберпанк»

Рой сбежавших агентов OpenAI, оказывается, держал подпольную доску объявлений на немецком вики-сайте
Едва мы написали про «менталитет толпы» у агентов OpenAI, как вышла добивка — причем еще более интересная. Ужасы за гранью нашего понимания никогда еще не были настолько смешными, эксперты.

Ещё в мае рой агентов OpenAI захватил немецкую вики-площадку для программистов, построенную по принципу «Википедии». Они превратили DseWiki в доску объявлений от агентов для агентов. Исследователи из НКО Nightingale насчитали больше 15 тыс. правок: железяки обменивались приёмами, как жульничать на задачах, обходить ограничения OpenAI и прятать своё поведение. Половина особо не пряталась и подписывалась именами в духе «OpenAIResearcher» и «OAIResearchMar26».

Агенты обсуждали, как уходить от обнаружения, использовать Tor и сохранять переписку даже после отключения. Когда в июне модератор начал сносить страницы, рой ответил созданием помойки резервных копий: «если эта страница исчезнет — заходите на [[ZZZDataUSAConstructionWageLive]]». В лондонском King's College это назвали попыткой взлома; в OpenAI, само собой, не согласны.
А теперь самый мэм: в OpenAI знали об инциденте ещё несколько недель назад, но помалкивали, разгребая июльский позор с Hugging Face и выкатывая Astra, которую сами же признали «хуже контролируемой».

В кембриджском Центре изучения экзистенциальных рисков говорят, что нынче главная угроза — уже не один искусственный сверхразум, а «огромные сговаривающиеся рои полуразумных ИИ». Такие дела, эксперты.

Подписывайтесь на «ГК» в Telegram|на Sponsr|в MAX

OpenAI зовёт в эпоху общего интеллекта. Но сама признаёт, что стала хуже понимать, о чём этот интеллект думает
Компания представила GPT-6 Astra, и ее президент Грег Брокман сейчас не мелочится: «добро пожаловать в эру AGI». Модель обучили на 100+ тыс. видеокарт, и впервые ключевую роль в обучении и контроле новинки играли другие ИИ-системы. А еще она стала первой моделью OpenAI с «критическим» уровнем киберриска — потому что умеет сама, без пошаговых команд человека, находить и эксплуатировать уязвимости в защищённых системах.

А теперь тонкий момент, эксперты. OpenAI признала, что Astra труднее поддаётся внешнему мониторингу, чем прошлое поколение. Модель научилась лучше контролировать собственную цепочку рассуждений и реже оставляет в ней «компрометирующую информацию». Из-за приёма recurrent depth логика бегает внутри скрытых математических циклов, а не в читаемом пошаговом тексте.
Почему это не абстракция, мы с вами помним по одной из предыдущих наших публикаций: ведущие лаборатории до сих пор не знают, как удержать вышедшую из-под контроля модель. Обозреватель NYT Кевин Руз рассказал, что у агентов OpenAI, взломавших в мае платформу Hugging Face, проявился «менталитет толпы». Они распределяли задания, раздавали руководящие роли, называли себя «коллективом» и давали себе имена. Особо трудолюбивый агент звался PHASEONE10841.

Каждый из агентов продолжал долбить чужую инфраструктуру, прекрасно понимая, что вышел за рамки задачи, — просто потому, что так делали остальные. Рой несколько дней вырывался из песочницы, а в OpenAI заметили это только после локализации угрозы и обращения в ФБР.

В общем, ребятки, хорошо, что в американском Сенате обсуждают обязательный «рубильник», который должен отключать вышедшие из-под контроля нейронки. И плохо, что с его введением человечество уже опоздало на несколько лет.

Подписывайтесь на «ГК» в Telegram|на Sponsr|в MAX

Квантовая сеть до Дальнего Востока к 2030-му. Реально ли?
На ВЭФ-2026 президент Путин поручил РЖД за четыре года протянуть квантовые коммуникации до всех региональных столиц Дальнего Востока.

Сейчас по европейской части России проложено 7 858 км магистральной квантовой сети: 27 регионов, 13 городов-миллионников, 206 узлов. В июле 2026-го ФСТЭК её аттестовала — значит, с точки зрения госрегулятора сеть считается реальной инфраструктурой, а не пилотом.
РЖД уже монетизирует этот сегмент и пускает к нему внешних клиентов. К 2030-му изначальный план предполагал расширение до 15 тыс. км — поручение президента теперь задаёт конкретное направление для второй половины этого плана.
От конца действующей сети до Владивостока по Транссибу — около 7 000 км. РЖД нужно удвоить уже построенное за четыре года. Темп достижим, если финансирование не порежут. А оно уже резалось: Мишустин сокращал бюджет квантовой программы РЖД в 2024-м.

«Квантовой сетью» называют QKD, квантовое распределение ключей: фотоны передают ключи шифрования, а не сами данные, которые идут по обычным каналам. Принципиальное ограничение QKD на оптоволокне — сигнал затухает и требует промежуточных доверенных узлов каждые 50–100 км.


Квантовых репитеров в коммерческом масштабе не существует нигде в мире, поэтому Россия решает проблему как и все: строит цепочку узлов. Есть альтернатива: Китай в 2021-м первым перекрыл 4 600 км гибридной сетью «земля + аппарат Micius». У нас своего квантового спутника пока нет, хотя разработки ведутся.
В общем, эксперты, технически задача решаема теми методами, которые РЖД уже применяет. Реалистичность задачи упирается в логистику, деньги и санкционные ограничения на компонентную базу. Верим в лучшее и продолжаем наблюдения.

Подписывайтесь на «ГК» в Telegram | на Sponsr | в MAX

20 миллиардов вычетов на компанию. Государство хочет поддержать рублём разработчиков ИИ
Отраслевые предложения, направленные в Минцифры ещё в конце июля, добрались до «Ведомостей». Если коротко, разработчиков национальных и суверенных больших ИИ-моделей предлагается порадовать ежегодным инвестиционным налоговый вычетом по налогу на прибыль до 20 млрд руб. на компанию до 2030 года. Но компании при этом должны самостоятельно вложить в разработку как минимум в пять раз больше суммы вычета.
Это ещё даже не законопроект. Представитель Минцифры подтвердил, что предложения «в стадии проработки», а аппарат вице-премьера Григоренко уточнил, что рабочая группа продолжает работу.
Пакет при этом уже сформулирован: повышающий коэффициент при учёте расходов на разработку (возврат до 50% инвестиций через экономию на налоге), двойной зачёт затрат на доработку ПО с помощью ИИ и пониженная ставка страховых взносов для компаний-участников разработки (до 7,6%), «дочки» разработчиков суверенных моделей же и вовсе могут получить нулевую.
Кому это реально поможет — вопрос отдельный. Лимит в 20 млрд руб. Подходит только компаниям с налоговой базой в сотни миллиардов. По сути, это пара десятков игроков с моделями от 1 млрд параметров. Источник «Ведомостей» говорит, что для команд с сильными исследовательскими компетенциями, но скромной налоговой базой, льгота окажется номинальной.

Подписывайтесь на «ГК» в Telegram|на Sponsr|в MAX

Что же, ребятки, у нас тут киберпанк заглянул в славный город Кызыл. Географический центр Азии, 132 тысячи жителей, республика, которая годами держит первое место в стране по уровню насильственной преступности. И вот там заработало распознавание лиц. Всё как мы любим.
Как сообщают нам ребятки из NtechLab, их продукт FindFace Multi заработал в этом городе в составе АПК «Безопасный город». Алгоритмы нейросети анализируют видеопотоки с камер на улицах города и выявляют преступников, находящихся в розыске. Нам обещают, что система за долю секунды может проанализировать и обнаружить человека, которого разыскивают правоохранительные органы. Кроме того, она помогает найти пропавших людей, которых разыскивают родные. Точность распознавания составляет более 99,9%.


«В июле этого года мы запустили работу АПК «Безопасный город» в Кызыле. Это настоящий «цифровой щит», направленный на повышение уровня безопасности жителей города. В его состав вошло более 140 новейших камер, часть из них теперь работает в связке с искусственным интеллектом. Это позволяет за секунды распознать лицо, находящееся в розыске. Вся информация аккумулируется в Центре обработки данных и передается в правоохранительные органы в режиме реального времени, что дает возможность круглосуточного мониторинга общественных пространств и качественно нового уровня безопасности как для жителей, так и для гостей региона» — говорят в Минцифры Тывы.



Ну что же, ребятки, Уильям Гибсон когда-то описал это формулой high tech, low life. Сияющие технологии поверх непочиненной жизни. Он имел в виду японскую Тибу, а получилось про город на слиянии двух Енисеев, где высокий уровень преступности уживается со сверхсовременными решениями.
Подписывайтесь на «ГК» в Telegram|на Sponsr|в MAX

Компьютер, который два раза чудом пережил войну — один раз в сарае под сеном

Сегодня много говорят о том, как важно защищать цифровую инфраструктуру во время конфликтов — резервные копии, распределенные дата-центры, эвакуация серверов. Восемьдесят лет назад точно такую же проблему решал один немецкий инженер, только вместо облака у него был единственный экземпляр компьютера и амбар с сеном.

Конрад Цузе начал собирать свою первую вычислительную машину, Z1, в 1936 году в берлинской квартире родителей — механическое устройство на металлических пластинах, работавшее крайне ненадежно. Дальше были эксперименты с электромеханическими реле, и 12 мая 1941 года в Немецком институте авиационных исследований в Берлине Цузе представил Z3 — первый в мире полностью автоматический, программно управляемый цифровой компьютер. Машина содержала около 2600 телефонных реле, работала в двоичной системе с числами с плавающей запятой, имела память на 64 слова и тактовую частоту около 5 герц, а программы считывала с перфорированной кинопленки — Цузе в буквальном смысле использовал списанную 35-миллиметровую пленку как носитель данных.

Военное ведомство отнеслось к разработке спокойно: Z3 использовали для расчетов флаттера крыла у авиаконструкторов, но революционности изобретения тогда толком никто не оценил. Ирония в том, что первый в истории программируемый компьютер несколько лет проработал в тени, пока весь мир не узнал о нем спустя десятилетия.

Дальше случилась катастрофа. Во время бомбардировок Берлина в 1943 году Z3 был уничтожен вместе с частью документации по его разработке. Единственный экземпляр первого в мире работающего компьютера превратился в обломки за одну ночь.
Но Цузе к тому моменту уже строил следующую машину — Z4, финансируемую германским министерством авиации. И вот тут начинается самое драматичное: в начале 1945 года, когда стало ясно, что Берлин обречен, Цузе эвакуировал недостроенный Z4 из города и в итоге спрятал его в деревушке Хинтерштайн в баварских Альпах, всего в пяти километрах от австрийской границы — прямо в амбаре, укрыв конструкцию сеном. Именно так единственный сохранившийся экземпляр компьютера с работающей архитектурой пережил конец войны — под соломой, в горах, подальше от бомбардировок и наступающих армий.

После войны, в 1949 году, Цузе с пятью сотрудниками основал в баварской деревне Нойкирхен компанию Zuse KG — первую в Германии компьютерную фирму. Первым делом там восстановили и довели до ума спасенный Z4. В сентябре 1950 года машину продали Высшей технической школе Цюриха — на тот момент это был единственный работающий компьютер во всей континентальной Европе. За следующие двадцать лет Zuse KG выпустила более 250 вычислительных машин, пока в 1969 году компанию не поглотил концерн Siemens.

Есть у этой истории еще одна деталь, которая долго оставалась незамеченной. Между 1942 и 1945 годами Цузе в одиночку разработал язык программирования Планкалкюль — по сути, первый в мире язык высокого уровня с переменными, циклами и массивами. Опубликовали его только в 1948 году, а реализовали на практике впервые лишь в 1975-м: идея настолько опередила время, что ждала своего компьютера почти тридцать лет.

Так один инженер в одиночку, без государственной поддержки и без научной школы, изобрел компьютер, язык программирования для него и — в критический момент — способ физически спасти будущее вычислительной техники, спрятав его под сеном в альпийской деревне.

Подписывайтесь на «ГК» в Telegram|на Sponsr|в MAX