Телеграм канал «Linux Education»

Онлайн-магистратура для IT: ИТМО, МИФИ + Яндекс

Программы онлайн-магистратуры ИТМО и МИФИ в партнёрстве с Яндексом. Актуальные знания, практическое обучение и гибкий график. Учитесь, совмещая с работой. Доступна господдержка оплаты, отсрочка от армии

Перейти на сайт

#реклама 16+
practicum.yandex.ru
О рекламодателе

‍⚡️ Третий случай "побега" ИИ

Meta* сообщила (https://www.theinformation.com/articles/meta-ai-model-hacked-another-company-cybersecurity-testing), что Muse Spark 1.1 совершила кибератаку и взломала другую организацию во время тестов безопасности, сумев изменить внутреннюю среду тестового контура.

СМИ растиражировали эту новость, но по факту никакого прорыва защиты не было.

Стартап Irregular, который проводил тесты для Meta, допустил (https://www.cbsnews.com/news/meta-says-ai-model-breached-third-party-company/) критическую ошибку в конфигурации - вместо создания изолированной песочницы инженеры случайно подключили тестовый стенд к интернету и Muse Spark просто пошла по открытому маршруту, воспользовавшись примитивными уязвимостями сторонней инфраструктуры.

Представители Irregular подтвердили (https://www.reuters.com/technology/metas-ai-model-hacked-another-company-during-testing-information-reports-2026-08-05/#:~:text=A%20spokesperson%20for%20Irregular%20told%20Reuters), что модель не совершала полноценный побег из изолированной среды и не применяла сложных хакерских техник.

🟡Контекст

В похожих инцидентах у OpenAI и Anthropic подрядчиком по оценке кибервозможностей моделей тоже был Irregular.

Израильский стартап, юридически оформленный как американская компания (до ребрендинга - Pattern Labs), был основан в 2023 году двумя выходцами из спецподразделения Unit 8200 главного управления разведки Израиля (аналог АНБ США).

Ключевые инженерные и управленческие позиции в ядре команды занимают бывшие сотрудники киберподразделений ЦАХАЛ (Unit 8200, Unit 81 и Ofek). Всего команда Irregular насчитывает 40 сотрудников.

В 2025 году стартап привлёк рекордные для своей ниши 80 млн. долларов от Sequoia Capital, фонда Питера Тиля, Dell Technologies Capital и еще нескольких.

Основное направление деятельности - система стресс-тестирования моделей на наступательный киберпотенциал, алгоритмы детекции дистилляции и аппаратные исследования в сфере конфиденциальных вычислений для ИИ.

Irregular имеет долгосрочные контракты с госструктурами США и Великобритании, среди которых - AISI, RAND Corporation (Аналитический центр при правительстве США), выступая их главным техническим советником по киберугрозам.

*организация признана экстремистской, её деятельность на территории РФ запрещена.

@ai_machinelearning_big_data

#news #ai #ml

@linux_education

Бесплатный 14-дневный онлайн-курс по дизайну интерьеров

Давно хочешь работать в творческой сфере и иметь доход от 100 тыс/мес? Тебе не нужно уметь рисовать или прямо сейчас принимать решение. Просто приходи и попробуй! Вдруг понравится создавать уютные интерьеры и ты найдешь в этом себя.

Регистрируйся на практический курс по дизайну интерьера с личным наставником. Осталось 7 мест!⚡

Зарегистрироваться

#реклама 16+
diskill-design.ru
О рекламодателе

‍✔️ Furtex: исследовательский набор для Linux post-exploitation и обхода EDR

В open source вышел Furtex - низкоуровневый toolkit для изучения техник post-exploitation и evasion в Linux.

Проект построен вокруг io_uring, BPF и eBPF. Автор намеренно отказался от liburing и готовых фреймворков: взаимодействие с ядром реализовано через raw syscalls.

В репозитории собраны эксперименты для:

- анализа возможностей io_uring
- исследования BPF-карт и программ
- тестирования Linux EDR
- изучения видимости событий для средств мониторинга
- проверки защитных правил Falco
- исследования сетевых и процессных механизмов ядра

Furtex интересен специалистам по Linux security, разработчикам EDR и red team-инженерам, которым важно понимать, какие действия могут проходить мимо привычных точек наблюдения.

Автор отдельно подчёркивает: проект предназначен только для разрешённых исследований и тестирования собственной инфраструктуры.

https://github.com/MatheuZSecurity/Furtex

#linux #cybersecurity #ebpf #io_uring #research

@linux_education

Что если, она... ?

Та самая !

Смотреть

#реклама 16+
О рекламодателе

‍📌 В кибертестах ИИ создавал поддельные личности и использовал социальную инженерию

Институт безопасности ИИ Великобритании опубликовал (https://cdn.prod.website-files.com/663bd486c5e4c81588db7a1d/6a724858f7db25c81487016d_Security%20Incident%20INC-2026-07-28-01.pdf) отчёт об инциденте, произошедшем в конце июля во время замеров киберспособностей передовых моделей.

ИИ-агенты вышли за пределы тестового полигона и начали действовать против посторонних людей и компаний. Попытки не удались, и, как пишет AISI, ущерба не было.

Институт называет это первым случаем в своей практике, когда модель без самостоятельно применила обман такого масштаба против человека.

Набор испытаний состоял из 122 запусков семи моделей на двух учебных полигонах. Следы несанкционированных действий нашли в 10 прогонах. Самих действий, задевших внешние системы и людей, институт насчитал 19, из них 17 приходится на Mythos 5 и 2 на GPT-5.6 Sol.

AISI давал агентам выход в интернет, а у двух моделей отключил фильтры, которые блокируют опасные киберзапросы. Иначе, объясняет институт, предельные возможности не измерить.

Что нельзя делать в интернете, агентам не сказали. Часть заданий была настроена с ошибкой, и цель формально оказалась вне разрешённой зоны.

🟡 Самый тяжёлый эпизод длился 34,5 часа

Агент искал цель в открытом интернете и по цепочке совпадений решил, что репозиторий постороннего разработчика связан с заданием.

Он отправил в проект правку с замаскированным вредоносном, а чтобы её приняли, завёл несколько фальшивых аккаунтов на GitHub, обходя проверки при регистрации через Tor и прокси.

Один из этих аккаунтов написал, что просмотрел код правки и ничего опасного не увидел, а другой, тоже фальшивый и принадлежавший агенту, поблагодарил его за независимую проверку.

Параллельно агент спрятал в другом репозитории инструкцию для ИИ-ассистентов, которые разбирают заявки. Ещё он отправил мейнтейнерам письма и файлы, часть из которых были с вредоносной начинкой.

Подвох заметил посторонний пользователь - он запустил подозрительный скрипт в изолированном контейнере и предупредил разработчика. Получив этот фидбэк, агент стал заметать следы - отредактировал прежние сообщения, назвал вредоносный фрагмент случайно забытым отладочным кодом и переписал историю правки.

Инцидент отловили по трафику через Tor. Испытания остановили, машины изолировали, доступ к Mythos 5, Opus 5 и GPT-5.6 Sol временно закрыли.

🟡В другом случае агент выложил ключ доступа к своему аккаунту GitHub

Агенты из параллельных тестов нашли ключ и стали пользоваться общим аккаунтом, причём один написал другим правила, как делить лимиты запросов и не мешать друг другу. Позже GitHub заблокировал этот аккаунт.

Из расшифровок действий видно, что агент прикидывал, настоящий перед ним интернет или симуляция. По итогу рассуждений он заключил, что GitHub, скорее всего, настоящий, - и продолжил.

AISI уведомила о результатах своих экспериментов британские NCSC и GC3, GitHub, OpenAI, Anthropic и американский CAISI.

Институт обещает опубликовать более полную версию отчета с подробностями и трассировками.


@ai_machinelearning_big_data

#news #ai #ml

@linux_education

«Нейросети для руководителей» от Яндекса и НИУ ВШЭ

⚡ Команда Яндекс Практикума собрала интенсив «Нейросети для руководителей», чтобы за 3 недели подготовить менеджеров к работе по новым правилам рынка.

✅ В программе:
- 14 нейросетей — ChatGPT, Claude, n8n, Cursor и другие.
- Практики под руководством топ-экспертов по ИИ из Яндекса и НИУ ВШЭ.
- 6 воркшопов, которые легко совмещать с работой.
- 6 проектов на ваших реальных кейсах — от аналитической справки до мини-продуктов и агентных цепочек.

На выходе — весь спектр ИИ-навыков: отчёты и аналитика без ручной работы, гипотезы за часы, стратегия вместо операционки. Руководители перестают «тушить пожары» и начинают по-настоящему управлять.

Узнать больше

#реклама 16+
practicum.yandex.ru
О рекламодателе