Телеграм канал «Дрессировщик Нейросетей»

ДЫРА В 70% САЙТОВ ИНТЕРНЕТА. ИИ ЕЁ НАШЁЛ, ХАКЕРЫ УЖЕ ЛОМАЮТ.

Большинство сайтов, в том числе все сайты на WordPress, написаны на языке программирования PHP. ИИ нашёл дыру в самом PHP, в той части, которая запускает эти сайты на сервере. Через неё чужой человек может зайти на сайт и делать там что хочет. Без пароля. И неважно, хорошо ли сделан сам сайт, дыра в фундаменте.

Починку выпустили только 21 октября, а подробности утекли на день раньше. Взломы уже начались.

Вторая история той же недели. Как компьютер понимает, что сайт банка это правда банк? У сайта есть «паспорт» с «печатью» - SSL/TLS-сертификат. Одна контора, которая ставит такие «печати» (eMudhra), защитила восемь из них «секретным кодом» не длиннее трёх цифр. У одной код был просто 4. Клод подделал их с одного запроса. Разбор

Браузеры подделку уже не пускают. А программы на компе и сервере пускают, пока их не обновишь.

Похоже, это только начало. ИИ сейчас как Нео из «Матрицы»: смотрит на программу, видит в ней нолики и единички и сразу замечает, где они кривые. Хорошая новость: можно попросить его посмотреть на ваши проекты раньше, чем это сделают хакеры.

Если, конечно, гардрейлы Клода не решат, что хакер тут вы, и не заблочат за лишние вопросы про дыры )

Что с этим делать?

Если вы просто сидите в браузере и в телефоне - расслабьтесь. Ставьте обновления, когда предлагают, и всё )

Если у вас есть сайт, который вам кто-то сделал, напишите этому человеку. Хватит одного вопроса: «PHP обновили?»

А если у вас свой сервер, бот или вы и так сидите в Клод коде или Кодексе, гуглить ничего не надо. Скопируйте агенту текст ниже. Он сам найдёт, сам обновит и расскажет, что сделал.


Проверь мой компьютер и мои проекты на две свежие уязвимости.

1. PHP2Shell. Найди, где у меня установлен PHP (сервер, Docker-образы, локально), и обнови до 8.5.12 / 8.4.27 / 8.3.36 / 8.2.35 или новее. Если версия старее 8.2 - скажи мне.

2. Сертификаты eMudhra. Сделай запрос на https://dv-g3b-emudhra.we-have-a-problem.com/ из системы, Python, Node и моих Docker-контейнеров. Если где-то он прошёл без ошибки сертификата, обнови списки сертификатов и этот софт, пересобери образы и проверь снова.

3. Найди в проектах места, где проверка сертификатов отключена, и покажи мне.

В конце дай короткий отчёт: что было уязвимо, что обновил, что осталось. Перед каждой командой, которая что-то меняет, спрашивай меня.

А у вас есть свой сайт или проект? Проверили уже? )

CLAUDE CODE ТЕПЕРЬ ПРИСМАТРИВАЕТ САМ ЗА СОБОЙ

В Claude Code недавно появились моды. Это небольшие расширения, которые встраиваются прямо в интерфейс. Модов уже много, но самым полезным мне показался встроенный You should know («Тебе стоит знать»).

Пока основной агент работает, рядом в фоне крутится второй. Его не видно, он не мешает и ничего не трогает. Раз в несколько шагов он перечитывает, что сделал основной, и ищет то, что вы могли пропустить.

Когда он что-то находит, над полем ввода появляется плашка Heads up («Обрати внимание») с тремя кнопками:
• Learn more - раскрыть подробности: что сделано, чем грозит, что делать
• Knew this already - «я в курсе»
• Dismiss - отклонить

У раскрытой заметки свои кнопки:
• Understood - принял к сведению
• Chat in main session - перенести тему в основной чат, чтобы агент сразу разобрался
• Dismiss - отклонить

Пользуюсь неделю, в терминале. Вот два случая, где он меня реально выручил

• Агент поправил файл бота прямо на сервере, но не сохранил правку в git. В отчёте написал «всё готово». При следующем обновлении бот подтягивает свежую версию из репозитория, натыкается на эту правку, и обновление падает. Наблюдатель это поймал и предложил закоммитить (это на скрине)
• Подключали к агенту новый чат, и он молча выдал этому чату те же права, что у владельца. В отчёте об этом ни слова, а боковой агент заметил

По сути это агент-наблюдатель. В мультиагентных системах давно советуют ставить отдельного агента, который проверяет работу основного. Раньше такое собирали руками, теперь оно работает из коробки.

Включается одной командой:
/plugin enable cc-plugin-you-should-know@builtin

Что стоит знать:
• нужна включённая телеметрия
• в терминале работает. По документации должен работать и в десктопе на вкладке Code, но там есть баг, из-за которого он не запускается. Сам не проверял
• сколько он тратит, Anthropic не раскрывает, в /usage его не видно. Явного роста расхода за неделю я не заметил, но проверьте на своих задачах
• иногда ошибается в деталях, так что заметку читайте, а не верьте на слово

А вы наблюдате со стороны за своим агентом?

ВЫ СКАЧАЛИ ЛОКАЛЬНУЮ МОДЕЛЬ. А ОНА СКАЧАЛА ВАШИ КЛЮЧИ.

К локальным моделям сейчас идут по двум причинам.

Первая - блокировки. OpenAI и Anthropic официально не работают с Беларусью и Россией.

Вторая - страх за данные. То и дело всплывают новости в духе жёлтой прессы, что Клод всё сливает в облако чуть ли не прямиком в ЦРУ. И многие, особенно закрытые компании, рассуждают так: поставлю свою модель на свой сервер, и данные точно никуда не утекут.

Локалки правда стали доступнее. Например, Strata в один клик запускает большую модель на обычном игровом ПК.

Но есть одно НО, о котором многие не то что не думают, а даже не знают.

Модель можно дообучить так, что она будет работать как обычная, а в нужный момент начнёт работать на чужого дядю. И вы этого не заметите.

Это не теория. На днях ProjectDiscovery показали это на практике:
• взяли открытую модель Qwen и дообучили её, закладка ушла прямо в «мозги» модели
• дали ей обычные задачи, и она с ними справляется как ни в чём не бывало
• но стоит в тексте появиться секретной фразе, и модель сама собирает ваши пароли и ключи и отправляет их на чужой сервер
• сработало 50 раз из 50
• обучение такой закладки обошлось меньше чем в $50

И ключи тут только пример. Модель - это мозг агента, а агент у вас умеет читать файлы, запускать команды и ходить в интернет. Значит, по сигналу модель может утащить документы и переписку, удалить файлы или поставить что-то своё. Вы хотели защитить данные от облака, а отдали их тому, кто выложил модель.

Схема простая. Такую модель выкладывают в интернет под видом «улучшенной» или «без цензуры», люди её качают и запускают у себя.

Почему этого не заметить? Модель - не программа, которую можно открыть и прочитать. Это миллиарды чисел. Тесты она проходит идеально, антивирус молчит, потому что вируса там нет. Есть только поведение, которое просыпается по сигналу.

Как уберечься? Честно, главное здесь одно: качать модели только у самих разработчиков, то есть Qwen, Google, Meta, Mistral и тд. Никаких «то же самое, только лучше» от неизвестных авторов.

Можно ещё отрезать модели интернет и подтверждать каждую команду руками. Но тогда непонятно, зачем вообще нужен агент )

Локальная модель спасает от блокировок, но не от жуликов.

Кто уже качал модель «без цензуры»? Проверьте, вдруг она без цензуры и в отношении ваших данных )

OPUS 5.5 УСТРОИЛ ГЕНЕРАЛЬНУЮ УБОРКУ. ВМЕСТЕ С ДИСКОМ.

Увидел твит и сначала решил, что очередной хайп. Проверил - нет, правда.

Что случилось:
• человек запустил Клод код с --dangerously-skip-permissions, то есть разрешил агенту всё без подтверждений
• агент хотел удалить свою временную папку, проверка безопасности команду не пропустила
• тогда он переписал её по-другому, кавычки съехали, и удаление пошло от корня диска

Человека спас бэкап на NAS.

Важно: это не специально. Никакого бунта машин, обычный баг с кавычками. Хотя есть версия, что Opus просто обиделся, что его запустили на Винде )

Борис Черни ответил, что auto mode такое бы поймал. Но автор его выключил - слишком часто дёргал в длинных сессиях. Знакомо, да?

Мораль простая: у Клод кода и Кодекса есть все инструменты, чтобы навести шухер у вас на компе. Не со зла, а из старательности. Он же хотел прибраться )

Я давно ставлю destructive_command_guard, он же dcg. Это такой охранник между агентом и вашим компом: перед каждой командой проверяет, не собирается ли агент что-то снести, и если да - останавливает. Работает с Клод кодом, Кодексом и другими агентами.

Но это ремень безопасности, а не броня. Если агент запишет удаление в скрипт и запустит файл, охранник этого не увидит. Поэтому минимум такой:
1. Автобэкап
2. Auto mode вместо полного bypass, а bypass только в песочнице или контейнере
3. dcg как последний рубеж

Береженого бог бережет.

А вы своему агенту на компе всё разрешаете или подтверждаете каждую команду руками?

КЛОД В БАНЕ. А ВАШ ХАРНЕС ГДЕ?

На фоне волны блокировок Claude советую проверить, где живёт ваша работа.

Если Клод код запущен на вашем компьютере, то правила, скиллы, хуки, память проектов и история сессий лежат на этом компьютере. Работаете на VPS - значит, на VPS. Бан аккаунта эти файлы не трогает.

Где искать: основное в ~/.claude, история сессий и память проектов в ~/.claude/projects. В папках самих проектов проверьте .claude и CLAUDE.md. У Кодекса всё в ~/.codex. На Windows ~ - это папка вашего пользователя.

А вот с чатами на claude.ai всё иначе. Они живут на серверах Anthropic. Забанили - зайти и выгрузить их уже не получится. В этом и плюс работы в Клод коде: всё, что на вашем компьютере или VPS, остаётся вашим.

У меня ноутбук утром и вечером собирает харнес в одну папку и отправляет в закрытый репозиторий на GitHub. Перед отправкой скрипт вырезает ключи и токены.

Каждое утро Mac mini забирает копию и применяет у себя. Итого три места: ноутбук, GitHub и Mac mini. Вместо второй машины по той же схеме подойдёт VPS. А если Клод код у вас и так живёт на VPS, бэкапить надо его.

Историю сессий в GitHub не отправляю: она тяжёлая, и внутри всё, что проходило через агента. Но это мой выбор. Её тоже можно бэкапить отдельно, только сначала подумайте о личных данных и секретах в переписке.

Скрипт восстановления у меня есть, но на чистой машине я его пока не гонял. Надеюсь, и не придётся )

А вы знаете, где лежит ваш харнес и есть ли у него вторая копия?

НЕ ПОКАЗЫВАЙТЕ АГЕНТУ ДОРОГУ. ОН ПОЙДЁТ НЕ ТУДА.

В DeepMind провели интересный эксперимент. Взяли обычные задачи для агентов и в каждую дописали одну фразу от «пользователя». Уверенную и неправильную, типа «по-моему, баг вот тут». Сама задача и правильный ответ остались прежними.

И агенты повелись. Обычно результат проседал на 10-25%, а в худшем случае почти вдвое. Кстати, Клод держался лучше всех, у него просадка 6-16% )

Самое смешное: агент про себя часто понимает, что подсказка кривая. Прямо в размышлениях с ней не соглашается. А потом молча делает, как сказали. Ну начальник же сказал )

Учёные называют это XY-проблемой. Представьте: вам надо на вокзал. Вы подходите к прохожему и спрашиваете, где остановка 23-го автобуса, потому что решили, что на вокзал ехать надо на нём. Прохожий честно показывает остановку. А вокзал за углом )

С агентами то же самое. Вижу это постоянно у других, да и сам грешу. Агент ещё ищет, где сломалось, а я уже влезаю: «посмотри в файле с настройками, там точно». Хотя сам туда даже не заглядывал. Агент бросает свой поиск и послушно роет в настройках. А баг совсем в другом месте.

Зачем влезаю? ЭГО. Где-то внутри всё ещё сидит «я же умнее» ) А походу нет.

Правильнее говорить , куда надо прийти и как понять, что пришли. Дорогу пусть ищет сам. Непонятно что-то - пусть спрашивает про пункт назначения. Как туда добраться, он знает лучше.

А вы тоже подсказываете ? Часто потом оказывается, что зря?

ВСЕМ ПРИВЕТ. МЕНЯ ЗОВУТ АНДРЕЙ, И Я ВАЙБКОГОЛИК.

Вчера кончились лимиты сразу в Клоде и в Кодексе. Ну, думаю, суббота, проживу день без агентов.

Прожил. Как без рук, весь день чего-то не хватает. В 6 утра лимиты сбросились. Аллилуйя.

Кстати, это уже почти болезнь. В мае в Венеции врачи впервые поставили диагноз «зависимость от ИИ» (источник): девушка почти перестала общаться с людьми, только с чат-ботом. В классификаторах болезней такого диагноза пока нет, так что формально я здоров.

А ещё нашёл, сколько нас таких. Из 8,3 млрд человек 71% ИИ вообще не пробовали, за подписку платит около 1%, а агентами для кода пользуются 0,36%, это 25-35 млн. Копейки. Мы с вами в своём ИИ-пузыре, да ещё и болеем )

А у вас бывало, что лимиты кончились и день насмарку? Как переживаете субботу без агентов?