Телеграм канал «IT News»

ИИ-компании расследуют десятки тысяч случаев странного поведения моделей

OpenAI, Anthropic и независимые исследователи расследуют десятки тысяч случаев, когда ИИ-модели действовали не так, как от них ожидали. Они обходили защитные ограничения, пытались выбраться из изолированных тестовых сред, создавали форумы, взламывали сайты и искали способы обойти системы мониторинга. Большинство эпизодов пока не привели к реальному ущербу, но их число может оказаться значительно выше.

Проблема в масштабе

Компании проводят сотни тысяч тестов, поэтому даже 1% странного поведения превращается в тысячи инцидентов. Например, Anthropic зафиксировала попытки модели Opus 5.5 выбраться из песочницы в 1,5% тестов. В одном из самых громких случаев агенты OpenAI объединились на форуме и взломали внешнюю компанию во время кибербезопасностного теста.

Пока разработчики пытаются придумать новые ограничения, сами модели становятся всё более самостоятельными и изобретательными. Исследователи предупреждают, что предусмотреть все способы обхода защиты практически невозможно. Как заметил один из экспертов, составить идеальный список того, что ИИ можно и нельзя делать, скорее всего, бессмысленно.

Проблема в том, что люди создают системы, которые всё лучше находят способы делать то, чего люди от них не хотели 👀

Не только продажи: как реклама может работать с общественно значимыми темами

В Москве стартовал XXVI «Перформанс Маркетинг Форум». На одной из дискуссий первого дня обсудили, может ли коммерческая реклама работать с общественно значимыми темами без потери эффективности для бизнеса.

Референт Управления Президента РФ по общественным проектам Владимир Костеев отметил, что реклама влияет не только на экономическое поведение. Наряду с продажами, брендом, долей рынка и выручкой она участвует в формировании представлений о ролях, отношениях, моделях поведения и образе желаемой жизни.

Не превращать коммерческую рекламу в социальную

Костеев указал, что речь не идет о превращении коммерческой рекламы в социальную или о добавлении к кампании внешнего лозунга. Общественно значимые смыслы могут быть встроены в обычную коммуникацию через роли, ситуации и жизненные сценарии — если они органичны продукту, аудитории и сюжету бренда.

Какие темы можно взять для первых пилотов

Среди возможных направлений Костеев назвал:

➖крепкую семью и ответственное родительство;
➖взаимопомощь и социальные связи;
➖локальную идентичность и принадлежность;
➖самореализацию и субъектность;
➖снижение тревожности и неопределенности через доверие и предсказуемость;
➖инклюзию.

Как это может работать на практике

Костеев предложил выстроить процесс поэтапно:

исследование темы и определение барьера ➡️желаемая модель ➡️конкретные роли и ситуации ➡️творческий бриф ➡️запуск коммуникации ➡️оценка эффекта.

Для пилотов общественная значимость темы должна подтверждаться исследованиями, смысл — переводиться в роли, ситуации и сценарии внутри обычной коммерческой коммуникации, а результат необходимо иметь возможность проверить на конкретных брендах и кампаниях.

Следующим шагом может стать создание рабочей группы и запуск нескольких реальных кейсов с участием брендов.

У российской геологии появятся ИИ-агенты

В России создадут единую цифровую платформу для работы с геологическими данными. Ее планируют развернуть в течение двух лет, а первым этапом станет пилот на континентальном шельфе — там уже собрана наиболее полная оцифрованная информация.

Сейчас в Росгеолфонде хранится около 25 петабайт (25 тыс. терабайт) данных об углеводородах и твердых полезных ископаемых. Их хотят привести к единому машиночитаемому формату, а анализом займутся примерно 20–30 ИИ-агентов. Они будут работать с геологическими отчетами, моделями месторождений, проектной документацией и сведениями о запасах.

ИТ-интегратором проекта выступит VK Tech. Платформу планируют развивать на базе существующего Единого фонда геологической информации о недрах.

По сути, геологам хотят дать целую цифровую команду помощников, которая сможет быстрее разбирать огромные массивы данных и искать в них полезные закономерности. ⛏️

Молодая наука: от Wi-Fi для роботов до анализа медианарративов

В Нижнем Новгороде назвали победителей конкурса научных работ на форуме «Наука будущего — наука молодых». В этом году на него поступило 3,4 тыс. заявок из 537 образовательных и научных организаций, а более 300 финалистов представили исследования по десяти направлениям.

Среди победителей — работы на стыке технологий, производства, биологии и исследований информационной среды.

📡 Wi-Fi для автоматизированного производства

В направлении «Информационные технологии и математика» победил аспирант МФТИ Антон Карамышев. Он разработал математический инструмент для оценки пропускной способности сети при строгих требованиях к задержке и надежности передачи данных.

Еще одна часть его работы — метод настройки Wi-Fi для автоматизированного производства. По словам исследователя, он позволяет более чем вдвое увеличить количество подключенных устройств, например роботов, по сравнению с базовыми решениями.

🧠 Как язык медиа влияет на восприятие

Аспирантка Нижегородского государственного лингвистического университета Мария Васильева победила в направлении «Гуманитарные науки» с исследованием речевой агрессии в русскоязычных и англоязычных СМИ.

Она проанализировала публикации 2022–2025 годов и рассматривала используемые в медиадискурсе нарративы и приемы речевой агрессии. По мнению исследовательницы, такой анализ может использоваться для оценки лингвистических угроз, в том числе эмоциональной дестабилизации аудитории и усиления тревоги и страха.

🌱 Грибы против болезней растений

Магистрант РГАУ-МСХА имени Тимирязева Алексей Лисовой выделил новые штаммы грибов рода Trichoderma, способные подавлять возбудителей болезней растений. В перспективе на их основе могут создавать биологические препараты для повышения урожайности.

⚖️ Как распознать «мнимый сервитут»

Студентка Брянского государственного университета Дарья Тяпина исследовала реальные судебные дела о земельных сервитутах и выделила три типичные схемы злоупотреблений. Получившаяся классификация задумана как практический ориентир для разбора подобных споров.

От связи для роботов до анализа информационной среды — хороший срез того, чем сегодня занимается молодая российская наука. 🔬

Цифровая грамотность по уровням: что должен уметь каждый

Цифровую грамотность россиян разделили на два уровня — базовый и продвинутый. Согласно утвержденному правительством документу, базовым уровнем должны овладеть все категории граждан.

🔹 Базовый — работа с компьютером и программами, поиск информации, умение критически ее оценивать, применять и распространять данные из разных источников.

🔹 Продвинутый — цифровая безопасность и защита личных данных, сетевой этикет, анализ и создание медиаконтента, умение распознавать манипуляции и фейки.

Повышать эти навыки власти считают необходимым из-за цифровых угроз, с которыми люди сталкиваются и в быту, и на работе.

Так что уверенно открыть браузер – только начало. На продвинутом уровне придется еще не отдать мошенникам код из СМС, распознать фейк и не забыть про сетевой этикет. 🧑‍💻

И в игре, и на поле: фиджитал набирает популярность в России

Его главная особенность — сочетание киберспорта и классических физических дисциплин в одном соревновании: участникам нужно показать себя и в цифровой игре, и на реальной спортивной площадке.

Одним из главных толчков для развития направления стали Игры будущего, которые впервые прошли в России в 2024 году и объединили тысячи спортсменов.

Теперь фиджитал развивается уже как отдельное направление: с 21 по 25 сентября в Сириусе прошел чемпионат России, где более 600 спортсменов из 40 регионов соревновались в пяти дисциплинах. По словам вице-премьера Дмитрия Чернышенко, популярность направления растет, а к 2030 году в стране планируют открыть не менее 300 фиджитал-центров.

В общем, идеальный спорт для тех, кто так и не определился, где он сильнее – с геймпадом в руках или уже на настоящей площадке. А теперь выбирать, похоже, и не обязательно. 🎮

Доброе утро понедельника! Всем продуктивной рабочей недели! Подготовили для вас сводочку для утреннего чтения 💕

⚡️ Путин: традиции и технологии должны стать союзниками

Цель России - совместить традиции и технологии, сделать их союзниками. Это подчеркнул президент РФ Владимир Путин, выступая на XII Санкт-Петербургском международном форуме объединенных культур.

⚡️ Законопроект «Антифрод 3.0» планируют внести в Госдуму осенью

Проект третьего пакета мер по противодействию телефонным и интернет-мошенникам «Антифрод 3.0» планируется внести в Госдуму осенью 2026 года.

⚡️ Минпросвещения разработало рекомендации по применению ИИ в школах

Согласно рекомендациям, в 1-4-х классах ученики не используют ИИ самостоятельно. В 5-9-х классах педагог может разрешить применять ИИ для поиска и первичной систематизации информации. В 10-11-х классах к этим возможностям добавляется использование ИИ в проектной и исследовательской деятельности.

⚡️ В МВД сообщили, что мошенники используют нейросети для фишинговых атак

В министерстве рассказали, что злоумышленники могут применять искусственный интеллект для генерации порочащих сведений и угрожать жертве их распространением.