Телеграм канал «Чеснаков»

Идеологизация нейросетей: риски и угрозы

Закон о поддержке развития технологий искусственного интеллекта постепенно начинает обрастать конкретной инфраструктурой.
Так, стало известно о том, что российские IT-компании с одобрения Минцифры смогут передать в независимую испытательную лабораторию на проверку соответствия LLM закону и традиционным духовно-нравственным ценностям.
Так как закон носит рамочный характер, как раз за счет установки таких процедур (при помощи подзаконных актов) будет формироваться процедурная часть. Однако у инициативы уже сейчас прослеживаются некоторые риски.

🟥 Риски запроса. Уже на «входе» прослеживаются узкие места всей конструкции. Во-первых, соответствие традиционным ценностям планируется оценивать при помощи анализа ответов LLM. Известно, что качество ответа во многом зависит от того, какой промпт был задан. Кто будет оценивать качество самого запроса – неизвестно. Затем, по данным источников, будет проводиться тестирование «возможности обхода внутренних ограничений с помощью промпт-инъекций», что уже является тестом безопасности, а не проверкой результатов генерации.

🟥 Риски интерпретации. Чем менее формализован критерий, тем сложнее добиться воспроизводимости проверки. Одна и та же модель может дать разные ответы на близкие по смыслу вопросы, а разные эксперты по-разному оценить один и тот же ответ. Для технического регулирования это крайне уязвимая ситуация. Разработчик должен заранее понимать, какие требования необходимо выполнить, чтобы пройти проверку. Если же результат зависит от экспертной трактовки, регулирование становится неэффективным.

🟥 Риски объективности. Большинство пользователей ИИ ценят нейросети за объективность. Можно долго спорить о том, существует ли вообще объективность в LLM, но представление о «бездушной машине», которая лишена эмоций, безусловно, присутствует и для многих является конкурентным преимуществом ИИ. Теперь представим, что мы идеологически нагрузили LLM. Выставили ей идеологически верные веса. Будет ли она в таком случае выдерживать конкуренцию с другими моделями, которые такие ограничения для своего продукта не выставили?

🟥 Риск самоцензуры. Для крупных компаний прохождение подобных испытаний будет иметь не только юридическое, но и репутационное значение. Поэтому рациональной стратегией разработчика станет создание дополнительного запаса безопасности. Модель будет отказываться отвечать не только там, где ответ очевидно нарушает установленные ограничения, но и там, где существует хотя бы небольшой риск неправильной интерпретации. Это, кстати, уже можно наблюдать у Алисы AI – попробуйте задать острый политический запрос, вы вряд ли получите ответ. Такие ограничения, безусловно, есть и у DeepSeek, и у западных моделей, но блокировки не столь явные.

Понаблюдаем за непосредственной реализацией. Пока слишком много открытых вопросов…

Власть данных в эпоху ИИ

Информация в цифровую эпоху давно стала новой нефтью (извините за штамп). Однако в последнее время в связи с бурным развитием ИИ, ценность данных стала особенно ощутимой. Масштабирование LLM, появление все большего числа параметров - наглядный показатель как роста эффективности моделей, так и объема уникальных (или не очень) данных, на базе которых эти модели учатся.

Власть постепенно переходит не столько к тем, кто способен создать лучший алгоритм, сколько к тем, кто контролирует доступ к данным. Неслучайно в недавно принятом законе о поддержке развития ИИ в России значительное внимание уделяется именно данным. Саму технологию со временем можно воспроизвести. Вычислительные мощности можно купить или арендовать. Даже специалисты, несмотря на сохраняющийся дефицит, перемещаются между компаниями и странами (правда, только пока, Китай уже вводит ограничения). Но качественный массив данных, особенно уникальных данных, не купить уже сейчас.

Возникает новая форма дефицита. Интернет долгое время создавал иллюзию практически неограниченного доступа к информации. Казалось, что преимущество получает тот, кто умеет быстрее находить, обрабатывать и интерпретировать открытые данные. ИИ постепенно меняет эту модель. Публичная информация доступна всем игрокам и поэтому сама по себе дает все меньше конкурентных преимуществ.

По данным Epoch AI, весь эффективный запас качественного публичного текста, созданного человечеством, составляет порядка 300 трлн. токенов. При сохранении текущих темпов масштабирования языковые модели полностью выберут его между 2026 и 2032 годом. Ценность смещается в сторону закрытых массивов: корпоративных баз, пользовательских историй, медицинских данных и финансовой информации.

Отсюда возникает и новый реструмент (а может и форма) власти - право решать, кто именно получит доступ к информации и на каких условиях. У любого бизнеса есть некие наборы данных. Это информация о клиентах, маркетинговые, финансовые данные. Если речь идет о крупном бизнесе и некоем уникальном продукте, например, фитнес-трекере, то у компании есть ценная информация о физической активности пользователей.

За три года сформировался рынок, которого прежде не существовало. По данным WSJ, пятилетнее соглашение OpenAI с News Corp оценивается более чем в $250 млн. Google платит Reddit около $60 млн в год за доступ к веткам на форуме, на основе которых обучается Gemini. Amazon приобрел доступ к архивам The New York Times за $20–25 млн в год. Список можно продолжать.

Данные определяют геополитику века XXI-го, но с одним нюансом.
Предыдущая ценность - нефть (возвращаюсь к первому тезису ;)) была исчерпаема, но в какой-то мере и в какое-то время вполне взаимозаменяема. Баррель есть баррель. Купите вы его у России, Ирана, или Саудовской Аравии – не столь важно. Данные, напротив - уникальны. Второго Reddit не существует. А значит, торг здесь будет не рыночным, а силовым. Теперь уникальные данные и есть ресурсы власти.
Что тут делать?
Кроме того, что стоит:
а) определить свои уникальные данные и
б) попытаться понять как ими не делиться с лишними субъектами, ничего другого не могу предложить. Ну и не стоит создавать новых данных без понимания - какие риски это производство несет для вас лично и для вашего бизнеса.

Ошибки «Яблока»

Решение Верховного суда по делу «Яблока» можно считать закономерным.
Партия допускала систематические ошибки, которые и привели к такому исходу. Вот лишь главные из них.

🟥 Ошибки позиционирования. «Яблоко» не смогло, если не будет сказать точнее - не захотело дистанцироваться от радикалов. Увидев активизацию кампании антисистемщиков, руководство партии никак ее не пресекло. Напротив, даже попыталось заигрывать с этой аудиторией. В этом кейсе заложена глубинная проблема партии. Ее руководство остается в антисистемном информационном пузыре, заблуждаясь, будто бы ее аудитория находится в «либерально-демократическом» Facebook*. Однако уехавшие оппозиционеры, во-первых, не голосуют на выборах. А во-вторых, являются крайне токсичными для внутренней аудитории.

🟥 Ошибка субъектности. Следствием первой ошибки стало то, что «Яблоко» из самостоятельного субъекта превратилось в объект, инструмент влияния в руках других акторов. Запад открыто декларировал намерение вмешаться в выборы. Было ожидаемо, что уехавшие антисистемщики, не имея собственных институциональных ресурсов, будут пытаться использовать имеющиеся партийные бренды для реализации планов по вмешательству. На этот случай у каждой оппозиционной партии должна была быть программа действий по дистанцированию от таких попыток. У «Яблока» такой программы не оказалось. Теряя субъектность, партия лишается рычагов управления.

🟥 Ошибка кадров. «Яблоко», как и многие другие партийные бренды, затянуло процесс кадрового обновления. Явлинский согласился лишь на косметическое обновление. Рыбаков с 2016 года, за целых десять лет, так себя и не проявил. Управленческие и юридические ошибки привели к тому, что более-менее известные (хотя бы на уровне региона) «яблочники» не могут выдвигаться. В итоге в списке партии - абсолютные ноунеймы. Можно было бы сыграть на истории бренда. Но попробуйте объяснить современной молодежи, что такое «Яблоко». Кроме шуток, даже не все студенты-политологи первого курса знают, почему партия называется именно так и при чем здесь Болдырев и Лукин. А возрастной электорат успел разочароваться в «Яблоке».

🟥 Ошибка планирования. Выборы - это не три месяца официальной кампании. Это постоянная и регулярная работа партии на протяжении всех пяти лет. Это работа с избирателями, повесткой, журналистами. За весь прошлый год упоминаемость «Яблока» в топ-100 федеральных и региональных СМИ ни разу не превысила двух тысяч. В январе, феврале и марте этого года было менее тысячи упоминаний**. При том, что в марте неофициальная кампания уже стартовала. И это со всеми перепечатками. То есть партия находится в состоянии анабиоза, просыпаясь лишь в период официального старта кампании.

🟥 Ошибка организации. В иске «Родины» перечисляются вполне себе конкретные нарушения, за которые «Яблоко» действительно может быть снято. В основном нарушения связаны с экстремистскими материалами и оформлением согласия правообладателей на использование в агитматериалах контента, защищенного авторским правом. Юристы «Яблока» не знали о требованиях 67-ФЗ «Об основных гарантиях избирательных прав и права на участие в референдуме граждан Российской Федерации»? Отчасти эта ошибка является следствием предыдущей. Партийная структура работает 3 месяца за пять лет. В межэлекторальный период контроль юридической строгости не ведется.

Теперь выживаемость бренда находится под большим вопросом. Ведь все те же ошибки были допущены и на региональном уровне. «Яблоко» рискует лишиться партийной льготы.

Понаблюдаем.

*Принадлежит Meta, которая признана экстремистской и запрещена в РФ.
** По данным «Медиалогии».

Вчера был без устойчивой связи. Поэтому про «казус «Яблока» пишу сегодня. Не обессудьте.

10 – 16 августа
На что обратить внимание
 
🟥 Повестка Путина. Большие советы, образование и наука, комиссия Госсовета, мероприятия, встречи и контакты.
 
🟥 Опять двойка! Возможный визит Уиткоффа и Кушнера в Киев и Москву. Сигналы и манипуляции. Годовщина саммита в Анкоридже как повод для подведения итогов.
 
🟥 Иранский трек. Утечки и сигналы о новых параметрах договоренностей между Ираном и США.
 
🟥 Удары и их последствия. Атаки в ходе российско-украинского конфликта на промышленные и инфраструктурные объекты.
 
🟥 На новых рубежах. Ход СВО. События на линии соприкосновения.
 
🟦 Судьба «Яблока». Решение о снятии или сохранении Партии в кампании. Реакции и прогнозы.
 
🟦 Молодежные форматы. Сигналы с традиционных молодежных лагерей.
 
🟦 Кампания набирает темп. Продолжение праймериз на промежуточных выборах в США.
 
🟦 Санкционный трек. Начало применения части ограничений 21 пакета ЕС. Судьба законопроекта Грэма.
 
🟦 Замеры настроений. Публикации данных социологов о состоянии умов в элитах и массах.Динамика рейтингов партий перед выборами в Госдуму.

Книги недели

⭐️⭐️Пол Престон. Франкизм в Испании

⭐️⭐️Максим Тимонов, Раиса Шамаева. Информационные войны

⭐️Томас Соуэлл. Почему мир не может договориться

⭐️Нил Ширинг. Эпоха перелома

⭐️Юдковский, Соарес. Если кто-то его создаст - все погибнут

Канал Чеснаков. Библиотека telemetr.me/chesnakovbooks

📌 Некоторые важные публикации недели на «Актуальных комментариях»:

🔷 Игорь Юшков — о том, почему эпоха «легкой нефти» подходит к концу.
Мировая нефтяная отрасль вступает в этап, когда основным источником роста становятся трудноизвлекаемые запасы. Это требует новых технологий, долгосрочных инвестиций и иной налоговой политики, способной стимулировать разработку сложных месторождений. Для России этот процесс открывает не только новые вызовы, но и значительные возможности: страна остается одним из мировых лидеров по запасам трудноизвлекаемой нефти, поэтому ключевым фактором становится скорость технологической адаптации отрасли.

🔷 Константин Лебедев — о том, почему чрезмерная финансовая осторожность может подрывать доверие к банковской системе.
Усиление механизмов финансового мониторинга закономерно повышает защищенность от мошенничества, однако одновременно увеличивает число спорных блокировок операций. Когда контроль становится непрозрачным для добросовестных клиентов, он начинает влиять на повседневное финансовое поведение и стимулирует поиск альтернативных способов хранения и перевода средств. Главный вызов заключается в поиске баланса между эффективностью надзора и сохранением доверия к банковской системе.

🔷 Даниил Ермолаев — о мифологии поколения Z и разрыве между стереотипами и реальностью.
Автор предлагает отказаться от упрощенного взгляда на молодых людей как на поколение с единым набором ценностей и моделей поведения. Многие популярные представления о «зумерах» сформированы медийными клише и плохо отражают реальные социальные установки. Вместо универсального портрета возникает гораздо более сложная картина, где жизненные стратегии определяются не возрастом, а социальным опытом, средой и экономическими условиями.

🔷 Екатерина Набатникова — о пределах искусственного интеллекта.
Несмотря на стремительное развитие технологий, искусственный интеллект по-прежнему сталкивается с фундаментальными ограничениями, которые невозможно преодолеть простым увеличением вычислительных мощностей. Все большее значение приобретают качество данных, архитектура моделей и способность ИИ работать в условиях неопределенности. Именно понимание этих границ позволяет отделить реальные перспективы технологии от завышенных ожиданий.

🔷 Наталия Якубович — об эпохе «15-минутного города» и новой логике развития городской среды.
Концепция компактного города постепенно становится ответом на запрос жителей на качество повседневной жизни. Доступность работы, образования, медицины и досуга в пределах короткой пешей или велосипедной поездки превращается в один из ключевых критериев современного градостроительства. В центре внимания оказывается уже не скорость перемещения между районами. На первый план выходит создание комфортной среды, где большинство повседневных потребностей можно закрыть рядом с домом.