Телеграм канал «Математика не для всех»

Тысяча гипотез Суня и математический прогресс с ИИ

Что составляет математический прогресс, если всё больше вычислений можно поручить машине? Для Суня Чживэя, профессора Нанкинского университета, существенная часть ответа заключается в постановке новых вопросов. Он подготовил сборник более чем из 1000 нерешённых гипотез и предложил научному сообществу искать доказательства. Как сообщает South China Morning Post, сборник занимает более 400 страниц, а премии за решение некоторых задач Сунь готов выплачивать из своей зарплаты.

Сунь занимается теорией чисел. В его представлении интуиция помогает обнаружить новый вопрос, а логика позволяет его решить. Освоение известных формул и доказательств необходимо для обучения, но исследованию нужны ещё и гипотезы, задающие направление работы. Поэтому свою инициативу он адресует всему математическому сообществу.

Вычислительные инструменты заинтересовали Суня в 2005 году. В 2009-м он освоил Mathematica и получил возможность проверять тысячи частных случаев. Здесь существенно различие между проверкой отдельных случаев и доказательством гипотезы. В первом случае исследователь изучает выбранные примеры; требование найти доказательство этим не снимается.

Теперь Сунь использует и ИИ, поручая ему рутинные расчёты и работу над сложными задачами. Он направляет поиск и отключает доступ к интернету, чтобы модель не узнала о нерешённом статусе задачи и не отказалась над ней работать. Так Сунь описывает свой рабочий приём, а не гарантию успеха. Он сравнивает ИИ с эрудированным и прилежным аспирантом и рассчитывает, что автоматизация освободит время для новых методов и теорий. По его оценке, способность формулировать вопросы остаётся определяющей для науки, а ИИ не может решить любую математическую задачу.

Различие между полученным ответом и развитием математического знания обсуждается и в открытом письме Math and AI. Его подписали 25 лауреатов медали Филдса, о чём рассказал РБК. Подписанты отмечают, что компании используют решение известных задач как показатель возможностей моделей. Для математиков главная цель состоит в концептуальном понимании, новых методах и идеях.

Механизм превращения решения в общее знание вполне конкретен. Результат обсуждают, изложение упрощают, новые приёмы связывают с предыдущими исследованиями. Затем эти идеи могут войти в учебники и найти применение в других областях. Авторы письма опасаются, что поспешные объявления об ИИ-результатах не оставляют времени на надлежащее изложение, выделение новых методов и признание предшествующих работ. Возникают также вопросы об авторстве и заимствованиях. При этом подписанты признают, что ИИ способен ускорять исследования.

Поводом для этой дискуссии стало и заявление OpenAI о решении проблемы существования и гладкости решений уравнений Навье — Стокса, одной из задач тысячелетия. Подробности заявления включали сообщение компании о формализации доказательства и его проверке в системе Lean. Это заявленный компанией результат.

Тристан Бакмастер выразил подозрения относительно использования наработок его совместного проекта с Левентом Алпёге. В своём публичном заявлении, о котором сообщил РБК, он также рассказал о предложениях исключить коллегу из авторов. OpenAI отрицала знакомство с их работой до её обнародования. Сам Бакмастер подчеркнул, что не видел доказательства компании и не утверждает, что она использовала их черновики. Подозрения нельзя считать установленным заимствованием.

Инициатива Суня возвращает разговор к тому, с чего начинается исследование. Его сборник предлагает вопросы для дальнейшей работы. Вычисления помогают исследовать частные случаи, а ИИ, по его замыслу, освобождает время для методов и теорий. Обсуждение авторства и передачи знаний дополняет эту картину конкретным требованием научного сообщества, чтобы за быстрым получением результата следовала работа по его объяснению и включению в математику.

Источник

Наши каналы
MAX · Telegram · Дзен

#Математика #Гипотезы #ИскусственныйИнтеллект #Доказательства

Часть 2 из 2

Три экспериментальных сравнения уточняют практическую пользу метода. В первом участвовали 48 взрослых самцов линии Sprague-Dawley. Десять дней подряд им вводили физраствор в брюшную полость. В группах с игровым обращением непосредственно до и после процедуры проводили двухминутные сеансы щекотания. По сравнению с присутствием пассивной руки сигналов 50 кГц перед инъекцией и после неё было больше, особенно у животных с опытом щекотания в молодом возрасте. Но непосредственно во время введения частота сигналов снижалась до 15 ± 1,4 в минуту. Величина после ± здесь обозначает стандартную ошибку среднего, то есть неопределённость оценки среднего, а не разброс показателей отдельных животных. В момент введения вариант обращения не влиял на частоту сигналов.

Во втором сравнении 96 молодых самцов фиксировали с инъекцией физраствора или без неё. Щекотание проводили до процедуры, после, и до, и после либо не проводили. Во время фиксации все группы с игровым обращением давали больше сигналов 50 кГц, чем группа без него. При этом применение до процедуры превосходило применение только после неё. Щекотание перед фиксацией также уменьшало число слышимых криков относительно отсутствия щекотания. Это свидетельствует о переносе положительной реакции на последующую манипуляцию, но не об исчезновении дискомфорта.

Третье сравнение отделяет привыкание от положительного контакта. Для 32 самцов сопоставили минимальное обращение при смене клетки, ежедневное присутствие пассивной руки, щекотание и удерживание на спине. После инъекции животные из групп пассивной руки и щекотания дольше вставали на задние лапы рядом с исследователем, чем животные из двух других групп. Однако при предъявлении знакомой или незнакомой руки щекотавшиеся крысы издавали больше сигналов 50 кГц, чем привыкшие к пассивной руке. Присутствие руки помогало привыкнуть к человеку, а игровой контакт давал более выраженные признаки положительной реакции.

Единой реакции для всех животных нет. Молодые крысы обычно отвечают сильнее, хотя польза наблюдается и у взрослых; данные о различиях между полами непоследовательны. Среди факторов, влияющих на ответ, отмечены индивидуальная игривость, прежний опыт, знакомство с человеком, подстилка, освещение и недавний стресс. Влияние некоторых условий и особенностей исполнения пока исследовано недостаточно или описано только в неопубликованных наблюдениях. В большинстве экспериментов при одиночном содержании положительная реакция была сильнее, чем при групповом. Когда крыс щекотали вместе с соседями в домашней клетке, эта разница уменьшалась.

Короткое игровое обращение может снижать избегание человека и смягчать неприятный опыт, а стандартизованный протокол позволяет исследовать положительные эмоциональные состояния. При этом две минуты контакта, по оценке авторов, слишком короткий срок, чтобы воспроизвести все эффекты социальной игры. Молодые крысы играют друг с другом примерно час в день. Более долгие или дополнительные сеансы обсуждаются как возможность при сохранении положительной реакции, а не как установленный оптимум; они не должны мешать сну и питанию. Метод не устраняет дискомфорт инъекции, а перенос результатов на другие медицинские и экспериментальные процедуры требует отдельных исследований.

Наши каналы
MAX · Telegram · Дзен

#ПоведениеЖивотных #Эксперимент #Измерения #Нейробиология

Часть 1 из 2

Как игровое обращение меняет реакцию лабораторных крыс

Можно ли сделать контакт лабораторной крысы с человеком положительным опытом? Обычное обращение с животным способно вызвать страх и сопротивление, повысить риск травм и повлиять на достоверность экспериментальных данных. Для приучения используют присутствие человека, поглаживание, удерживание и лакомства, но эффективность этих способов неодинакова. В статье о стандартизованной технике щекотания предложен игровой способ взаимодействия и описано, как оценивать его результат.

Здесь «щекотание» означает воспроизведение двух элементов крысиной возни. Один участник касается загривка другого, а тот переворачивается на спину и оказывается под партнёром. Человеческая рука чередует контакт с загривком и краткое переворачивание с мягкой стимуляцией живота. Имитация неполна, поскольку крыса не может поменяться с рукой ролями. Однако животные сами ищут такой контакт, а у молодых крыс щекотание может служить наградой при обучении. Это поддерживает предположение, что оно задействует механизмы вознаграждения, сходные с механизмами социальной игры.

Ключевая деталь состоит в чередовании короткого контакта и освобождения. После повторного неигрового удерживания на спине крысы проявляли меньше интереса к человеку, чем после щекотания. Поэтому результат зависит от исполнения, а не просто от прикосновения к определённой части тела.

Как измерить реакцию животного? Авторы используют звуки и поведение. Ультразвуковые сигналы около 22 кГц обычно связаны с ожиданием неприятного события и тревогой. Сигналы около 50 кГц, особенно трели с меняющейся частотой, характерны для вознаграждающих ситуаций. Слышимые человеком крики обычно служат признаками боли и дискомфорта.

Число сигналов 50 кГц за единицу времени используют как количественный показатель положительной эмоциональной реакции. Его дополняют наблюдением за приближением к руке, преследованием её, облизыванием и лёгким игровым покусыванием. Если в паузах крыса остаётся неподвижной, авторы рекомендуют пересмотреть технику, например сократить длительность или число переворачиваний.

Для воспроизводимости протокол задаёт условия и время. Нужна знакомая или предварительно освоенная ёмкость без препятствий, с подстилкой и пространством для движения. Тонкая перчатка позволяет чувствовать давление и ответ животного. Для исследовательской записи используют ультразвуковой микрофон, для контроля реакции можно применять детектор, настроенный на 50 кГц. Описанные эксперименты проводились по одобренным процедурам работы с лабораторными животными.

Двухминутный сеанс включает четыре чередования 15 секунд без контакта и 15 секунд игры. В игровых интервалах контакт с загривком сменяется кратким удерживанием на спине, по 2–4 секунды, с последующим освобождением. Движения быстрые, но не силовые. Области крупа избегают, поскольку она становится мишенью при агрессивных взаимодействиях. Реакция животного остаётся критерием правильного исполнения.

Работать можно и с группой. У пары игра с одной крысой совпадает с паузой у другой. Для тройки предусмотрено участие второй руки, а для больших групп общее время при необходимости увеличивают. Каждая крыса получает четыре игровых интервала с паузами. Таким образом, протокол допускает работу с животными, содержащимися вместе.

К моменту публикации щекотание использовали более чем в 56 экспериментах, в 22 его сравнивали с другими способами обращения. Часто наблюдали больше сигналов 50 кГц, более активное приближение и облегчение манипуляций. В девяти экспериментах сокращалось время до приближения. Отдельные работы сообщали о меньшем замирании после выработки условного страха и более частых выходах в центр открытой площадки у крыс, содержавшихся поодиночке. На уровне мозга также описаны изменения активности генов в гипоталамусе и усиление образования новых нейронов в зубчатой извилине, части гиппокампа. Это результаты отдельных исследований, а не установленное объяснение всех поведенческих эффектов.

Часть 2 из 2

Автор проверял и возможные укрытия для редких признаков. При обучении называть конкретную фотографию зонта пчелой включался уже существовавший путь распознавания пчелы. Удаление слабейших 75% активаций Medium ConvNeXt снизило точность с 72% до 71%; удаление сильнейших 7% с той же суммарной величиной снизило её до 4%. Слабые сигналы часто уточняли выбор между близкими альтернативами. Однако их роль зависит от слоя, и считать их повсеместно ненужными нельзя.

В языковых моделях понять функцию нейрона мешает не только сложность темы. Нейрон может реагировать на запятой, где собирается смысл предыдущего текста. Если смотреть лишь на знак препинания или слишком короткий контекст, связная функция выглядит бессистемной. В предварительном аудите Qwen3-32B авторы оценили примерно 90% полюсов нейронов как имеющие одну основную функцию, иногда с небольшими связанными ответвлениями. Полюс обозначает сторону реакции, сильную положительную или отрицательную. Доля зависит от порогов и от того, какие близкие функции считать одной.

Архитектура добавляет собственные ловушки. В нейронах SwiGLU взаимодействуют управляющий множитель и значение. Когда оба отрицательны, выход получается положительным, хотя примеры обычно связаны с отрицательным полюсом. Список только положительных откликов способен скрыть настоящую функцию. Удаление этого режима улучшало большинство проверенных показателей, но ухудшало некоторые задачи рассуждения; причина пока не выяснена.

В моделях со смесью экспертов вычисления распределяются между блоками, которые выбирает механизм маршрутизации. Авторы находят у таких блоков тематическую специализацию, сужающуюся с глубиной. Объяснение через рекурсивное обобщение на уровне экспертов пока остаётся предположением. Тем не менее устройство этих блоков даёт дополнительный контекст для понимания отдельных нейронов.

Связную историю ещё нужно испытывать. В медицинской задаче удаление четырёх нейронов диагностического узла Qwen3-32B заставило модель спрашивать о зуде, признаке другого заболевания печени при беременности. В другом тесте один агент описывает функцию нейрона, а второй только по этому описанию создаёт активирующий пример. Иногда такой пример возбуждал нейрон сильнее любого найденного в десяти миллиардах токенов. Но успех проверяет лишь одну область функции. Поэтому авторы дополнительно группируют входящие пути и испытывают их отдельно, отключая остальные.

Остаётся вопрос об остаточном потоке, общем представлении, которое передаётся между слоями. При его сужении в зрительной модели точность падала, а представления становились шумнее. Полностью исключить переплетение представлений Каммарата не берётся, но в проведённых исследованиях оно не стало препятствием для анализа.

Предлагаемая программа состоит в масштабировании прямого изучения нейронов и цепей. Понимание соседних механизмов ограничивает возможные объяснения и помогает проверять новые. Эти опыты дают основания исследовать сеть без обязательного предварительного «распутывания». Они не доказывают ни невозможность суперпозиции во всех сетях, ни полную прозрачность современных языковых моделей.

Наши каналы
MAX · Telegram · Дзен

#Нейросети #Интерпретируемость #МашинноеОбучение #Обобщение

Часть 1 из 2

Нужно ли распутывать нейросеть, чтобы понять её вычисления

Почему один нейрон реагирует на кошек и автомобили? В эссе Neural Networks Are Already Clean Ник Каммарата пересматривает объяснение через суперпозицию. Здесь этим словом он называет упаковку несвязанных признаков в одни нейроны, когда признаки редко мешают друг другу. Его гипотеза состоит в том, что многие примеры такой упаковки лучше объясняются обобщением, недостатками обучения и ошибками инструментов.

От объяснения зависит способ исследования. Можно изучать собственные нейроны сети и связи между ними. Другой путь предполагает обучение дополнительной модели, например разреженного автоэнкодера, SAE, который представляет активации через набор предполагаемых признаков. Каммарата оспаривает обязательность такого посредника. При этом один признак вполне может представляться совместной работой нескольких нейронов. Такое распределённое представление само по себе ещё не означает произвольного смешения несвязанных вещей.

Знаменитый нейрон InceptionV1, реагирующий на кошек и автомобили, автор объясняет общей V-образной формой. Округлые формы вызывают противоположную реакцию. Такое объяснение связывает отклики с различением форм, а не только с названиями объектов.

В другой классической цепи автомобиль будто бы прятался среди собачьих признаков. При повторном анализе Каммарата обнаружил общие позы объектов и дальнейшую специализацию на автомобилях, но не считывание спрятанной комбинации. Ошибке помогала визуализация. При поиске изображения, максимально возбуждающего нейрон, оптимизация часто выбирала доступный путь через изображения собак.

Связь между реакциями может возникать и постепенно. Нейрон реагирует на «iy», затем на «diy», затем на «do it yourself», где исходного сочетания букв уже нет. Автор называет это рекурсивным обобщением. Каждый переход связан с предыдущим, хотя крайние случаи выглядят далёкими. Промежуточные состояния обучения позволяют проследить, как растут такие ответвления.

Но не всякая путаница объясняется обобщением. По приблизительной оценке автора, улучшенные инструменты сделали понятными около 50% нейронов последнего слоя исходной InceptionV1. Переобучение той же архитектуры с современной регуляризацией дало около 70%, а ConvNeXt сопоставимого размера на тех же данных около 99%. Здесь изменения архитектуры, созданные для улучшения обучения, сопровождались более понятными функциями нейронов. Их можно посмотреть в интерактивном обозревателе модели.

Размер тоже меняет картину. В трёх ConvNeXt, различающихся числом параметров примерно в 300 раз, меньшие сети давали более грубые различения, а большие более узкие. При нехватке места один нейрон мог охватывать широкую категорию автомобилей; при большем размере появлялись отдельные специализации.

Для более жёсткой проверки слой InceptionV1 сократили с 480 до 10 каналов, то есть с 480 до 10 выходных компонент в каждой пространственной позиции. Сеть обучили заново, причём сигнал не мог миновать этот слой. Вместо набора узких детекторов кривых получился более общий детектор кривых и петель. SAE не восстановил прежние узкие детекторы. Его реконструкция была несовершенной, поэтому этот опыт поддерживает объяснение потерей детализации, но не доказывает невозможность скрытого кодирования. Сжатие последнего слоя ConvNeXt дало сходное расширение функций нейронов.

В других зрительных опытах SAE в основном воспроизводили отдельные нейроны или собирали их контекстные сочетания. На исследованном последнем слое 88% активности SAE приходилось на почти копии нейронов. При этом разложения помогали описывать содержимое изображений, особенно у маленьких моделей. Вопрос касается необходимости предварительного разложения, а не его бесполезности вообще.

Техника Braun для красоты и ухода

✅ Оригинальные бритвы, триммеры и эпиляторы

✅ Точность, комфорт и стиль — вместе с Braun

Купить

#реклама
market.yandex.ru
О рекламодателе

Почему надёжная кривая не защищает слабый ключ

Секретный ключ, равный 4, можно раскрыть и на эллиптической кривой с примерно 2^384 точками. История с сертификатами eMudrha показывает, почему происхождение параметров, трудность математической задачи и выбор секрета требуют отдельных проверок.

Кривые Национального института стандартов и технологий США (NIST) оказались в центре двух новостей. Сначала исследователи Anthropic восстановили происхождение исходных значений, из которых получали параметры кривых. Затем обнаружились сертификаты eMudrha с чрезвычайно малыми секретными ключами.

Исходные значения предоставило Агентство национальной безопасности США (NSA), но точная процедура их получения долго оставалась неизвестной. Подозрения усиливала реальная закладка агентства в другом продукте, генераторе псевдослучайных чисел. Сама по себе она не доказывала наличия закладки в кривых.

Как описано в истории реконструкции, разработчик вспоминал хеширование юмористической английской фразы, но забыл подробности. Восстановленная процедура использовала дату. Это сняло конкретное подозрение в злонамеренном происхождении параметров, но не доказывает отсутствия любых возможных уязвимостей.

Вторая новость касается применения кривой P-384. Её точки удовлетворяют уравнению

y² = x³ − 3x + b (mod p),
p = 2^384 − 2^128 − 2^96 + 2^32 − 1.

Здесь b задаёт фиксированный коэффициент, а координаты вычисляются по простому модулю p. Точек примерно 2^384. При этом классическая стойкость P-384 оценивается в 192 бита. Размер поля и криптографическая стойкость не совпадают.

Обозначим базовую точку через G, секретное целое число через e, открытый ключ через Q. Тогда Q = eG. Умножение здесь означает сложение точки G с собой e раз по правилам группы точек кривой. В степенной записи это та же групповая операция, а не обычное возведение чисел в степень.

По известному e вычислить Q практически выполнимо. Восстановление e по G и Q называется задачей дискретного логарифмирования. Её предполагаемая вычислительная трудность при корректном выборе ключа лежит в основе защиты.

У eMudrha использовались секреты 4, 56, 115, 155, 156, 230 и 237. Проверяем G, 2G, 3G, 4G и сравниваем с открытым ключом. Совпадение Q = 4G раскрывает секрет на четвёртой проверке. Все перечисленные значения находятся среди первых 237 положительных кандидатов. Такой перебор не решает эффективно общую задачу дискретного логарифмирования, но справляется с этими ключами.

Прозрачное происхождение кривой не исправляет неудачный выбор секрета. Для раскрытия перечисленных ключей достаточно обычных вычислений. Если появятся криптографически значимые квантовые компьютеры, они позволят решать саму задачу дискретного логарифмирования и подорвут математическую основу этой защиты. Это отдельная угроза, не причина описанной компрометации.

Наши каналы
MAX · Telegram · Дзен

#Криптография #ЭллиптическиеКривые #ТеорияЧисел #Безопасность