Телеграм канал «Science & Health Writing»

В блоге OpenAI опубликовали резюме исследования о том, почему ИИ галлюцинирует. ✅ В первую очередь из-за того, что стандартные процедуры обучения и оценки поощряют догадки, а не честное признание в незнании. Это можно представить, как тест с несколькими вариантами ответа. Если человек не знает правильный, но пытается угадать, ему может повезти, то есть он получит балл, а если оставляет поле пустым, гарантирован ноль. То же самое происходит, когда модели оценивают по точности — проценту правильных ответов. Их поощряют угадывать, а не говорить «не знаю». После тысяч тестовых вопросов угадывающая модель выглядит лучше допускающей неопределенность, хотя при этом чаще галлюцинирует. Такие оценки качества мотивируют разработчиков создавать модели, которые постоянно предполагают. Чтобы избавиться от проблемы, обычно предлагают сильнее «наказывать» нейросеть за ошибки и давать ей частичные баллы за разумную неуверенность. В некоторых стандартизированных тестах такой подход уже используют, чтобы предотвратить слепое угадывание. Однако исследователи считают, что этого недостаточно — ведь за удачные догадки модель все равно поощряют. То есть подсчет должен полностью исключить попытки угадать. ✅ Вторая причина галлюцинаций кроется в самом механизме работы нейросетей. В процессе предобучения они учатся прогнозам на огромных объемах текста. Например, орфография подчиняется строгим закономерностям, поэтому такие ошибки исчезают с ростом объема данных. Однако произвольные факты, которые встречаются редко, нельзя предсказать только на основе закономерностей. Выводы 👉 ИИ никогда не достигнет 100% точности, независимо от размера модели, ее возможностей поиска и рассуждений. 👉 От галлюцинаций можно избавиться, ведь модели в принципе способны воздерживаться от них в условиях неопределенности. 👉 Небольшим моделям проще определить свои пределы. Например, если нейросеть не знает языка, на котором ее просят ответить, она, скорее всего, так и скажет. А если знает, ей придется сначала оценить степень уверенности в ответе, что сложнее.

​​В Science Advances опубликовали интересную работу о пользе диеты планетарного здоровья. Она основана на данных двух исследований, в которых участвовали почти 170 000 человек. Также ученые провели метаанализ 37 исследований, опубликованных ранее. Похоже, что диета планетарного здоровья снижает риск смерти от всех причин примерно на 20%, в том числе от рака, сердечно-сосудистых болезней, инсульта и диабета. Конечно, все данные получены из наблюдательных исследований, кроме того, в них использовали разные методы оценки диеты, некоторые были короткими и с небольшим числом участников, а еще на здоровье могли влиять неучтенные факторы или люди могли изменить рацион. Но в целом все выглядит убедительно и согласуется со многими предыдущими работами. Интересно, что в одном из крупных исследований, рассматриваемых авторами, люди на диете планетарного здоровья потребляли больше калорий, при этом их индекс массы тела был ниже — почему, неясно. Что это за диета Диета планетарного здоровья — рацион, который разработала комиссия EAT-Lancet. Цель: сделать питание людей здоровее и сократить количество парниковых газов, выбрасываемых глобальной продовольственной системой. Эксперты называют ее диетой полезной и людей, и для планеты. В основе такого рациона овощи, фрукты, грибы, цельное зерно, бобовые и орехи. Мясо и молочные продукты тоже важная часть, но присутствуют в меньших количествах. Так, нужно стараться есть не более 98 граммов красного мяса, 203 граммов птицы и 196 граммов рыбы в неделю. Диетические нормы также предполагают, что среднестатистическому взрослому человеку требуется 2500 ккал в день. Это количество может меняться в зависимости от возраста, пола, уровня активности и состояния здоровья, но чрезмерное потребление — напрасная трата пищи, которая негативно сказывается на здоровье и окружающей среде. Зачем нужна такая диета Производство продуктов питания — это до 30% общего объема антропогенных выбросов парниковых газов и 70% потребления пресной воды. Получение продуктов животного происхождения, особенно красного мяса и особенно от скота, которого откармливают зерном, сильнее воздействует на окружающую среду по сравнению с другими группами продуктов. Одновременно в мире все больше людей с избыточным весом и ожирением, а неинфекционные заболевания, связанные с питанием, включая диабет, рак и сердечно-сосудистые болезни, в топе причин смертности в мире. Теоретически переход к здоровой планетарной диете поможет предотвратить 11 миллионов преждевременных смертей взрослых в год и перейти к устойчивой глобальной продовольственной системе уже к 2050 году (оптимисты они, конечно).

Подборка интересного 🔷 Согласно результатам крупного исследования, люди с психическими расстройствами чаще живут с теми, кто страдает таким же заболеванием, чем с теми, у кого его нет. Ученые проанализировали данные почти 15 миллионов человек из Тайваня, Дании и Швеции. Они изучали людей, страдающих одним из девяти психических расстройств: шизофренией, БАР, депрессией, тревожным расстройством, СДВГ, РАС, ОКР, расстройством, связанным с употреблением психоактивных веществ, и нервной анорексией. Если такое состояние выявлено у одного из партнеров, то у второго с высокой вероятностью был тот же диагноз. Такая тенденция отмечается во всех странах и во всех поколениях. Объяснения могут быть разными. Например, люди с одинаковыми расстройствами могут чаще вступать в брак — или из-за того, что лучше друг друга понимают, или из-за стигматизации, мешающей найти партнера среди людей без таких проблем. Другой вариант — у людей развиваются одинаковые состояния из-за эффекта общей среды. Например, одинаковых социальных и экологических стрессоров. Такое особенно вероятно, если один из партнеров ранее был здоров, но у него наблюдались легкие проявления расстройства. 👾 В Ланцете опубликовали результаты небольшого исследования, показавшего, что гастроэнтерологи стали хуже выявлять полипы и другие отклонения на колоноскопии после того, как пользовались ИИ. Для анализа ученые сравнили результаты самостоятельной оценки результатов обследований за три месяца до внедрения программы-помощника и за три месяца после. Врачи стали находить меньше отклонений — авторы работы считают, что это из-за «эффекта подстраховки»: привыкнув получать ответ от ИИ, специалисты стали не такими внимательными. Другие эксперты думают, что результат — следствие статистических колебаний. Не ясно, сколько полипов было на самом деле, поэтому снижение числа обнаруженных может быть связано с другими факторами. Например, с тем, что на колоноскопию в разные периоды чаще приходили люди из разных возрастных групп. 💉 После препаратов для похудения кожа становится дряблой и обвисшей — как после любой сильной потери веса, например из-за бариатрической операции. При этом число людей с такой проблемой растет, так как растет число принимающих лекарства и сбрасывающих лишние килограммы. В NYT рассказывают о том, что это фактически создало новый рынок местных средств и добавок для подтяжки кожи, которые инфлюэнсеры продают через интернет. Печально, что ни один из таких способов не работает — действительно помочь может только операция, которая в США стоит десятки тысяч долларов, из-за чего доступна не всем. 🧪 Ученые изучают вакцины от акне — уже есть два препарата, нацеленных на то, чтобы иммунная система начала бороться с избыточным размножением бактерий, живущих в закупоренных порах и усиливающих симптомы. Одна мРНК-вакцина предназначена для лечения болезни. У мышей она вызывает выработку антител, которые замедляют рост бактерий в лабораторных условиях. Сейчас в США набирают 400 человек с тяжелым и умеренным акне для участия в первой фазе клинических испытаний. Им сделают две инъекции сразу и еще одну — бустерную — через год. Также в Сингапуре планируется исследование препарата на людях с легкой степенью болезни. Профилактическая вакцина основана на другом принципе — препарат воздействуют на фермент гиалуронидазу, секретируемый бактериями. Он расщепляет гиалуроновую кислоту — защитное вещество, вырабатываемое кожей, а это провоцирует воспалительную реакцию. Пока препарат еще тестируют на животных.

Подборка интересного ​​🏃‍➡️ Возможно, экстремальные физические нагрузки увеличивают риск рака толстой кишки. Американский онколог провел небольшое исследование — сделал колоноскопию сотне любителей марафонов и ультрамарафонов от 35 до 50 лет. Почти у половины нашлись полипы, а у 15% — запущенные аденомы, которые могли переродиться в раковые опухоли. Для сравнения — в среднем они встречаются максимум у 6% взрослых людей около 40 лет, по некоторым данным и еще реже — от у 1,2 до 4%. Конечно, это еще не означает, что длительный бег приводит к раку. В исследовании не было контрольной группы — например, из тех, кто не бегает, или бегает меньше. Кроме того, возможно, бег на длинные дистанции привлекает людей с плохой наследственностью — то есть тех, кто пытается вести максимально здоровый образ жизни из-за того, что в семье были случаи онкологии. При этом у повышенного риска рака среди марафонцев есть вероятная биологическая причина. Из-за повышения потребности мышц в кислороде органы ЖКТ могут столкнуться с недостатком кровоснабжения — ишемическим колитом. Из-за него спортсмены часто сталкиваются с болью в животе и диареей с кровью. Ученые предполагают, что повторяющиеся приступы ишемии со временем могут привести к повреждению клеток слизистой оболочки кишки, а потом и к раку — для подтверждения этого нужны дополнительные исследования. 🥵 Повторяющиеся волны тепла могут состарить человека так же, как курение или алкоголь. Чтобы оценить долгосрочное влияние аномальной жары на старение, исследователи проанализировали данные медосмотров почти 30 000 человек за 2008—2022 годы. Для расчета биологического возраста они использовали медицинские тесты, включая оценку функции печени, легких и почек, артериального давления и воспалительных процессов. Оказалось, чем больше экстремально жарких дней переживают люди, тем быстрее они стареют. Самые большие проблемы со здоровьем были у работников физического труда и жителей сельской местности. При этом влияние аномальной жары на старение за 15 лет исследования уменьшилось. Причины такой адаптации не ясны — возможно, люди стали чаще пользоваться кондиционерами или их организм просто «привык». 🔷 Во многих исследованиях, где оценивали субъективное благополучие людей разного возраста, у ученых получалась U-образная кривая — уровень счастья падал в середине жизни, а затем восстанавливался. Однако в новой работе, в которой изучили разные данные по 44 странам за 2020—2025 годы, подтвердили, что эта закономерность изменилась — теперь он снижается с возрастом. Причина — ухудшение психического здоровья молодых людей. То есть взрослые не стали чувствовать себя лучше, просто у молодежи все так плохо, что проседание в среднем возрасте исчезло — для примера приложу графики по США. Почему это случилось, никто не знает. Среди предполагаемых виновников: глобальный кризис, последствия пандемии, безработица, невозможность купить свое жилье и, конечно, смартфоны (по-моему, на последние проще всего все свалить, чтобы отвлечь внимание от более серьезных проблем). 🩺 Мы в Т—Ж запустили базу специалистов «Хороший врач» — там только доктора, придерживающиеся принципов доказательной медицины: те, кто писал статьи в журнал, был экспертом или помогал с фактчекингом. Есть врачи из разных городов и те, кто принимает онлайн, для удобства сгруппировали их по специальностям. Может помочь найти своего врача. 🧨 В NYT можно пройти жизнеутверждающий тест «Готовы ли вы к климатической катастрофе?». Судя по всему, меня убьет первым же торнадо или лесным пожаром, а единственное, на что я способна — распознать симптомы теплового удара.

Подборка интересного 👾 Социальные сети сами по себе приводят к тому, что пользователи разделяются на поляризованные эхо-камеры — то есть попадают в разные информационные пузыри, где сталкиваются лишь с постами, подтверждающими их мнение. Похоже, рекомендательные алгоритмы управления контентом в этом не виноваты. Исследователи с помощью ИИ создали модель социальной сети с виртуальными пользователями на основе характеристик реальных персон. Там не было механизма удержания участников в сети и предложения им контента по интересам. Тем не менее, «люди» все равно разделились на изолированные сообщества — для этого оказалось достаточно возможностей репоста и подписки. 👾 Согласно новому исследованию, ChatGPT не может отличить отозванные или проблемные научные статьи. Модель попросили оценить качество 217 таких статей: 190 он признал превосходными, 27 с самыми низкими оценками назвал слабыми и только 5 спорными. Далее авторы извлекли из отозванных исследований 61 утверждение и попросили бота проверить истинность: он посчитал их верными в ⅔ случаев. Правда, есть мнение, что такие ответы связаны не с плохой работой ИИ, а с тем, что отозванные статьи недостаточно четко помечают. 👾 Из забавного — не утихают дискуссии про длинное тире. Некоторые считают его признаком текстов, сгенерированных ИИ, а в реальности чат-боты его используют из-за того, что используют люди. Я тоже не могу ставить дефис вместо тире — независимо от того, пользуюсь нейросетью для помощи с текстом или нет.

Залипательный интерактивный лонгрид в NYT, демонстрирующий, как сложно оценить качество исследования без специальных знаний. Предыстория такая — еще весной американский министр здравоохранения Роберт Ф. Кеннеди-младший решил, что надо еще раз изучить давно опровергнутую связь между вакцинами и аутизмом. Сделать это он пригласил Дэвида Гейера — человека, который известен некорректными исследованиями и продажей непроверенных средств для лечения РАС. Его штрафовали за медицинскую практику без лицензии, а у его отца-врача, который в этом участвовал, лицензию и вовсе отозвали. Чтобы показать, как противники вакцинации пытаются сделать свои исследования убедительными, автор статьи — специалист в области общественного здравоохранения Джессика Штайер, взяла работу Гейера 2017 года о повышении риска аутизма из-за вакцины от гепатита В с тимеросалом. Это ртутьсодержащее вещество, которое иногда используют в вакцинах как консервант (и, кстати, почти не применяют в детских препаратах с 1999 года). Вот только несколько проблем, на которые Штайер обращает внимание в работе Гейера: 👉 Авторы рассматривают лишь детей с атипичным аутизмом, который ранее диагностировали у людей, не соответствующих стандартным критериям болезни. Однако оснований брать данные только по этому типу заболевания у них нет. Вероятнее всего, авторы просто проверяли разные наборы данных и взяли тот, который случайно показал связь. 👉 Участники из группы с атипичным аутизмом были рождены с 1991 по 1998 год, а из контрольной группы — в 1991 и 1992 годах. Но вакцину от гепатита В в США добавили в список рекомендуемых в 1991 году, а в 1994 году обновили критерии диагностики аутизма — и атипичный стали диагностировать у большего числа пациентов. То есть рост случаев заболевания легко ошибочно связать с вакциной, если брать данные детей, родившихся в разные годы. 👉 В исследовании не учли факторы, способные создать видимость связи между двумя вещами. Например, доступ к медицинской помощи: дети, регулярно посещающие врача, чаще получают вакцины и у них чаще выявляют проблемы развития. Гейер в статье отрицает необходимость учитывать эти факторы, так как другие исследования не выявили их влияния — и в подтверждение ссылается лишь на свои же прошлые работы. Также он пытается дискредитировать качественные исследования, не показавшие связи между аутизмом и тимеросалом, также ссылаясь на свои критические обзоры и отозванные исследования. Автор статьи в NYT считает, что этот разбор поможет людям заметить признаки явно недобросовестных исследований. Мне кажется, вряд ли — чтобы такое увидеть, надо внимательно читать всю работу: от описания дизайна до списка литературы, а также хорошо знать контекст и хотя бы чуть-чуть разбираться в методологии исследований. ▶️ И еще немного интересных данных из статьи: с 1998 года провели около 70 исследований связи вакцин и аутизма — 43 из них ее не подтвердили, а 26 якобы что-то нашли, но ⅔ последних проведены тем же Гейером и его отцом с нарушением методологии и фальсификацией данных. Среди 8 других работ, обнаруживших связь, 4 отозваны из-за манипуляции данными, некорректных методов или нераскрытого конфликта интересов. А вот исследования, показывающие отсутствие связи, были качественными, в них участвовали более 5,6 миллионов человек из семи стран.

Похоже, литий способен защитить от болезни Альцгеймера и даже обратить ее вспять. В Nature на днях вышло исследование, авторы которого около 10 лет проводили эксперименты на мышах и изучали концентрацию этого металла в тканях человеческого мозга. Они обнаружили, что дефицит лития может быть одним из самых ранних изменений, приводящих к болезни Альцгеймера. А снижается его уровень из-за связывания металла амилоидными бляшками, образующимися в мозге при этом заболевании. В итоге это приводит к ухудшению когнитивных способностей и потере памяти. Кроме того, если давать мышам добавки с оротатом лития, эти изменения замедляются, мозг грызунов становится моложе и здоровее. Новость разнеслась быстро — я уже видела в соцсетях рекламу добавок лития, эффективность которых наконец доказали ученые. На самом деле радоваться рановато и пить БАДы тоже, несмотря на высокое качество нового исследования — вот тут его хорошо разбирает известный медицинский химик Дерек Лоу и называет одной из самых интересных работ в этой области. Начнем с того, что о литии не впервые говорят в связи с деменцией. Его давно используют как нормотимик у людей с биполярным расстройством — и есть данные, что у них он замедлял старение мозга. Также есть свидетельства, что в регионах, где металл содержится в водопроводной воде, деменция встречается реже. Однако исследования препаратов лития на людях с ней показали весьма скромные результаты. Например, из тех, что включены в этот метаанализ, только в одном улучшение было статистически значимым. Более поздние эксперименты также были небольшими и неоднозначными. Правда, раньше ученые изучали карбонат лития, а не оротат. В новом исследовании как раз выяснили, что последний меньше поглощается амилоидными бляшками, а значит, должен работать лучше — но это еще надо проверить. В целом результаты, полученные на мышах, не всегда применимы к людям, то есть понадобится еще много экспериментов, чтобы доказать такой эффект на человеке. Второй момент — у лития есть побочные эффекты, о которых хорошо знают те, кто пьет его препараты постоянно, в том числе нарушения работы почек, щитовидной железы, нервной системы. Чтобы их избежать, продавцы добавок советуют принимать металл в микродозах. Однако проблема в том, что работающая и безопасная для людей доза оротата лития неизвестна — он совсем мало изучен. Никто не знает, сколько его надо пить и как долго, чтобы получить эффект и не получить проблем. У мышей сработала доза примерно в одну тысячную от той, что пьют при БАР, когда нужно до 1800 мг лития в день. Ее было достаточно, чтобы поднять уровень металла в мозге грызунов до естественного, при этом никаких негативных последствий не было. Исследователи предупреждают, что на людей эту дозировку переносить нельзя и ни в коем случае не следует принимать литиевые соединения самостоятельно. Пока однозначно можно сказать, что литий стоит изучать дальше. Если выяснится, что такой простой и дешевый препарат и правда останавливает деменцию у человека, это будет прорыв, сравнимый с открытием пенициллина.