Телеграм канал «Агрегатор рациональности :: Uncolored»

Почему одни и те же люди, кричащие о национальной солидарности, полностью игнорируют соотечественников, томящихся в американских детеншенах, но очень переживают по поводу русофобии в балтийских странах? Ответ на этот вопрос кажется очевидным. Потому что для них в детеншенах сидят соевые либерахи (тем более что Трамп — наш слон), тогда как в балтийских странах страдают во всех смыслах «наши» люди.

Это очередная иллюстрация тезиса, который мне давно кажется верным: этнического национализма не существует. Под этничностью я в данном случае подразумеваю происхождение плюс влияние факторов, которые мы слабо контролируем (язык, культура и тому подобное, усвоенное в ходе взросления). Этничность не предполагает каких-то конкретных взглядов (политических, религиозных и т. д.). Взгляды могут быть сегодня правыми, а завтра левыми. Но то, что ты носитель русского языка, выросший в русскоязычной среде с соответствующим жизненным опытом, — это просто неизменный факт происхождения.

Так вот, этнический национализм — это подход, который постулирует солидарность между людьми со схожим этническим бэкграундом. На этом идея этнического национализма должна заканчиваться. Однако, если некто постулирует этнический национализм (типа «русский, помоги русскому»), то, как правило, стоит просто присмотреться. На деле оказывается, что, помимо этничности, там имеется еще целый ворох критериев, которым должен соответствовать соискатель на солидарность. Критерии эти по большей части о том, что «настоящий представитель народа Х» должен разделять вполне конкретные политические взгляды (иногда еще и религиозные). Если не разделяет, то мгновенно объявляется «ненастоящим», а его этническое происхождение мгновенно оборачивается отягчающим обстоятельством (не просто враг, а предатель!). Всякий национализм, заявляемый как этнический, содержит в себе эту подспудную идею «настоящего Х» (исключений не припоминаю). То есть, по сути, является «гражданским». Не в том смысле, что обязательно содержит идею гражданственности, а в том, что реальным критерием там является общность взглядов, за несоответствие которым быстренько «выписывают». Добавлю к этому еще один маленький критерий, который также разделяется всеми «этническими» без исключения: особое требование к женщинам не спать с инородцами.

Это хорошо было заметно со старым русским национализмом, в центре которого всегда была идея «настоящего русского». В своей народно-субкультурной версии русский национализм предполагал, что настоящий русский должен ходить в качалку, на русские пробежки и на русские припрыжки. Иначе это не русский, а «овощ». Более интеллектуальные формы русского национализма соревновались в выработке критериев, согласно которым русский перестает быть русским, превращаясь в «вырусь», «нерусь» или «новиопа». Выработка таких критериев была, пожалуй, основной русской националистической интеллектуальной деятельностью. Хотя критерии все равно остались весьма размыты. Зато особое требование к женщинам никогда не вызывало ни у кого сомнения — неважно, об интеллектуальной или народной националистической среде речь. Если что, то и другие виденные мною национализмы тут принципиально не отличаются.

Таким образом, поскреби любой этнический национализм — быстро наткнешься на идеологизированную секту с жесткими критериями деления на чужих и своих согласно взглядам. Почему так? Есть у меня гипотеза: любой другой национализм попросту избыточен и легко подвергается редукции. Этническая общность просто дана нам в ощущениях. Этническая солидарность не есть нечто такое, для демонстрации чего нам нужно прикладывать усилия. Этническая солидарность — это просто каждодневная практика. Общность происхождения снижает транзакционные издержки взаимодействия между людьми. Это та среда, где произрастают горизонтальные связи и спонтанные порядки. Рыбам не нужна концепция для описания воды, они в ней просто живут. Так и здесь: для практической этнической солидарности не требуется какая-то идеология, которая служит для нее подспорьем. Как не нужна идеология, которая подсказывает вам, что нужно есть, пить и радоваться жизни. Когда же возникает нужда в какой-то особенной националистической доктрине? Очевидно, когда от вас требуется обратное: пойти наперекор естественному, каждодневному и удобному. Когда нужно объяснить, почему люди, с которыми вы ранее легко взаимодействовали, являются врагами и предателями, а потому не заслуживают никакой солидарности (особенно если они женщины и сами знаете что). Вот это и есть национализм, который всегда является идеологизированным.

Всего 5 дней с ChatGPT оставляют шрам на нашей сверхспособности - воображении
В лабораторном эксперименте 60 студентов 7 дней решали творческие задачи. Со 2-го по 6-й день половина из них стала «интеллектуальными кентаврами», работая в паре с ChatGPT. Креативность идей и решений у них заметно повысилась (но при этом повысилась и однородность идей – они потеряли в разнообразии). На 7-й день «интеллектуальных кентавров» снова превратили в обычных студентов, лишив их доступа к ChatGPT. Креативность тут же упала до исходного уровня (зафиксированного в 1-й день) и не «отжалась» даже через месяц (при контрольном замере). Т.е. все как в русских пословицах: «Чужое добро впрок не пойдёт» и «С ветру пришло, на ветер и ушло».
Увы, но экспериментальное подтверждение народной мудрости этими двумя пословицами не закончилось. Подтвердились и русская «Не всякой находке радуйся» и международная «Бесплатный сыр бывает только в мышеловке». За 5-дневный всплеск креативности пришлось изрядно заплатить. Потеря разнообразия идей, случившаяся со студентами, работавшими в паре с ChatGPT, так и не восстановилась, что было повторно зафиксировано через месяц.
Авторы назвали это творческим шрамом: усиление креативности уходит вместе с доступом к модели, но приобретенная однородность идей остается в качестве шрама.
 
Метаанализ 28 исследований (8214 участников) показывает ту же картину в целом: в паре с генеративным ИИ люди справляются с творческими задачами лучше (g = 0,27), но разнообразие их идей падает намного сильнее (g = −0,86). В паре с ИИ мы воображаем лучше, но одинаково.
 
Но это еще не все. Варианты генома, связанные с творческими профессиями – прибежищем самых креативных людей с самым сильным воображением (имаджинавтов, как я назвал их в 2019 году), – статистически сопряжены с меньшим числом детей. Если эта связь сохранится, их доля в популяции будет сокращаться. Надежды на ИИ здесь, увы, нет: имаджинавтов он не заменит. Эксперимент с визуальной креативностью выстроил такой градиент: художники > люди, не имеющие отношения к искусству ≥ ИИ в паре с человеком > ИИ сам по себе.
 
Ставки здесь выше, чем кажется. Бостонский эволюционный нейробиолог Андрей Вышедский, автор «гипотезы Ромула и Рема», в статье этого года с говорящим названием «Как одно маленькое племя завоевало мир 70 000 лет назад» связывает экспансию предков большинства ныне живущих людей со скачком к синтаксическому языку. В его гипотезе 2019 года этот скачок шел рука об руку с префронтальным синтезом – особым компонентом воображения
 
Семилетняя проверка моей «гипотезы имаджинавтов», выдвинутой в том же 2019, что и «гипотеза Ромула и Рема», привела к такому выводу.
Человек воображения (Homo imaginationis), если и появится, будет коллективным видом – гибридом людей и моделей. А платить за взлеты его воображения придется разнообразием того, что люди способны вообразить без помощи машин.
 
Подробней читайте, слушайте и смотрите в моем новом эссе «Людены уходят тихо» на платформах Telegraph, Medium, Patreon, Boosty, VK, Dzen, Youtube.
 
P.S. Каналу сегодня исполнилось ровно 10 лет.
2,5К+ постов, 5К+ лонгридов и эссе, 1К+ аудио, видео и презентационных материалов. Времени все это занимает уйму. Но деваться некуда. Ведь и спустя 10 лет других каналов с подобным контентом и форматом подачи мною не обнаружено. Так что мне передавать эстафету пока некому.
И потому вам, дорогие мои читатели, придется еще меня потерпеть. Но думайте сами, решайте сами, стоит ли вам дальше тратить свое драгоценное время на «Малоизвестное интересное»: читать, слушать, репостить, подписываться, лайкать и как там еще можно показать автору, что он не зря работает для вас. Автору это будет приятно.
 
#Креативность #Воображение #Имаджинавты

Лишь 0,2% человечества реально выжимает что-то из ИИ в работе

Так заявляет Андрей Карпаты. И раскидывает всех нас на четыре категории — по тому, кто в курсе про ИИ, а кто ещё и умеет им пользоваться.

75%, это около 6 млрд душ — с языковыми моделями вообще не пересекались и не в теме;
20% — иногда дёргают бесплатные чат-боты, но смотрят на них как на Google, только прокачанный;
0,2%, то есть примерно 20 млн — гоняют передовые модели в коде и математике и уже воочию видят, как агенты за один запрос закрывают работу, на которую уходили недели и месяцы;
0,00006%, или где-то 5000 человек — имеют доступ к самым мощным внутренним ИИ-системам: запускают тысячи агентов поверх сложных проектов, копают уязвимости и помогают делать научные открытия.

👉 Frontender's notes

С точки зрения чистой этики я скорее допускаю смертную казнь. Подойти к этому вопросу можно например так: когда некто неправомерно лишает жизни другого, это можно трактовать как акт эксплицитного отказа от собственного права на жизнь. Такую логику с натяжкой можно назвать локкеанской: убийца сам выводит себя из-под действия естественного права и оказывается в "состоянии войны". Впрочем, такая позиция требует уточнения: по крайней мере, интуитивно мне не нравится вариант доведения ее до абсурда, где каждый может пускаться в открытую охоту за убийцами (можно представить, сколько психопатов тогда примутся этим заниматься).

Но это все в теории. На практике я противник смертной казни. Из чисто практических соображений. Если мы отринем всякие варианты "частной смертной казни", то единственной инстанцией, которая может казнить, у нас остается государство. А что мы можем сказать про государство как институт? Правильно: главным образом то, что данный институт делает все через жопу. Поэтому аргументом для меня по сей день остается услышанная когда-то давно фраза: если мы не хотим доверять государству регуляцию экономики, то как можем доверять ему вопросы жизни и смерти? И впрямь: государство эта такая особая штука, в которой вероятность казни невиновного как бы сильно перевешивает любые моральные аргументы в пользу самой смертной казни.

Государство США неоднократно это иллюстрировало, казня людей на основании сомнительных доказательств (а спустя годы новые методы, вроде анализа ДНК, доказывали их невиновность). Еще Лисандер Спунер в 19ом веке критиковал штуку под названием death qualification. Дело в том, что под кейсы со смертной казнью отбирают еще и специальных присяжных, которые не против казни. В результате отбираются люди особого психотипа — им, как правило, требуется меньше доказательств для вердикта о виновности. То есть, получая обвинения в преступлении, где возможна смертная казнь, вы также в довесок получаете особый суд, который устроит куда меньший объем доказательств, чем обычно. Есть тут очевидно какое-то нарушение принципа равенства правосудия.

Но тут подоспел пример, как государство может накосячить даже в кейсе с доказанной виной. В Теннеси некая Криста Пайк по молодости совершила и впрямь весьма отбитое убийство: вместе с парнем и подругой они заманили в лес девушку, полчаса мучили и убили. В процессе вырезали на груди пентаграму. Пайк забрала кусок черепа и хвастались им перед сокурсниками по колледжу. У самой Пайк хреновое детство в анамнезе: изнасилование, абьюз, попытка суицида. Парню было 17 и он получил пожизненное, подруга заключила сделку со следствием. В итоге смертный приговор достался одной Пайк. Было все это аж в 1995 году. Дальше была сложная история апелляций, которые то подавали, то отзывали. С 1996 года Пайк держали в одиночке на продоле смертников (death row). Так вот, на днях дело, наконец, дошло до приведения в исполнение. Пайк вкололи две дозы инъекции, после которых та оказалась в агонии, но... выжила. Интересно, что врач, который этим занимался, до того уже успел накосячить аналогичным образом с другим приговоренным. Но госслужба — это место, где вам всегда дадут второй шанс. В общем, "один сломал, второй потерял".

Сейчас видимо будут очень сложные разбирательства: что делать дальше. Будь моя воля: я отпустил на все четыре стороны. Мол, формально приговор приведет в исполнение. Даже дважды. А результат — это уже другое дело. Неформально: как порвавшаяся веревка висельника, божественное провидение, которое христианской нации надо бы уважать. Но я слава Богу не американский юрист, не мне в этом разбираться. В общем, с точки зрения абстрактного гуманизма, тут явно вышло cruel and unusual punishment. Да и 30 лет в одиночке, если вдуматься, оно же. С чисто практической точки зрения: сколько священных денег налогоплательшиков удалось бы сэкономить, если бы не вся эта пляска с кучей апелляций, содержанием в максимум секьюрити и инъекциями, сделанными криворукими врачами?

Нахуй смертную казнь.

Человек - 1, термостат - 0, языковая модель - от «почти ноль» до 0,8
Вердикт о сознании ИИ зависит от нас не меньше, чем от машин
Томас Кун писал, что главный признак кризиса науки — пролиферация (разрастание числа) конкурирующих теорий. А применительно к когнитивным наукам, Пол Мил писал, что появление лавины нестыкующихся теоретических конструкций для одного феномена — надёжный маркер примитивного/зачаточного состояния науки.
Сегодня на портале «Ландшафт сознаний» уже около 500 концепций и объяснений сознания. 🤯
Новая работа 14-и авторов, вкл. корифеев темы из Google DeepMind (Мюррей Шанахан, Шейн Легг) и не только (Анил Сет, Крис Фрит) раскладывает конкурирующие теории сознания по пяти уровням и предлагает модель, показывающую, что теории расходятся не столько в оценке того, что делает ИИ, сколько в выборе уровня, на котором вообще следует искать сознание.
 
Авторы не тратят время на «трудную проблему сознания» (что такое сознание по своей сути), а подходят к вопросу практически: какая организация системы связана с переживанием и на каком уровне ее описания.

Уровней пять: поведение, вычисления, внутренняя причинная структура, организм и связка «организм - среда». Каждая влиятельная теория сознания занимает свой уровень. Одним достаточно правильной архитектуры вычислений, другим обязательно нужен живой организм, а третьим – подавай тело, погруженное в мир.

Дальше чистая арифметика. Для каждого уровня сформулированы проверяемые индикаторы, а байесовская модель сводит их с тем, насколько вы доверяете каждой теории. Проверку здравым смыслом модель проходит: человек получает 1, термостат 0. Муха набирает высокий балл, потому что свидетельства в ее пользу лежат на глубоких уровнях организма и сенсомоторики (а глубина весит больше широты). Для нынешних языковых моделей итог колеблется от «почти термостата» (менее 0,01) до «почти человека» (примерно 0,8). Оптимист и скептик, глядя на одни и те же факты, расходятся почти на два порядка.
 
Авторы предупреждают: это не измеряемая вероятностью сознания, а чувствительность модели к допущениям. Заголовки «ИИ сознателен на 80%» будут ложью. Ценность работы в том, что спор о сознании ИИ теперь можно вести с цифрами на столе, точно зная, где проходят разногласия.
 
Неудобный вывод ждет тех, кто готов обсуждать переживания модели перед ее отключением. Языковая модель обучена воспроизводить нашу речь, поэтому ее «я чувствую» или «я ничего не чувствую» почти ничего не доказывает. У подражающего человеку ИИ поведение теряет силу свидетельства, и проверять приходится то, что скрыто под ним.
 
Самый убойный свой тезис авторы называют наиболее спекулятивным. Признаки сознания на каждом уровне почти совпадают с архитектурой, которая нужна для AGI. В принципе сознание и интеллект независимы, но на практике могут оказаться спутниками. Тогда, в рамках ряда теорий, каждое новое поколение ИИ, становясь умнее, будет становиться и более сильным кандидатом в сознающие. А по Чалмерсу (и автору поста), одна развернутая модель может оказаться не одним субъектом, а множеством - вплоть до отдельного субъекта на каждый разговор (у меня это называется ИКЖИ - см. посты с тэгом #ИКЖИ).
 
Т.о. вопрос о сознании ИИ перестал быть делом вкуса и стал задачей с явными допущениями и обновляемыми вероятностями. Подробный разбор, надеюсь, впереди (в отдельном эссе).
 
P.S. В комментариях к моим постам много споров о сознании машин. Так вот, - заканчивайте спорить. К модели приложен интерактивный инструмент, где можно выставить собственные веса теорий и посмотреть на итог.
Попробуйте: это быстрый способ выяснить, какую теорию сознания вы на самом деле разделяете. И если ваш оппонент разделяет другую - то спорить просто нет смысла. 😊
 
#Сознание #ИКЖИ