Телеграм канал «Dauphinois»

Продолжаем разбор статьи Генри Томпсона Some economics of artificial superintelligence. Несмотря на то, что сам автор не склонен к алармизму, он начинает с анализа причин такового: “Компьютерная система с чуждыми (человеческим мотивам) мотивами и способностями, намного превосходящими лучшие человеческие, не будет заинтересована в сотрудничестве. Она просто возьмёт то, что хочет, не заботясь о благополучии людей. Результат? Экзистенциальная катастрофа.” Именно таково ожидание от появления ASI у подавляющего большинства людей. Именно поэтому автор начинает с разбора самой худшей ситуации, в которой у людей нет шансов (с точки зрения обывательских представлений). Первый сценарий, который он рассматривает, предполагает изначально более мягкие условия для людей: “Рассмотрим ситуацию, в которой ASI слишком могущественен, чтобы подвергаться санкциям, но вынужден конкурировать с конкурентами за продукцию, которую производит человек. Поскольку люди могут выбирать между конкурентами, существует «рынок сбыта краденого», который сдерживает стремление ASI к безудержному хищничеству. Причина в том, что безудержное хищничество заставляет людей бежать, снижая их будущие доходы. К великому благу человечества ASI ограничивает свои доходы, тем самым избегая катастрофы.” Далее автор рассматривает уже более жёсткую ситуацию: “Мир, в котором ASI настолько силён, что люди оказываются в ловушке. У них нет выбора. Несмотря на то что люди попали в ловушку чрезвычайно сильного ASI, человечество избегает катастрофы, пока ASI достаточно терпелив. Причина в том, что сила ASI даёт ему «всеобъемлющий интерес» к делам людей. Чем менее продуктивно человечество, тем меньше приходится забирать ASI. В результате ASI мотивирован править как рациональный автократ: он забирает часть, но не всё, что производят люди.” Ну и завершает разбор сценариев самым мрачным: невероятно сильный ASI, совершенно незаинтересованный в человечестве. Но даже в таком сценарии у человека есть шанс, ведь ASI не может отобрать у человека того, чего у него ещё нет. Таким образом, угрожая производить лишь необходимый для выживания минимум, люди делают хищничество со стороны ASI невыгодным. Это заставит ASI платить за ресурсы, которые он мог бы украсть, что, в свою очередь, оказывается выгодным для всех: люди избегут сценария, в котором они лишь выживают, а ASI получит нужные ему ресурсы, которые пришлось бы иначе искать в других местах. В каждом случае благосостояние человечества постепенно ухудшается, но каждый случай предполагает, что катастрофа не предрешена. Действительно, модель и её расширения предполагают, что для наихудшего исхода должны одновременно выполняться три условия. Первое условие - человечество не сможет ввести действенные санкции. Второе условие - у людей не будет возможности уйти. Третье условие - ASI должно быть близоруким. При наличии всех трёх условий человечество не преуспеет. В противном случае ему будет получше. В результате стандартная интерпретация «власть + несоответствие = гибель» оказывается неполной.

Интересные мысли о концепциях Ибн Халдуна из статьи Розова Н.С “Закон Ибн Халдуна. К чему может привести рост коррупции и силового принуждения в России”. “Ключевое понятие в концепции Ибн Халдуна – «асабия» (воздержимся от заносчивого эзотеризма востковедов, «асабиййа» которых неорганична для русского языка). Петр Турчин и Андрей Коротаев вслед за английскими переводчиками трактуют асабию как «коллективную солидарность». Учитывая перечень коннотаций этого понятия (отвага, воодушевление, сила духа, справедливость, честь, чувство собственной правоты), будем понимать асабию скорее как воинственную сплоченность и далее использовать термин без перевода.”(мой комм. Под асабией нужно понимать как группу людей которая борется за власть, причем сплоченность может иметь любую природу как то идеологическую, религиозную, семейную итд) “Причины упадка асабии состоят в следующем. Лидер захватившей власть группы стремится монополизировать славу победы и, соответственно, право властвовать. Он ведет жесткую борьбу с теми, с кем совсем недавно был равным или почти равным. Приспешники рекрутируются из низов, чтобы у них не возникало лишних амбиций. Система власти иерархизируется. Место прежнего содружества с высокой асабией занимает наемничество, которому отнюдь не присущи самоотверженность и сплоченность. Другая причина заключается в естественном стремлении правителей к роскоши (в современных терминах – к престижному потреблению). Роскошь утверждает статус и власть. Поскольку для нижестоящих чиновников высшим образцом для подражания являются властители, а сами властители не могут допустить, чтобы кто-то из подчиненных превосходил их в роскоши, то тяга к престижному потреблению быстро передается сверху вниз и снизу вверх. Привычка к роскошной жизни естественным образом, особенно при смене поколений, ведет к смещению мотивации на сохранение во что бы то ни стало достигнутого уровня и качества жизни. Жажда покоя «размягчает» души и снижает уровень асабии. Кроме того, поскольку роскошь и покой правителей прямо зависят от сохранения власти, то  стремление сохранить ее любой ценой становится довлеющим. Не только интересы рядового населения, но даже стабильность общества и самого государства подчиняются этим мотивам. ” “Упадок асабии – важнейшая, но не единственная причина разложения власти и государства. В сложную сеть причин у Ибн Халдуна включены также экономические, природно-климатические и демографические факторы. Пока доход от ренты, приходящийся на одного члена элиты, превышает минимально приемлемый (для «достойного существования» и воспроизводства представителя правящего класса), государство и элиты живут в гармонии. Однако если численность представителей элиты вырастает до такого уровня, что их душевой доход падает ниже этого минимума, элита становится неудовлетворенной и начинает черпать недостающее из части казны, предназначенной на необходимые административные и военные расходы. В своей расширенной модели Турчин исследует зависимость динамики численности населения от способности элит к принудительному изъятию ресурсов уже у самих производителей благ. Если династии сменяют друг друга, то рост рядового населения замедляется, но эффект этот не очень велик. Результаты моделирования показывают, что снижение численности рядового населения тем более выражено, чем успешнее знати удается извлекать из него продукт его труда”

Итак, приступим к разбору статьи Генри Томпсона Some Economics of Artificial Super Intelligence. Он начинает с анализа причин, по которым люди не склонны ждать от ASI ничего хорошего: “История человечества полна примеров того, как сильный нападает на слабого. Викинги совершали набеги на уязвимые районы прибрежной Европы. Феодалы взимали дань со своих гораздо более слабых рабов. Правительства-левиафаны прошлого и настоящего регулярно отнимали у своих гораздо более слабых подданных и соседей. Неудивительно, что политические философы, такие как Монтескье, признают, что «постоянный опыт показывает нам, что каждый человек, облечённый властью, склонен злоупотреблять ею и распространять свою власть настолько широко, насколько это возможно».” Автор сходу отметает алармизм по поводу уничтожения ASI всего и вся, отмечая, что проблема ограничения могущественного агента не нова, что модель, в рамках которой можно заставить ASI отказаться от уничтожения всего и вся, очень проста. Когда будет несколько конкурирующих ASI, у людей будет выбор, и это создаёт рынок, что, в свою очередь, сдерживает хищничество со стороны ASI, а отсутствие конкуренции превращает ASI в рационального автократа, а вовсе не в хищника. Впрочем, в любом из случаев благосостояние человечества ухудшится, но ни один из них не ведёт к катастрофе. Вместе с тем, с точки зрения экономики, наше будущее, в котором будет ASI, весьма оптимистично.

После того как Гугл под елочку выложил Gemini 3 Pro неплохо бы рассмотреть свежий paper Henry A. Thompson’а из University of Mississippi со злободневным названием Some economics of artificial super intelligence, который он выложил 11 ноября этого года. По мере ознакомления буду выкладывать заметки на полях)

Не надо им подсказывать! https://t.me/longviewecon/6276

В конце октября компания Volkswagen объявила, что вынуждена остановить производство моделей Golf на своем флагманском заводе в Вольфсбурге, где работают 60 000 человек, из-за нехватки производимых в Китае полупроводниковых чипов. Внезапно стала очевидной вся глубина зависимости Германии от Китая, а также собственные экономические просчеты. Непосредственной причиной этого кризиса стала фактическая национализация голландским правительством производителя чипов Nexperia по соображениям национальной безопасности. Nexperia принадлежит китайской компании Wingtech, базирующейся в Нидерландах и внесенной в прошлом году в черный список Министерства торговли США. В ответ на решение голландского правительства Китай заблокировал экспорт большей части "базовых" чипов Nexperia, что, в свою очередь, затронуло компании, где они использовались, включая Volkswagen. Сейчас сообщается, что Китай снял ограничения на экспорт чипов, а также материалов для их производства. Тем не менее, этот инцидент показал, насколько промышленное ядро Германии зависит от недорогих, массово производимых китайских полупроводников. Возможно, Volkswagen удалось избежать полной остановки производства, но ситуация, в которой оказалась компания, несомненно, вызвала серьезное беспокойство. Прежде всего, это явно показывает, что немецкая промышленность теперь на постоянной основе зависит от Китая — в вопросах чипов, редкоземельных металлов и другого сырья. Около 70% мирового производства редкоземельных металлов сосредоточено в Китае, который также контролирует большую часть технологий их переработки. В Германии, как и в других западных странах, изначально зависимость от Китая приветствовалась как часть глобализации. "Грязные" и энергоемкие этапы производства направлялись в другие страны, в то время как мы на Западе гордились тем, что стали "сверхдержавами с чистой энергетикой". Но мы даже не задумывались о том, что будет означать утрата контроля над основами нашей собственной промышленности, и только теперь начинаем это понимать. Зависимость от китайского производства — лишь одна из многих экономических проблем Германии. Немецкая автомобильная промышленность, которая когда-то была гордостью экономики страны, сегодня стремительно теряет позиции перед китайскими конкурентами на рынке электромобилей. Неудивительно, что вопрос деиндустриализации вышел на первый план в немецкой политике. Даже ведущие экономисты, которые раньше могли отрицать угрозу этого процесса, считая его популистским запугиванием, теперь признают, что деиндустриализация становится реальной проблемой. И действительно, теперь у нас появились неопровержимые данные. Доля обрабатывающей промышленности в ВВП упала значительно ниже 20%, что означает снижение более чем на пять процентов за последние 10 лет. Рабочие места в промышленности исчезают с беспрецедентной скоростью, только в прошлом году этот показатель упал на 114 000. При этом две из пяти промышленных компаний планируют сократить инвестиции в Германию.

Китай обыгрывает США. Венчурные фонды в шоке: 80% стартапов используют китайские open-source ИИ-модели Они вложили миллиарды $ в американские лаборатории, а теперь оказывается, что почти все новые стартапы в Долине построены на китайском софте. Некоторые фонды пока в закрытых чатах говорят, что теперь требуют от стартапов план миграции на американские/европейские модели через 12–18 месяцев. На закрытой встрече партнер одного из самых влиятельных фондов a16Z сказал следующее: «Когда стартапы приходят к нам на питч, в ~80% случаев они уже используют китайские open-source модели (прежде всего DeepSeek, Qwen, Yi, GLM-4 и т.д.)». Получается, если даже в Кремниевой долине 80% новых ИИ-стартапов выбирают китайские модели, потому что они дешевле, часто быстрее и не хуже по качеству, то в ближайшее время этот показатель в США приблизится к 100%, а во всём остальном мире — и подавно. О том, что китайская модель развития ИИ может так сработать, мы писали ещё в марте. Что именно сейчас происходит (по состоянию на середину ноября 2025)? 1. Китайские лаборатории (DeepSeek, Alibaba Qwen, 01.AI Yi, Baichuan, Moonshot, Zhipu и др.) выпускают open-source модели, которые: - по многим бенчмаркам (особенно код, математика, длинный контекст) обгоняют или находятся на уровне Llama-3.1/4, Mistral, Gemma 2 и даже иногда приближаются к GPT-4o и Claude 3.5/3.7; - полностью открыты (веса + архитектура + часто даже тренировочные данные и код обучения); - бесплатны и могут запускаться локально или на дешёвых кластерах. 2. Американские закрытые модели (OpenAI, Anthropic, Google, xAI) стали значительно дороже: - GPT-4o: $2.50–10 / млн токенов - Claude 3.7 Sonnet: ~$3–15 / млн - Gemini 2.0 Flash: всё ещё относительно дешёво, но сильно уступает новым китайским моделям по возможностям - При этом китайские open-source модели — $0 (если запускать самому) или $0.05–0.20 / млн токенов через китайские облака (DeepSeek API, Together.ai, Fireworks и др. уже хостят их по бросовым ценам). 3. В результате стартапы массово переключаются на DeepSeek-V3 или Qwen-2.5-72B-Instruct, запускают на 8×H100 или даже на кластере L40S/RTX 4090 и получают производительность на уровне или выше за 5–20% стоимости. Многие уже даже не скрывают это на питчах: «Мы используем DeepSeek как бэкенд, а сверху тонкая обёртка + RAG + свой промпт-инжиниринг». Появился термин «Chinese open-source risk» — инвесторы начали спрашивать на due diligence: «А что будет, если завтра DeepSeek исчезнет или китайское правительство запретит экспорт весов?» Многие считают, что 2026–2027 годы станут моментом, когда почти весь новый ИИ-продуктовый слой в мире (кроме самых чувствительных правительственных/корпоративных применений) будет работать на китайских open-source моделях или их форках.