Виталик Бутерин разразился новым лонгридом, с которым я вам всем советую ознакомиться. Виталик — не только один самый молодых миллиардеров мира, основавший Etherium, но ещё и один из самых умных и этичных миллиардеров (не только по моей оценке, но и по оценке многих наших общих знакомых). А когда у него появляется время, он пишет классные посты в свой блог — некоторые из них я уже публиковал на "Мастридах".
Новое эссе Виталика посвящено явлению Galaxy brain resistance ("галактическое сопротивление мозга", далее я буду использовать аббревиатуру GBR).
Как измерить GBR? Нужно ответить на вопрос "насколько сложно будет использовать такую линию рассуждения для аргументации в пользу чего угодно? Например, в пользу чего-то, что что тебе нравится и что ты уже решил до того, как привёл этот аргумент?". Похоже на критерий фальсифицируемости в науке ("можно ли проверить конкретное утверждение и опровергнуть его?" — как в случае с "чайником Рассела"). Если твой аргумент может доказать что угодно, он не доказывает ничего.
В каких случаях мы сталкиваемся с низким уровнем GBR? Очень часто — в выступлениях политиков. Или в презентациях стартапов в сфере крипты (или ИИ). Чаще всего аргументы, подкрепляющие тезисы о необходимости запуска очередного мемкойна, выдуманы постфактум для рационализации заранее принятого решения запустить токен и навариться на "хомяках". Часто это делается сознательно, но ещё чаще — подсознательно. Наш мозг пытается оправдать принятое им решение и "обелить" его.
С такими паттернами мышления Виталик предлагает бороться и стремиться к высокому уровню GBR. В тексте есть много неожиданных примеров: например, разбирается внутренняя мотивация "технократов" в российском государстве (Греф, Набиуллина) и даже упоминается Виталий Милонов. Ещё много рассуждений про этичность ИИ-стартапов, всеми силами пытающихся приблизить появление сверхинтеллекта и ущербность логики "если мы не сделаем его первыми, его сделают другие, плохие парни".
Не буду всё детально пересказывать — почитайте. Напоследок приведу две рекомендации от Виталика для повышения уровня "галактической мозговой сопротивляемости":
1) имейте принципы и строго придерживайтесь их, за исключением лишь действительно экстраординарных ситуаций
2) создайте для себя "систему стимулов", направляющую вас в правильную сторону. Не инвестируйте время или деньги в проекты, которые могут потенциально создать для вас конфликт интересов с вашими принципами (тогда вы будете склонны к низкому GBR, будет риск оправдать для себя неправильные поступки). И не попадайте в "плохие компании", которые будут направлять вас в неправильную сторону. Или, по крайней мере, диверсифицируйте свой круг общения.
Финальная рекомендация от Виталика — для тех, кого беспокоят риски развития ИИ и кто хочет внести свой вклад в сферу AI Safety:
(1) не работайте на компании, которые вносят вклад в ускорение создания передовых автономных ИИ-систем
(2) не живите в Кремниевой долине (иначе ваш социальный круг будет сами знаете каким).
Правда, подозреваю, что многим успешным айтишникам сегодня сложно отказаться от этих двух пунктов, учитывая безумные объёмы денег, которыми сегодня заваливают ИИ-индустрию. Искушение велико! Да и далеко не все согласятся с логикой Виталика по поводу того, что ускорять пришествие сверхинтеллекта — обязательно плохо.
#ИИ_мастрид #нонконформист_мастрид #тренд_мастрид