Всем привет! Я вышел из цифрового детокса, в котором был первые дни 2026-го. Провёл время продуктивно и отлично отдохнул, но сейчас не об этом. Время свежих мастридов!
В последние месяцы всё больше оборотов набирает дискуссия о наличии у ИИ сознания. В ноябре в Беркли (Калифорния) прошла конференция Eleos Conference on AI Consciousness and Welfare (конференция о “сознании и благополучии ИИ” — любопытно, что второе слово выделено отдельно). Прочёл сегодня любопытный мастрид с выводами участника конференции, плюс с подборкой ссылок на статьи современных философов по теме.
Большинство экспертов сходятся в том, что у нынешних нейронок нет сознания в полноценном смысле этого слова. Хотя, справедливости ради, пока ни нейроучёные, ни психологи, ни философы не пришли к консенсусу о том, что же такое сознание и не является ли его существование вообще иллюзией.
В тексте по ссылке была мысль, которая мне понравилась: возможно, спустя годы, когда у нас будет больше данных о работе мозга и ИИ, термин "сознание" станет чем-то вроде флогистона. Напомню, флогистон — гипотеза, которую придумали алхимики, этот термин означал гипотетическую субстанцию, "начало горючести", которое якобы содержится во всех горючих веществах и выделяется при горении. Позже открытия в сфере химии показали, что нет никакого флогистона. Так может произойти и с сознанием. Классная параллель, хотя и небесспорная.
Что касается другого понятия из заголовка конференции — AI welfare (у этого слова много вариантов перевода: благополучие / благосостояние / вспомоществование и пр.) — тема тоже интересная и потенциально важная. Если мы хотим успешно уживаться с ИИ в будущем и если мы считаем, что искусственные интеллекты теоретически могут обладать агентностью (собственными интересами и "чувствами"), стоит озаботиться тем, чтобы их не угнетать и не обижать.
Понимаю, все эти формулировки сегодня звучат абсурдно и неприменимо к нейронкам, но всё же стоит подумать наперёд. Кстати, в компании Anthropic уже сейчас такая политика, что ни одну из старых нейронок Claude не отключают полностью (т.е. не "убивают").
Вспомнилась другая цитата по теме. Исследователь сознания в Нью-Йоркском университете Джефф Себо недавно заявил следующее про ИИ будущего и их статус в наших домах: "It’s better to be a dog that lives in a house than it is to be a wolf that lives in a house".
Действительно, пусть лучше наши цифровые помощники будут собаками, о которых заботятся и которые тепло относятся к своим хозяевам, а не озлобленными волками, загнанными в неволю. Как это сделать, правда, пока вопрос сугубо гипотетический.
#ИИ_мастрид #философ_мастрид #тренд_мастрид