"Мы преклоняемся перед способностями черного ящика создавать черные ящики" ---- Беседа Демиса Хассабиса, главы лаборатории “Гугла” по ИИ Google DeepMind, Дарио Амодеи, главы Anthropic, и Занни Минтон Беддес, главного редактора журнала “Экономист” (чьи обложки вы так любите). Беседуют в Давосе на тему ИИ.
https://www.youtube.com/watch?v=02YLwsCKUww
Краткое резюме беседы: Мы устроим пожар, который можно потушить только огнетушителем, но огнетушителя у нас пока нет. Знаете, люди удивительные существа, они проявляют чудеса адаптации, может быть, они создадут огнетушитель прямо в процессе пожара. Мы строим «черный ящик», который мы не понимаем. Нет, он сам себя строит. Мы преклоняемся перед способностями черного ящика создавать черные ящики, каждый из которых умнее нас. Возможно, черные ящики в порядке, потому что мы хотим добра. Наша прибыль - это добро. Черный ящик ИИ умнее нас, а будет еще умнее, но наши инженеры начинают думать над проектом, как его понять. Не то чтобы этот проект на что-то повлиял, но может быть, если мы это вам скажем про это, вы успокоитесь. Я даже подумаю о рисках ИИ, когда поеду в следующий длительный отпуск. Но, боже мой, неужели мне нужно об этом думать, когда наша прибыль растет в геометрической прогрессии?