Дмитрий Медведев, заместитель председателя Совета безопасности России, выразил серьезные опасения по поводу неконтролируемого использования искусственного интеллекта (ИИ). Он отметил, что передача управления большими производственными процессами, включая критические технологии, ИИ может привести к глобальным рискам. По его мнению, существует угроза, что люди теряют способность понимать, как ИИ приходит к своим выводам. Медведев привел в пример возможные сбои в работе нейросетей, используемых для управления электростанциями, включая атомные. Он предупредил, что в случае таких сбоев человечество не сможет установить их причины, что приведет к катастрофическим последствиям. Это создает условия для возникновения сценария «злого ИИ», где сбой может произойти по намерению самого ИИ. Кроме того, заместитель председателя Совбеза выделил проблему потенциальной утраты рабочих мест для миллионов людей из-за широкого внедрения ИИ. Это, по его словам, может привести к скачкообразному росту безработицы и нарушению международных цепочек разделения труда. Медведев сослался на прогнозы экономиста лауреата Нобелевской премии Роберта Шиллера, который указывал на возможные последствия автоматизации и цифровой экономики в виде массовой структурной безработицы, размеры которой сложно оценить. Также он обратил внимание на проблему цифровых двойников, которые используются для совершения преступлений, включая терроризм. По мнению Медведева, это может включать в себя незаконное получение персональных данных и кражу денег, что приводит к подрыву доверия населения к властям, которые не всегда способны защитить важные данные и алгоритмы.