Медведев написал о «предчувствии Апокалипсиса» из-за неконтролируемого ИИ

Дмитрий Медведев (Фото: ТАСС)

Перспектива передачи искусственному интеллекту (ИИ) управления большими производственными процессами, в которых участвуют в том числе критические технологии, при определенных условиях чревата глобальными рисками, написал в статье для журнала «Эксперт» заместитель председателя Совбеза России Дмитрий Медведев.

Он также считает опасностью то, что люди уже не способны понять, как ИИ может прийти к тому или иному выводу.

«Представим себе, что из-под контроля вышли нейросети, которые используются в ходе управления электростанциями, включая атомные. В случае, если в них происходит сбой, мы не сможем даже разобраться в его причине. Вот тут-то для человечества и начинается предчувствие Апокалипсиса. Отсюда один шаг к модели «злого ИИ», которая, как и все иные, может материализоваться. То есть к ситуации, когда сбой важной системы происходит по прямому умыслу самого ИИ», — пишет Медведев.

Замглавы Совбеза также упоминает еще одну проблему: широкое использование ИИ ставит под угрозу рабочие места миллионов людей и, как следствие, создает предпосылки для экспоненциального роста безработицы и нарушения международных цепочек разделения труда. Медведев напомнил прогноз лауреата Нобелевской премии, экономиста Роберта Шиллера о том, что автоматизация и цифровая экономика приведут к массовой структурной безработице, которую пока невозможно адекватно оценить.

Цифровые личности или двойники уже вовсю создаются для совершения общеуголовных преступлений и даже актов терроризма, отмечает Медведев. «Это может быть и нелегальное получение персональных данных для доступа к охраняемым сведениям на электронных ресурсах, и кража денежных средств, и незаконное присвоение личной, коммерческой или государственной собственности. Всё это уже сейчас приводит к подрыву доверия к официальным властям, которые далеко не всегда способны защитить ключевые данные и алгоритмы», — предупреждает он.