«Сбер» оценил риск выхода ИИ из-под контроля
ИИ может выйти из-под контроля только при неверном обращении с технологиями. В Сбербанке считают, что задача разработчиков — выстроить механизмы жесткого контроля ИИ, не останавливая при этом технологическое развитие
Александр Ведяхин (Фото: Андрей Любимов / РБК)
Искусственный интеллект (ИИ) может выйти из-под контроля, только если пользователь сам даст ему такую возможность, заявил «РИА Новости» первый зампред правления Сбербанка Александр Ведяхин.
По его словам, в Альянсе в сфере искусственного интеллекта существует «Белая книга ИИ», в которой смоделированы рисковые сценарии и ответные реакции на них.
«Наша задача — обеспечить все механизмы так, чтобы мы могли контролировать машины в любом состоянии. Это один из приоритетов. Но наравне с этим важно не впасть в очень жесткую охранительную позицию. Нам нельзя ограничивать свое развитие, но управлять им нужно так, чтобы оно происходило под нашим жестким контролем», — добавил Ведяхин.
Альянс в сфере искусственного интеллекта — ассоциация, созданная в 2019 году, которая объединяет ведущие технологические компании для развития ИИ в России. В нее входят Сбербанк, «Яндекс», VK, «Газпром нефть» и другие компании.
В разговоре с агентством Ведяхин назвал три преимущества российского ИИ перед зарубежным. По его словам, это люди — школа и специалисты, наличие собственных суверенных моделей и регулирование. «У нас нет чрезмерной жесткости, как, например, в Европе, поэтому мы чувствуем себя очень уверенно», — подчеркнул он.
Ведяхин отметил, что российские специалисты не привязаны к зарубежным решениям и могут создавать ИИ «под себя», с учетом специфики, культуры и языка. «Он понимает все языки России, культурный код, правовые особенности и множество других национальных аспектов», — сказал зампред правления Сбербанка.
ИИ встроен в такие критические системы, как финансы, логистика, наука и оборона, отметил Ведяхин и указал, что при этом возможны периодические «зимы» и «кризисы доверия». Наиболее вероятным сценарием эксперт считает не смерть, а трансформацию и фрагментацию ИИ. Он допустил, что появятся разные виды ИИ, которые будут контролировать разные государства или корпорации, но единого «центрального мозга» не будет.
18 марта Минцифры представило законопроект «Об основах госрегулирования сфер применения технологий искусственного интеллекта». Документ на законодательном уровне устанавливает правила использования ИИ в России. Сейчас отсутствие системного регулирования, неопределенность прав и обязанностей лиц, разрабатывающих, внедряющих и использующих ИИ, недостаточность мер поддержки сдерживают развитие указанных технологий в стране, что грозит техническим отставанием, говорится в документе.
Оставайтесь на связи с РБК в Max.
