Бизнес попросил доработать законопроект об ИИ. Что не нравится компаниям
Бизнес попросил доработать законопроект о регулировании искусственного интеллекта — первой попытке систематизировать нейросети. Они назвали ряд его норм технически невыполнимыми и противоречащими Конституции и Гражданскому кодексу
Фото: Михаил Гребенщиков / РБК
По оценке крупнейших российских компаний и бизнес-объединений, принятие законопроекта «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в России» в текущем виде приведет к рискам для бизнеса и россиян: затраты компаний на внедрение искусственного интеллекта (ИИ) вырастут, вывод продуктов на рынок замедлится, разработки перенесут в другие юрисдикции, а доступ россиян к передовым технологиям, например диагностики и лечения, будет ограничен.
Это следует из отзывов на проект, опубликованных на портале regulation.gov.ru. Всего в обсуждении участвовали более 150 экспертов, в том числе представители «Роснефти», «Россетей», Ассоциации предприятий компьютерных и информационных технологий (АПКИТ), Ассоциации цифровых платформ (АЦП), Ассоциации европейского бизнеса (АЕБ), Торгово-промышленная палаты (ТПП), «МегаФона», РВБ (объединенная компания Wildberries и Russ) и др.
Что регулирует законопроект
Речь идет о разработанном правительством законопроекте о регулировании ИИ. Документ дает определение ключевым понятиям, регламентирует вопросы ответственности, маркировки контента и прав россиян. Он вводит категории «суверенных», «национальных» и «доверенных» моделей ИИ. Предполагается, что в госинформсистемах и на объектах критической информационной инфраструктуры (сети связи и информационные системы госорганов, энергетических, финансовых, транспортных, медицинских и ряда других компаний) должны будут применять только доверенные модели из специального реестра — те, что прошли сертификацию безопасности, обрабатывают данные исключительно на территории России и подтвердили качество у отраслевых регуляторов.
Что предлагается изменить
Наиболее жесткую критику вызвали требования законопроекта к суверенным и национальным моделям ИИ (по законопроекту — те, которые полностью созданы в России). «Роснефть» в своем отзыве указала, что требование формировать и обрабатывать наборы данных для обучения моделей исключительно на территории России гражданами и юрлицами страны технически невыполнимо: релевантных данных на русском языке в открытых источниках недостаточно, а необходимая вычислительная инфраструктура еще не создана. Компания предложила ввести трехлетний переходный период для этого требования. Также «Роснефть» попросила разрешить использовать общедоступные данные из интернета независимо от расположения серверов — действующая формулировка не охватывает, например, статьи россиян в «Википедии», размещенные на зарубежных серверах.
ТПП, АЕБ и АЦП в своих отзывах указали, что в России сейчас нет моделей, соответствующих всем заявленным критериям суверенности, — все отечественные разработки используют зарубежные компоненты и открытые датасеты. Требование формировать датасеты исключительно в России не учитывает, что фундаментальные знания не имеют национальной привязки, а ограничение только российскими данными приведет к деградации качества моделей и усилит технологическое отставание. ТПП также отметила, что требование противоречит договору о ЕАЭС, гарантирующему свободное движение данных между государствами-членами. АПКИТ обратила внимание на неопределенность в различии между суверенными и национальными моделями — основные требования к ним в законе едины, а специфика не раскрыта.
Представитель «МегаФона» в своем отзыве указал, что допуск к критической информационной инфраструктуре только доверенных моделей, как это сейчас предлагает законопроект, приведет к правовой коллизии, поскольку в проекте также говорится, что случаи обязательного использования доверенных моделей установит правительство — оба положения не могут действовать одновременно. Кроме того, подобное регулирование создаст угрозу для медицины, чьи сети связи и информсистемы также относятся к критической информационной инфраструктуре. Проект фактически запретит тем медицинским организациям, которые уже используют ИИ-системы и прошедшие регистрацию в Росздравнадзоре, применять уже работающие продукты, созданные на базе иностранных средств разработки. Это лишит граждан современных средств диагностики и лечения, считает он.
Он, а также АЦП, РВБ и ТПП предупредили, что если требование использовать только доверенные модели ИИ распространят и на коммерческие компании, причисленные к владельцам критической информационной инфраструктуры, как допускает текущая версия законопроекта, это приведет к дополнительным расходам на обеспечение информационной безопасности, создаст барьеры для уже работающих систем и существенно замедлит развитие технологий. В ТПП считают, что принятие законопроекта в текущем виде приведет к росту затрат компаний на внедрение ИИ на 20–40%, замедлит вывод продуктов на рынок в 1,5–2 раза.
АЦП предложила ограничить обязательное применение доверенных моделей конкретными высокорисковыми случаями: обработка информации ограниченного доступа, применение больших фундаментальных моделей и автономные решения без участия человека.
«Роснефть» предложила не требовать от разработчиков фундаментальных моделей исключать функциональные особенности, способные привести к дискриминации, а требовать этого с операторов систем ИИ. Генерация контента носит вероятностный характер, и разработчик не может гарантировать отсутствие дискриминационных результатов для всех сценариев использования — ответственность должна быть на тех, кто применяет модель в конкретном контексте, говорится в отзыве нефтяного холдинга. АЦП в целом предупредила, что если ответственность установят преждевременно, на текущем этапе развития технологии, это приведет к снижению темпов развития отрасли, переносу разработки сервисов в другие юрисдикции и ухудшению конкурентоспособности национального ИИ-сектора. Особенно чувствительными требования будут для стартапов, у которых нет ресурсов для создания сложных систем фильтрации контента.
АЕБ также пишет, что при текущих формулировках действие законопроекта распространяется на любые иностранные ИИ-сервисы, доступные в России, даже если у них нет русскоязычных версий, они не размещают рекламу для российских пользователей и не принимают платежи в рублях. Это приведет к тому, что закон будет применяться ко всем иностранным компаниям, чьи сервисы хоть как-то доступны в России, — получается, что и все российские ИИ-сервисы должны соблюдать законы всех стран, где они доступны, отмечается в отзыве. Ассоциация предложила ввести критерии таргетирования по аналогии с законом о приземлении зарубежных IT-компаний: распространять требования только на компании, чья деятельность направлена на российскую аудиторию.
Кроме того, АЕБ раскритиковала принцип «учета и уважения традиционных российских духовно-нравственных ценностей», перенесенный в законопроект из другого указа. Понятия «высокие нравственные идеалы», «приоритет духовного над материальным», «крепкая семья» не являются правовыми категориями и не могут служить основанием для юридически значимых решений о допуске модели на рынок. Ассоциация предложила ограничиться ссылкой на Конституцию. Также она просит уточнить понятие «эксплуатация уязвимостей человека» — без этого под риск запрета попадет любая законная персонализация сервисов и таргетированная реклама.
Как скорректировать маркировку ИИ и другие положения
АЦП, ТПП и РВБ отметили, что обязанность маркировать любой сгенерированный контент технически невыполнима для маркетплейсов, у которых миллионы карточек товаров: их массовая маркировка как «ИИ-сгенерированных» создаст у потребителя неверное впечатление и приведет к недоверию к товару, продавцу и платформе, что обернется снижением продаж. Обязанность платформ проверять наличие маркировки и выявлять синтетическое происхождение контента авторы отзывов назвали нереализуемым — для этого сейчас не существует надежного софта. При этом законопроект одновременно допускает отказ пользователя от маркировки, что может ослабить защиту граждан от дипфейков, указала РВБ. Компания предложила разграничить «синтезированный материал» (дипфейки, имитации) и «ИИ-ассистированный функциональный контент» (описание товаров, технические тексты) — требование маркировки должно быть только к первой категории.
АЦП, АЕБ, РВБ и ТПП также настаивают, что требование законопроекта обеспечить пользователю возможность получить услугу без применения ИИ для платформенной модели бизнеса будет технически невыполнимо: рекомендательные системы, поиск, антифрод работают непрерывно и не могут отключаться для отдельного пользователя без потери работоспособности сервиса. А обязанность информировать покупателей о каждом случае применения ИИ создаст информационный шум на цифровых платформах без пользы для потребителя. Чтобы решить эту проблему, участники рынка предложили вводить обязательное информирование только для чувствительных сфер (здравоохранение, образование, правосудие, госуслуги), а требование об отказе от ИИ — для социально значимых сервисов.
ТПП и АЕБ указали, что норма законопроекта о парсинге данных (автоматизированный сбор и структурирование данных из открытых источников с помощью специальных программ) фактически отменит защиту авторских прав при обучении ИИ. Документ позволяет использовать результаты интеллектуальной деятельности для обучения моделей без разрешения правообладателя — это прямо противоречит Гражданскому кодексу. Также законопроект признает объектами ИИ «оригинальные творения независимо от того, были ли они созданы человеком или автоматизированной системой», тогда как Гражданский кодекс указывает, что автором результата признается только гражданин. Ассоциация предложила ввести механизм opt-out — возможность для правообладателей запретить использование своих произведений для обучения ИИ, а также предусмотреть выплату справедливого вознаграждения при коммерческом использовании контента для обучения моделей.
Ассоциация юристов России (АЮР) в своем заключении назвала законопроект «чрезмерно ориентированным на государственный контроль и недостаточно учитывающим интересы бизнеса». По мнению объединения, определение ИИ в документе сформулировано слишком широко и фактически охватывает любой софт с элементами автоматизации или машинного обучения. Кроме того, АЮР увидела противоречие принципу правовой определенности: законопроект предполагает принятие большого количества уточняющих подзаконных актов, но существенные ограничения прав и обязанностей должны определяться не такими документами, а именно федеральным законом.
«Россети» в своем отзыве предложили скорректировать положения законопроекта, которые вводят преференции для дата-центров, предназначенных для ИИ. Холдинг выступает против освобождения их от платы при технологическом присоединении к электросетям, упрощенного порядка согласования схем внешнего энергоснабжения, льготных тарифов на приобретение электроэнергии, ее приоритетном выделении и др. «Россети» попросили убрать эти положения, поскольку они дискредитируют «иные субъекты рыночных отношений».
ТПП предложила ввести переходный период в 2–3 года с поэтапным внедрением требований; режим «безопасной гавани» (освобождение от ответственности при соблюдении всех требований закона); регуляторные песочницы для тестирования инноваций; налоговые льготы и субсидирование затрат на compliance (система мер, правил и процедур, обеспечивающих соблюдение компанией законов, отраслевых стандартов и внутренних корпоративных норм).
Из материалов Regulation.gov.ru следует, что Минцифры частично учло упомянутые предложения участников рынка при корректировке законопроекта.
