Разработка нового закона о контроле ИИ: человек остаётся у руля

Министерство цифрового развития России предпринимает шаги к созданию закона, который обеспечит контроль человека над решениями, принимаемыми с использованием технологий искусственного интеллекта (ИИ) в важнейших отраслях. В частности, это коснётся сфер здравоохранения, судебной системы, образования и общественной безопасности.

По информации, полученной от источника, близкого к ряду профильных ведомств, проект находится на стадии формирования. Ожидается, что он будет передан на утверждение правительству к концу февраля.

Безопасность и ответственность

В аппарате вице-премьера Дмитрия Григоренко подчеркнули, что потенциальные ошибки ИИ в таких критически важных областях, как медицина и юриспруденция, могут привести к катастрофическим последствиям повлиять на жизнь и здоровье людей, а также затронуть их права. Для минимизации подобных рисков необходимо установить ответственность как для пользователей, так и для разработчиков, гарантирующих, что ключевые решения остаются за человеком.

Предотвращение рисков алгоритмических искажений

Член комитета Государственной Думы по информационной политике Антон Немкин отметил, что закрепление за человеком главенствующей роли в процессе принятия решений поможет избежать алгоритмических ошибок, ослабления ответственности и падения доверия к цифровым услугам.

Эксперимент по интеграции ИИ

Одновременно с разработкой законопроекта в правительстве стартовал эксперимент, направленный на внедрение ИИ в работу государственных органов. Нейросети активно используются для обработки информации, создания документов, подготовки отчетов и анализа нормативных актов.

Запросы на получение информации об этой инициативе были направлены в Минцифры, Минюст, Минздрав и МВД.