Минцифры предлагает ограничения для ИИ в ключевых областях жизни

Министерство цифрового развития готовит законопроект, целью которого является обеспечение ключевой роли человека в процессе принятия решений, касающихся искусственного интеллекта (ИИ) в жизненно важных сферах. Об этом сообщают Известия 13 февраля.

Согласно проекту, намерены ограничить использование ИИ в таких критически важных областях, как здравоохранение, судебная система, образование и безопасность общества. Антон Немкин, член Комитета Госдумы по информационной политике и информационным технологиям, сообщил, что отсутствие четких требований о доминирующей роли человека в использовании ИИ может привести к серьезным рискам. В частности, это может вызвать проблемы с дискриминацией и искажениями алгоритмов, особенно если данные для обучения моделей были неполными или предвзятыми. Также отсутствует ясность в вопросе ответственности за возможные ошибки: кто должен нести ответственность разработчик, оператор или государство? Применение решений, которые могут повлиять на жизнь людей, без человеческого вмешательства может уменьшить доверие граждан к цифровым услугам.

Документ создается с учетом мнений различных профильных ведомств и будет представлен на согласование в правительство России в конце февраля. В то же время, в аппарате кабмина уже начат эксперимент по внедрению ИИ, который используется для создания документов, анализа данных и подготовки справок.

Опасности неправильного использования ИИ

Недавно также стало известно, что внедрение ИИ в медицинском оборудовании может представлять опасность для пациентов. В период с конца 2021 года по ноябрь 2025 года, как минимум 10 человек пострадали из-за ошибок навигационной системы TruDi, которая предоставляла неверную информацию хирургам в процессе операций.

Новые законодательные инициативы

Помимо этого, сообщается, что Госдума разрабатывает законопроект, который впервые формализует требования к участникам рынка робототехники и беспилотных летательных аппаратов. Этот законопроект будет охватывать весь жизненный цикл продукции. Как отметил Артем Шейкин, первый зампредседателя Комитета Совета Федерации по конституционному законодательству, новая инициатива поможет устранить проблемы с размытыми рисками, когда никто не несет ответственности за нарушения или инциденты, пишет Дзен-канал "Парламентская газета".