Минцифры предлагает ограничить ИИ в рискованных сферах жизни

Министерство цифрового развития России инициировало подготовку нового законопроекта, который призван обеспечить централизацию человеческого контроля в важнейших областях, затрагивающих социальные интересы. Согласно информации, опубликованной 13 февраля, документ касается применения искусственного интеллекта (ИИ) в таких сферах, как здравоохранение, судопроизводство, образование и общественная безопасность.

Опасности неуправляемого ИИ

Антон Немкин, член Комитета Госдумы по информационной политике, информатизации и связи, подчеркнул, что отсутствие строгих регуляций в использовании ИИ может создать ряд системных угроз. Основные риски заключаются в дискриминации и алгоритмических искажениях, возникающих из-за того, что модели часто обучаются на неполных или предвзятых данных. Более того, текущая неопределенность по поводу ответственности в случае ошибок будь то разработчик, оператор или государство ставит под сомнение безопасность решений, принимаемых машинами. Это приводит к снижению доверия граждан к цифровым технологиям, когда они начинают воспринимать эти решения как безусловные и автоматические.

Разработка и внедрение

Законопроект формируется с учетом замечаний профильных ведомств и планируется к согласованию с Правительством РФ до конца февраля. В то же время в правительственном аппарате уже стартовал эксперимент по интеграции ИИ в различные процессы, включая генерацию документов, анализ данных и семантическую обработку нормативных актов.

Безопасность в медицине и новые нормы для робототехники

Недавно стало известно о проблемах, возникших из-за применения ИИ в медицинском оборудовании: по данным СМИ, не менее 10 пациентов получили травмы в период с конца 2021 года по ноябрь 2025-го из-за ошибок в навигационной системе TruDi, которая неверно указывала местоположение хирургических инструментов во время операций.

Помимо этого, Госдума подготовила другой законопроект, который впервые определяет права и обязанности участников рынка робототехники и беспилотных летательных аппаратов, учитывая весь жизненный цикл продукции. Артем Шейкин, первый заместитель председателя Комитета Совета Федерации по конституционному законодательству, отметил, что эти меры помогут избежать ситуаций, когда ответственность за возможные инциденты размывается и никто не несет ее, сообщает канал.