В Госдуме предложили запретить нейросетям давать ответы по назначению лекарств
Ввести маркировку нейросетей с медицинскими рекомендациями и запрет на назначение лекарств системами с ИИ предложил вице-спикер Госдумы Борис Чернышов.
Соответствующее обращение направлено главе Минцифры Максуту Шадаеву и главе Роскомнадзора Андрею Липову. Основанием для беспокойства стала растущая практика использования гражданами нейросетей вместо обращения к врачу.
В предложениях по ограничению использования нейросетей в качестве медицинских рекомендаций указаны следующие позиции:
- запрет нейросетям на выдачу рекомендаций по применению лекарств, в том числе называть, рекламировать или советовать конкретные торговые бренды лекарств (Rx и ОТС) и БАД;
- обязательная маркировка в виде фразы «Данный совет сгенерирован искусственным интеллектом и не является медицинской консультацией. Для диагностики и лечения обратитесь к врачу» всех ответов нейросети, содержащих медицинские рекомендации по лечению, в том числе постановка диагноза, перечисление симптомов, методов лечения и профилактики заболевания;
- наличие согласия пользователя перед ответом нейросети с медрекомендациями в виде кнопки «Я понимаю, что это не диагноз врача, и принимаю на себя риски, следуя этим советам», без которого ответ не предоставляется.
В обращении указано, что нейросети и системы ИИ не несут юридической, этической или профессиональной ответственности за последствия своих рекомендаций. Кроме того, необходимо различать информацию и медицинскую помощь.
Инициатива касается коммерческих проектов и не ограничивает официальные государственные сервисы, в которых медицинская информация проходит экспертизу, а также научные и образовательные платформы, где прямых рекомендаций по лечению нет.
Риски при использовании ИИ существуют и в фармотрасли. Ее представители приходят к выводу, что ИИ полезен в рутинных процессах обработки больших массивов данных, на основе которых специалисты делают выводы и принимают решения. ИИ — это инструмент, а не заменитель человека.
В России пока нет законодательства, регулирующего ИИ, оно создается рабочей группой и включит в себя понятие ИИ, технические требования к информационным системам, нормы саморегулирования и авторское право.
