ИИ в фармацевтике: нерешенные вопросы этики и права

Регулирование ИИ: международный опыт и разработка российского закона

Анализ мирового фармрынка, проведенный Ассоциацией международных фармацевтических производителей (AIPM), показал значительное продвижение зарубежного права по применению ИИ, в рамках которого даже создаются международные стандарты для конкретных бизнес-процессов, в том числе разработки и производства лекарств, сообщили представители ассоциации — Елена Куликова, сопредседатель рабочей группы по разработке общих рекомендаций по ответственному (этичному) применению ИИ, и Марина Секира, советник по вопросам комплаенса.

Российское законодательство по регулированию ИИ создает рабочая группа по разработке закона, определяющего само понятие ИИ, технические требования к информационным системам, нормы саморегулирования и авторское права.

В AIPM пришли к выводу, что в этой деятельности отсутствуют системные принципы, которые помогли бы избежать технических и юридических рисков. Ассоциация взяла на себя задачу по их разработке.

Опрос компаний об отношении к ИИ показал, что больше всего бизнес беспокоят конфиденциальность данных, корректность и объективность выходных данных, защита персональных данных, неопытность работников, неопределенность в области авторских прав и др.

На основе полученной информации были сформулированы четыре ключевых принципа работы с ИИ:

1. Прозрачность: пользователи должны заранее понимать, как работает ИИ, какие данные он использует и каким образом приходит к результатам.
2. Маркировка контента: любой контент (обучающие материалы, изображения, аудио, видео), созданный ИИ без последующей обработки человеком, должен иметь соответствующую маркировку для идентификации авторства.
3. Защита данных: стандартные правила работы с персональными данными должны распространяться на все системы ИИ.
4. Система мониторинга: необходимо вести реестр ИИ с указанием типов данных, методов и ответственных лиц, а также внедрить оценку рисков, работу с инцидентами и их страхование.

Новые функции фармаконадзора требуют применения ИИ

Современный фармаконадзор переходит от мониторинга зарегистрированных

лекарств и контроля за их обращением к активному анализу больших массивов данных, полученных из клинических исследований и практики применения.

Директор Statandocs Екатерина Сорокина сообщила, что специалисты фармаконадзора занимаются исследованиями источников данных о лекарствах на всех этапах их обращения 

Система мониторинга лекарств включает два компонента:

• официальные источники (сайты регуляторов, базы данных научной литературы,
• реестры клинических исследований) и неструктурированные ресурсы (социальные сети, пациентские форумы, блоги).

Литературный мониторинг предполагает работу с большим объемом данных (big data), широкий охват информации, необходимость отслеживания десятков и сотен источников — научные журналы, базы данных, сайты регуляторов, профильные форумы. Это наиболее трудоемкий и ресусозатратный процесс.

Специалисты по обработке массивов данных сталкиваются с рядом проблем:

• ежегодный рост числа публикаций на 4,1%,
• 85-90% нерелевантных статей,
• языковые барьеры,
• субъективная интерпретация критериев
• усталость и когнитивная перегрузка сотрудников,
• ручные процессы, которые снижают качество и масштабируемость.

Для решения этих проблем необходима автоматизации процессов. Применение технологий NLP и ИИ позволит организовать единый поиск по множеству источников, оценить релевантность и валидность данных, а также проводить многоязыковой анализ. Настраиваемые фильтры автоматически отсеивают дубли и сортируют информацию по типу документа, языку и ключевым словам. Многоязыковой анализ обеспечит поиск по международным и локальным источникам.

Регуляторика и просвещение: ИИ в GxP-среде

О регуляторных вопросах внедрения и использования ИИ в GxP-среде (свод нормативных правил, применяемых в фармпроизводстве — Ред.) рассказала Оксана Гаврилова, лидер направления «ИТ в фарме» Передовой инженерной школы МГУ им. М.В. Ломоносова. По ее словам, несмотря на обновление и создание новых рекомендаций в Европе и ЕАЭС, обновление законодательства EU GMP Европы, остаются серьезные вопросы относительно ИИ в отраслях, где предъявляются высокие стандарты. Чаще всего обсуждаются вопросы, связанные с безопасностью и конфиденциальностью использования данных фармкомпаний с помощью ИИ-инструментов, валидацией ИИ-инструментов и их безопасного применения в фармотрасли, а также с аудитом со стороны инспекторов и регулированием.

В этой связи на базе Передовой инженерной школы МГУ запустили научно-просветительский проект по развитию и использованию инструментов ИИ в фармацевтической отрасли. Он называется «ИИ в фарме», его цель — давать разъяснения и обсуждать различные аспекты практического применения ИИ в фармацевтике. Проект привлекает экспертизу по созданию и использованию ИИ-инструментов в России, обращается к международному опыту. В команду уже вошли IТ-компании и IТ-стартапы в области ИИ для фармацевтики, представители других профильных институтов, независимые эксперты.

Этика клинических решений: ИИ помогает принять решение, но ответственность за него несет врач

Электронные справочники — главный источник информации для врачей, и их доля растет, сообщила Ирина Худова, заместитель руководителя проекта «ЛС ГЭОТАР», заместитель руководителя по аналитике «Высшей школы организации и управления здравоохранением» (ВШОУЗ).

При составлении справочников и разработке системы поддержки принятия клинических решений (СППКР) необходимо проводить оценку рисков фармакотерапии и этических норм принятия решений.

В процессе разработки и внедрения современных СППКР возникают этические вопросы, связанные с:

• контролем качества,
• защитой персональных данных,
• защитой авторских прав,
• определением области применения СППКР,

ответственностью за принятие решений. И даже большие языковые модели о лекарственных средствах не всегда помогают, поскольку обладают рядом недостатков: нет классификации рисков комплексной терапии, нет ссылок на источники, много общих слов, на которые тратится время врача, каждый раз при запросе меняется формулировка ответа. Есть англоязычные системы оценки рисков фармакотерапии, но они недоступны из-за языкового барьера.

Как ответ на эти вызовы появилось российское решение — лекарственный справочник с оценкой рисков терапии «ЛС ГЭОТАР», позволяющий выявить:

• противопоказания,
• побочные эффекты,
• рассчитать любое количество взаимодействий,
• перекрестный поиск по всем характеристикам.

Справочник бесплатный для пользователей, содержит оценку противопоказаний комбинированной фармакотерапии, научно-обоснованную методологию оценки рисков фармакотерапии, подробное описание взаимодействия ЛС и побочных эффектов. Есть привязка к клиническим рекомендациям. Создатели указывают на качество контента, защиту персональных данных и авторских прав, использование официальных данных ГРЛС, ЕАЭС, открытых баз данных за рубежом, PubMed. Система носит рекомендательный характер для врачей, давая им комплексную информацию о ЛС и рисках терапии. Ответственность за принятия решений несет врач.

По материалам сессии «Этические и юридические вопросы в цифровой реальности», которая прошла в рамках 17-й конференции «Что происходит на фармацевтическом рынке?»