Быстрое внедрение искусственного интеллекта в медицину вызывает озабоченность исследователей

Искусственный интеллект уже помогает врачам ставить диагнозы, сортировать критические случаи и расшифровывать клинические заметки в больницах по всей территории Соединенных Штатов. Однако регулирование медицинских продуктов ИИ не поспевает за быстрыми темпами их принятия. В настоящее время уже более тысячи медицинских продуктов ИИ были ободрены FDA. И больницы их быстро внедряют.

В отличие от большинства других продуктов, регулируемых FDA, инструменты ИИ продолжают развиваться после одобрения, поскольку они обновляются или переобучаются на новых данных. Это повышает необходимость постоянного надзора, что сложно обеспечить в настоящее время. Обсуждение этого вопроса особенно актуально на фоне недавних признаков того, что федеральное правительство США может свернуть регулирование ИИ.

Без надлежащего контроля существует риск, что медицинские алгоритмы могут давать вводящие в заблуждение рекомендации и ставить под угрозу уход за пациентами. Критерии, используемые FDA для проверки и авторизации медицинских инструментов на основе ИИ, часто менее строгие, чем для лекарств. И поскольку другие страны полагаются на FDA при принятии собственных решений, ее подход может иметь глобальные последствия.

Например, по данным FDA, только те инструменты, которые могут представлять повышенный риск для пациентов, должны проходить клинические испытания. Еще одна проблема заключается в том, что медицинские алгоритмы часто плохо работают при применении к группам населения, которые отличаются от тех, на которых они были обучены. Из-за этих ограничений одобрение регулирующих органов не гарантирует, что медицинский продукт на основе ИИ будет полезен для людей, которым он призван помочь. Автор: Павел Афанасьев