Cистема обзора медицинских устройств на основе искусственного интеллекта

Заявление комиссара FDA Скотта Готлиба, доктора медицины, о шагах к новой специализированной системе создания медицинских устройств на основе искусственного интеллекта. Искусственный интеллект и машинное обучение способны кардинально изменить систему здравоохранения. По мере развития технологий и науки мы можем ожидать более раннего выявления заболеваний, более точной диагностики, более целенаправленной терапии и значительных улучшений в персонализированной медицине.

Способность программного обеспечения искусственного интеллекта и машинного обучения извлекать уроки из реальной обратной связи и повышать его производительность стимулирует инновации и ведет к разработке новых медицинских устройств. Сегодня мы объявляем о шагах по рассмотрению новой нормативно-правовой базы, специально разработанной для содействия разработке безопасных и эффективных медицинских устройств, использующих передовые алгоритмы искусственного интеллекта.

Алгоритмы искусственного интеллекта - это программное обеспечение, которое может учиться и действовать на основе данных. Эти типы алгоритмов уже используются для помощи в скрининге заболеваний и для предоставления рекомендаций по лечению. В прошлом году FDA санкционировало устройство на основе искусственного интеллекта для выявления диабетической ретинопатии, заболевания глаз, которое может привести к потере зрения. Агентство также уполномочило второе устройство на основе искусственного интеллекта для оповещения поставщиков о потенциальном инсульте у пациентов.

Будущее технологии

Создание этих технологий было предвестником прогресса, которого ожидает FDA, поскольку все больше медицинских устройств включают в себя усовершенствованные алгоритмы искусственного интеллекта для повышения их производительности и безопасности. Искусственный интеллект помог преобразовать такие отрасли, как финансы и производство, и я уверен, что эти технологии окажут глубокое и положительное влияние на здравоохранение.

Я могу представить себе мир, в котором когда-нибудь искусственный интеллект может помочь обнаружить и лечить сложные проблемы со здоровьем, например, распознавая признаки заболевания заблаговременно до того, что мы можем сделать сегодня. Эти инструменты могут предоставить больше времени для вмешательства, определения эффективных методов лечения и в конечном итоге спасения жизней. Мы делаем первый шаг к разработке нового и индивидуального подхода, чтобы помочь разработчикам вывести устройства искусственного интеллекта на рынок, выпустив документ для обсуждения.

Другие шаги в будущем будут включать выпуск проекта руководства, которое будет основано на информации, которую мы получим. Наш подход будет сосредоточен на постоянно меняющейся природе этих перспективных технологий. Мы планируем применить наши нынешние возможности по-новому, чтобы идти в ногу с быстрыми темпами инноваций и обеспечить безопасность этих устройств.

Технологии искусственного интеллекта, получившие разрешение на маркетинг и одобренные агентством до сих пор, обычно называются «заблокированными» алгоритмами, которые не адаптируются постоянно или не изучаются при каждом использовании алгоритма. Эти заблокированные алгоритмы модифицируются производителем через определенные промежутки времени, что включает «обучение» алгоритма с использованием новых данных с последующей ручной проверкой обновленного алгоритма. Но помимо запертых алгоритмов есть много обещаний, которые созрели для применения в сфере здравоохранения и требуют тщательного контроля, чтобы преимущества этих передовых технологий перевешивали риски для пациентов.

Эти алгоритмы машинного обучения, которые постоянно развиваются, часто называемые «адаптивными» или «непрерывно обучающимися» алгоритмами, не нуждаются в ручной модификации для включения обучения или обновлений. Адаптивные алгоритмы могут извлекать уроки из новых пользовательских данных, представленных в алгоритм посредством реального использования. Например, алгоритм, который обнаруживает повреждения рака молочной железы на маммограммах, может научиться повышать достоверность, с которой он идентифицирует поражения как раковые, или может научиться определять конкретные подтипы рака молочной железы, постоянно учась на основе реального использования и обратной связи.

Мы исследуем структуру, которая позволила бы вносить изменения в алгоритмы из реального обучения и адаптации, в то же время обеспечивая безопасность и эффективность программного обеспечения в качестве медицинского устройства. Новый подход к этим технологиям позволил бы учесть необходимость обучения и адаптации алгоритмов при их использовании в реальном мире.

Это было бы более приспособленным, чем наша существующая нормативная парадигма для программного обеспечения в качестве медицинского устройства. Для традиционного программного обеспечения, используемого в качестве медицинского устройства, при внесении изменений, которые могут существенно повлиять на безопасность или эффективность устройства, спонсор должен предоставить представление, демонстрирующее безопасность и эффективность изменений.

С помощью искусственного интеллекта, поскольку устройство развивается на основе того, что оно изучает, в то время как оно используется в реальном мире, мы работаем над созданием соответствующей структуры, которая позволяет программному обеспечению развиваться таким образом, чтобы повышать его производительность, обеспечивая при этом, чтобы изменения соответствовали нашему золотому стандарту для безопасность и эффективность на протяжении всего жизненного цикла продукта - от предпродажного дизайна до использования устройства на рынке.

Наши идеи являются основополагающим первым шагом к разработке подхода полного жизненного цикла продукта для регулирования этих алгоритмов, которые используют реальные данные для адаптации и улучшения. Мы рассматриваем, как подход, позволяющий оценивать и контролировать программный продукт от его предпродажной разработки до производительности после выхода на рынок, может обеспечить разумную гарантию безопасности и эффективности и позволить регулирующему надзору FDA охватить итеративный характер этих продуктов искусственного интеллекта, обеспечивая при этом соблюдение наших стандартов безопасности и эффективности.

Этот первый шаг в разработке нашего подхода обрисовывает в общих чертах информацию, специфичную для устройств, которые включают алгоритмы искусственного интеллекта, которые вносят реальные изменения, которые агентство может потребовать для предпродажного анализа. Они включают в себя производительность алгоритма, план производителя по модификациям и способность производителя управлять и контролировать риски модификаций.

Агентство может также намереваться пересмотреть то, что называется предопределенным планом контроля изменений программного обеспечения. Предопределенный план контроля изменений будет предоставлять агентству подробную информацию о типах ожидаемых модификаций на основе стратегии повторного обучения и обновления алгоритма и соответствующей методологии, используемой для реализации этих изменений контролируемым образом, который управляет рисками для пациентов.

В соответствии с нашими действующими правилами системы качества, агентство ожидает, что разработчики программного обеспечения будут иметь установленную систему качества, которая ориентирована на разработку, поставку и поддержку высококачественных продуктов в течение всего жизненного цикла, которые соответствуют стандартам и правилам агентства.

Цель

Цель этой структуры состоит в том, чтобы гарантировать, что текущие изменения алгоритма соответствуют заранее заданным целям производительности и планам управления изменениями, используют процесс проверки, который обеспечивает повышение производительности, безопасности и эффективности программного обеспечения искусственного интеллекта, и включает в себя мониторинг реального мира. производительность, как только устройство поступит в продажу для обеспечения безопасности и эффективности.

Мы изучаем этот подход, потому что считаем, что он позволит появиться на рынке полезному и инновационному программному обеспечению для искусственного интеллекта, при этом гарантируя, что преимущества устройства по-прежнему перевешивают его риски. У нас есть еще много работы, чтобы построить этот первоначальный набор идей, и мы будем полагаться на комментарии и отзывы экспертов и заинтересованных сторон в этой области, чтобы помочь информировать агентство, поскольку мы продолжаем думать о том, как мы будем регулировать технологии искусственного интеллекта для улучшить обслуживание пациентов.

Мы ожидаем еще несколько шагов в будущем, в том числе выпуск проекта руководства, которое будет основано на отзывах сегодняшнего дискуссионного документа. Как и во всех наших усилиях в области цифрового здравоохранения, сотрудничество будет иметь ключевое значение для разработки этой подходящей основы. Мы поощряем обратную связь и приветствуем разнообразие мнений и вдумчивых дискуссий, которые будут способствовать созданию основы этой регулирующей парадигмы.

По мере развития алгоритмов FDA также должно модернизировать наш подход к регулированию этих продуктов. Мы должны обеспечить, чтобы мы могли продолжать обеспечивать золотой стандарт безопасности и эффективности. Мы считаем, что руководство агентства поможет продвинуть разработку этих инновационных продуктов. Мы предприняли аналогичные шаги для продвижения других новых механизмов надзора за новыми технологиями.

Наш план действий по инновациям в области цифрового здравоохранения заложил основу для новых подходов к развитию инноваций в области цифрового здравоохранения. Мы строим наш центр повышения квалификации в области цифрового здравоохранения, чтобы разработать более эффективные способы обеспечения безопасности и эффективности таких технологий, как умные часы с медицинскими приложениями.

Наша пилотная программа предварительной сертификации программного обеспечения позволяет нам протестировать новый подход к рассмотрению продукта. Хотя я знаю, что в нашем регулировании алгоритмов искусственного интеллекта необходимо предпринять больше шагов, первый сделанный сегодня шаг поможет продвинуть идеи по разработке безопасных, полезных и инновационных медицинских продуктов.