«`html
Искусственный интеллект преобразует клинические испытания, но проблемы остаются огромными
Искусственный интеллект постепенно внедряется в сферу клинических испытаний, обещая ускорить медицинские исследования, снизить затраты и повысить эффективность лечения. Однако его интеграция ставит сложные вопросы, выходящие за рамки простых технологических обещаний.
При разработке протоколов искусственный интеллект теперь позволяет автоматически генерировать сложные документы на основе простых резюме, предоставленных исследователями. Это значительно сокращает время, необходимое для составления детализированных протоколов — задачи, которая раньше была долгой и утомительной. Однако эта скорость сопряжена с рисками, в частности риском разглашения конфиденциальной информации о лекарствах или инновационных разработках, когда данные вводятся во внешние системы. Прогнозные модели, в свою очередь, анализируют исторические базы данных, чтобы предсказать ключевые операционные результаты, такие как способность достичь целей по набору участников или определить оптимальные критерии включения. Эти инструменты помогают избежать дорогостоящих неудач, но их эффективность сильно зависит от качества и репрезентативности используемых данных.
Набор пациентов, часто являющийся источником задержек в испытаниях, также выигрывает от внедрения искусственного интеллекта. Передовой системы анализируют миллионы медицинских документов за рекордно короткое время, чтобы выявить подходящих кандидатов. Например, одна платформа обработала более 83 миллионов документов менее чем за две недели, сгенерировав миллиарды стандартизированных медицинских терминов. Эти технологии позволяют сократить время ручного скрининга вдвое, освобождая время для медицинского персонала. Они также показывают, что многие критерии отбора безосновательно исключают пациентов, не влияя на терапевтические результаты. Смягчив эти правила, испытания могли бы включать в два раза больше участников, сохраняя при этом их безопасность.
Однако эффективность этих систем варьируется. Некоторые достигают высоких показателей полноты, выявляя большинство подходящих пациентов, но с низкой точностью, что означает включение и неподходящих кандидатов. Наоборот, высокоточная система снижает нагрузку на человеческих рецензентов, но рискует исключить подходящих пациентов. Последние достижения, такие как модели, сочетающие извлечение и генерацию данных, демонстрируют многообещающие результаты с точностью более 97 %, превосходя в некоторых задачах даже человеческих координаторов.
Анализ данных — еще одна область, где искусственный интеллект добивается успехов. Он позволяет обрабатывать сложные наборы данных, такие как данные с подключенных устройств или медицинские изображения, предлагая беспрецедентное богатство информации. Тем не менее, продолжаются дебаты между традиционными статистическими методами и современными моделями. Классические подходы, такие как логистическая регрессия, обеспечивают непревзойденную прозрачность, позволяя четко понять влияние каждой переменной. Модели искусственного интеллекта, хотя и часто более точные, работают как «черные ящики», что затрудняет понимание их внутренней логики. Эта непрозрачность представляет собой серьезную проблему для клинического применения, так как врачи не хотят следовать рекомендациям, которые не понимают, особенно в критических ситуациях.
Алгоритмические предвзятости — еще одно серьезное препятствие. Системы могут увековечивать или даже усиливать существующее неравенство, если данные, используемые для их обучения, отражают исторические диспропорции. Например, широко используемый в США алгоритм для оценки потребности в интенсивной терапии отдавал предпочтение белым пациентам в ущерб чернокожим, так как он использовал прошлые расходы на здравоохранение в качестве индикатора будущих потребностей — критерий, смещенный структурными неравенствами. Аналогично, инструменты диагностики сердечно-сосудистых заболеваний, обученные в основном на мужских данных, показывают меньшую точность для женщин, чьи симптомы часто отличаются. Эти предвзятости подчеркивают важность диверсификации команд разработчиков и наборов данных для обеспечения справедливых результатов.
Прозрачность моделей также является критически важным вопросом. Врачи и пациенты должны понимать, как было принято решение, особенно если оно напрямую влияет на жизни людей. Методы постфактум объяснений, такие как LIME или SHAP, пытаются сделать модели более понятными, выявляя наиболее влиятельные факторы для данного прогноза. Однако эти объяснения остаются приблизительными и сами могут быть вводящими в заблуждение. Некоторые модели, разработанные для внутренней интерпретируемости, такие как деревья решений, предлагают альтернативу, хотя их точность может быть ниже, чем у сложных моделей.
Проблемы носят не только технический характер. Интеграция искусственного интеллекта в клинические испытания ставит нерешенные этические и юридические вопросы. Кто несет ответственность в случае медицинской ошибки, связанной с системой искусственного интеллекта? Разработчик, медицинское учреждение, врач или пациент? Распределение ответственности, часто называемое «проблемой многих рук», усложняет определение виновных и может оставить пациентов без ясного способа защиты. Некоторые предлагают коллективную ответственность, при которой все заинтересованные стороны делили бы бремя, но этот подход еще предстоит разработть.
Вопросы собственности на данные и согласия пациентов также вызывают озабоченность. В традиционном испытании пациент дает согласие на использование своих данных для конкретной и ограниченной по времени цели. С искусственным интеллектом данные часто используются бессрочно для обучения и улучшения моделей, что ставит вопросы о праве собственности и контроле. Модели суверенитета данных, при которых пациенты сохраняют детализированный контроль над своей информацией, возникают как возможное решение, но их широкомасштабное внедрение остается сложным.
Децентрализованные системы, такие как федеративное обучение и блокчейн, предлагают способы преодоления препятствий, связанных с конфиденциальностью и доступом к данным. Федеративное обучение позволяет обучать модели на данных, распределенных по нескольким учреждениям, никогда не централизуя конфиденциальную информацию. Однако этот подход сталкивается с практическими трудностями, такими как гетерогенность данных между сайтами, что может ухудшить производительность глобальной модели. Блокчейн, в свою очередь, мог бы гарантировать целостность и прослеживаемость данных, но его внедрение сталкивается с проблемами масштабируемости, энергопотребления и соответствия нормам защиты данных, таким как право на забвение.
Часто подчеркиваются затраты и повышение эффективности благодаря искусственному интеллекту. Исследования показывают, что онлайн-набор пациентов снижает затраты на одного пациента с 199 до 72 долларов и значительно ускоряет процесс. Другие отчеты указывают на сокращение времени регистрации на 10–15 % в пилотных испытаниях. Однако эти цифры часто поступают из исследований, финансируемых индустрией, или внутренних отчетов, которые могут быть предвзятыми или лишенными независимой проверки. Строгие экономические анализы остаются редкостью, а доступные результаты имеют значительные методологические пробелы.
Наконец, влияние искусственного интеллекта на рабочую нагрузку клиницистов и опыт пациентов неоднозначно. Некоторые инструменты автоматизируют утомительные административные задачи, освобождая время для прямого ухода, в то время как другие, наоборот, могут увеличивать нагрузку, требуя постоянной проверки сгенерированных результатов. Пациенты же колеблются между надеждой на более точные диагнозы и персонализированное лечение и страхом потери конфиденциальности или сокращения человеческого общения. Недавний опрос показывает, что 60 % американцев были бы некомфортно, если бы их поставщик медицинских услуг полагался на искусственный интеллект при принятии медицинских решений.
«`
Documentation et sources
Document de référence
DOI : https://doi.org/10.1007/s10791-026-10205-x
Titre : The transformative and turbulent integration of artificial intelligence in clinical trials: a critical review
Revue : Discover Computing
Éditeur : Springer Science and Business Media LLC
Auteurs : Ying Xuan Lim; Long Chiau Ming; Nancy Choon-Si Ng; Serena Leow; Rahul G. Ingle