Künstliche Intelligenz revolutioniert klinische Studien – doch die Herausforderungen bleiben enorm

Künstliche Intelligenz setzt sich schrittweise im Bereich der klinischen Studien durch und verspricht, die medizinische Forschung zu beschleunigen, die Kosten zu senken und die Wirksamkeit von Behandlungen zu verbessern. Dennoch wirft ihre Integration komplexe Fragen auf, die über die bloßen technologischen Versprechen hinausgehen.

Bei der Erstellung von Studienprotokollen ermöglicht es die künstliche Intelligenz mittlerweile, automatisch komplexe Dokumente aus einfachen Zusammenfassungen zu generieren, die von Forschern bereitgestellt werden. Dadurch verkürzt sich die Zeit für die Erstellung detaillierter Protokolle erheblich – eine Aufgabe, die früher langwierig und mühsam war. Doch diese Geschwindigkeit birgt auch Risiken, insbesondere die Möglichkeit, sensible Informationen über Medikamente oder innovative Designs preiszugeben, wenn diese Daten in externe Systeme eingegeben werden. Prädiktive Modelle analysieren hingegen historische Datenbanken, um operative Schlüsselergebnisse vorherzusagen, wie etwa die Fähigkeit, Rekrutierungsziele zu erreichen oder optimale Einschlusskriterien zu identifizieren. Diese Tools helfen, kostspielige Misserfolge zu vermeiden, doch ihre Wirksamkeit hängt stark von der Qualität und Repräsentativität der verwendeten Daten ab.

Auch die Rekrutierung von Patienten, die oft zu Verzögerungen in Studien führt, profitiert von den Fortschritten der künstlichen Intelligenz. Hochentwickelte Systeme analysieren in Rekordzeit Millionen medizinischer Unterlagen, um geeignete Kandidaten zu identifizieren. Eine Plattform verarbeitete beispielsweise über 83 Millionen Dokumente in weniger als zwei Wochen und generierte dabei Milliarden standardisierter medizinischer Begriffe. Diese Technologien können die Zeit für die manuelle Screening-Hälfte reduzieren und so medizinischem Personal mehr Zeit verschaffen. Sie zeigen auch, dass viele Einschlusskriterien Patienten unnötig ausschließen, ohne die therapeutischen Ergebnisse zu beeinträchtigen. Durch eine Lockerung dieser Regeln könnten Studien doppelt so viele Teilnehmer einbeziehen, ohne die Sicherheit zu gefährden.

Allerdings variieren die Leistungen dieser Systeme. Einige erreichen hohe Recall-Raten und identifizieren die Mehrheit der geeigneten Patienten, allerdings mit einer manchmal geringen Präzision, was bedeutet, dass sie auch ungeeignete Kandidaten einschließen. Umgekehrt reduziert ein sehr präzises System zwar den Arbeitsaufwand für menschliche Prüfer, birgt aber das Risiko, gültige Patienten auszuschließen. Aktuelle Fortschritte, wie Modelle, die Datenextraktion und -generierung kombinieren, zeigen vielversprechende Ergebnisse mit Genauigkeitsraten von über 97 % und übertreffen in manchen Aufgaben sogar menschliche Koordinatoren.

Die Datenanalyse ist ein weiterer Bereich, in dem die künstliche Intelligenz punkten kann. Sie ermöglicht die Verarbeitung komplexer Datensätze, wie sie etwa von vernetzten Geräten oder medizinischer Bildgebung stammen, und bietet damit eine bisher unerreichte Informationsfülle. Dennoch besteht eine anhaltende Debatte zwischen traditionellen statistischen Methoden und modernen Modellen. Klassische Ansätze wie die logistische Regression bieten eine unübertroffene Transparenz und ermöglichen ein klares Verständnis des Einflusses jeder Variable. Modelle der künstlichen Intelligenz sind zwar oft präziser, funktionieren aber wie Blackboxes, was ihre interne Logik schwer nachvollziehbar macht. Diese Intransparenz stellt eine große Hürde für die klinische Akzeptanz dar, da Ärzte zögern, Empfehlungen zu folgen, die sie nicht verstehen – insbesondere in kritischen Situationen.

Algorithmenbasierte Verzerrungen stellen ein weiteres großes Hindernis dar. Systeme können bestehende Ungleichheiten sogar verstärken, wenn die für ihr Training verwendeten Daten historische Disparitäten widerspiegeln. Ein in den USA weit verbreiteter Algorithmus zur Bewertung des Bedarfs an Intensivpflege begünstigte etwa weiße Patienten auf Kosten schwarzer Patienten, da er vergangene Gesundheitskosten als Indikator für zukünftige Bedürfnisse nutzte – ein Kriterium, das durch strukturelle Ungleichheiten verzerrt war. Ähnlich zeigen kardiovaskuläre Diagnosewerkzeuge, die hauptsächlich mit männlichen Daten trainiert wurden, eine geringere Genauigkeit bei Frauen, deren Symptome sich oft unterscheiden. Diese Verzerrungen unterstreichen die Bedeutung, die Entwicklungsteams und Datensätze zu diversifizieren, um faire Ergebnisse zu gewährleisten.

Die Transparenz der Modelle ist ebenfalls ein entscheidendes Thema. Kliniker und Patienten müssen nachvollziehen können, wie eine Entscheidung zustande kam, insbesondere wenn diese direkte Auswirkungen auf Leben hat. Post-hoc-Erklärungsmethoden wie LIME oder SHAP versuchen, Modelle verständlicher zu machen, indem sie die einflussreichsten Faktoren für eine bestimmte Vorhersage identifizieren. Doch diese Erklärungen bleiben Näherungen und können selbst irreführend sein. Einige Modelle, die von vornherein interpretierbar konzipiert sind – wie Entscheidungsbäume –, bieten eine Alternative, auch wenn ihre Genauigkeit möglicherweise geringer ist als die komplexer Modelle.

Die Herausforderungen sind jedoch nicht nur technischer Natur. Die Integration von künstlicher Intelligenz in klinische Studien wirft auch ungelöste ethische und rechtliche Fragen auf. Wer trägt die Verantwortung, wenn es zu einem medizinischen Fehler kommt, an dem ein KI-System beteiligt ist? Der Entwickler, die medizinische Einrichtung, der Kliniker oder der Patient? Die Verteilung dieser Verantwortung, oft als „Problem der vielen Hände“ bezeichnet, erschwert die Zuweisung von Schuld und kann Patienten ohne klare Rechtsmittel zurücklassen. Einige schlagen eine kollektive Verantwortung vor, bei der alle Beteiligten die Last teilen, doch dieser Ansatz steckt noch in den Kinderschuhen.

Auch das Eigentum an Daten und die Einwilligung der Patienten sind problematisch. In einer traditionellen Studie willigt ein Patient in die Verwendung seiner Daten für ein bestimmtes, zeitlich begrenztes Ziel ein. Bei künstlicher Intelligenz werden Daten jedoch oft unbegrenzt wiederverwendet, um Modelle zu trainieren und zu verbessern, was Fragen nach Eigentum und Kontrolle aufwirft. Datenhoheitsmodelle, bei denen Patienten eine granularere Kontrolle über ihre Informationen behalten, entstehen als mögliche Lösung, doch ihre großflächige Umsetzung bleibt komplex.

Dezentrale Systeme wie federiertes Lernen und Blockchain bieten Ansätze, um die Hindernisse in Bezug auf Datenschutz und Datenzugriff zu überwinden. Federiertes Lernen ermöglicht das Trainieren von Modellen auf Daten, die über mehrere Einrichtungen verteilt sind, ohne dass sensible Informationen zentralisiert werden müssen. Dennoch stößt dieser Ansatz auf praktische Herausforderungen, wie die Heterogenität der Daten zwischen den Standorten, die die Leistung des globalen Modells beeinträchtigen kann. Blockchain könnte hingegen die Integrität und Nachverfolgbarkeit von Daten gewährleisten, doch ihre Einführung scheitert an Problemen wie Skalierbarkeit, Energieverbrauch und der Einhaltung von Datenschutzbestimmungen wie dem Recht auf Vergessenwerden.

Die durch künstliche Intelligenz versprochenen Kosteneinsparungen und Effizienzgewinne werden oft hervorgehoben. Studien zeigen, dass Online-Rekrutierung die Kosten pro Patient von 199 auf 72 Dollar senkt und den Prozess deutlich beschleunigt. Andere Berichte verzeichnen eine Reduzierung der Registrierungszeiten um 10 bis 15 % in Pilotstudien. Allerdings stammen diese Zahlen häufig aus industriefinanzierten Studien oder internen Berichten, die verzerrt sein oder an unabhängiger Validierung fehlen können. Strenge wirtschaftliche Analysen sind selten, und die verfügbaren Ergebnisse weisen erhebliche methodische Mängel auf.

Schließlich ist der Einfluss der künstlichen Intelligenz auf die Arbeitsbelastung von Klinikern und das Patientenerlebnis ambivalent. Während einige Tools administrative Aufgaben automatisieren und so Zeit für die direkte Patientenversorgung freimachen, können andere die Arbeitslast erhöhen, indem sie eine ständige Überprüfung der generierten Ergebnisse erfordern. Patienten schwanken zwischen der Hoffnung auf präzisere Diagnosen und personalisierte Behandlungen und der Sorge um den Verlust von Vertraulichkeit oder weniger menschliche Interaktion. Eine aktuelle Umfrage zeigt, dass 60 % der Amerikaner unwohl wären, wenn ihr Gesundheitsdienstleister KI für medizinische Entscheidungen nutzen würde.

Künstliche Intelligenz revolutioniert klinische Studien – doch die Herausforderungen bleiben enorm

Künstliche Intelligenz setzt sich schrittweise im Bereich der klinischen Studien durch und verspricht, die medizinische Forschung zu beschleunigen, die Kosten zu senken und die Wirksamkeit von Behandlungen zu verbessern. Dennoch wirft ihre Integration komplexe Fragen auf, die über die bloßen technologischen Versprechen hinausgehen.

Bei der Erstellung von Studienprotokollen ermöglicht es die künstliche Intelligenz mittlerweile, automatisch komplexe Dokumente aus einfachen Zusammenfassungen zu generieren, die von Forschern bereitgestellt werden. Dadurch verkürzt sich die Zeit für die Erstellung detaillierter Protokolle erheblich – eine Aufgabe, die früher langwierig und mühsam war. Doch diese Geschwindigkeit birgt auch Risiken, insbesondere die Möglichkeit, sensible Informationen über Medikamente oder innovative Designs preiszugeben, wenn diese Daten in externe Systeme eingegeben werden. Prädiktive Modelle analysieren hingegen historische Datenbanken, um operative Schlüsselergebnisse vorherzusagen, wie etwa die Fähigkeit, Rekrutierungsziele zu erreichen oder optimale Einschlusskriterien zu identifizieren. Diese Tools helfen, kostspielige Misserfolge zu vermeiden, doch ihre Wirksamkeit hängt stark von der Qualität und Repräsentativität der verwendeten Daten ab.

Auch die Rekrutierung von Patienten, die oft zu Verzögerungen in Studien führt, profitiert von den Fortschritten der künstlichen Intelligenz. Hochentwickelte Systeme analysieren in Rekordzeit Millionen medizinischer Unterlagen, um geeignete Kandidaten zu identifizieren. Eine Plattform verarbeitete beispielsweise über 83 Millionen Dokumente in weniger als zwei Wochen und generierte dabei Milliarden standardisierter medizinischer Begriffe. Diese Technologien können die Zeit für die manuelle Screening-Hälfte reduzieren und so medizinischem Personal mehr Zeit verschaffen. Sie zeigen auch, dass viele Einschlusskriterien Patienten unnötig ausschließen, ohne die therapeutischen Ergebnisse zu beeinträchtigen. Durch eine Lockerung dieser Regeln könnten Studien doppelt so viele Teilnehmer einbeziehen, ohne die Sicherheit zu gefährden.

Allerdings variieren die Leistungen dieser Systeme. Einige erreichen hohe Recall-Raten und identifizieren die Mehrheit der geeigneten Patienten, allerdings mit einer manchmal geringen Präzision, was bedeutet, dass sie auch ungeeignete Kandidaten einschließen. Umgekehrt reduziert ein sehr präzises System zwar den Arbeitsaufwand für menschliche Prüfer, birgt aber das Risiko, gültige Patienten auszuschließen. Aktuelle Fortschritte, wie Modelle, die Datenextraktion und -generierung kombinieren, zeigen vielversprechende Ergebnisse mit Genauigkeitsraten von über 97 % und übertreffen in manchen Aufgaben sogar menschliche Koordinatoren.

Die Datenanalyse ist ein weiterer Bereich, in dem die künstliche Intelligenz punkten kann. Sie ermöglicht die Verarbeitung komplexer Datensätze, wie sie etwa von vernetzten Geräten oder medizinischer Bildgebung stammen, und bietet damit eine bisher unerreichte Informationsfülle. Dennoch besteht eine anhaltende Debatte zwischen traditionellen statistischen Methoden und modernen Modellen. Klassische Ansätze wie die logistische Regression bieten eine unübertroffene Transparenz und ermöglichen ein klares Verständnis des Einflusses jeder Variable. Modelle der künstlichen Intelligenz sind zwar oft präziser, funktionieren aber wie Blackboxes, was ihre interne Logik schwer nachvollziehbar macht. Diese Intransparenz stellt eine große Hürde für die klinische Akzeptanz dar, da Ärzte zögern, Empfehlungen zu folgen, die sie nicht verstehen – insbesondere in kritischen Situationen.

Algorithmenbasierte Verzerrungen stellen ein weiteres großes Hindernis dar. Systeme können bestehende Ungleichheiten sogar verstärken, wenn die für ihr Training verwendeten Daten historische Disparitäten widerspiegeln. Ein in den USA weit verbreiteter Algorithmus zur Bewertung des Bedarfs an Intensivpflege begünstigte etwa weiße Patienten auf Kosten schwarzer Patienten, da er vergangene Gesundheitskosten als Indikator für zukünftige Bedürfnisse nutzte – ein Kriterium, das durch strukturelle Ungleichheiten verzerrt war. Ähnlich zeigen kardiovaskuläre Diagnosewerkzeuge, die hauptsächlich mit männlichen Daten trainiert wurden, eine geringere Genauigkeit bei Frauen, deren Symptome sich oft unterscheiden. Diese Verzerrungen unterstreichen die Bedeutung, die Entwicklungsteams und Datensätze zu diversifizieren, um faire Ergebnisse zu gewährleisten.

Die Transparenz der Modelle ist ebenfalls ein entscheidendes Thema. Kliniker und Patienten müssen nachvollziehen können, wie eine Entscheidung zustande kam, insbesondere wenn diese direkte Auswirkungen auf Leben hat. Post-hoc-Erklärungsmethoden wie LIME oder SHAP versuchen, Modelle verständlicher zu machen, indem sie die einflussreichsten Faktoren für eine bestimmte Vorhersage identifizieren. Doch diese Erklärungen bleiben Näherungen und können selbst irreführend sein. Einige Modelle, die von vornherein interpretierbar konzipiert sind – wie Entscheidungsbäume –, bieten eine Alternative, auch wenn ihre Genauigkeit möglicherweise geringer ist als die komplexer Modelle.

Die Herausforderungen sind jedoch nicht nur technischer Natur. Die Integration von künstlicher Intelligenz in klinische Studien wirft auch ungelöste ethische und rechtliche Fragen auf. Wer trägt die Verantwortung, wenn es zu einem medizinischen Fehler kommt, an dem ein KI-System beteiligt ist? Der Entwickler, die medizinische Einrichtung, der Kliniker oder der Patient? Die Verteilung dieser Verantwortung, oft als „Problem der vielen Hände“ bezeichnet, erschwert die Zuweisung von Schuld und kann Patienten ohne klare Rechtsmittel zurücklassen. Einige schlagen eine kollektive Verantwortung vor, bei der alle Beteiligten die Last teilen, doch dieser Ansatz steckt noch in den Kinderschuhen.

Auch das Eigentum an Daten und die Einwilligung der Patienten sind problematisch. In einer traditionellen Studie willigt ein Patient in die Verwendung seiner Daten für ein bestimmtes, zeitlich begrenztes Ziel ein. Bei künstlicher Intelligenz werden Daten jedoch oft unbegrenzt wiederverwendet, um Modelle zu trainieren und zu verbessern, was Fragen nach Eigentum und Kontrolle aufwirft. Datenhoheitsmodelle, bei denen Patienten eine granularere Kontrolle über ihre Informationen behalten, entstehen als mögliche Lösung, doch ihre großflächige Umsetzung bleibt komplex.

Dezentrale Systeme wie federiertes Lernen und Blockchain bieten Ansätze, um die Hindernisse in Bezug auf Datenschutz und Datenzugriff zu überwinden. Federiertes Lernen ermöglicht das Trainieren von Modellen auf Daten, die über mehrere Einrichtungen verteilt sind, ohne dass sensible Informationen zentralisiert werden müssen. Dennoch stößt dieser Ansatz auf praktische Herausforderungen, wie die Heterogenität der Daten zwischen den Standorten, die die Leistung des globalen Modells beeinträchtigen kann. Blockchain könnte hingegen die Integrität und Nachverfolgbarkeit von Daten gewährleisten, doch ihre Einführung scheitert an Problemen wie Skalierbarkeit, Energieverbrauch und der Einhaltung von Datenschutzbestimmungen wie dem Recht auf Vergessenwerden.

Die durch künstliche Intelligenz versprochenen Kosteneinsparungen und Effizienzgewinne werden oft hervorgehoben. Studien zeigen, dass Online-Rekrutierung die Kosten pro Patient von 199 auf 72 Dollar senkt und den Prozess deutlich beschleunigt. Andere Berichte verzeichnen eine Reduzierung der Registrierungszeiten um 10 bis 15 % in Pilotstudien. Allerdings stammen diese Zahlen häufig aus industriefinanzierten Studien oder internen Berichten, die verzerrt sein oder an unabhängiger Validierung fehlen können. Strenge wirtschaftliche Analysen sind selten, und die verfügbaren Ergebnisse weisen erhebliche methodische Mängel auf.

Schließlich ist der Einfluss der künstlichen Intelligenz auf die Arbeitsbelastung von Klinikern und das Patientenerlebnis ambivalent. Während einige Tools administrative Aufgaben automatisieren und so Zeit für die direkte Patientenversorgung freimachen, können andere die Arbeitslast erhöhen, indem sie eine ständige Überprüfung der generierten Ergebnisse erfordern. Patienten schwanken zwischen der Hoffnung auf präzisere Diagnosen und personalisierte Behandlungen und der Sorge um den Verlust von Vertraulichkeit oder weniger menschliche Interaktion. Eine aktuelle Umfrage zeigt, dass 60 % der Amerikaner unwohl wären, wenn ihr Gesundheitsdienstleister KI für medizinische Entscheidungen nutzen würde.

Documentation et sources

Document de référence

DOI : https://doi.org/10.1007/s10791-026-10205-x

Titre : The transformative and turbulent integration of artificial intelligence in clinical trials: a critical review

Revue : Discover Computing

Éditeur : Springer Science and Business Media LLC

Auteurs : Ying Xuan Lim; Long Chiau Ming; Nancy Choon-Si Ng; Serena Leow; Rahul G. Ingle