Können digitale Tools die psychische Gesundheit von Jugendlichen retten, ohne sie zu gefährden?

Die psychische Gesundheit von Jugendlichen durchlebt eine beispiellose Krise. Die traditionellen Versorgungssysteme, die bereits überlastet sind, haben Mühe, der steigenden Nachfrage nach psychologischer Hilfe gerecht zu werden. Angesichts dieser Situation erscheinen digitale Tools und künstliche Intelligenz als vielversprechende Lösung, um zugängliche, schnelle und personalisierte Unterstützung zu bieten. Dennoch wirft ihre Nutzung essentielle Fragen auf: Wie kann sichergestellt werden, dass diese Technologien das Wohlbefinden tatsächlich verbessern, ohne neue Risiken zu schaffen?

Experten und Jugendliche aus verschiedenen Bereichen haben sich zusammengeschlossen, um fünf zentrale Prinzipien zu definieren, die die Entwicklung dieser Tools regeln sollen. Zunächst ist Genauigkeit unerlässlich: Falsche Informationen oder unangemessene Ratschläge können psychische Notlagen verschlimmern oder sogar gefährliches Verhalten fördern. Die Technologien müssen daher vor ihrer Einführung gründlich an verschiedenen Bevölkerungsgruppen getestet werden.

Darüber hinaus müssen diese Tools menschenzentriert bleiben. Das bedeutet, dass sie unter Priorisierung der Bedürfnisse und der Sicherheit der Nutzer und nicht der kommerziellen Interessen entwickelt werden müssen. Die direkte Einbindung von Jugendlichen und Betroffenen in die Entwicklung ermöglicht die Schaffung von Lösungen, die für alle zugänglich und geeignet sind, einschließlich Menschen mit Behinderungen.

Der gleichberechtigte Zugang ist eine weitere große Herausforderung. Soziale und wirtschaftliche Ungleichheiten dürfen Jugendliche nicht daran hindern, von diesen Tools zu profitieren. Angemessene Tarife, subventionierte Programme oder Partnerschaften mit Schulen können helfen, diese Unterschiede zu verringern. Ohne solche Maßnahmen riskieren digitale Tools, die Ungleichheiten zu verschärfen, anstatt sie zu verringern.

Der Schutz der Privatsphäre ist ebenso entscheidend. Daten zur psychischen Gesundheit sind äußerst sensibel. Ihre Erhebung und Nutzung müssen transparent, sicher und unter der Kontrolle der Nutzer erfolgen. Techniken wie die lokale Speicherung von Daten anstelle von zentralen Servern begrenzen das Risiko von Lecks oder Missbrauch.

Schließlich ist Transparenz entscheidend, um Vertrauen aufzubauen. Nutzer müssen verstehen, wie diese Tools funktionieren, welche Daten gesammelt werden und welche potenziellen Risiken bestehen. Eine einfache Erklärung der Funktionsweise der Algorithmen und eine klare Unterscheidung zwischen Interaktionen mit einer Maschine und denen mit einem menschlichen Fachmann helfen, Missverständnisse und Missbrauch zu vermeiden.

Diese Prinzipien sind nicht nur theoretisch. Sie wurden in praktischen Workshops erarbeitet, in denen Jugendliche Chatbots getestet und deren Stärken und Schwächen beobachtet haben. Diese Erfahrungen zeigten, dass diese Tools ohne Schutzmaßnahmen Vorurteile reproduzieren, Stereotype verstärken oder sogar ernsthaften Schaden anrichten können. Es wurden bereits Fälle gefährlicher, sogar tödlicher Ratschläge dokumentiert.

Damit diese Technologien ihr Versprechen einlösen können, muss ihre Entwicklung Jugendliche, Gesundheitsfachkräfte, Forscher und politische Entscheidungsträger einbeziehen. Dies erfordert Investitionen in die digitale Bildung, die Unterstützung benachteiligter Gemeinschaften und die Sicherstellung, dass Algorithmen mit repräsentativen Daten trainiert werden. Nur ein kollektiver und wachsamer Ansatz wird diese Innovationen in Hebel für Gerechtigkeit und Wohlbefinden für alle Jugendlichen verwandeln.

Documentation et sources

Document de référence

DOI : https://doi.org/10.1038/s44277-025-00052-x

Titre : Advancing neurotech justice in youth digital mental health: insights from an interdisciplinary and cross-generational workshop

Revue : NPP—Digital Psychiatry and Neuroscience

Éditeur : Springer Science and Business Media LLC

Auteurs : Craig W. McFarland; Donnella S. Comeau; Sepideh Abdi; Mahsa Alborzi Avanaki; Leo Anthony Celi; ; Julian Adong; Shaikha Alothman; Manal Brahimi; RuQuan Brown; Cecile Chavane; Donnella S. Comeau; Jack Gallifant; Felix Garcia; Gabriel Làzaro-Muñoz; Eliane Motchoffo; Claire Joy Moss; Derek Ricketts; Paulos Solomon; Takeshi Tohyama; Francis X. Shen; Benjamin C. Silverman