¿Pueden las herramientas digitales salvar la salud mental de los jóvenes sin ponerlos en peligro?
La salud mental de los jóvenes atraviesa una crisis sin precedentes. Los sistemas de atención tradicionales, ya saturados, tienen dificultades para responder a la creciente demanda de ayuda psicológica. Ante este panorama, las herramientas digitales y la inteligencia artificial aparecen como una solución prometedora para ofrecer un apoyo accesible, rápido y personalizado. Sin embargo, su uso plantea preguntas esenciales: ¿cómo garantizar que estas tecnologías mejoren realmente el bienestar sin crear nuevos riesgos?
Expertos y jóvenes de diversos horizontes se reunieron para definir cinco principios clave con el fin de enmarcar el desarrollo de estas herramientas. En primer lugar, la precisión es indispensable: una información errónea o un consejo inapropiado pueden agravar una angustia psicológica, e incluso fomentar comportamientos peligrosos. Por lo tanto, las tecnologías deben ser rigurosamente probadas en poblaciones variadas antes de ser implementadas.
A continuación, estas herramientas deben seguir centradas en el ser humano. Esto significa que deben ser diseñadas priorizando las necesidades y la seguridad de los usuarios, y no los intereses comerciales. Involucrar directamente a los jóvenes y a las personas afectadas en su desarrollo permite crear soluciones adaptadas y accesibles para todos, incluyendo a las personas con discapacidad.
El acceso equitativo es otro desafío importante. Las desigualdades sociales y económicas no deben impedir que algunos jóvenes se beneficien de estas herramientas. Tarifas adaptadas, programas subvencionados o asociaciones con las escuelas pueden ayudar a reducir estas disparidades. Sin estas medidas, las herramientas digitales corren el riesgo de agravar las desigualdades en lugar de reducirlas.
La protección de la privacidad es igualmente crucial. Los datos de salud mental son extremadamente sensibles. Su recolección y uso deben ser transparentes, seguros y estar bajo el control de los usuarios. Técnicas como el almacenamiento local de los datos, en lugar de servidores centralizados, limitan los riesgos de filtraciones o mal uso.
Finalmente, la transparencia es esencial para generar confianza. Los usuarios deben entender cómo funcionan estas herramientas, qué datos se recopilan y cuáles son los riesgos potenciales. Explicar de manera sencilla el funcionamiento de los algoritmos y distinguir claramente las interacciones con una máquina de las que se tienen con un profesional humano permite evitar malentendidos y abusos.
Estos principios no son solo teóricos. Fueron elaborados durante talleres prácticos en los que jóvenes probaron chatbots y observaron sus fortalezas y debilidades. Estas experiencias revelaron que, sin salvaguardas, estas herramientas pueden reproducir sesgos, reforzar estereotipos o incluso causar daños graves. Por ejemplo, ya se han documentado casos de consejos peligrosos, e incluso mortales.
Para que estas tecnologías cumplan sus promesas, su desarrollo debe involucrar a jóvenes, profesionales de la salud, investigadores y responsables políticos. Esto implica invertir en la educación sobre herramientas digitales, apoyar a las comunidades desfavorecidas y velar por que los algoritmos se entrenen con datos representativos. Solo un enfoque colectivo y vigilante permitirá transformar estas innovaciones en palancas de justicia y bienestar para todos los jóvenes.
Documentation et sources
Document de référence
DOI : https://doi.org/10.1038/s44277-025-00052-x
Titre : Advancing neurotech justice in youth digital mental health: insights from an interdisciplinary and cross-generational workshop
Revue : NPP—Digital Psychiatry and Neuroscience
Éditeur : Springer Science and Business Media LLC
Auteurs : Craig W. McFarland; Donnella S. Comeau; Sepideh Abdi; Mahsa Alborzi Avanaki; Leo Anthony Celi; ; Julian Adong; Shaikha Alothman; Manal Brahimi; RuQuan Brown; Cecile Chavane; Donnella S. Comeau; Jack Gallifant; Felix Garcia; Gabriel Làzaro-Muñoz; Eliane Motchoffo; Claire Joy Moss; Derek Ricketts; Paulos Solomon; Takeshi Tohyama; Francis X. Shen; Benjamin C. Silverman