디지털 도구는 청소년들의 정신 건강을 위험에 빠뜨리지 않고 구할 수 있을까?
청소년들의 정신 건강은 전례 없는 위기를 겪고 있다. 이미 포화 상태인 전통적인 의료 시스템은 증가하는 심리적 지원 요구에 대응하기 어려움을 겪고 있다. 이러한 상황에서 디지털 도구와 인공지능은 접근 가능하고, 빠르며, 개인화된 지원을 제공할 수 있는 유망한 해결책으로 부상하고 있다. 그러나 이러한 기술의 사용은 근본적인 질문을 제기한다: 어떻게 하면 이러한 기술이 실제로 복지를 향상시키면서 새로운 위험을 만들지 않을 수 있을까?
다양한 배경의 전문가들과 청소년들이 이러한 도구의 개발을 규제하기 위한 다섯 가지 핵심 원칙을 정의하기 위해 모였다. 우선, 정확성이 필수적이다: 잘못된 정보나 부적절한 조언은 심리적 고통을 악화시킬 뿐만 아니라 위험한 행동을 조장할 수도 있다. 따라서 이러한 기술은 배포되기 전에 다양한 인구 집단에서 엄격하게 테스트되어야 한다.
다음으로, 이러한 도구는 인간 중심적이어야 한다. 이는 사용자의 필요와 안전성을 상업적 이익보다 우선시하여 설계되어야 한다는 것을 의미한다. 청소년들과 관련 당사자들을 개발 과정에 직접 참여시킴으로써 모든 사람에게 적합하고 접근 가능한 솔루션을 만들 수 있으며, 장애가 있는 사람들에게도 포함될 수 있다.
공평한 접근성 또한 중요한 과제이다. 사회적, 경제적 불평등이 일부 청소년들이 이러한 혜택을 받지 못하게 해서는 안 된다. 적절한 요금, 보조 프로그램, 학교와의 파트너십은 이러한 격차를 줄이는 데 도움을 줄 수 있다. 이러한 조치가 없다면 디지털 도구는 불평등을 완화하기보다는 오히려 악화시킬 위험이 있다.
개인정보 보호 또한 매우 중요하다. 정신 건강 데이터는 극도로 민감하다. 데이터의 수집과 사용은 투명하고 안전하며 사용자의 통제 하에 있어야 한다. 중앙 서버가 아닌 로컬 데이터 저장과 같은 기술은 유출이나 오용 위험을 줄일 수 있다.
마지막으로, 신뢰를 구축하기 위해서는 투명성이 필수적이다. 사용자들은 이러한 도구가 어떻게 작동하는지, 어떤 데이터가 수집되는지, 잠재적인 위험은 무엇인지 이해해야 한다. 알고리즘의 작동 방식을 간단하게 설명하고 기계와의 상호작용과 인간 전문가와의 상호작용을 명확히 구분함으로써 오해와 남용을 방지할 수 있다.
이러한 원칙들은 이론적인 것만은 아니다. 청소년들이 채팅봇을 테스트하고 그 강점과 약점을 관찰한 실습 워크샵에서 개발되었다. 이러한 경험은 이러한 도구들이 안전 장치 없이 편향을 재생산하거나 고정관념을 강화하거나 심지어 심각한 피해를 초래할 수도 있다는 것을 밝혀냈다. 예를 들어, 위험하거나 심지어 치명적인 조언을 제공한 사례가 이미 문서화되어 있다.
이러한 기술이 약속을 지키기 위해서는 청소년, 보건 전문가, 연구원, 정책 결정자들이 협력해야 한다. 이는 디지털 도구에 대한 교육에 투자하고, 불리한 환경에 처한 커뮤니티를 지원하며, 알고리즘이 대표적인 데이터로 훈련되도록 보장하는 것을 의미한다. 집단적이고 경각심 있는 접근만이 이러한 혁신을 모든 청소년들에게 정의와 복지의 도구로 변화시킬 수 있을 것이다.
Documentation et sources
Document de référence
DOI : https://doi.org/10.1038/s44277-025-00052-x
Titre : Advancing neurotech justice in youth digital mental health: insights from an interdisciplinary and cross-generational workshop
Revue : NPP—Digital Psychiatry and Neuroscience
Éditeur : Springer Science and Business Media LLC
Auteurs : Craig W. McFarland; Donnella S. Comeau; Sepideh Abdi; Mahsa Alborzi Avanaki; Leo Anthony Celi; ; Julian Adong; Shaikha Alothman; Manal Brahimi; RuQuan Brown; Cecile Chavane; Donnella S. Comeau; Jack Gallifant; Felix Garcia; Gabriel Làzaro-Muñoz; Eliane Motchoffo; Claire Joy Moss; Derek Ricketts; Paulos Solomon; Takeshi Tohyama; Francis X. Shen; Benjamin C. Silverman