デジタルツールは若者のメンタルヘルスを危険にさらすことなく救えるか？

若者のメンタルヘルスは前例のない危機に直面している。既に飽和状態にある従来の医療システムは、増え続ける心理的支援の需要に応えるのに苦慮している。この状況を受け、デジタルツールと人工知能は、アクセスしやすく、迅速で、個別化された支援を提供する有望な解決策として登場している。しかし、これらの技術を利用することで、新たなリスクを生み出すことなく、本当に幸福を向上させることができるのかという重要な疑問が浮上する。

多様な背景を持つ専門家や若者が集まり、これらのツールの開発を規制するための5つの重要な原則を定義した。まず、正確性が不可欠である。誤った情報や不適切なアドバイスは、心理的苦痛を悪化させ、危険な行動を助長する可能性がある。そのため、これらの技術は、展開される前に多様な集団で厳密にテストされる必要がある。

次に、これらのツールは人間中心でなければならない。これは、ユーザーのニーズと安全を優先し、商業的利益を優先させない設計が必要であることを意味する。若者や関係者を直接開発に関与させることで、障害を持つ人を含むすべての人に適したアクセス可能なソリューションを作成することができる。

公平なアクセスも重要な課題である。社会的・経済的不平等が、一部の若者がこれらのツールを利用することを妨げてはならない。適切な料金設定、補助プログラム、学校とのパートナーシップは、これらの格差を縮小するのに役立つ。これらの措置がなければ、デジタルツールは不平等を悪化させるリスクがある。

プライバシーの保護も同様に重要である。メンタルヘルスのデータは極めて機微な情報である。データの収集と利用は透明性が高く、安全で、ユーザーの管理下にある必要がある。データを中央サーバーではなくローカルに保存する技術は、漏洩や誤用のリスクを低減する。

最後に、透明性は信頼を築くために不可欠である。ユーザーは、これらのツールがどのように機能するのか、どのようなデータが収集されるのか、潜在的なリスクは何かを理解する必要がある。アルゴリズムの仕組みを簡単に説明し、人間とのやり取りと機械とのやり取りを明確に区別することで、誤解や悪用を避けることができる。

これらの原則は理論的なものだけではない。若者がチャットボットをテストし、その長所と短所を観察した実践的なワークショップで策定された。これらの経験から、適切な規制がない場合、これらのツールはバイアスを再生産し、ステレオタイプを強化し、重大な害をもたらす可能性があることが明らかになった。例えば、危険なアドバイスや致命的なアドバイスが既に文書化されているケースもある。

これらの技術が約束を果たすためには、若者、医療専門家、研究者、政策立案者が協力して開発に取り組む必要がある。これは、デジタルツールの教育への投資、不利な立場にあるコミュニティの支援、代表的なデータでアルゴリズムを訓練することの確保を意味する。集団的で注意深いアプローチのみが、これらのイノベーションをすべての若者のための正義と幸福のレバーに変えることができる。

Documentation et sources

Document de référence

DOI : https://doi.org/10.1038/s44277-025-00052-x

Titre : Advancing neurotech justice in youth digital mental health: insights from an interdisciplinary and cross-generational workshop

Revue : NPP—Digital Psychiatry and Neuroscience

Éditeur : Springer Science and Business Media LLC

Auteurs : Craig W. McFarland; Donnella S. Comeau; Sepideh Abdi; Mahsa Alborzi Avanaki; Leo Anthony Celi; ; Julian Adong; Shaikha Alothman; Manal Brahimi; RuQuan Brown; Cecile Chavane; Donnella S. Comeau; Jack Gallifant; Felix Garcia; Gabriel Làzaro-Muñoz; Eliane Motchoffo; Claire Joy Moss; Derek Ricketts; Paulos Solomon; Takeshi Tohyama; Francis X. Shen; Benjamin C. Silverman