數位工具能否在不危及年輕人心理健康的情況下拯救他們？

年輕人的心理健康正面臨前所未有的危機。傳統醫療系統已經超負荷，難以滿足日益增長的心理援助需求。面對這一現實，數位工具和人工智慧成為提供可及、快速且個人化支持的有希望的解決方案。然而，它們的使用也引發了一些關鍵問題：如何確保這些技術真正改善福祉，而不製造新的風險？

來自不同背景的專家和年輕人聚集在一起，制定了五項關鍵原則，以規範這些工具的發展。首先，準確性是不可或缺的：錯誤的資訊或不適當的建議可能會加劇心理困境，甚至鼓勵危險行為。因此，這些技術必須在部署之前，在不同的人群中進行嚴格測試。

其次，這些工具必須以人為本。這意味著它們應該優先考慮使用者的需求和安全，而不是商業利益。直接讓年輕人和相關人士參與開發過程，可以創造適合所有人的解決方案，包括殘障人士。

公平取得是另一個重要議題。社會和經濟不平等不應阻礙某些年輕人受益。靈活的收費、補貼計劃或與學校的合作可以幫助減少這些差距。如果沒有這些措施，數位工具可能會加劇不平等，而不是減少不平等。

隱私保護同樣至關重要。心理健康數據極其敏感。它們的收集和使用必須透明、安全，並由使用者控制。例如，將數據儲存在本地而不是集中式伺服器上，可以限制洩露或濫用的風險。

最後，透明度對於建立信任至關重要。使用者需要了解這些工具的運作方式、收集哪些數據以及潛在風險。簡單地解釋演算法的運作方式，並清楚區分與機器和人類專業人員的互動，可以避免誤解和濫用。

這些原則並非僅僅是理論。它們是在實踐工作坊中制定的，年輕人在這些工作坊中測試了聊天機器人並觀察了它們的優缺點。這些經驗表明，如果沒有防護措施，這些工具可能會重現偏見、強化刻板印象，甚至造成嚴重傷害。例如，已經有文件記錄了危險建議，甚至致命建議的案例。

為了實現這些技術的承諾，它們的發展必須結合年輕人、醫療專業人員、研究人員和政策制定者。這需要投資於數位工具教育、支持弱勢社群，並確保演算法在具有代表性的數據上進行訓練。只有集體且警惕的方法，才能將這些創新轉化為促進公正和福祉的工具，造福所有年輕人。

Documentation et sources

Document de référence

DOI : https://doi.org/10.1038/s44277-025-00052-x

Titre : Advancing neurotech justice in youth digital mental health: insights from an interdisciplinary and cross-generational workshop

Revue : NPP—Digital Psychiatry and Neuroscience

Éditeur : Springer Science and Business Media LLC

Auteurs : Craig W. McFarland; Donnella S. Comeau; Sepideh Abdi; Mahsa Alborzi Avanaki; Leo Anthony Celi; ; Julian Adong; Shaikha Alothman; Manal Brahimi; RuQuan Brown; Cecile Chavane; Donnella S. Comeau; Jack Gallifant; Felix Garcia; Gabriel Làzaro-Muñoz; Eliane Motchoffo; Claire Joy Moss; Derek Ricketts; Paulos Solomon; Takeshi Tohyama; Francis X. Shen; Benjamin C. Silverman