Pourquoi la vulnérabilité est-elle la clé d’une intelligence artificielle digne de confiance ?

L’intelligence artificielle occupe une place centrale dans les débats sur l’innovation technologique et le respect des droits des citoyens. Pourtant, la notion d’IA digne de confiance, souvent avancée comme un compromis idéal, reste floue et critiquée. Certains y voient même une forme de diversion pour éviter des régulations plus strictes. Une approche différente permet de donner un sens concret à cette idée : en plaçant la vulnérabilité humaine au cœur de la réflexion.

La vulnérabilité désigne notre exposition au risque d’être blessés ou affectés dans ce qui fait notre existence et notre bien-être. Elle n’est pas seulement une faiblesse à éviter, mais aussi une réalité qui nous pousse à chercher des solutions collectives. Par exemple, nous faisons confiance aux autres pour surmonter nos limites, que ce soit en partageant des tâches ou en comptant sur des institutions. Cette confiance, à son tour, crée une nouvelle forme de vulnérabilité, car elle nous rend dépendants de ceux en qui nous plaçons notre foi.

Dans le domaine de l’IA, cette dynamique est souvent ignorée. Les lignes directrices actuelles se concentrent sur des principes comme la transparence ou la sécurité, mais elles négligent une question essentielle : quelles vulnérabilités l’IA est-elle censée atténuer, et quelles nouvelles vulnérabilités pourrait-elle créer ? Une IA digne de confiance ne devrait pas seulement éviter d’aggraver les inégalités existantes, mais aussi reconnaître et protéger les personnes contre les risques liés à son propre fonctionnement.

Pour y parvenir, il faut repenser la gouvernance de l’IA. Les acteurs qui développent et déployent ces technologies doivent être capables de reconnaître les vulnérabilités des utilisateurs et d’y répondre de manière adaptée. Cela implique de ne pas se contenter de principes abstraits, mais d’intégrer des mécanismes concrets pour identifier et atténuer les risques. Par exemple, les plateformes numériques qui manipulent les choix des utilisateurs pour maximiser l’engagement créent des dépendances et des fragilités nouvelles. Une IA digne de confiance devrait au contraire être conçue pour renforcer l’autonomie et la sécurité des individus.

La participation des citoyens et des groupes concernés est un élément clé. En incluant des personnes vulnérables ou marginalisées dans la conception et la régulation des systèmes d’IA, on peut mieux comprendre leurs besoins et éviter des conséquences involontaires. Cette approche participative permet de transformer la vulnérabilité en une force collective, où la technologie sert à protéger plutôt qu’à exploiter.

En définitive, une IA digne de confiance ne se mesure pas seulement à sa capacité à innover, mais à sa volonté de reconnaître et de répondre aux vulnérabilités humaines. C’est en plaçant cette préoccupation au centre que l’on peut espérer construire des systèmes technologiques qui méritent vraiment la confiance de la société.

Documentation et sources

Document de référence

DOI : https://doi.org/10.1007/s00146-026-02892-3

Titre : The value of vulnerability for trustworthy AI

Revue : AI & SOCIETY

Éditeur : Springer Science and Business Media LLC

Auteurs : Giacomo Figà-Talamanca