Numéricovigilance

La numéricovigilance est un néologisme créé par le collectif MentalTech à l’occasion de la publication du rapport “Intelligence Artificielle et santé mentale,Définir les frontières entre innovation, science et éthique” 1 en octobre 2024. Il s’agit d’un concept visant à encadrer et sécuriser le déploiement des technologies numériques en santé mentale afin de maximiser leurs bénéfices tout en minimisant leurs risques. La numéricovigilance désigne les techniques de surveillance en vie réelle des effets non attendus lors de l’utilisation d’outils numériques utilisant l’IA (Intelligence Artificielle). Par exemple : réponses non adaptées à la demande, dépendance à l’utilisation, émergence ou aggravation de troubles, etc. Elle repose aussi sur le signalement par les professionnels de santé, les industriels et les collectifs d’usagers des effets non anticipés sur les individus, le système de soin, et sur la société de manière plus large. La numéricovigilance engage les acteurs à une responsabilité proactive quant à l’usage de leurs solutions, en instaurant une régulation pensée en amont. Ce cadre anticipatif lève ainsi un frein majeur à l’innovation en santé mentale : en sécurisant l’usage d’outils puissants, il permet de concilier efficacité et sécurité pour les usagers.