Blog Sciences du vivant
L’Agence du Numérique en Santé publie un référentiel éthique des services numériques de santé intégrant l’intelligence artificielle
Le 1er mars 2024, l’Agence du Numérique en Santé (ci-après, l’ « ANS ») publie un référentiel éthique des services numériques de santé intégrant l’intelligence artificielle (ci-après, l’ « IA »).
Ce nouveau référentiel s’inscrit dans le cadre de l’évolution des référentiels d’interopérabilité et de sécurité prévus par l’article L. 1470-5 du code de la santé publique, l’article ayant été modifié par la loi du 23 décembre 2022, afin d’intégrer une nouvelle catégorie de référentiels relatifs à l’éthique.
Ainsi, ce référentiel s’ajoute à ceux déjà adoptés en ce sens, dont le dernier en date, le référentiel d’interopérabilité, de sécurité et d’éthique des systèmes d’informations de téléconsultation a été approuvé par l’arrêté du 9 février 2024.
Plus précisément, il s’inscrit dans le contexte de la mise en place de groupes de travail multidisciplinaires par la Cellule Ethique du Numérique en Santé de la Délégation au numérique en santé (ci-après, la « DNS ») dès 2019. Ces groupes de travail ont contribué progressivement à l’élaboration d’un cadre de l’éthique du numérique en santé, qui se constitue en réalité d’un corpus documentaire lancé en 2023 par l’ANS et la DNS. L’objectif de ce cadre recoupe la promotion et l’encadrement de l’éthique des solutions et services numériques en santé.
Par la mise en place de ce référentiel thématique sur l’IA en santé, ce nouveau référentiel vient ainsi parfaire le cadre de conformité des services numériques de santé.
Si le référentiel éthique des services numériques de santé est encore en cours d’évaluation, conformément à l’article L. 1470-5 du code de la santé publique, ce dernier a vocation à être opposable aux personnes physiques et morales auxquelles il s’adresse.
Ce référentiel contient un ensemble de trente-deux (32) mesures, s’appuyant sur cinq (5) principes : la bienfaisance, la non-malfaisance, l’autonomie, la justice et l’équité, et le développement durable. En outre, il s’adresse à trois (3) cibles différentes : les patients, les éditeurs et les professionnels de santé.
Concernant les critères relatifs à la bienfaisance, ces derniers concernent les éléments suivants :
- la mise en place d’une évaluation préalable de l’impact de l’intégration de l’IA dans un système d’information de santé ;
- la nécessité d’une formation préalable des professionnels de santé ayant vocation à utiliser un module d’IA ;
- la mise en œuvre de plusieurs exigences de transparence : l’information sur l’utilisation d’une IA, sur le type d’IA utilisé, sur l’existence de potentiels biais, ou encore sur le fait pour un professionnel de santé de suivre l’IA dans sa prise de décision ;
- la mise en place d’une évaluation continue du module d’IA ;
- l’obligation pour le fournisseur du module d’IA de s’assurer que les données utilisées pour l’entrainement de l’algorithme ont été obtenues en conformité avec le règlement (UE) 2016/79, dit Règlement général sur la protection des données.
Concernant les critères de non-malfaisance, ces derniers se concentrent essentiellement sur la mise en œuvre de mécanismes visant à éviter tout biais algorithmique et précisent les conditions d’utilisation des données dans le cadre de l’apprentissage de l’algorithme.
Concernant les critères de l’autonomie, ils visent principalement à insister sur l’autonomie décisionnelle des professionnels de santé, que ce soit vis-à-vis de la solution que propose l’IA ou vis-à-vis de la possibilité de désactiver le module d’IA.
Concernant les critères de la justice et équité, cela porte sur trois sujets principaux : la déclaration préalable de la population cible pour laquelle le module d’IA peut être utilisée, la minimisation des données utilisées dans l’entrainement de l’algorithme et la mise en place de mécanismes de « bac à sables » en tant qu’environnement de tests de conformité.
Concernant les critères de développement durable, ces derniers visent à s’assurer de la mise en œuvre de bonnes pratiques afin de minimiser l’impact environnemental des solutions d’IA.
Avant d’être pleinement opposable aux personnes cibles, ce référentiel doit encore être officiellement adopté par l’ANS et approuvé par un arrêté publié au Journal Officiel.
Jeanne BOSSI MALAFOSSE, associée, et Florian BUSSYNET, stagiaire