Blog Données personnelles

La CNIL annonce la création d’un service de l’intelligence artificielle

Le 23 janvier 2023 [1], la CNIL a annoncé la création d’un service de l’intelligence artificielle (« SIA »), aux fins de renforcer son expertise sur ces systèmes et effectuer une lecture des risques potentiels pour la vie privée. Cette mise en service intervient en amont de l’entrée en vigueur du règlement européen sur l’intelligence artificielle, (« IA ») toujours en discussion.

Un rôle transversal et plusieurs objectifs

La mise en place de ce service intervient suite à une étude du Conseil d’Etat, publiée le 30 août 2022 sur l’usage de l’intelligence artificielle dans les administrations. Dans cette étude, le Conseil d’Etat préconise en effet un renforcement des moyens de la CNIL et une évolution de son rôle afin qu’elle devienne une des autorités nationales de contrôle en charge de la régulation des systèmes d’IA.

Il reste que pour la Direction Générale des Entreprises (DGE) du Ministère de l’économie et des finances, ce choix n’est pas encore arrêté, ni évident.
Dans le cadre de ses missions, le SIA sera chargé d’élaborer du « droit souple » (référentiels, recommandations, etc.) et d’instruire des demandes d’avis adressées par le gouvernement. Il devra également apporter son concours dans l’instruction de plaintes et l’adoption de mesures correctrices en cas de manquements liés à l’utilisation d’un système d’IA. L’enjeu est d’organiser la transparence et la compréhension de cette technologie afin d’assurer une régulation équilibrée tout en permettant aux organismes, aux personnes concernées et à la CNIL de cerner les risques inhérents à l’usage de cette technologie pour la vie privée.
Le SIA aura pour objectifs de :

  • faciliter la compréhension du fonctionnement des systèmes d’IA au sein de la CNIL mais également pour les professionnels et les particuliers
  • consolider l’expertise de la CNIL dans la connaissance et la prévention des risques pour la vie privée liées à la mise en œuvre de ces systèmes
  • préparer l’entrée en application du règlement européen sur l’IA (en cours de discussion)
  • développer les relations avec les acteurs de l’écosystème

Le lancement de travaux sur les bases de données d’apprentissage

L’une des conditions sine qua non nécessaire à la mise en œuvre d’un système IA, surtout lorsqu’il repose sur de l’apprentissage automatique, est l’utilisation d’importants volumes de données personnelles afin d’entraîner les algorithmes.

Le lancement de ces travaux sur les bases de données d’apprentissage est une réponse apportée aux nombreux organismes publics et privés souhaitant constituer des bases de données pour l’entrainement et le développement de l’IA. Les travaux ont vocation :

  • à confirmer la légalité de certains usages en précisant la position de la CNIL,
  • de promouvoir les bonnes pratiques au titre du RGPD mais également dans la perspective du Règlement européen sur l’IA (en discussion,
  • permettre aux organismes de constituer ou d’utiliser des bases de données dans le respect des droits et libertés fondamentaux des personnes.