Dépêches

Grâce à la mise à disposition des modèles d'IA en source ouverte, tout un chacun peut accéder à de nombreux modèles pour divers usages tels que la génération de texte ou d'images, la traduction, ou encore la transcription audio. Lorsque les utilisateurs modifient ces modèles pour les adapter à leurs besoins, à l'aide de nouvelles données, de nouveaux modèles émergent et sont à leur tour disponibles en source ouverte, ce qui donne lieu à une généalogie de modèles d'IA.

Le Comité européen de la protection des données a émis un avis en vertu duquel, lorsqu'un modèle a été entraîné en partie sur des données personnelles, il doit être dans la plupart des cas soumis au RGPD.

La CNIL a, ainsi, étudié divers scénarios d'exercice des droits d'opposition, d'accès ou d'effacement, pour des personnes dont les données auraient été mémorisées dans un modèle d'IA en source ouverte. Dès lors qu'une personne sait qu'un modèle a mémorisé ses données, il s'agit de lui permettre d'identifier les autres modèles de sa généalogie susceptibles d'avoir également mémorisé ces données, afin de faciliter l'exercice éventuel de ses droits.

Dans ce but, la CNIL a développé un outil de démonstration permettant d'explorer la généalogie d'un modèle d'IA présent sur la plateforme HuggingFace et d'assurer la traçabilité sur les chaînes de modification des modèles. L'évaluation de cet outil interviendra après 6 mois de publication.

https://www.cnil.fr/fr/la-cnil-publie-un-outil-pour-la-tracabilite-des-modeles-dia-publies-en-source-ouverte

Retourner à la liste des dépêches

Imprimer