La CNIL ne se contente plus de poser des principes abstraits. Depuis juillet 2024, elle publie une série de questions-réponses, de fiches pratiques et, depuis juillet 2025, une liste de vérification opérationnelle destinée à tout organisme qui développe ou déploie un système d’IA générative impliquant des données personnelles.
Le tout s’inscrit dans un écosystème réglementaire qui se densifie mois après mois. Le règlement européen sur l’IA entre progressivement en application, l’ANSSI a publié ses 35 recommandations de sécurité, et le Comité européen de la protection des données a adopté un avis structurant en décembre 2024. Pour une entreprise française, la question n’est plus « faut-il se conformer ? » mais « par où commencer concrètement ? ».
+ check-list PDF
2025 → 2027
de cybersécurité
décembre 2024
Cet article passe au crible l’ensemble du dispositif CNIL, le met en perspective avec l’AI Act et l’ANSSI, et propose une feuille de route actionnable.
L’arsenal de la CNIL : quatre corpus, un mode d’emploi
La CNIL a lancé son plan d’action sur l’IA en mai 2023, avec un objectif clair : sécuriser juridiquement les entreprises innovantes tout en protégeant les droits des personnes. Cette démarche s’est traduite par quatre vagues successives de publications entre avril 2024 et juillet 2025.
Le résultat : un corpus dense mais structuré, qui couvre l’intégralité du cycle de vie d’un système d’IA générative.
Les fiches pratiques couvrent l’intégralité du cycle de développement : régime juridique applicable (fiche 1), finalité (fiche 2), qualification des acteurs (fiche 3), base légale (fiches 4 et 8), analyse d’impact (fiche 5), protection des données dès la conception (fiches 6-7), information et droits des personnes (fiches 9-10), annotation des données (fiche 11), sécurité (fiche 12) et statut du modèle au regard du RGPD (fiche 13).
Distinction essentielle : ces fiches concernent la phase de développement des systèmes d’IA. Les questions-réponses de juillet 2024 couvrent, elles, la phase de déploiement. Il faut combiner les deux corpus selon votre rôle dans la chaîne de valeur.
L’enjeu de fond est double. D’un côté, le RGPD s’applique pleinement aux systèmes d’IA dès lors que des données personnelles sont traitées. Dans le cas de l’IA générative, c’est quasi systématique : données d’entraînement, données d’usage, risque de régurgitation. De l’autre, le règlement européen sur l’IA ne remplace pas le RGPD mais le complète. Respecter l’un ne dispense pas de respecter l’autre.
La CNIL se positionne comme autorité compétente pour le RGPD appliqué à l’IA en France, et collabore avec la Direction générale des Entreprises qui coordonne la désignation des autorités nationales pour la mise en œuvre de l’AI Act.
Sept réflexes avant le premier prompt
La CNIL structure ses préconisations de déploiement autour de sept réflexes que tout organisme doit intégrer avant de mettre en production un système d’IA générative. Pas après. Pas pendant. Avant.
Le choix du déploiement change tout
C’est le point le plus structurant des recommandations CNIL. Le mode de déploiement détermine directement le niveau de risque pour les données personnelles et, par conséquent, les obligations applicables. La CNIL distingue trois configurations, chacune avec son profil de risque.
La CNIL est catégorique : si l’utilisation implique des données personnelles ou de la documentation sensible, le déploiement on premise ou un cloud sécurisé avec un contrat de sous-traitance RGPD rigoureux sont les seules options viables. Pour les entreprises qui utilisent ChatGPT en contexte professionnel, les implications sont considérables.
"Proscrire l'utilisation d'outils d'IA générative sur Internet pour un usage professionnel impliquant des données sensibles."
ANSSI, Recommandations de sécurité pour les systèmes d'IA générative, avril 2024
Utiliser une API d’IA générative hébergée hors UE sans encadrer les transferts de données constitue une violation potentielle du chapitre V du RGPD. Le déployeur doit encadrer tout transfert de données hors de l’Union européenne, ce qui implique des clauses contractuelles types ou une décision d’adéquation.
Anatomie de la check-list CNIL
La liste de vérification publiée en juillet 2025 est l’outil le plus opérationnel du dispositif. Elle reprend l’ensemble des recommandations sous forme de points de contrôle organisés par thématique. Voici ce qu’elle exige concrètement.
Conception et finalité
Définir une finalité explicite et légitime pour chaque phase du cycle de vie, y compris en distinguant développement et déploiement. Mener une expérimentation pilote avec des données fictives, synthétiques ou anonymisées avant toute mise en production. Le recours aux données synthétiques nécessite lui-même une analyse RGPD rigoureuse. Interroger un référent ou comité éthique sur les enjeux de protection des droits.
Minimisation et qualité des données
Mettre en place un processus de revue régulière de la pertinence des données collectées. Appliquer des techniques de protection dès la conception : généralisation, randomisation, pseudonymisation. Prévoir des mécanismes de suppression des données inutiles ou obsolètes et définir une durée de conservation spécifique pour chaque phase du projet.
Droits des personnes
Sécurité et AIPD
Mener une analyse d’impact relative à la protection des données si le traitement présente des risques élevés (ce qui est quasi systématique avec l’IA générative). Inclure les risques spécifiques : discrimination automatisée, génération de contenu fictif sur des personnes réelles, attaques adversariales.
Gérer les habilitations, tracer les accès, analyser les traces, et mettre en œuvre un plan d’action documenté garantissant le respect des exigences de sécurité. La CNIL propose un modèle de documentation des données d’entraînement sur sa page fiches pratiques IA, outil précieux pour structurer votre registre de traitements.
Ce que l’IA générative change dans l’équation RGPD
Au-delà de la check-list, la CNIL a identifié des enjeux propres à l’IA générative qui modifient profondément l’application du RGPD.
Le modèle est-il lui-même un traitement de données ?
La fiche 13 de la CNIL pose la question fondamentale. La réponse dépend de la capacité de mémorisation du modèle. Un modèle qui peut restituer des données personnelles issues de son entraînement est soumis au RGPD. La CNIL propose une méthode pour évaluer ce risque et recommande la mise en place de filtres robustes au niveau du système encapsulant le modèle.
L’intérêt légitime comme base légale dominante
La fiche 8 confirme que l’intérêt légitime sera la base légale la plus couramment mobilisée pour le développement de systèmes d’IA. Le CEPD a confirmé cette approche dans son avis de décembre 2024.
Mais trois conditions cumulatives doivent être réunies, et aucune ne peut être éludée.
Le moissonnage web sous haute surveillance
La fiche 8 bis apporte des clarifications essentielles sur le web scraping. Le moissonnage est possible sous conditions strictes, mais la CNIL rappelle qu’il ne rentre pas dans les attentes raisonnables des personnes lorsque le site en question s’y oppose techniquement (CAPTCHA, fichiers robots.txt). Les développeurs de modèles de fondation qui collectent des données à grande échelle sont directement visés.
Le calendrier qui accélère
L’entrée en application progressive du règlement européen sur l’IA crée un calendrier à double détente que toute organisation doit intégrer. Les obligations RGPD s’appliquent déjà, mais l’AI Act ajoute des couches supplémentaires à des échéances précises.
La date du 2 août 2026 est la plus critique pour les déployeurs d’IA générative en France. À cette échéance, les organismes devront informer les utilisateurs qu’ils interagissent avec un système d’IA et étiqueter les contenus générés (deepfakes, textes publiés pour informer le public).
La DGE précise qu’un premier lot de normes harmonisées, initialement attendu en avril 2025, ne sera publié qu’au premier semestre 2026 au plus tôt. Ce retard pourrait rendre la mise en conformité délicate pour certains acteurs. Quant à la CNIL, elle prévoit de publier au second semestre 2025 de nouvelles recommandations sur les responsabilités des acteurs de la chaîne de création d’un système d’IA.
Un système d’IA peut être classé « à risque minimal » au sens de l’AI Act tout en nécessitant une conformité RGPD rigoureuse. Les deux textes sont complémentaires, pas substituables.
Les 35 mesures ANSSI que votre RSSI doit connaître
L’ANSSI a publié en avril 2024 un guide de 35 recommandations de sécurité spécifiquement dédié aux systèmes d’IA générative. Ce guide est un complément indispensable à la check-list CNIL, couvrant le volet technique que la CNIL n’adresse pas en détail.
Parmi les recommandations les plus structurantes : proscrire l’usage automatisé de systèmes d’IA pour des actions critiques sur le système d’information, contrôler systématiquement le code source généré par IA avant intégration, et héberger les systèmes d’IA dans des environnements de confiance cohérents avec les besoins de sécurité. L’ANSSI recommande de choisir un prestataire qualifié SecNumCloud pour les déploiements cloud.
La gouvernance se construit dès le jour un
La CNIL insiste : ce n’est pas un sujet purement juridique ni purement technique. C’est un enjeu transversal qui nécessite d’impliquer toutes les parties prenantes dès le début du projet, pas en aval quand les choix sont déjà faits.
La CNIL recommande, pour les usages sensibles, de constituer un comité éthique ou de désigner un référent IA qui donnerait un avis formel avant chaque déploiement. Le DPO est naturellement le pivot de cette gouvernance, mais ne doit pas être seul. La CNIL encourage un fonctionnement en binôme DPO/RSSI, en articulation avec les lignes métiers.
Dix gestes concrets pour ne plus naviguer à vue
Voici une feuille de route opérationnelle, synthétisant l’ensemble des recommandations CNIL et ANSSI.
Cartographier vos usages IA. Recenser tous les systèmes utilisés ou envisagés, même les outils freemium ou les API embarquées. Évaluer le niveau de risque de chacun.
Mettre à jour le registre des traitements. Créer des entrées dédiées aux traitements IA avec finalités, bases légales, catégories de données, durées de conservation, destinataires.
Réaliser une AIPD pour chaque usage à risque. Si votre traitement coche au moins deux des critères du CEPD (usage innovant, large échelle, données sensibles, personnes vulnérables), l’analyse d’impact est obligatoire.
Rédiger une charte d’usage IA. Définir les usages autorisés et interdits, les règles de saisie de données, les obligations de vérification humaine. La diffuser et la faire signer par les collaborateurs.
Sécuriser les contrats fournisseurs. Inclure des clauses de sous-traitance RGPD, des engagements sur la non-réutilisation des données, des garanties sur la localisation des traitements. La question de la couverture assurantielle se pose également.
Déployer des garde-fous techniques. Filtrer les entrées (données sensibles, requêtes malveillantes) et les sorties (données personnelles, contenus toxiques).
Former les équipes. Sessions de sensibilisation sur les risques de l’IA générative, les bonnes pratiques de saisie, les réflexes face aux hallucinations.
Organiser la veille réglementaire. L’écosystème évolue vite : suivre les publications de la CNIL, de la DGE et du Bureau de l’IA de la Commission européenne.
Tester régulièrement vos systèmes. Interroger le modèle pour vérifier les données mémorisées, tester les biais, auditer la sécurité. Documenter les résultats.
Anticiper les obligations AI Act. Ne pas attendre août 2026 : commencer dès maintenant l’évaluation du niveau de risque et la préparation de la documentation technique.
Les quatre pièges dans lesquels tombent (presque) toutes les organisations
L’horizon réglementaire continue de se dessiner
Le dispositif CNIL n’est pas figé. De nouvelles recommandations sur les responsabilités de chaque acteur de la chaîne (concepteurs, hébergeurs, réutilisateurs, intégrateurs) sont attendues au second semestre 2025. Le premier lot de normes harmonisées pour l’AI Act ne sera pas publié avant le premier semestre 2026, laissant une fenêtre d’incertitude que les organisations doivent combler par une approche proactive.
L’entreprise qui attend la perfection réglementaire pour agir prend un risque calculé, mais mal calculé. La CNIL, l’ANSSI et le CEPD ont fourni suffisamment de matière pour construire dès maintenant un cadre de conformité solide. Le coût de l’inaction est désormais supérieur au coût de la mise en conformité.