Cellule conformité IA
La Cellule Conformité IA est là pour aider les administrations de l'État à faire avancer leurs projets d'IA en répondant à leurs questions éthiques, juridiques ou techniques
Des questions sur la conformité de votre projet IA ?
Déployer de l'IA dans un service public soulève des questions qui nécessite parfois un avis tiers : est-ce que j'ai le droit d'utiliser ce système pour prendre des décisions automatiques ? Puis-je stocker les données issues d'une transcription ? Mon algorithme traite-t-il équitablement tous les publics ? Comment appliquer les règles de transparence algorithmique ?
La Cellule Conformité IA de la Direction interministérielle du numérique (DINUM) est là pour vous aider à répondre à ces questions.
Un cadre réglementaire dense
Le règlement européen sur l'IA Ouvre une nouvelle fenêtre
Impose, pour les systèmes à haut risque (ex : aide à la décision administrative, scoring, détection de fraude) des obligations de transparence, de supervision humaine, de gestion des biais et de traçabilité.
Le cadre applicable aux données sensibles (loi SREN) Ouvre une nouvelle fenêtre
L'analyse de sensibilité des données avant tout recours au cloud commercial, avec des exigences d'hébergement SecNumCloud pour les données à sensibilité particulière (loi SREN).
Le RGESN (Référentiel général d'écoconception des services numériques) Ouvre une nouvelle fenêtre
Fournit le cadre de référence pour évaluer et réduire l'empreinte environnementale des services numériques, y compris ceux intégrant de l'IA.
Le RGPD Ouvre une nouvelle fenêtre
Encadre le traitement de données personnelles : base légale, droits des personnes, minimisation, et obligation d'analyse d'impact (AIPD) pour les traitements à risque.
La loi pour une République numérique Ouvre une nouvelle fenêtre
Pose les obligations d'explicabilité des décisions administratives algorithmiques, codifiées depuis au CRPA (Code des relations entre le public et l'administration).
Comment la cellule fonctionne-t-elle ?
Vous saisissez la cellule par mail à conformite-ia@numerique.gouv.fr en décrivant votre projet, les questions que vous vous posez, et l'état d'avancement de votre projet d'IA.
En fonction du sujet, la cellule mobilise les bons interlocuteurs : experts juridiques et techniques de la DINUM, mais aussi, selon les cas, la cellule d'appui d'autres partenaires compétents.
Vous recevez en retour des recommandations, et si le sujet le justifie, un avis formel de la DINUM au titre de (Ouvre une nouvelle fenêtre) sa mission d'administratrice générale des données de l'État (AGD).
La cellule en détails
Toute administration de l'État : direction du numérique, équipe produit, direction métier.
La cellule n'est pas un guichet de validation administrative préalable obligatoire. La saisine est volontaire, et l'objectif est de vous aider à avancer, pas de créer une étape de plus.
L'avis rendu par la cellule conformité IA donne un avis de la DINUM sur votre projet, mais il ne remplace pas une évaluation de son opportunité. Avant tout déploiement, assurez-vous de valider sa pertinence et sa sobriété (l'usage de l'IA ne doit pas être systématique) et de garantir la concertation avec les agents publics concernés et leur implication.
Une administration veut automatiser le traitement de demandes impliquant des décisions individuelles. La cellule aide à identifier les obligations applicables au titre de l'AI Act (système à haut risque ?), du CRPA (obligation d'information et de droit à l'explication), et du RGPD (AIPD, base légale du traitement automatisé).
Une équipe s'interroge sur le droit applicable à la transcription d'auditions avec une IA. La cellule analyse le régime de sensibilité des données au sens de la loi SREN, les conditions de stockage et de conservation au regard du RGPD, et les engagements contractuels à exiger du prestataire.
Un service veut évaluer l'impact environnemental d'un déploiement IA à grande échelle. La cellule mobilise les expertises nécessaires en s'appuyant sur le RGESN pour objectiver les coûts environnementaux et orienter vers des choix proportionnés.