À ce cadre s'ajoute une réalité de terrain : beaucoup de projets d'IA n'aboutissent pas faute de cadrage et de valeur démontrée. La gouvernance n'est donc pas qu'une obligation réglementaire, c'est aussi ce qui fiabilise les usages et sécurise le passage à l'échelle.
1ᵉʳ août 2024
entrée en vigueur de l'AI Act européen (Règlement UE 2024/1689), première réglementation transversale de l'IA, en application par paliers
Source : EUR-Lex, Règlement (UE) 2024/1689
25 mai 2018
application du RGPD, socle de conformité de tout traitement de données personnelles, y compris par un système d'IA
Source : CNIL
≥ 30 %
des projets d'IA générative pourraient être abandonnés après le POC d'ici fin 2025, faute de cadrage et de valeur démontrée
Source : Gartner, juillet 2024
- Gouvernance de l'IA
- Ensemble des règles, processus et instances qui encadrent l'usage de l'intelligence artificielle dans une organisation : registre des usages, classification des risques, politique et charte, supervision humaine, traçabilité et conformité.
- AI Act (Règlement UE 2024/1689)
- Première réglementation transversale de l'IA dans l'Union européenne, entrée en vigueur le 1ᵉʳ août 2024 et applicable par paliers. Elle classe les systèmes d'IA par niveau de risque et fixe des obligations proportionnées.
- Conformité IA
- Respect des obligations réglementaires applicables aux systèmes d'IA, principalement l'AI Act et le RGPD : classification des usages par risque, documentation, transparence, supervision humaine et conformité des traitements de données.
- Supervision humaine
- Maintien d'un contrôle humain sur les décisions prises ou assistées par un système d'IA, en particulier sur les usages sensibles. Exigence centrale de l'AI Act pour les systèmes à haut risque.
- Registre des usages IA
- Inventaire vivant des systèmes et usages d'IA de l'organisation, avec leurs finalités, propriétaires, données mobilisées et niveau de risque. Socle opérationnel de la gouvernance.
- Gouvernance des données pour l'IA
- Règles et processus qui encadrent les données mobilisées par les systèmes d'IA : base légale des traitements, qualité et cycle de vie, minimisation, cloisonnement des données sensibles et traçabilité des flux vers les fournisseurs. Volet data de la gouvernance IA, au croisement du RGPD et de l'AI Act.
- Comité de gouvernance IA
- Instance interne qui pilote la gouvernance de l'IA dans la durée : validation des nouveaux usages, arbitrage des risques, suivi du registre et du plan de conformité. Sa composition croise directions métier, juridique, données et systèmes d'information.