Approbation de cas d’usage
Décider si un besoin peut utiliser l’IA et quelles conditions précèdent un pilote ou un déploiement.
Qu'est-ce que la gouvernance de l'IA ? Principes, rôles et contrôles
La gouvernance de l'IA est l'ensemble des responsabilités, politiques, processus et contrôles qui encadrent la sélection, la conception, l'utilisation et la surveillance des systèmes d'intelligence artificielle. Elle vise à relier les objectifs d'affaires aux risques, aux droits des personnes, à la sécurité, à la qualité des données et à une reddition de comptes vérifiable.
En une phrase
La gouvernance de l'IA décide qui peut utiliser quel système, pour quel but, avec quelles données, quels contrôles et quelle responsabilité.
À retenir
- La gouvernance couvre les outils achetés, les modèles intégrés et les usages informels, pas seulement les projets développés à l'interne.
- Les contrôles doivent varier selon l'impact d'une erreur et l'exposition des personnes.
- Un inventaire des usages, des propriétaires et des fournisseurs constitue le point de départ.
- La surveillance continue compte parce que données, modèles, consignes et contexte d'usage évoluent.
Fiche du terme
- Gouvernance de l'IA
- AI governance · gouvernance de l'intelligence artificielle · cadre IA
- Terme anglais
- AI governance
- Domaine
- Gestion des risques IA
- Catégorie
- Gouvernance organisationnelle
- Niveau
- Intermédiaire à avancé
Que recouvre la gouvernance de l'IA ?
La gouvernance traduit des principes généraux en décisions opérationnelles : cas d'usage autorisés, données interdites, évaluation préalable, validation humaine, suivi des incidents et critères d'arrêt. Elle précise les rôles entre direction, métiers, TI, sécurité, juridique, protection des renseignements personnels et fournisseurs.
Le niveau de contrôle doit suivre le risque. Un outil qui résume des notes internes n'a pas les mêmes conséquences qu'un système qui influence l'accès à un emploi, un crédit ou un service. La classification considère la gravité, la probabilité, la réversibilité, la population touchée et la capacité réelle d'une personne à contester le résultat.
La documentation doit permettre de reconstruire une décision : version du système, but, sources de données, évaluations, limites connues, personne responsable et mécanisme de recours. Elle ne remplace pas les tests. Performance, biais, sécurité, confidentialité et robustesse doivent être vérifiés dans le contexte d'usage, puis surveillés après le déploiement.
Comment mettre en place une gouvernance IA ?
- 01
Inventorier les usages
Recenser outils, fournisseurs, modèles, données, utilisateurs, propriétaires et décisions soutenues, y compris les expérimentations.
- 02
Classer les risques
Évaluer impact, probabilité, population, données sensibles, autonomie du système et capacité de correction.
- 03
Attribuer contrôles et décisions
Définir approbations, tests, intervention humaine, journalisation, sécurité, contrats, recours et critères de retrait.
- 04
Surveiller le cycle de vie
Réévaluer lors d’un changement de modèle, données, fournisseur, contexte, performance ou exigence réglementaire.
Exemple concret
Une entreprise autorise un assistant à résumer des documents internes, mais interdit l'envoi de renseignements clients dans des comptes publics. Le cas possède un propriétaire, une liste de sources approuvées, des tests de réponses, un avertissement visible et une procédure d'incident. Un projet de présélection de candidats reçoit une évaluation séparée et des contrôles plus exigeants en raison de son impact.
Applications de la gouvernance
Gestion des fournisseurs
Évaluer données, sécurité, sous-traitants, localisation, changements de modèle et possibilités d’audit.
Contrôle des modèles
Définir tests, seuils, surveillance, intervention humaine et retrait lorsque les résultats se dégradent.
Usages employés
Donner des règles concrètes sur les outils permis, les informations partageables et la validation des sorties.
Bénéfices et limites
- Responsabilités et décisions explicites.
- Risques traités avant une diffusion large.
- Expérimentation plus sûre avec des règles connues.
- Meilleure preuve de diligence auprès des clients et partenaires.
- Bureaucratie si tous les usages reçoivent le même contrôle.
- Fausse assurance lorsque les politiques ne sont pas testées.
- Inventaire rapidement périmé sans processus continu.
- Compétences croisées nécessaires entre métiers, TI, sécurité et droit.
Valeur pour l'organisation
La gouvernance ne doit pas ralentir indistinctement l'innovation. Elle crée une voie rapide pour les usages faibles risques et une revue plus forte pour les décisions sensibles. Les indicateurs incluent la couverture de l'inventaire, les évaluations complétées, les incidents, les délais d'approbation et la conformité aux contrôles. La page de service liée présente l'accompagnement; cette fiche expose le cadre général.
Questions fréquentes
Qui est responsable de la gouvernance de l'IA ?
La direction porte la responsabilité, mais le travail est partagé. Les métiers possèdent le but et l'impact, les TI et la sécurité contrôlent l'architecture, les données et la protection, et les fonctions juridiques soutiennent les obligations. Chaque système doit avoir un propriétaire nommé.
Une politique d'utilisation de ChatGPT suffit-elle ?
Non. Elle peut guider les employés, mais la gouvernance inclut aussi inventaire, évaluation des risques, fournisseurs, tests, surveillance, incidents et décisions de retrait. Les outils intégrés aux processus nécessitent des contrôles techniques et opérationnels.
Comment commencer dans une PME ?
Recensez d'abord les usages existants, bloquez les pratiques clairement risquées, nommez un responsable et adoptez une grille simple par niveau d'impact. Ajoutez ensuite des exigences proportionnées au lieu de copier un cadre lourd sans capacité d'exécution.
Termes associés
Sources et références
Vous voulez encadrer l'IA sans bloquer les usages utiles ? Nous pouvons bâtir un inventaire, une grille de risque et des contrôles applicables.
Structurer la gouvernance IA