Programmes de gouvernance de l’IA : ISO 42001, NIST et code canadien
Faute de loi fédérale sur l’IA en vigueur, les programmes de gouvernance de l’IA sont le moyen par lequel les organisations canadiennes gèrent les risques liés à l’IA au regard du droit existant et des attentes des parties prenantes. Un programme pratique combine un inventaire de l’IA, des niveaux de risque et des évaluations d’impact avec des contrôles tirés du code volontaire fédéral, de la norme ISO/IEC 42001, du cadre AI RMF du NIST et des principes des organismes de protection de la vie privée.

L’essentiel
- La LIAD est morte avec le projet de loi C-27 en janvier 2025 ; les lois existantes s’appliquent toujours à l’IA.
- Le code volontaire fédéral sur l’IA générative prévoit des mesures regroupées sous six principes.
- La norme ISO/IEC 42001 fournit la structure d’un système de management de l’IA certifiable.
- Le cadre AI RMF du NIST s’articule autour des fonctions gouverner, cartographier, mesurer et gérer.
- Les niveaux de risque concentrent les évaluations et les approbations sur les utilisations à forte incidence.
- Le contrôle des fournisseurs et la surveillance sont des éléments essentiels de tout programme.
Pourquoi les organisations canadiennes ont besoin de programmes de gouvernance de l’IA
Les programmes de gouvernance de l’IA gagnent en importance, car le Canada n’a pas encore de loi fédérale régissant l’intelligence artificielle dans le secteur privé. La Loi sur l’intelligence artificielle et les données (LIAD) proposée dans le projet de loi C-27 est morte au Feuilleton lors de la prorogation du Parlement en janvier 2025. Cette lacune ne signifie pas que l’IA n’est pas réglementée.
Le droit de la vie privée, les droits de la personne, la protection du consommateur, la réglementation sectorielle, le droit de l’emploi, la responsabilité du fait des produits et le droit des contrats s’appliquent tous aux systèmes d’IA, et les clients, les investisseurs et les assureurs demandent de plus en plus comment le risque lié à l’IA est géré. Des programmes de gouvernance de l’IA bien conçus donnent aux organisations un moyen structuré de répondre à ces questions et d’adopter l’IA en toute confiance.

Cette analyse présente les éléments constitutifs d’un programme opérationnel, en s’appuyant sur le code volontaire fédéral pour l’IA générative, la norme ISO/IEC 42001, le cadre de gestion des risques liés à l’IA du NIST et les principes des organismes de protection de la vie privée pour l’IA générative. Il s’agit d’information générale et non d’un avis juridique.
Les cadres de référence
| Cadre | Nature | Utilité |
|---|---|---|
| Code de conduite volontaire sur l’IA générative (ISDE, septembre 2023) | Engagements des signataires qui développent ou gèrent des systèmes d’IA générative avancés | Mesures de base canadiennes en matière de responsabilité, de sécurité, d’équité, de transparence, de supervision et de robustesse |
| ISO/IEC 42001:2023 | Norme internationale relative à un système de management de l’IA | Structure de système de management certifiable : politique, rôles, évaluation des risques, contrôles, audit et amélioration |
| NIST AI Risk Management Framework 1.0 (janvier 2023) | Cadre américain volontaire articulé autour des fonctions gouverner, cartographier, mesurer et gérer | Pratiques détaillées et profil sur l’IA générative (NIST-AI-600-1, juillet 2024) |
| Principes du CPVP et des organismes provinciaux sur l’IA générative (décembre 2023) | Principes des organismes de protection de la vie privée pour une IA générative responsable | Application du droit de la vie privée au développement et à l’utilisation de l’IA |
La plupart des organisations n’ont pas à choisir un seul cadre. Une approche pratique utilise ISO/IEC 42001 ou le NIST comme ossature, y superpose les attentes canadiennes tirées du code volontaire et des principes en matière de vie privée, et ajoute les exigences sectorielles.
Le code volontaire fédéral
Le Code de conduite volontaire visant un développement et une gestion responsables des systèmes d’IA générative avancés d’Innovation, Sciences et Développement économique Canada (ISDE), lancé en septembre 2023, prévoit des mesures regroupées sous six principes : responsabilité, sécurité, justice et équité, transparence, surveillance humaine et suivi, et validité et robustesse. Il distingue les développeurs des gestionnaires de systèmes et prévoit des mesures supplémentaires pour les systèmes accessibles au public.
Il s’agit par exemple de mettre en œuvre un cadre complet de gestion des risques assorti de politiques, de procédures et de formation ; d’évaluer les incidences négatives raisonnablement prévisibles ; de sélectionner les données d’entraînement de façon à gérer les biais ; d’indiquer clairement comme IA les systèmes qui pourraient être confondus avec des humains ; de surveiller les utilisations préjudiciables après le déploiement ; de recourir à des équipes rouges ; et d’évaluer les risques de cybersécurité comme l’empoisonnement des données.
Le code est volontaire et ne lie que ses signataires, parmi lesquels figurent des développeurs canadiens d’IA, des banques et des entreprises de télécommunication et de technologie. Il constitue néanmoins un énoncé utile de ce que le gouvernement canadien considère comme une pratique responsable, et il est souvent cité dans les questionnaires d’approvisionnement.
ISO/IEC 42001 et la certification
La norme ISO/IEC 42001:2023 précise les exigences relatives à l’établissement, à la mise en œuvre, au maintien et à l’amélioration continue d’un système de management de l’IA. Elle reprend la structure familière des autres normes ISO de systèmes de management, comme ISO/IEC 27001 pour la sécurité de l’information, ce qui en facilite l’intégration aux programmes de conformité existants.
Ses éléments clés comprennent une politique en matière d’IA, des rôles et responsabilités définis, l’évaluation et le traitement des risques liés à l’IA, l’évaluation de l’impact des systèmes d’IA, des contrôles sur le cycle de vie des systèmes d’IA et les données, la gestion des fournisseurs, l’audit interne et la revue de direction. Les organisations peuvent obtenir une certification par un tiers, que certains clients commencent à exiger des fournisseurs d’IA.
Le cadre de gestion des risques liés à l’IA du NIST
Le AI Risk Management Framework du NIST, publié le 26 janvier 2023, est destiné à un usage volontaire et s’articule autour de quatre fonctions : gouverner, cartographier, mesurer et gérer. Son guide d’accompagnement propose des actions, et le NIST a publié un profil sur l’IA générative (NIST-AI-600-1) en juillet 2024. Les organisations canadiennes qui ont des activités ou des clients aux États-Unis utilisent souvent le NIST parce qu’il est largement reconnu et détaillé, et parce qu’il se rattache bien à ISO/IEC 42001.
Constituer l’inventaire de l’IA
Tous les programmes de gouvernance de l’IA commencent par la connaissance de l’IA utilisée. L’inventaire devrait recenser les modèles développés à l’interne, les fonctionnalités d’IA intégrées aux logiciels des fournisseurs, les outils d’IA générative utilisés par les employés et l’IA utilisée par des fournisseurs de services pour le compte de l’organisation.
Pour chaque système, il faut consigner le responsable opérationnel, la fin, le modèle et le fournisseur, les données utilisées pour l’entraînement et l’exploitation (y compris les renseignements personnels), les décisions ou résultats qu’il influence, les utilisateurs touchés et les contrôles en place. L’IA fantôme, c’est-à-dire les outils adoptés sans approbation, est une lacune fréquente ; les contrôles d’approvisionnement, la surveillance du réseau et les sondages auprès des employés aident à la mettre au jour.
Niveaux de risque
Toutes les utilisations de l’IA n’exigent pas le même examen. Un modèle par niveaux concentre les efforts là où ils comptent :
- Utilisations interdites ou restreintes, comme celles que l’organisation juge incompatibles avec ses valeurs ou ses obligations juridiques ;
- Risque élevé, par exemple l’IA qui prend ou influence de façon importante des décisions concernant l’emploi, le crédit, l’assurance, le logement, les soins de santé ou l’accès aux services des personnes, ou qui fonctionne dans des contextes critiques pour la sécurité ;
- Risque moyen, comme les agents conversationnels destinés aux clients et la génération de contenu avec révision humaine ;
- Risque faible, comme les outils de productivité internes sans données personnelles ni confidentielles.
Les critères devraient tenir compte de l’incidence sur les personnes, de l’échelle, de l’autonomie, de la sensibilité des données, de l’explicabilité et de l’exposition réglementaire. Le niveau détermine ensuite les évaluations, approbations et mesures de surveillance requises.
Évaluations d’impact de l’IA
Pour les systèmes à risque plus élevé, une évaluation d’impact de l’IA documente la fin, les données, le modèle, les essais, les risques et les mesures d’atténuation avant le déploiement. Elle devrait intégrer l’évaluation des facteurs relatifs à la vie privée, puisque les organismes de protection de la vie privée s’attendent à ce que les organisations évaluent les risques de l’IA générative pour la vie privée, et que le Québec exige une telle évaluation pour les projets de systèmes d’information comportant des renseignements personnels.
Les principes pour l’IA générative publiés par le CPVP et ses homologues provinciaux et territoriaux traitent de l’autorisation légale et du consentement, des fins acceptables, de la nécessité et de la proportionnalité, de la transparence, de la responsabilité, de l’accès individuel, de la limitation de la collecte, de l’utilisation et de la communication, de l’exactitude et des mesures de sécurité. Les organismes publics reconnaîtront aussi l’évaluation de l’incidence algorithmique utilisée en vertu de la directive du Conseil du Trésor sur la prise de décisions automatisée.
Ne construisez pas une évaluation de l’IA distincte qui ignore les examens de vie privée, de sécurité et de droits de la personne déjà en place. Un formulaire d’accueil unique comportant des questions conditionnelles, acheminé aux bons spécialistes, fait gagner du temps et réduit le risque qu’une utilisation à risque élevé passe entre les mailles du filet.
Contrôle des fournisseurs
Une grande part du risque lié à l’IA d’une organisation se trouve chez ses fournisseurs. Les programmes de gouvernance de l’IA devraient étendre la vérification diligente en matière d’approvisionnement à des questions propres à l’IA : sources des données d’entraînement, utilisation des données des clients pour l’entraînement, gestion des changements de modèle, essais de biais et d’exactitude, contrôles de sécurité, avis d’incident et droits d’audit. Les contrats devraient refléter les réponses, et les fournisseurs à risque plus élevé devraient être réévalués périodiquement plutôt qu’uniquement lors de leur intégration. Voir notre analyse sur les contrats avec les fournisseurs d’IA.
Surveillance et gestion des incidents
Les systèmes d’IA changent au fil du temps à mesure que les données, les modèles et les usages évoluent. La surveillance après le déploiement devrait suivre le rendement, la dérive, les plaintes, les erreurs et les résultats préjudiciables, avec des seuils déclenchant un examen ou une suspension. Un processus de gestion des incidents d’IA, arrimé à l’intervention en cas d’incident de sécurité et de vie privée, devrait définir comment les problèmes sont signalés, triés, corrigés et documentés. L’attente du code volontaire selon laquelle les développeurs tiennent une base de données des incidents signalés est un point de référence utile.
Rôles, politiques et formation
Des programmes de gouvernance de l’IA efficaces attribuent clairement les responsabilités : un parrain à la haute direction, un comité de l’IA multidisciplinaire (affaires juridiques, vie privée, sécurité, risques, science des données, secteurs d’activité), des responsables de systèmes et une fonction d’examen indépendante. Les politiques de base comprennent habituellement une politique en matière d’IA, une politique d’utilisation acceptable des outils d’IA générative, des normes sur le risque de modèle et des exigences d’approvisionnement. La formation devrait être adaptée aux rôles, de la sensibilisation générale de tout le personnel à une formation approfondie pour les développeurs et les approbateurs. Voir notre analyse sur les politiques d’IA générative pour les employés.
Équité, droits de la personne et explicabilité
Les lois canadiennes sur les droits de la personne interdisent la discrimination en matière d’emploi, de services, de logement et dans d’autres domaines, que la décision soit prise par un humain ou par un algorithme. L’IA utilisée pour présélectionner des candidats, fixer des prix, évaluer le crédit ou attribuer des services peut reproduire les biais des données d’entraînement ou des variables de substitution liées à des motifs protégés. Les programmes de gouvernance de l’IA devraient exiger des essais de biais proportionnés au risque, au moyen d’indicateurs appropriés et de données représentatives, avant le déploiement et à intervalles réguliers par la suite.
Lorsque l’IA éclaire des décisions concernant des personnes, les organisations devraient pouvoir en expliquer les principaux facteurs en langage clair, offrir une voie de révision humaine et conserver des dossiers montrant comment la décision a été prise. La loi québécoise sur le secteur privé exige déjà que les organisations informent les personnes lorsqu’une décision est fondée exclusivement sur un traitement automatisé et leur permettent de présenter leurs observations.
Documentation et registres
C’est la documentation qui transforme les bonnes intentions en gouvernance démontrable. Pour chaque système à risque plus élevé, il faut conserver l’évaluation d’impact approuvée, les résultats des essais, la documentation du modèle et des données, les approbations, la vérification diligente des fournisseurs, les rapports de surveillance et les dossiers d’incidents. Les organismes de réglementation, les auditeurs, les clients et les tribunaux demandent de plus en plus ces éléments, qui sont bien plus difficiles à reconstituer après une plainte ou une réclamation. Les programmes de gouvernance de l’IA bien gérés traitent la documentation comme une partie du cycle de vie du système plutôt que comme un exercice de conformité distinct.
Mesurer la maturité
Les programmes évoluent. Un modèle de maturité simple, allant du stade initial (décisions ponctuelles) au stade défini (politiques et inventaire en place), puis géré (niveaux de risque, évaluations et surveillance appliqués de façon cohérente) et optimisé (amélioration fondée sur des indicateurs et assurance externe), aide la direction à fixer des objectifs réalistes.
Les indicateurs utiles comprennent le pourcentage de systèmes d’IA inventoriés et classés par niveau de risque, les évaluations réalisées avant le lancement, les constatations à risque élevé non résolues, les incidents et le délai de résolution, et le taux de formation. Un audit interne périodique ou un examen externe de l’état de préparation au regard d’ISO/IEC 42001 peut valider les progrès et repérer les lacunes avant que les clients ou les organismes de réglementation ne le fassent.
Rapports au conseil
Le conseil a besoin de rapports concis sur l’inventaire de l’IA, les systèmes à risque élevé, les incidents, l’évolution réglementaire et la maturité du programme. Les administrateurs devraient aussi comprendre quelles initiatives stratégiques dépendent de l’IA, quelle appétence au risque la direction a adoptée et comment les exceptions au programme sont approuvées et suivies. Voir notre analyse sur la surveillance de l’IA par le conseil.
Attentes sectorielles
Les secteurs réglementés font face à des attentes supplémentaires. Les institutions financières fédérales appliquent les lignes directrices du Bureau du surintendant des institutions financières (BSIF) sur le risque de modèle et le risque technologique. Les autorités en valeurs mobilières ont publié des orientations sur l’utilisation de l’IA dans les marchés des capitaux.
Les organisations de santé doivent tenir compte des lois sur les renseignements de santé et des règles sur les instruments médicaux pour les outils d’IA. Les employeurs doivent tenir compte des droits de la personne et, en Ontario, des exigences de divulgation relatives à l’IA utilisée dans l’embauche en vertu de la législation sur les normes d’emploi. Les programmes devraient superposer ces exigences au cadre de base.
Mettre sur pied des programmes de gouvernance de l’IA
- Désigner un parrain à la haute direction et former un comité multidisciplinaire.
- Constituer un premier inventaire de l’IA, en commençant par les utilisations destinées aux clients et à forte incidence.
- Adopter une méthode de classement par niveaux de risque et un processus intégré d’accueil et d’évaluation.
- Choisir un cadre d’ossature, comme ISO/IEC 42001 ou le NIST, et y superposer les attentes canadiennes.
- Mettre à jour l’approvisionnement et les contrats avec les fournisseurs en fonction de l’IA.
- Publier une politique d’utilisation acceptable et former le personnel.
- Mettre en place la surveillance, la gestion des incidents et les rapports au conseil.
Comment TRW & Co vous aide
Nous aidons les organisations à concevoir et à exploiter des programmes de gouvernance de l’IA adaptés au droit canadien et à leur profil de risque. Notre travail comprend les inventaires de l’IA et le classement par niveaux de risque, des modèles d’évaluation d’impact, des politiques, la vérification diligente des fournisseurs et les clauses contractuelles, la préparation à ISO/IEC 42001 et des séances d’information du conseil. Consultez nos pages intelligence artificielle et protection de la vie privée et des données ou communiquez avec nous.
Questions fréquentes
Existe-t-il une loi fédérale sur l’IA au Canada ?
Pas pour le secteur privé. La Loi sur l’intelligence artificielle et les données prévue dans le projet de loi C-27 est morte au Feuilleton lors de la prorogation de janvier 2025. Le droit de la vie privée, les droits de la personne, la protection du consommateur et les règles sectorielles continuent de s’appliquer à l’IA.
Faut-il viser la certification ISO/IEC 42001 ?
Cela dépend de vos clients et de votre profil de risque. La certification peut aider les fournisseurs d’IA à démontrer leur maturité, tandis que d’autres organisations peuvent utiliser la norme comme cadre sans se faire certifier.
Le code volontaire s’applique-t-il à nous ?
Il ne lie que ses signataires, mais il décrit les mesures que le gouvernement fédéral considère comme une pratique responsable pour l’IA générative avancée et sert souvent de point de référence.
Que doit contenir un inventaire de l’IA ?
Les modèles développés à l’interne, les fonctionnalités d’IA des produits des fournisseurs, les outils d’IA générative des employés et l’IA utilisée par les fournisseurs de services, avec les responsables, les fins, les données, les personnes touchées et les contrôles.
Comment s’articulent les évaluations de l’IA et de la vie privée ?
Il convient d’utiliser un processus intégré d’accueil et d’évaluation afin que les évaluations des facteurs relatifs à la vie privée, les examens de sécurité et l’analyse des risques propres à l’IA soient faits ensemble, conformément aux principes des organismes de protection de la vie privée sur l’IA générative.
Sources
Information générale seulement, et non un avis juridique. Les renvois aux lois, aux tribunaux et aux autorités décrivent le droit et la pratique publiés à la date indiquée.


