Quand un système d’IA appelle une évaluation d’incidence
- Vidéo
- 2 min
- Lecture
- 12 min
- Exercice
- 7 min
- Total
- 20 min
Contenu éducatif, non un avis juridique.
Dans cette leçon, vous allez
- Dire quelles règles appellent une évaluation d’incidence pour une utilisation donnée d’un système d’IA.
- Expliquer qui porte chaque obligation : le ministère, l’entreprise québécoise ou le déployeur européen.
- Utiliser le cadre de gestion des risques de l’IA du NIST comme méthode volontaire sous ces obligations.
Leçon vidéo
Lire la transcription
Voici la leçon un de L’évaluation des risques et des incidences de l’IA en pratique. Nous suivons Quillmere Decision Systems, notre entreprise fictive de logiciels, et son modèle de tri des réclamations, que trois clients veulent utiliser.
Un ministère fédéral veut s’en servir pour trier des demandes de prestations. La Directive sur la prise de décisions automatisée vise les systèmes qui prennent ou appuient des décisions administratives sur des clients Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1, et l’obligation revient au ministère, pas à Quillmere.
Un assureur québécois veut décider automatiquement de petites réclamations. Le projet appelle une évaluation des facteurs relatifs à la vie privée RLRQ c. P-39.1, art. 3.3 et 17, et une décision prise par le seul modèle entraîne la règle sur les décisions automatisées. RLRQ c. P-39.1, art. 12.1
Un assureur vie européen veut s’en servir pour la tarification. À partir du 2 décembre 2027, cette utilisation appelle une analyse de l’impact sur les droits fondamentaux par l’assureur avant la première utilisation Règlement sur l'IA, art. 27, par. 1 à 4; par. 4 tel que remplacé par le règlement (UE) 2026/1744, art. 1er, point 13) a) Règlement (UE) 2024/1689, art. 2, par. 2, art. 111, par. 4, et art. 113, tel que modifié par le règlement (UE) 2026/1744, et souvent une analyse d’impact relative à la protection des données. RGPD, art. 35, par. 1 et 3, point a)
Le cadre du NIST est volontaire NIST AI RMF 1.0 (NIST AI 100-1) : nous l’utilisons comme méthode, pas comme obligation.
En résumé : un système, trois évaluations, trois responsables, une description commune. Prochaine leçon : décrire le système.
Un système, plusieurs règles
Un système d’IA relève rarement d’un seul ensemble de règles. Le même modèle peut trier des demandes pour un gouvernement, prendre des décisions pour une entreprise au Québec et fixer des prix pour un assureur en Europe, et chacune de ces utilisations apporte sa propre obligation d’évaluation. Le premier travail n’est pas de remplir un formulaire. C’est de déterminer quelles évaluations ces utilisations appellent, et qui doit les faire.
Voici Quillmere et son modèle de tri des réclamations
Quillmere Decision Systems Inc. est une entreprise fictive de logiciels de Montréal qui a un seul produit : un modèle qui lit une réclamation ou une demande et la classe en voie rapide, examen standard ou examen approfondi. Trois clients le veulent cette année :
- un ministère fédéral, pour trier les demandes d’un programme de prestations;
- un assureur québécois, pour décider automatiquement des petites réclamations;
- un assureur vie de l’Union européenne, pour l’aider à tarifer ses polices.
Les trois demanderont l’aide de Quillmere. Ce cours suit sa responsable de la vie privée et de la gouvernance de l’IA tout au long d’une évaluation, du filtrage jusqu’au suivi.
La directive fédérale : l’obligation du ministère
La Directive sur la prise de décisions automatisée du Conseil du Trésor s’applique aux institutions assujetties à la Politique sur les services et le numérique, et à tout système décisionnel automatisé en production qui sert à prendre une décision administrative, ou une évaluation connexe, concernant une personne. Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 Une décision administrative est prise par un fonctionnaire autorisé en vertu de pouvoirs conférés par une loi du Parlement ou une ordonnance prise en vertu de la prérogative de la Couronne, et elle touche des droits, des privilèges ou des intérêts juridiques. Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 Les systèmes utilisés seulement pour la recherche et l’expérimentation, ou dans des environnements d’essai, sont exclus. Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1
Trier des demandes de prestations est une évaluation liée à une décision administrative, donc l’utilisation du ministère est visée. L’obligation revient au ministère, pas à Quillmere. Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 En pratique, le ministère demandera à Quillmere l’essentiel de ce dont l’évaluation a besoin : le fonctionnement du modèle, les données qui l’ont entraîné, la façon dont il a été testé.
La version en vigueur de la directive a été modifiée le 24 juin 2025, et les systèmes développés ou acquis avant cette date avaient jusqu’au 24 juin 2026 pour satisfaire aux nouvelles exigences. Directive sur la prise de décisions automatisée, sous-sections 1.1, 1.2.1 et 1.3 La directive est réexaminée tous les deux ans. Directive sur la prise de décisions automatisée, sous-sections 1.1, 1.2.1 et 1.3
Le Québec : l’évaluation du projet et la règle sur les décisions automatisées
Au Québec, une évaluation des facteurs relatifs à la vie privée est obligatoire pour tout projet d’acquisition, de développement ou de refonte d’un système d’information ou de prestation électronique de services impliquant des renseignements personnels. RLRQ c. P-39.1, art. 3.3 et 17 La personne responsable de la protection des renseignements personnels est consultée dès le début du projet. RLRQ c. P-39.1, art. 3.3 La sensibilité fixe la profondeur de l’évaluation, pas la question de savoir s’il en faut une. RLRQ c. P-39.1, art. 3.3 et 17
Quand l’assureur québécois approuve une réclamation sur le seul résultat du modèle, une deuxième règle s’applique. Pour une décision fondée exclusivement sur un traitement automatisé de renseignements personnels, l’entreprise en informe la personne, lui explique sur demande les renseignements utilisés ainsi que les principaux facteurs et paramètres, et lui donne l’occasion de présenter ses observations à un membre du personnel en mesure de réviser la décision. RLRQ c. P-39.1, art. 12.1 La leçon 5 examine cette règle en détail.
L’Union européenne : les déployeurs, et l’analyse de l’impact sur les droits fondamentaux
Selon le règlement européen sur l’IA, les déployeurs de systèmes d’IA à haut risque ont leurs propres obligations, dont celles d’utiliser le système conformément à la notice d’utilisation, de confier le contrôle humain à des personnes compétentes et de surveiller son fonctionnement. Règlement sur l'IA, art. 26, par. 1, 2, 4, 5 (deux alinéas), 6 (deux phrases), 7, 8 et 11; considérant 158
Dans ce cours, Quillmere met le modèle sur le marché de l’Union sous son propre nom, ce qui en fait le fournisseur : l’entreprise qui développe un système et le met sur le marché sous son propre nom ou sa propre marque. Règlement sur l'IA, art. 3, points 1), 3) et 4) Ses propres obligations de fournisseur dépassent le cadre de ce cours.
Certains déployeurs effectuent aussi une analyse de l’impact sur les droits fondamentaux avant la première utilisation. C’est le cas des organismes de droit public, des entités privées qui fournissent des services publics, et des déployeurs de systèmes destinés à l’évaluation des risques et à la tarification en assurance vie et maladie. Règlement sur l'IA, art. 27, par. 1 à 4; par. 4 tel que remplacé par le règlement (UE) 2026/1744, art. 1er, point 13) a) La tarification de l’assureur vie européen entre dans ce dernier groupe : l’analyse revient donc à l’assureur, qui en notifie les résultats à l’autorité de surveillance du marché. Règlement sur l'IA, art. 27, par. 1 à 4; par. 4 tel que remplacé par le règlement (UE) 2026/1744, art. 1er, point 13) a)
Ces obligations relatives aux systèmes à haut risque s’appliquent à partir du 2 décembre 2027 pour les systèmes visés à l’annexe III, comme la tarification en assurance vie et maladie. Règlement (UE) 2024/1689, art. 2, par. 2, art. 111, par. 4, et art. 113, tel que modifié par le règlement (UE) 2026/1744 Un système à haut risque mis sur le marché ou mis en service avant cette date n’est visé que si sa conception change de façon importante à partir de ce moment, sauf qu’un système à haut risque destiné à être utilisé par des autorités publiques doit être conforme au plus tard le 2 août 2030 dans tous les cas. Règlement sur l'IA, art. 111, par. 1, 2 et 3, par. 2 tel que remplacé par le règlement (UE) 2026/1744; règlement (UE) 2026/1744, considérant 39 L’assureur prépare quand même l’analyse dès maintenant, parce que le système survivra à cette date et que l’obligation revient au premier changement important.
Lorsque le même traitement de données personnelles est susceptible d’engendrer un risque élevé pour les droits et libertés des personnes, le RGPD appelle aussi une analyse d’impact relative à la protection des données, en particulier pour une évaluation systématique et approfondie, automatisée, d’aspects personnels qui mène à des décisions produisant des effets juridiques ou des effets similaires importants. RGPD, art. 35, par. 1 et 3, point a) Les deux peuvent être réunies : l’analyse sur les droits fondamentaux peut renvoyer à l’analyse d’impact relative à la protection des données lorsque celle-ci couvre déjà une obligation. Règlement sur l'IA, art. 27, par. 1 à 4; par. 4 tel que remplacé par le règlement (UE) 2026/1744, art. 1er, point 13) a)
Le NIST : une méthode, pas une obligation
Le cadre de gestion des risques de l’IA du NIST, publié le 26 janvier 2023, est destiné à un usage volontaire. NIST AI RMF 1.0 (NIST AI 100-1) Aucune des règles de ce cours n’oblige les clients de Quillmere à le suivre. NIST AI RMF 1.0 (NIST AI 100-1) Il est utile parce qu’il donne un vocabulaire commun pour cartographier, mesurer et gérer le risque, qui s’insère sous les obligations des trois clients, et ce cours s’en inspire comme méthode.
Le tableau de filtrage
Le gabarit de cette leçon est un tableau de filtrage d’une page : une ligne par utilisation, la règle applicable, qui porte l’obligation, l’évaluation qu’elle appelle et ce que fournit Quillmere. Rempli pour les trois clients, il montre qu’un seul système appelle trois évaluations, détenues par trois organisations différentes, bâties à partir d’une même description du système.
Le tableau de filtrage de Quillmere
Organisation fictive. Quillmere Decision Systems Inc. a été inventée pour ce cours. Toute ressemblance avec une organisation réelle est une coïncidence.
L’équipe des ventes a posé une seule question : « Avons-nous besoin d’une évaluation d’incidence ? » La responsable de la gouvernance a répondu par un tableau plutôt que par oui ou non.
| Utilisation | Règle | Qui porte l’obligation | Évaluation | Ce que fournit Quillmere |
|---|---|---|---|---|
| Un ministère fédéral trie des demandes de prestations | Directive sur la prise de décisions automatisée Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 | Le ministère | Évaluation de l’incidence algorithmique | Description du modèle, données d’entraînement, résultats des essais |
| Un assureur québécois décide automatiquement de petites réclamations | Évaluation des facteurs relatifs à la vie privée et règle sur les décisions automatisées RLRQ c. P-39.1, art. 3.3 et 17 RLRQ c. P-39.1, art. 12.1 | L’assureur | Évaluation des facteurs relatifs à la vie privée | La même description, plus les facteurs derrière une décision |
| Un assureur vie européen tarifie des polices | Analyse sur les droits fondamentaux de la loi sur l’IA, à partir du 2 décembre 2027 Règlement sur l'IA, art. 27, par. 1 à 4; par. 4 tel que remplacé par le règlement (UE) 2026/1744, art. 1er, point 13) a) Règlement (UE) 2024/1689, art. 2, par. 2, art. 111, par. 4, et art. 113, tel que modifié par le règlement (UE) 2026/1744, analyse du RGPD RGPD, art. 35, par. 1 et 3, point a) | L’assureur | Les deux, avec renvois Règlement sur l'IA, art. 27, par. 1 à 4; par. 4 tel que remplacé par le règlement (UE) 2026/1744, art. 1er, point 13) a) | Notice d’utilisation, conception du contrôle humain |
| Les essais de Quillmere sur des données synthétiques | Aucune de ces règles : l’usage d’essai est exclu de la directive Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 | Quillmere | Examen interne seulement | Sans objet |
Ce que le tableau a montré. Trois clients, trois responsables, trois évaluations. Chacune a besoin de la même description de base du système : Quillmere a donc décidé de l’écrire une fois et de la tenir à jour.
Filtrer trois nouvelles utilisations
Trois autres demandes arrivent chez Quillmere ce trimestre :
- Un assureur public de santé de l’Ontario veut tester le modèle sur les réclamations anonymisées de l’an dernier, dans un environnement d’essai, avant de décider s’il l’achète.
- Une caisse québécoise veut que le modèle approuve des hausses de limite de crédit sans aucune intervention humaine.
- Un ministère fédéral veut qu’il classe des rapports d’inspection par urgence, pour que les inspecteurs visitent d’abord les pires sites.
Pour chacune, dites quelle règle de cette leçon s’applique le plus probablement, qui porterait l’obligation, et ce que Quillmere devrait préparer.
Voir la réponse modèle
- Probablement aucune des règles d’évaluation de cette leçon pour l’instant. La directive ne s’applique pas à un organisme provincial, et même pour un organisme fédéral, les environnements d’essai sont exclus. Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 Quillmere documente tout de même l’essai, pour que la description soit prête si l’assureur achète.
- Les règles québécoises, l’obligation de la caisse. Le projet appelle une évaluation des facteurs relatifs à la vie privée RLRQ c. P-39.1, art. 3.3 et 17, et approuver des limites sans intervention humaine est une décision fondée exclusivement sur un traitement automatisé. RLRQ c. P-39.1, art. 12.1 Quillmere prépare la description ainsi que les principaux facteurs et paramètres que la caisse aura à expliquer.
- La directive, l’obligation du ministère. Classer des rapports pour décider où vont les inspecteurs est une évaluation liée à des décisions administratives. Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 Quillmere prépare le matériel pour l’évaluation de l’incidence algorithmique du ministère.
Pourquoi c’est la meilleure réponse
Partez de l’utilisation, pas du modèle : le même modèle est visé pour un client et hors champ pour un autre. Nommez ensuite le titulaire de l’obligation, parce que le fournisseur fournit l’information mais ne porte pas l’évaluation du client. Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 Règlement sur l'IA, art. 27, par. 1 à 4; par. 4 tel que remplacé par le règlement (UE) 2026/1744, art. 1er, point 13) a)
Tableau de filtrage des incidences de l’IA
Une ligne par utilisation du système : la règle applicable, qui porte l’obligation, l’évaluation qu’elle appelle et ce que fournit le fournisseur, avec les exclusions à vérifier d’abord.
Vérifiez vos connaissances
Sources citées dans cette leçon
- Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 texte officiel à jour au 2025-06-24, vérifié le 2026-11-01
- Directive sur la prise de décisions automatisée, sous-sections 1.1, 1.2.1 et 1.3 texte officiel à jour au 2025-06-24, vérifié le 2026-10-29
- RLRQ c. P-39.1, art. 3.3 et 17 texte officiel à jour au 2026-10-15, vérifié le 2026-11-01
- RLRQ c. P-39.1, art. 3.3 texte officiel à jour au 2026-10-15, vérifié le 2026-10-26
- RLRQ c. P-39.1, art. 12.1 texte officiel à jour au 2026-10-15, vérifié le 2026-10-24
- Règlement sur l'IA, art. 26, par. 1, 2, 4, 5 (deux alinéas), 6 (deux phrases), 7, 8 et 11; considérant 158 texte officiel à jour au 2026-07-27, vérifié le 2026-11-03
- Règlement sur l'IA, art. 3, points 1), 3) et 4) texte officiel à jour au 2026-07-27, vérifié le 2026-10-29
- Règlement sur l'IA, art. 27, par. 1 à 4; par. 4 tel que remplacé par le règlement (UE) 2026/1744, art. 1er, point 13) a) texte officiel à jour au 2026-07-27, vérifié le 2026-11-01
- Règlement (UE) 2024/1689, art. 2, par. 2, art. 111, par. 4, et art. 113, tel que modifié par le règlement (UE) 2026/1744 texte officiel à jour au 2026-07-27, vérifié le 2026-11-01
- Règlement sur l'IA, art. 111, par. 1, 2 et 3, par. 2 tel que remplacé par le règlement (UE) 2026/1744; règlement (UE) 2026/1744, considérant 39 texte officiel à jour au 2026-07-27, vérifié le 2026-11-01
- RGPD, art. 35, par. 1 et 3, point a) texte officiel à jour au 2016-05-04, vérifié le 2026-10-26
- NIST AI RMF 1.0 (NIST AI 100-1) vérifié le 2026-10-29
Obtenez le cours complet
Un seul paiement de 59 USD. Toutes les leçons, les vérifications des connaissances, l’examen final et l’attestation s’ouvrent dans votre compte. La première leçon est offerte gratuitement.
Les prix sont en dollars américains. Conditions de vente · Avis de confidentialité
Vous pouvez demander le remboursement complet d’un cours dans les 14 jours suivant l’achat, si vous n’avez pas réussi son examen final.