À propos de ce cours
Ce cours pratique s’adresse à la personne chargée d’évaluer un système d’IA et de faire approuver cette évaluation. Il part de la première question de filtrage, quelles règles appellent une évaluation de cette utilisation et qui porte l’obligation, et se termine par une évaluation approuvée, publiée lorsque les règles le prévoient, et tenue à jour.
Tout le cours suit une entreprise fictive, Quillmere Decision Systems, et son modèle de tri des réclamations, qu’un ministère fédéral, un assureur québécois et un assureur vie européen veulent chacun utiliser. Chaque leçon franchit une étape de l’évaluation selon la Directive fédérale sur la prise de décisions automatisée, le droit québécois, le règlement européen sur l’IA et le RGPD, et vous donne un gabarit pour cette étape, pour que vous repartiez avec une trousse à adapter à votre propre système.
À qui s’adresse ce cours
Le cours s’adresse aux personnes qui mènent ou alimentent une évaluation d’incidence de l’IA :
- les responsables de la gouvernance de l’IA et de la vie privée ;
- les responsables de produits dont le système prend ou appuie des décisions sur des personnes ;
- les fournisseurs dont le système servira à un ministère fédéral, à une entreprise québécoise ou à un déployeur européen ;
- les gestionnaires et conseillers juridiques qui revoient les évaluations avant leur signature.
Il suppose que vous savez ce qu’est un programme de gouvernance de l’IA. Sinon, commencez par le cours de base gratuit sur la gouvernance de l’IA, qui enseigne le programme ; ce cours-ci mène une évaluation du début à la fin.
Ce que vous saurez faire
À la fin du cours, vous saurez :
- Dire quelles règles appellent une évaluation d’incidence pour une utilisation donnée d’un système d’IA, et qui porte chaque obligation.
- Rédiger le profil du système dont part une évaluation d’incidence.
- Obtenir un niveau d’incidence avec l’évaluation de l’incidence algorithmique, et l’expliquer.
- Choisir l’assurance de la qualité, l’examen par les pairs et la participation humaine qu’appelle chaque niveau d’incidence.
- Rédiger l’avis et l’explication que demande chaque régime, et mettre en place une vraie voie vers une personne qui peut réviser la décision.
- Faire approuver et publier une évaluation avant la production lorsque la directive s’applique, et la tenir à jour.
Ce que disent le droit et les cadres
La Directive fédérale sur la prise de décisions automatisée s’applique aux institutions assujetties à la Politique sur les services et le numérique, et à tout système décisionnel automatisé en production qui sert à prendre une décision administrative, ou une évaluation connexe, concernant une personne. Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 L’obligation revient au ministère qui utilise le système. Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 Le fournisseur fournit une grande part de ce dont l’évaluation a besoin.
L’évaluation de l’incidence algorithmique place le système à un niveau d’incidence, du niveau I au niveau IV, et le niveau fixe les exigences de l’annexe C de la directive. SCT, Outil d'évaluation de l'incidence algorithmique, sections 1, 2, 2.1 et 2.2 (tableaux 1.1 à 5); Directive sur la prise de décisions automatisée, annexe B Les résultats définitifs sont approuvés et publiés sur le Portail du gouvernement ouvert avant la mise en production du système, puis examinés et mis à jour à intervalles réguliers et lorsque la fonctionnalité ou la portée du système change. Directive sur la prise de décisions automatisée, section 6 (préambule), sous-sections 6.1.1 à 6.1.3
Au Québec, pour une décision fondée exclusivement sur un traitement automatisé de renseignements personnels, l’entreprise en informe la personne, lui explique sur demande les renseignements utilisés ainsi que les principaux facteurs et paramètres, et lui donne l’occasion de présenter ses observations à un membre du personnel en mesure de réviser la décision. RLRQ c. P-39.1, art. 12.1
Dans l’Union européenne, certains déployeurs de systèmes d’IA à haut risque effectuent une analyse de l’impact sur les droits fondamentaux avant la première utilisation, notamment les déployeurs de systèmes destinés à l’évaluation des risques et à la tarification en assurance vie et maladie, et en notifient les résultats à l’autorité de surveillance du marché. Règlement sur l'IA, art. 27, par. 1 à 4; par. 4 tel que remplacé par le règlement (UE) 2026/1744, art. 1er, point 13) a) Ces obligations s’appliquent à partir du 2 décembre 2027 pour les systèmes visés à l’annexe III, et à un système déjà mis sur le marché ou mis en service seulement après un changement important de sa conception, ou au plus tard le 2 août 2030 pour les systèmes destinés à être utilisés par des autorités publiques. Règlement (UE) 2024/1689, art. 2, par. 2, art. 111, par. 4, et art. 113, tel que modifié par le règlement (UE) 2026/1744 Règlement sur l'IA, art. 111, par. 1, 2 et 3, par. 2 tel que remplacé par le règlement (UE) 2026/1744; règlement (UE) 2026/1744, considérant 39 Le cadre de gestion des risques de l’IA du NIST est destiné à un usage volontaire, et le cours l’utilise comme méthode, pas comme obligation. NIST AI RMF 1.0 (NIST AI 100-1)
La façon de décrire le système, de vérifier les réponses qui pèsent le plus et de tenir un registre de suivi est laissée à l’organisation. Le cours enseigne une méthode solide pour chacune et dit clairement où il s’agit de pratique, et non de droit.
Leçon par leçon
Chaque leçon réunit une lecture, une courte vidéo, un exemple tiré de Quillmere, un exercice avec une réponse modèle, une courte vérification des connaissances et un gabarit à adapter. Voici ce que couvre chacune.
Quand un système d’IA appelle une évaluation d’incidence
Dans cette leçon, vous apprenez à :
- Dire quelles règles appellent une évaluation d’incidence pour une utilisation donnée d’un système d’IA.
- Expliquer qui porte chaque obligation : le ministère, l’entreprise québécoise ou le déployeur européen.
- Utiliser le cadre de gestion des risques de l’IA du NIST comme méthode volontaire sous ces obligations.
Gabarit : Tableau de filtrage des incidences de l’IA. Une ligne par utilisation du système : la règle applicable, qui porte l’obligation, l’évaluation qu’elle appelle et ce que fournit le fournisseur, avec les exclusions à vérifier d’abord.
Décrire le système : fin, décision, données, personnes
Dans cette leçon, vous apprenez à :
- Rédiger le profil du système dont part une évaluation d’incidence.
- Nommer la décision, dire si le système appuie ou décide, et énumérer qui il touche.
- Décrire les données d’entraînement, d’entrée et de sortie, et les limites connues du modèle.
Gabarit : Profil du système d’IA. La fin, la décision et si le système appuie ou décide, les personnes et groupes touchés, les données d’entraînement, d’entrée et de sortie, le modèle et ses limites connues, et les responsables, en un document tenu à jour.
Noter l’incidence : les quatre niveaux
Dans cette leçon, vous apprenez à :
- Obtenir un niveau d’incidence avec l’évaluation de l’incidence algorithmique, et l’expliquer.
- Vérifier les réponses qui pèsent le plus, y compris la déduction pour l’atténuation.
- Comparer les niveaux fédéraux avec la gestion des risques et l’analyse sur les droits fondamentaux de l’Union européenne, et l’approche proportionnée du Québec.
Gabarit : Grille du niveau d’incidence. La note d’incidence brute, la note d’atténuation et la vérification de la déduction, le niveau obtenu, les preuves derrière les réponses qui pèsent le plus, et une comparaison avec les approches européenne et québécoise.
Des mesures à la hauteur du niveau
Dans cette leçon, vous apprenez à :
- Choisir l’assurance de la qualité, l’examen par les pairs et la participation humaine qu’appelle chaque niveau d’incidence.
- Planifier les essais de biais, le suivi et l’approbation de l’exploitation d’un système de niveau III.
- Écrire pourquoi chaque mesure suffit, pour les examens fédéral, européen et québécois.
Gabarit : Plan des mesures par niveau. Les exigences fédérales en matière d’assurance de la qualité, d’examen par les pairs, de participation humaine et d’approbation à chaque niveau, une ligne par risque avec sa mesure, son responsable, sa vérification et la raison pour laquelle elle suffit, et les équivalents européens et québécois.
Les personnes touchées : avis, explication, recours
Dans cette leçon, vous apprenez à :
- Rédiger l’avis et l’explication que demande chaque régime, en langage clair.
- Mettre en place une vraie voie vers une personne qui peut réviser et changer la décision.
- Répondre à une demande sur les facteurs d’une décision automatisée, avec une bonne cible de temps.
Gabarit : Lettre de décision et liste de vérification de l’explication. Une lettre en trois parties (ce qui a été décidé, les principaux facteurs, comment demander une révision), une courte explication publiée du fonctionnement du système, et une liste de ce que la directive, le droit québécois et le RGPD demandent à chacune de contenir.
Approuver, publier, tenir à jour
Dans cette leçon, vous apprenez à :
- Faire approuver et publier une évaluation avant la production lorsque la directive s’applique.
- Repérer les changements qui rouvrent une évaluation, et la mettre à jour selon un calendrier.
- Tenir un seul registre d’approbation et de suivi qui couvre les examens, les résultats et les incidents.
Gabarit : Registre d’approbation et de suivi. Les approbations et publications à terminer avant le lancement, un calendrier des examens, et un registre des changements, des contrôles réguliers des résultats et des incidents, avec ce que chacun signifie pour l’évaluation, selon la directive et le règlement européen sur l’IA.
Questions fréquentes
Nous vendons un système d’IA à un ministère fédéral. La directive s’applique-t-elle à nous ?
La directive s’applique à l’institution qui utilise le système pour des décisions administratives concernant des clients : l’obligation est donc celle du ministère. Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 En pratique, le ministère vous demandera l’essentiel de ce dont son évaluation a besoin, et le cours montre quoi préparer.
Faut-il suivre le cadre du NIST ?
Le NIST précise que son cadre de gestion des risques de l’IA est destiné à un usage volontaire. NIST AI RMF 1.0 (NIST AI 100-1) Le cours l’utilise comme méthode commune qui s’insère sous les obligations fédérales, québécoises et européennes.
Est-ce que je repars avec quelque chose d’utile ?
Oui. Chaque leçon se termine par un gabarit : un tableau de filtrage, un profil du système, une feuille de calcul du niveau d’incidence, un plan des mesures, une lettre de décision et un registre d’approbation et de suivi.
Ce cours est-il un avis juridique ?
Non. C’est un contenu éducatif qui explique les règles et les bonnes pratiques en termes simples. Chaque point juridique des leçons renvoie à sa source officielle pour que vous puissiez la lire vous-même, et pour une décision importante, consultez un avocat.
Puis-je suivre le cours en anglais ?
Oui. Les leçons, les vidéos, les gabarits et l’examen sont offerts en français et en anglais, et vous pouvez changer de langue en haut de chaque page.
Comment mon apprentissage est-il vérifié ?
Chaque leçon se termine par une courte vérification des connaissances, et le cours se termine par un examen fondé sur des scénarios.