L’évaluation des risques et des incidences de l’IA en pratique

Un cours pratique qui vous fait mener une évaluation d’incidence de l’IA de la première question de filtrage jusqu’à un résultat approuvé, publié et suivi, selon la directive fédérale, le droit québécois, le règlement européen sur l’IA et le RGPD, avec une entreprise fictive et un gabarit pour chaque étape.

59 USDPraticienENFR
1 h 51 min d’apprentissage
Lire la première leçon gratuite

Vous pouvez demander le remboursement complet d’un cours dans les 14 jours suivant l’achat, si vous n’avez pas réussi son examen final.

Contenu éducatif, non un avis juridique.

Ce que vous apprendrez

  • Quand un système d’IA appelle une évaluation d’incidence
  • Décrire le système : fin, décision, données, personnes
  • Noter l’incidence : les quatre niveaux
  • Des mesures à la hauteur du niveau
  • Les personnes touchées : avis, explication, recours
  • Approuver, publier, tenir à jour

Programme

  1. 1Quand un système d’IA appelle une évaluation d’incidenceLeçon gratuite
  2. 2Décrire le système : fin, décision, données, personnesIncluse dans l’achat
  3. 3Noter l’incidence : les quatre niveauxIncluse dans l’achat
  4. 4Des mesures à la hauteur du niveauIncluse dans l’achat
  5. 5Les personnes touchées : avis, explication, recoursIncluse dans l’achat
  6. 6Approuver, publier, tenir à jourIncluse dans l’achat

À propos de ce cours

Ce cours pratique s’adresse à la personne chargée d’évaluer un système d’IA et de faire approuver cette évaluation. Il part de la première question de filtrage, quelles règles appellent une évaluation de cette utilisation et qui porte l’obligation, et se termine par une évaluation approuvée, publiée lorsque les règles le prévoient, et tenue à jour.

Tout le cours suit une entreprise fictive, Quillmere Decision Systems, et son modèle de tri des réclamations, qu’un ministère fédéral, un assureur québécois et un assureur vie européen veulent chacun utiliser. Chaque leçon franchit une étape de l’évaluation selon la Directive fédérale sur la prise de décisions automatisée, le droit québécois, le règlement européen sur l’IA et le RGPD, et vous donne un gabarit pour cette étape, pour que vous repartiez avec une trousse à adapter à votre propre système.

À qui s’adresse ce cours

Le cours s’adresse aux personnes qui mènent ou alimentent une évaluation d’incidence de l’IA :

  • les responsables de la gouvernance de l’IA et de la vie privée ;
  • les responsables de produits dont le système prend ou appuie des décisions sur des personnes ;
  • les fournisseurs dont le système servira à un ministère fédéral, à une entreprise québécoise ou à un déployeur européen ;
  • les gestionnaires et conseillers juridiques qui revoient les évaluations avant leur signature.

Il suppose que vous savez ce qu’est un programme de gouvernance de l’IA. Sinon, commencez par le cours de base gratuit sur la gouvernance de l’IA, qui enseigne le programme ; ce cours-ci mène une évaluation du début à la fin.

Ce que vous saurez faire

À la fin du cours, vous saurez :

  • Dire quelles règles appellent une évaluation d’incidence pour une utilisation donnée d’un système d’IA, et qui porte chaque obligation.
  • Rédiger le profil du système dont part une évaluation d’incidence.
  • Obtenir un niveau d’incidence avec l’évaluation de l’incidence algorithmique, et l’expliquer.
  • Choisir l’assurance de la qualité, l’examen par les pairs et la participation humaine qu’appelle chaque niveau d’incidence.
  • Rédiger l’avis et l’explication que demande chaque régime, et mettre en place une vraie voie vers une personne qui peut réviser la décision.
  • Faire approuver et publier une évaluation avant la production lorsque la directive s’applique, et la tenir à jour.

Ce que disent le droit et les cadres

La Directive fédérale sur la prise de décisions automatisée s’applique aux institutions assujetties à la Politique sur les services et le numérique, et à tout système décisionnel automatisé en production qui sert à prendre une décision administrative, ou une évaluation connexe, concernant une personne. Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 L’obligation revient au ministère qui utilise le système. Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 Le fournisseur fournit une grande part de ce dont l’évaluation a besoin.

L’évaluation de l’incidence algorithmique place le système à un niveau d’incidence, du niveau I au niveau IV, et le niveau fixe les exigences de l’annexe C de la directive. SCT, Outil d'évaluation de l'incidence algorithmique, sections 1, 2, 2.1 et 2.2 (tableaux 1.1 à 5); Directive sur la prise de décisions automatisée, annexe B Les résultats définitifs sont approuvés et publiés sur le Portail du gouvernement ouvert avant la mise en production du système, puis examinés et mis à jour à intervalles réguliers et lorsque la fonctionnalité ou la portée du système change. Directive sur la prise de décisions automatisée, section 6 (préambule), sous-sections 6.1.1 à 6.1.3

Au Québec, pour une décision fondée exclusivement sur un traitement automatisé de renseignements personnels, l’entreprise en informe la personne, lui explique sur demande les renseignements utilisés ainsi que les principaux facteurs et paramètres, et lui donne l’occasion de présenter ses observations à un membre du personnel en mesure de réviser la décision. RLRQ c. P-39.1, art. 12.1

Dans l’Union européenne, certains déployeurs de systèmes d’IA à haut risque effectuent une analyse de l’impact sur les droits fondamentaux avant la première utilisation, notamment les déployeurs de systèmes destinés à l’évaluation des risques et à la tarification en assurance vie et maladie, et en notifient les résultats à l’autorité de surveillance du marché. Règlement sur l'IA, art. 27, par. 1 à 4; par. 4 tel que remplacé par le règlement (UE) 2026/1744, art. 1er, point 13) a) Ces obligations s’appliquent à partir du 2 décembre 2027 pour les systèmes visés à l’annexe III, et à un système déjà mis sur le marché ou mis en service seulement après un changement important de sa conception, ou au plus tard le 2 août 2030 pour les systèmes destinés à être utilisés par des autorités publiques. Règlement (UE) 2024/1689, art. 2, par. 2, art. 111, par. 4, et art. 113, tel que modifié par le règlement (UE) 2026/1744 Règlement sur l'IA, art. 111, par. 1, 2 et 3, par. 2 tel que remplacé par le règlement (UE) 2026/1744; règlement (UE) 2026/1744, considérant 39 Le cadre de gestion des risques de l’IA du NIST est destiné à un usage volontaire, et le cours l’utilise comme méthode, pas comme obligation. NIST AI RMF 1.0 (NIST AI 100-1)

La façon de décrire le système, de vérifier les réponses qui pèsent le plus et de tenir un registre de suivi est laissée à l’organisation. Le cours enseigne une méthode solide pour chacune et dit clairement où il s’agit de pratique, et non de droit.

Leçon par leçon

Chaque leçon réunit une lecture, une courte vidéo, un exemple tiré de Quillmere, un exercice avec une réponse modèle, une courte vérification des connaissances et un gabarit à adapter. Voici ce que couvre chacune.

Quand un système d’IA appelle une évaluation d’incidence

Dans cette leçon, vous apprenez à :

  • Dire quelles règles appellent une évaluation d’incidence pour une utilisation donnée d’un système d’IA.
  • Expliquer qui porte chaque obligation : le ministère, l’entreprise québécoise ou le déployeur européen.
  • Utiliser le cadre de gestion des risques de l’IA du NIST comme méthode volontaire sous ces obligations.

Gabarit : Tableau de filtrage des incidences de l’IA. Une ligne par utilisation du système : la règle applicable, qui porte l’obligation, l’évaluation qu’elle appelle et ce que fournit le fournisseur, avec les exclusions à vérifier d’abord.

Décrire le système : fin, décision, données, personnes

Dans cette leçon, vous apprenez à :

  • Rédiger le profil du système dont part une évaluation d’incidence.
  • Nommer la décision, dire si le système appuie ou décide, et énumérer qui il touche.
  • Décrire les données d’entraînement, d’entrée et de sortie, et les limites connues du modèle.

Gabarit : Profil du système d’IA. La fin, la décision et si le système appuie ou décide, les personnes et groupes touchés, les données d’entraînement, d’entrée et de sortie, le modèle et ses limites connues, et les responsables, en un document tenu à jour.

Noter l’incidence : les quatre niveaux

Dans cette leçon, vous apprenez à :

  • Obtenir un niveau d’incidence avec l’évaluation de l’incidence algorithmique, et l’expliquer.
  • Vérifier les réponses qui pèsent le plus, y compris la déduction pour l’atténuation.
  • Comparer les niveaux fédéraux avec la gestion des risques et l’analyse sur les droits fondamentaux de l’Union européenne, et l’approche proportionnée du Québec.

Gabarit : Grille du niveau d’incidence. La note d’incidence brute, la note d’atténuation et la vérification de la déduction, le niveau obtenu, les preuves derrière les réponses qui pèsent le plus, et une comparaison avec les approches européenne et québécoise.

Des mesures à la hauteur du niveau

Dans cette leçon, vous apprenez à :

  • Choisir l’assurance de la qualité, l’examen par les pairs et la participation humaine qu’appelle chaque niveau d’incidence.
  • Planifier les essais de biais, le suivi et l’approbation de l’exploitation d’un système de niveau III.
  • Écrire pourquoi chaque mesure suffit, pour les examens fédéral, européen et québécois.

Gabarit : Plan des mesures par niveau. Les exigences fédérales en matière d’assurance de la qualité, d’examen par les pairs, de participation humaine et d’approbation à chaque niveau, une ligne par risque avec sa mesure, son responsable, sa vérification et la raison pour laquelle elle suffit, et les équivalents européens et québécois.

Les personnes touchées : avis, explication, recours

Dans cette leçon, vous apprenez à :

  • Rédiger l’avis et l’explication que demande chaque régime, en langage clair.
  • Mettre en place une vraie voie vers une personne qui peut réviser et changer la décision.
  • Répondre à une demande sur les facteurs d’une décision automatisée, avec une bonne cible de temps.

Gabarit : Lettre de décision et liste de vérification de l’explication. Une lettre en trois parties (ce qui a été décidé, les principaux facteurs, comment demander une révision), une courte explication publiée du fonctionnement du système, et une liste de ce que la directive, le droit québécois et le RGPD demandent à chacune de contenir.

Approuver, publier, tenir à jour

Dans cette leçon, vous apprenez à :

  • Faire approuver et publier une évaluation avant la production lorsque la directive s’applique.
  • Repérer les changements qui rouvrent une évaluation, et la mettre à jour selon un calendrier.
  • Tenir un seul registre d’approbation et de suivi qui couvre les examens, les résultats et les incidents.

Gabarit : Registre d’approbation et de suivi. Les approbations et publications à terminer avant le lancement, un calendrier des examens, et un registre des changements, des contrôles réguliers des résultats et des incidents, avec ce que chacun signifie pour l’évaluation, selon la directive et le règlement européen sur l’IA.

Questions fréquentes

Nous vendons un système d’IA à un ministère fédéral. La directive s’applique-t-elle à nous ?

La directive s’applique à l’institution qui utilise le système pour des décisions administratives concernant des clients : l’obligation est donc celle du ministère. Directive sur la prise de décisions automatisée, sous-sections 5.1, 5.2, 8.1 et 8.2; annexe A (décision administrative); Politique sur les services et le numérique, sous-section 6.1 En pratique, le ministère vous demandera l’essentiel de ce dont son évaluation a besoin, et le cours montre quoi préparer.

Faut-il suivre le cadre du NIST ?

Le NIST précise que son cadre de gestion des risques de l’IA est destiné à un usage volontaire. NIST AI RMF 1.0 (NIST AI 100-1) Le cours l’utilise comme méthode commune qui s’insère sous les obligations fédérales, québécoises et européennes.

Est-ce que je repars avec quelque chose d’utile ?

Oui. Chaque leçon se termine par un gabarit : un tableau de filtrage, un profil du système, une feuille de calcul du niveau d’incidence, un plan des mesures, une lettre de décision et un registre d’approbation et de suivi.

Ce cours est-il un avis juridique ?

Non. C’est un contenu éducatif qui explique les règles et les bonnes pratiques en termes simples. Chaque point juridique des leçons renvoie à sa source officielle pour que vous puissiez la lire vous-même, et pour une décision importante, consultez un avocat.

Puis-je suivre le cours en anglais ?

Oui. Les leçons, les vidéos, les gabarits et l’examen sont offerts en français et en anglais, et vous pouvez changer de langue en haut de chaque page.

Comment mon apprentissage est-il vérifié ?

Chaque leçon se termine par une courte vérification des connaissances, et le cours se termine par un examen fondé sur des scénarios.

Obtenez le cours complet

Un seul paiement de 59 USD. Toutes les leçons, les vérifications des connaissances, l’examen final et l’attestation s’ouvrent dans votre compte. La première leçon est offerte gratuitement.

Les prix sont en dollars américains. Conditions de vente · Avis de confidentialité

Vous pouvez demander le remboursement complet d’un cours dans les 14 jours suivant l’achat, si vous n’avez pas réussi son examen final.

Examen final

Après avoir lu les leçons, passez l’examen final. Réussissez-le et nous vous envoyons par courriel une attestation que vous pouvez partager et que tout le monde peut vérifier.

Passer l’examen final