Leçon 2

Où l’IA se trompe, et comment la vérifier

Vidéo
4 min
Lecture
14 min
Exercice
12 min
Total
30 min

Contenu éducatif, non un avis juridique.

Dans cette leçon, vous allez

  1. Nommer les quatre façons courantes dont les résultats de l’IA se trompent et reconnaître chacune dans un exemple de travail.
  2. Vérifier un résultat de l’IA avec deux questions : d’où vient chaque fait, et qui est touché si c’est faux.
  3. Ajuster la profondeur de la vérification aux enjeux, d’une lecture rapide à une deuxième personne.
  4. Prendre des habitudes de requête qui rendent les erreurs moins probables, sans les voir comme un substitut à la vérification.

Leçon vidéo

Durée : 3:10
Lire la transcription

Rebonjour, et bienvenue à La maîtrise de l’IA au travail. Leçon deux : où l’IA se trompe, et comment vérifier ce qu’elle vous donne.

Les outils d’IA se trompent de quatre façons courantes. Ils inventent des choses. Ils répètent les biais des données dont ils ont appris. Ils donnent de l’information périmée. Et ils lisent mal ce que vous leur avez donné, comme un résumé qui oublie la seule phrase qui comptait. Aucune de ces erreurs n’arrive avec une étiquette d’avertissement. La mauvaise réponse semble aussi calme et sûre que la bonne.

Commençons par les faits inventés. Un assistant conversationnel peut inventer une affaire judiciaire, une citation, une statistique ou une politique qui semble réelle. Il peut donner un lien Web qui ne mène nulle part. Cela arrive parce que l’outil prédit un texte probable. Une fausse source ressemble à une vraie. La règle est donc simple. Chaque fait important a besoin d’une source que vous pouvez ouvrir, et vous l’ouvrez. Si l’outil ne donne aucune source, trouvez-en une vous-même, ou retirez le fait.

Ensuite, les biais. L’IA apprend à partir de données passées, et les données passées portent les injustices passées. Un outil qui classe des candidats ou des locataires peut noter certains groupes plus bas pour des raisons qui n’ont rien à voir avec l’emploi, ou avec le paiement du loyer à temps. Il peut aussi traiter des gens injustement à cause de la langue, par exemple un outil qui comprend moins bien un accent. Quand un résultat de l’IA touche des personnes, regardez qui il pourrait laisser de côté. Vous n’avez pas à auditer l’outil. Vous avez à remarquer, et à prévenir son responsable.

Alors, comment vérifier ? Posez deux questions. D’abord, la source : d’où vient chaque fait, et cette source le dit-elle vraiment ? Ensuite, les enjeux : qui est touché si c’est faux ? Un résumé pour vos propres notes demande une lecture rapide. Un avis à deux cents locataires, ou une décision sur une personne, demande une vérification attentive, et parfois une deuxième personne. Ensuite, vous modifiez, vous corrigez ou vous demandez.

Il y a aussi un volet juridique. Là où la LPRPDE s’applique, les renseignements personnels doivent être aussi exacts, complets et à jour que l’exigent leurs fins. LPRPDE annexe 1, art. 4.9 et 4.6 Un résumé de l’IA qui se trompe sur l’historique d’un locataire n’est donc pas une simple coquille quand il entre dans son dossier. Chez notre gestionnaire immobilier fictif, Quillfield, un compte rendu de réunion par IA a un jour placé une plainte sous le mauvais logement. Une gestionnaire l’a repéré avant qu’il entre au dossier.

En résumé : l’IA peut se tromper, être biaisée ou dépassée, et elle ne vous le dira pas. Vérifiez la source, pesez les enjeux, et vous restez l’auteur. À la prochaine leçon : ce qui n’entre jamais dans un outil d’IA.

Notes de cours

Quatre façons dont l’IA se trompe

La leçon 1 a montré qu’un assistant conversationnel prédit des mots probables. Ce seul fait explique la plupart des erreurs de l’IA. Elles se rangent en quatre groupes.

Ce qui clocheÀ quoi cela ressemble au travail
Faits inventésUne politique, une citation, un chiffre, une affaire judiciaire ou un lien Web inventé qui semble réel
BiaisDe moins bons résultats pour certains groupes de personnes, appris dans des données passées
Information périméeUne ancienne règle, un ancien prix ou un ancien contact présenté comme actuel
Mauvaise lectureUn résumé qui oublie la phrase clé, ou qui confond deux personnes ou deux logements

Aucune de ces erreurs n’arrive avec un avertissement. La mauvaise réponse est écrite dans le même style calme et assuré que la bonne.

Les faits inventés

On les appelle parfois des « hallucinations ». L’outil ne ment pas et il n’est pas brisé. Il fait ce pour quoi il a été conçu : produire un texte probable. Une source inventée ressemble exactement à une vraie, parce que l’outil a appris à quoi ressemblent les sources.

Exemples typiques au travail :

  • Une politique qui ressemble à celle de votre entreprise, mais qui ne figure dans aucun de vos documents.
  • Une « citation » d’une loi ou d’un contrat qui n’apparaît pas dans le texte.
  • Une statistique au chiffre précis (« 63 % des locataires préfèrent... ») sans aucune étude réelle derrière.
  • Un lien Web ou un numéro de référence qui ne mène nulle part, ou à une page sur un autre sujet.
  • Un nom ou un titre de poste presque juste, mais faux.

La solution : chaque fait important a besoin d’une source que vous pouvez ouvrir, et vous l’ouvrez. Si l’outil donne un lien, cliquez dessus et trouvez la phrase. S’il ne donne aucune source, trouvez-en une vous-même, ou retirez le fait.

Les biais

L’IA apprend à partir de données passées, et les données passées portent les injustices passées. Si un outil a appris à partir d’années de décisions où certains groupes étaient moins bien traités, il peut répéter ce schéma, discrètement et à grande échelle.

Où les biais apparaissent au travail :

  • Classer et noter des personnes : candidats à un emploi, candidats locataires, clients envoyés en recouvrement. Une note peut s’appuyer sur des éléments qui remplacent l’âge, l’origine ou un handicap, comme un code postal, une interruption de carrière ou un nom.
  • La langue : un outil peut moins bien comprendre certains accents, dialectes ou styles d’écriture, puis traiter les demandes de ces personnes comme moins urgentes ou moins claires.
  • Les images et les mots : les images et les textes générés peuvent répéter des stéréotypes sur qui fait quel travail.

On ne vous demande pas d’auditer un modèle. On vous demande de remarquer. Quand un résultat de l’IA touche des personnes, demandez-vous : qui pourrait être laissé de côté, ou moins bien traité ? Si quelque chose semble anormal, signalez-le au responsable de l’outil.

L’information périmée

La plupart des modèles ont appris à partir de données arrêtées à une certaine date. À moins que l’outil fasse une recherche sur le Web ou dans vos documents, il peut décrire une ancienne règle comme actuelle, citer le prix de l’an dernier ou nommer une personne qui a changé de poste. Et il ne vous dira peut-être pas que ses connaissances s’arrêtent à une date.

Soyez le plus prudent avec tout ce qui change : les règles et les lois, les tarifs et les frais, les contacts, les détails de produits et l’actualité récente.

Mal lire ce que vous lui avez donné

Même quand vous donnez le bon document à l’outil, il peut se tromper :

  • Un résumé oublie une exception, une date ou le mot « pas ».
  • Deux personnes, deux logements ou deux factures sont confondus.
  • Des nombres sont arrondis, mal additionnés ou copiés de la mauvaise ligne.
  • Une traduction change le ton, ou transforme une demande en exigence.

Les longs documents augmentent le risque. Demander à l’outil plusieurs choses à la fois aussi.

Pourquoi on rate les erreurs de l’IA

Le plus grand risque n’est pas l’outil. C’est la personne qui cesse de vérifier. Quand un outil a raison la plupart du temps, on se détend et on commence à approuver ses résultats sans les lire. C’est ce qu’on appelle parfois le biais d’automatisation. Il est le plus fort quand on est occupé, quand le résultat a l’air soigné et quand l’outil a eu raison bien des fois.

Le remède est une habitude, pas une humeur : décidez à l’avance quels résultats reçoivent quelle vérification.

Comment vérifier : la source et les enjeux

Posez deux questions chaque fois.

1. La source : d’où vient chaque fait, et cette source le dit-elle vraiment ?

  • Ouvrez chaque lien. Trouvez la phrase exacte.
  • Vérifiez les noms, les dates, les montants et les numéros de logement dans votre propre système.
  • Comparez un résumé avec l’original pour tout ce qui change le sens : exceptions, dates, montants, « pas ».
  • Si l’outil n’indique aucune source, traitez le fait comme non confirmé.

2. Les enjeux : qui est touché si c’est faux ?

EnjeuxExempleVérification
FaiblesDes notes pour vous, des idées, une première ébauche que vous seul verrezUne lecture rapide
MoyensUn courriel à un client ou à un locataire, un rapport interneUne lecture attentive, chaque fait vérifié
ÉlevésUn avis à de nombreuses personnes, tout ce qui touche l’argent, la sécurité ou les droits d’une personne, une décision sur une personneUne vérification attentive et une deuxième personne, ou pas d’IA du tout

Puis faites l’une de trois choses : modifier le résultat, le corriger à la source, ou demander à quelqu’un qui sait.

Vérifier est une bonne pratique, pas une formule juridique. Mais là où la LPRPDE s’applique, les renseignements personnels doivent être aussi exacts, complets et à jour que l’exigent les fins auxquelles ils sont destinés. LPRPDE annexe 1, art. 4.9 et 4.6 Un mauvais résumé de l’IA versé au dossier d’une personne est donc plus qu’une coquille.

De meilleures requêtes réduisent les erreurs

Vous ne pouvez pas empêcher toutes les erreurs, mais vous pouvez les rendre moins probables.

  • Donnez à l’outil le texte source, et demandez-lui de n’utiliser que ce texte.
  • Demandez-lui de citer la phrase sur laquelle il s’appuie pour chaque point.
  • Demandez-lui de dire « je ne sais pas » quand le texte ne répond pas à la question.
  • Demandez une seule chose à la fois.
  • Demandez-lui d’énumérer ce dont il n’est pas certain. Vérifiez ces points en premier.

Ces habitudes aident. Elles ne remplacent pas la vérification.

Exemple commenté

Un avis de hausse de loyer qui a failli partir avec des erreurs

Organisation fictive. Gestion immobilière Quillfield inc. a été inventée pour ce cours. Toute ressemblance avec une entreprise réelle serait une coïncidence.

Une gestionnaire immobilière de Quillfield avait besoin d’un avis pour les 140 locataires d’un immeuble de Halifax, expliquant la révision annuelle des loyers et le nouveau système de cartes de buanderie. Pressée par le temps, elle a demandé à l’assistant conversationnel approuvé par l’entreprise de le rédiger à partir de ses notes.

L’ébauche était claire et chaleureuse. Elle contenait aussi trois problèmes.

Ce que disait l’ébaucheCe qui était vraiType d’erreur
« Selon la loi provinciale, vous recevez trois mois d’avis pour ce changement. »Ses notes ne disaient rien de la loi ni de la période d’avis.Fait inventé
« Les cartes de buanderie se rechargent à l’accueil ou en ligne. »La recharge en ligne était prévue pour l’an prochain.Information périmée, tirée d’une ancienne note de service qu’elle avait collée
« Le nouveau tarif s’applique à tous les logements. »Ses notes disaient que le nouveau tarif visait seulement les logements à bail à durée fixe.Mauvaise lecture : l’exception a disparu

Comment elle les a trouvés. Elle a utilisé les questions de la source et des enjeux de cette leçon.

  • La source. Elle a parcouru l’ébauche ligne par ligne en se demandant « d’où vient ceci ? ». Deux affirmations n’avaient aucune source dans ses notes. Une venait d’une ancienne note de service.
  • Les enjeux. Un avis sur le loyer à 140 ménages comporte des enjeux élevés : il touche l’argent, il atteint beaucoup de gens et il est difficile à reprendre. Elle a donc demandé au chef d’équipe de la location de lire l’ébauche corrigée avant l’envoi.

Ce qu’elle a changé. Elle a retiré entièrement la phrase juridique. La règle chez Quillfield : toute affirmation sur ce que dit la loi vient de la directrice de la conformité, jamais d’une ébauche de l’IA. Elle a supprimé la ligne sur la recharge en ligne et rétabli l’exception sur les baux à durée fixe. Le deuxième lecteur a repéré une chose de plus : la date du changement de buanderie tombait un dimanche, quand l’accueil est fermé.

Ce que cela a coûté. Vingt minutes de vérification, contre un avis qui aurait promis ce que Quillfield ne pouvait pas offrir et mal indiqué le loyer de certains locataires. L’ébauche lui a quand même épargné une heure de rédaction.

Exercice de mise en situation · Prévoyez 12 min

Vérifier une ébauche avant l’envoi

Une coordonnatrice de l’entretien a demandé à un assistant conversationnel de rédiger un courriel à une locataire dont le lave-vaisselle a fui dans le logement du dessous. Elle lui a donné le bon de travail. Voici l’ébauche :

> « Madame, merci d’avoir signalé la fuite le 3 mars. Nos dossiers indiquent qu’il s’agit de la deuxième fuite provenant de votre logement cette année. Comme le prévoit votre bail, les locataires sont responsables de tous les dégâts d’eau causés par les électroménagers. Un technicien passera vendredi entre 9 h et 11 h. Des études montrent que 70 % des fuites d’électroménagers sont causées par une mauvaise utilisation. »

Le bon de travail dit : fuite signalée le 4 mars, premier signalement pour ce logement, technicien prévu jeudi de 13 h à 15 h. La coordonnatrice ne sait pas ce que dit le bail sur les dégâts d’eau.

  1. Énumérez chaque affirmation que vous vérifieriez, et à partir de quoi.
  2. Quelles erreurs voyez-vous déjà ?
  3. Quels sont les enjeux, et qui d’autre devrait lire le courriel avant l’envoi ?
  4. Réécrivez les phrases risquées, ou dites ce que vous retireriez.
Voir la réponse modèle
  1. Affirmations à vérifier : la date du signalement (bon de travail), « deuxième fuite cette année » (historique d’entretien), l’affirmation sur les dégâts d’eau (le bail réel de la locataire, ou le gestionnaire immobilier), l’heure de la visite (bon de travail ou horaire), et la statistique de 70 % (une vraie source, s’il en existe une).
  2. Erreurs déjà visibles : la date est fausse (4 mars, pas 3 mars), c’est la première fuite, pas la deuxième, et la visite a lieu jeudi de 13 h à 15 h, pas vendredi de 9 h à 11 h. La statistique n’a pas de source et semble inventée.
  3. Enjeux : moyens à élevés. Le courriel attribue les dégâts à la locataire, ce qui peut mener à un différend sur de l’argent. Le gestionnaire immobilier, ou la personne responsable des questions de bail, le lit avant l’envoi.
  4. Réécriture : « Merci d’avoir signalé la fuite le 4 mars. Un technicien passera jeudi entre 13 h et 15 h. » Retirez l’affirmation sur la responsabilité des dégâts tant que le gestionnaire immobilier n’a pas vérifié le bail. Retirez entièrement la statistique.

Pourquoi c’est la meilleure réponse

Quatre des cinq affirmations factuelles étaient fausses ou sans appui, et pourtant le courriel se lisait bien. C’est typique : les ébauches de l’IA échouent précisément sur les détails qui comptent le plus (dates, heures, historique, responsabilité et chiffres), alors que le ton est bon. La meilleure réponse vérifie chacun de ces détails à partir d’une source, retire ce qui n’a pas d’appui et fait intervenir une deuxième personne, parce que le courriel attribue une responsabilité financière. Remarquez que la correction ne jette pas l’ébauche. Elle garde la structure utile et remplace les faits.

Modèle à télécharger

Fiche de vérification des résultats de l’IA

Une fiche de poche pour vérifier les résultats de l’IA : les questions sur la source, le tableau des enjeux qui fixe la profondeur de la vérification, les détails que l’IA rate le plus souvent et des requêtes qui réduisent les erreurs.

Vérifiez vos connaissances

Des questions de mise en situation. Répondez à toutes, puis vérifiez : vous verrez pourquoi chaque choix est bon ou non.

Question 1 sur 5

Un assistant conversationnel vous donne une réponse utile avec trois liens Web comme sources. Vous allez coller la réponse dans un rapport pour votre gestionnaire. Que faites-vous des liens ?

Question 2 sur 5

Un outil d’IA qui trie les demandes d’entretien marque plus souvent comme moins urgentes les demandes écrites en anglais que les mêmes problèmes décrits en français. Que devrait faire le personnel ?

Question 3 sur 5

Vous demandez à un outil d’IA de résumer un rapport d’inspection d’immeuble de 40 pages. Quelle partie du résumé mérite la vérification la plus serrée par rapport à l’original ?

Question 4 sur 5

Un collègue dit : « Je demande toujours à l’IA si elle est certaine. Si elle dit oui, je lui fais confiance. » Quel est le problème avec cette habitude ?

Question 5 sur 5

Quelle requête a le plus de chances de réduire les faits inventés quand vous interrogez un outil sur la politique de stationnement de votre entreprise ?

Sources citées dans cette leçon

  1. LPRPDE annexe 1, art. 4.9 et 4.6 texte officiel à jour au 2026-09-30, vérifié le 2026-10-24