Après deux ans au pays et plus de 3000 $ en frais, Kémy Adé a vu sa demande de résidence permanente refusée. La raison? Son dossier, traité à l’aide de l’intelligence artificielle (IA), lui a attribué des tâches en fabrication de robots qu’elle n’a jamais effectuées.

Dans sa lettre de refus, délivrée par Immigration, Réfugiés et Citoyenneté Canada (IRCC), on peut lire que ses compétences en câblage et montage de circuits de commande ou en fabrication de panneaux de commande et de robotique ne correspondent pas à la catégorie pour laquelle elle a appliqué.

Kémy Adé est chercheuse en microbiologie et enseignante à l’Université McMaster. Elle étudie le vieillissement immunitaire des poumons.

Dans la lettre de refus d’Immigration, Réfugiés et Citoyenneté Canada reçue par Kémy Adé, dans le cadre du programme l’expérience canadienne, il est écrit que ses tâches professionnelles relèvent de la robotique et de l’électronique.

Photo : Radio-Canada / Derek Hooper

Elle n’a jamais touché à un robot de sa vie.

Quand j’ai vu juste le mot "refus", c’était un grand découragement, confie-t-elle.

Au bas de sa lettre de refus, un seul indice : une mention indiquant l’utilisation de l'IA dans le traitement du dossier.

Au bas de la lettre de refus de Kémy Adé, une mention indique que l’intelligence artificielle a été utilisée dans le traitement de son dossier.

Photo : Radio-Canada / Derek Hooper

Soit elle menait une mystérieuse activité nocturne dont personne n’a connaissance, avec des robots, soit le système du gouvernement a confondu sa lettre avec celle d’une autre personne, affirme Luka Vukelic, son avocat spécialisé en matière d’immigration.

Un projet de longue date

Le Canada était un projet de longue date pour Mme Adé et son mari, un bon compromis entre l’Europe et l’Amérique pour leurs carrières respectives.

Après deux ans au pays, elle entreprend les démarches pour obtenir sa résidence permanente via le Programme de l’expérience canadienne, une voie d’immigration destinée aux travailleurs étrangers qualifiés déjà établis au Canada.

Kémy Adé et sa famille sont au Canada depuis octobre 2023.

Photo : Radio-Canada / Derek Hooper

Sa famille dépend entièrement de cette demande dont son fils de cinq ans, qui se considère déjà comme Français et Canadien à l’école maternelle.

Sa fille de neuf mois est née au Canada. On se dit que c’est chez elle. Et par extension, que c’est un peu chez nous aussi, raconte Kémy Adé. Peut-être que je ne suis pas aussi bienvenue que je pensais.

La démarche a coûté environ 3000 $ à la famille, sans compter les mois passés à préparer les tests de langue (environ 400 $), les examens médicaux (environ 300 $) à Toronto avec de jeunes enfants et les honoraires de l’avocat spécialisé en immigration.

On se dit que quand on investit du temps, de l’argent, de l’énergie, ce qui nous est au moins dû, c’est un processus juste et rigoureux.

IRCC maintient que toutes les décisions sont prises par des agents formés après une révision humaine complète.

Mais pour l’avocat Luka Vukelic, si la personne chargée du traitement avait réellement regardé la véritable lettre d’expérience de la chercheuse, elle aurait immédiatement remarqué que les tâches en robotique mentionnées dans la lettre de refus n’avaient rien à voir avec la réalité.

C’est comme si la personne n’avait même pas regardé le dossier en tant que tel.

Mystère au ministère de l’Immigration

Pour comprendre ce qu’il s’est passé, M^e Vukelic a demandé l’accès aux notes internes des agents d’immigration liées au dossier. Aucune ne mentionnait l’utilisation de l’IA dans ces notes. Le système ne montre rien d’anormal. L’outil aurait donc été intégré de manière floue, sans laisser de traces dans le processus.

Le plan de stratégie (nouvelle fenêtre) de l’IA déployé par le ministère promet pourtant d’offrir de la transparence. C’est le point numéro 5 de sa charte.

Le ministère classe l’utilisation de l’IA pour créer des résumés ou produire des documents comme des tâches à risque faible. Le document précise que les outils ne refusent ni ne recommandent de refuser aucune demande.

Pourtant, on ignore à quelle étape l’IA est intervenue, quels outils ont été utilisés, quelles données y ont été insérées, ou ce qui a réellement été vérifié par l’agent. Invoquant la loi sur la protection des renseignements personnels, l’IRCC a refusé de nous fournir ces détails techniques.

La politique existe, mais la mise en œuvre… ce sont deux histoires différentes.

 C’est vraiment une boîte noire en ce moment. On ne sait pas quel outil, on ne sait pas ce qui a été mis à l’intérieur, on ne sait pas c’était quoi l’extrant, on ne sait pas qu’est-ce qui a été vérifié. On ne sait en fait absolument rien , affirme Simon Blanchette, consultant et professeur en gestion à l’Université McGill.

Il doute fortement que l’IRCC, qui fait face à une pénurie de main-d’œuvre et à un retard dans le traitement des dossiers, ait les ressources nécessaires pour implémenter l’IA de façon éthique et bien former ses employés.

 Vous voulez venir me dire que vous avez assez de ressources pour commencer à mettre l’IA de l’avant, le faire de façon éthique et transparente et former votre main-d’œuvre? Je n’y crois pas , dit-il.

Pour lui, si une IA hallucine des informations spécifiques (comme des tâches d’ingénierie ou de santé), l’agent responsable de la vérification n’a pas nécessairement l’expertise technique pour repérer l’erreur.

M^e Vukelic dénonce le fait que le gouvernement déploie cette technologie sur de vrais dossiers sans l’avoir suffisamment testée.

Nous ne voulons pas que nos clients soient des expériences pour le gouvernement.

Il estime que le ministère aurait dû procéder à des projets pilotes avec de fausses candidatures pendant un an ou deux.

Le danger au-delà de ce cas

Kémy Adé a eu de la chance. Elle avait les ressources nécessaires et un avocat pour se défendre, mais ce n’est pas le cas de tout le monde.

L’idée que l’IA puisse un jour inventer de faux antécédents criminels, de faux examens médicaux ou de faux résultats de tests linguistiques et qu’un agent appuie simplement sur  refuser sans vérifier alarme son avocat.

Kémy Adé se considère chanceuse d’avoir eu les ressources nécessaires et un avocat pour se défendre, mais sait que cela ne sera pas le cas de tout le monde.

Photo : Radio-Canada / Derek Hooper

Pour les réfugiés, dont la vie dépend souvent de l’exactitude de ces documents et qui n’ont droit qu’à une seule chance, une erreur de la machine pourrait être fatale.

Le dossier de Mme Adé a eu un dénouement partiel : l’IRCC a rouvert le dossier.

Mais le ministère n’a jamais fourni la moindre explication technique ou motivation pour justifier cette erreur. Le mystère reste entier.

 Sans cette transparence à toutes les étapes du processus, il est impossible d’établir la confiance du public, conclut Simon Blanchette.