Le Courrier | Des traces d’IA dans les décisions d’asile

Des traces d’IA dans les décisions d’asile

A la suite d’un cas jugé problématique, des juristes traquent les recours à l’intelligence artificielle dans les décisions d’asile et le manque de transparence dans son utilisation.

Le cas s’est invité en juin à la Conférence romande des permanences juridiques pour requérant·e·s d’asile (Copera). Une décision de trente pages rédigée par le SEM concernant une demande d’asile valaisanne. «Même si le SEM n’admet pas une utilisation généralisée, il est assez évident que des fonctionnaires y ont recours individuellement», dénonce Marc Baumgartner, directeur d’Elisa-Asile, qui offre de l’assistance juridique aux requérant·es d’asile. Si l’on peut s’y attendre, c’est le manque de transparence sur son emploi qui dérange. Quelles sont les tâches déléguées à la machine? L’IA pèse-t-elle sur la décision? Qu’en est-il de la protection des données sensibles concernant des personnes risquant d’être persécutées par leur gouvernement?

Pour en avoir le cœur net, les juristes présent·es ont été invité·es à signaler toute décision où une utilisation problématique de ces outils aurait eu lieu: «Les bureaux de consultation juridique sont invités à transmettre à l’Organisation suisse d’aide aux réfugiés (OSAR) des décisions ou extraits de décisions dans laquelle l’utilisation d’IA par le SEM est soupçonnée et paraît problématique», préconise le compte rendu de la séance.

Projet pilote en cours au SEM

Officiellement, la révolution numérique en est à ses balbutiements au SEM. Fin 2025, le Conseil national a adopté une motion demandant au Conseil fédéral de préparer un programme pilote d’assistance par intelligence artificielle dans ce domaine. Le texte cite plusieurs usages possibles: détection de documents falsifiés, recours plus efficace aux interprètes, sélection et tri plus rapides des dossiers, assistance à la traduction ou encore estimation de l’âge.

«A ce stade, il s’agit d’identifier les possibilités d’utilisation de l’IA qui pourraient être testées dans la procédure d’asile et de procéder aux premières clarifications des bases légales, notamment en matière de protection des données. Aucune fonctionnalité concrète n’a encore été définie», rassure Anne Césard, porte-parole du Secrétariat d’Etat aux migrations (SEM). La détection de fraudes documentaires, la préclassification ou l’estimation de l’âge ne sont que des exemples cités dans la motion et qui émanent d’autorités migratoires étrangères. Ces exemples ne préjugent en aucun cas des orientations qui pourraient être retenues par le SEM.

Sur le site de la Confédération, quelques règles sont par ailleurs déjà de mise. Notamment: «Il ne faut en aucun cas saisir des données personnelles ou des informations sensibles dans ces outils» ou encore «pouvoir justifier une décision sur la base des résultats obtenus».

Un avant-projet élaboré par l’Office fédéral de la justice est attendu pour la fin de l’année 2026, précise Anne Césard. Il devrait notamment aborder les questions de transparence et d’information des personnes concernées: «La procédure d’asile repose essentiellement sur une audition approfondie, au cours de laquelle notamment la crédibilité des motifs est examinée», continue la porte-parole du SEM, précisant au passage que l’institution «n’a procédé qu’à des réflexions et des travaux exploratoires» pour l’heure.

Applications internationales

Ailleurs, les services nationaux de migration se sont déjà emparés de l’intelligence artificielle et des systèmes algorithmiques. Au Royaume-Uni, le Home Office a testé un outil capable de résumer automatiquement les comptes rendus d’entretiens et expérimente actuellement l’estimation de l’âge à partir d’images de visages. En Allemagne, différents outils numériques contribuent à établir l’identité ou l’origine déclarée de certain·es requérant·es.

Le Royaume-Uni expérimente actuellement l’estimation de l’âge à partir d’images de visages

Un précédent néerlandais, extérieur au champ de l’asile, illustre les dérives possibles quand on applique les algorithmes aux situations humaines. L’administration fiscale avait utilisé des systèmes algorithmiques de détection de fraudes aux allocations de frais de garde d’enfant, dans lesquels la nationalité pouvait notamment intervenir comme facteur de risque. Des milliers de familles avaient ainsi été accusées à tort ou soumises à des procédures particulièrement sévères, avec à la clé endettement, pertes d’emploi, problèmes de logement et éclatement de familles. Le scandale a entraîné la démission du gouvernement néerlandais en 2021.

D’autres pays ont déjà rencontré des difficultés dans le domaine migratoire, à l’instar du Royaume-Uni, où le Home Office a abandonné en 2020 un système de tri des demandes de visa après une contestation portant sur le risque de discrimination.

Systèmes biaisés

Pour Andrei Kucharavy, professeur assistant à la HES-SO Valais-Wallis et coordinateur sécurité et sûreté chez Apertus, le problème dépasse largement la seule précision technique des systèmes.

«Des gens dans une très grande précarité sont morts aux Pays-Bas, à la suite d’erreurs d’IA dans l’aide sociale, dénonce-t-il. On leur a retiré leurs enfants, tout en leur demandant de rembourser des sommes astronomiques. C’est impensable pour une démocratie.»

Les résultats peuvent aussi être influencés dès la définition de la tâche confiée au système. «Si on demande à la machine de chercher les fraudes, elle sera conditionnée pour en trouver», poursuit le spécialiste.

«Si on demande à la machine de chercher les fraudes, elle sera conditionnée pour en trouver» Andrei Kucharavy

Un autre risque apparaît lorsque le résultat produit par la machine revient entre les mains d’un humain. Un score, un résumé ou un signalement algorithmique peut acquérir une apparence d’objectivité et être moins facilement remis en question par la personne chargée du dossier. Un phénomène connu sous le nom de «biais d’automatisation».

Interrogé sur ce risque, le SEM reconnaît l’importance de la question tout en estimant qu’il est trop tôt pour déterminer les garde-fous nécessaires. «Ce point est effectivement important. Cela dépendra toutefois des fonctionnalités développées ou utilisées.»

Alors que le projet pilote suisse se précisera dans les mois qui viennent, il reste une question plus immédiate: si l’IA intervient déjà dans la rédaction de certaines décisions, les personnes concernées sont-elles aujourd’hui en mesure de le savoir?

Le HCR explore les bons usages

L’IA peut faciliter l’accès aux informations, mais aussi induire en erreur. C’est conscient de ce paradoxe que le Haut-Commissariat des Nations unies pour les réfugiés (HCR) étudie actuellement l’utilisation de l’intelligence artificielle. Sur ses sites, l’organisation explore l’utilisation d’outils permettant aux réfugié·es et demandeur·euses d’asile de trouver, via une fonction de chat, des informations spécifiques à leur situation et dans leur propre langue.

Pour Eujin Byun, porte-parole du HCR, l’IA «peut améliorer l’accès à l’information sur l’asile, en particulier pour les personnes confrontées à des barrières linguistiques», pour autant que les outils soient «conçus, développés et déployés de manière responsable», que les informations fournies proviennent de sources fiables et que les utilisateur·ices soient averti·es de leurs limites. Le HCR souligne toutefois que ces outils doivent fournir de l’information, et non des conseils juridiques personnalisés. «Les outils IA, de plus en plus utilisés pour accéder à l’information, peuvent produire des inexactitudes, notamment en inventant des faits, des sources ou des informations juridiques», prévient Eujin Byun.

Responsable du Bureau de conseil juridique romand de Caritas Suisse, qui couvre les cantons de Fribourg, de Neuchâtel et du Jura, Gabriella Tau constate le recours croissant à des outils d’intelligence artificielle par les personnes en procédure d’asile. «Principalement pour la traduction de documents et de courriers, mais aussi la rédaction de certaines démarches juridiques nominatives, telles que des demandes adressées aux autorités ou des prises de position, ainsi que des recours. Ces outils permettent souvent aux personnes concernées de surmonter des barrières linguistiques importantes.»

La rubrique Documentation relaie des actualités et prises de position d’acteur·ices de la migration et de l’asile. Les contenus publiés reflètent les opinions de leurs auteur·ices et ne représentent pas nécessairement la position d’asile.ch.