La sauvegarde des droits fondamentaux face à l’utilisation croissante de l’IA

Les nouvelles technologies conduisent à une automatisation croissante des tâches jusqu’alors réalisées par l’homme. Les développements dans le domaine de l’intelligence artificielle (IA) ont particulièrement retenu l’attention. Alors qu’une grande partie de l’attention du public sur l’IA était autrefois particulièrement axée sur son potentiel à renforcer la croissance économique, l’attention se porte également de plus en plus sur l’impact de l’IA sur les droits fondamentaux. Dans le contexte de la contribution de l'Agence des droits fondamentaux de l'UE (FRA) au règlement de l'UE sur l'IA (Une approche européenne de l'intelligence artificielle), la FRA a chargé Ecorys en 2020 d'analyser l'impact de l'utilisation de l'IA dans quatre « cas d'utilisation » concrets sur des sujets pertinents. droits fondamentaux.

L’équipe de recherche a mené 91 entretiens auprès d’organisations de l’administration publique et d’entreprises privées dans cinq États membres de l’UE sélectionnés, ainsi que 20 entretiens avec des experts traitant des défis potentiels liés aux droits fondamentaux liés à l’IA, notamment des organismes publics, des ONG et des experts en droit. Sur la base de ces informations, quatre cas d’utilisation principaux dans lesquels l’IA s’est avérée pratiquement développée, testée ou utilisée ont été sélectionnés. Il s’agit notamment de l’utilisation de l’IA dans la détermination des prestations sociales, de l’anticipation de la criminalité grâce à l’IA afin de prédire le maintien de l’ordre, de l’analyse automatisée des dossiers médicaux et de l’utilisation de l’IA dans le marketing en ligne.

Les résultats des entretiens dans ces domaines ont d’abord montré que les applications qui s’appuient sur l’IA étaient déjà en place à des degrés divers dans et entre divers secteurs. Leur objectif était avant tout d'automatiser et de traiter des processus simples, tels que la numérisation de documents, et ainsi de rendre les processus plus efficaces. Certaines applications étaient également destinées à aider aux processus de prise de décision, mais la plupart d’entre elles n’en étaient qu’au stade de développement et/ou de test. Les résultats ont ensuite identifié un large éventail d’implications potentielles sur les droits fondamentaux grâce à l’utilisation de systèmes d’IA, allant bien au-delà de la protection des données. Même si les personnes interrogées étaient généralement bien conscientes des préoccupations en matière de protection des données et avaient mis en œuvre des contrôles et des garanties conformes aux exigences du RGPD, l'accent était moins mis sur l'évaluation des droits fondamentaux dans le cadre de l'utilisation de l'IA. Il a été constaté que cela était principalement dû à une sensibilisation insuffisante à la nécessité de mener de telles évaluations. Les chercheurs ont identifié des points horizontaux qui pourraient servir de points de départ de base pour l’examen de l’impact de l’IA sur les droits de l’homme à l’avenir. Celles-ci comprenaient le respect des lois sur la protection des données, la garantie d'un traitement équitable des groupes protégés à l'issue du traitement, ainsi que la capacité des personnes concernées à porter plainte et à bénéficier de recours efficaces en cas de discrimination. En plus des entretiens et de leur analyse, l'équipe du projet a également préparé des rapports de référence sur les cinq États membres de l'UE sélectionnés, qui abordaient la situation nationale respective en matière d'IA, comme les lois désignées ou pertinentes, les organismes concernés et les développements récents, etc. cetera.

Lien vers le rapport final

Même si le rapport final était destiné uniquement à l'usage interne de la FRA, celle-ci a publié un rapport (pdf) qui intègre de nombreuses idées de l’étude.