De bescherming van de grondrechten tijdens het toenemende gebruik van AI

Nieuwe technologieën leiden tot een toenemende automatisering van taken die tot nu toe door mensen werden uitgevoerd. Vooral de ontwikkelingen op het gebied van de kunstmatige intelligentie (AI) hebben veel aandacht gekregen. Terwijl een groot deel van de publieke aandacht voor AI vroeger vooral gericht was op het potentieel ervan om de economische groei te versterken, gaat de aandacht ook steeds meer uit naar de impact van AI op de grondrechten. In de context van de inbreng van het Bureau voor de grondrechten van de EU (FRA) in de AI-verordening van de EU (Een Europese aanpak van kunstmatige intelligentie), heeft het FRA Ecorys in 2020 de opdracht gegeven om de impact van het gebruik van AI in vier concrete ‘use cases’ op relevante gebieden te analyseren. fundamentele rechten.

Het onderzoeksteam heeft 91 interviews afgenomen bij overheidsorganisaties en particuliere bedrijven in vijf geselecteerde EU-lidstaten, evenals twintig interviews met deskundigen die zich bezighouden met mogelijke uitdagingen op het gebied van de grondrechten van AI, waaronder overheidsinstanties, ngo’s en rechtsdeskundigen. Op basis van deze input zijn vier belangrijke use cases geselecteerd waarin AI praktisch ontwikkeld, getest of toegepast bleek te zijn. Deze omvatten onder meer het gebruik van AI bij het bepalen van sociale uitkeringen, het anticiperen op criminaliteit door middel van AI om het politiewerk te voorspellen, de geautomatiseerde analyse van medische dossiers en het gebruik van AI in online marketing.

De bevindingen uit de interviews op deze gebieden lieten in de eerste plaats zien dat toepassingen die afhankelijk zijn van AI al in verschillende mate aanwezig waren binnen en tussen verschillende sectoren. Hun doel was vooral het automatiseren en verwerken van eenvoudige processen, zoals het scannen van documenten, en daarmee het efficiënter maken van processen. Sommige applicaties waren ook bedoeld om te helpen bij besluitvormingsprocessen, maar de meeste hiervan bevonden zich pas in de ontwikkelings- en/of testfase. De bevindingen identificeerden vervolgens een breed scala aan potentiële implicaties voor de grondrechten door het gebruik van AI-systemen, die veel verder gaan dan gegevensbescherming. Hoewel de geïnterviewden zich over het algemeen goed bewust waren van de zorgen over gegevensbescherming en controles en waarborgen hadden geïmplementeerd in overeenstemming met de AVG-vereisten, lag er minder nadruk op de beoordeling van de grondrechten in verband met het gebruik van AI. Dit bleek voornamelijk te wijten te zijn aan onvoldoende bewustzijn van de noodzaak om dergelijke beoordelingen uit te voeren. De onderzoekers identificeerden horizontale punten die zouden kunnen dienen als uitgangspunten voor de afweging van de impact van AI op de mensenrechten in de toekomst. Deze omvatten de handhaving van de wetgeving inzake gegevensbescherming, het waarborgen van een eerlijke behandeling van beschermde groepen in de uitkomst van de verwerking, evenals de mogelijkheid van getroffen mensen om een ​​klacht in te dienen en effectieve rechtsmiddelen te krijgen wanneer ze met discriminatie worden geconfronteerd. Naast de interviews en hun analyse heeft het projectteam ook achtergrondrapporten opgesteld over de vijf geselecteerde EU-lidstaten, waarin de respectieve nationale opzet met betrekking tot AI aan de orde kwam, zoals over aangewezen of relevante wetten, relevante instanties en recente ontwikkelingen, enz. enzovoort.

Link naar eindrapport

Hoewel het eindrapport uitsluitend voor intern gebruik door het FRA was bedoeld, publiceerden zij een afzonderlijk rapport rapport (pdf) waarin veel inzichten uit het onderzoek zijn verwerkt.