La salvaguardia dei diritti fondamentali durante il crescente utilizzo dell’intelligenza artificiale

Le nuove tecnologie portano ad una crescente automazione dei compiti finora svolti dagli esseri umani. In particolare, gli sviluppi nel campo dell’intelligenza artificiale (AI) hanno ricevuto molta attenzione. Mentre gran parte dell’attenzione pubblica sull’IA era in passato particolarmente focalizzata sul suo potenziale di rafforzamento della crescita economica, l’attenzione è sempre più rivolta anche all’impatto dell’IA sui diritti fondamentali. Nel contesto del contributo dell'Agenzia dell'UE per i diritti fondamentali (FRA) al regolamento sull'intelligenza artificiale dell'UE (Un approccio europeo all'intelligenza artificiale), la FRA ha incaricato Ecorys nel 2020 di analizzare l'impatto dell'uso dell'IA in quattro "casi d'uso" concreti su temi rilevanti diritti fondamentali.

Il gruppo di ricerca ha condotto 91 interviste tra organizzazioni della pubblica amministrazione e società private in cinque Stati membri dell’UE selezionati, nonché 20 interviste con esperti che si occupano di potenziali sfide relative ai diritti fondamentali dell’IA, inclusi enti pubblici, ONG ed esperti di diritto. Sulla base di questi input, sono stati selezionati quattro casi d’uso principali in cui l’IA è stata sviluppata, testata o impiegata nella pratica. Questi includono, tra gli altri, l’uso dell’intelligenza artificiale nella determinazione delle prestazioni sociali, l’anticipazione della criminalità attraverso l’intelligenza artificiale per prevedere le attività di polizia, l’analisi automatizzata delle cartelle cliniche e l’uso dell’intelligenza artificiale nel marketing online.

I risultati delle interviste in questi ambiti hanno mostrato innanzitutto che le applicazioni che si basano sull’intelligenza artificiale erano già presenti in misura diversa all’interno e attraverso una varietà di settori. Il loro scopo era principalmente quello di automatizzare ed elaborare processi semplici, come la scansione di documenti, rendendoli quindi più efficienti. Alcune applicazioni avevano anche lo scopo di assistere nei processi decisionali, ma la maggior parte di queste erano solo in fase di sviluppo e/o test. I risultati hanno poi identificato un’ampia gamma di potenziali implicazioni sui diritti fondamentali attraverso l’uso di sistemi di intelligenza artificiale, che vanno ben oltre la protezione dei dati. Mentre gli intervistati erano generalmente ben consapevoli delle preoccupazioni relative alla protezione dei dati e avevano implementato controlli e garanzie in linea con i requisiti del GDPR, è stata posta meno enfasi sulle valutazioni dei diritti fondamentali in relazione all’uso dell’IA. Si è riscontrato che ciò era dovuto principalmente a un’insufficiente consapevolezza della necessità di condurre tali valutazioni. I ricercatori hanno individuato dei punti orizzontali che potrebbero fungere da punti di partenza fondamentali per considerare in futuro l’impatto dell’IA sui diritti umani. Tra queste figurano il rispetto delle leggi sulla protezione dei dati, la garanzia di un trattamento equo dei gruppi protetti nell’esito del trattamento, nonché la capacità delle persone interessate di presentare reclamo e di ricevere rimedi efficaci in caso di discriminazione. Oltre alle interviste e alle loro analisi, il team del progetto ha anche preparato rapporti di base sui cinque Stati membri dell'UE selezionati, che affrontavano il rispettivo assetto nazionale in materia di intelligenza artificiale, ad esempio su leggi designate o pertinenti, organismi competenti e recenti sviluppi, ecc. eccetera.

Link al rapporto finale

Sebbene la relazione finale fosse destinata esclusivamente all'uso interno della FRA, ne è stata pubblicata una separata rapporto (pdf) che incorpora molti spunti dello studio.