Zaštita temeljnih prava tijekom sve veće upotrebe umjetne inteligencije

Nove tehnologije dovode do sve veće automatizacije zadataka koje su dosad obavljali ljudi. Osobito je razvoj umjetne inteligencije (AI) dobio veliku pozornost. Dok je velik dio javne pozornosti na AI prije bio posebno usmjeren na njezin potencijal za jačanje gospodarskog rasta, pozornost se također sve više usmjerava na utjecaj AI na temeljna prava. U kontekstu doprinosa Agencije EU-a za temeljna prava (FRA) Uredbi EU-a o umjetnoj inteligenciji (Europski pristup umjetnoj inteligenciji), FRA je 2020. godine naručila tvrtku Ecorys da analizira utjecaj upotrebe umjetne inteligencije u četiri konkretna 'slučaja uporabe' na relevantne temeljna prava.

Istraživački tim proveo je 91 intervju s organizacijama javne uprave i privatnim tvrtkama u pet odabranih država članica EU-a, kao i 20 razgovora sa stručnjacima koji se bave potencijalnim izazovima AI-ja za temeljna prava, uključujući javna tijela, nevladine organizacije i pravne stručnjake. Na temelju ovog unosa odabrana su četiri glavna slučaja uporabe za koje je utvrđeno da je umjetna inteligencija praktično razvijena, testirana ili primijenjena. To je, između ostalog, uključivalo upotrebu umjetne inteligencije u određivanju društvenih beneficija, predviđanje zločina putem umjetne inteligencije kako bi se predvidio rad policije, automatiziranu analizu medicinskih zapisa i upotrebu umjetne inteligencije u online marketingu.

Nalazi iz intervjua u tim područjima prvo su pokazali da su aplikacije koje se oslanjaju na umjetnu inteligenciju već prisutne u različitoj mjeri unutar i među različitim sektorima. Njihova je svrha prvenstveno bila automatizirati i obraditi jednostavne procese, kao što je skeniranje dokumenata, i time učiniti procese učinkovitijima. Neke su aplikacije također bile namijenjene pomoći u procesima donošenja odluka, ali većina njih je bila tek u fazi razvoja i/ili testiranja. Nalazi su zatim identificirali širok raspon mogućih implikacija temeljnih prava kroz korištenje sustava umjetne inteligencije, koji sežu daleko izvan zaštite podataka. Iako su sugovornici uglavnom bili svjesni zabrinutosti za zaštitu podataka te su proveli provjere i mjere zaštite u skladu sa zahtjevima GDPR-a, manji je naglasak bio na procjenama temeljnih prava u vezi s upotrebom umjetne inteligencije. Utvrđeno je da je to prvenstveno posljedica nedovoljne svijesti o potrebi provođenja takvih procjena. Istraživači su identificirali horizontalne točke koje bi mogle funkcionirati kao osnovne polazišne točke za razmatranje utjecaja umjetne inteligencije na ljudska prava u budućnosti. To je uključivalo poštivanje zakona o zaštiti podataka, osiguravanje poštenog tretmana zaštićenih skupina u ishodu obrade, kao i mogućnost pogođenih osoba da se žale i dobiju učinkovite pravne lijekove kada su suočene s diskriminacijom. Osim intervjua i njihove analize, projektni tim je također pripremio pozadinska izvješća o pet odabranih država članica EU-a, koja su se bavila odgovarajućim nacionalnim ustrojstvom u vezi s umjetnom inteligencijom, kao što su određeni ili relevantni zakoni, relevantna tijela i nedavni razvoj događaja, itd. tako dalje.