Yapay Zeka Kullanımının Artması Sırasında Temel Hakların Korunması

Yeni teknolojiler, şimdiye kadar insanlar tarafından gerçekleştirilen görevlerin artan bir şekilde otomasyonuna yol açmaktadır. Özellikle Yapay Zeka (AI) alanındaki gelişmeler büyük ilgi gördü. Kamuoyunun yapay zekaya olan ilgisi, özellikle ekonomik büyümeyi güçlendirme potansiyeline odaklanmışken, dikkatler giderek yapay zekanın temel haklar üzerindeki etkisine de yöneliyor. AB Temel Haklar Ajansı'nın (FRA) AB'nin Yapay Zeka Yönetmeliğine (Yapay zekaya Avrupa yaklaşımı) katkısı bağlamında FRA, 2020 yılında Ecorys'i yapay zeka kullanımının dört somut 'kullanım senaryosunda' ilgili yapay zeka üzerindeki etkisini analiz etmek üzere görevlendirdi. temel haklar.

Araştırma ekibi, seçilen beş AB Üye Devletindeki kamu yönetimi kuruluşları ve özel şirketler arasında 91 görüşmenin yanı sıra kamu kurumları, STK'lar ve hukuk uzmanları da dahil olmak üzere yapay zekanın potansiyel temel hak sorunlarıyla ilgilenen uzmanlarla 20 görüşme gerçekleştirdi. Bu girdiye dayanarak, yapay zekanın pratik olarak geliştirildiği, test edildiği veya kullanıldığı tespit edilen dört ana kullanım durumu seçildi. Bunlar arasında, diğerlerinin yanı sıra, sosyal faydaların belirlenmesinde yapay zekanın kullanılması, polis müdahalesini tahmin etmek için yapay zeka yoluyla suçun önceden tahmin edilmesi, tıbbi kayıtların otomatik analizi ve çevrimiçi pazarlamada yapay zekanın kullanılması yer alıyor.

Bu alanlardaki görüşmelerden elde edilen bulgular ilk olarak yapay zekaya dayalı uygulamaların çeşitli sektörler içinde ve genelinde farklı düzeylerde zaten mevcut olduğunu gösterdi. Amaçları öncelikle belgelerin taranması gibi basit süreçleri otomatikleştirmek ve işlemek, böylece süreçleri daha verimli hale getirmekti. Bazı uygulamaların karar verme süreçlerine yardımcı olması da amaçlanmıştı ancak bunların çoğu henüz geliştirme ve/veya test aşamasındaydı. Bulgular daha sonra yapay zeka sistemlerinin kullanımı yoluyla veri korumanın çok ötesine uzanan geniş bir yelpazedeki potansiyel temel haklar sonuçlarını belirledi. Görüşülen kişiler genel olarak veri koruma endişelerinin farkındaydı ve GDPR gereklilikleri doğrultusunda kontroller ve koruma önlemleri uygulamış olsa da, yapay zeka kullanımıyla bağlantılı temel hak değerlendirmelerine daha az vurgu yapıldı. Bunun temel olarak bu tür değerlendirmeleri yürütme ihtiyacı konusundaki farkındalığın yetersizliğinden kaynaklandığı tespit edildi. Araştırmacılar, gelecekte yapay zekanın insan hakları üzerindeki etkisinin değerlendirilmesi için temel başlangıç ​​noktası işlevi görebilecek yatay noktalar belirlediler. Bunlar arasında veri koruma yasalarının desteklenmesi, veri işlemenin sonucunda korunan gruplara adil davranılmasının sağlanması ve etkilenen kişilerin ayrımcılıkla karşılaştıklarında şikayette bulunabilmeleri ve etkili çözümler alabilmeleri yer alıyordu. Mülakatlara ve analizlere ek olarak, proje ekibi ayrıca seçilen beş AB Üye Devleti hakkında, belirlenmiş veya ilgili yasalar, ilgili kurumlar ve son gelişmeler gibi AI ile ilgili ulusal yapıya değinen arka plan raporları da hazırladı. falan.

Nihai raporun bağlantısı

Nihai rapor yalnızca FRA'nın dahili kullanımına yönelik olsa da, ayrı bir rapor yayınladılar. rapor (pdf) çalışmadan elde edilen birçok bilgiyi içermektedir.