Защитата на основните права по време на нарастващата употреба на AI

Новите технологии водят до нарастваща автоматизация на задачите, изпълнявани досега от хората. По-специално развитието на изкуствения интелект (ИИ) получи много внимание. Въпреки че по-голямата част от общественото внимание върху ИИ беше особено фокусирано върху неговия потенциал за укрепване на икономическия растеж, вниманието все повече се насочва към въздействието на ИИ върху основните права. В контекста на приноса на Агенцията на ЕС за основните права (FRA) в Регламента на ЕС за ИИ (Европейски подход към изкуствения интелект), FRA възложи на Ecorys през 2020 г. да анализира въздействието от използването на ИИ в четири конкретни „случая на употреба“ върху съответните основни права.

Изследователският екип проведе 91 интервюта с организации на публичната администрация и частни компании в пет избрани държави-членки на ЕС, както и 20 интервюта с експерти, занимаващи се с потенциални предизвикателства пред основните права на ИИ, включително публични органи, НПО и експерти по право. Въз основа на тази информация бяха избрани четири основни случая на употреба, в които беше установено, че AI е практически разработен, тестван или използван. Те включват, наред с другото, използването на AI при определянето на социалните придобивки, предвиждането на престъпления чрез AI, за да се предвиди полицията, автоматизираният анализ на медицинските досиета и използването на AI в онлайн маркетинга.

Констатациите от интервютата в тези области първо показаха, че приложенията, които разчитат на AI, вече са въведени в различна степен във и в различни сектори. Тяхната цел беше основно да автоматизират и обработват прости процеси, като сканиране на документи, и по този начин да направят процесите по-ефективни. Някои приложения също бяха предназначени да подпомагат процесите на вземане на решения, но повечето от тях бяха само в етап на разработка и/или тестване. След това констатациите идентифицираха широк спектър от потенциални последици за основните права чрез използването на AI системи, простиращи се далеч отвъд защитата на данните. Докато интервюираните като цяло са били добре запознати с опасенията за защита на данните и са въвели проверки и предпазни мерки в съответствие с изискванията на GDPR, имаше по-малко внимание върху оценките на основните права във връзка с използването на AI. Установено е, че това се дължи основно на недостатъчно осъзнаване на необходимостта от извършване на такива оценки. Изследователите идентифицираха хоризонтални точки, които биха могли да функционират като основни отправни точки за разглеждане на въздействието на ИИ върху човешките права в бъдеще. Те включват спазването на законите за защита на данните, гарантирането на справедливо третиране на защитените групи в резултат на обработката, както и способността на засегнатите хора да се оплакват и да получават ефективни средства за защита, когато са изправени пред дискриминация. В допълнение към интервютата и техния анализ, екипът на проекта подготви и основни доклади за петте избрани държави-членки на ЕС, които се отнасяха до съответната национална настройка по отношение на ИИ, като например определени или съответни закони, съответни органи и скорошни развития и др. така нататък.

Връзка към окончателния отчет

Докато окончателният доклад беше само за вътрешна употреба на FRA, те публикуваха отделен доклад (pdf) който включва много прозрения от проучването.