La salvaguardia de los derechos fundamentales durante el uso cada vez mayor de la IA

Las nuevas tecnologías conducen a una creciente automatización de tareas hasta ahora realizadas por humanos. En particular, los avances en la Inteligencia Artificial (IA) han recibido mucha atención. Si bien gran parte de la atención pública sobre la IA solía centrarse particularmente en su potencial para fortalecer el crecimiento económico, la atención también se dirige cada vez más hacia el impacto de la IA en los derechos fundamentales. En el contexto de la aportación de la Agencia de Derechos Fundamentales de la UE (FRA) al Reglamento sobre IA de la UE (Un enfoque europeo para la inteligencia artificial), la FRA encargó a Ecorys en 2020 que analizara el impacto del uso de la IA en cuatro 'casos de uso' concretos en áreas relevantes. derechos fundamentales.

El equipo de investigación realizó 91 entrevistas entre organizaciones de la administración pública y empresas privadas en cinco Estados miembros seleccionados de la UE, así como 20 entrevistas con expertos que se ocupan de los posibles desafíos de la IA en materia de derechos fundamentales, incluidos organismos públicos, ONG y expertos en derecho. Sobre la base de estos aportes, se seleccionaron cuatro casos de uso principales en los que se encontró que la IA se desarrolló, probó o utilizó en la práctica. Estos incluían, entre otros, el uso de la IA en la determinación de beneficios sociales, la anticipación del delito a través de la IA para predecir la actuación policial, el análisis automatizado de registros médicos y el uso de la IA en el marketing online.

Los hallazgos de las entrevistas en estas áreas mostraron en primer lugar que las aplicaciones que dependen de la IA ya estaban implementadas en diferentes grados dentro y entre una variedad de sectores. Su objetivo era principalmente automatizar y procesar procesos sencillos, como el escaneo de documentos, y así hacer que los procesos fueran más eficientes. Algunas aplicaciones también estaban destinadas a ayudar en los procesos de toma de decisiones, pero la mayoría de ellas solo se encontraban en etapa de desarrollo y/o prueba. Luego, los hallazgos identificaron una amplia gama de posibles implicaciones para los derechos fundamentales a través del uso de sistemas de inteligencia artificial, que van mucho más allá de la protección de datos. Si bien los entrevistados en general eran muy conscientes de las preocupaciones sobre la protección de datos y habían implementado controles y salvaguardias de acuerdo con los requisitos del RGPD, se hizo menos énfasis en las evaluaciones de los derechos fundamentales en relación con el uso de la IA. Se descubrió que esto se debía principalmente a una conciencia insuficiente de la necesidad de realizar dichas evaluaciones. Los investigadores identificaron puntos horizontales que podrían funcionar como puntos de partida básicos para considerar el impacto de la IA en los derechos humanos en el futuro. Estas incluían el respeto de las leyes de protección de datos, la garantía de un trato justo a los grupos protegidos en el resultado del procesamiento, así como la capacidad de las personas afectadas de presentar quejas y recibir recursos efectivos cuando se enfrentan a discriminación. Además de las entrevistas y su análisis, el equipo del proyecto también preparó informes de antecedentes sobre los cinco Estados miembros de la UE seleccionados, que abordaron la configuración nacional respectiva en materia de IA, como las leyes designadas o relevantes, los organismos relevantes y los desarrollos recientes, etc. etcétera.

Enlace al informe final

Si bien el informe final fue para uso interno de la FRA únicamente, publicaron un informe por separado. informe (pdf) que incorpora muchas ideas del estudio.