Seminari “Desigualtat algorítmica: Governança, representació i drets en la Intel·ligència Artificial”

Aquest seminari d'experts vol promoure l’anàlisi i el debat sobre l0impacte de la intel·ligència artificial en la governança i els drets dels ciutadans, però també explorar com garantir un sistema d’IA democràtic, així com la protecció de la igualtat i els drets humans a l’esfera digital.

ACTIVITAT REALITZADA
29 de novembre 2023 - 11:00h
LOCALITZACIÓ: CIDOB, sala Jordi Maragall, Elisabets, 12, 08001 Barcelona
ORGANITZAT PER: CIDOB amb el suport del programa CERV (Citizens, Equality, Rights and Values) de la Comissió Europea

Objectiu

La Intel·ligència Artificial ha calat a les nostres societats fins a la presa de decisions sobre la nostra vida diària. Els sistemes algorítmics desplegats a l’administració pública, per exemple, ja estan automatitzant tasques governamentals o identificant perfils, desafiant la legitimitat i fins i tot la racionalitat de les decisions institucionals en una societat governada per nous centres de poder.

El futur de la tecnologia està entrellaçat amb el futur de la democràcia. Les tecnologies d’aprenentatge automàtic i la intel·ligència artificial han plantejat preguntes complexes els compromisos i equilibris entre la llibertat d’expressió, la privadesa, la seguretat dels ciutadans i fins i tot la naturalesa de la veritat i l’autenticitat.

Aquest seminari d’experts vol promoure l’anàlisi i el debat sobre l'impacte de la intel·ligència artificial en la governança i els drets dels ciutadans, però també explorar com garantir un sistema d’IA democràtic, així com la protecció de la igualtat i els drets humans a l’esfera digital.

Arxius

Participants

SPEAKERS

Inés Arco

Inés Arco

Investigadora, CIDOB (Barcelona Centre for International Affairs)

Carme Colomina

Carme Colomina

Investigadora sènior, CIDOB (Barcelona Centre for International Affairs)

Marta Galceran

Marta Galceran

Investigadora principal, CIDOB (Barcelona Centre for International Affairs)

José Luís Martí

José Luís Martí

Professor de Filosofia del Dret, Universitat Pompeu Fabra (UPF); membre del Consell Assessor en IA, Ajuntament de Barcelona

Pol Morillas

Pol Morillas

Director, CIDOB (Barcelona Centre for International Affairs)

Hadrien Pouget

Hadrien Pouget

Investigador associat del programa de Tecnologia i Relacions Internacionals, Carnegie Endowment for International Peace

Alberto Quintavalla

Alberto Quintavalla

Professor associat, Erasmus School of Law de Rotterdam

César Rosales

César Rosales

Consultor en tecnologia i democràcia per a organitzacions multilaterals; director d’ètica i drets, CIVICAI

Núria Tria Parareda

Núria Tria Parareda

Doctora en Antropologia; professora associada, Universitat de Barcelona (UB)

Alexandra Wudel

Alexandra Wudel

Cofundadora i directora, FemAI –Center for Feminist Artificial Intelligence

Seminari “Desigualtat algorítmica: Governança, representació i drets en la Intel·ligència Artificial” ACTIVITAT REALITZADA

11:00h Benvinguda i objectius del diàleg

Pol Morillas, director, CIDOB (Barcelona Centre for International Affairs)

 

11:10h UNA IA ÈTICA: Repensant la governança algorítmica

¿Com podem tenir una Intel·ligència Artificial responsable?

¿Com pot contribuir la IA a un món polític que no es basa en raonaments lineals i  deductius?

José Luís Martí, professor de Filosofia del Dret, Universitat Pompeu Fabra (UPF); membre del Consell Assessor en IA, Ajuntament de Barcelona

Carme Colomina, investigadora sènior, CIDOB (Barcelona Centre for International Affairs)

Hadrien Pouget, investigador associat del programa de Tecnologia i Relacions Internacionals, Carnegie Endowment for International Peace

César Rosales, consultor en tecnologia i democràcia per a organitzacions multilaterals; director d’ètica i drets, CIVICAI

Moderat per:     Marta Galceran, investigadora principal, CIDOB (Barcelona Centre for International Affairs)

12:30h Debat amb tots els participants

13:00h Dinar de treball

14:15h IA I DRETS: Prevenir biaixos, odi digital i desigualtats

Les decisions algorítmiques perpetuen desigualtats i biaixos. S'ha demostrat que l'elaboració de perfils i la presa de decisions impulsades per la IA estan esbiaixades contra certs grups ètnics i minoritaris. Quin és l'impacte real dels sistemes algorítmics de presa de decisions als drets de gènere i als drets humans? Com podem garantir que aquestes decisions automatitzades siguin justes i rellevants?

Alexandra Wudel, cofundadora i directora, FemAI –Center for Feminist Artificial Intelligence  

Alberto Quintavalla, professor associat, Erasmus School of Law de Rotterdam; coeditor del llibre “Artificial Intelligence and Human Rights” (Oxford University Press)

Núria Tria Parareda, doctora en Antropologia; professora associada, Universitat de Barcelona (UB); coautora de la recerca “Ètica algorítmica i perspectiva de gènere: de l’opacitat a la transparencia” de la Càtedra Ethos-Universitat Ramon Llull

Moderat per:     Inés Arco, investigadora, CIDOB (Barcelona Centre for International Affairs)

15:30h Debat amb tots els participants

16:00h Conclusions

Carme Colomina, investigadora sènior, CIDOB (Barcelona Centre for International Affairs)