Seminario “Desigualdad algorítmica: Gobernanza, representación y derechos en la Inteligencia Artificial”

Este seminario de expertos quiere promover el análisis y el debate sobre el impacto de la Inteligencia Artificial en la gobernanza y los derechos de los ciudadanos, pero también explorar cómo garantizar un sistema de IA democrático, así como la protección de la igualdad y los derechos humanos en la esfera digital.

ACTIVIDAD REALIZADA
29 noviembre 2023 - 11:00h
LOCALIZACIÓN: CIDOB, sala Jordi Maragall, Elisabets, 12, 08001 Barcelona
ORGANIZADO POR: CIDOB con el apoyo del programa CERV (Citizens, Equality, Rights and Values) de la Comisión Europea

Objetivo

La Inteligencia Artificial ha calado en nuestras sociedades hasta la toma de decisiones sobre nuestra vida diaria. Los sistemas algorítmicos desplegados en la administración pública, por ejemplo, ya están automatizando tareas gubernamentales o identificando perfiles, desafiando la legitimidad e incluso la racionalidad de las decisiones institucionales en una sociedad gobernada por nuevos centros de poder.

El futuro de la tecnología está entrelazado con el futuro de la democracia. Las tecnologías de aprendizaje automático y la inteligencia artificial han planteado preguntas complejas sobre las compensaciones entre la libertad de expresión, la privacidad, la seguridad de los ciudadanos e incluso la naturaleza de la verdad y la autenticidad.

Este seminario de expertos quiere promover el análisis y el debate sobre el impacto de la Inteligencia Artificial en la gobernanza y los derechos de los ciudadanos, pero también explorar cómo garantizar un sistema de IA democrático, así como la protección de la igualdad y los derechos humanos en la esfera digital.

Archivos

Participantes

SPEAKERS

Inés Arco

Inés Arco

Investigadora, CIDOB (Barcelona Centre for International Affairs)

Carme Colomina

Carme Colomina

Investigadora sénior, CIDOB (Barcelona Centre for International Affairs)

Marta Galceran

Marta Galceran

Investigadora principal, CIDOB (Barcelona Centre for International Affairs)

José Luís Martí

José Luís Martí

Profesor de Filosofía del Derecho, Universitat Pompeu Fabra (UPF); miembro del Consejo Asesor en IA, Ayuntamiento de Barcelona

Pol Morillas

Pol Morillas

Director, CIDOB (Barcelona Centre for International Affairs)

Hadrien Pouget

Hadrien Pouget

Investigador asociado del programa de Tecnología y Relaciones Internacionales, Carnegie Endowment for International Peace

Alberto Quintavalla

Alberto Quintavalla

Profesor asociado, Erasmus School of Law de Rotterdam

César Rosales

César Rosales

Consultor en tecnología y democracia para organizaciones multilaterales; director de ética y derechos, CIVICAI

Núria Tria Parareda

Núria Tria Parareda

Doctora en Antropología; profesora asociada, Universidad de Barcelona (UB)

Alexandra Wudel

Alexandra Wudel

Cofundadora y directora, FemAI –Center for Feminist Artificial Intelligence

Seminario “Desigualdad algorítmica: Gobernanza, representación y derechos en la Inteligencia Artificial” ACTIVIDAD REALIZADA

11:00h Bienvenida y objetivo del diálogo

Pol Morillas, director, CIDOB (Barcelona Centre for International Affairs)

11:10h UNA IA ÉTICA: Repensando la gobernanza algorítmica

¿Cómo podemos tener una Inteligencia Artificial responsable?

¿Cómo puede contribuir la Inteligencia Artificial a un mundo político que no se base en razonamientos lineales y deductivos?

José Luís Martí, profesor de Filosofía del Derecho, Universitat Pompeu Fabra (UPF); miembro del Consejo Asesor en IA, Ayuntamiento de Barcelona

Carme Colomina, investigadora sénior, CIDOB (Barcelona Centre for International Affairs)

Hadrien Pouget, investigador asociado del programa de Tecnología y Relaciones Internacionales, Carnegie Endowment for International Peace

César Rosales, consultor en tecnología y democracia para organizaciones multilaterales; director de ética y derechos, CIVICAI

Moderado por:   Marta Galceran, investigadora principal, CIDOB (Barcelona Centre for International Affairs)

12:30h Debate con todos los participantes

13:00h Almuerzo de trabajo

14:15h IA Y DERECHOS: Prevenir sesgos, odio digital y desigualdades

Las decisiones algorítmicas perpetuan desigualdades y sesgos. Se ha demostrado que la elaboración de perfiles y la toma de decisiones impulsadas por la IA están sesgadas en contra de ciertos grupos étnicos y minoritarios. ¿Cuál es el impacto real de los sistemas algorítmicos de toma de decisiones en los derechos de género y los derechos humanos? ¿Cómo podemos garantizar que estas decisiones automatizadas sean justas y relevantes?

Alexandra Wudel, cofundadora y directora, FemAI –Center for Feminist Artificial Intelligence  

Alberto Quintavalla, profesor asociado, Erasmus School of Law de Rotterdam; coeditor de “Artificial Intelligence and Human Rights” (Oxford University Press)

Núria Tria Parareda, doctora en Antropología; profesora asociada, Universidad de Barcelona (UB); coautora de la investigación “Ètica algorítmica i perspectiva de gènere: de l’opacitat a la transparencia” de la Càtedra Ethos-Universitat Ramon Llull

Moderado por:    Inés Arco, investigadora, CIDOB (Barcelona Centre for International Affairs)

15:30h Debate con todos los participantes

16:00h Conclusiones

Carme Colomina, investigadora sénior, CIDOB (Barcelona Centre for International Affairs)