Las IAs se tragan la desinformación y nos la vomitan: “Están optimizadas para dar información útil, pero no para que sea cierta”

ChatGPT o Grok absorben noticias falsas y las regurgitan al preguntarles. Por su configuración, estos modelos y sus rivales son permeables a la desinformación, y cuando más se nota es con hechos de actualidad. Cuando Elon Musk adquirió Twitter dinamitó el sistema de moderación de contenido de la red social. Meta anunció el pasado mes de enero que sus plataformas, Facebook, Instagram y Threads, abandonaban los equipos de verificación por un sistema basado en ‘notas de la comunidad’. “Ahora estamos ante unas plataformas que han quitado filtros en los últimos tiempos. Si no hay moderación de contenidos, hay más desinformación todavía en Internet”, reflexiona Carme Colomina, investigadora en política global y desinformación del centro de estudios CIDOB, en referencia a las redes sociales. “Así que la calidad de la información en Internet es todavía menor, con lo que el entrenamiento de la IA se compromete desde un principio”. Colomina expresa otra inquietud. “Lo que más me preocupa de este tema es que ya hemos incorporado la IA a decisiones, no solo personales, sino también administrativas, políticas. La IA está incorporada a todos los niveles de nuestra sociedad. Y estamos dejando que tome decisiones a partir de una información que creemos que es más neutra, cuando en realidad es mucho más subjetiva”, advierte.