Conversatorio: Inteligencia artificial y democracia

La conversación será moderada por Nathalia Guerrero, editora de proyectos de 070. Y tendrá lugar en el auditorio ML-C de la Universidad de los Andes, este lunes 25 de noviembre a las 11 am.

En 2024 la Inteligencia Artificial (IA) se volvió parte de nuestra cotidianidad. Para muchos, esta tomó la forma de herramientas útiles para el trabajo o la vida personal: Gemini se volvió el asistente laboral favorito, le pedimos a Chat GPT consejos sobre nuestros debates diarios, hablamos diariamente con nuestro amigo de character.ai y ya no concebimos hacer trabajos universitarios sin Liner.

¿Pero qué sucede cuando la IA deja de ser una herramienta diaria para convertirse en un riesgo? Por ejemplo, en el caso de los deepfakes: videos, imágenes o audios generados con inteligencia artificial para imitar, de forma realista, la identidad de alguien más. Estos contenidos realizados con IA, y entrenados con videos y audios de la persona real, están siendo usados para hacer contenido pornográfico muy realista contra mujeres famosas, principalmente. La proliferación de los deepfakes han desatado una crisis en países como Corea del Sur, donde menores de edad en colegios y universidades están siendo víctimas de deepfakes pornográficos por parte de sus compañeros.

Sin embargo los deepfakes están pasando de reproducirse en páginas pornográficas y canales como Telegram, a ser armas de desinformación política en Twitter/X, Facebook y Whatsapp. Hubo ejemplos recientes de esto durante la campaña presidencial en Estados Unidos, en donde la IA se convirtió en una fuente de desinformación en algunos casos. El video de una falsa Hillary Clinton apoyando al gobernador republicano Ron de Santis, o un Joe Biden creado con IA, ejerciendo violencia transfóbica, rondaron en redes en los últimos meses para desinformar a les votantes.

Asimismo, para las elecciones regionales en Alemania, el partido de ultraderecha, AFD, utilizó la IA para crear videos de campaña que ilustran la migración como un escenario catastrófico. Parte de la población criticó estos videos como xenofóbicos y racistas. A pesar de esto, el partido fue elegido como la primera fuerza política en dos regiones.

Sin embargo, el impacto que genera el uso nocivo de la IA en la democracia va más allá de lo electoral. Algunas entidades gubarnemantales de países como Estados Unidos, están usando tecnologías de IA que reproducen prejuicios y violencias contra poblaciones minoritarias. Por ejemplo, el Servicio de Inmigración y Control de Aduanas de Estados Unidos (ICE), ha hecho uso de la IA para identificar si una publicación tiene un ‘tono despectivo’ contra el país, como insumo para aplicar reglamentos migratorios.
En Colombia, los deepfakes y otros usos nocivos de la IA en política están empezando a aparecer para desinformar en redes sociales, y hasta los periodistas están cayendo en la trampa. Por ejemplo, hace unos días, un deepfake de la cara del alcalde de Medellín, Federico Gutiérrez, fue compartido por un periodista en Twitter como si fuera contenido verídico.

¿Qué lecciones podemos aprender, hasta el momento, del uso de la IA para el ejercicio democrático? ¿De qué maneras la Inteligencia Artificial podría ser una herramienta para combatir la desinformación en los espacios digitales? ¿Cómo podemos evitar que usos nocivos de la IA, como la creación de deepfakes, se conviertan en una nueva amenaza electoral y para la democracia en general? ¿Cuáles son esas zonas grises del uso de la IA que deberíamos tener en cuenta como ciudadanos? ¿Con cuáles herramientas contamos hasta ahora para detectar los usos nocivos de la IA en nuestro día a día?

Estas son algunas de las preguntas que estaremos discutiendo en el conversatorio: Aprendiendo de los riesgos de la IA: ¿Qué replicar y qué evitar para las próximas elecciones en Colombia? Un espacio para reflexionar sobre el avance de la Inteligencia Artificial, sus usos, su necesidad de regulación y los retos que presenta para la desinformación y las democracias.

En esta conversación estarán el periodista y artista plástico Santiago Rivas, la investigadora María Camila Escobar del Centro de Investigación y Formación en Inteligencia Artificial de la Universidad de los Andes (CINFONÍA) y el profesor Juan David Gutiérrez, de la Escuela de Gobierno de la Universidad de los Andes, que investiga y enseña sobre IA.