Democracia, inteligencia artificial y medios de comunicación
Entre los distinguidos participantes se encontraban tres premios Nobel, Oleksandra Matviichuk (del Centro para las Libertades Civiles, Premio Nobel de la Paz 2022), Ben Faringa (Premio Nobel de Química 2016) y Sir Paul Nurse (Premio Nobel de Medicina 2001), así como varios otros destacados expertos de diversos campos.
El Dr. Casas-Zamora inició el debate con reflexiones sobre cómo la inteligencia artificial cambiará la naturaleza de las elecciones y la democracia, destacando los riesgos clave en el contexto del año superelectoral de 2024.
La IA generativa está aumentando la sofisticación y la difusión de la desinformación, reduciendo la entrada a barrera para producir contenido político engañoso de alta calidad. En este nuevo entorno de información, los robots de inteligencia artificial están simulando el comportamiento humano, personalizando y dirigiendo mensajes políticos a cada destinatario. Dado que un entorno de información confiable es clave para una democracia que funcione, la creciente incertidumbre sobre los hechos amenaza la integridad de la democracia y su capacidad de autocorrección. En ninguna parte esto es más claro que en el caso de las elecciones, donde la desinformación y la desinformación amenazan la capacidad de las personas para tomar decisiones informadas y autónomas.
El secretario general mencionó que la gobernanza de múltiples partes interesadas es esencial para abordar estas cuestiones de integridad de la información. Proteger los principios democráticos en la era de la IA requiere no sólo la supervisión y las regulaciones de los estados, sino también la participación de la sociedad civil y otras instituciones no gubernamentales. Las regulaciones existentes, como el RGPD y la Ley de IA de Europa, deben promoverse y ampliarse como iniciativas colectivas para comprender las implicaciones de la IA tanto en el ámbito público como en el privado. Para ello, se deben establecer reglas y directrices comunes a nivel internacional e implementarlas y hacerlas cumplir a nivel nacional. Además, en el contexto de las elecciones, el uso de contenido generado por IA por parte de los actores políticos debe ser transparente y claramente etiquetado, para garantizar que el público conozca su fuente y mitigar posibles amenazas de información errónea y desinformación.
Los temas de la mesa redonda se reforzaron en el posterior Diálogo público del Premio Nobel, “Realidad y ficción: el futuro de la democracia”, celebrado en conjunto con el Consejo Europeo de Investigación. Los panelistas discutieron la importancia de proteger la ciencia y los hechos en la esfera digital, dado que la información creíble es esencial para proteger la autonomía y la agencia de quienes participan en política, desde funcionarios electos y candidatos hasta votantes y grupos de la sociedad civil. Como dice la panelista y premio Nobel de la Paz de 2021, María Ressa, no podemos abordar los desafíos de las tecnologías emergentes como la IA a menos que “tengamos una realidad compartida, (una que esté) construida sobre la verdad”.
