Abriendo el libro sobre alfabetización en inteligencia artificial n.° 2

El uso de la IA por parte de Khan no solo destaca el poder transformador y las nuevas posibilidades de la tecnología en las campañas políticas y las elecciones en general, sino que también plantea preguntas críticas sobre su impacto en la integridad electoral. Su capacidad para involucrar y movilizar a los partidarios a pesar de las limitaciones legales y físicas muestra tanto las inmensas oportunidades como los desafíos significativos que la IA trae al proceso democrático. Por lo tanto, se vuelve esencial que los actores electorales comprendan y manejen las complejidades de la IA en las elecciones. Esta es precisamente la razón por la que nuestro primer taller ejecutivo sobre alfabetización en IA para actores electorales en la región de Asia y el Pacífico se centró profundamente en la construcción de una base democrática para la IA en los procesos electorales. Durante tres días en Kuala Lumpur, Malasia, nuestro taller ejecutivo reunió a representantes de organismos de gestión electoral y organizaciones de la sociedad civil de 19 países de la región de Asia y el Pacífico. El taller exploró los cinco pilares necesarios para construir una base democrática al considerar el uso de la IA en los procesos electorales. El plan de estudios abordó la alfabetización en IA, profundizó en la ética de la IA y los derechos humanos, examinó la curación y moderación de contenido de IA, analizó la regulación y la legislación, y consideró cómo la IA puede mejorar la gestión electoral.

Cinco pilares, cinco regiones: estos talleres se desarrollarán en diferentes partes del mundo en los próximos meses. Por lo tanto, este taller inaugural sirve como el punto de partida perfecto para profundizar en el primer pilar de nuestra serie de artículos sobre este proyecto comparativo global. Cada taller será seguido por un artículo, cada uno arrojando luz sobre uno de estos pilares críticos.

Pilar n.° 1: alfabetización en IA

Para construir lo que llamamos una base democrática de IA, es crucial comprender los detalles técnicos básicos de los sistemas de IA modernos, dónde se utiliza la IA y las cuestiones clave asociadas con ellos: el primer objetivo de aprendizaje de nuestro plan de estudios. Cuando se les preguntó a los funcionarios del OCE qué palabras les vienen a la mente cuando piensan en IA, mencionaron términos como "automático", "inteligente" y "futurista", pero también asociaciones como "complejo", "peligroso", "falso" y "aterrador". Estas respuestas pintan un panorama claro de los sentimientos encontrados que tienen muchos: ven la IA como una oportunidad que puede proteger y agilizar los procesos electorales y albergan preocupaciones sobre lo que significa la IA para el futuro de la defensa de la integridad electoral. Para mejorar su comprensión de los riesgos y desafíos potenciales, pero también de las oportunidades que trae consigo la IA, es crucial que los actores electorales comprendan cómo funciona, dónde y por qué podría no funcionar, dónde podría ser útil y dónde podría ser perjudicial.

IA es un término general que se refiere a una variedad de tecnologías relacionadas. La OCDE define la IA como “un sistema basado en máquinas que, para objetivos explícitos o implícitos, infiere, a partir de la información que recibe, cómo generar resultados como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales (OCDE 2019)”. Sin embargo, cuando la mayoría de las personas piensan en IA, se imaginan un aviso de ChatGPT o un deepfake, no otros tipos de aplicaciones. De hecho, las tecnologías de IA son muy amplias. Los chatbots y las tecnologías de imágenes generativas tienen muy poco que ver con el software que, por ejemplo, delimita los distritos electorales. Esto demuestra lo importante que es comprender términos clave como la diferencia entre la IA generativa (un subconjunto del aprendizaje automático capaz de generar contenido como texto, imágenes u otros medios) y la IA discriminativa, en la que se utilizan modelos para clasificar, analizar o separar datos.

Aunque la conciencia pública en torno a la IA aumentó con el lanzamiento de ChatGPT en noviembre de 2022 (que también llevó a muchos organismos de gestión electoral a considerar y diseñar chatbots para responder preguntas y proporcionar información sobre las elecciones), la investigación sobre la tecnología se remonta a mediados del siglo XX, con avances sustanciales en la década de 1990 y principios de la de 2000, en particular en modelos de reconocimiento de imágenes, procesamiento del lenguaje natural y métodos de conjunto. Ahora, los sistemas de IA se encuentran en todas partes, desde el autocompletado en teclados, filtros de spam y phishing en correos electrónicos, asistentes de voz, resúmenes de IA y bots en plataformas de redes sociales hasta sistemas biométricos, gestión de listas de votantes y análisis predictivos en la gestión electoral.

Durante el primer evento en Kuala Lumpur, muchos organismos electorales dijeron que ya habían estado discutiendo el uso de IA en las elecciones. Sin embargo, antes de tomar cualquier paso siguiente, enfatizaron que es crucial que primero desarrollen capacidades y aumenten la alfabetización en IA dentro de sus instituciones. La alfabetización en IA es un requisito previo para tomar decisiones informadas sobre dónde la implementación de IA podría ser útil y mejorar un proceso, y dónde la IA podría complicar o dañar un proceso que ya funciona bien.
 

Image

Esta necesidad se extiende más allá de la alfabetización en IA dentro de los organismos electorales. Muchos participantes señalaron que es fundamental una alfabetización en IA más amplia que llegue a los votantes, junto con mayores recursos para la educación cívica. Los asistentes compartieron que este podría ser un área en la que los organismos electorales y la sociedad civil podrían trabajar juntos para llenar el vacío en materia de alfabetización en IA. Se señaló que, en particular, es necesario abordar la actual falta de supervisión de la sociedad civil sobre el uso de IA por parte de las partes interesadas en las elecciones.

Este énfasis en los esfuerzos colectivos refleja una de las conclusiones clave del taller: que aprovechar los beneficios de la IA, así como abordar cualquier desafío relacionado con la IA en las elecciones (como la desinformación generada por la IA y las preocupaciones éticas) requiere un enfoque holístico que involucre a todos los actores.

A pesar del contexto electoral único de cada país, muchos desafíos y oportunidades son comunes a todos. Hubo un amplio consenso sobre la importancia de reunirse, compartir conocimientos y continuar esta colaboración para abordar cualquier riesgo asociado con la IA en las elecciones.

Nuestro taller en Kuala Lumpur fue un paso fundamental hacia una mayor comprensión de las complejidades de la IA en las elecciones. Al comprender cómo funciona la IA, dónde puede ser beneficiosa y dónde puede plantear riesgos, los actores electorales pueden tomar decisiones informadas que defiendan la integridad de las elecciones.

A medida que continuamos esta serie de talleres en diferentes regiones, nuestro objetivo sigue siendo firme: construir una base democrática para la IA en los procesos electorales. Mejorar la alfabetización en IA no se trata solo de seguir el ritmo de los avances tecnológicos; se trata de garantizar que la democracia prospere en la era digital. Esperamos seguir colaborando y compartiendo aprendizajes que permitan a los actores electorales de todo el mundo aprovechar la IA de manera responsable y eficaz.

De cara al futuro, nuestro próximo taller para la región de los Balcanes Occidentales y Europa del Este se llevará a cabo en Tirana, Albania, durante la primera semana de diciembre. El próximo artículo analizará las perspectivas específicas de cada región y profundizará en el segundo pilar de una "base democrática de la IA": la ética de la IA y los derechos humanos.

Tenga en cuenta que este es el segundo artículo de una serie; lea el primero: Una base democrática para la IA electoral n.° 1