Una base democrática para la inteligencia artificial electoral #1

De cara al año del superciclo electoral de 2024, uno de los temas de debate más candentes fue, sin duda, el impacto sin precedentes que podría tener la IA en las elecciones. Aunque las predicciones variaban, las proyecciones más drásticas preveían importantes perturbaciones en las elecciones, que llevarían a un "Armagedón facilitado por la tecnología" sumido en la IA generativa. A medida que el año se acerca a su fin y se conocen los resultados de las principales elecciones, todavía no hay pruebas indiscutibles de vínculos entre las principales campañas generadas por IA y los resultados electorales. Más bien, el hiperenfoque en la desinformación generada por IA puede haber desviado nuestra atención de lo que en realidad es un conjunto diverso de posibilidades y riesgos de la IA.

La IA está preparada para transformar las elecciones, eso es seguro. Los organismos de gestión electoral (OGE) ya están incorporando tecnología de IA para mejorar algunas de sus funciones. Es razonable esperar que el uso de la IA en la administración electoral se expanda de manera constante, abarcando todo, desde una mejor gestión de las listas de votantes hasta la identificación más fácil de posibles errores de recuento. En otros lados del campo de juego, las organizaciones de la sociedad civil podrían utilizar la IA como herramienta para monitorear las elecciones de manera más efectiva, y las campañas políticas y los candidatos ya han comenzado a recurrir a la tecnología para impulsar sus estrategias, producir contenido y ampliar su alcance.

Sin embargo, estas aplicaciones de la IA llevarán las elecciones a un territorio en gran parte inexplorado, con implicaciones significativas para todos los involucrados. El uso de la IA en las elecciones podría erosionar la confianza en los procesos democráticos, amplificar los sesgos sociales existentes y la discriminación estructural, socavar la autonomía de los organismos electorales y degradar aún más la integridad del entorno de información.

Con estos desafíos crecientes, IDEA Internacional se propone aplicar un enfoque holístico y fundamental a la IA en las elecciones a través de una iniciativa dirigida a los actores electorales. El proyecto IA para actores electorales, implementado por IDEA Internacional en 2024-2025 con el apoyo de Microsoft y OpenAI, se lanzó con el objetivo de aumentar la alfabetización y la resiliencia en materia de IA entre los organismos de gestión electoral y la sociedad civil a través de una serie de capacitaciones ejecutivas. Para garantizar que se aproveche el potencial de la IA y, al mismo tiempo, se contenga, mitigue o, al menos, reduzca su impacto negativo, las capacitaciones transmiten una base sólida de principios que abordan las implicaciones democráticas, técnicas, legales y éticas de la tecnología.

Esta “base democrática de la IA” consta de cinco pilares principales:

• Alfabetización en IA: a medida que la IA se utiliza más ampliamente en todas las industrias y sectores, es fundamental que todas las personas involucradas en el ciclo de vida de la tecnología comprendan plenamente las capacidades, limitaciones y posibles implicaciones de los diferentes sistemas de IA que forman parte de su trabajo. Este requisito se extiende a los organismos de gestión electoral (OE), que son los administradores del uso democrático y confiable de la IA en las elecciones. Mejorar la alfabetización en IA a nivel de los OGE asegura su capacidad para supervisar el uso de los sistemas de IA de maneras que sean funcionales, justas y equitativas, fortalece sus habilidades para mitigar los efectos negativos de la IA y les permite tomar decisiones políticas informadas. Esta comprensión debería traducirse en transparencia y comunicación con los electores, ya que los receptores de productos y decisiones de IA deberían tener derecho a información y explicaciones significativas sobre los sistemas en uso.
• Ética de la IA y derechos humanos: Se ha demostrado que, cuando se utiliza de forma indebida, la IA socava gravemente los principios éticos y los derechos humanos, incluidos el derecho a la privacidad, el derecho a la protección de datos, el derecho a un juicio justo, el derecho a participar en los asuntos públicos, el derecho a la igualdad y la no discriminación, y el derecho a vivir libre de violencia. Cuando se implementa en elecciones, es necesario establecer salvaguardas para mitigar y minimizar el daño a estos derechos. Los riesgos son particularmente altos para los grupos marginados, que a menudo quedan excluidos en las etapas de desarrollo del ciclo de vida de la IA. Si se desarrolla con conjuntos de datos no inclusivos o sesgados, la IA puede albergar sesgos heredados que reproducen la discriminación existente. Esos sesgos particulares se pueden mitigar adoptando una perspectiva inclusiva al inicio del desarrollo de la IA, así como moderando los sistemas a través de políticas y regulaciones para la IA en contextos electorales.
• Curación y moderación de contenido de IA: Las redes sociales se han convertido en un vehículo clave para la información política durante los ciclos electorales. Para el votante promedio, esta fuente de información a menudo está contaminada con una gran cantidad de información errónea y desinformación generada por la IA, lo que dificulta que los usuarios distingan lo que es creíble. En última instancia, esto representa una amenaza para la fiabilidad de la información política, socavando así la integridad electoral. Para los organismos electorales, es importante tener conciencia de dónde y cómo se difunde la desinformación en las comunidades locales y hacer que la información veraz y confiable sea fácilmente accesible. Para asegurarse de que esta información llegue a los votantes, los organismos electorales también deben comprender cómo los algoritmos de clasificación y recomendación de las redes sociales suelen priorizar contenido atractivo y sensacionalista.
• Regulación y legislación: si bien los marcos globales son cruciales para regular la IA, la regulación debe reflejar los contextos en los que se aplican para abordar de manera efectiva cómo se utiliza la IA en el contexto de las elecciones nacionales. La regulación de la IA debe diseñarse para garantizar que la tecnología fortalezca y promueva activamente las condiciones democráticas para toda la sociedad y que ningún actor pueda beneficiarse exclusivamente de la tecnología o abusar de ella para manipular o interferir en los procesos electorales.
• La IA para mejorar la gestión electoral: como los debates a menudo se centran en la alteración de los procesos electorales por parte de la IA, a menudo se pasan por alto las formas en que se puede utilizar la tecnología para mejorar la gestión electoral. Cuando todos los demás pilares están en su lugar, la IA puede contribuir a elecciones más justas, transparentes y oportunas. La tecnología de IA ya se utiliza en las elecciones nacionales para fines como la identificación de votantes y las campañas políticas. En el futuro, las aplicaciones de la IA pueden cubrir tareas más profundas, como la gestión de votantes, la realización de estimaciones preelectorales y análisis poselectorales, y la identificación de posibles problemas como fraude o irregularidades. Sin embargo, esto, más que cualquier otro pilar, depende de la existencia de salvaguardas democráticas y marcos éticos.

El fortalecimiento de estos pilares básicos abre la posibilidad de que la IA haga que las elecciones sean más seguras, justas y transparentes. Sin embargo, si no se logra fortalecer lo suficiente al menos uno de los pilares, todo el complejo corre el riesgo de derrumbarse, convirtiendo así en realidad los riesgos y las externalidades negativas de la IA.

En los últimos años, se han hecho esfuerzos importantes para promover estos cinco pilares a través de iniciativas de políticas regionales e internacionales. Entre los ejemplos notables se incluyen los Principios de IA de la OCDE, la Recomendación de la UNESCO sobre la ética de la IA y la Estrategia brasileña de IA. Si bien estos instrumentos son clave para establecer principios éticos compartidos para la IA, rara vez abordan el impacto específico que la IA puede tener, y ya está teniendo, en los procesos electorales. Las democracias tienen mucho que ganar si abordan directamente la intersección de la IA y las elecciones a nivel de la gestión electoral, convirtiendo la tecnología potencialmente dañina en una fuerza para el bien.

El proyecto IA para actores electorales busca fortalecer cada pilar de la base democrática de la IA mediante la sensibilización y la alfabetización entre los organismos electorales y las OSC. A lo largo de cinco eventos regionales, expertos en los campos de la informática, la asistencia a la democracia y el derecho digital y de los derechos humanos trabajarán en colaboración con los participantes para identificar buenas prácticas y caminos de cooperación que aseguren las ventajas potenciales de la IA para las elecciones. Para obtener más información sobre el proyecto, visite la página del proyecto IA para actores electorales.

Como parte del proyecto, estamos lanzando una serie de artículos que profundizarán en la IA y las elecciones en el contexto regional de cada evento. Los artículos explorarán la legislación y la ética locales, interconectando una comprensión global de los diferentes desafíos y posibilidades de la IA. Cada artículo también se conectará con un pilar de la base democrática de la IA y las estrategias regionales para construir un hogar firme y calificado para la IA en las elecciones.