La democracia como base de un Pacto Digital Global

El Pacto Digital Mundial de las Naciones Unidas es un marco en desarrollo –que se encuentra actualmente en su tercera ronda de revisión– que establece directrices y normas internacionales para el uso de las tecnologías digitales emergentes. Los principios rectores y objetivos del Pacto Digital Mundial promueven valores democráticos fundamentales, como la participación diversa y equitativa, el empoderamiento de las mujeres y las niñas, y la transparencia y la rendición de cuentas. Estos objetivos se han fortalecido en la última revisión (Rev 3) con referencias al avance de los derechos de las personas con discapacidad a través de la tecnología digital y al fomento del liderazgo de las mujeres para superar la brecha digital de género. 

Como expresó previamente IDEA Internacional a lo largo del proceso de consulta, mantener un enfoque de la digitalización basado en los derechos humanos y promover la cooperación entre múltiples partes interesadas es crucial para defender la democracia en la era digital; por lo tanto, estos principios deben seguir siendo centrales en el pacto. A pesar de la inclusión imperativa de estas cuestiones en el documento final, todavía quedan lagunas por llenar, a saber, en los principios fundamentales de la democracia y los derechos humanos, y la participación de múltiples partes interesadas como base para la Infraestructura Pública Digital (IPD), los espacios digitales humanos, las plataformas de redes sociales transparentes y la gobernanza de la Inteligencia Artificial (IA). Este artículo evalúa la Rev 3 desde una perspectiva democrática, destacando sus fortalezas y limitaciones, los cambios clave realizados al texto y las recomendaciones para futuras revisiones.

La IPD tiene un papel fundamental que desempeñar en el fortalecimiento de la democracia, actuando como un motor crítico al apoyar la participación ciudadana y facilitar los servicios públicos. Puede ayudar a promover instituciones transparentes y responsables al combatir la corrupción e integrar el acceso a los servicios de justicia. La Rev 3 destaca la importancia de la IPD en sus acciones, comprometiéndose a establecer salvaguardas centradas en el usuario para fomentar la confianza pública, basándose en las metas del ODS 16. Sin embargo, es igualmente necesario abordar el posible uso indebido de la IPD, como la vigilancia y la represión mostradas en las recientes elecciones venezolanas, mediante el diseño de sistemas digitales que respeten los derechos humanos.

El GDC destaca de manera crucial la importancia de fomentar espacios digitales inclusivos, seguros y protegidos para promover y respetar los derechos humanos en línea. La debida diligencia en materia de derechos humanos y la evaluación del impacto –basada en los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos– son mecanismos eficaces para proteger a las personas de los abusos de los derechos humanos y exigir cuentas a las corporaciones tecnológicas por las violaciones en línea. Sin embargo, como han denunciado varias organizaciones de derechos humanos, el lenguaje sobre el papel de la Oficina del Alto Comisionado para los Derechos Humanos (ACNUDH) sigue siendo débil.

A lo largo de las consultas, varios Estados miembros solicitaron la eliminación o alteración de la terminología jurídicamente vinculante en el pacto, reduciendo la agencia y la naturaleza orientada a la acción del GDC para cumplir plenamente su mandato. La Rev 3 establece que el ACNUDH puede proporcionar apoyo consultivo digital sobre derechos humanos solo “a pedido”. Para que el GDC catalice acciones concretas en materia de derechos humanos, el ACNUDH debe ser destacado en su revisión final, acompañado de un lenguaje sólido y jurídicamente vinculante.

Las medidas relativas a la responsabilidad de las empresas tecnológicas en la promoción de un entorno seguro en línea han mejorado en la última revisión, que insta urgentemente a las plataformas de redes sociales a “mejorar la transparencia y la rendición de cuentas de sus sistemas, […] algoritmos y el manejo de los datos personales de los usuarios en los idiomas locales, para empoderar a los usuarios a tomar decisiones informadas y proporcionar o retirar el consentimiento informado”. Si bien este llamado a respetar la capacidad de los usuarios de proporcionar el consentimiento en línea es un paso positivo, es insuficiente. Las técnicas de microsegmentación en línea empleadas por las plataformas de redes sociales dañan la democracia y la esfera pública, ya que erosionan la integridad de la información y socavan los valores de los derechos humanos. A través de la GDC, los Estados miembros tienen una oportunidad única de abordar los riesgos de la microsegmentación en línea, reconocer su impacto en los espacios cívicos y la integridad electoral, y promover un lenguaje más fuerte en las medidas de transparencia y rendición de cuentas para prevenir de manera integral la propagación de información errónea y desinformación política dañina en línea.

El rápido crecimiento de la IA plantea importantes riesgos para la seguridad de los espacios en línea y de las personas en todo el mundo: puede ampliar el alcance de las herramientas de represión digital, perpetuar información política engañosa y exacerbar las normas discriminatorias. Sin embargo, si se puede aprovechar la IA de manera eficaz, ofrece una inmensa oportunidad para fortalecer la gobernanza democrática. La Rev 3 establece compromisos clave para desarrollar sistemas de IA en beneficio de todos. Los Estados miembros han acordado apoyar la interoperabilidad de la gobernanza de la IA, crear capacidades para que todos los países accedan a estos sistemas, los desarrollen y los gobiernen, y promover una supervisión sólida de los derechos humanos de los sistemas de IA en cumplimiento del derecho internacional. Todos estos elementos, en particular los datos, sistemas y modelos comerciales de IA, deberían seguir negociándose a través de un Panel Científico Internacional sobre IA y un Diálogo Global sobre Gobernanza de la IA basado en los principios democráticos de transparencia, rendición de cuentas, inclusión, equidad, derechos humanos y estado de derecho. La gobernanza de la IA no se puede estipular de la noche a la mañana; debe evolucionar a través de consultas con todas las partes interesadas pertinentes para un proceso significativo y democrático que beneficie a la humanidad por igual.

El Rev 3 presenta un proceso de implementación con participación de múltiples partes interesadas, que promete involucrar significativamente a la sociedad civil, la academia, la comunidad técnica y las organizaciones regionales; las contribuciones de estos grupos son “fundamentales e irremplazables”, según el texto. Dentro de las Naciones Unidas, el modelo de múltiples partes interesadas es eficaz cuando los grupos que representan a las comunidades más vulnerables y marginadas participan de manera significativa en todos los niveles. Sin embargo, la realidad del GDC es que su negociación final se ha centrado en los estados miembros, con pocas oportunidades para que la sociedad civil y otras partes interesadas participen. Por lo tanto, la solicitud hecha en el Rev 3 para que todas las partes interesadas respalden la implementación del pacto ha dejado a muchos actores desconcertados. Las estructuras de negociación actuales facilitan la centralización de la gobernanza de Internet y favorecen en gran medida a los gobiernos y la esfera privada. El futuro digital debe seguir siendo competencia de todas las partes interesadas relevantes, ya que la participación inclusiva es la piedra angular del pacto.

Los cofacilitadores del GDC, Suecia y Zambia, reanudarán las consultas informales con los estados miembros el 19 de agosto, lo que sucederá a un procedimiento de silencio roto que afectó a 35 párrafos del Rev 3, incluidos sus principios y objetivos fundamentales. A través de consultas bilaterales con los Representantes Permanentes sobre estos párrafos, los cofacilitadores esperan establecer un consenso que permita presentar y adoptar una revisión final en la Cumbre del Futuro en septiembre de 2024. Esta negociación final será crucial para establecer la GDC y sus principios rectores como base para construir un futuro democrático digital y no dejar a nadie atrás.

Descargo de responsabilidad: Las opiniones expresadas en este comentario son las del autor y no representan necesariamente la posición institucional de IDEA Internacional, su Junta de Asesores o su Consejo de Estados Miembros.

*Este comentario fue escrito por Matteo de Campos Mello Grijns con aportes de Amanda Sourek, Sebastian Becker y Annika Silva-Leander.