Hoy en día, no pasa un solo día sin que hablemos, pensemos o nos veamos afectados por la inteligencia artificial (IA). Todos los aspectos de nuestra vida humana se han visto influidos por la IA de una forma u otra. La economía, la rendición de cuentas y la participación ciudadana son solo algunas de las dimensiones clave que interactúan de manera dinámica con la IA. Las políticas públicas, la regulación, la ética, la integridad, y las normas son elementos fundamentales para analizar la IA y su impacto en la gobernabilidad democrática. Por otra parte, si bien la IA puede ofrecer aspectos útiles y valiosos, los riesgos se sitúan actualmente en el centro de los debates sobre su compatibilidad con la gobernabilidad democrática. Los regímenes y sistemas autoritarios emplean la IA para consolidar su poder y suprimir derechos y libertades, incluso más allá de sus propias fronteras; por su parte, las democracias deben gestionar enfoques pluralistas para garantizar la protección de los derechos y libertades en el uso de la IA, además de desarrollar e implementar estrategias para afrontar posibles escenarios de riesgo. ¿Cuáles son los temas que impulsan el debate y las conversaciones actuales en torno a la IA y la gobernabilidad democrática?
El Potencial de la IA para la Gobernabilidad Democrática
Recientemente participé en la décima edición del Diálogo de Gobernanza de Internet (DGI) en Costa Rica, organizado por la Secretaría del Comité País. El tema central del diálogo fue la inteligencia artificial y la gobernanza de Internet. Nuestro panel se centró en la protección de los datos y los derechos en la era de la IA. Fue una excelente oportunidad para reflexionar sobre los vínculos y las desconexiones entre la gobernabilidad democrática y la IA, así como sobre las oportunidades y amenazas. Como he señalado en otro artículo, la gobernabilidad democrática implica mucho más que la celebración de elecciones periódicas, abiertas y competitivas. Si bien las libertades y el derecho al voto son componentes fundamentales de la gobernabilidad democrática, no bastan por sí solos para gobernar de manera democrática o pluralista. El estado de derecho como mecanismo para limitar el poder y la discrecionalidad, la rendición de cuentas de quienes ejercen el poder, la prestación eficaz y eficiente de servicios públicos a cambio del pago de impuestos, así como la protección, la sostenibilidad y la ampliación de los derechos, constituyen otros elementos clave de la gobernanza democrática.
La gobernabilidad democrática es un sistema de normas en el que el poder reside en el pueblo y las decisiones se toman mediante procesos transparentes, participativos y sujetos a rendición de cuentas, en lugar de gobernar mediante decretos autocráticos. La arquitectura de la gobernabilidad democrática en cualquier país ofrece el espacio y la elasticidad necesarias para procesos políticos y de políticas públicas, a través de los cuales el gobierno y la ciudadanía alcanzan consensos en ámbitos relacionados con el “bien público,” tales como la regulación, los derechos humanos, el marco legal, la justicia, el bienestar social y la protección del medio ambiente. Hoy en día, la IA incide en áreas fundamentales de la gobernabilidad democrática. Por ejemplo:
- Facilitación de la deliberación y la toma de decisiones: Plataformas como Polis is, Remesh, Ethelo, Kialo, y Deliberation io, entre otras, utilizan la IA como herramienta o guía para ayudar a diversos grupos a encontrar puntos de encuentro, ampliar el alcance del debate público, tomar decisiones e intercambiar opiniones.
- Acceso a la información y eficiencia: La IA puede ayudar a la ciudadanía a analizar propuestas políticas complejas, eliminar barreras lingüísticas para fomentar la participación y asistir en la verificación de datos para confirmar con rapidez la veracidad y/o afirmaciones.
- Transparencia y rendición de cuentas: Como parte de sus mecanismos de control interno, estrategias de prevención y mantener a la ciudadana informadas, las entidades gubernamentales pueden utilizar la IA para detectar actos de corrupción, sintetizar comentarios públicos y mejorar tanto la capacidad de respuesta de las instituciones públicas como la confianza en ellas.
Muchas de estas aplicaciones constituyen una continuación y una expansión de la denominada gobernabilidad electrónica y tareas de back office; otras, sin embargo, son de carácter experimental y se están poniendo a prueba tanto a escala nacional como local.
Riesgos para la Gobernabilidad Democrática
Si bien el potencial de la IA sigue siendo dinámico y prometedor para mejorar la calidad y la eficacia de la gobernabilidad democrática, los riesgos actuales ponen de relieve el papel perjudicial que puede tener la IA en la erosión de la gobernabilidad democrática. Algunos ejemplos de cómo la IA puede utilizarse para perturbar la gobernanza democrática son:
- Realidades alternativas: Las herramientas de IA generativa pueden crear “deepfakes” hiperrealistas, documentos falsos y textos automatizados, distorsionando la percepción pública y trasladando la carga de la verificación de los hechos a terceros. Esto resulta perjudicial no solo durante los procesos electorales, sino también en la gestión pública, la formulación de políticas y los procesos de deliberación.
- Sembrar la desconfianza: Los contenidos mediáticos artificiales, así como los portavoces y voces generados por IA, pueden sembrar dudas sobre las noticias, el periodismo, las políticas públicas, las soluciones propuestas y la importancia de exigir rendición de cuentas a los líderes. Con el mal uso de la IA, la desconfianza en procesos democráticos puede crecer aún más en detrimento a la gobernabilidad democrática.
- Oligarquía tecnológica y concentración de poder: Una consecuencia del poder sin control y contrapesos es el acceso al poder mediante elecciones relativamente abiertas, pero una vez en el poder el control político, económico y social en el nuevo gobierno queda en manos de un grupo reducido, exclusivo y de personas con dinero que poseen o que estan vinculadas a plataformas tecnológicas y herramientas de IA, y que tratan de influir a los tomadores de decisiones a fin de que aprueben y respalden medidas que favorecen sus propios intereses y protejan su responsabilidad legal y financiera. La gobernabilidad democrática se debilita, ya que los ciudadanos carecen de una influencia real y significativa sobre las decisiones políticas o la elección de sus líderes.
- Persuasión y segmentación precisa (“microtargeting”): El uso de “chatbots” basados en la IA para influir en los resultados electorales, dirigiendo mensajes a grupos específicos y optando por la polarización en lugar del debate sobre soluciones, lo cual podría incluso resultar en violencia política.
¿Qué Hacer? Algunas Posibles Políticas
Como se puede observar en la Grafica 1, la mayoría de las personas parecen mostrarse ambivalentes o reacias a confiar en los sistemas de IA, aunque aceptan su uso. La preocupación por la seguridad de la IA y su impacto en las personas ayuda a explicar por qué algo más de la mitad (54 %) de los individuos se muestran cautelosos a la hora de confiar en estos sistemas. La confianza en la IA puede variar según su ámbito de aplicación, por ejemplo, en el sector de salud. Esto podría estar reflejando la percepción de un beneficio directo en lo que respecta a los diagnósticos y tratamientos médicos. Un estudio del Pew Research Center reveló que, en promedio, el 34 % de los adultos en 25 países se sienten más preocupados que entusiasmados ante el creciente uso de la AI en la vida cotidiana. El informe Índice AI encontró que, a escala mundial, el nivel de confianza en que los gobiernos regulen la IA es diverso. Entre los países analizados, Estados Unidos registró el nivel más bajo de confianza, 31%, en su propio gobierno para regular la IA. A nivel global, la Unión Europea goza de mayor confianza que Estados Unidos o China a la hora de regular la IA de manera eficaz.
No existe un modelo ni una fórmula mágica para abordar la IA desde la perspectiva de la gobernabilidad democrática. Lo que sí está claro es que cualquier enfoque debe equilibrar tanto los posibles beneficios como los riesgos. La IA puede ofrecer herramientas poderosas para reforzar la gobernabilidad democrática, la rendición de cuentas y la transparencia, fomentando una participación ciudadana informada, mejorando la prestación de servicios, así como fortaleciendo la resiliencia democrática. Por otro lado, su capacidad para manipular la opinión pública, vulnerar la privacidad y desestabilizar las instituciones democráticas plantea serios desafíos.
Los gobiernos están experimentado con diversos marcos de políticas, que van desde la Ley de Inteligencia Artificial de la Unión Europea, centrada en los derechos, hasta la implementación de marcos de políticas multidimensionales (como es el caso del Estado de California). Desde la sociedad civil han surgido propuestas que incluyen auditorías algorítmicas independientes, el establecimiento de una responsabilidad jurídica clara ante el uso coordinado de enjambres de bots, y el desarrollo de herramientas de IA cívica orientadas al interés público. Las Naciones Unidas (ONU) también han mostrado interés, ofreciendo sus propias directrices. Por ejemplo, el Pacto Digital Mundial y la Resolución 79/325 adoptados como parte del Pacto para el Futuro de la ONU, establecieron dos pilares institucionales fundamentales: 1) un Panel Científico Internacional Independiente sobre IA encargado de proporcionar evaluaciones imparciales y basadas en evidencia sobre las capacidades, los riesgos y las realidades científicas del rápido desarrollo de la IA; y 2) el Diálogo Mundial sobre la Gobernabilidad de la IA, un foro internacional periódico que reúne a gobiernos, sociedad civil y sector privado para coordinar políticas. Asimismo, la ONU elaboró el informe Gobernar la IA para la humanidad, que contiene recomendaciones para reducir la brecha entre las naciones desarrolladas y las que están en vías de desarrollo.
El Papa León XVI también contribuyo en la carta encíclica titulada Humanidad magnífica, en la que aboga por una regulación sólida de la inteligencia artificial y pide a sus desarrolladores que trabajen en favor del bien común, en lugar de buscar el lucro. El documento parte de una premisa fundamental: la tecnología no es “una fuerza antagónica a la humanidad,” ni es “inherentemente mala.” No obstante, “la tecnología nunca es neutral, ya que adquiere las características de quienes la conciben, financian, regulan y utilizan.”
La IA no puede entenderse únicamente como una cuestión tecnológica. Los riesgos y oportunidades tecnológicas forman parte de una dinámica integral que, a menudo, se entrelaza con dimensiones físicas, jurídicas, políticas, empresariales, psicológicas, institucionales, financieras y pedagógicas. Tanto las oportunidades como los riesgos responden a brechas que no solo derivan de la sofisticación de la tecnología, sino también de debilidades estructurales dentro del propio ecosistema de la gobernabilidad democrática. Sin una inversión sostenida en conocimientos especializados, una mayor interacción con las empresas tecnológicas y por parte de estas, políticas mejor alineadas y el desarrollo de capacidades a largo plazo, es probable que la brecha entre la escala de la IA y la capacidad para gestionarla siga ampliándose. Aún más, las disparidades entre países desarrollados y en desarrollo serán determinantes claves para adoptar, adaptar y/o implementar la IA. En última instancia, la gobernabilidad democrática tiene que ver con las personas y las instituciones, y con la forma de utilizar la tecnología/o la IA como un medio, no como un fin en sí mismo.
Es necesario profundizar en la fase inicial de diseño de políticas preventivas y de coordinación. Asimismo, resulta fundamental identificar qué iniciativas están funcionando en los diversos puntos de intersección entre la IA y la gobernabilidad democrática, desde los procesos electorales hasta la formulación de políticas y la rendición de cuentas. La resiliencia de las instituciones de gobernabilidad democrática es crucial, no solo por su capacidad de transformación y adaptación, sino también por su habilidad para encontrar soluciones institucionales eficaces y establecer salvaguardas en todos los niveles de gobierno. Del mismo modo, es clave fortalecer la capacidad y el involucramiento de la sociedad civil, incluyendo el desarrollo de competencias y destrezas, la creación de coaliciones para el trabajo intersectorial, así como el aprendizaje y el intercambio a escala global. Dado que la IA conlleva, de forma simultánea, oportunidades y riesgos para la gobernabilidad democrática, se requiere un enfoque integral que involucre a múltiples partes interesadas, tales como gobierno, sector privado, organizaciones de la sociedad civil y el ámbito académico, para colaborar en el diseño de marcos de acción eficaces y métricas que permitan proteger y ampliar la gobernabilidad democrática con la ayuda de la IA. La necesidad de ingenieros de gobernabilidad democrática no podría ser hoy más necesaria.
*Fuente de la foto: Pexel, 2026
