Inteligencia artificial generativa: innovación, desinformación y desafíos para la democracia

13 julio, 2026 | Democracia, derechos digitales, desinformación, elecciones, inteligencia artificial

Por Daisy Hume y Gerardo Paciello

Las herramientas de inteligencia artificial generativa dejaron de ser una promesa tecnológica para convertirse en una realidad cotidiana. Hoy pueden redactar textos, generar imágenes hiperrealistas, sintetizar voces humanas y producir contenido audiovisual con niveles de sofisticación cada vez mayores. Estas capacidades abren oportunidades valiosas para la innovación, el acceso a la información y el fortalecimiento institucional. Sin embargo, también plantean riesgos significativos cuando son utilizadas para producir desinformación, manipular percepciones y tensionar la integridad del debate democrático.

Este artículo se enfoca específicamente en uno de esos desafíos: el impacto de la inteligencia artificial generativa sobre la circulación de información y su potencial incidencia en la democracia.

La pregunta de fondo es inevitable: ¿quién controla estas herramientas y bajo qué reglas? En países como Paraguay, donde estos debates regulatorios recién comienzan a consolidarse, responder esta pregunta resulta central para garantizar que el desarrollo tecnológico no avance por fuera de marcos democráticos y de derechos humanos. En ese sentido, el debate sobre inteligencia artificial y su uso ético no puede limitarse a sus aplicaciones técnicas. Hoy constituye, ante todo, una discusión sobre poder, regulación y gobernanza democrática.

Potencial democrático y desafíos

Utilizada de manera responsable, la inteligencia artificial generativa puede convertirse en una aliada para fortalecer procesos democráticos. Sus capacidades para procesar grandes volúmenes de información pueden contribuir al análisis de datos públicos, al monitoreo institucional y al fortalecimiento de mecanismos de transparencia y rendición de cuentas.

En el ámbito periodístico, estas herramientas podrían facilitar el procesamiento de bases de datos, el seguimiento de actividad legislativa o la identificación de patrones relevantes para la fiscalización ciudadana. En la administración pública, también podrían contribuir a optimizar procesos, mejorar la planificación de políticas públicas y fortalecer capacidades institucionales.

Como sostiene Jamila Venturini (2025), investigadora de Derechos Digitales, el debate no debe reducirse al falso dilema entre prohibir o simplemente educar sobre estas tecnologías. El verdadero desafío consiste en construir marcos regulatorios, políticas públicas y mecanismos de protección de derechos que permitan aprovechar sus beneficios sin trasladar toda la responsabilidad a las personas usuarias.

En otras palabras, el problema no consiste en prohibir estas tecnologías o rechazar la innovación, sino en construir condiciones democráticas para comprenderlas, evaluarlas críticamente y prevenir sus impactos negativos, garantizando que su desarrollo se produzca bajo criterios de transparencia, supervisión pública y protección efectiva de derechos.

IA generativa, desinformación y riesgos electorales

Los principales riesgos aparecen cuando estas herramientas son utilizadas para alterar la circulación de información y manipular deliberadamente la percepción pública.

Uno de los fenómenos más relevantes en este campo es la proliferación de los llamados deepfakes: contenidos generados mediante algoritmos capaces de replicar con gran precisión rostros, voces y gestos humanos. Estas herramientas permiten fabricar discursos, declaraciones o situaciones ficticias con niveles de realismo que dificultan cada vez más distinguir lo auténtico de lo manipulado. El grado de sofisticación alcanzado por estas tecnologías evidencia la magnitud del desafío democrático que representan.

Durante el proceso electoral de Estados Unidos en 2024, por ejemplo, las autoridades investigaron llamadas automatizadas que utilizaban una voz clonada del entonces presidente Joe Biden para instar a los electores a no participar en las primarias del Partido Demócrata en New Hampshire (NBC News, 2024). Este episodio mostró cómo el uso malicioso de IA generativa puede interferir directamente en procesos electorales y erosionar la confianza pública.

Asimismo, durante ese mismo periodo circularon imágenes generadas con inteligencia artificial que mostraban falsamente a Donald Trump interactuando con electores afroamericanos en situaciones que nunca ocurrieron (BBC News, 2024).

En Argentina, durante la campaña electoral de 2023, circuló un video generado mediante inteligencia artificial que simulaba declaraciones del expresidente Mauricio Macri, generando denuncias públicas sobre manipulación digital (Clarín, 2023).

Estos episodios evidencian una tendencia global respecto a la incorporación progresiva de IA generativa a estrategias de desinformación política orientadas a influir sobre la opinión pública.

Como advierte Dilmar Villena (2026), investigador de Hiperderecho, estos fenómenos no constituyen hechos aislados, sino parte de una transformación estructural del ecosistema informativo. La creciente producción de contenido sintético amplifica lo que el autor denomina una «neblina de datos», dificultando la construcción de una ciudadanía críticamente informada.

Derechos humanos y gobernanza democrática

El uso cada vez más extendido de estas tecnologías plantea desafíos centrales desde una perspectiva de derechos humanos. La desinformación generada mediante IA puede distorsionar el acceso a información suficiente y confiable para la formación de opinión pública, afectar el debate democrático e influir en decisiones electorales. También puede vulnerar derechos como la privacidad, la reputación y la identidad personal cuando se utilizan imágenes o voces sin consentimiento.

Conviene subrayar con claridad que la inteligencia artificial no constituye una herramienta neutral. Los sistemas algorítmicos responden a decisiones humanas, intereses concretos y sesgos presentes en quienes los diseñan, entrenan y utilizan. Por ello, su implementación sin controles adecuados puede reproducir desigualdades existentes y afectar de manera desproporcionada a grupos históricamente excluidos o vulnerabilizados.

Resulta fundamental que cualquier desarrollo o implementación de inteligencia artificial esté guiado por principios de igualdad, no discriminación, transparencia y rendición de cuentas. En este sentido, Juan Manuel García (2024), en un análisis publicado por Derechos Digitales, sostiene que las evaluaciones de impacto en derechos humanos constituyen una herramienta clave para anticipar riesgos y prevenir afectaciones derivadas del uso de sistemas automatizados, permitiendo identificar y mitigar posibles impactos antes de su implementación.

La UNESCO advirtió en 2023 que la IA generativa sin salvaguardas adecuadas puede amplificar desinformación, reforzar sesgos y afectar el funcionamiento democrático. En la misma línea, la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos ha insistido en la necesidad de desarrollar estos sistemas bajo marcos de transparencia, responsabilidad y supervisión pública.

Hablar de gobernanza democrática de la inteligencia artificial implica reconocer que las decisiones sobre su desarrollo, implementación y control no pueden quedar exclusivamente en manos de empresas tecnológicas o especialistas. Deben formar parte de procesos abiertos, participativos y sujetos a control ciudadano. Sin estas condiciones, la IA corre el riesgo de consolidar formas de poder difíciles de controlar dentro de un sistema democrático.

Paraguay ante el desafío regulatorio

En Paraguay, el escenario aún está en construcción. Esa situación, lejos de representar únicamente una limitación, ofrece una oportunidad institucional valiosa: la posibilidad de establecer reglas antes de que el uso extendido de estas tecnologías genere impactos difíciles de corregir.

La reciente aprobación de la Ley N.º 7593/2025 de Protección de Datos Personales representa un avance importante para la protección de la privacidad. Tal como señaló TEDIC (2025), su aprobación constituye un hito para el país al establecer un marco jurídico integral para la protección de los datos personales. No obstante, el desafío ahora está en su implementación efectiva y en la construcción de lineamientos específicos que permitan regular el uso de inteligencia artificial generativa desde una perspectiva democrática y de derechos humanos.

El debate político paraguayo se desarrolla cada vez más en redes sociales y plataformas digitales, donde la circulación acelerada de información y los limitados mecanismos de verificación generan condiciones propicias para dinámicas de desinformación.

Además, el acceso a herramientas de generación de imágenes, audio y video es cada vez más sencillo y económico. Tecnologías que hasta hace pocos años requerían equipos especializados hoy se encuentran disponibles de manera gratuita o a bajo costo. Esta democratización tecnológica tiene efectos positivos, pero también reduce significativamente las barreras para la manipulación digital.

En este contexto, Paraguay tiene la oportunidad de adoptar un enfoque preventivo que combine innovación tecnológica con salvaguardas democráticas. Esto implica fortalecer la implementación de la legislación vigente, desarrollar lineamientos específicos para el uso de IA generativa, incorporar evaluaciones de impacto en derechos humanos y promover instancias de participación ciudadana en la definición de políticas tecnológicas. En línea con lo señalado por Juan Manuel García (2024), estas evaluaciones permiten identificar y mitigar riesgos antes de la implementación de sistemas automatizados, favoreciendo un desarrollo tecnológico compatible con los derechos humanos.

Lejos de limitar la innovación, estas medidas pueden convertirse en garantías para un desarrollo tecnológico más responsable, transparente e inclusivo. El desafío no radica en frenar el avance de la inteligencia artificial, sino en definir quién decide su rumbo, con qué límites y bajo qué mecanismos de control. La gobernanza democrática de la IA constituye, en última instancia, una discusión sobre el poder en la era digital.

En ese proceso, el Estado, la sociedad civil y los movimientos sociales tienen un rol central para garantizar que estas tecnologías no profundicen desigualdades ni debiliten la democracia, sino que contribuyan a fortalecerla desde una perspectiva de derechos humanos.

Referencias bibliográficas

Artículos relacionados