Por Matías Bianchi (*)

No estamos hablando de un futuro distópico ni de algún lugar alejado. Hoy en Argentina se utiliza inteligencia artificial para generar deepfakes (videos y voces realistas) que comunican mensajes falsos; campañas de desinformación generadas por máquinas; militantes y activistas manufacturados (agentes) que inclinan la cancha en el debate público; y mensajes microsegmentados diseñados para manipular nuestras opiniones y decisiones. 

La democracia es un sistema político, su salud depende de la libre expresión y elección por parte de sus ciudadanos, quienes, idealmente, debaten las opciones políticas en un espacio público. Este ideal quizás nunca se logró, pero hoy en la era de la IA corre ciertos riesgos de perder todo sentido.

El corazón del problema es que las personas somos animales con una enorme vulnerabilidad frente a la manipulación emocional y los sesgos cognitivos, y la IA se impone como un instrumento muy preciso para explotarlas. En un principio estas tecnologías fueron diseñadas para detectar nuestros gustos, perfilarnos e inducirnos al consumo, y así generar ganancias cuantiosas. Desgraciadamente, hemos visto cómo estas estrategias también han llegado a la política, ofreciendo herramientas poderosas para la creciente polarización de nuestras sociedades, la radicalización política y los ascensos de las políticas de extrema derecha. 

La IA, aunque suele presentarse como un tema técnico, tiene en su trasfondo una disputa de poder: las decisiones sobre cómo diseñar y usarla afectan nuestras formas de convivencia y nuestra capacidad para construir un futuro colectivo. Es decir, cómo funcionan, su alcance y sobre qué operan, tiene que ser necesariamente un debate de la política.

Los deepfakes, como el que vimos de Macri hace unos días, se han convertido en protagonistas de campañas electorales. Conviven con agentes sintéticos con perfiles creíbles debatiendo en redes sociales y compartiendo información falsa; y con envíos masivos de mensajes de manipulación hipersegmentada adaptados a tus sentimientos y emociones. Estas herramientas están claramente desgastando profundamente la confianza pública en los líderes políticos, los partidos políticos y los procesos electorales. ¿Cómo saber cuando un mensaje es real o no? ¿Con quién estoy hablando? 

Por ello, la pregunta ya no es si la inteligencia artificial puede afectar a nuestras democracias, sino si nuestras democracias pueden sobrevivir en tiempos de inteligencia artificial. 

La respuesta es sí. Ninguna crisis es destino. Pero claro, si la tecnología avanza, también debe hacerlo nuestra capacidad política y ciudadana para responder. Para eso, debemos alejarnos tanto del entusiasmo ciego como del pesimismo paralizante. 

El primer paso es clave: impulsar políticas públicas que aborden la complejidad de este fenómeno, regulando el uso de IA en contextos sensibles como las elecciones, la comunicación en plataformas digitales, y la administración de justicia. Esto requiere marcos normativos sólidos, pero también capacidades estatales fortalecidas, transparencia en los sistemas automatizados y espacios de participación ciudadana para co-crear soluciones. La inteligencia artificial no es neutral: refleja y amplifica los valores de quienes la diseñan y de los contextos donde se implementa. Por eso, América Latina y el Sur Global no pueden limitarse a importar tecnologías ni regulaciones foráneas. Necesitamos una gobernanza de la IA situada, democrática y feminista, que ponga en el centro la justicia social y la equidad.

En segundo lugar, se necesitan campañas de concientización masiva que alerten sobre los riesgos de la manipulación digital, promuevan el uso responsable de tecnologías y refuercen los valores democráticos frente a la desinformación. Tal como sucedió en su momento con el uso de las armas nucleares, en este tema también es fundamental el compromiso de las fuerzas políticas en el uso ético de estas tecnologías, y en la promoción de su uso basado en derechos.

Finalmente, pero quizás lo más importante, es educarnos para la ciudadanía digital. No podemos enfrentar la era de la IA con herramientas del siglo pasado. Es imperioso fortalecer el pensamiento crítico de jóvenes, niñas y niños. Esto va más allá de poder identificar un deepfake, tiene que ver con poder entender la manipulación emocional o la construcción de narrativas en un mundo mediado por algoritmos.

El episodio de este fin de semana es más común de lo que se cree y debe ser una alerta para actuar. Si entendemos que el problema no es la tecnología en sí, sino la falta de control democrático sobre su diseño y uso. Si construimos colectivamente una ciudadanía digital crítica, empoderada y activa. Si diseñamos políticas públicas que no corran detrás de la tecnología, sino que la orienten hacia el bien común.

La democracia está siempre en disputa. Se defiende, se reinventa y se construye, y también ahora, en el terreno digital.

(*) Director Asuntos del Sur, publicado en elDiarioAR