Durante mucho tiempo hemos planteado el problema de los deepfakes políticos de una manera aparentemente sencilla: ¿Y si el detector de deepfakes también se equivoca?
- Primero aparece un vídeo o un audio sospechoso.
- Después utilizamos alguna herramienta tecnológica para comprobar si fue creado mediante inteligencia artificial.
- Y, finalmente, establecemos si es verdadero o falso.
Problema resuelto.
Solo que el problema real es bastante más incómodo:
¿qué ocurre cuando tampoco podemos confiar plenamente en el detector?
Una investigación académica publicada el 30 de julio de 2026 pone precisamente esa cuestión encima de la mesa.
El trabajo, titulado Cloned voces, Real Consecuencias: Evaluating sesgo in política Deepfake Detección para Electoral integridad in Brasil, construye un conjunto específico de audios políticos brasileños denominado ParlaSpoof-BR a partir de grabaciones de la Cámara de Diputados y voces sintéticas generadas mediante diferentes tecnologías de clonación y conversión de voz.
Posteriormente, los investigadores sometieron esos audios a sistemas avanzados de detección de deepfakes.
El resultado debería interesar a cualquier director de campaña, responsable de comunicación o consultor político: los sistemas evaluados tuvieron dificultades para producir decisiones consistentes ante la diversidad del habla política brasileña. Además, variables como el sistema utilizado para generar la voz o el nivel de manipulación tuvieron una influencia importante sobre los resultados.
Es un preprint y, por tanto, sus resultados deberán seguir contrastándose.
Pero plantea una advertencia profesional muy importante.
Y llega en un momento muy concreto de esta conversación. Este es el tercer artículo de la serie sobre IA y comunicación política que publico en el blog. ¿Y si el detector de deepfakes también se equivoca? El primero, Los ciudadanos ya no le preguntarán a Google quién dice la verdad, se lo preguntarán a una IA. Planteaba cómo cambia la mediación entre ciudadanía e información cuando la respuesta llega de un asistente y no de un buscador.
El segundo, No basta con detectar deepfakes: hay que detectar ecosistemas. Sostenía que la unidad de análisis ya no es la pieza falsa, sino la operación completa que la produce.
Este texto completa la tríada por otro flanco. La limitación técnica del propio detector.
El deepfake perfecto quizá no sea el mayor problema
Llevamos años preocupándonos por la posibilidad de que llegue un momento en que resulte prácticamente imposible distinguir una voz o imagen artificial de una auténtica, y es razonable.
En Las falsa noticias y su impacto en la democracia y campañas electorales ya advertía que la inteligencia artificial estaba permitiendo crear no solamente información falsa, sino evidencias audiovisuales aparentemente capaces de sostener esa información.
Eso cambia profundamente la naturaleza de la desinformación. Antes había que fabricar una mentira creíble. Ahora se puede fabricar también la supuesta prueba.
Pero el nuevo estudio brasileño añade una segunda capa: también podemos equivocarnos cuando intentamos demostrar que esa prueba es falsa.
Y eso complica enormemente la gestión de una crisis política.
Imagine las primeras dos horas de una crisis
Son las 7:42 de la mañana.
Comienza a circular por WhatsApp un audio de 36 segundos.
La voz parece la del candidato.
En el audio supuestamente admite algo grave: corrupción, una negociación secreta, desprecio hacia un determinado colectivo o cualquier frase políticamente devastadora.
A las 7:55 alguien lo publica en X.
A las 8:10 aparece en TikTok acompañado por subtítulos.
A las 8:20 tres periodistas llaman preguntando si es auténtico.
A las 8:30 un rival político lo comparte diciendo:
«Que sea la ciudadanía quien juzgue».
A las 8:45 alguien del equipo pasa el audio por una aplicación que afirma, con una determinada probabilidad, que fue generado por IA. (No es un ejercicio simplemente de imaginación, en Honduras donde venimos trabajando desde hace unos años, hemos vivido esto de los audios en varios momentos de crisis política, tanto previa a la elección del 30 de noviembre de 2025 como durante este 2026)
Y llega la pregunta inevitable:
¿salimos inmediatamente a decir que es falso?
La tentación es enorme.
Pero hacerlo basándose únicamente en un detector automático puede convertirse en un segundo problema.
¿Qué pasa si el detector se equivocó?
¿Qué pasa si después aparece una prueba de autenticidad?
¿Qué pasa si diferentes detectores ofrecen respuestas distintas?
La crisis inicial deja de ser únicamente reputacional.
Se convierte en una crisis de credibilidad institucional.
Un detector no puede convertirse en juez
Esto nos obliga a cambiar el enfoque profesional.
Los detectores de inteligencia artificial deben entenderse como una señal dentro de un proceso de verificación, no como un notario digital. Y ese proceso de verificación, como sostuve en No basta con detectar deepfakes: hay que detectar ecosistemas, no puede limitarse al archivo individual. Tiene que leer la operación completa detrás de él. Y eso tiene una consecuencia importante para las campañas: hay que construir protocolos antes de necesitar utilizarlos.
Las crisis digitales se pierden habitualmente durante las primeras horas, cuando todavía nadie sabe exactamente qué ocurrió y todo el mundo siente que tiene que decir algo.
La IA hace esas primeras horas todavía más peligrosas. Por eso conviene distinguir entre velocidad comunicativa y precipitación probatoria. Una campaña puede reaccionar rápidamente sin afirmar aquello que todavía no puede demostrar. Sobre esa lógica de gestión de crisis, escribí también en la Guía esencial para gestionar una crisis de reputación, que aunque aplicada al plano general, sirve igualmente para esta nueva sociedad post IA.
Cinco capas para verificar un supuesto deepfake político
1. Preservar el archivo original
El vídeo descargado de TikTok o el audio reenviado veinte veces por WhatsApp no son necesariamente la mejor evidencia. Hay que encontrar la versión más temprana posible, conservar archivos y metadatos disponibles y documentar la cadena de circulación.
2. Rastrear el origen
¿Quién lo publicó primero? ¿Dónde? ¿Existe una versión anterior?
¿Apareció simultáneamente en diferentes cuentas? ¿Las cuentas presentan comportamiento coordinado?
Aquí la verificación audiovisual comienza a encontrarse con la inteligencia narrativa y el análisis de redes.
3. Utilizar múltiples herramientas
Un solo detector nunca debería sostener una conclusión política de alto riesgo. Conviene contrastar diferentes sistemas y buscar inconsistencias. Y aun cuando varios coincidan, su resultado sigue siendo evidencia técnica que debe contextualizarse.
4. Contrastar con información humana
¿Dónde estaba realmente la persona? ¿Existe grabación completa de la conversación?
¿Hay testigos? ¿La frase coincide con un discurso previo?
¿Existen cortes, discontinuidades o cambios contextuales?
No toda falsificación requiere inteligencia artificial. Un audio verdadero también puede manipularse mediante edición o descontextualización.
5. Analizar la operación, no únicamente el archivo
Esta capa suele olvidarse. Puede que no sepamos inmediatamente si un contenido es sintético.
Pero podemos descubrir que veinte cuentas comenzaron a difundirlo con exactamente el mismo mensaje, que determinadas comunidades lo amplificaron coordinadamente o que forma parte de una narrativa que ya estaba preparándose.
El caso colombiano del ciclo 2025-2026 documentó esto con claridad: 150 campañas de desinformación se agrupaban en apenas 15 narrativas madre. La proporción lo explica casi todo. Cazar piezas es infinito; leer narrativas es finito. Lo desarrollé con detalle en No basta con detectar deepfakes: hay que detectar ecosistemas.
En ocasiones, comprender cómo se está intentando instalar la historia puede ser tan importante como determinar técnicamente cómo se fabricó el archivo.
De la monitorización a la inteligencia narrativa
Este punto conecta directamente con algo que venimos desarrollando en RRyCia.
En nuestro sistema de Notas de Inteligencia Narrativa no analizamos únicamente piezas concretas de contenido. Se trata de la misma disciplina que sostiene el diagnóstico narrativo, aplicada al monitoreo continuo del ecosistema informativo. Es también el enfoque que estructura toda esta serie: detectar ecosistemas, no piezas aisladas.
Intentamos reconstruir:
qué narrativa aparece,
quién la introduce,
qué actores la amplifican,
qué comunidades la reciben,
qué emoción moviliza,
qué precedente existe en otros países,
y cuál puede ser su siguiente evolución.
Porque un deepfake raramente tiene impacto político únicamente por su calidad técnica.
Funciona cuando encaja en algo que una parte de la sociedad estaba preparada para creer.
Ese es el verdadero terreno de la disputa.
El problema del «dividendo del mentiroso»
Hay además una consecuencia todavía más compleja. Cuantos más contenidos falsos existan, más fácil será para cualquier político afirmar que un contenido auténtico también fue creado con IA. Entramos entonces en una sociedad donde no solamente podemos fabricar falsedades. También podemos negar verdades.
Ese fenómeno destruye uno de los recursos más importantes de cualquier democracia: la posibilidad de establecer una base mínima compartida sobre qué ocurrió realmente. La paradoja es extraordinaria. La misma tecnología que permite fabricar evidencia falsa puede terminar provocando que desconfiemos también de la evidencia verdadera.
Las campañas necesitan protocolos de autenticidad
Por eso una campaña electoral moderna no debería empezar a pensar en los deepfakes cuando aparezca el primero. Igual que se prepara un protocolo de crisis, debería existir un protocolo de autenticidad digital.
Qué materiales originales se conservan.
Quién puede activar una verificación.
Qué especialistas externos están disponibles.
Quién toma la decisión comunicativa.
Cómo se documenta una falsificación.
Qué se comunica cuando todavía no existe certeza.
Y qué canales se utilizan para distribuir rápidamente las pruebas.
En Campaña electoral moderna en 2026 defendía que la verdadera innovación no consiste solamente en utilizar herramientas nuevas, sino en integrarlas estratégica y responsablemente.
Este es un buen ejemplo. No necesitamos únicamente mejor IA. Necesitamos mejores procedimientos humanos para utilizarla.
La próxima crisis puede comenzar con una voz
Brasil es un laboratorio particularmente importante porque combina una democracia altamente digitalizada, enorme consumo de redes sociales y un idioma que históricamente ha estado menos representado que el inglés en muchos datasets tecnológicos. La elección de Bolsanaro se convirtió en un referente en el sector de como usar whatsapp para la movilización masiva en campañas políticas hace ya algunos años.
Pero sería un error pensar que este problema es brasileño. La pregunta sirve igualmente para Colombia, México, Honduras, República Dominicana, Paraguay o España.
Si mañana aparece un audio devastador de un candidato:
¿puede su equipo demostrar en dos horas si es real?
Y más importante todavía:
¿sabe qué comunicar durante esas dos horas mientras intenta averiguarlo?
Ahí comienza la verdadera preparación. Porque en la era de la inteligencia artificial ya no basta con aprender a detectar la mentira. También tenemos que aprender a demostrar la verdad.
Tercer artículo de la serie sobre inteligencia artificial y comunicación política. El primero, Los ciudadanos ya no le preguntarán a Google quién dice la verdad, se lo preguntarán a una IA, abordó el paso del SEO al SEO y la IA como nuevo consejero de voto. El segundo, No basta con detectar deepfakes: hay que detectar ecosistemas, planteó por qué la unidad de análisis correcta ya no es la pieza individual, sino la operación completa que la produce.