- \n
- Despu\u00e9s utilizamos alguna herramienta tecnol\u00f3gica para comprobar si fue creado mediante inteligencia artificial.<\/li>\n<\/ul>\n\n\n\n
- \n
- Y, finalmente, establecemos si es verdadero o falso.<\/li>\n<\/ul>\n\n\n\n
Problema resuelto.<\/p>\n\n\n\n
\nSolo que el problema real es bastante m\u00e1s inc\u00f3modo: <\/p>\n\n\n\n
\u00bfqu\u00e9 ocurre cuando tampoco podemos confiar plenamente en el detector?<\/strong><\/p>\n<\/div><\/div>\n\n\n\n
Una investigaci\u00f3n acad\u00e9mica publicada el 30 de julio de 2026 pone precisamente esa cuesti\u00f3n encima de la mesa.<\/p>\n\n\n\n
El trabajo, titulado Cloned <\/em><\/a>voces, Real <\/em><\/a>Consecuencias: Evaluating <\/em><\/a>sesgo in <\/em><\/a>pol\u00edtica Deepfake <\/em><\/a>Detecci\u00f3n <\/em><\/a>para Electoral <\/em><\/a>integridad in <\/em><\/a>Brasil,<\/a> construye un conjunto espec\u00edfico de audios pol\u00edticos brasile\u00f1os denominado ParlaSpoof-BR<\/strong> a partir de grabaciones de la C\u00e1mara de Diputados y voces sint\u00e9ticas generadas mediante diferentes tecnolog\u00edas de clonaci\u00f3n y conversi\u00f3n de voz.<\/p>\n\n\n\n
Posteriormente, los investigadores sometieron esos audios a sistemas avanzados de detecci\u00f3n de deepfakes.<\/p>\n\n\n\n
El resultado deber\u00eda interesar a cualquier director de campa\u00f1a<\/a>, responsable de comunicaci\u00f3n o consultor pol\u00edtico<\/a>: los sistemas evaluados tuvieron dificultades para producir decisiones consistentes ante la diversidad del habla pol\u00edtica brasile\u00f1a. Adem\u00e1s, variables como el sistema utilizado para generar la voz o el nivel de manipulaci\u00f3n tuvieron una influencia importante sobre los resultados.<\/p>\n\n\n\n
Es un preprint y, por tanto, sus resultados deber\u00e1n seguir contrast\u00e1ndose.<\/p>\n\n\n\n
Pero plantea una advertencia profesional muy importante.<\/p>\n\n\n\n
Y llega en un momento muy concreto de esta conversaci\u00f3n. Este es el tercer art\u00edculo de la serie sobre IA y comunicaci\u00f3n pol\u00edtica que publico en el blog. \u00bfY si el detector de deepfakes tambi\u00e9n se equivoca? El primero, Los ciudadanos ya no le preguntar\u00e1n a Google qui\u00e9n dice la verdad, se lo preguntar\u00e1n a una IA. Planteaba c\u00f3mo cambia la mediaci\u00f3n entre ciudadan\u00eda e informaci\u00f3n cuando la respuesta llega de un asistente y no de un buscador.<\/p>\n\n\n\n
El segundo, No basta con detectar deepfakes: hay que detectar ecosistemas. Sosten\u00eda que la unidad de an\u00e1lisis ya no es la pieza falsa, sino la operaci\u00f3n completa que la produce.<\/p>\n\n\n\n
Este texto completa la tr\u00edada por otro flanco. La limitaci\u00f3n t\u00e9cnica del propio detector.<\/p>\n\n\n\n
El deepfake perfecto quiz\u00e1 no sea el mayor problema<\/h2>\n\n\n\n
Llevamos a\u00f1os preocup\u00e1ndonos por la posibilidad de que llegue un momento en que resulte pr\u00e1cticamente imposible distinguir una voz o imagen artificial de una aut\u00e9ntica, y es razonable.<\/p>\n\n\n\n
En Las <\/strong><\/em><\/a>falsa <\/strong><\/em><\/a>noticias y su impacto en la democracia y campa\u00f1as electorales<\/strong><\/em><\/a> ya advert\u00eda que la inteligencia artificial estaba permitiendo crear no solamente informaci\u00f3n falsa, sino evidencias audiovisuales aparentemente capaces de sostener esa informaci\u00f3n.<\/p>\n\n\n\n
Eso cambia profundamente la naturaleza de la desinformaci\u00f3n. Antes hab\u00eda que fabricar una mentira cre\u00edble. Ahora se puede fabricar tambi\u00e9n la supuesta prueba.<\/p>\n\n\n\n
Pero el nuevo estudio brasile\u00f1o a\u00f1ade una segunda capa: tambi\u00e9n podemos equivocarnos cuando intentamos demostrar que esa prueba es falsa.<\/p>\n\n\n\n
Y eso complica enormemente la gesti\u00f3n de una crisis pol\u00edtica<\/a>.<\/p>\n\n\n\n
Imagine las primeras dos horas de una crisis<\/h2>\n\n\n\n
Son las 7:42 de la ma\u00f1ana.<\/p>\n\n\n\n
Comienza a circular por WhatsApp un audio de 36 segundos.<\/p>\n\n\n\n
La voz parece la del candidato.<\/p>\n\n\n\n
En el audio supuestamente admite algo grave: corrupci\u00f3n, una negociaci\u00f3n secreta, desprecio hacia un determinado colectivo o cualquier frase pol\u00edticamente devastadora.<\/p>\n\n\n\n
A las 7:55 alguien lo publica en X.<\/p>\n\n\n\n
A las 8:10 aparece en TikTok acompa\u00f1ado por subt\u00edtulos.<\/p>\n\n\n\n
A las 8:20 tres periodistas llaman preguntando si es aut\u00e9ntico.<\/p>\n\n\n\n
A las 8:30 un rival pol\u00edtico lo comparte diciendo:<\/p>\n\n\n\n
\u00abQue sea la ciudadan\u00eda quien juzgue\u00bb.<\/p>\n\n\n\n
A las 8:45 alguien del equipo pasa el audio por una aplicaci\u00f3n que afirma, con una determinada probabilidad, que fue generado por IA. (No es un ejercicio simplemente de imaginaci\u00f3n, en Honduras donde venimos trabajando desde hace unos a\u00f1os, hemos vivido esto de los audios en varios momentos de crisis pol\u00edtica, tanto previa a la elecci\u00f3n del 30 de noviembre de 2025 como durante este 2026)<\/p>\n\n\n\n
Y llega la pregunta inevitable:<\/p>\n\n\n\n
\u00bfsalimos inmediatamente a decir que es falso?<\/strong><\/p>\n\n\n\n
La tentaci\u00f3n es enorme.<\/p>\n\n\n\n
Pero hacerlo bas\u00e1ndose \u00fanicamente en un detector autom\u00e1tico puede convertirse en un segundo problema.<\/p>\n\n\n\n
\u00bfQu\u00e9 pasa si el detector se equivoc\u00f3?<\/p>\n\n\n\n
\u00bfQu\u00e9 pasa si despu\u00e9s aparece una prueba de autenticidad?<\/p>\n\n\n\n
\u00bfQu\u00e9 pasa si diferentes detectores ofrecen respuestas distintas?<\/p>\n\n\n\n
La crisis inicial deja de ser \u00fanicamente reputacional.<\/p>\n\n\n\n
Se convierte en una crisis de credibilidad institucional.<\/p>\n\n\n\n
![\"\u00bfY](\"https:\/\/ramonramon.org\/blog\/wp-content\/uploads\/2026\/08\/deepfake_juez-1200x675.jpg\")
<\/figure>\n\n\n\nUn detector no puede convertirse en juez<\/h2>\n\n\n\n
Esto nos obliga a cambiar el enfoque profesional.<\/p>\n\n\n\n
Los detectores de inteligencia artificial deben entenderse como una se\u00f1al dentro de un proceso de verificaci\u00f3n<\/strong>, no como un notario digital. Y ese proceso de verificaci\u00f3n, como sostuve en No basta con detectar deepfakes: hay que detectar ecosistemas<\/strong><\/em><\/a>, no puede limitarse al archivo individual. Tiene que leer la operaci\u00f3n completa detr\u00e1s de \u00e9l. Y eso tiene una consecuencia importante para las campa\u00f1as: hay que construir protocolos antes de necesitar utilizarlos.<\/p>\n\n\n\n
Las crisis digitales se pierden habitualmente durante las primeras horas<\/a>, cuando todav\u00eda nadie sabe exactamente qu\u00e9 ocurri\u00f3 y todo el mundo siente que tiene que decir algo.<\/p>\n\n\n\n
La IA hace esas primeras horas todav\u00eda m\u00e1s peligrosas. Por eso conviene distinguir entre velocidad comunicativa y precipitaci\u00f3n probatoria<\/strong>. Una campa\u00f1a puede reaccionar r\u00e1pidamente sin afirmar aquello que todav\u00eda no puede demostrar. Sobre esa l\u00f3gica de gesti\u00f3n de crisis, escrib\u00ed tambi\u00e9n en la Gu\u00eda esencial para gestionar una crisis de reputaci\u00f3n<\/strong><\/em><\/a>, que aunque aplicada al plano general, sirve igualmente para esta nueva sociedad post IA.<\/p>\n\n\n\n
Cinco capas para verificar un supuesto deepfake pol\u00edtico<\/h2>\n\n\n\n
1. Preservar el archivo original<\/h3>\n\n\n\n
El v\u00eddeo descargado de TikTok o el audio reenviado veinte veces por WhatsApp no son necesariamente la mejor evidencia. Hay que encontrar la versi\u00f3n m\u00e1s temprana posible, conservar archivos y metadatos disponibles y documentar la cadena de circulaci\u00f3n.<\/p>\n\n\n\n
2. Rastrear el origen<\/h3>\n\n\n\n
\u00bfQui\u00e9n lo public\u00f3 primero? \u00bfD\u00f3nde? \u00bfExiste una versi\u00f3n anterior?<\/p>\n\n\n\n
\u00bfApareci\u00f3 simult\u00e1neamente en diferentes cuentas? \u00bfLas cuentas presentan comportamiento coordinado?<\/p>\n\n\n\n
Aqu\u00ed la verificaci\u00f3n audiovisual comienza a encontrarse con la inteligencia narrativa y el an\u00e1lisis de redes<\/strong>.<\/p>\n\n\n\n
3. Utilizar m\u00faltiples herramientas<\/h3>\n\n\n\n
Un solo detector nunca deber\u00eda sostener una conclusi\u00f3n pol\u00edtica de alto riesgo. Conviene contrastar diferentes sistemas y buscar inconsistencias. Y aun cuando varios coincidan, su resultado sigue siendo evidencia t\u00e9cnica que debe contextualizarse.<\/p>\n\n\n\n
4. Contrastar con informaci\u00f3n humana<\/h3>\n\n\n\n
\u00bfD\u00f3nde estaba realmente la persona? \u00bfExiste grabaci\u00f3n completa de la conversaci\u00f3n?<\/p>\n\n\n\n
\u00bfHay testigos? \u00bfLa frase coincide con un discurso previo?<\/p>\n\n\n\n
\u00bfExisten cortes, discontinuidades o cambios contextuales?<\/p>\n\n\n\n
No toda falsificaci\u00f3n requiere inteligencia artificial. Un audio verdadero tambi\u00e9n puede manipularse mediante edici\u00f3n o descontextualizaci\u00f3n.<\/p>\n\n\n\n
5. Analizar la operaci\u00f3n, no \u00fanicamente el archivo<\/h3>\n\n\n\n
Esta capa suele olvidarse. Puede que no sepamos inmediatamente si un contenido es sint\u00e9tico.<\/p>\n\n\n\n
Pero podemos descubrir que veinte cuentas comenzaron a difundirlo con exactamente el mismo mensaje, que determinadas comunidades lo amplificaron coordinadamente o que forma parte de una narrativa que ya estaba prepar\u00e1ndose.<\/p>\n\n\n\n
El caso colombiano del ciclo 2025-2026 document\u00f3 esto con claridad: 150 campa\u00f1as de desinformaci\u00f3n se agrupaban en apenas 15 narrativas madre<\/strong>. La proporci\u00f3n lo explica casi todo. Cazar piezas es infinito; leer narrativas es finito. Lo desarroll\u00e9 con detalle en No basta con detectar deepfakes: hay que detectar ecosistemas<\/strong><\/em><\/a>.<\/p>\n\n\n\n
En ocasiones, comprender c\u00f3mo se est\u00e1 intentando instalar la historia<\/strong> puede ser tan importante como determinar t\u00e9cnicamente c\u00f3mo se fabric\u00f3 el archivo.<\/p>\n\n\n\n
![\"\u00bfY](\"https:\/\/ramonramon.org\/blog\/wp-content\/uploads\/2026\/08\/deepfake_verificar-1200x675.jpg\")
<\/figure>\n\n\n\nDe la monitorizaci\u00f3n a la inteligencia narrativa<\/h2>\n\n\n\n
Este punto conecta directamente con algo que venimos desarrollando en RRyCia<\/strong>.<\/p>\n\n\n\n
En nuestro sistema de Notas de Inteligencia Narrativa<\/strong> no analizamos \u00fanicamente piezas concretas de contenido. Se trata de la misma disciplina que sostiene el diagn\u00f3stico narrativo<\/strong><\/em><\/a>, aplicada al monitoreo continuo del ecosistema informativo. Es tambi\u00e9n el enfoque que estructura toda esta serie: detectar ecosistemas, no piezas aisladas<\/strong>.<\/p>\n\n\n\n
Intentamos reconstruir:<\/p>\n\n\n\n
qu\u00e9 narrativa aparece,<\/p>\n\n\n\n
qui\u00e9n la introduce,<\/p>\n\n\n\n
qu\u00e9 actores la amplifican,<\/p>\n\n\n\n
qu\u00e9 comunidades la reciben,<\/p>\n\n\n\n
qu\u00e9 emoci\u00f3n moviliza,<\/p>\n\n\n\n
qu\u00e9 precedente existe en otros pa\u00edses,<\/p>\n\n\n\n
y cu\u00e1l puede ser su siguiente evoluci\u00f3n.<\/p>\n\n\n\n
Porque un deepfake raramente tiene impacto pol\u00edtico \u00fanicamente por su calidad t\u00e9cnica.<\/p>\n\n\n\n
Funciona cuando encaja en algo que una parte de la sociedad estaba preparada para creer<\/strong>.<\/p>\n\n\n\n
Ese es el verdadero terreno de la disputa.<\/p>\n\n\n\n
El problema del \u00abdividendo del mentiroso\u00bb<\/h2>\n\n\n\n
Hay adem\u00e1s una consecuencia todav\u00eda m\u00e1s compleja. Cuantos m\u00e1s contenidos falsos existan, m\u00e1s f\u00e1cil ser\u00e1 para cualquier pol\u00edtico afirmar que un contenido aut\u00e9ntico tambi\u00e9n fue creado con IA. Entramos entonces en una sociedad donde no solamente podemos fabricar falsedades. Tambi\u00e9n podemos negar verdades.<\/p>\n\n\n\n
Ese fen\u00f3meno destruye uno de los recursos m\u00e1s importantes de cualquier democracia: la posibilidad de establecer una base m\u00ednima compartida sobre qu\u00e9 ocurri\u00f3 realmente. La paradoja es extraordinaria. La misma tecnolog\u00eda que permite fabricar evidencia falsa puede terminar provocando que desconfiemos tambi\u00e9n de la evidencia verdadera.<\/p>\n\n\n\n
Las campa\u00f1as necesitan protocolos de autenticidad<\/h2>\n\n\n\n
Por eso una campa\u00f1a electoral moderna no deber\u00eda empezar a pensar en los deepfakes cuando aparezca el primero. Igual que se prepara un protocolo de crisis, deber\u00eda existir un protocolo de autenticidad digital<\/strong>.<\/p>\n\n\n\n
Qu\u00e9 materiales originales se conservan.<\/p>\n\n\n\n
Qui\u00e9n puede activar una verificaci\u00f3n.<\/p>\n\n\n\n
Qu\u00e9 especialistas externos est\u00e1n disponibles.<\/p>\n\n\n\n
Qui\u00e9n toma la decisi\u00f3n comunicativa.<\/p>\n\n\n\n
C\u00f3mo se documenta una falsificaci\u00f3n.<\/p>\n\n\n\n
Qu\u00e9 se comunica cuando todav\u00eda no existe certeza.<\/p>\n\n\n\n
Y qu\u00e9 canales se utilizan para distribuir r\u00e1pidamente las pruebas.<\/p>\n\n\n\n
En Campa\u00f1a electoral moderna en 2026<\/strong><\/em><\/a> defend\u00eda que la verdadera innovaci\u00f3n no consiste solamente en utilizar herramientas nuevas, sino en integrarlas estrat\u00e9gica y responsablemente.<\/p>\n\n\n\n
Este es un buen ejemplo. No necesitamos \u00fanicamente mejor IA. Necesitamos mejores procedimientos humanos para utilizarla.<\/p>\n\n\n\n
La pr\u00f3xima crisis puede comenzar con una voz<\/h2>\n\n\n\n
Brasil es un laboratorio particularmente importante porque combina una democracia altamente digitalizada, enorme consumo de redes sociales y un idioma que hist\u00f3ricamente ha estado menos representado que el ingl\u00e9s en muchos datasets tecnol\u00f3gicos. La elecci\u00f3n de Bolsanaro se convirti\u00f3 en un referente en el sector de como usar whatsapp para la movilizaci\u00f3n masiva en campa\u00f1as pol\u00edticas hace ya algunos a\u00f1os.<\/p>\n\n\n\n
Pero ser\u00eda un error pensar que este problema es brasile\u00f1o. La pregunta sirve igualmente para Colombia, M\u00e9xico, Honduras, Rep\u00fablica Dominicana, Paraguay o Espa\u00f1a.<\/p>\n\n\n\n
Si ma\u00f1ana aparece un audio devastador de un candidato:<\/p>\n\n\n\n
\u00bfpuede su equipo demostrar en dos horas si es real?<\/strong><\/p>\n\n\n\n
Y m\u00e1s importante todav\u00eda:<\/p>\n\n\n\n
\u00bfsabe qu\u00e9 comunicar durante esas dos horas mientras intenta averiguarlo?<\/strong><\/p>\n\n\n\n
Ah\u00ed comienza la verdadera preparaci\u00f3n. Porque en la era de la inteligencia artificial ya no basta con aprender a detectar la mentira. Tambi\u00e9n tenemos que aprender a demostrar la verdad<\/strong>.<\/p>\n\n\n\n
Tercer art\u00edculo de la serie sobre inteligencia artificial y comunicaci\u00f3n pol\u00edtica. El primero, Los ciudadanos ya no le preguntar\u00e1n a Google qui\u00e9n dice la verdad, se lo preguntar\u00e1n a una IA<\/strong><\/a>, abord\u00f3 el paso del SEO al <\/em>SEO y la IA como nuevo consejero de voto. El segundo, No basta con detectar deepfakes: hay que detectar ecosistemas<\/strong><\/a>, plante\u00f3 por qu\u00e9 la unidad de an\u00e1lisis correcta ya no es la pieza individual, sino la operaci\u00f3n completa que la produce.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"
Una investigaci\u00f3n acad\u00e9mica brasile\u00f1a reciente advierte que los sistemas de detecci\u00f3n de deepfakes pol\u00edticos tambi\u00e9n pueden equivocarse. Es un cambio profundo para cualquier campa\u00f1a. Cuando el detector falla, la crisis inicial deja de ser solo reputacional y se vuelve crisis de credibilidad institucional. Cinco capas para verificar un supuesto deepfake pol\u00edtico.<\/p>\n","protected":false},"author":2070,"featured_media":36773,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"neve_meta_sidebar":"","neve_meta_container":"","neve_meta_enable_content_width":"","neve_meta_content_width":0,"neve_meta_title_alignment":"","neve_meta_author_avatar":"","neve_post_elements_order":"","neve_meta_disable_header":"","neve_meta_disable_footer":"","neve_meta_disable_title":"","footnotes":""},"categories":[2008,5459],"tags":[],"class_list":["post-36734","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-comunicacion","category-inteligencia-artificial"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\n\n\t\t\n
- Y, finalmente, establecemos si es verdadero o falso.<\/li>\n<\/ul>\n\n\n\n