Los Desafíos de la IA en la política y en el ejercicio del poder

inteligencia artificial en la comunicación política

La irrupción de la Inteligencia Artificial (IA) en la política conlleva algunos desafíos que van más allá de la denominada «democracia de los algoritmos» y que vuelven mucho más complejo el ejercicio del poder en la democracia moderna.

Por eso, en este artículo se abordarán la falta de transparencia para la rendición de cuentas, las dificultades para explicar los procesos de aprendizaje de la IA, la deficiente o débil trazabilidad de la toma de decisiones de la IA, la posible reproducción de sesgos y discriminación, el uso poco ético de la IA en la comunicación política, y los efectos que la IA puede tener sobre los derechos que integran el principio del habeas data o protección de los datos. Se trata de desarrollar con mayor profundidad un tema que tocamos hace unos días como es los desafíos que presenta la Inteligencia Artificial para la política y la democracia.

Añadiremos algunos de los desafíos que estas tecnologías implican en el ámbito político y los analizamos en este post, además de ello es necesario revisar las implicaciones y los retos que conlleva estos desafíos para la IA en el marco de la política y como seria una gobernanza que tome en cuenta de manera consciente y ética estas novísimas tecnologías, que ciertamente llegaron para quedarse.

Falta de transparencia para la rendición de cuentas

La democracia y, en general, la política moderna es más que la elección del gobierno y el ejercicio del poder. También implica la posibilidad de brindar a los ciudadanos de un Estado la oportunidad de hacer un seguimiento responsable, transparente y confiable del ejercicio de la política.

Por ello, la aplicabilidad de la IA en la política conlleva grandes desafíos, ya que es inherente a estos sistemas la existencia de un alto grado de opacidad, que impide alcanzar la gobernanza de ellos en el marco del ejercicio del poder público.

La opacidad se debe a que las IA están caracterizadas por una amplia complejidad de sus modelos, lo que conlleva una deficiente explicación de su funcionamiento y una trazabilidad limitada.

Dificultad en explicar los procesos de aprendizaje de la IA

Los Desafíos de la IA en la política y en el ejercicio del poder

Las IA actuales son modelos de redes neuronales profundas que permiten el aprendizaje automático, por lo que su utilización, por ejemplo, en los procesos de generación de políticas públicas, hace muy complejo predecir qué aprendizajes pueden adquirir y explicar su proceso de toma de decisiones.

En este último sentido, la dificultad o deficiencia en la explicación de cómo una IA toma decisiones en un contexto político convierte a este tipo de sistemas en verdaderas «cajas negras», que, en vez de permitir y garantizar la transparente auditoría de la toma de decisiones, la convierten en materia de muy pocos científicos, que incluso no podrán explicar con certeza el origen o razonamiento de alguna medida generada del uso de la IA.

Más en  El poder del live stream o el directo en la política

Débil trazabilidad de la toma de decisiones de la IA

Por ello, la trazabilidad, entendida como la capacidad de seguir el rastro al proceso de toma de decisiones de un sistema de IA, se hace cada vez más difícil, porque a ciencia cierta no se puede conocer las formas como se toman las decisiones por una IA con fines políticos.

Esto conlleva verdaderos desafíos en la rendición de cuentas de procesos políticos ejecutados con la utilización de IA.

Reproducción de sesgos y discriminación

La reproducción de los sesgos y la discriminación es otro de los desafíos a los que se enfrentaría la IA, ya que esta realiza un aprendizaje permanente sobre datos ya existentes, que pueden tener sesgos relacionados con las diferentes discriminaciones que históricamente han surgido en la sociedad moderna, como por ejemplo discriminación por origen étnico, social, de género, nacionalidad, ubicación geográfica, edad, etcétera.

La IA tiene como característica la capacidad de aprender de los datos existentes. La gran complejidad de los datos que históricamente se han reproducido en una sociedad hace muy difícil que esta no aprenda de sesgos que han reproducido discriminación.

Por ejemplo, una IA utilizada en la política española puede tomar la amplia información digital disponible en la Biblioteca Nacional de España, que contiene periódicos históricos que reproducen información de mucha variedad, incluida información política, y concluir que todos los males de la sociedad española del siglo XXI se deben al proceso de independencia de las colonias españolas en el siglo XIX, y concluir de manera sesgada que la política pública en materia de inmigración o en el marco de las relaciones internacionales se debe actuar contra los ciudadanos y contra los Estados latinoamericanos.

Reproducción de sesgos y discriminación en la inteligencia artificial (IA)

Igual desafío puede producirse si la IA toma como fuente las redes sociales de cualquier país desarrollado y concluir que los movimientos migratorios originados en países africanos, latinoamericanos o musulmanes son una amenaza a la Seguridad Nacional, y actuar para generar políticas públicas contra las personas de dichas naciones.

El uso antiético de la IA en la comunicación política

Una IA utilizada en la comunicación política puede llegar a la idea de que el objetivo primordial es alcanzar la mayor efectividad de resultados y valerse de su amplia red de información y recursos digitales para crear fakenews con fines de desinformar a algunos segmentos electorales.

Esta capacidad aumenta en sociedades con altos índices de acceso a Internet, lo que le permite a la IA poder acceder a la información de usuarios de redes sociales, y desde estos parámetros generar información tendiente a la manipulación de los electores.

La decisión entre usar o no usar estos modelos en el marco de campañas electorales es una decisión ética, por lo tanto humana, por ende una IA puede simplemente considerar que el fin justifica los medios, lo que constituye un verdadero riesgo en el marco de la llamada «democracia de los algoritmos».

Más en  Relación de la TV y la Política: El antes y el ahora

Sobre la IA y el habeas data

En el marco del acceso a los datos, la utilización de la IA en el ámbito político, que incluye tanto la comunicación política, la formulación de políticas públicas, así como la gestión de gobierno, conlleva el desafío de acceso a los datos de los ciudadanos.

Ya de por sí, el uso de herramientas de IA para hacer levantamiento de información en modelos de Inteligencia de fuentes abiertas (OSINT) constituye un riesgo, debido a que con las herramientas adecuadas se puede recopilar y analizar cuantiosa información que las personas dejan en las diferentes redes sociales; esto aumenta exponencialmente cuando se le suma que una IA pueda tener acceso a información de los ciudadanos introducida en las diferentes instituciones que, en el marco de la digitalización de sus actividades, manejen bases de datos que van desde la información laboral, de salud, notarias, servicios públicos, antecedentes penales, y diversos trámites públicos, lo que constituye un posible atentado contra la privacidad de las personas.

Las IA actuales pueden acceder, agrupar, analizar toda información que exista de los ciudadanos, pero esto puede estar en contradicción directa con el principio de habeas data que establece que los ciudadanos tienen derecho a acceder a su información, rectificar y suprimir su información, consentimiento para otorgar información, y rendición de cuentas. Por ende, en el marco de la democracia los ciudadanos tienen derecho a saber qué información pueden tener las herramientas de IA sobre ellos, y además poder rectificar o suprimir esa información, pero sobre todo consentir el acceso a estos datos.

Sumado a ello, como ya se señaló con anterioridad, la rendición de cuentas es uno de los principales desafíos de la IA en la política, que aumenta exponencialmente cuando se trata de la rendición de cuentas del acceso y manejo de datos de la ciudadanía. En síntesis, el cumplimiento del principio de habeas data, es decir, el derecho de los ciudadanos a acceder, rectificar, suprimir y consentir el uso de su información personal, es uno de los desafíos más importantes y apremiantes para las IA utilizadas en el ámbito político.

Implicaciones y retos de la IA para la democracia

Cualquiera puede pensar que en el marco de la digitalización de los diferentes procesos de la política, o más bien del ejercicio del poder en los Estados democráticos, la IA puede constituir un verdadero avance que logre sistemas políticos más perfectos, haciendo realidad que la democracia sea el gobierno del pueblo, por el pueblo y para el pueblo. Sin embargo, un análisis más profundo de los alcances de la IA, de sus elementos constitutivos y de las diferentes propiedades de la democracia moderna, nos muestra que son muchas las implicaciones y retos que conlleva su utilización en la política, sin ánimo de negar sus aportes significativos.

Lo primero, es que la IA debe ser utilizada sin atentar contra la participación ciudadana, la cual se fundamenta no solo en el derecho al voto, sino también en el acceso a la formulación de las diferentes políticas públicas que tienen como fin superior alcanzar la solución de problemas concretos de la sociedad. En este sentido, la rendición de cuentas en condiciones de transparencia es uno de los elementos que debe ser garantizado si se decide utilizar modelos de IA en la política.

Más en  X Cumbre Mundial de Comunicación Política

Por lo tanto, deben formularse o crearse las normas que regulen el uso de las IA por los gobiernos, ya que ciertamente puede ayudar a solventar de manera rápida y oportuna muchos procesos de la gobernanza, pero esto no debe implicar un uso que favorezca a sectores privilegiados, sino que, por el contrario, debe permitir la mayor equidad posible.

Por supuesto, se deben también tomar medidas efectivas para que el uso de las IA en campañas electorales y, en general, en la comunicación política, no atenten contra la integridad psicológica de los electores, alcanzando altos niveles de manipulación de segmentos electorales, porque esto atenta contra la soberanía popular y, por ende, contra la democracia.

Hacia una gobernanza responsable de la IA

Es clave destacar que la democracia va de la mano de los sistemas jurídicos y que estos deben incluir normas adecuadas a los nuevos cambios tecnológicos. Por lo tanto, una implicación importante del uso de las IA en el marco de la política es la necesidad de crear las normas que regulen esta nueva realidad.

Así, la gobernanza debe incluir el uso de las IA en los procesos políticos, y esta a su vez debe basarse en un sistema jurídico con la capacidad de actualizar el marco regulatorio.

La utilización de la IA no va a detenerse por la dificultad de poder entender el uso de los datos y la forma como estos se utilizan en el contexto político. Esto se lograría si se establece un sistema de auditoría capaz de corregir los sesgos, además de facilitar medios para que tanto políticos como ciudadanos puedan cuestionar decisiones tomadas usando IA, cuando estas estén vinculadas a posibles discriminaciones o sesgos que pongan en desventaja a grupos vulnerables.

La educación adecuada sobre la IA y sus efectos en la política es una medida necesaria para detener o corregir cualquier posible medida originada por una IA en el marco político.

Además de facilitar a los ciudadanos esta formación, es también clave que aprendan cómo evitar que los sistemas de IA usados en contextos políticos violenten los derechos relacionados con el habeas data, es decir, el derecho de las personas a acceder, rectificar, suprimir y consentir el uso de su información personal.

En este día...

Categorías: comunicación

Ramón

Apasionado del Conocimiento Libre y de las personas. Autor de Software Libre y Comunicación

0 comentarios

Deja una respuesta

Marcador de posición del avatar

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *