{"id":29994,"date":"2021-10-26T09:41:52","date_gmt":"2021-10-26T07:41:52","guid":{"rendered":"https:\/\/ramonramon.org\/blog\/?p=29994"},"modified":"2021-11-08T03:36:05","modified_gmt":"2021-11-08T02:36:05","slug":"lo-que-los-algoritmos-pueden-hacer-por-los-gobiernos","status":"publish","type":"post","link":"https:\/\/ramonramon.org\/blog\/2021\/10\/26\/lo-que-los-algoritmos-pueden-hacer-por-los-gobiernos\/","title":{"rendered":"Lo que los algoritmos pueden hacer por los gobiernos"},"content":{"rendered":"\n

Seg\u00fan la inteligencia artificial (IA) y el aprendizaje autom\u00e1tico<\/a> van adquiriendo auge, el n\u00famero de organismos p\u00fablicos que se plantean o comienzan a utilizarlos se ha incrementado de forma considerable, ya que es una herramienta que ayuda a una mejor toma de decisiones. Los gobiernos, en su d\u00eda a d\u00eda, toman innumerables decisiones, por lo que usar un algoritmo para apoyar el proceso de toma de decisiones tiene bastante sentido<\/strong>. Con ello, se puede garantizar la coherencia, eficacia y eliminaci\u00f3n de errores humanos y sesgos (ojo con las generalizaciones, a\u00fan recuerdo la m\u00edtica pel\u00edcula \u00abjuegos de guerra\u00bb<\/a> del a\u00f1o 1983).<\/p>\n\n\n\n

\"Inteligencia<\/figure>\n\n\n\n

Adem\u00e1s, la pandemia del COVID-19<\/a> ha obligado a incrementar la rapidez de este proceso. Como ejemplo, el surgimiento de infinidad de chatbots que apoyaban o informaban<\/a> en todo el proceso de atenci\u00f3n a enfermos del coronavirus. La anal\u00edtica se ha convertido en una herramienta esencial para afrontar esta situaci\u00f3n sin precedentes para nuestra generaci\u00f3n y la cual cambia de formas inadvertidas e incluso impredecibles. Algunas de las decisiones basadas en la anal\u00edtica van a repercutir de formas notables y directas en nuestras vidas cotidianas, lo terrible de esta situaci\u00f3n es que no somos conscientes de ello. Por ejemplo, los algoritmos se pueden usar para identificar e interrogar a determinadas personas en lugares como Reino Unido; tambi\u00e9n est\u00e1n los algoritmos para la detecci\u00f3n de fraudes. Hace poco el gobierno de Espa\u00f1a anunciaba su especial \u00abminority report\u00bb contra el fraude fiscal<\/a>.<\/p>\n\n\n\n

El uso de algoritmos permite a los gobiernos actuar de forma mas eficiente, con mejores resultados y costos bajos. Un ejemplo del beneficio de aplicar algoritmos es el patr\u00f3n de evasiones fiscales, usado por gran cantidad de pa\u00edses, y aquellos que pueden predecir la propagaci\u00f3n de enfermedades infecciosas, as\u00ed como los que tamizan datos de sanidad para priorizar casos de asistencia y apoyo a la infancia, por solo mencionar algunos.<\/p>\n\n\n\n

Es fundamental que haya total transparencia y responsabilidad<\/strong> (por ejemplo, el Gobierno de Colombia tiene un registro de algoritmos empleados en sus servicios p\u00fablicos) a la hora de desarrollar estos algoritmos, sobre todo porque al final, es la ciudadan\u00eda la destinataria (para bien y para mal) de las decisiones de las \u00abm\u00e1quinas\u00bb.<\/p>\n\n\n\n

Durante las \u00faltimas d\u00e9cadas, ha habido advertencias constantes de que la tecnolog\u00eda amenaza con superar la capacidad de nuestra civilizaci\u00f3n para adaptarse y contenerla, tema muy ligado a las ambiciones y al poder de quien la ejerce<\/p>Tecnolog\u00eda: \u00bfVictima o arma del Estado?
<\/a><\/cite><\/blockquote>\n\n\n\n

Los organismos que utilicen la IA para obtener estos beneficios tambi\u00e9n se enfrentar\u00e1n a importantes cuestiones sobre el dise\u00f1o adecuado de los algoritmos y las interfaces de usuario, el alcance respectivo de la toma de decisiones humana y de la m\u00e1quina, los l\u00edmites entre las acciones p\u00fablicas y la contrataci\u00f3n privada, su propia capacidad de aprender con el tiempo utilizando la IA, y si el uso de la IA est\u00e1 incluso permitido y\/o es \u00e9tico.<\/p>\n\n\n\n

Todos estos puntos se tratan de cuestiones importantes para el debate p\u00fablico y la investigaci\u00f3n acad\u00e9mica. Sin embargo, se sabe muy poco sobre el uso actual de los sistemas de IA por parte de los organismos, m\u00e1s all\u00e1 de algunos ejemplos llamativos o descripciones superficiales. Adem\u00e1s, incluso en medio del creciente debate p\u00fablico y acad\u00e9mico sobre c\u00f3mo la sociedad podr\u00eda regular el uso de la IA por parte del gobierno, se ha prestado poca atenci\u00f3n a c\u00f3mo las agencias adquieren estas herramientas en primer lugar o supervisan su uso. Que sumado a los constantes casos y ejemplo de espionaje, control y monitorizaci\u00f3n de la ciudadan\u00eda, asustan el alcance de la tecnolog\u00eda aplicado a nuestras vidas. <\/p>\n\n\n\n

M\u00e1quinas que toman decisiones por nuestros gobernantes y funcionarios, sin ser conscientes a\u00fan de los peligros que ello representa.<\/h2>\n\n\n\n

Es importante reconocer que los algoritmos pueden ser susceptibles de algunos fallos muy significativos:<\/p>\n\n\n\n

-En primer lugar, los algoritmos pueden ser tendenciosos, es decir, dependiendo del dise\u00f1o del algoritmo y de la naturaleza y calidad de los datos de entrada, los algoritmos pueden perjudicar sistem\u00e1ticamente a ciertos tipos de personas <\/strong>de forma no intencionada.<\/p>\n\n\n\n

-En segundo lugar, los algoritmos pueden utilizarse en el contexto equivocado. Imponer una decisi\u00f3n algor\u00edtmica \u00fanica en entornos intr\u00ednsecamente complejos o con insuficientes controles humanos puede suponer un riesgo mucho mayor de decisiones sesgadas, inexactas o parciales<\/strong>. Este es el caso del ejemplo de los niveles A: Calcular las calificaciones de los ex\u00e1menes a partir de datos agregados sobre estudiantes anteriores nunca podr\u00eda haber sido un sustituto adecuado de la evaluaci\u00f3n de los esfuerzos individuales de los estudiantes, por muy sofisticado que fuera el algoritmo. Tambi\u00e9n conviene recordar que la alfabetizaci\u00f3n digital no es universal y que depender de que los usuarios introduzcan sus propios datos puede dejar a algunos en desventaja, como se ha informado con el sistema de Cr\u00e9dito Universal, predominantemente digital.<\/p>\n\n\n\n

-En tercer lugar, los algoritmos pueden estar mal dise\u00f1ados<\/strong> y no tener en cuenta factores relevantes. Por ejemplo, en la administraci\u00f3n del Cr\u00e9dito Universal: en los casos en los que una persona cobra varias veces en un mes, lo que es com\u00fan entre los trabajadores aut\u00f3nomos o de la econom\u00eda colaborativa, el algoritmo puede sobrestimar los ingresos y reducir los pagos del Cr\u00e9dito Universal.<\/p>\n\n\n\n

Equidad<\/p>\n\n\n\n

La equidad<\/strong> en el tema de algoritmos no es mas que el inter\u00e9s en tomar decisiones de forma justa, transparente y sin sesgos. En pocas palabras, hacer lo correcto sin abuso de poderes<\/strong>, ceguera voluntaria o discriminaci\u00f3n que pueda poner en riesgo o situaciones injustas a determinadas poblaciones en situaciones vulnerables.<\/p>\n\n\n\n

Mucho se ha dicho sobre estos \u201cabusos\u201d y sesgos en los algoritmos y las formas en que podr\u00edan darse, entre esas, la interpretaci\u00f3n de los datos por parte de humanos y la manipulaci\u00f3n de la anal\u00edtica de los algoritmos, por ejemplo.<\/p>\n\n\n\n

Si no se detectan y no se abordan, estos posibles sesgos podr\u00edan impedir que los sistemas de aprendizaje autom\u00e1tico cumplan su promesa de mejorar significativamente la precisi\u00f3n y la equidad de los sistemas de decisi\u00f3n automatizados. Tambi\u00e9n podr\u00edan exponer a los desarrolladores y usuarios de estos sistemas a la responsabilidad legal por incumplimiento de las leyes antidiscriminatorias.<\/p>\n\n\n\n

En un intento de comenzar a regular estos sesgos, el congreso de los Estados Unidos presento el proyecto \u201cLey de Responsabilidad Algor\u00edtmica de 2019\u201d, que propuso que las empresas con m\u00e1s de 50 millones de d\u00f3lares de ingresos (o la posesi\u00f3n de m\u00e1s de 100 millones de datos de personas) tendr\u00edan que realizar evaluaciones de impacto algor\u00edtmico de su tecnolog\u00eda.<\/p>\n\n\n\n

Eso significa que las empresas estar\u00edan obligadas a evaluar los sistemas automatizados que toman decisiones sobre las personas estudiando el dise\u00f1o, el desarrollo y los datos de entrenamiento del sistema, en busca de \u00abimpactos en la precisi\u00f3n, la equidad, el sesgo, la discriminaci\u00f3n, la privacidad y la seguridad\u00bb, seg\u00fan el lenguaje del proyecto de ley.<\/p>\n\n\n\n

Para concluir, la gente est\u00e1 preocupada por la privacidad y la posibilidad de que los datos se relacionen con otros conjuntos de datos para revelar informaci\u00f3n personal.<\/p>\n\n\n\n

Aunque vivimos en un mundo m\u00e1s conectado tecnol\u00f3gicamente, la idea de que un algoritmo determine el resultado de la vida de las personas puede dar miedo<\/strong>. Lo que demuestra es la necesidad de ser abiertos y comunicar los beneficios de los algoritmos para la vida cotidiana de las personas, al tiempo que se disipan sus temores.<\/p>\n","protected":false},"excerpt":{"rendered":"

Seg\u00fan la inteligencia artificial (IA) y el aprendizaje autom\u00e1tico van adquiriendo auge, el n\u00famero de organismos p\u00fablicos que se plantean o comienzan a utilizarlos se ha incrementado de forma considerable, ya que es una herramienta que ayuda a una mejor toma de decisiones. Los gobiernos, en su d\u00eda a d\u00eda, toman innumerables decisiones, por lo… Leer m\u00e1s »Lo que los algoritmos pueden hacer por los gobiernos<\/span><\/a><\/p>\n","protected":false},"author":2070,"featured_media":30142,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"neve_meta_sidebar":"","neve_meta_container":"","neve_meta_enable_content_width":"","neve_meta_content_width":0,"neve_meta_title_alignment":"","neve_meta_author_avatar":"","neve_post_elements_order":"","neve_meta_disable_header":"","neve_meta_disable_footer":"","neve_meta_disable_title":"","footnotes":""},"categories":[3,18],"tags":[2867,2824],"class_list":["post-29994","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-administraciones-publicas","category-libertad-tecnologica","tag-algoritmos","tag-inteligencia-artificial"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\n\t\t\n