Humanidades contra la barbarie: «Dominar los algoritmos es como dominar las armas nucleares»

¿Se imaginan un gobierno que registre cómo hemos cruzado la calle o si hemos pagado con retraso una factura, para restarnos puntos del carné ciudadano gracias al cual accedemos a servicios básicos? ¿O trabajar en una empresa que pueda despedirnos de modo fulminante, porque un algoritmo ha detectado que vamos demasiado al baño y eso resta productividad? ¿Qué? ¿Otra periodista recurriendo al tópico de 1984, Un mundo feliz o Black Mirror? No. Lo primero ya sucede en China y lo segundo, en los almacenes de Amazon.

Como desgrana la matemática Cathy O’Neil en Armas de destrucción matemática (recién publicado por Capitán Swing), muchos bancos, aseguradoras y auditoras «usan algoritmos canallas» para engullir billetes y éxito empresarial, sin reparar en los daños colaterales humanos. «El problema es que los beneficios acaban actuando como un valor sustitutivo de la verdad y afectan a las personas en momentos cruciales de la vida», escribe O’Neil.

Porque, ¿de quién es la responsabilidad en caso de que el algoritmo del vehículo autómata tenga que elegir a quién salvar (y a quién no) en un accidente fortuito?

llama Marina Garcés a la emancipación frente a la servidumbre y la delegación tecnológicas. «Lo que podemos hacer, siempre, es autoorganizarnos. No sólo en el ámbito digital, sino en todos. Una sociedad incapaz de tomar decisiones en colectivo está expuesta a cualquier forma de dominación, aunque cada individuo viva en la ficción de creerse libre».