Algoritmos de destrucción masiva

Columnas lunes 02 de noviembre de 2020 - 22:19

Persiste la idea de que las matemáticasson inocuas, parte de un mundo lejano.

Nos resistimos a creer que un puñado de números “fríos”, supuestamente encaminados a promover la igualdad, exentos de tendencias predeterminadas en apariencia, estén determinando el destino de millones de personas.

Pero he aquí que vivimos en una época dominada por algoritmos. Cada vez más, decisiones que afectan sociedades enteras no están siendo tomadas por seres humanos, sino por modelos matemáticos. Así, a una estudiante destacada se le puede negar una beca si un algoritmo determina que el código postal donde vive corresponde a una zona pobre y violenta, por lo cual es riesgoso invertir en ella. En 2016, la exanalista de Wall Street, Cahty O´Neil, publicó un libro que encendió las alarmas. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy relata de manera sorprendente cómo los datos masivos permean decisiones cruciales con una nula retroalimentación. La tecno-utopía nos ha alcanzado. Lejos de ser diáfanos e imparciales, dichos modelos tienden a ser racistas, clasistas.

Son verdaderos misiles matemáticos a la hora de votar en una contienda electoral, de ser elegible para un préstamo hipotecario o no, de estar en condiciones mentales y físicas al solicitar un empleo. ¿Qué es un algoritmo? Una serie de instrucciones que sirven para llevar a cabo una tarea y resolver un problema.

La palabra proviene del árabe, pues el matemático Al-Juwarismi los estudió hacia 780 de nuestra era como una forma de hacer invisible para unos lo que queremos que sea visible sólo para otros. Un algoritmo bien desarrollado debe guiarnos a encontrar la solución más eficaz. Una combinación de varios tiene la capacidad de resolver un problema matemático, en principio. Pero también desde el siglo XIX se demostró que los algoritmos más refinados pueden responder algunos problemas del mundo real, en particular, el del funcionamiento de los organismos vivos. Así nació la robótica.

Le pregunto a un pionero en la construcción de autómatas acerca de las evidencias palpables de que hay una co-evolución entre máquinas y humanos, mientras caminamos por los jardines de Luxemburgo, rumbo a su taller.

Entramos a la planta baja de un viejo edificio de la calle del Observatorio, casi esquina con Michelet. Jean

Paul y su socio, Martin, construyeron el robot Félix que durante algunos años divirtió y sorprendió a los visitantes

del Museo de Ciencias de París en La Villette. ¿Por qué desarrollamos sentimientos hacia tales entidades? Incluso hay quien piensa que deberían adquirir derechos, como los animales y los humanos. “Sólo basta mirar a tu alrededor”, responde Martin, “el ordenador es un depositario de buenos deseos, al que se le trata como un confidente.

Tienen un corazón primitivo, el núcleo de los procesadores computarizados, donde se encuentra su Unidad Aritmético–Lógica”. Mientras habla conmigo, Martin no deja de apretar tuercas en un nuevo prototipo cuya gracia será hacer sentadillas y cantar ópera. “Su vida cibernética comenzará cuando lleve a cabo las operaciones contenidas en las instrucciones de cada programa o software”. Y aclara: “una operación lógica es un poema narrativo que otorga un valor a la combinación de condiciones de uno o más factores. Esto no impide que pueda ser verdadero o falso, como toda poesía”.