Bacterias y algoritmos: Desafíos para el futuro de la humanidad

IGUALDAD Y NO DISCRIMINACIÓN 

Salvo para ciertos fundamentalistas de la guerra y amantes del belicismo, el siglo XX ha sido la crónica de los esfuerzos del hombre y de la mujer encaminados a conjurar las principales amenazas a la supervivencia de la especie sobre el planeta, incluida, por supuesto, la guerra.

Por Luis Caro Figueroa – Noticias Iruya

Mucho se ha avanzado en este último empeño, y aunque los que tienen mi edad no han conseguido disfrutar de una humanidad en completa concordia (yo mismo he llegado a ver a mi país en guerra), sí pueden decir que en las últimas tres décadas han sido testigos de un mundo más integrado, quizá menos conflictivo y más democrático, aunque todavía no sepamos con certeza si este último rasgo es la consecuencia o la causa de los dos anteriores.

Pero en el siglo XXI, en pleno auge de la revolución digital y los avances científicos de la biología, la humanidad en su conjunto enfrenta desafíos inéditos, frente a los cuales las conquistas del siglo anterior -incluidas la paz y la democracia- parecen reducidas a la categoría de tímidos progresos.

Que la democracia ha retrocedido -aun en aquellos espacios en los que alcanzó un desarrollo verdaderamente notable- es algo de lo que ya me he ocupado en otros artículos y sobre lo que procuraré volver en otro momento.

Lo que me preocupa ahora es pensar que el futuro de todos nosotros parece estar en manos de dos entidades, diferentes en esencia, aparentemente, pero que pueden confabularse para hacer nuestra vida más incómoda, más insegura y más injusta; o si, el ser humano consigue controlarlas, pueden ser fuente de salud, de biodiversidad, de bienestar y -curiosamente- de mejor democracia.

Me refiero a las bacterias y a los algoritmos.

LAS BACTERIAS

Quizá porque son la forma de vida más antigua y extendida que se conoce, las bacterias parecen ahora reivindicar su lugar en la Creación. Están por todas partes: en el aire, el agua, la tierra, los animales y las plantas.

A menudo asociamos su antiguo nombre con la producción de enfermedades -y últimamente con la resistencia a los antibióticos- pero, desde un punto de vista más general y generoso, las bacterias son muy importantes para el ser humano.

Y nos hacen tanto mal como bien, pues sus efectos químicos no solo se reducen a la generación de males que nos privan de salud, sino que también son muy útiles para dispersar enfermedades. En su efecto beneficioso, algunas bacterias producen antibióticos, como estreptomicina, que es capaz de curar enfermedades.

Pero, según lo que aventuran algunos, es posible que las bacterias vuelvan a ser la primera causa de muerte en la humanidad, como lo fueron antes de que se descubrieran los primeros antibióticos.

¿Estamos realmente preparados para vivir en un mundo en el que los microbios van a tener la última palabra?

La amenaza de las bacterias está recibiendo una formidable ayuda del cambio climático, un fenómeno que por el momento no podemos controlar. El aumento de la temperatura, la alteración de los ecosistemas, el avance de los desiertos y el aumento del nivel de los océanos contribuyen, sin dudas, a crear el escenario más propicio para la aparición o la reaparición de graves enfermedades infecciosas.

LOS ALGORITMOS

Muchos de nosotros sabemos lo que son las bacterias y los que nos pueden hacer (para bien y para mal), pero solo una parte muy minúscula de seres humanos las ha podido ver. Sucede lo mismo con los algoritmos, que sabemos que existen, que alguien los elabora y los maneja, aunque nadie los ha visto ni se sabe dónde están.

Por no saber, a veces ni sabemos quién o cómo los aplica para tomar decisiones sobre nuestras vidas. Jamás sobre las de ellos.

A pesar de que la primera persona que escribió un algoritmo (allá por el siglo XIX) fue una mujer (Ada Lovelace), dos siglos más tarde los científicos nos avisan que el desarrollo de este conjunto de operaciones diseñado para la solución de problemas puede hacernos retroceder décadas en igualdad de género.

Ya no solo preocupa que los algoritmos que están detrás de las aplicaciones de AI puedan aprender prejuicios de género -que ya lo están haciendo y es muy preocupante- sino que también discriminen a pobres, a ancianos, a personas sin hogar, a homosexuales, a inmigrantes, etc.

Y todavía peor: que estos algoritmos discriminadores puedan ser utilizados para que los gobiernos adopten decisiones «democráticas» sobre nosotros.

Con la excusa de que los algoritmos pueden ayudar a garantizar la coherencia, eficacia y eliminación de errores humanos y sesgos en la adopción de decisiones colectivas, los gobiernos cada vez los utilizan más y lo hacen sin adoptar las medidas necesarias para asegurar los derechos fundamentales a la igualdad y a la no discriminación.

Además, la pandemia del coronavirus ha hecho que esta utilización se incremente y se acelere de una manera inesperada.

No puedo extenderme demasiado en el análisis de esta cuestión, no por pereza sino por falta de los conocimientos adecuados.

Pero, dentro del ámbito de lo que me compete, diré que para que los algoritmos que utilizan los gobiernos (en su mayoría dedicados a detectar evasiones fiscales, a predecir la propagación de enfermedades infecciosas y a priorizar casos de asistencia y apoyo a la infancia, solo por citar algunas finalidades) redunden en beneficio del interés general y no contribuyan a ahondar las diferencias jurídicas, sociales y de poder entre los seres humanos (muchas de las cuales son ya intolerables), resulta fundamental exigir a los gobiernos -mediante disposiciones constitucionales, legales y reglamentarias- la mayor transparencia y responsabilidad a la hora de desarrollar y aplicar estos algoritmos.

Si, para bien y para mal (como sucede con las bacterias) son los ciudadanos y ciudadanas (seres humanos de carne y hueso) los últimos destinatarios de las decisiones de las máquinas (piénsese por ejemplo en el uso de AI para el espionaje masivo del gobierno en la vida cotidiana de todos nosotros), es lógico que sean los ciudadanos los que controlen y vigilen estrechamente su aplicación en cada caso concreto.

Además de transparencia y responsabilidad, se ha de exigir de los gobiernos la más perfecta equidad en su aplicación, pues es esta la única manera de que las decisiones que se adopten en base a la aplicación de algoritmos sea justa, equilibrada, sin sesgo y -fundamentalmente- sin abuso de poder que pueda colocar en situaciones verdaderamente injustas a personas vulnerables o que apenas pueden defenderse de la injusticia.

EN SALTA, HOY

En estos días funciona en Salta una convención constituyente que, pese a las limitaciones legales, parece que está haciendo algún esfuerzo por ampliar los temas del debate constitucional, aun cuando su trabajo final pueda o deba ceñirse a lo que señala la ley que ha propiciado su convocatoria.

Por otro lado, el cambio en la cúpula del aparato de Seguridad del gobierno provincial preanuncia una mayor injerencia policial en la vida ciudadana. Aunque se espera que sea para mejor, nunca es buena noticia que alguien anuncie una policía orwelliana –anytime, everywhere– como la panacea de las patologías sociales.

Nos enfrentamos, pues, a un escenario contradictorio: Por un lado, un grupo de gente dispuesta a escuchar propuestas sobre nuevos derechos y por el otro, gente empeñada en que la Policía brava de antaño vuelva a enseñorearse en las calles, con el argumento hobbesiano de que, en libertad, somos unos individuos perversos, que no dudamos ni un minuto en matar, robar, violar y estafar a nuestros semejantes.

Es muy posible que el nuevo régimen panpolicial de Salta disponga de algunas herramientas de AI y que las use sin ningún tipo de control. Por tanto, es necesario que nos planteemos, desde ya, bien la creación urgente de una agencia estatal de algoritmos, o bien la reforma de la propia Constitución, para que el derecho a la igualdad proteja también este valor de la convivencia frente a las amenazas que proyecta el uso incontrolado de los algoritmos, especialmente por parte del gobierno y de sus funcionarios.-

 

Revista Norte reproduce este artículo con el permiso del autor