Pensar si la inteligencia artificial puede fundar un mundo diferente es una de las tareas del libro Los sesgos del algoritmo (La Pollera Ediciones). No porque su autora, Gabriela Arriagada Bruneau, lo enuncie de manera directa, sino porque la pregunta sobre las nociones éticas que guían al algoritmo lleva a considerar si ese universo paralelo que la IA propicia va a perpetuar las desigualdades que ya conocemos, va a intensificarlas o a intentar atenuarlas.

En la obra de teatro La casa de Monkey Island, de la autora alemana Rebekka Kricheldorf, una empresa contrata a un grupo de científicos para crear un producto basado en carne sintética. Los cuatro profesionales deben convivir en una casa inteligente que conoce sus deseos antes de que ellos puedan manifestarse.

El problema es que la casa le proporciona papas fritas a una joven que sufrió trastornos alimenticios y cocaína a un publicista que se está recuperando de su adicción. El algoritmo lee el deseo, pero no puede diferenciar lo nocivo de aquellos elementos que hacen al bienestar. A lo largo de la obra entendemos que ese algoritmo no es inocente: detrás de su armado está la voluntad de la empresa por estudiar el mecanismo adictivo de los científicos. No fueron seleccionados por su competencia y sus conocimientos, sino por sus debilidades. Para vender su producto, la empresa necesita crear adictos y conocer su funcionamiento interno.

Para dar elementos que ayuden a resolver estos dilemas, la autora chilena plantea la necesidad de una mirada sociotécnica, de una elaboración situada al momento de entrenar los prototipos de inteligencia artificial. Lo que le falta a la IA es justamente la noción de contexto.

La pregunta que surge es si, al asignarle estos elementos que son propios de lo humano (una visión social, una información más concreta sobre el entorno donde se va a aplicar), no se está fortaleciendo la posibilidad de la inteligencia artificial de parecerse cada vez más a un humano.

Detenerse a pensar cómo se arman y entrenan los prototipos es crucial porque esa etapa está determinada por la acción humana y puede prestarse a manipulaciones como las que conforman la trama de la obra de teatro alemana mencionada como ejemplo, donde los humanos se convierten en ratas de laboratorio estimuladas por el prototipo que actúa desde la casa.

Preguntarse si el algoritmo va a reproducir lo que ya existe o si podemos capitalizarlo como un instrumento para modificar el mundo es empezar a reconocer nuestra implicancia en la conformación de estos programas.

Porque, es necesario decirlo, la inteligencia artificial no tiene capacidad moral sobre lo que hace: somos los humanos los que, escondidos y resguardados en sus sistemas, podemos motivar acciones que suspendan nuestra responsabilidad. Un tema que permite una serie de especulaciones y advertencias sobre todas las cosas que podrían delegarse en este sistema computacional que emula nuestra manera de aprender.

Hoy la inteligencia artificial está en condiciones de entrenarse y optimizar los escenarios de su aprendizaje, que se basa en ejemplos. Es aquí donde interviene el factor humano: ¿qué tipo de materiales se van a proporcionar para su repetición?

Cuanto más variadas sean las opciones, se supone que más amplia será la respuesta y la posibilidad de inclusión de las minorías, pero si todos los ejemplos van en un mismo sentido, se produce una mirada sesgada que puede propiciar formas discriminatorias, amparadas en una información general o estadística.

Como sucede en La casa de Monkey Island, si los ejemplos están ligados a las prácticas de sus habitantes, lo que se va a reproducir no va a estar afectado por el discernimiento. Todavía la inteligencia artificial no comprende lo que está aprendiendo, sino que repite en base a la información que alimenta el prototipo.

En la filósofa y científica computacional Gabriela Arriagada Bruneau hay una aceptación de estos recursos como modos de ampliar nuestras capacidades cognitivas como humanos, pero el abordaje desde un conocimiento situado permite disputar el uso de estos mismos mecanismos desde una concepción ideológica que no tenga como eje una configuración neurotípica.

Como una persona diagnosticada con autismo, la autora chilena se preocupa por construir prototipos a partir de un trabajo de campo, de un conocimiento de la comunidad a la que va destinada y de un estudio de su impacto para incluir a las manifestaciones más diversas.

La duda está en cómo va a elaborar o procesar esta información un sistema de inteligencia artificial, o si lo que termina sucediendo no es una síntesis que sigue obedeciendo a una generalidad.

La creación de narrativas que puedan albergar diferentes realidades y que representen a experiencias no hegemónicas requiere de un control bastante estructurado del prototipo. La autora menciona ejemplos donde el uso del código abierto permite la incorporación de discursos de odio.

¿Hasta dónde se va a permitir que la inteligencia artificial se desarrolle libremente en un contexto donde está logrando cierta autonomía para su entrenamiento? Es crucial porque es el código abierto el que permite la incorporación de más datos; entonces, la mirada sesgada sería una manera de controlar la información nociva.

El libro abre una discusión que va a ser cada vez más importante en el terreno ideológico de la inteligencia artificial, y la cuestión del sesgo es posible que se mida en relación con la intencionalidad ideológica del armado del prototipo. Un sesgo que se enfoque en lo queer, en las minorías, presenta menos temores que un sesgo que viene a consolidar a un sector de poder o un discurso excluyente.

El modo de entrenamiento se conjuga con el tipo de información. Arriagada Bruneau señala que si se entrena un sistema complejo y oscuro (aun para quienes participan de su armado), no se puede saber qué hace con los datos entregados.

Así como muchos autores hablan de una disponibilidad de los datos que todos aportamos, la autora chilena propone crear sistemas más transparentes que sean más accesibles para los usuarios y desarrolladores. Una mayor democratización en un tema que no deberá ser solo para entendidos.

Saber qué datos se utilizan, quiénes los proporcionan y cómo van a implementarse es también un derecho ligado a la explicación, a la comprensión de un programa que ya está marcando una línea de coevolución. Cómo vamos a convivir en el futuro con el universo de los no humanos es una pregunta inquietante, abismal, que instala otra concepción de lo real.

Los sesgos del algoritmo, de Gabriela Arriagada Bruneau (La Pollera Ediciones).