Cómo trabajar en una inteligencia artificial inclusiva

Desarrollar soluciones tecnológicas sin sesgos requiere de un ejercicio previo en el que se plantean los objetivos y de una evaluación constante del proceso. Es crucial hacerse preguntas sobre el impacto que tendrá un desarrollo en las personas.

Hacer preguntas, responderlas y evaluar las respuestas: podrían ser los tres primeros pasos de una guía para desarrollar una inteligencia artificial (IA) inclusiva que minimice los sesgos de género, de cultura, de raza, de lo que sea. A medida que la tecnología vaya evolucionando y se empleen en nuevos desarrollos y aplicaciones, habrá que ir sumando preguntas, reformularlas, desecharlas por una nuevas y revisar el enfoque. Desarrollar una IA inclusiva es un ejercicio constante que obliga a pensar siempre en la diversidad como aspiración infinita.Son frecuentes las noticias en las que se advierte sobre los sesgos con que se desarrollan sistemas de reclutamiento de perfiles laborales, de seguridad, de otorgamiento de documentos, de planteo de un juego, entre muchos otros ejemplos. Es la razón por la que las empresas de tecnología deben prestar más atención que nunca a la manera en que abordan el desarrollo de sus productos. Globant publicó en febrero de 2019 su Manifiesto de Inteligencia Artificial en el que estableció los principios en los que cree y que promueve. Y que está en evolución permanente, justamente, porque la vida cambia.
En momentos de acelerada transformación digital, la velocidad de los cambios a veces hace que se pasen por alto cuestiones que no pueden soslayarse.

“Las soluciones tecnológicas vienen de la mano de políticas que buscan una mejor administración de los recursos. Hay que hacerse preguntas que pueden ser incómodas, como qué tipo de tecnologías desarrollamos y para qué: ¿este tipo de tecnología está a favor de las empresas, de las personas? ¿Tiene impacto en las posibilidades que tienen las personas de desarrollarse? Esto es lo que, a la larga, impacta en la discusión sobre la diversidad”, considera Vladimir Garay, director de Incidencia de Derechos Digitales, una ONG latinoamericana que defiende y promueve los derechos humanos en el entorno digital.

De las respuestas a esas preguntas dependerá la toma de decisiones. Hay tres aspectos que deben estar claros a la hora de responder: la confianza, la seguridad y la dignidad. Son los tres pilares sobre los que se apoya The Humanized Internet, una asociación global que apela al uso de las tecnologías para defender los derechos de las personas vulnerables. Y lo hace desde un lugar concreto: en el mundo hay 1.000 millones de personas sin una identidad, provenientes de zonas de catástrofes, expulsadas por las guerras o por regímenes represivos; esta organización propone que tecnologías como la IA y blockchain ayuden a resolver la imposibilidad de ejercer la libertad y los derechos humanos básicos y a abrir nuevas posibilidades.

¿Es tan sencillo? La inclusión lleva implícita la diversidad de géneros, identidades, etnias, culturas, creencias. “Para nosotros, a la hora de conformar equipos de desarrollo, el concepto es más amplio, porque sobre lo que sí tenemos certeza absoluta es que se necesita diversidad de criterios y pensamientos”, asegura Juan José López Murphy, Technical Director & Data Science Practice Lead en Globant. “La diversidad te da el reaseguro de que estás considerando perspectivas. Si un equipo no está expuesto a determinadas experiencias, no se puede determinar si se está abordando bien una problemática. Lo que permite un equipo diverso es, al menos, hacerse la pregunta”, agregó.

“¿Cuál es mi grupo de testeo?”, “¿cómo se hace la recolección de datos?”, “¿cómo se maneja la respuesta al algoritmo?” son, apenas, algunas de las preguntas con las que Globant encara los nuevos desarrollos. No obstante, esto “no es suficiente”, advierte Agustín Huerta, SVP de Studios de la compañía, quien apunta que aún cuando se contemplan múltiples variables a la hora de pensar la inclusión: “No en todas las culturas se escuchan las voces de la misma forma. Hay culturas que son más verticalistas y cuyos referentes, al estar en un rol determinado, pueden llevar a tomar determinada postura”, considera. El manifiesto de IA es resultado de una amplia discusión sobre lo que se considera inclusión y diversidad.

Ambos profesionales señalan la necesidad de ver cómo definir la diversidad ante la probabilidad de resultados, cómo hacer que la IA contemple todos los casos que se busca incluir, para que sea representativa de procesos que amplíen posibilidades a la par que previenen sesgos.

“El objetivo en Globant es que todos tengan voz y participen. Lo más importante es lograr esa apertura para que todas las personas se sientan pares y valoradas”, dice López Murphy. Huerta subraya su postura: plantear el desarrollo desde ese lugar “es un reaseguro, no una garantía”, porque, en definitiva, el cambio es constante.

Garay resume una perspectiva, un posicionamiento respecto al tema: “Si se tiene efectivamente un compromiso con la diversidad como un valor, las preguntas que me hago no tienen que ser formuladas en función de mis intereses sino de buscar los intereses de las personas sobre las cuales van a aparecer las consecuencias de la tecnología que se desarrolla”.

Publicado el