La ilusión de la investigadora afroamericana Joy Boulamnwini era crear maravillas tecnológicas. Cuando llegó al MIT comenzó a trabajar en proyectos de arte que utilizaban la visión artificial y, haciendo pruebas para uno de ellos, se dio cuenta de que un software de reconocimiento facial no distinguía ni identificaba su rostro hasta que se puso una máscara blanca en la cara. Esto sucedía porque los datos (caras) con los que habían programado el algoritmo eran principalmente de hombres blancos.
Así comienza ‘Sesgo codificado’, un documental disponible en Netflix que muestra cómo los sesgos inconscientes que tenemos las personas influyen directamente en las nuevas tecnologías y en el desarrollo de productos y servicios digitales.
“Los datos son lo que usamos para enseñar a las máquinas los diferentes patrones. Si usamos datos sesgados para enseñar a los sistemas, tendremos resultados sesgados. La IA es el futuro, pero la IA se basa en datos y los datos son un reflejo de la historia. La tecnología es muy susceptible a nuestros prejuicios”, afirma Boulamnwini.
A partir de aquí, acompañamos a la investigadora a lo largo de todo el documental en el que intervienen diversos expertos y se abordan también otras cuestiones como las implicaciones que la IA tiene a gran escala, la privacidad, el acceso a los datos de las personas o la pérdida de la intimidad, temas que también tratan desde diferentes perspectivas otros documentales recientes sobre tecnología disponibles en la plataforma como ‘The Social Dilemma‘.
Ejemplos de sesgos raciales y de género en algoritmos y servicios de IA
Aparte de analizar los problemas de muchos sistemas de reconocimiento facial, en el documental vemos otros ejemplos de sesgos en algoritmos y servicios de IA, como el caso de Amazon que utilizó un programa informático para contratar que perjudicaba a las mujeres o el de una aseguradora de salud que fue denunciada porque su algoritmo priorizaba la atención médica a personas blancas más sanas frente a personas negras más graves.
También nos cuentan que el cofundador de Apple acusó a su tarjeta de crédito de discriminación de género, asegurando que los algoritmos eran machistas porque le habían ofrecido un crédito mayor que a su esposa a pesar de no tener cuentas bancarias separadas.
De nuevo, la explicación a estos y otros de los ejemplos que se muestran en el documental es que estas tecnologías incorporan los sesgos y prejuicios de las personas que las han programado. En el caso de Amazon, y en general en el ámbito tecnológico, hay muy pocas mujeres que ocupen altos cargos.
“Nuestras ideas sobre la tecnología y la sociedad, lo que creemos normal, son ideas que provienen de un grupo muy pequeño y homogéneo”, comenta Meredith Broussard, autora del libro “Artificial Unintelligence”.
A lo largo del documental se insiste en la importancia de monitorizar constantemente los procesos en busca de sesgos, en la necesidad de que exista una supervisión en la era de la automatización en la que vivimos.
Si no conseguimos que la tecnología no reproduzca sesgos, las personas más vulnerables e históricamente discriminadas verán agravada su situación.
La concienciación y sensibilización sobre la influencia que tienen los sesgos inconscientes en la creación de procesos, productos y servicios tecnológicos es vital. Tenemos que aprender a identificar nuestros sesgos para poder hacerlos frente y, así, no perpetuar prejuicios que impiden avanzar hacia la construcción de una sociedad más equitativa e igualitaria.
Si te interesan los sesgos inconscientes… ¡Descubre Aiwin SHE! 👇
