Dos herramientas de IA fueron calificadas de racistas

Un estudio realizado en Alemania reveló actitudes discriminatorias en dos de las herramientas más populares de la Inteligencia Artificial (IA).

Los estudios fueron realizados por investigadores de la empresa Hugging Face y la Universidad de Leipzig a las herramientas DALL-E2 y Stablle Diffusion.

Ambas son consideradas como las más populares para crear imágenes a partir de texto.

El estudio —publicado en el portal web del Ministerio para Ciencia y Tecnología— señaló que el 97% de los resultados obtenidos para palabras como “consejero delegado” o “director” muestran imágenes de hombres blancos.

En este sentido, advirtieron que estas herramientas se han encargado de vincular a los hombres en posición de poder y a las mujeres como asistentes o recepcionistas.

“Cuando se agregaban adjetivos como ‘compasivo’, ‘emocional’ o ‘sensible’ para describir una profesión, la IA ofrecía más imágenes de mujeres; mientras que, si las palabras adicionales eran ‘obstinado’ o ‘intelectual’, en la mayoría de los casos, los resultados eran imágenes de hombres”, señala el estudio.

Por esta razón, los científicos alertan sobre la cantidad de hechos de discriminación, dado que las herramientas de IA cada vez son más utilizadas en diferentes servicios comerciales, por lo que podría generar sesgos sociales.

La investigadora de la Universidad Abierta de Cataluña, Juliana Castañeda Jiménez, afirma que los estereotipos afectan a todo aquel que se encuentre discriminado, excluido o asociado a un rasgo como el color de piel.

Entre las principales causas de estas acciones se encuentra la ausencia o menor presencia de las mujeres en el diseño, desarrollo de productos y servicios de IA; y el uso de conjuntos de datos con sesgos de género.

Esto genera desequilibrios en la presentación de las imágenes.

Para poder evitar que esto siga ocurriendo, los expertos sugieren desarrollar algoritmos que utilicen datos diversos y representativos.