La Unesco alerta que la IA generativa propaga prejuicios sexistas, ¿por qué?

*Imagen cortesía de la cadena Radio Nacional de Colombia*
Un estudio publicado por la Unesco advierte que los modelos de lenguaje de Meta y OpenAI, utilizados en herramientas de inteligencia artificial generativa, propagan prejuicios sexistas. Estos modelos, como GPT 2, GPT 3.5 de OpenAI y Llama 2 de Meta, muestran pruebas de prejuicios contra las mujeres.

Según la Unesco, los nombres femeninos en estos modelos de lenguaje se asocian más a palabras como «casa», «familia» o «hijos», mientras que los nombres masculinos se relacionan con términos como «comercio», «sueldo» o «carrera». Además, al solicitar relatos sobre diferentes personas, se encontró que las historias sobre individuos de culturas minoritarias a menudo estaban basadas en estereotipos.

Expertos de la Unesco señalan que las empresas que desarrollan estas herramientas de inteligencia artificial no logran representar a todos sus usuarios. La directora general de la Unesco, Audrey Azoulay, destaca que los modelos de lenguaje tienen el poder de influir en las percepciones de millones de personas y que incluso pequeños sesgos de género pueden amplificar las desigualdades en el mundo real.

Para combatir estos prejuicios, la Unesco recomienda a las empresas del sector contar con equipos de ingenieros más diversos, especialmente con más mujeres. A nivel mundial, solo un 22% de los equipos que trabajan en inteligencia artificial son mujeres. La Unesco también hace un llamado a los gobiernos para regular más intensamente el sector y promover una «inteligencia artificial ética».