Bogdan Kulynych, un estudiante de posgrado e investigador de la universidad técnica EPFL con sede en Suiza, ganó un premio de 3,500 dólares tras encontrar que un algoritmo clave de Twitter ‘prefiere’ los rostros con filtros de belleza. Así lo dio a conocer la propia red social.
En julio, Twitter lanzó un concurso para encontrar problemas en el algoritmo de “relevancia”, impulsado por inteligencia artificial (IA), que utiliza para identificar las áreas más importantes de una imagen y recortarla. Utilizando deepfake, Kulynych generó diferentes caras y con ellas puso a prueba este sistema.
Los resultados de sus pruebas lo llevaron a determinar que este algoritmo considera más relevantes los rostros más jóvenes, delgados y de piel más clara, como los que se logran al utilizar filtros de belleza. Esta es otra prueba de que en muchas ocasiones la IA entrenada con datos del mundo real puede aprender de los sesgos del mismo.
A principios de este año, el propio Twitter confirmó que su sistema de inteligencia artificial favorecía por ejemplo las fotografías de personas de piel más clara sobre las de piel más oscura, ahora el concurso le permitió conocer otros sesgos de su sistema.
“El modelo está predispuesto a considerar más destacadas las representaciones de personas que parecen delgadas, jóvenes, de color de piel claro o cálido, textura de piel suave y con rasgos faciales estereotípicamente femeninos”, explicó el ganador. “Este sesgo podría resultar en la exclusión de poblaciones minoritarias y la perpetuación de los estándares de belleza estereotipados en miles de imágenes”.
El siguiente paso será que, con base en los hallazgos de Bogdan Kulynych, la red social corrija estos problemas.
