Ha pasado un tiempo desde que hablamos de Different Dimension Me, un sitio web de China impulsado por una inteligencia artificial que hace retratos estilo anime a partir de cualquier imagen subida por el usuario. Ya no es necesario ajustar parámetros ni afinar las indicaciones en complicados modelos previos, ahora la IA hace todo el trabajo por ti.
Por supuesto, como cualquier inteligencia artificial, va mejorando sus resultados y perfeccionándose sobre la marcha, sin embargo, sigue teniendo un problema bastante notable: no reconoce a las personas de color. Esta no sería la primera ocasión en la que una aplicación de reconocimiento facial no detecta a una persona de color, pero resulta que Different Dimension Me sí las detecta, solo que las convierte en personas blancas o, en el peor de los casos, en un changuito.
No, no es ninguna broma. El usuario de Twitter “@upblissed” se volvió tendencia inmediatamente luego de compartir dos resultados de la IA y escribir: «Esta es la IA más racista que ha existido». En las imágenes compartidas podemos ver que en la primera se muestran a dos niños, uno de frente y otro brincando en la cama al fondo. El de enfrente fue convertido a un chico blanco, mientras que el del fondo fue convertido a un mono.
En otra imagen se muestra a un hombre de color gritando frente a un río, pero la IA también lo convirtió a un mono.
Esto llamó la atención de las redes sociales, e incluso los foros de comentarios japoneses, en donde se comenzaron a compartir una variedad de resultados de la IA, para ver esto de ignorar a las personas de color era una constante. Los resultados fueron los siguientes:
Entonces, ¿la IA es racista? No podemos asegurar nada, puesto que es muy posible que ya tenga modelos predefinidos tanto para hombres como para mujeres, y simplemente se encarga de modificarlos según los parámetros de la persona sobre la que se está basando (color y largo del cabello, accesorios, etcétera). Respecto a lo que pasa cuando la persona de color no es reconocida por la IA, esto es bastante común debido a una iluminación insuficiente e incluso es un tema gracioso en los filtros de TikTok.
Ahora, sobre el hecho de compartir personas de color en monos, cabe señalar que ninguna de las imágenes posteriores mostraron este comportamiento por parte de la IA, así que seguramente el usuario hizo la imagen por sí mismo para hacerse el gracioso y volverse tendencia en redes sociales.
Fuente: Yaraon!
La entrada Acusan de racista a la IA que te convierte en anime se publicó primero en Kudasai.