El experimento que prueba que el algoritmo de Twitter es racista

Twitter ha sido protagonista de una gran polémica: varios usuarios han experimentado con diferentes fotografías de personas negras y blancas y han comprobado que el algoritmo de la red social posee un sesgo racista. Cuando dentro de una misma imagen aparecen dos fotografías, una de una persona blanca y otra de una persona negra, esta última nunca será mostrada en la previsualización del tuit. Solo podrán verla aquellos usuarios que pinchen en la imagen.

Todo comenzó cuando un usuario colgó en su perfil de Twitter una fotografía de un compañero negro durante una videollamada de Zoom. Cuando este utilizaba un fondo virtual, su rostro desaparecía, se borraba, cosa que no le ocurría a él, que es una persona blanca. Pero, cuando colgó las imágenes en la red social, se percató de que también esta favorecía su rostro frente al de su compañero de color. ¿Estaba siendo Twitter racista?

Varios usuarios de la red social han demostrado con un sencillo experimento que sí, que el algoritmo de Twitter posee un sesgo racista. De este modo, han hecho pruebas creando imágenes verticales largas divididas en tres secciones. En la parte superior y en la inferior se colocan dos fotografías, una de una persona negra y otra de una blanca y, la parte central, queda en blanco. Cuando se publica la imagen en un tuit, independientemente de que la fotografía de la persona negra esté en la parte inferior o en la superior, Twitter siempre muestra la de la persona blanca.

Además, no importa que una de las personas sea más conocida que otra. Por ejemplo, si colocas al senador Mitch McConnell, una persona blanca, en un extremo, y a Barak Obama en el otro, Obama quedará escondido con independencia de la posición que ocupe. Es decir, parece que todo tiene que ver con el color de la piel y no con la fama ni ningún otro factor.

De hecho, como te mostramos en el vídeo, un usuario ha realizado la prueba de invertir los colores y solo entonces aparece la imagen de la persona negra, que se ve más clara que la blanca. Y esto ocurre incluso con dibujos. Uno de los experimentos más virales fue realizado con dos famosos personajes de los Simpsons y siempre podíamos ver al mismo, amarillo en este caso. ¿Qué es lo que ocurre? ¿Es Twitter verdaderamente racista?

La red neuronal

Para decidir qué se muestra en la vista previa de Twitter, la red social utiliza lo que se llama “red neuronal”. Este sistema detecta los rostros y los coloca en una posición visible dentro del tuit. Sin embargo, no todas las imágenes que se suben a Twitter cuentan con rostros y Dantley Davis, director de diseño de esta red social, dice que debe existir algún tipo error que provoca que no se lean bien los rostros oscuros.

Por su parte, Liz Kelley, del equipo de comunicaciones de Twitter, aseguró en su perfil que se habían realizado diferentes pruebas y que no se habían encontrado evidencias de la existencia de un sesgo racial o de género. Sin embargo, ha declarado que seguirían investigando para salir de cualquier tipo de duda y solucionar el problema.

Puedes ver las imágenes más impactantes de este experimento en el vídeo de arriba.