Facebook elimina miles de cuentas con fotos de perfil generadas por la IA

La Inteligencia Artificial o IA, como la conocemos habitualmente, es una tecnología cada vez más presente en diferentes ámbitos de nuestro día a día. En la mayoría de casos con claros beneficios para hacernos la vida más fácil, aunque como siempre hay quien se aprovecha de estas tecnologías para su propio beneficio, y más cuando hablamos de redes sociales, un campo donde a veces parece que no haya nadie al mando, por la facilidad que tiene muchos usuarios y grupos a colgar lo que les venga en gana sin que muchas veces existan consecuencias para ellos. En este caso Facebook se ha puesto manos a la obra para hacer limpia de cuentas que están haciendo un uso bastante novedoso de la inteligencia artificial, y no precisamente para bien.

Imágenes de perfil “Fake” creadas por la inteligencia artificial

Si nos habéis seguido en los últimos meses, habréis podido comprobar que han proliferado ya varios sitios web donde la inteligencia artificial nos muestra rostros humanos generados de forma aleatoria, y que en algunos casos pueden pasar perfectamente por personas reales. Y parece que alguien ha estado aprovechando la existencia de estos rostros, que realmente no podemos atribuir a nadie, para generar algo así como unos fantasmas con apariencia real. Ahora Facebook ha cerrado miles de estas cuentas que contaban con fotos de perfil generadas de esta forma, y que como es lógico no se correspondían con la de ninguna persona real.

Facebook ha denominado como red global al grupo de más de 900 cuentas que ha borrado de la red, y que habían impulsado mensajes políticos cercanos a las tesis de Trump en Estados Unidos. Unos mensajes que habían sido vistas por nada menos que 55 millones de usuarios de la red social. Detrás de estos rostros de personas aparentemente reales, se escondían mensajes políticos que pretendían posicionar a los usuarios favorablemente a los postulados de las personas y organizaciones que probablemente estén detrás de estas cuentas ahora borradas por la red social.

En total, estas imágenes generadas por inteligencia artificial han estado protagonizando un total de 610 cuentas de Facebook, 156 grupos y 89 páginas de la red social. Así como detrás de al menos 72 cuentas de Instagram. Todas estas cuentas estaban asociadas a un medio llamado “The BL” que a su vez estaba vinculado a “The Epoch Times” que es una asociación de comunicación pro Trump, y que estaba gestionada no solo desde Estados Unidos, sino también desde Vietnam. Estas páginas a su vez eran complementarias y apoyaban a otras 80 páginas que también propagaban el discurso de Trump entre millones de personas. Investigadores de Graphika y DFRLab han constatado que BL utilizó hasta 18 imágenes creadas a partir de la inteligencia artificial, haciendo uso de las redes neuronales.

Estas imágenes no son infalibles, y a veces podemos encontrarnos con verdaderos rostros “Frankenstein” que pueden mostrar fallos verdaderamente llamativos, donde gafas se fusionan con la piel o se incrustan elementos del rostro ajenos en los lugares más insospechados del rostro. De esta manera es la primera vez que se ha detectado un ejercicio a gran escaña de “Deepfake” que no es otra cosa que la generación de estos rostros de forma fraudulenta a través de la IA, y que en otra de sus modalidades puede alterar el rostro de personajes reales para que puedan decir cosas que realmente nunca han dicho y así poder también desinformar. Sin duda no será la última vez que conozcamos algo de este tipo, porque parece que la Deepfake en su máxima extensión ha llegado a nosotros para quedarse.