En los primeros días, el
sistema de inteligencia artificial de Facebook funcionó a la perfección, sin
embargo, la Unidad de Investigación descubrió que los robots Alice y Bob
emitían mensajes sin sentido: se trataba de un lenguaje evolucionado e
ininteligible para las personas pero sí para los robots.
Dhruv Batra, miembro del
equipo de investigación de IA en Facebook, explicó que "los agentes se
desviaron de un lenguaje comprensible y crearon unas palabras en código por
ellos mismos", ya que según las conclusiones del estudio, nuestra especie
utiliza demasiados términos inservibles para una negociación.
La compañía decidió
apagar ambos robots ante la perplejidad por ver que se les estaba escapando de
su capacidad.