En los primeros días, el sistema de inteligencia artificial de Facebook funcionó a la perfección, sin embargo, la Unidad de Investigación descubrió que los robots Alice y Bob emitían mensajes sin sentido: se trataba de un lenguaje evolucionado e ininteligible para las personas pero sí para los robots.
Dhruv Batra, miembro del equipo de investigación de IA en Facebook, explicó que "los agentes se desviaron de un lenguaje comprensible y crearon unas palabras en código por ellos mismos", ya que según las conclusiones del estudio, nuestra especie utiliza demasiados términos inservibles para una negociación.
La compañía decidió apagar ambos robots ante la perplejidad por ver que se les estaba escapando de su capacidad.
