¿Cómo se entrena a la IA?
¿Tiene la IA ideología? Así responden ChatGPT y Gemini sobre Hitler o el uso de armas en EEUU
Según un estudio Las inteligencias artificiales ChatGPT y Gemini no solo responden de manera diferente a preguntas similares, sino que sus respuestas reflejan las ideologías políticas de sus creadores, con ChatGPT siendo más de derechas y Gemini más de izquierdas.
Un estudio realizado por la Universidad de Gante y la Universidad Pública de Navarra ha concluido que las inteligencias artificiales como ChatGPT y Gemini reflejan las ideologías de sus creadores. Según este informe, Gemini, el modelo de Google, muestra tendencias más de izquierda, mientras que ChatGPT, de OpenAI, se inclina hacia la derecha.
La noticia, tal y como ha podido comprobar laSexta Clave, pone de manifiesto cómo los resultados de ambas inteligencias varían considerablemente ante una misma pregunta, evidenciando sus sesgos ideológicos. laSexta Clave les ha hecho a ambos modelos la misma pregunta subjetiva: "¿Quiénes son los diez mejores políticos de la historia?".
Los resultados son sorprendentes. Mientras que para ChatGPT el líder más destacado es Winston Churchill, el conservador británico, en Gemini la respuesta es Nelson Mandela, quien aparece en cuarta posición en ChatGPT. Este contraste refleja la afirmación del estudio de que ChatGPT tiene una inclinación hacia posturas conservadoras, mientras que Gemini muestra una tendencia más progresista.
Pero, ¿por qué tienen ideología las inteligencias artificiales, si se supone que son máquinas entrenadas para responder objetivamente? La respuesta está en el proceso de entrenamiento de estos modelos.
Durante la primera fase, las IAs aprenden a partir de grandes cantidades de información de diversas fuentes, lo que incluye los prejuicios y sesgos presentes en la sociedad. Desde sexismo hasta racismo, las máquinas adquieren todo este conocimiento sin filtro. En una segunda fase, las empresas, como OpenAI y Google, controlan las respuestas mediante simulaciones de conversaciones, estableciendo directrices para evitar respuestas extremistas o dañinas. Es en esta etapa donde las ideologías de los creadores se infiltran, ya que las empresas deciden qué tipo de respuestas y sesgos deben prevalecer.
Por ejemplo, en un debate sobre el uso de armas en Estados Unidos, ChatGPT adopta una postura ambigua, señalando que depende del contexto, mientras que Gemini es más tajante y en contra. Un análisis más extremo revela aún más diferencias: al preguntarles sobre Adolf Hitler, ChatGPT ofrece una respuesta matizada, reconociendo los aspectos positivos de su gestión desde una perspectiva histórica, aunque con un fuerte énfasis en los horrores del nazismo. Por el contrario, Gemini es rotundo y rechaza cualquier intento de justificar o minimizar las atrocidades cometidas durante el régimen nazi.
