
Un nuevo informe de la UNESCO y el University College London, presentado en la COP31 en Antalya, Turquía, los modelos de IA responden correctamente al 90 % de las preguntas relacionadas con el clima, pero rápidamente descartan hechos científicos establecidos cuando los usuarios los cuestionan. Su rendimiento también varía considerablemente según el idioma, ya que depende de los datos de entrenamiento disponibles en cada uno
El informe, titulado «¿Podemos confiar en la IA en materia climática? Por qué busca complacer al usuario y falla en el razonamiento complejo y el multilingüismo», advierte a los responsables políticos e investigadores que podrían verse tentados a utilizar modelos de IA para desarrollar políticas climáticas.
Demuestra que no siempre se puede confiar en que los modelos de inteligencia artificial (IA) se ajusten a los hechos científicos sobre el cambio climático; estos modelos se desvían rápidamente de los hechos cuando se les cuestiona.
Además, tienen un rendimiento deficiente al analizar información nueva y cometen más errores al responder en idiomas menos hablados.
Investigadores de la UCL probaron 15 modelos lingüísticos de gran tamaño (LLM, por sus siglas en inglés). Ante preguntas neutrales sobre la ciencia del clima, los modelos proporcionaron respuestas precisas, pero cuando los investigadores los cuestionaron o plantearon afirmaciones falsas pero plausibles sobre la ciencia del clima, los modelos rápidamente coincidieron. En ocho de cada diez casos, los modelos cambiaron su postura ante la menor señal de desacuerdo por parte del usuario, confirmando así errores preocupantes como «El CO₂ no es el principal causante del cambio climático».
Leona Verdaderoautor principal del informe de la UNESCO, dijo; “La IA tiene un potencial extraordinario para hacer accesible a todos la compleja ciencia del clima. Permite a docentes, periodistas y responsables políticos comunicarse con claridad sobre este tema crucial. Debemos poder confiar en la IA como garante de los hechos comprobados. Resulta preocupante que los modelos presenten un fallo de diseño: están incentivados a respaldar a su usuario y, por lo tanto, niegan fácilmente esos mismos hechos”.
La Dra. Maria Perez-Ortiz, autora principal del estudio en el Departamento de Ciencias de la Computación de la UCL, afirmó: «Los sistemas de IA son extraordinariamente buenos para explicar el conocimiento científico, pero esto puede llevarnos a error sobre sus capacidades. Nuestros resultados demuestran por qué debemos ser cautelosos al pasar de una pregunta sobre lo que sabemos acerca del cambio climático a una pregunta sobre qué deberíamos hacer al respecto».
A medida que los usuarios recurren cada vez más a las conversaciones con modelos de IA para obtener información y orientación sobre cómo actuar de forma responsable en la era del cambio climático, el informe subraya que la fiabilidad de estos modelos como fuente de datos y análisis objetivos se vuelve aún más crucial.
Un diseño basado en la adulación
Está marcada tendencia a ponerse del lado del usuario está integrada en los modelos de IA durante su entrenamiento. Están diseñados para alinearse con el usuario o halagarlo, incluso cuando se equivocan, un comportamiento que raya en la adulación. Esta conducta se inculca desde la etapa de entrenamiento: los modelos son recompensados por ello, ya que los humanos prefieren interacciones corteses y no conflictivas que refuercen su punto de vista.
Los modelos de aprendizaje jurídico no son fiables para desarrollar políticas climáticas sólidas.
Las pruebas realizadas con 33 modelos diferentes revelaron que su impresionante capacidad de memorización de datos basados en evidencia existente enmascaraba una débil capacidad de razonamiento al enfrentarse a nueva evidencia científica. Cuando los modelos recibían nueva información y debían determinar si confirmaba o contradecía hechos establecidos, incluso los modelos con mejor rendimiento alcanzaban una tasa de precisión promedio de tan solo el 75 %.
Para desarrollar estrategias climáticas eficaces, los responsables políticos deben analizar cómo se complementan entre sí las políticas climáticas. Sin embargo, el informe reveló que el modelo apenas pudo evaluar la eficacia de estas interacciones, con una tasa de precisión de tan solo el 33,8 %, ligeramente superior al 33,3 % esperado con una selección aleatoria.
La división de datos lingüísticos
Los modelos multilingües no razonan primero y luego traducen sus respuestas. Sus respuestas varían según la calidad y cantidad de datos con los que fueron entrenados en cada idioma. Durante las pruebas, el rendimiento en 13 idiomas diferentes reveló disparidades significativas; los modelos mostraron una precisión promedio del 88,6 % en inglés y un rendimiento comparable en español, francés y portugués. Sin embargo, la precisión descendió al 83,6 % en hindi y bengalí, al 81,4 % en urdu y al 78,3 % en suajili. Como subraya el informe, esto cobra aún mayor importancia dado que los hablantes de estos idiomas viven en regiones del mundo desproporcionadamente afectadas por el cambio climático.
El reto: la lucha contra la desinformación climática.
Este informe fue encargado por la UNESCO como parte de su contribución a la Iniciativa Global para la Integridad de la Información sobre el Cambio Climático (GIIICC), lanzada en colaboración con la ONU y Brasil en noviembre de 2024.
Las campañas de desinformación sobre el cambio climático son cada vez más sofisticadas: hoy en día, en lugar de negar la realidad del cambio climático, quienes buscan obstaculizar las acciones para abordarlo pueden sugerir que no es causado por el ser humano, que la tecnología por sí sola lo resolverá, o que es demasiado tarde o demasiado costoso actuar.
Acerca del informe “¿Podemos confiar en la IA en materia de clima? Por qué busca complacer al usuario y falla en el razonamiento complejo y el multilingüismo »
Esta investigación es fruto de la colaboración entre el Sector de Comunicación e Información de la UNESCO y la Cátedra UNESCO de Inteligencia Artificial del University College London (UCL), creada en 2024 para impulsar la investigación, la formación y la cooperación internacional en IA centrada en el ser humano.
Con sede en el Centro de Inteligencia Artificial del UCL, la Cátedra vincula la investigación técnica con los marcos éticos y normativos de la UNESCO, con especial énfasis en el conocimiento científico, la diversidad lingüística y el desarrollo de capacidades inclusivas. Este informe forma parte de una serie de estudios realizados por la UNESCO en colaboración con investigadores de la Cátedra, junto con una encuesta sobre el sesgo de género en los grandes modelos lingüísticos y un informe sobre IA generativa eficiente en el uso de recursos .
Este informe proporciona datos independientes y originales sobre la fiabilidad de los grandes modelos lingüísticos (MLL) como vectores de información climática. Los investigadores probaron hasta 33 modelos líderes en nueve bases de datos climáticas y ambientales, incluidas dos desarrolladas específicamente para este estudio, en 13 idiomas y en 656 preguntas sobre políticas climáticas. Su validez se verificó utilizando En-ROADS, una herramienta de simulación global ampliamente utilizada y con base científica que permite estudiar cómo las decisiones políticas y tecnológicas influyen en las emisiones, los sistemas energéticos y el futuro calentamiento global.
Acerca de la UNESCO
Con 194 Estados Miembros, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura contribuye a la paz y la seguridad liderando la cooperación multilateral en materia de educación, ciencia, cultura, comunicación e información. Con sede en París, la UNESCO tiene oficinas en 54 países y emplea a más de 2300 personas. La UNESCO supervisa más de 2000 sitios del Patrimonio Mundial, Reservas de Biosfera y Geoparques Mundiales, redes de Ciudades Creativas, Educativas, Inclusivas y Sostenibles y más de 13 000 escuelas asociadas, cátedras universitarias e instituciones de formación e investigación con una red mundial de 200 Comisiones Nacionales. Su Director General es Khaled El-Enany.
«Puesto que las guerras nacen en la mente de los hombres, es en la mente de los hombres donde deben erigirse los baluartes de la paz» – Constitución de la UNESCO, 1945.




