Cuando los alumnos de parte del mundo vuelven a la escuela tras las vacaciones de verano, la UNESCO pide a los gobiernos que apliquen una reglamentación y una formación del profesorado adecuadas, para garantizar un enfoque centrado en el ser humano en el uso de la inteligencia artificial (IA) generativa en la educación.
Con este fin, la UNESCO publica las primeras Orientaciones mundiales sobre la Inteligencia Artificial (IA) Generativa en la Educación y la Investigación, concebidas para hacer frente a las perturbaciones causadas por las tecnologías de IA Generativa.
«La IA Generativa puede ser una tremenda oportunidad para el desarrollo humano, pero también puede causar daños y perjuicios. No puede integrarse en la educación sin el compromiso público y sin las salvaguardias y regulaciones necesarias por parte de los gobiernos. Estas Orientaciones de la UNESCO ayudarán a los responsables políticos y a los docentes a aprovechar mejor el potencial de la IA en interés primordial de los educandos», declaró Audrey Azoulay, Directora General de la UNESCO.
Las primeras secciones de la Guía de la UNESCO explican qué es la IA Generativa y cómo funciona. Las secciones siguientes profundizan en las controversias en torno a la IA Generativa y sus implicaciones para la educación, en particular cómo está empeorando las brechas digitales de datos.
De hecho, los modelos actuales de ChatGPT se entrenan con datos de usuarios en línea que reflejan los valores y las normas sociales dominantes del Norte global.
Un límite de edad mínima fijado en los 13 años
La Guía de la UNESCO establece siete pasos clave que los gobiernos deberían dar para regular la IA Generativa y establecer marcos políticos para su uso ético en la educación y la investigación, incluyendo la adopción de normas mundiales, regionales o nacionales de protección de datos y privacidad.
También establece un límite de edad mínima de 13 años para el uso de herramientas de IA en las aulas y aboga por la formación de los profesores en esta materia.
Sobre la base de la Recomendación de 2021 de la UNESCO sobre la ética de la inteligencia artificial y el Consenso de Beijing de 2019 sobre la inteligencia artificial en la educación, la Guía promueve la acción humana, la inclusión, la equidad, la igualdad de género y la diversidad cultural y lingüística. La Guía también responde a las preocupaciones expresadas en la primera mesa redonda ministerial mundial sobre IA generativa, convocada por la UNESCO en mayo de 2023.
Lanzamiento el 7 de septiembre
La guía se dio a conocer en la sede de la UNESCO durante la Semana del Aprendizaje Digital de la UNESCO, que reunió a más de 1000 participantes para debatir los temas de las plataformas públicas de aprendizaje digital y la IA generativa en la educación, entre otros.
Entre los oradores figuran:
– Stuart Russel, Profesor de Informática, Universidad de California, Berkeley, EE.UU.
– Yoshua Bengio, catedrático del Departamento de Informática e Investigación Operativa de la Universidad de Montreal y fundador y director científico de Mila – Instituto Quebequense de Inteligencia Artificial, galardonado con el Premio A.M. Turing 2018
– Yann LeCun, Vicepresidente y Científico Jefe de IA en Meta
– Daniel Andler, matemático y filósofo, miembro de la Academia francesa de ciencias morales y políticas y profesor emérito de la Universidad de la Sorbona, Francia
Falta de gobernanza de la IA Generativa en las aulas
La IA Generativa llegó a la conciencia pública en noviembre de 2022 con el lanzamiento de ChatGPT, que se convirtió en la aplicación de más rápido crecimiento de la historia. Con el poder de generar resultados como texto, imágenes, vídeos, música y códigos de software, las herramientas de IA Generativa tienen implicaciones de gran alcance para la educación y la investigación.
Sin embargo, el sector educativo no está preparado para la integración ética y pedagógica de estas herramientas en rápida evolución. Una reciente encuesta mundial realizada por la UNESCO en más de 450 escuelas y universidades mostró que menos del 10% de ellas contaban con políticas institucionales y/o directrices formales relativas al uso de aplicaciones de IA generativa, en gran parte debido a la ausencia de normativas nacionales.
En junio de 2023, la UNESCO advirtió de que el uso de la IA generativa en las escuelas se estaba extendiendo a un ritmo demasiado rápido, con una preocupante falta de escrutinio público, controles o regulaciones.
La Organización publicó un documento en el que revelaba que la publicación de un nuevo libro de texto requiere más autorizaciones que el uso de herramientas de IA Generativa en el aula.
