Este artículo extenso se basa en el discurso de apertura de Stefania Giannini, Subdirectora General de Educación de la UNESCO, en el festival sobre inteligencia artificial de la Fundación Onassis el 4 de julio de 2024 en Atenas, Grecia
La inteligencia artificial (IA) es una tecnología cuyo auge se ha comparado con el descubrimiento del fuego. Estando aquí, en Atenas, esta ciudad de sabiduría ancestral, recuerdo el mito de Prometeo, de quien se dice que trajo a la humanidad el don del fuego de los dioses.
Al igual que el fuego, la IA tiene un potencial disruptivo para transformar nuestras vidas de maneras notables, tanto a nivel individual como social, desde las escuelas hasta la atención médica, el trabajo y el transporte. Pero, al igual que el fuego, la IA tiene dos caras: representa calidez y progreso, pero también un gran peligro si se maneja mal.
Esta mañana, describiré algunos de los desafíos, riesgos y oportunidades que la IA, y la IA generativa en particular, presenta para la educación. Luego describiré las recientes contribuciones de la UNESCO en materia de investigación, herramientas pedagógicas e instrumentos normativos. Estas herramientas tienen como objetivo responder algunas de las muchas preguntas abiertas y prever escenarios futuros para los estudiantes de hoy y los ciudadanos adultos del mañana, a quienes propongo llamar «Generación IA».
Todos somos la “Generación IA”
A lo largo de mi carrera, he sido testigo de al menos cuatro revoluciones digitales:
- Desde la llegada de las computadoras personales
- Hacia la expansión de Internet
- A la aparición de los dispositivos móviles y las redes sociales
- A la rápida e inesperada llegada de la inteligencia artificial generativa como ChatGPT.
Cada revolución tecnológica ha tenido amplias implicaciones sociales y educativas, cambiando radicalmente la forma en que vivimos y aprendemos.
Aunque no todas las personas ni todos los países han sentido estas revoluciones tecnológicas de la misma manera, en todas partes los nuevos mundos que han creado han sido fuente de esperanza y preocupación.
Para entender los riesgos y las oportunidades de los sistemas y herramientas de IA generativa, podemos remontarnos a un capítulo de nuestra historia reciente: la COVID-19 y su dramático impacto en la educación. En las tres semanas posteriores al inicio de la pandemia, en marzo y abril de 2020, 1.600 millones de estudiantes se vieron privados de la asistencia regular a la escuela y tuvieron que recurrir a la tecnología para acceder a la educación formal. En nuestra publicación “¿ Una tragedia de la tecnología educativa? ”, documentamos y analizamos el papel de la tecnología durante este período de cierre de escuelas. Esta disrupción global sin precedentes reveló las consecuencias no deseadas de pasar a soluciones que priorizan la tecnología.
Las lecciones aprendidas de la pandemia muestran que nuestras decisiones para integrar la tecnología deben guiarse por los cuatro principios de inclusión, equidad, calidad y accesibilidad.
Este es el mensaje principal del Informe de Seguimiento de la Educación en el Mundo 2023 de la UNESCO , que destaca que la tecnología nunca es ideológicamente neutral y que los nuevos modelos y aplicaciones de inteligencia artificial no son una excepción. Aplicaciones como ChatGPT generan nuevos datos (tanto lingüísticos como de otro tipo) a partir de la enorme cantidad de información disponible en línea. Estas aplicaciones plantean preguntas fundamentales para el conocimiento, la educación y el aprendizaje humanos.
En resumen, aquí se presentan algunas características distintivas del universo de la IA que no siempre son conocidas por el usuario:
- La mayoría de las aplicaciones de IA provienen de uno de los dos países líderes en investigación e inversión en IA, lo que significa que se favorecen determinadas visiones del mundo en el procesamiento y la producción de contenidos.
- Todo el equipo ejecutivo de OpenAI, la empresa detrás de ChatGPT, tiene menos de 40 años. Esto significa que sus modelos de lenguaje reflejan las formas específicas de pensar y saber de una generación.
- Los principales chatbots han sido entrenados en solo 100 de los 7.000 idiomas naturales del mundo, siendo el inglés la fuente principal, dada su predominancia en línea. Esto significa que el 99% de los idiomas del mundo están actualmente excluidos de la gigantesca biblioteca virtual que sustenta las aplicaciones de inteligencia artificial generativa más populares.
- El 90% de los materiales de educación superior en línea provienen de la Unión Europea o de América del Norte. Esto significa, finalmente, que la producción de contenidos se desarrolla principalmente en tan solo dos regiones, ambas integradas por países occidentales.
Es evidente que estos problemas son lingüísticos, culturales, generacionales y geopolíticos. Por lo tanto, es igualmente evidente que, a pesar de la promesa de la IA de diversificar y enriquecer nuestro patrimonio común de conocimientos, la enciclopedia universal puede homogeneizarse y, por lo tanto, empobrecerse drásticamente.
Como señaló el lingüista Ludwig Wittgenstein: “los límites de mi lenguaje significan los límites de mi mundo”- Podríamos ampliar esto para decir que los límites de los grandes modelos lingüísticos significan los límites de los mundos de conocimiento que producen.
Los desafíos epistemológicos y existenciales
El primer desafío que plantea la IA generativa es epistemológico y se basa en una relación totalmente nueva entre la inteligencia humana y las máquinas inteligentes.
Por primera vez en la historia de la humanidad, la tecnología nos ha convertido a la vez en «consumidores» y «productores», usuarios y creadores. Somos a la vez receptores de la información y los nuevos datos que demandamos y, fundamentalmente, la fuente y matriz únicas de procesamiento y producción.
En otras palabras, las aplicaciones de IA generativa funcionan porque han devorado siglos de conocimiento humano almacenado en la enciclopedia digital que llamamos la Web.
La escala de los datos de entrenamiento es difícil de imaginar: GPT-4 se entrenó con 10 billones de palabras. Para ponerlo en perspectiva, 10 billones es la cantidad de segundos que nos separan de nuestros primeros antepasados, el Homo sapiens. Es una cifra que solo es posible calcular con computadoras y que solo se puede manipular con tecnología de vanguardia.
Se construyen a partir de nuestra inteligencia colectiva, que continúa alimentándolas y dándoles forma. Al agregar nuevos contenidos a la web, le damos a la IA más información, lo que expande enormemente su potencial.
Aunque la IA sigue explotando nuestra inteligencia colectiva y pronto puede superar las capacidades humanas, como sostienen ahora los expertos, seguiremos teniendo las herramientas para controlar y dirigir la tecnología en beneficio de la humanidad.
Algunos de los riesgos son obvios. La difusión del discurso de odio, la distorsión del Holocausto, la desinformación sobre el cambio climático y la interferencia electoral son solo algunos de los desafíos que plantea la IA.
La misión de Generation AI será garantizar el doble objetivo de protegernos a nosotros mismos y a nuestro planeta de los peligros potenciales de la IA y, al mismo tiempo, desarrollar su potencial para servir al bien público.
Para cumplir esta misión, necesitamos acciones inmediatas en tres niveles:
- En primer lugar, necesitamos marcos normativos sólidos elaborados por los gobiernos y los organismos internacionales. Estos marcos deben proteger la transparencia, la equidad y la ética en ámbitos como la gobernanza, la protección de datos, la investigación, la educación, la salud y el medio ambiente. En 2021, la UNESCO abrió el camino al adoptar una Recomendación sobre la ética de la IA, el primer instrumento mundial de este tipo. Hoy, siete Estados Miembros la están utilizando para dar forma a sus estrategias y políticas nacionales en materia de IA, y otros están siguiendo su ejemplo.
- En segundo lugar, es necesario transformar nuestros sistemas educativos, inspirarlos en estos principios y repensarlos para formar una nueva generación de ciudadanos digitales.
- En tercer lugar, el sector privado debe intensificar sus esfuerzos. Debe invertir en la seguridad de los sistemas de IA y en las capacidades técnicas de los docentes, así como en la infraestructura física y social para los estudiantes. Como sociedades, debemos asegurarnos de que las inversiones en una IA más inteligente no se hagan a expensas de las inversiones en los sistemas educativos y en las personas que los integran.
El impacto de la inteligencia artificial en el aprendizaje y la enseñanza
En la UNESCO, estamos considerando las múltiples implicaciones que la IA presenta para el futuro de la educación, con un objetivo universal claro: desarrollar tecnologías de IA de manera que protejan y amplíen nuestros diversos sistemas de conocimiento y doten a los estudiantes de las habilidades y competencias que necesitan para prosperar en la era digital. Para ello, debemos abordar algunas preguntas difíciles, que afectan a todas las dimensiones de la educación y que no siempre tienen respuestas claras.
En primer lugar, ¿qué contenidos y planes de estudio son apropiados para la era digital? Por ejemplo, ¿seguiremos necesitando aprender lenguas extranjeras y seguiremos necesitando formar a intérpretes y traductores? Intuitivamente, podemos pensar que ya no es necesario. ¿Por qué invertir en habilidades de traducción humanas cuando una máquina puede hacerlo más rápido y más barato, con una calidad que ya es similar y que mejora rápidamente? Sin embargo, sabemos que aprender y traducir un idioma es más que simplemente encontrar las palabras y la sintaxis adecuadas. La riqueza cultural que transmite cada idioma merece la inversión educativa y no puede ser reemplazada por ningún chatbot. También debemos reflexionar sobre cómo desarrollamos y validamos el plan de estudios.
Cuando era Ministro de Educación en Italia, los libros de texto y otros recursos educativos solían validarse según cuatro criterios principales: (1) exactitud del contenido, (2) adecuación a la edad, (3) relevancia pedagógica y (4) adecuación cultural y social. Por lo general, esto requería un año o más.
¿Sabes cuánto tiempo se tarda en validar las herramientas de IA?
Actualmente, y en la mayoría de los contextos, las herramientas de IA no requieren validación alguna. Se han publicado en el espacio público sin discusión ni revisión. ¿Debemos seguir tolerando esta asimetría?
Una segunda cuestión urgente se refiere a los sistemas de evaluación. ¿Cómo evaluaremos los resultados del aprendizaje? Los exámenes que antes eran «imposibles de hackear» ahora son fácilmente hackeables con aplicaciones de IA. Un ejemplo es la titulación de los abogados. En marzo de 2023, el GPT-4 aprobó el examen de abogacía en los Estados Unidos, quedando dentro del 10% de los mejores examinados. A principios de este año, el mismo programa aprobó el examen de ética jurídica. Esto plantea cuestiones éticas complicadas, que han aumentado junto con un acalorado debate sobre el futuro de la evaluación, ya que los estudiantes de todo el mundo utilizan la IA para las tareas. ¿Deberían las escuelas y universidades intentar bloquear su uso? O, más bien, ¿deberíamos transformar las evaluaciones para que se centren en presentar y respaldar ideas y argumentos con pruebas?
Por último, la madre de todas las preguntas: ¿seguiremos necesitando docentes en la escuela del futuro? O, más cautelosamente y de manera más plausible: ¿cómo cambiarán los tutores de IA el trabajo de los docentes? Por supuesto, no tenemos una bola de cristal, por lo que debemos basar nuestras proyecciones en datos objetivos, no solo en deseos. Empecemos por los docentes. Sé que tenemos muchos docentes en la sala hoy.
El reciente Informe mundial sobre docentes muestra datos alarmantes: una escasez mundial de 44 millones de docentes para cumplir con el Objetivo de Desarrollo Sostenible 4 de la Agenda 2030. Sabemos que existe una clara correlación positiva entre las calificaciones de los docentes y la calidad de los resultados de aprendizaje de los estudiantes, lo que exige inversiones en la transformación y mejora de la profesión docente, comenzando con la capacitación en habilidades digitales.
Algunos sostienen que el uso de la IA generativa puede llenar este vacío, especialmente en entornos desfavorecidos donde hay escasez de docentes o trabajan en condiciones tan extremas que no se presentan regularmente a trabajar. De hecho, al observar diversos contextos geográficos y geopolíticos, sabemos lo que se necesita: escuelas bien administradas y bien equipadas con docentes bien capacitados, adecuadamente remunerados y motivados en su misión. Estos son clave para encontrar el equilibrio adecuado entre humanos y máquinas, e inteligencia emocional y tecnología, que debe caracterizar a la escuela del futuro.
Tecnología de orientación para la mejora de los sistemas educativos
Hasta ahora nos hemos preguntado cómo la IA cambiará los sistemas educativos. Pero la pregunta opuesta es igualmente pertinente: ¿cómo los sistemas educativos moldearán la IA y su papel en la sociedad? En la UNESCO, estamos ayudando a los Estados Miembros a trazar un rumbo ético y responsable.
En 2023, publicamos la primera Guía sobre inteligencia artificial generativa en educación e investigación , en la que se proponen acciones clave para que los organismos gubernamentales regulen la inteligencia artificial generativa en función de su seguridad y su idoneidad para la enseñanza y el aprendizaje.
Estas acciones incluyen:
La obligación de proteger la privacidad de los datos, especialmente de los niños. Los niños pequeños necesitan las mismas protecciones en el ámbito digital y en línea que en el mundo analógico.
Actualización de las leyes de derechos de autor para la era de la inteligencia artificial. Hemos visto muchas demandas contra empresas de inteligencia artificial por parte de escritores, editores de periódicos, músicos, cineastas y actores de doblaje. Los países deben determinar cómo se aplican los derechos de autor a los conjuntos de datos utilizados para desarrollar la inteligencia artificial.
Establecer límites de edad para el uso de la IA generativa. Sostenemos que las herramientas no probadas y poco investigadas no son adecuadas para la educación primaria y no deberían estar disponibles en el aula para niños menores de 13 años. De manera similar, hay evidencia sólida para prohibir los teléfonos inteligentes en las escuelas, dados sus claros impactos negativos en la salud mental y el bienestar, así como en los resultados de aprendizaje. Una notificación en un teléfono puede hacer que los niños tarden 20 minutos en volver a concentrarse en su clase, lo que afecta su retención y memoria.
Las directrices de la UNESCO para los responsables de las políticas y los reguladores son sin duda importantes para definir el sistema de reglas, pero los verdaderos agentes de la transformación son los estudiantes y los docentes.
Para ellos, la UNESCO está elaborando marcos de competencias para el uso de la IA generativa, que se presentarán en la próxima Semana del Aprendizaje Digital, que se celebrará en septiembre en la Sede de la UNESCO en París. El marco describe el sistema de conocimientos, habilidades y actitudes necesarios para comprender el papel de la IA en la educación y utilizarla de forma ética, eficaz, segura y significativa. Se inscribe en el programa más amplio de educación para la ciudadanía mundial y ahora es un componente integral del mismo.
Esto nos lleva a preguntarnos qué competencias son necesarias en la era digital. A primera vista, la revolución digital parece exigir habilidades técnicas generalizadas en programación informática, ciencia de datos e ingeniería de software. De hecho, esas habilidades son y seguirán siendo relevantes. Sin embargo, paradójicamente, a medida que la inteligencia artificial se vuelve más sofisticada y fácil de usar, la necesidad de habilidades técnicas especializadas puede disminuir. Con la IA generativa, cualquiera puede escribir un soneto de Shakespeare, programar software, componer un concierto para violín o editar una foto. La calidad del resultado dependerá de la capacidad de cada uno para interactuar con la tecnología. En este contexto, las habilidades técnicas pueden dejar de ser esenciales, mientras que las capacidades cognitivas y socioemocionales para interrogar a la máquina haciéndole las preguntas adecuadas serán fundamentales.
Esto nos lleva al meollo de la transformación educativa que se necesita en la era de la IA generativa. Para hacer las preguntas correctas, se necesita criterio independiente, pensamiento crítico e inteligencia emocional. En este sentido, ser parte de la Generación IA no significa necesariamente ser un nativo digital, sino más bien convertirse en un ciudadano digital.
Elegir qué tecnologías adoptar y cuáles rechazar
Quisiera terminar volviendo a nuestro amigo Prometeo, cuya historia nos recuerda tanto las promesas como los peligros de la inteligencia artificial, el fuego de nuestros tiempos. Como miembros de la Generación IA, es nuestra responsabilidad iluminar el camino hacia adelante con este nuevo fuego. Para ello, debemos encarnar el nombre de Prometeo, es decir, debemos ejercitar la previsión. También debemos ejercitar nuestra agencia y nuestra capacidad de elegir qué tecnologías adoptar y cuáles rechazar –a nivel individual, comunitario y gubernamental– mediante lo que el autor y científico informático Cal Newport llama tecnoseleccionismo. Nuestra tarea como Generación IA es hacer esa selección. Guiar a la IA para que ilumine el camino hacia futuros más pacíficos, justos y sostenibles –y no que nos queme en el camino.
