El organismo de la ONU que vela por la educación anuncia una serie de directrices para hacer frente a las perturbaciones de esa herramienta tecnológica (IA) en el campo educativo y urge a los gobiernos a regular su utilización
En muy poco tiempo, la inteligencia artificial (IA) generativa se ha popularizado enormemente y ha alcanzado a una muy amplia gama de actividades humanas aportando grandes ventajas y abriendo posibilidades, aunque también acarreando una serie de riesgos, según ha alertado la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO).
La educación es uno de los campos que se ha volcado a usar esa tecnología, por eso, en un momento en el que los niños empiezan el año escolar tras las vacaciones del verano boreal, la UNESCO presentó la primera Guía sobre la Inteligencia Artificial Generativa en la Educación y la Investigación.
La inteligencia artificial generativa se dio a conocer al público en noviembre de 2022 con el lanzamiento del ChatGPT, que se convirtió en la aplicación de más rápido crecimiento de la historia. Esa herramienta puede generar resultados como texto, imágenes, vídeos, música y códigos de software, lo que tiene implicaciones de gran alcance para la educación y la investigación.
Sin embargo, el sector educativo no está preparado para la integración ética y pedagógica de estas herramientas en rápida evolución. De acuerdo con una encuesta hecha por la UNESCO en más de 450 escuelas y universidades, menos del 10% cuentan con políticas institucionales o directrices formales relativas al uso de aplicaciones de inteligencia artificial generativa, en gran parte debido a la ausencia de normativas nacionales.
Falta preocupante de escrutinio y controles
En junio de 2023, la UNESCO advirtió de que el uso de la inteligencia artificial generativa en las escuelas se estaba extendiendo a un ritmo demasiado acelerado, con una preocupante falta de escrutinio público, controles o regulaciones. Como evidencia, la agencia presentó un documento mostrando que la publicación de un nuevo libro de texto requiere más autorizaciones que el uso de herramientas de inteligencia artificial generativa en las aulas.
El objetivo de la Guía es hacer frente a las perturbaciones causadas por la inteligencia artificial generativa y garantizar que su uso tenga un enfoque centrado en el ser humano.
Para ello, la UNESCO urgió a los gobiernos a reglamentar el uso de esas tecnologías en la esfera de la educación y a capacitar al profesorado para que refuerce en los estudiantes la importancia de la inteligencia humana para tomar decisiones frente a las opciones que brinda la inteligencia artificial generativa.
Puede causar daños y perjuicios
La directora general de la UNESCO, Audrey Azoulay, afirmó que esa tecnología representa una gran oportunidad para el desarrollo humano, pero advirtió que también puede causar “daños y perjuicios”.
“No puede integrarse en la educación sin el compromiso público y sin las salvaguardas y regulaciones necesarias por parte de los gobiernos”, dijo Audrey Azoulay, y agregó que las Orientaciones elaboradas por la UNESCO ayudarán a los responsables políticos y docentes a aprovechar mejor el potencial de la inteligencia artificial en beneficio de los estudiantes.
La Guía explica que las herramientas de la inteligencia artificial generativa disponibles al público están surgiendo rápidamente, superando la adaptación de los marcos regulatorios nacionales, y señala que la ausencia de regulaciones nacionales en la mayoría de los países deja la privacidad de los datos de los usuarios desprotegida y las instituciones educativas en gran medida no están preparadas para validar las herramientas.
También hace una evaluación de los riesgos potenciales de la inteligencia artificial generativa para los valores humanistas fundamentales que promueven la inclusión, la equidad, la igualdad de género, la diversidad lingüística y cultural, así como las opiniones y expresiones plurales.
Edad mínima de trece años
Frente a estos riesgos, la UNESCO propone medidas para que las agencias gubernamentales regulen el uso de estas tecnologías, incluyendo que se exija la protección de la privacidad de los datos y que se considere un límite de edad para su uso.
Según el organismo, un niño debe tener al menos trece años para empezar a utilizar herramientas de inteligencia artificial en las aulas y subraya la necesidad de formar a los profesores en esta materia.
También plantea requisitos para los proveedores de inteligencia artificial generativa, de manera que sus herramientas puedan tener un uso ético y eficaz en la educación.
La Guía enfatiza la necesidad de que las instituciones educativas validen los sistemas inteligencia artificial generativa en cuanto a su idoneidad ética y pedagógica para la educación, y llama a la comunidad internacional a reflexionar sobre sus implicaciones a largo plazo para el conocimiento, la enseñanza, el aprendizaje y la evaluación.
Asimismo, advierte sobre los sesgos de estas tecnologías y refiere, por ejemplo, que los modelos actuales de ChatGPT se diseñan con datos de usuarios en línea que reflejan los valores y las normas sociales dominantes del Norte global.
El lanzamiento de la Guía tuvo lugar en la sede de la UNESCO en París, en el marco de los eventos de la Semana del Aprendizaje Digital, que reúne a más de mil participantes para debatir temas como las plataformas públicas de aprendizaje digital y la inteligencia artificial generativa en la educación, entre otros.
Desde la revista digital patrimonioactual.com, queremos destacar que la inteligencia artificial mal usada puede ser una lacra para la sociedad y, actualmente, en España se está sufriendo ya que hemos visto como en varios pueblos, menores de 13 años, inimputables, han realizado acciones con sus compañeras de colegio desnudándolas y difundiendo imágenes falsas y trucadas de ellas. Pero debemos preguntarnos que están haciendo esas familias para que los niños estén tan corrompidos mentalmente. No solo los centros escolares deben tomar medidas, también las autoridades y los progenitores y tutores.
 en las aulas){kind=link}