Este proyecto de recomendación se ha enviado recientemente a los 193 Estados miembros de la Organización y será objeto de una serie de negociaciones con miras a su adopción definitiva en la Conferencia General de la UNESCO en noviembre de 2021
Cuando los Estados miembros de la UNESCO decidieron iniciar el proceso de elaboración de una recomendación mundial sobre la ética de la inteligencia artificial (IA) en noviembre de 2019, el Secretario General de las Naciones Unidas, Antonio Guterres, elogió a la UNESCO por haber aceptado este desafío y declaró que «la inteligencia artificial es una cuestión transfronteriza crucial para todo el sistema de las Naciones Unidas y para todo el planeta».
Con este objetivo, el pasado mes de marzo, la UNESCO encomendó a 24 reconocidos expertos la elaboración de un proyecto de recomendación sobre la ética de la inteligencia artificial.
Inmediatamente, la UNESCO puso en marcha un amplio proceso de consultas para conocer el punto de vista de los principales actores mundiales: expertos de 155 países, sociedad civil (mediante una encuesta mundial en línea), organismos de las Naciones Unidas, grandes empresas mundiales, como Google, Facebook y Microsoft, así como el sector académico, desde la Universidad de Stanford hasta la Academia de Ciencias de China, pudieron compartir sus impresiones y enriquecer las conclusiones del proyecto.
«Debemos mantener los ojos abiertos, para que la inteligencia artificial se desarrolle ‘a nuestro servicio y no a nuestra costa'», dijo Audrey Azoulay, Directora General de la UNESCO. «Necesitamos una base sólida de principios éticos para asegurar que la inteligencia artificial contribuirá al bien común. Por ello, queríamos que este proceso tuviera el mayor alcance posible, pues se trata de una cuestión universal», explicó.
En los últimos años, y más aún desde la aparición de la COVID-19, han surgido soluciones basadas en la inteligencia artificial, en particular con el objetivo de acelerar la búsqueda de una vacuna e identificar los casos de contacto de personas que han dado positivo. La inteligencia artificial ha contribuido igualmente al desarrollo de la telemedicina y la enseñanza a distancia y ha permitido la entrega de material médico a través de aviones teledirigidos. Los campos de aplicación de esta ciencia se han multiplicado, y con ellos la necesidad de un instrumento normativo de alcance mundial.
El potencial de la inteligencia artificial, tal como se refleja en las publicaciones científicas, así como en las obras de ficción, hace temer que las máquinas empiecen a decidir por los seres humanos, erosionen los derechos de privacidad de las personas y expongan a los usuarios a la manipulación, comprometiendo así las libertades fundamentales y los derechos humanos. Por consiguiente, la enorme cantidad de datos que se recogen y analizan todos los días plantea importantes cuestiones: la confidencialidad, la privacidad, el riesgo de reproducir prácticas discriminatorias y la propagación de estereotipos.
El proyecto de recomendación propuesto a la comunidad internacional para su examen introduce una serie de conceptos clave:
- Proporcionalidad: las tecnologías de IA no deben exceder los límites preestablecidos para alcanzar metas u objetivos legítimos y deben adaptarse al contexto de su uso;
- Supervisión y determinación humanas: Los humanos son ética y legalmente responsables de todas las etapas del ciclo de vida de los sistemas de IA;
- Gestión medioambiental: Los sistemas de IA deben contribuir a la interrelación pacífica de todos los seres vivos y respetar el entorno natural, especialmente en la extracción de materias primas.
- Igualdad de género: Las tecnologías de la IA no deben reproducir las brechas de género que existen en el mundo real, en particular en lo que respecta a los salarios, la representación, el acceso y la difusión de estereotipos. Es necesario adoptar medidas políticas, incluida la discriminación positiva, para evitar estos grandes escollos.
La UNESCO ayudará a los gobiernos y a los actores de la sociedad civil (empresas, ciudadanos, etc.) a poner en marcha acciones concretas de concienciación y herramientas para evaluar los impactos éticos de la IA en todos los ámbitos.
Además de crear un consenso internacional sobre esta cuestión, los expertos de la UNESCO invitan a los Estados Miembros y a las partes interesadas en la IA a sensibilizar al público en general y a destacar la importancia de la educación digital para todos.
