Ocho grandes empresas –GSMA, INNIT, Grupo Lenovo, LG AI Research, Mastercard,Microsoft, Salesforce y Telefónica– han firmado un acuerdo pionero con la UNESCO para construir una inteligencia artificial (IA) más ética
Incorporarán los valores y principios de la Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial en el diseño y despliegue de sus propios sistemas de IA.
Audrey Azoulay, Directora General de la UNESCO, dijo: “En noviembre de 2021, todos los Estados Miembros de la UNESCO adoptaron el primer marco ético mundial para el uso de la inteligencia artificial. Hoy, estamos dando otro gran paso adelante al obtener el mismo compromiso concreto de las principales empresas tecnológicas mundiales, y hago un llamamiento a todas las partes interesadas del sector para que sigan su ejemplo. Una alianza entre las esferas pública y privada es esencial si queremos desarrollar la IA para el bien común”.
El acuerdo se firmó en Kranj (Eslovenia), en el segundo Foro Mundial de la UNESCO sobre la inteligencia artificial (IA). Las empresas se comprometen a asumir plenamente su papel a la hora de garantizar la protección de los derechos humanos durante el diseño, el desarrollo, la compra, la venta y el uso de la IA. Es la primera vez que un grupo de empresas se comprometen ante las Naciones Unidas en este ámbito.
Deberán establecerse procedimientos de verificación para garantizar que se cumplen las normas de seguridad, que pueden identificarse los efectos nocivos de la IA y que pueden adoptarse medidas para prevenir, limitar o corregir los riesgos, de conformidad con las legislaciones nacionales. El acuerdo subraya la importancia de las pruebas ex ante (antes de comercializar un nuevo sistema de IA) y también pide que se desarrollen prácticas de evaluación y mitigación de riesgos ex post (después de la implantación), dada la rápida evolución de los sistemas existentes.
La Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial fue la primera y sigue siendo el único marco normativo mundial sobre este tema, y en sus dos primeros años de existencia se han logrado avances tangibles. Más de 50 países participan ahora activamente en la aplicación de este instrumento, y la cooperación multilateral ha aumentado considerablemente.
Desde la adopción de la Recomendación, la UNESCO también ha avanzado en la cooperación con el sector privado, lo que ha llevado a la creación de un Consejo Empresarial para la Ética de la IA, copresidido por Microsoft y Telefónica.
Este Consejo se ha comprometido a crear capacidades técnicas en materia de ética y de IA, a concebir y aplicar la herramienta de evaluación del impacto ético de la Recomendación y a contribuir a la elaboración de reglamentaciones regionales adecuadas.
