Sin bases éticas, hay que tenerles miedo, dice la especialista en el tema de la agencia de la ONU para la ciencia y la cultura durante una visita a México, donde asistió a la presentación del informe sobre la preparación del país para la inteligencia artificial
Esas tecnologías tienen sesgos de discriminación, riesgos de personificación y de desinformación, y deben regularse.
“A una Inteligencia Artificial (IA) sin bases éticas sí hay que tenerle miedo”, dijo Gabriela Ramos, directora general adjunta para las Ciencias Sociales y Humanas de la UNESCO, en entrevista con ONU México tras la reciente presentación del Reporte de Evaluación del Estadio de Preparación de la Inteligencia Artificial de México, en el Senado de la República.
El informe es un diagnóstico y una hoja de ruta clara para que el Gobierno de México y los estados elaboren de forma participativa una estrategia nacional sobre inteligencia artificial con bases éticas. El documento fue realizado en colaboración con la Alianza Nacional para la Inteligencia Artificial (ANIA) y el Centro-i para la Sociedad del Futuro.
A la pregunta sobre si debemos tenerles miedo a esas tecnologías, la alta funcionaria de la Organización de las Naciones Unidas para la Educación, la Ciencia, la Cultura y la Comunicación respondió que a una inteligencia artificial “sin bases éticas, sí”.
“Sabemos que estas tecnologías, presentes en todos lados, prometen apoyarnos a hacer los trabajos mucho más fáciles, más productivos, más rápidos. Pero también tienen sesgos de discriminación, riesgos de personificación, de desinformación, entonces necesitamos tener marcos éticos de gobernanza”, destacó la experta de origen mexicano.
Hay que evaluar las consecuencias
Ramos argumentó que las tecnologías “no pueden simplemente desarrollarse y llegar al mercado como lo hizo el ChatGPT, sin medir cuáles son las consecuencias. Tenemos que evaluarlas y luego dirigirlas a resolver los problemas que tenemos como seres humanos”.
En el caso de México, el país se ha comprometido a “alinear los desarrollos tecnológicos con los derechos humanos, con la dignidad humana”, por lo que el siguiente paso es elaborar una estrategia nacional sobre inteligencia artificial, agregó.
“Es muy importante que se desarrolle una estrategia nacional de inteligencia artificial, que sea una conversación de país y que con los buenos anuncios que se han hecho, de la creación de una Secretaría de Ciencias y Tecnología y de una Agencia Digital, se tenga una visión de hacia dónde se quiere ir: en dónde se van a hacer las inversiones, cómo se van a adoptar estas tecnologías en los diferentes rubros, cómo se va a preparar mejor a las y los mexicanos, cómo vamos a evitar que esto no sólo sea aprovechado por quienes tienen más recursos y cómo aprender del entorno internacional”, subrayó.
Terminar de entender la inteligencia artificial
Para la experta, “tiene que haber una colaboración de diferentes sectores. (…) El sector privado es el principal productor de estas tecnologías; el Estado es el responsable de proteger a los individuos, pero también de capitalizarlas; la sociedad civil y la academia son bienvenidas para aportar con su visión. Son tecnologías que todavía no terminamos de entender, así que hay que invertir en comprenderlas”, enfatizó.
Múltiples estudios estiman que el uso de la inteligencia artificial puede incrementar el PIB mundial entre un 1,5% y un 2% en diez años, y que podría impactar en la transformación desde el 40% hasta el 60% de los empleos en el mundo, por lo que la UNESCO ha liderado iniciativas para preparar a los países no sólo en materia de datos y generación de conocimiento, sino también de su aplicación, para orientar políticas públicas y mecanismos de gobernanza.
El informe sobre México fue elaborado mediante un proceso abierto y plural con más de 250 personas y representantes de los gobiernos federal y estatales, órganos autónomos y organizaciones civiles, de la academia y la iniciativa privada, en un periodo de casi 18 meses.
A nivel global, la UNESCO ha acompañado a más 60 países en la elaboración de este tipo de diagnósticos y recomendaciones para la orientación ética y la gobernanza de la inteligencia artificial.
