El secretario general de la Organización de las Naciones Unidas (ONU), António Guterres, alertó sobre los riesgos que implica la falta de regulación de la inteligencia artificial (IA) y resaltó la importancia de que exista un control humano “sobre las armas, las reglas globales y la equidad tecnológica”.
Guterres y la investigadora Yejin Choi, de la Universidad de Stanford, intervinieron en un debate del Consejo de Seguridad de la ONU dedicado a las implicaciones de seguridad de esta tecnología en la transformación de la guerra.
Guterres advirtió que la inteligencia artificial presenta un enorme potencial, pero también “graves riesgos” si no se regula de manera adecuada. “La IA ya no es un horizonte lejano: está aquí, transformando la vida diaria, el espacio informativo y la economía global a una velocidad vertiginosa”, señaló. Según el jefe de la ONU, la cuestión no es si la IA influirá en la paz y la seguridad internacionales, sino “cómo daremos forma a esa influencia”.
Destacó que un uso responsable de esta tecnología puede contribuir a anticipar la inseguridad alimentaria, apoyar operaciones de desminado y detectar brotes de violencia antes de que escalen. No obstante, advirtió que, sin salvaguardias, la IA puede ser militarizada, utilizada en ataques recientes, en ciberataques contra infraestructuras críticas y en la producción de deepfakes capaces de alimentar la polarización o afectar procesos diplomáticos. “El destino de la humanidad no puede quedar en manos de un algoritmo”, subrayó.
Por su parte, Choi, investigadora del Instituto de Inteligencia Artificial Centrada en el Ser Humano de Stanford, señaló que el desarrollo de la IA está demasiado concentrado en pocas empresas y países. “Cuando solo unos pocos tienen los recursos para desarrollar y beneficiarse de la IA, dejamos al resto del mundo esperando en la puerta”, afirmó.
Choi instó a los gobiernos e instituciones internacionales a invertir en enfoques alternativos a la simple ampliación de modelos cada vez más grandes y defendió la creación de sistemas más pequeños y adaptativos para reducir las barreras de entrada. También pidió una mayor representación de la diversidad lingüística y cultural, al advertir que los modelos avanzados de IA muestran bajo rendimiento en muchos idiomas que no son el inglés y reflejan “suposiciones culturales estrechas”.
