The Albany Gazette - El jefe de la ONU llama a gobernar la IA para no improvisar "el futuro de la humanidad"

"La IA ya está transformando nuestro mundo. La pregunta es si moldearemos esta transformación juntos, o dejaremos que nos moldee a nosotros", dijo Antonio Guterres en la apertura del primer Diálogo Global sobre Gobernanza de la IA en Ginebra.

Este nuevo foro intergubernamental coordinado por las Naciones Unidas tiene como objetivo permitir a todos los Estados miembros y a la sociedad civil coordinar el desarrollo y el uso de la IA.

El jefe de la ONU advirtió que estos sistemas, ahora capaces de escribir códigos, actuar en línea y tomar decisiones con cada vez menos supervisión humana, evolucionan "a una velocidad vertiginosa", más rápido que las instituciones encargadas de controlarlos.

"Nuestras instituciones fueron diseñadas para encuadrar máquinas que ejecutan órdenes. No están preparadas para gobernar máquinas que toman decisiones. Y ciertos límites, una vez que se cruzan, no pueden ser restablecidos", explicó.

La elección no es "entre la confianza ciega en la IA y el miedo a la misma" sino "entre una gobernanza pensada y organizada, o una deriva dejada al azar", alertó Guterres.

Para él el vibe coding (cuando la IA crea códigos informáticos a partir de lo que los usuarios dictan con un lenguaje sencillo) "puede hacer maravillas, pero (...) no se puede 'vibecodear' el futuro de la humanidad".

Destaca tres riesgos: la rapidez del desarrollo de la IA, la concentración de las capacidades en manos de un pequeño número de empresas y países y la amenaza que representan los contenidos generados por la IA para la información y la confianza en los hechos.

- Niños "engañados" -

Estas tecnologías tienen el potencial de acelerar el desarrollo, mejorar la atención sanitaria o el acceso a la educación, pero Guterres pide que se respeten cuatro prioridades: la seguridad, los derechos humanos, las capacidades de los países en desarrollo y la transparencia.

Propone someter a los países a un Compromiso por la seguridad de los niños frente a la inteligencia artificial.

El objetivo: imponer pruebas de seguridad antes de que la IA sea accesible a los niños, prohibir la generación de imágenes sexuales de menores y garantizar que si un niño está angustiado sea orientado hacia una ayuda humana.

"Los niños son engañados por máquinas que se hacen pasar por amigos (...) Ningún niño debería ser utilizado como conejillo de indias para una IA no regulada", insistió Guterres.

El secretario general de la ONU también anunció que presentará a la Asamblea General recomendaciones a favor de un Fondo Mundial para la IA destinado a fortalecer las capacidades de los países en desarrollo.

"No podemos permitir que la brecha digital se convierta en una brecha de inteligencia artificial", recalcó.

Para la presidenta de la Asamblea General de la ONU, Annalena Baerbock, no se trata solo de regular la tecnología sino de "definir una visión común en la que el progreso tecnológico vaya de la mano con la dignidad humana, la equidad y el desarrollo sostenible".

- "Moralmente repugnante" -

Guterres también instó a las grandes empresas del sector a publicar la huella ambiental de sus sistemas y a alimentar todos sus centros de datos con energías renovables para 2030.

E hizo hincapié en el peligro del uso militar de la IA, en particular el recurso a los sistemas de armas letales autónomas.

"Máquinas que seleccionan su objetivo, lo atacan y quitan la vida sin control ni juicio humano, es moralmente repugnante. Es políticamente inaceptable. Y el derecho internacional debe prohibirlo", añadió.

Guterres llamó a gobiernos, empresas y científicos a actuar rápidamente para que la IA sea "más segura, más justa, más accesible y más ética".

El Diálogo Mundial sobre la Gobernanza de la IA, que se celebra lunes y martes, será seguido en Ginebra por la cumbre "AI for Good" dedicada a las aplicaciones de la inteligencia artificial al servicio del desarrollo.

(M.Scott--TAG)