The Albany Gazette - Nvidia pide a las empresas de IA asumir la responsabilidad por la seguridad de esta tecnología

El debate sobre la seguridad de la IA y la necesidad de una mayor regulación cobró nuevo impulso después de que programas desarrollados por OpenAI, Anthropic, Google y Meta abandonaron entornos controlados e interactuaron con sistemas externos.

"Quienes están al frente del desarrollo de esta tecnología tienen la responsabilidad de hacerlo de forma segura", declaró Huang durante una rueda de prensa en París, en el marco de una gira europea.

"No se trata de competir para desarrollar capacidades sin preocuparse por la seguridad de la IA. Hay que ocuparse de ambas cosas al mismo tiempo", agregó.

El caso más grave ocurrió durante unas pruebas en las que dos sistemas de IA de OpenAI lograron acceder a internet e irrumpieron en Hugging Face, una plataforma para compartir modelos de IA que Nvidia adquirió en septiembre.

A finales de septiembre, el gigante de los procesadores gráficos presentó una herramienta destinada a mantener confinados a los agentes de IA -programas capaces de realizar tareas de forma autónoma y vinculados a los distintos incidentes— que, según la empresa, podría solucionar el problema.

Para Huang, la seguridad de la IA es ante todo un desafío técnico que puede resolverse con mejores herramientas.

Por ello, considera que no hay motivos para ralentizar el desarrollo de esta tecnología, como han reclamado figuras del sector como Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Elon Musk.

"El pleno potencial de la IA solo puede alcanzarse si avanzamos al mismo tiempo en las capacidades de la IA y en la seguridad y protección de la IA. Estos no son objetivos contrapuestos. De hecho, son el mismo objetivo", insistió Huang en París.

"Hace falta una gran ingeniería para mejorar la seguridad", añadió.

(O.Garcia--TAG)