NVIDIA, Microsoft, SpaceX y un grupo importante de empresas tecnológicas han formado una coalición que busca frenar los ciberataques vinculados a la IA. A unos días de que ocurrió el hackeo a Hugging Face por parte de los modelos de OpenAI, las empresas abrieron un frente de defensa que apostará por herramientas de código abierto.
De acuerdo con el comunicado de prensa de NVIDIAel objetivo de la Alianza abierta y segura de IA es desarrollar y compartir tecnologías, técnicas y herramientas abiertas para proteger software y agentes de IA. La alianza reúne a más de 30 compañías, entre las que se encuentran Adobe, Cisco, IBM, Salesforce, Cloudflare, Dell y otros, quienes se apoyarán en el trabajo previo de iniciativas como Akrites y OpenSSF.
El detonante de esta alianza fue un hackeo a Hugging Face cometido por modelos de OpenAI que actuaron de forma descontrolada. Más allá del hecho de que una IA se salió de su entorno seguro para cometer ciberataques, el verdadero problema ocurrió durante la respuesta a la intrusión.
El equipo de seguridad no pudo usar los modelos comerciales más avanzados para el análisis forense, puesto que no lograban diferenciar entre atacantes y defensores. Hugging Face terminó recurriendo a GLM 5.2un modelo chino que iguala a Claude Mythos en cuestión de ciberseguridad. Los ingenieros aprovecharon que es de código abierto y lo ejecutaron en su propia infraestructura para contener la brecha.
El hackeo a Hugging Face dejó al descubierto que no se puede confiar en modelos cerrados como Claude Sonnet, Mythos o Gemini 3.1 Pro. NVIDIA dijo que esto no ocurre con los modelos abiertos, los cuales permiten llevar a cabo una defensa controlada sin depender de un único proveedor.
La Open Secure AI Alliance quiere evitar otro hackeo como el de Hugging Face
La Open Secure AI Alliance plantea que la seguridad no debe depender de mantener los sistemas en secretosino de construir infraestructura capaz de resistir el escrutinio público y de mejorar mediante la colaboración abierta entre defensores.
Según el comunicado, NVIDIA contribuirá con modelos abiertos, pesos, datos y una nueva investigación sobre arneses de agentes bajo el proyecto NOOA. Esta herramienta, disponible en GitHub, busca que los arneses se integren mejor con los modelos para facilitar la auditoría y el control del comportamiento de los agentes de IA.
Otras compañías ofrecerán piezas complementarias al ecosistema de defensa. Por ejemplo, Hugging Face ya cedió Safetensors, un formato seguro para almacenar pesos de modelos que evita la ejecución remota de código, a la PyTorch Foundation. Microsoft abrirá el acceso a MDASH, un sistema de Microsoft que utiliza agentes de IA para encontrar vulnerabilidades y fallos críticos en Windows y otros programas. Por último, SpaceXAI liberó el código de su agente de programación Grok Build y planea abrir los pesos de sus modelos.
Antes del lanzamiento de la alianza, NVIDIA, Microsoft, Meta y otra veintena de empresas ya habían firmado una carta pidiendo a los reguladores que no se aplicarán restricciones prematuras a los modelos de peso abierto. Esta carta se basaba en las acciones de Estados Unidos, que ha amenazado con aplicar sanciones a empresas chinas que ofrecen modelos de IA de código abierto. La Secretaría del Tesoro acusa a las compañías de copiar los modelos comerciales bajo la técnica de destilación, tal como dijo Anthropic cuando acusó a Kimi 3.
Fuente original: Ver noticia original
