Un grupo formado por decenas de expertos en ciberseguridad, incluidos varios veteranos conocidos de la industria, publicó una carta abierta al gobierno de Estados Unidos pidiéndole que levante la orden de control de exportaciones de los modelos Fable y Mythos de Anthropic.
Según la carta abierta, “esta acción ha quitado los mejores modelos a los defensores (de la ciberseguridad)” que ahora no pueden utilizar los modelos para encontrar vulnerabilidades y hacer que su software y productos sean más seguros.
“Es peligroso quitarles las mejores capacidades a los defensores sin una buena razón cuando nuestros adversarios avanzan rápidamente”, se lee en la carta.
El viernes, el gobierno de Estados Unidos ordenó a Anthropic limitar la exportación de Fable y Mythos, citando preocupaciones de seguridad nacional, sin explicar las razones específicas detrás de la orden. según antrópico. En respuesta, la empresa suspendió el acceso a los modelos a todos los usuarios en todo el mundo.
Al momento de escribir este artículo, la carta está firmada por 76 expertos en ciberseguridad, incluido Alex Stamos, exjefe de seguridad de Facebook; Casey Ellis, fundador de la plataforma de recompensas por errores Bugcrowd; Jon Callas, famoso criptógrafo y ex director de arquitectura y diseño de seguridad de Apple; Paul Vixie, informático; Dino Dai Zovi, exjefe de ingeniería de seguridad aplicada de Block; Katie Moussouris, fundadora de Luta Security; y Rachel Tobac, directora ejecutiva de la empresa de formación en concientización sobre seguridad SocialProof Security.
Cuando Mythos se lanzó como vista previa en abril, Anthropic afirmó que era tan poderoso para encontrar vulnerabilidades de seguridad que la compañía necesitaba restringir estrictamente el acceso para evitar que piratas informáticos maliciosos o adversarios extranjeros lo usaran para causar estragos en Internet. En la práctica, eso significó que Anthropic dio acceso inicial a Mythos a alrededor de 50 empresas, y recientemente amplió ese grupo para incluir alrededor de 150 organizaciones en 15 países.
La semana pasada, Anthropic lanzó Fable, una versión pública de Mythos que, según la compañía, tenía barreras estrictas para bloquear su uso en los campos de la biología, la química y la ciberseguridad, así como para evitar que otros destilaran el modelo para recrearlo. Las barreras de seguridad de Fable eran tan estrictas que muchos expertos en ciberseguridad descubrieron que prácticamente detenían cualquier aviso relacionado con la ciberseguridad.
Anthropic dijo que la orden de control de exportaciones de la Casa Blanca puede haberse basado en un informe de que había un método para eludir (o hacer jailbreak) a Fable para desbloquear sus poderosas capacidades de nivel Mythos.
Contáctenos
¿Tiene más información sobre el periódico de Amazon que provocó la prohibición? Nos encantaría saber de usted. Desde un dispositivo y una red que no sean del trabajo, puede comunicarse con Lorenzo Franceschi-Bicchierai de forma segura en Signal al +1 917 257 1382, o mediante Telegram y Keybase @lorenzofb, o por correo electrónico.
Según Katie Moussouris, una de las firmantes de la carta abierta, el método fue demostrado por investigadores de Amazon en un artículo que no es público pero que ella ha revisado.
Pero Moussouris dijo en una publicación de blog que el documento en realidad no demostró una fuga real. En cambio, escribió, los investigadores simplemente le pidieron a Fable que arreglara el código fuente abierto con vulnerabilidades públicas y conocidas junto con “vulnerabilidades deliberadamente plantadas”, después de que el modelo inicialmente se negara a “revisar el código por problemas de seguridad”.
“El comportamiento descrito en el documento no puede corregirse de manera significativa, y cualquier intento sólo debilitaría el modelo de defensa”, escribió Moussouris. “Los defensores deben poder pedirle a la IA que corrija los errores en un archivo, explicar por qué es importante la corrección y escribir pruebas que confirmen que el parche funciona. Eso no es un paso por alto la barrera de seguridad. Es lo más valioso que un modelo de IA puede hacer para la seguridad defensiva: ejecutar el ciclo de búsqueda, corrección y prueba que los defensores ejecutan todos los días”.
La crítica de Moussouris se hizo eco en la carta abierta, que también decía que el grupo de expertos cree que el método en el artículo de Amazon “puede ser replicado” en GPT-5.5 de OpenAI, en Claude Opus 4.8 y Sonnet disponibles públicamente de Anthropic, “e incluso modelos chinos como Kimi 2.7”.
La carta también pedía regulaciones aplicadas de manera transparente y justa creadas mediante “un proceso democrático de elaboración de reglas” que se basen en investigaciones científicas realizadas por expertos académicos y de la industria, y “utilizadas sólo en la medida mínima necesaria para garantizar la seguridad del público estadounidense”.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
Fuente original: Ver noticia original
