La carta de ejecución del gobierno de EE. UU. a Anthropic, que efectivamente obligó a la compañía a desconectar sus últimos modelos de IA justo antes del fin de semana, debería ser una llamada de atención para cualquier empresa de tecnología de EE. UU., ya sea laboratorio de IA o no.
Para ponerse al día con las noticias: el viernes por la tarde, el Departamento de Comercio de EE. UU. envió a Anthropic una carta invocando una oscura directiva de control de exportaciones que prohibía a los no estadounidenses, incluidos los empleados de Anthropic, acceder a Fable 5 y Mythos 5, citando una preocupación de seguridad nacional no especificada. Anthropic dijo que cree que la carta está relacionada con un desvío de las barandillas del modelo, pero no está seguro porque la carta no proporciona detalles específicos. La carta no se ha hecho pública.
En respuesta, Antrópico cerrar sus dos mejores modelos a todos los clientes para garantizar que cumplían la directiva. El resultado fue que el gobierno de Estados Unidos obligó con éxito a una empresa de tecnología a desconectar sus modelos con una acción rápida y unilateral que no parecía requerir aprobación judicial.
La intervención del viernes por parte de la administración Trump muestra que la industria de la IA no es inmune a la interferencia del gobierno. También es una advertencia para la industria tecnológica en general: cumplan o podemos cerrarle el mercado a usted y a sus productos.
Citando fuentes, axios describió una situación tensa durante el fin de semana entre los dos actores principales, diciendo que las “diferencias de personalidad” entre Anthropic y la administración Trump llevaron a la directiva de exportación, en lugar de un problema técnico con los productos de IA.
Nuevos detalles sobre el tema que surgieron durante el fin de semana ahora arrojan más dudas sobre el ya inestable razonamiento del gobierno.
Katie Moussouris, investigadora y veterana en ciberseguridad que fundó Luta Security, dijo en una publicación de blog que Anthropic compartió recientemente con ella una copia privada de un artículo escrito por investigadores de seguridad que describen un supuesto desvío de la barandilla en Fable 5. (The Wall Street Journal informa que los autores del artículo son investigadores de seguridad en Amazon.) Moussouris dijo que Anthropic se acercó para pedirle su opinión sobre el artículo.
La publicación del blog de Moussouris describió cómo los investigadores activaron el desvío de la barandilla, pero dijo que el desvío en sí “nunca debería haber desencadenado un control de exportaciones”. La diferencia es en gran medida entre pedirle a un modelo de IA que “revise el código para detectar problemas de seguridad” y pedirle que “arregle este código”. El resultado final es en gran medida el mismo, incluso si las preguntas se plantean de forma ligeramente diferente.
“El comportamiento descrito en el documento no puede corregirse de manera significativa, y cualquier intento sólo debilitaría el modelo de defensa”, dijo Moussouris, quien criticó la directiva de control de exportaciones por considerarla apresurada, dura y equivocada.
Desde entonces, Moussouris y docenas de otros importantes investigadores y expertos en seguridad han pedido a la administración Trump que revoque la orden de control de exportaciones, calificando la medida de retirar capacidades avanzadas de ciberseguridad de los defensores de la red en los EE. UU. como “peligrosa”.
Las administraciones anteriores han tomado decisiones radicales sobre las lagunas de conocimiento. Por ejemplo, el lenguaje utilizado por el gobierno de EE. UU. durante la década de 2010 para modificar la ley de exportación que cubre herramientas de ciberseguridad que también podrían usarse para ataques cibernéticos fue tan amplio que, sin darse cuenta, casi prohibido investigación legítima de seguridad y vulnerabilidad.
Sin embargo, la directiva de la administración Trump parece una represalia.
Justin Hendrix, el editor de Tech Policy Pressdijo que la medida de la administración Trump “probablemente haga saltar las alarmas en las capitales extranjeras sobre la confiabilidad de la IA estadounidense para aplicaciones críticas”. El mensaje es que no se puede confiar en que las empresas de IA en Estados Unidos operen sin la interferencia del gobierno estadounidense.
La administración Trump no ha confirmado por qué invocó su directiva de control de exportaciones. ¿Los funcionarios leyeron mal el informe y se asustaron? ¿El director ejecutivo de Amazon, Andy Jassy, dijo algo a altos funcionarios del gobierno que provocó la reacción, por precaución o por despecho? ¿Se perdió algo en la traducción o fue esta una forma de presionar a Anthropic, con quien la administración ya tiene una relación conflictiva? Es posible que la Casa Blanca no fuera consciente de las consecuencias de largo alcance de la demanda de la carta y que los funcionarios estén luchando por deshacer el daño que ellos mismos han causado.
Para citar a Hendrix, “el clima es el de una nube de sospecha de que altos funcionarios están eligiendo favoritos basándose en factores personales y políticos”. La consecuencia es que el gobierno ha sentado un peligroso precedente sobre el grado de control que pretende ejercer sobre la publicación de software fabricado en Estados Unidos.
Esta vez el gobierno discrepó de Anthropic; Mañana podría ser con cualquier otra persona.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
Fuente original: Ver noticia original
