El viernes pasado, citando preocupaciones de seguridad nacional no especificadas, la Casa Blanca ordenó a Anthropic restringir la exportación de sus poderosos modelos de inteligencia artificial Fable y Mythos a cualquier persona fuera de los Estados Unidos, así como a ciudadanos extranjeros dentro del país. Poco después, el gigante de la IA desconectó apresuradamente ambos modelos, que ya no están disponibles para nadie durante una semana.
El episodio es la primera prueba real de si el gobierno de Estados Unidos puede utilizar controles de exportación para contener la IA fronteriza de la misma manera que ha intentado, con resultados muy desiguales, contener el cifrado y el software espía antes. Y por dramático que parezca, la forma en que se resuelva este enfrentamiento podría moldear no sólo el acceso de Anthropic a los mercados extranjeros, sino también el libro de reglas sobre el cual otros laboratorios de IA tendrán que construir.
Algo de contexto primero. Desde que Anthropic lanzó Mythos en abril, la compañía lo ha comercializado como una especie de máquina cibernética apocalíptica que podría causar estragos en Internet si se difundiera demasiado, razón por la cual, antes de la prohibición, solo unas 150 empresas y organizaciones gubernamentales examinadas tenían acceso a ella. El objetivo era ayudar a los defensores a proteger su software y servicios antes de que los malos pudieran alcanzar capacidades similares a las de Mythos.
Entonces, ¿qué provocó la prohibición? Según se informa, dos hechos posteriores. El primero: Anthropic le dio a una empresa de telecomunicaciones surcoreana acceso a Mythos a través de su programa de socios limitados, y los funcionarios estadounidenses se alarmaron después de identificar a la compañía como una que sospechaban que tenía vínculos con China. (La empresa, ampliamente reportado ser SK Telecom, tiene denegado cualquier conexión con China). El CEO de Amazon, Andy Jassy, también supuestamente alertó a la administración después de que los propios investigadores de Amazon, dijo, encontraron una manera de eludir las salvaguardias de Fable 5. Anthropic cuestiona la etiqueta de “jailbreak”, calificándola de un problema limitado y ya parcheado en lugar de una derrota total de las medidas de seguridad del modelo.
El resultado fue el mismo: el Departamento de Comercio emitió una directiva de control de exportaciones, y Anthropic tuvo que luchar para limitar inmediatamente el acceso a sus productos, aproximadamente 90 minutos después de haber sido notificado, según algunas cuentas.
Sin embargo, nada de esto es nuevo. Los gobiernos han intentado utilizar controles de exportación para limitar la proliferación de lo que consideran tecnología cibernética peligrosa durante décadas, pero su historial ha sido, en el mejor de los casos, mediocre.
El gobierno de Estados Unidos estuvo detrás de lo que tal vez sea el fracaso más espectacular de la historia en este enfoque a principios y mediados de los años noventa. En ese momento, los informáticos estaban desarrollando tecnologías de cifrado para proteger los datos mientras viajaban por Internet. Uno de esos productos de cifrado se llamaba Pretty Good Privacy, o PGP, un software popular que podía cifrar datos y hacerlos prácticamente imposibles de descifrar, incluso si los interceptaban mientras viajaban a su destinatario a través de Internet.
Inicialmente, el gobierno de Estados Unidos vio el PGP como un arma peligrosa, temiendo que impediría que sus agencias de inteligencia espiaran los correos electrónicos cuando cruzaban sus cables. Para detener la distribución de PGP, el Servicio de Aduanas de EE.UU. abrió una investigación criminal contra el creador de PGP, Phil Zimmermann, por presunta violación de los controles de exportación de armas. Se defendió publicando el código fuente de PGP. como un libro impresodesencadenando lo que hoy se conoce como las “Crypto Wars”.
Posteriormente, Zimmermann ganó una batalla clave cuando se cerró la investigación, allanando el camino para algoritmos de cifrado de extremo a extremo cruciales como el utilizado por miles de millones de usuarios de Signal y WhatsApp.
Más tarde, a principios de la década de 2010, los investigadores comenzaron a descubrir software espía fabricado en Occidente utilizado contra disidentes en Medio Oriente. En respuesta, varios gobiernos acordaron ampliar el Arreglo de Wassenaarun tratado internacional que limita la exportación de software y tecnologías de doble uso que se utilizan tanto en aplicaciones civiles como militares.
La idea era clasificar el software de vigilancia y piratería como de doble uso, obligando así a los fabricantes de software espía a obtener licencias de exportación para vender sus productos en el extranjero.
Contáctenos
¿Tienes más información sobre la prohibición de Mythos? Desde un dispositivo y una red que no sean del trabajo, puede comunicarse con Lorenzo Franceschi-Bicchierai de forma segura en Signal al +1 917 257 1382, o mediante Telegram y Keybase @lorenzofb, o por correo electrónico.
Pero Wassenaar siempre ha tenido dos debilidades inherentes. Hay varios países que no se adhieren al acuerdo, incluido Israel, que alberga a algunos de los fabricantes de software espía más activos del mundo.
El acuerdo también depende de que los países lo apliquen a las empresas dentro de sus fronteras a su propia discreción. Durante un tiempo, el gobierno italiano permitió a uno de los principales fabricantes de software espía del país, Hacking Team, una licencia para exportar sus herramientas a todo el mundo, a pesar del historial de la empresa de vender software espía a opresivo gobiernos eso lo usé hackear a periodistas y activistas de derechos humanos.
Desde entonces, otro países en Europa han sido poco estrictos con los fabricantes de software espía como Italia. A pesar de numerosos escándalos, Europa, hogar de muchos fabricantes de software espía y herramientas de piratería, ha continuamente no lograron frenar la exportación de software espía a regímenes autoritarios. Los críticos dicen que un esfuerzo recientemente renovado en todo el bloque de 27 estados miembros para abordar el creciente problema de las exportaciones de software espía a estados autoritarios “no va lo suficientemente lejos”.
Varios fabricantes de software espía, como Intellexa, un consorcio sancionado de empresas de software espía, simplemente han trasladado sus operaciones a países con controles de exportación laxos. Otros fabricantes de software espía intentaron trasladar sus operaciones a Arabia Saudita por motivos similares.
Ha habido algunas victorias. FinFisher, fabricante de software espía con sede en Alemania cerrar en 2022 después de una investigación de varios años por parte de fiscales alemanes sobre la empresa por supuestamente vendiendo software espía a Turquía sin licencia de exportación. Los investigadores descubrieron previamente que el software espía FinFisher había sido implementado en los teléfonos de los críticos del gobierno de Turquía.
Al momento de escribir este artículo, el impasse entre Anthropic y la administración Trump persiste. Existe una posibilidad razonable de que la administración ceda y levante la restricción en aras de mantener competitivas a las empresas estadounidenses de IA en todo el mundo, una medida que equivaldría a un reconocimiento tácito de que los laboratorios de IA en otros lugares, incluida China, probablemente alcanzarán capacidades similares independientemente de las restricciones de Estados Unidos. O bien, las empresas estadounidenses de IA podrían terminar necesitando la aprobación del gobierno antes de atender a clientes extranjeros, una carga de cumplimiento que invariablemente afectaría sus resultados.
Dadas las experiencias pasadas que los gobiernos del mundo han tenido al tratar de controlar el alcance del software, es poco probable que los controles de exportación exigidos por los gobiernos sean el enfoque correcto para impedir que actores maliciosos abusen de poderosas tecnologías cibernéticas de doble uso.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
Fuente original: Ver noticia original
