- Las negociaciones entre la administración Trump y Anthropic se han estancado debido a preocupaciones no resueltas con respecto a las vulnerabilidades de "desbloqueo" en el modelo Claude Fable 5.
- La NSA confirmó que se podían eludir las barreras de seguridad para acceder a datos bioquímicos y de ciberseguridad confidenciales, lo que dio lugar a estrictos controles de exportación.
- Los expertos del sector advierten que la exigencia del gobierno de un sistema 100% a prueba de jailbreak puede ser técnicamente imposible debido a la naturaleza de los modelos de lenguaje de gran tamaño.
- Este enfrentamiento marca un cambio importante en la política estadounidense, que trata la IA avanzada como infraestructura nacional estratégica en lugar de simplemente como software comercial.
El reciente estancamiento entre la administración Trump y Anthropic ha generado repercusiones en el mundo tecnológico, ya que las negociaciones sobre el lanzamiento del Modelo Claude Fable 5 Esta semana se llegó a un punto muerto. A pesar de días de conversaciones de alto nivel en las que participaron altos ejecutivos y funcionarios gubernamentales, la Estrictos controles de exportación impuestos a la IA más avanzada de Anthropic Permanecer firmemente en su lugar. La situación actual sugiere que Washington ya no está dispuesto a mantenerse al margen mientras los laboratorios avanzan a toda velocidad hacia sistemas cada vez más potentes sin garantías de seguridad infalibles.
En el fondo del asunto se encuentra una técnica conocida como jailbreaking, donde los usuarios manipulan las indicaciones de la IA para eludir los protocolos de seguridad. Si bien Anthropic ha argumentado consistentemente que los riesgos se están exagerando, la administración Las preocupaciones fueron validadas por un análisis exhaustivo. Dirigida por la Agencia de Seguridad Nacional. Este drama ha marcado un antes y un después, demostrando que la Casa Blanca ahora considera los modelos de IA de vanguardia como activos estratégicos nacionales que requieren el mismo nivel de escrutinio que el armamento avanzado o la tecnología nuclear.
La intervención de la NSA y el confinamiento de Claude Fable 5
La tensión aumentó la semana pasada cuando el Departamento de Comercio emitió una directiva que efectivamente cortó el acceso internacional a Fable 5. Esta medida no fue solo un obstáculo burocrático aleatorio; se desencadenó después de que el director ejecutivo de Amazon, Andy Jassy, supuestamente... dio la voz de alarma al secretario del Tesoro, Scott Bessent. respecto a posibles vulnerabilidades en el sistema. Cuando la NSA intervino para verificar estas afirmaciones, concluyó que las medidas de seguridad destinadas a proteger el sistema eran insuficientes. Ciberseguridad de alta gama del modelo Claude Mythos y, de hecho, se podrían eludir las capacidades bioquímicas.
Debido a que estos modelos están tan profundamente interconectados, una brecha en el Fable 5 orientado al consumidor podría potencialmente Entregar las llaves del reino a los malos actores buscando explotar el poder subyacente de Mythos. Anthropic intentó mitigar la situación deshabilitando los modelos globalmente, alegando que era operativamente imposible restringir el acceso únicamente a entidades extranjeras. Este cierre total ha dejado a muchos usuarios en la estacada, pero destaca cómo La seguridad nacional ahora tiene prioridad. por encima de la disponibilidad comercial a ojos del gobierno estadounidense.
Un campo de batalla técnico: ¿Es posible el riesgo cero?
Si bien el gobierno quiere una solución completa, muchos en la comunidad científica piensan que Washington está pidiendo lo imposible. A diferencia del software tradicional, donde simplemente se puede parchear una falla en el código, los jailbreaks de IA son un objetivo en constante cambio porque depender de los matices del lenguaje humano Más que un fallo técnico específico. Los expertos han señalado que, mientras estos modelos estén diseñados para ser flexibles y creativos, probablemente siempre habrá una forma ingeniosa de convencerlos de que hagan algo que no deberían.
Anthropic ha estado impulsando una estrategia de "defensa en profundidad", que se centra en el monitoreo y la respuesta rápida en lugar de prometer un escudo perfecto. Sin embargo, la administración Trump parece estar esperando una un estándar más alto de seguridad verificable antes de dejar que el modelo vuelva a la vida real. Este choque de filosofías está creando mucha fricción, ya que las empresas tecnológicas sienten que están siendo sujeto a un estándar de perfección Eso sencillamente no existe en el mundo real de la ingeniería.
Los efectos en cadena de esta decisión ya se están sintiendo en toda la industria, señalando una nueva era de "regulación encubierta" donde los controles de exportación se utilizan como herramienta principal de supervisión. Al hacer Antropía: el caso de prueba para estas nuevas reglas.La Casa Blanca está enviando un mensaje claro a otros gigantes como OpenAI y Google. Si quieres implementar la próxima generación de modelos de vanguardia, tendrás que demostrarle al gobierno federal que tu Las barreras internas son más que una simple sugerencia cortés. para el usuario.
En adelante, es probable que el enfoque se desplace hacia la creación de un marco estandarizado para medir estos riesgos, de modo que las decisiones no se tomen sobre la marcha durante las reuniones de emergencia. Por ahora, el Controles de exportación en el stand de Claude Fable 5 como recordatorio de que la era del salvaje oeste del desarrollo de la IA está llegando a su fin. La industria está entrando en una fase más estratégica, y quizás más restringida, donde La seguridad y la innovación deben encontrar finalmente un camino. coexistir bajo la atenta mirada de los reguladores nacionales.
