El gobierno de EEUU suspende modelos Claude más potentes de Anthropic

El gobierno estadounidense ordenó el viernes a Anthropic suspender inmediatamente el acceso a dos de sus modelos de inteligencia artificial más potentes: Claude Fable 5 y Claude Mythos 5, alegando preocupaciones de seguridad nacional. Anthropic cumplió con la orden pero expresó públicamente su desacuerdo con la decisión.

La directiva, recibida a las 5:21 PM del viernes, obliga a la empresa a desactivar ambos modelos para todos los usuarios mundialmente, no solo para los extranjeros que eran el objetivo nominal de la orden de control de exportaciones. El acceso a otros modelos de Anthropic no se ve afectado.

Los modelos afectados

Mythos es el modelo más capaz de Anthropic, uno que la empresa presentó en abril y mantuvo con acceso muy restringido debido a su excepcional capacidad para encontrar vulnerabilidades de seguridad en software. Según Anthropic, Mythos identificó fallas en todos los principales sistemas operativos y navegadores web que probó.

Fable 5, lanzado hace solo tres días, era la respuesta comercial de Anthropic: una versión de Mythos con barreras de seguridad que bloqueaban respuestas en áreas de alto riesgo como ciberseguridad y biología. Inmediatamente se convirtió en el modelo de IA más capaz disponible públicamente según las pruebas de Vals AI.

El gobierno enmarcó la directiva como una acción de control de exportaciones, pero Anthropic dice que entiende que la preocupación subyacente es un supuesto jailbreak (vulneración de las medidas de seguridad) de Fable 5. La empresa señala que el gobierno solo ha proporcionado evidencia verbal de un jailbreak estrecho y no universal.

La ironía no pasa desapercibida: la propia cautela que mostró Anthropic al restringir Mythos, promocionándolo como un modelo tan peligroso que no podía liberarse públicamente, aparentemente ha atraído exactamente el tipo de escrutinio gubernamental que podría perturbar su negocio.

Lo más importante

1. Estados Unidos suspendió inmediatamente los modelos Claude más avanzados de Anthropic por seguridad nacional
2. Afecta a Fable 5 y Mythos, los modelos más capaces para encontrar vulnerabilidades en software
3. Impacta a todos los usuarios mundialmente, no solo extranjeros, y millones de personas pierden acceso
4. Es la primera vez que el gobierno suspende modelos de IA comerciales por riesgos de seguridad
5. Podría establecer precedente para futuras regulaciones de modelos de IA avanzados

Fuente original: Ver noticia completa →