Amazon alertó sobre riesgos en modelos de IA de Anthropic

El CEO de Amazon, Andy Jassy, pudo haber sido la fuente de las preocupaciones de seguridad que llevaron a Anthropic a cortar el acceso mundial a dos de sus modelos de inteligencia artificial el viernes pasado.

Según reporta The Wall Street Journal, Jassy informó al Secretario del Tesoro Scott Bessent y otros funcionarios gubernamentales que investigadores de Amazon utilizaron el modelo Claude Fable 5 de Anthropic para obtener información que podría usarse en ciberataques.

Tras esta alerta, el gobierno estadounidense impuso una prohibición de control de exportaciones sobre los modelos Fable 5 y Mythos 5, cortando efectivamente su acceso a nivel mundial.

David Sacks, quien fue zar de IA de Trump y ahora co-preside el Consejo Presidencial de Asesores en Ciencia y Tecnología, ofreció su propia versión de los eventos. Según Sacks, "un socio altamente creíble" tanto de Anthropic como del gobierno estadounidense "se presentó con información sobre un jailbreak" - una vulnerabilidad que permite saltarse las medidas de seguridad del modelo.

La administración pidió al CEO de Anthropic, Dario Amodei, que arreglara esta vulnerabilidad o retirara el modelo del mercado. Amodei se negó, según la versión de Sacks.

Lo más importante

1. Amazon alertó al gobierno sobre vulnerabilidades en modelos de Anthropic
2. El gobierno suspendió el acceso mundial a dos modelos de IA por riesgos de ciberseguridad
3. Afecta a usuarios de Claude Fable 5 y Mythos 5 en todo el mundo
4. Es el primer caso de censura gubernamental directa a modelos de IA por seguridad
5. Hay que vigilar si otros modelos enfrentarán restricciones similares

Fuente original: Ver noticia completa →