Anthropic ha suspendido el acceso a sus modelos de IA Fable 5 y Mythos 5 después de recibir una directiva de control de exportaciones del gobierno de EE. UU. citando preocupaciones de seguridad nacional.
En un comunicado publicado el viernes, Anthropic dijo que la orden del gobierno le exige suspender todo acceso a Fable 5 y Mythos 5 por parte de cualquier ciudadano extranjero, ya sea dentro o fuera de los Estados Unidos, incluidos los empleados extranjeros de Anthropic.
La firma de IA dijo que recibió la directiva a las 5:21 p.m. ET, y si bien se aplica solo a ciudadanos extranjeros, el “efecto neto” de la orden es desactivar abruptamente los modelos para todos los usuarios para garantizar el cumplimiento.
Dijo que el gobierno no proporcionó detalles específicos sobre la supuesta amenaza, pero dijo que cree que las autoridades están preocupadas por un posible método de “jailbreak” capaz de eludir las salvaguardas de los modelos.
Sin embargo, Anthropic defendió las barreras de seguridad de su modelo, sosteniendo que durante miles de horas de pruebas, una “fuga universal”, ningún evaluador había encontrado un método para eludir ampliamente las salvaguardias del modelo.
“Hasta la fecha, el gobierno sólo nos ha dado evidencia verbal de un potencial jailbreak limitado y no universal, que esencialmente consiste en pedirle al modelo que lea una base de código específica y corrija cualquier falla de software”, dijo Anthropic.