Según la información de Bloomberg de este jueves, el gobierno de EE. UU. se prepara para conceder a las agencias federales acceso al modelo Mythos de Anthropic. Gregory Barbaccia, el director de información federal en la Oficina de Gestión y Presupuesto de la Casa Blanca, envió el martes un correo electrónico a los funcionarios de los departamentos del Gabinete en el que indicó que la OMB estaba estableciendo protecciones para permitir el uso del modelo por parte de las agencias. El modelo Mythos está limitado a grupos selectos y está destinado a trabajos de ciberseguridad defensiva, no a un uso comercial amplio.
Salvaguardas de la Casa Blanca para el acceso a Mythos
En el correo de la OMB con la línea de asunto «Mythos Model Access», Barbaccia escribió: «Estamos trabajando en estrecha colaboración con los proveedores del modelo, otros socios de la industria y la comunidad de inteligencia para garantizar que se incorporen las medidas de contención y salvaguardas adecuadas antes de potencialmente liberar una versión modificada del modelo a las agencias».
El plan de despliegue llega mientras los funcionarios expresan preocupación por los riesgos de ciberseguridad si la herramienta no se controla con rigor. Anthropic ha afirmado que las capacidades de Mythos pueden difundirse rápidamente y no permanecer en manos seguras, advirtiendo que «las consecuencias para las economías, la seguridad pública y la seguridad nacional podrían ser graves» si tales capacidades proliferan más allá de los actores comprometidos con un despliegue seguro.
Preocupaciones regulatorias internacionales
El plan federal de despliegue coincide con un mayor enfoque internacional en los riesgos de ciberseguridad de la IA. Los ministros de Finanzas, los gobernadores de bancos centrales y los reguladores se reunieron en Washington para las reuniones de primavera del FMI y del Banco Mundial, donde altos funcionarios financieros advirtieron que la IA avanzada de empresas tecnológicas de EE. UU. podría exponer vulnerabilidades en las defensas cibernéticas de los prestamistas y presionar al sistema bancario en general.
Andrew Bailey, gobernador del Banco de Inglaterra y presidente del Financial Stability Board, declaró: «Es un desafío muy serio para todos nosotros. Nos recuerda lo rápido que se mueve el mundo de la IA». Bailey dijo que los reguladores de todo el mundo necesitarían evaluar rápidamente el riesgo cibernético que la vista previa de Claude Mythos de Anthropic podría representar para el sistema financiero.
Dan Katz, subdirector del FMI, dijo: «La evolución de la tecnología digital está generando riesgos inmensos desde la perspectiva de la ciberseguridad. Realmente va a ser absolutamente esencial en la agenda internacional durante los próximos meses».
Christine Lagarde, presidenta del Banco Central Europeo, destacó la preocupación de uso dual: «El desarrollo que hemos visto con Anthropic y Mythos es un buen ejemplo de una empresa responsable que de repente está pensando: “ah, eso podría ser realmente bueno”, pero si cae en las manos equivocadas, podría ser realmente malo». Lagarde dijo a los reporteros que los funcionarios quieren un marco para la gobernanza, pero que actualmente no hay ningún sistema formal en vigor: «A todo el mundo le entusiasma tener un marco dentro del cual operar. No creo que exista un marco de gobernanza que en realidad esté destinado a supervisar esas cosas. Necesitamos trabajar en eso».
Hallazgos de vulnerabilidades y salvaguardas de Anthropic
A principios de este mes, Anthropic anunció que Mythos había encontrado «miles de vulnerabilidades de alta severidad, incluidas algunas en cada sistema operativo importante y en cada navegador web importante». La empresa advirtió que capacidades como estas pueden difundirse rápidamente y no permanecer en manos seguras, afirmando: «No pasará mucho tiempo antes de que esas capacidades se multipliquen, potencialmente más allá de los actores que están comprometidos con desplegarlas de forma segura».
Pip White, responsable de Anthropic para el Reino Unido, Irlanda y el norte de Europa, dijo que el interés de los ejecutivos aumentó rápidamente tras la noticia del modelo. En una entrevista, White afirmó: «Estamos poniendo nuestras propias salvaguardas y nuestras propias limitaciones en torno a este producto porque sabemos lo poderoso que puede ser».
Lanzamiento de Opus 4.7
El jueves, Anthropic lanzó Opus 4.7, un nuevo modelo diseñado para tareas de ingeniería de software. Según la empresa, Opus 4.7 puede manejar trabajos de codificación que antes requerían una supervisión más estrecha, seguir instrucciones mejor que los modelos más antiguos y examinar imágenes de mayor resolución para identificar detalles en gráficos densos e imágenes complejas.
Anthropic señaló que Opus 4.7 es menos capaz que Mythos, incluso en casos de uso de ciberseguridad. Durante el entrenamiento, la empresa probó métodos para «reducir de manera diferencial» la capacidad cibernética del modelo.
Aviso legal: La información de esta página puede proceder de terceros y no representa los puntos de vista ni las opiniones de Gate. El contenido que aparece en esta página es solo para fines informativos y no constituye ningún tipo de asesoramiento financiero, de inversión o legal. Gate no garantiza la exactitud ni la integridad de la información y no se hace responsable de ninguna pérdida derivada del uso de esta información. Las inversiones en activos virtuales conllevan riesgos elevados y están sujetas a una volatilidad significativa de los precios. Podrías perder todo el capital invertido. Asegúrate de entender completamente los riesgos asociados y toma decisiones prudentes de acuerdo con tu situación financiera y tu tolerancia al riesgo. Para obtener más información, consulta el
Aviso legal.
