Улучшения модели Anthropic Mythos на фоне расширения федерального развертывания при сохраняющихся опасениях по кибербезопасности

Согласно сообщению Bloomberg в четверг, правительство США готовится предоставить федеральным ведомствам доступ к модели Mythos от Anthropic. Грегори Барбацца, главный директор по информационным технологиям (CIO) в Управлении по вопросам управления и бюджета (Office of Management and Budget) при Белом доме, во вторник направил письмо по электронной почте должностным лицам министерств Кабинета, заявив, что OMB выстраивает защитные меры, чтобы обеспечить использование модели агентствами. Модель Mythos ограничена определенными группами и предназначена для оборонительной работы в киберпространстве, а не для широкого коммерческого применения.

Меры безопасности Белого дома для доступа к Mythos

В письме OMB с темой «Mythos Model Access» Барбацца написал: «Мы тесно работаем с поставщиками моделей, другими партнерами по отрасли и разведывательным сообществом, чтобы гарантировать наличие соответствующих ограничительных рамок и защит до потенциального выпуска модифицированной версии модели для агентств».

План развертывания появляется на фоне того, что официальные лица выражают обеспокоенность рисками для кибербезопасности, если инструмент не будет жестко контролироваться. Anthropic заявляла, что возможности Mythos могут быстро распространиться и не остаться в надежных руках, предупреждая, что «последствия для экономик, общественной безопасности и национальной безопасности могут быть серьезными», если такие возможности будут распространяться за пределы участников, которые настроены на безопасное развертывание.

Международные регуляторные опасения

План федерального развертывания совпадает с усилением международного внимания к рискам кибербезопасности в сфере ИИ. Министры финансов, центральные банкиры и регуляторы собрались в Вашингтоне на весенние встречи МВФ и Всемирного банка, где старшие финансовые должностные лица предупредили, что продвинутый ИИ от компаний из США в области технологий может выявить уязвимости в киберзащите кредиторов и оказать давление на более широкую банковскую систему.

Эндрю Бейли, управляющий Банка Англии и председатель Совета по финансовой стабильности, заявил: «Это очень серьезный вызов для всех нас. Он напоминает нам, как быстро развивается мир ИИ». Бейли сказал, что регуляторам по всему миру потребуется быстро оценить киберриски, которые предварительная версия Claude Mythos от Anthropic может создать для финансовой системы.

Дэн Кац, заместитель главы МВФ, сказал: «Развитие цифровых технологий создает огромные риски с точки зрения кибербезопасности. Это действительно станет абсолютно необходимым пунктом международной повестки на ближайшие несколько месяцев».

Кристин Лагард, президент Европейского центрального банка, подчеркнула проблему двойного назначения: «То развитие, которое мы видим вместе с Anthropic и Mythos, — хороший пример ответственной компании, которая вдруг думает: „ах, это может быть действительно хорошо“, но если это попадет не в те руки, это может быть действительно плохо». Лагард рассказала репортерам, что чиновники хотят основу для управления, но формальной системы на данный момент нет: «Всем хочется иметь рамки, в которых можно действовать. Я не думаю, что существует система управления, которая действительно предназначена для того, чтобы следить за такими вещами. Нам нужно поработать над этим».

Нахождения уязвимостей и защитные меры от Anthropic

Ранее в этом месяце Anthropic сообщила, что Mythos обнаружил «тысячи уязвимостей с высокой степенью серьезности, включая некоторые в каждой крупной операционной системе и веб-браузере». Компания предупредила, что такие возможности могут быстро распространиться и не останутся в безопасных руках, заявив: «Не пройдет много времени, прежде чем подобные возможности начнут распространяться — потенциально за пределами тех субъектов, которые настроены на безопасное их развертывание».

Пип Уайт, глава Anthropic для Великобритании, Ирландии и Северной Европы, сказал, что интерес со стороны руководителей быстро вырос после новости о модели. В интервью Уайт заявил: «Мы устанавливаем собственные защитные меры и собственные ограничения вокруг этого продукта, потому что знаем, насколько он силен».

Выпуск Opus 4.7

В четверг Anthropic выпустила Opus 4.7 — новую модель, предназначенную для задач по разработке программного обеспечения. Согласно компании, Opus 4.7 способен выполнять работы по кодированию, которые ранее требовали более пристального надзора, лучше следовать инструкциям, чем более старые модели, и анализировать изображения более высокого разрешения, чтобы выявлять детали в плотных диаграммах и сложных изображениях.

Anthropic отметила, что Opus 4.7 менее способна, чем Mythos, включая в сценариях использования в киберпространстве. Во время обучения компания тестировала методы «дифференциального снижения» киберспособностей модели.