Министры финансов, центральные банкиры и ведущие финансисты все больше сосредотачиваются на потенциальных рисках, которые несет модель Claude Mythos от Anthropic, на фоне опасений, что она может выявить критические уязвимости в глобальной финансовой инфраструктуре.
Краткое содержание

• Руководители глобальных финансовых организаций предупреждают, что ИИ Mythos от Anthropic может обнажить критические недостатки в финансовых и базовых ИТ-системах.
• Банки и правительства тестируют модель на ранней стадии, чтобы выявить уязвимости до любого более широкого выпуска.
• Официальные лица предостерегают, что такие инструменты могут помочь киберпреступникам эксплуатировать слабые места даже при усилении защитных мер.

Модель уже стала поводом для обсуждений на высоком уровне и экстренных встреч в стиле кризисных после того, как раннее тестирование выявило уязвимости в крупных операционных системах и широко используемых приложениях. Официальные лица и эксперты отрасли говорят, что система может иметь «не имеющую прецедентов» способность выявлять и эксплуатировать уязвимости кибербезопасности, хотя некоторые предостерегают, что ее полный потенциал пока еще до конца не понят.

Министр финансов Канады Франсуа-Филипп Шампань заявил, что этот вопрос доминировал в разговорах на этой неделе на встречах Международного валютного фонда в Вашингтоне.

«Несомненно, это достаточно серьезно, чтобы привлечь внимание всех министров финансов», — сказал он, добавив, что в отличие от физических рисков, вызов, связанный с ИИ, — это «неизвестное неизвестное».

Он подчеркнул необходимость мер предосторожности, заявив, что власти должны убедиться: «у нас есть процессы, чтобы гарантировать устойчивость наших финансовых систем».

Банки и правительства переходят к тестированию систем до выпуска

Крупные банки и государственные ведомства сейчас получают ранний доступ к Mythos, чтобы оценить уязвимости до любого более масштабного развертывания.

К. С. Венкатакришнан, главный исполнительный директор Barclays, сказал, что опасения достаточно значимы, чтобы требовать немедленного внимания.

«Это достаточно серьезно, чтобы людям приходилось беспокоиться», — сказал он. «Нам нужно лучше это понять, и нам нужно понять уязвимости, которые выявляются, и быстро их исправить».

Он добавил, что ситуация отражает более взаимосвязанную финансовую систему, где риски и возможности все чаще переплетены.

Anthropic сообщила, что Mythos уже обнаружила несколько недостатков в разных операционных системах, финансовых платформах и веб-браузерах. В ответ доступ ограничили небольшой группой учреждений, включая крупные технологические компании и системно значимые банки, чтобы они могли укрепить защиты до более широкого раскрытия.

Власти в Соединенных Штатах предприняли аналогичные шаги. Министерство финансов рекомендовало ведущим банкам развернуть модель внутри организации, чтобы выявить слабые места, одновременно изучая способы сделать контролируемую версию доступной для федеральных агентств. Меморандум Управления по вопросам управления и бюджета при Белом доме описывал планы внедрить меры предосторожности до предоставления любого такого доступа.

Эндрю Бейли, губернатор Банка Англии, сказал, что последствия для киберпреступности необходимо воспринимать всерьез.

«Нам приходится очень внимательно смотреть, что может означать для риска киберпреступности это последнее развитие в области ИИ», — сказал он, предупредив, что такие инструменты могут облегчить «плохим действующим лицам» выявление и эксплуатацию уязвимостей систем.

Старшие должностные лица США, включая Скотта Бессента и Джерома Пауэлла, уже созвали руководителей Уолл-стрит, чтобы обсудить риски. Сообщалось, что среди участников были руководители крупных банков, таких как Goldman Sachs, Bank of America, Citigroup и Morgan Stanley, что подчеркивает системную значимость этой проблемы.

По мнению представителей отрасли, обеспокоенность может быть не ограничена Anthropic. Источники указывают, что другая американская компания в сфере ИИ может выпустить модель сопоставимой способности без аналогичных мер предосторожности.

Джеймс Уайз из Balderton Capital охарактеризовал Mythos как «первый из тех, что будет еще много более мощных моделей» — способных выявлять уязвимости систем. Его подразделение Sovereign AI инвестирует в компании, ориентированные на безопасность ИИ, добавив: «Мы надеемся, что модели, выявляющие уязвимости, будут также теми моделями, которые их устранят».

Что такое Claude Mythos?

Mythos — это часть семейства моделей Claude от Anthropic, конкурирующей системы по отношению к предложениям OpenAI и Google. В отличие от предыдущих релизов, компания ограничила доступ из-за опасений, что инструмент могут использовать неправильно, чтобы выявлять чувствительные уязвимости или проникать в защищенные системы.

Внутреннее тестирование вызвало тревогу после того, как модель выявила критические ошибки, которые обычно требуют от очень опытных хакеров, чтобы обнаружить. Некоторые уязвимости, как сообщается, относятся к десятилетиям назад, что подчеркивает пробелы, которые не были замечены традиционными системами безопасности.

Эти опасения также перетекли в споры по вопросам политики. Недавно Пентагон назначил Anthropic потенциальным риском для цепочек поставок — шаг, обычно зарезервированный для иностранных противников. Компания успешно оспорила предложенный запрет в суде, утверждая, что это приведет к значительным финансовым потерям.

В кругах, связанных с национальной безопасностью, Mythos внес новую неопределенность в то, как оцениваются киберугрозы. Один из чиновников описал влияние как сопоставимое с оснащением обычного хакера инструментами, подобными тем, что используются элитными операторами.

Несмотря на риски, власти продолжают взаимодействовать с Anthropic. Федеральные агентства готовятся к возможному контролируемому доступу, в то время как регуляторы и финансовые учреждения спешат понять и устранить уязвимости, которые модель уже начала выявлять.