Обмеження Anthropic доступу до Claude Mythos, AI виявив критичні вразливості, зокрема в OpenBSD

Новини Gate News: компанія з розвитку штучного інтелекту Anthropic оголосила про обмеження доступу до свого нового AI-системи Claude Mythos Preview. Причина полягає в тому, що на ранніх тестах ця система виявила тисячі критичних вразливостей у програмному забезпеченні. Mythos Preview може ідентифікувати недоліки безпеки в популярних операційних системах, веббраузерах і криптографічних стандартах, що викликало занепокоєння в індустрії щодо потенційних ризиків і масштабованості AI-технологій.

Anthropic заявила, що серед вразливостей, виявлених цією моделлю, є багато таких, що роками не були помічені: зокрема, в OpenBSD — вразливість, яка існувала 27 років, у FFmpeg — дефект, що тривав 16 років, у FreeBSD — вразливість для віддаленого виконання коду, що існувала 17 років, а також кілька проблем безпеки в ядрі Linux. Крім того, криптографічні протоколи на кшталт TLS, AES GCM і SSH також мають слабкі місця, а у вебзастосунках виявлено типові вразливості, як-от XSS, SQL-ін’єкції та CSRF. Компанія підкреслила, що 99% виявлених вразливостей ще не виправлено, а надто раннє розкриття деталей може створити серйозні ризики.

За даними галузі, прогнозується, що AI-керовані мережеві атаки зростатимуть у річному вимірі на 72%, і до 2025 року 87% організацій у світі можуть зіткнутися з загрозою AI-атак. Anthropic зазначила, що здатність AI виявляти нульові дні (zero-day) з одного боку може прискорити захист програмного забезпечення, але з іншого — якщо ці можливості потраплять до рук зловмисників, залишається ризик зловживань. Це робить питання безпечного розгортання та контролю таких технологій нагальним.

Anthropic планує разом із партнерами виправити наявні вразливості, одночасно знижуючи потенційні ризики від більш широкого розгортання. Компанія вважає, що в довгостроковій перспективі AI підсилить безпеку глобальної мережевої інфраструктури та зробить програмне забезпечення більш надійним, однак перехідний період усе ще сповнений викликів. Обмежена стратегія доступу до Mythos Preview демонструє, що компанії обережно балансуватимуть між технологічними інноваціями та захистом безпеки, щоб запобігти потенційним зловживанням.

Експерти зазначили, що відкриття Claude Mythos може стимулювати майбутні зміни у практиках безпеки програмного забезпечення, прискоривши ефективність виявлення та виправлення вразливостей, а також підкреслили, що система глобального мережевого захисту все ще потребує подальшого посилення, щоб протистояти новим загрозам, які приносить AI-технологія.