Руководитель Palantir UK заявил, что это дело военных — решать, как будет использоваться ИИ при нацеливании в войне

4 дня назад

ПоделитьсяСохранить

Добавить как предпочтительное в Google

Марс Сезлак, AI корреспондентand

Мэтт Мерфи, BBC Verify

Louis Mosley из Palantir говорит, что ответственность за то, как используются системы ИИ, лежит на военных

Крупная технологическая компания Palantir откатила назад опасения, что военное использование ее платформ ИИ может привести к непредвиденным рискам, в эксклюзивном интервью Би-би-си заявив, что то, как применяется технология, является обязанностью ее военных клиентов.

Это происходит на фоне того, что эксперты выразили обеспокоенность использованием оборонной платформы Palantir, работающей на ИИ, — Maven Smart System — во время войны, а также сообщаемого ее применения в ударах США по Ирану.

Аналитики предупреждали, что военное использование платформы, которая помогает персоналу планировать атаки, оставляет слишком мало времени для «значимой верификации» ее результатов и может привести к тому, что будут поражены неверные цели.

Но глава Palantir в Великобритании и Европе Louis Mosley сообщил Би-би-си в обстоятельном интервью, что, хотя ИИ-платформы вроде Maven были «инструментальными» для управления войной США с Ираном, ответственность за то, как используется ее вывод, всегда должна оставаться «за военной организацией».

«Всегда есть человек в контуре, поэтому всегда есть человек, который принимает окончательное решение. Так устроено сейчас».

Maven Smart System был запущен Пентагоном в 2017 году и предназначен для ускорения решений о военном наведении за счет объединения больших массивов данных, включая различные данные разведки, спутниковые и дроновые изображения.

Система анализирует эти данные и затем может выдавать рекомендации по нацеливанию. Она также может предлагать уровень силы, который следует применять, исходя из доступности персонала и военной техники, такой как самолеты.

Но пристальное внимание к использованию таких инструментов в ведении боевых действий растет. В феврале Пентагон объявил, что будет выводить из эксплуатации систему ИИ Claude компании Anthropic — она помогает приводить в действие Maven — после того, как компания отказалась разрешить использование ее ИИ в автономных вооружениях и в системах наблюдения. Palantir говорит, что альтернативы могут заменить ее.

С начала войны с Ираном в феврале США, как сообщается, использовали Maven для планирования ударов по всей стране.

Демонстрационное видео Palantir Maven Smart System

Под давлением Би-би-си из-за риска, что Maven может предложить неверные цели — включая мирных жителей — Mosley настаивал, что платформа предназначена лишь служить ориентиром, чтобы ускорять процесс принятия решений военными, и что ее не следует воспринимать как автоматизированную систему нацеливания.

«Можно думать об этом как об инструменте поддержки», — сказал Mosley. «Это позволяет им синтезировать огромные объемы информации, которые прежде им пришлось бы делать вручную — один за другим».

Однако, когда Би-би-си бросила вызов Mosley, указав на риск того, что командиры, работающие в условиях нехватки времени, прикажут своим офицерам воспринимать вывод Maven как «заверенный по шаблону», Mosley предпочел переложить это на отдельные вооруженные силы.

«Это на самом деле вопрос для наших военных клиентов. Именно они принимают решения о рамочной политике, которая определяет, кто имеет право принимать какое решение», — сказал он. «Это не наша роль».

С 28 февраля США нанесли более 11 000 ударов по Ирану, многие, как сообщается, были идентифицированы Maven.

Адм Брэд Купер, глава американских вооруженных сил на Ближнем Востоке, высоко оценил системы ИИ за то, что они помогают офицерам «просеивать огромные объемы данных за секунды, чтобы наши лидеры могли отсечь шум и принимать более умные решения быстрее, чем враг успеет отреагировать».

ИИ-компания Anthropic ищет эксперта по вооружениям, чтобы остановить пользователей от «злоупотребления»

OpenAI меняет сделку с Пентагоном после критики

Трамп приказывает правительству прекратить использовать Anthropic в войне из-за использования ИИ

Но некоторые опасаются, что участие ИИ в планировании миссий создает значительные риски.

«Эта расстановка приоритетов на скорость и масштаб, а затем использование силы, оставляет совсем мало времени для значимой верификации целей, чтобы убедиться, что они не включают случайно гражданские цели», — сказал профессор Эльке Шварц из Queen Mary University of London.

«Если есть риск убить — и вы подменяете большую часть вашего критического мышления программным обеспечением, которое позаботится об этих вещах за вас, тогда вы просто становитесь зависимыми от программного обеспечения», — добавила она. «Это гонка ко дну».

В последние недели должностные лица Пентагона столкнулись с вопросами о том, использовались ли ИИ-инструменты вроде Maven для выявления целей в смертельном ударе по школе в иранском городе Минаб. Иранские чиновники заявили, что удар убил 168 человек, включая около 110 детей, в первый день войны.

В Конгрессе ряд высокопоставленных демократов призвали усилить проверку ИИ-платформ вроде Maven. Конгрессмен Сара Джейкобс — член Комитета Палаты представителей по делам вооруженных сил — призвала к четко закрепленным правилам и регламентам относительно того, как и когда используются ИИ-системы.

«ИИ-инструменты не на 100% надежны — они могут подводить в тонких, незаметных случаях, а операторы при этом продолжают чрезмерно доверять им», — сказала она в интервью NBC News в прошлом месяце.

«Мы несем ответственность за то, чтобы ужесточать строгие защитные ограждения в использовании ИИ вооруженными силами и гарантировать, что в каждом решении о применении смертоносной силы присутствует человек в контуре, потому что цена ошибки может быть катастрофической для гражданских лиц и для военнослужащих, выполняющих эти миссии».

Но Mosley оттолкнул предположения о том, что скорость платформы его компании ускоряет принятие решений в Пентагоне и потенциально создает опасные ситуации. Вместо этого он утверждал, что скорость, с которой командиры сейчас предпринимают действия, является «следствием повышения эффективности», которое обеспечил Maven.

Ссылаясь на «операционную безопасность», Пентагон отказался комментировать, когда Би-би-си обратилась с вопросом о том, как системы ИИ вроде Maven будут использоваться в будущем, или о том, кто будет нести ответственность, если что-то пойдет не так.

Но, судя по всему, чиновники в США продвигаются вперед с планами по дальнейшей интеграции Maven в свои системы.

На прошлой неделе агентство Reuters сообщило, что Пентагон назначил Maven «официальной программой уровня record» — закрепив его как технологию, которая будет интегрирована долгосрочно по всей системе вооруженных сил США.

В письме, полученном Reuters, заместитель министра обороны Стив Фейнберг сказал, что платформа предоставит командирам «самые последние инструменты, необходимые для того, чтобы выявлять, сдерживать и доминировать над нашими противниками во всех доменах».

Дополнительная информация от Джимимы Херд

Искусственный интеллект

Война с Ираном