Palantir 英國負責人表示，戰爭中如何使用 AI 目標瞄準，應由軍方決定

4 天前

分享保存

加入到 Google 的偏好項目

Marc Cieslak，AI 記者且

Matt Murphy，BBC Verify

Palantir 的 Louis Mosley 表示，軍方負責如何使用其 AI 系統

科技巨頭 Palantir 反駁了外界對於其軍事客戶使用其 AI 平台，可能導致意想不到風險的擔憂。在一場 BBC 獨家專訪中，公司堅稱，技術的使用方式是其軍事客戶的責任。

這是在專家對於在戰時使用 Palantir 以 AI 驅動的國防平台——Maven Smart System（梅文智慧系統）——表示擔憂之後出現的；同時外界也報導稱該系統曾被用於美國對伊朗的攻擊。

分析師警告稱，軍方使用該平台（該平台可協助人員規劃攻擊）後，對其輸出進行「有意義的驗證」的時間所剩不多，這可能導致誤擊目標。

但該公司英國與歐洲負責人 Louis Mosley 在一場涵蓋面廣泛的 BBC 專訪中表示，儘管像 Maven 這類 AI 平台對美國管理伊朗戰事「具有關鍵作用」，其輸出將如何被使用，責任必須始終「在軍事組織身上」。

「迴路裡永遠有人，所以永遠會有一位人類做出最終決定。這就是目前的安排。」

Maven Smart System 由五角大廈在 2017 年推出，旨在透過匯聚大量資料來加速軍事目標瞄準決策，包括各類情報、衛星與無人機影像。

該系統分析這些資料，接著可提供目標瞄準建議。它也能根據人員與軍事裝備的可用性（例如飛機）來建議應使用的力量層級。

但外界對於此類工具在戰爭中的使用審視日益增加。2 月，五角大廈宣布將逐步淘汰 Anthropic 的 Claude AI 系統——用於協助推動 Maven——原因是該公司拒絕允許其 AI 用於自主武器與監控。Palantir 表示替代方案可以取代它。

自 2 月與伊朗的戰爭開始以來，據報導，美國已使用 Maven 在全國各地規劃打擊行動。

Palantir Maven Smart System 的展示影像

在 BBC 指出風險——Maven 可能會提出不正確目標（這可能包含平民）——之後，Mosley 堅稱，該平台僅旨在作為指南，用以加速軍事人員的決策流程，且不應被視為自動化的目標瞄準系統。

「你可以把它想成一種支援工具，」Mosley 說。「它讓他們能夠把先前必須一項一項手動完成的龐大資訊進行綜合。」

然而，當 BBC 就風險向 Mosley 發難——例如在時間緊迫的情況下，指揮官可能下令讓官員把 Maven 的輸出視為蓋章式結果——Mosley 將責任推回到各個個別軍隊。

「這真的是個問題，要問我們的軍事客戶。他們才是決定政策架構的人，而該架構決定誰能做出什麼決策，」他說。「這不是我們的角色。」

自 2 月 28 日以來，美國已對伊朗發動超過 11,000 次打擊行動，且其中許多據稱是由 Maven 識別出來的。

美國中東司令部負責人、Adm Brad Cooper 曾讚揚 AI 系統能協助軍官「在數秒內從龐大資料中篩選，讓我們的領導者能夠在敵人反應之前，穿透雜訊並更快做出更明智的決策」。

AI 公司 Anthropic 尋求武器專家，以阻止使用者「濫用」

OpenAI 在遭遇對美國軍方的反彈後，改變交易

川普命令政府停止在 AI 用途的戰鬥中使用 Anthropic

但也有人擔心，AI 介入任務規劃會產生重大風險。

「速度與規模的優先順序，以及隨之使用武力——這就讓對目標進行有意義的驗證幾乎沒有時間，以確保不會意外包含平民目標，」倫敦瑰因瑪麗大學（Queen Mary University of London）的 Elke Schwarz 教授說。

「如果存在殺人風險，而你又把大量關鍵思考交給會替你處理這些事情的軟體，那你就會變得依賴軟體，」她補充道。「這是一場向下競逐。」

近幾週，五角大廈官員面臨問題：像 Maven 這樣的 AI 工具是否用於辨識伊朗小鎮 Minab 一所學校遭受致命打擊中的目標。伊朗官員表示，該次打擊在戰爭開戰首日造成 168 人死亡，其中包括約 110 名兒童。

在國會中，多位資深民主黨人士呼籲加強審查像 Maven 這樣的 AI 平台。眾議員 Sara Jacobs——眾議院軍事委員會成員——呼籲針對 AI 系統如何以及何時被使用，制定清楚且明確強制的規則與法規。

「AI 工具並非 100% 可靠——它們可能以微妙方式失靈，而操作人員仍持續過度信任它們，」她上個月對 NBC News 表示。

「我們有責任在軍方使用 AI 時強制執行嚴格的防護欄杆，並保證在每一次使用致命武力的決策中都有『人類在迴路中』，因為判斷錯誤的代價，可能對平民與執行這些任務的軍人造成毀滅性的後果。」

但 Mosley 反駁了這種說法：他的公司平台的速度正在催促五角大廈趕快做決策，並可能製造危險局面。他反而指出，指揮官如今採取行動的速度，是 Maven 所帶來「效率提升的結果」。

五角大廈以「作戰安全」為由，當 BBC 詢問未來將如何使用像 Maven 這類 AI 系統，以及若出現問題會由誰負責時，五角大廈拒絕置評。

但看起來美國官員似乎正在推進更進一步的計劃，將 Maven 更深度整合進其系統。

路透社上週報導稱，五角大廈已指定 Maven 為「正式紀錄中的一項計畫（an official program of record）」——將其定位為一種技術，能在未來長期內整合到美國軍方之中。

在路透社取得的一封信中，代理國防部長 Steve Feinberg 表示，該平台將為指揮官提供「偵測、嚇阻並在所有領域壓制我們對手所需的最新工具」。

由 Jemimah Herd 進一步報導

人工智慧

伊朗戰爭