يقول رئيس Palantir UK إن الأمر متروك للجيش كي يقرر كيفية استخدام استهداف الذكاء الاصطناعي في الحرب

منذ يوم واحد

مشاركةحفظ

إضافة كتفضيل على Google

Marc Cieslakمراسل الذكاء الاصطناعيand

Matt Murphy,BBC Verify

يقول لويس موسلي من Palantir إن القوات المسلحة مسؤولة عن كيفية استخدام أنظمة الذكاء الاصطناعي

دفعت شركة Palantir العملاقة التكنولوجية إلى الخلف بشأن المخاوف من أن الاستخدام العسكري لمنصّاتها للذكاء الاصطناعي قد يؤدي إلى مخاطر غير متوقعة، وذلك في مقابلة حصرية مع BBC، إذ شددت على أن طريقة استخدام التكنولوجيا تقع على عاتق عملائها العسكريين.

ويأتي ذلك في الوقت الذي أعرب فيه خبراء عن قلق بشأن استخدام منصة دفاع Palantir المعتمدة على الذكاء الاصطناعي - Maven Smart System - أثناء الحرب، واستخدامها المبلغ عنه في هجمات أمريكية على إيران.

حذّر محللون من أن استخدام القوات المسلحة للمنصة، التي تساعد الأفراد على التخطيط للهجمات، يترك وقتًا قليلًا لـ"التحقق ذي المعنى" من مخرجاتها وقد يؤدي إلى إصابة أهداف غير صحيحة.

لكن رئيس قسم Palantir في المملكة المتحدة وأوروبا، لويس موسلي، قال لـ BBC في مقابلة واسعة النطاق إنّه بينما كانت منصات الذكاء الاصطناعي مثل Maven “مفيدة” لإدارة الولايات المتحدة لحرب إيران، فإن المسؤولية عن كيفية استخدام مخرجاتها يجب أن تبقى دائمًا “مع المؤسسة العسكرية”.

“هناك دائمًا إنسان ضمن الحلقة، لذا هناك دائمًا إنسان يتخذ القرار النهائي. هذا هو الترتيب القائم.”

تم إطلاق نظام Maven Smart System من قبل البنتاغون في 2017، وهو مصمم لتسريع قرارات الاستهداف العسكرية عبر جمع كتل من البيانات، بما في ذلك مجموعة من المعلومات الاستخباراتية، وصور الأقمار الصناعية، وصور الطائرات المسيّرة.

يحلل النظام هذه البيانات ثم يمكنه تقديم توصيات بشأن الاستهداف. ويمكنه أيضًا اقتراح مستوى القوة المراد استخدامها بناءً على توفر الأفراد والمعدات العسكرية، مثل الطائرات.

لكن التدقيق بشأن استخدام أدوات من هذا النوع في الحرب قد ازداد. في فبراير، أعلنت وزارة الدفاع الأمريكية (البنتاغون) أنها ستبدأ بوقف نظام Claude للذكاء الاصطناعي من Anthropic - والذي يساعد في تشغيل Maven - بعد أن رفضت الشركة السماح باستخدام ذكائها الاصطناعي في الأسلحة وال surveillance الذاتية. تقول Palantir إن بدائل يمكنها أن تحل محله.

منذ بدء الحرب مع إيران في فبراير، أفادت التقارير بأن الولايات المتحدة استخدمت Maven لتخطيط ضربات عبر أنحاء البلاد.

لقطات توضيحية لنظام Maven Smart System من Palantir

دفعت BBC إلى تسليط الضوء على خطر أن تقترح Maven أهدافًا غير صحيحة - وقد تشمل مدنيين - فأصر موسلي على أن المنصة مقصودة فقط لتكون بمثابة دليل لتسريع عملية اتخاذ القرار لدى الأفراد العسكريين وألا يُنظر إليها على أنها نظام استهداف آلي.

“يمكنك التفكير فيها كأداة دعم”، قال موسلي. “إنها تتيح لهم تجميع كميات هائلة من المعلومات التي كان يتعين عليهم سابقًا إنجازها يدويًا واحدًا تلو الآخر.”

ومع ذلك، عندما واجهته BBC بالتهديد المتمثل في أن القادة الذين يضغط عليهم الوقت قد يطلبون من ضباطهم اعتبار مخرجات Maven وكأنها معتمدة مسبقًا، أحال موسلي الأمر إلى القوات المسلحة الفردية.

“هذه حقًا مسألة بالنسبة لعملائنا العسكريين. هم من يقررون إطار السياسة الذي يحدد من يمكنه اتخاذ أي قرار”، قال. “هذه ليست مهمتنا.”

منذ 28 فبراير، أطلقت الولايات المتحدة أكثر من 11,000 ضربة ضد إيران، ويُقال إن كثيرًا منها حددته Maven.

أشاد الأدميرال براد كوبر، رئيس القوات العسكرية الأمريكية في الشرق الأوسط، بأن أنظمة الذكاء الاصطناعي تساعد الضباط على “فرز كميات هائلة من البيانات في ثوانٍ، حتى يتمكن قادتنا من اختراق الضجيج واتخاذ قرارات أذكى بسرعة أكبر من قدرة العدو على الاستجابة”.

تسعى شركة Anthropic المتخصصة في الذكاء الاصطناعي إلى تعيين خبير أسلحة لمنع المستخدمين من ‘سوء الاستخدام’

تغيّر OpenAI صفقة مع الجيش الأمريكي بعد رد فعل عنيف

أمر ترامب الحكومة بإيقاف استخدام Anthropic في المعركة بسبب استخدام الذكاء الاصطناعي

لكن بعضهم يقلق من أن مشاركة الذكاء الاصطناعي في تخطيط المهام تخلق مخاطر كبيرة.

“هذا التركيز على أولوية السرعة والحجم ثم استخدام القوة يترك وقتًا ضئيلًا للغاية للتحقق ذي المعنى من الأهداف للتأكد من أنها لا تشمل أهدافًا مدنية بالخطأ”، قال البروفيسور إلكي شوارتس من جامعة كوين ماري في لندن.

“إذا كان هناك خطر لقتل شخص ما، واستحوذت على قدر كبير من التفكير النقدي الحاسم لديك برنامج سيعتني بهذه الأمور نيابةً عنك، فستصبح ببساطة معتمدًا على البرنامج”، وأضافت. “إنها سباق نحو القاع.”

في الأسابيع الأخيرة، واجه مسؤولون من البنتاغون أسئلة حول ما إذا كانت أدوات ذكاء اصطناعي مثل Maven قد استُخدمت لتحديد الأهداف في الضربة القاتلة التي استهدفت مدرسة في بلدة ميناب الإيرانية. قال مسؤولون إيرانيون إن الضربة قتلت 168 شخصًا، من بينهم حوالي 110 أطفال، في يوم الافتتاح للحرب.

في الكونغرس، دعا عدد من الديمقراطيين البارزين إلى زيادة التدقيق في منصات الذكاء الاصطناعي مثل Maven. وقالت النائبة سارا جاكبس - وهي عضو في لجنة القوات المسلحة بمجلس النواب - إنها تدعو إلى وضع قواعد ولوائح مفروضة بوضوح حول كيف ومتى تُستخدم أنظمة الذكاء الاصطناعي.

“أدوات الذكاء الاصطناعي ليست موثوقة بنسبة 100% — إذ يمكن أن تفشل بطرق دقيقة، ومع ذلك يواصل المشغّلون الإفراط في الوثوق بها”، قالت لـ NBC News الشهر الماضي.

“لدينا مسؤولية فرض حواجز حماية صارمة لاستخدام الجيش للذكاء الاصطناعي وضمان وجود إنسان ضمن الحلقة في كل قرار لاستخدام القوة القاتلة، لأن تكلفة اتخاذ القرار الخاطئ قد تكون كارثية على المدنيين وعلى أفراد الخدمة الذين ينفذون هذه المهام.”

لكن موسلي دفع إلى الخلف بشأن الاقتراحات بأن سرعة منصة شركته تُسرّع اتخاذ القرار في البنتاغون وقد تخلق مواقف خطرة. وفي المقابل، قال إن السرعة التي يتخذ بها القادة الآن الإجراءات هي “نتيجة لزيادة الكفاءة” التي مكّنها Maven.

وبالاستناد إلى “الأمن التشغيلي”، رفضت وزارة الدفاع الأمريكية التعليق عندما تواصلت BBC بشأن كيفية استخدام أنظمة الذكاء الاصطناعي مثل Maven في المستقبل أو من سيكون مسؤولًا في حال حدوث خطأ ما.

لكن يبدو أن مسؤولي الولايات المتحدة يتحركون قدمًا بخطط لدمج Maven بشكل أكبر في أنظمتها.

في الأسبوع الماضي، أفادت وكالة رويترز بأن البنتاغون قد خصص Maven باعتباره “برنامجًا رسميًا لسجل قائم” - ما يجعله تقنية سيتم دمجها على المدى الطويل عبر الجيش الأمريكي.

في رسالة حصلت عليها رويترز، قال نائب وزير الدفاع ستيف فينبرغ إن المنصة ستوفر للقادة “آخر الأدوات اللازمة لكشف خصومنا وردعهم والسيطرة عليهم في جميع المجالات”.

تقرير إضافي بواسطة Jemimah Herd

الذكاء الاصطناعي

حرب إيران