<
 
 
 
 
×
>
You are viewing an archived web page, collected at the request of United Nations Educational, Scientific and Cultural Organization (UNESCO) using Archive-It. This page was captured on 20:07:26 Jun 11, 2019, and is part of the UNESCO collection. The information on this web page may be out of date. See All versions of this archived page.
Loading media information hide
زاوية كبرى

تهديدات الروبوتات القاتلة

cou_03-18_ratnik_01.jpg

يتجند الرأي العام أكثر فأكثر ضد تطوّر الأسلحة الفتّاكة المستقلّة

للذكاء الاصطناعي تطبيقات عديدة في المجالين الأمني والعسكري. على الميدان، هو يُسهّل المناورات ويُمكّن من إنقاذ الأرواح في حال حدوث خسائر. كما يعزز أداء الجيوش بتوفير روبوتات حليفة للجنود. وحسب بعض الخبراء، فإن الأسلحة الفتّاكة الأوتوماتيكية هي بصدد خلق الثورة الثالثة للحروب، بعد البارود والسلاح النووي. وكيف لا ينتابنا القلق لحلول يوم يصبح فيه تشغيل جيوش الروبوتات واقعا، بما لها من قدرة على تنفيذ العمليات العدائية بكل استقلالية؟

 

بقلم فاسيلي سيتشاف

 

تقوم عديد الشركات، في كل أنحاء العالم، ببحوث علمية هامة في مجال الذكاء الإصطناعي. والنتائج التي تمّ التوصّل إليها لحد اليوم ممتازة: أصبح الذكاء الاصطناعي قادرا على التكهن بإمكانية الإصابة بمرض السكري بواسطة ساعة «ذكية» أو على تحديد وحمات بعض أنواع السرطان، بالاعتماد على مظهرها. وتحظى أيضا هذه الأداة الفعّالة التي تتجاوز الذكاء البشري - خاصة من حيث سرعة أدائها - باهتمام العسكريين.

وبفضل تطوّر التكنولوجيات الإعلامية، ستُصبح نُظم القتال مُستقبلا أكثر استقلالية من النُّظم الحالية. وسوف تسمح هذه الاستقلالية، دون أدنى شك، بتوفير مساعدة قيّمة للمقاتلين، ومن ناحية أخرى، سوف تأتي بالمزيد من التحدّيات والمجازفات: من ذلك سباق التسلّح بين الدول، وغياب القواعد والقوانين في مناطق الصراع، وانعدام المسؤولية في اتّخاذ القرارات. في الوقت الحاضر، في حين يحاول العديد من المقاولين وأصحاب القرار والعلماء منع استخدام نُظم القتال المُستقلّة، يُؤكّد العسكريّون أن القرار الأخير بخصوص القتل من عدمه، أثناء المعركة، سوف يبقى بيد الإنسان.

بودّنا أن نُصدّق ذلك، لكنّنا لا بدّ أن نُذكّر بأن السلاح النووي - ذلك السلاح الذي ما كان يجب أن يُبتكر أصلا والذي واجهه العديد من المعارضين منذ المرحلة الأولى من تصميمه -  قد تمّ استعماله في آخر الأمر.

 

مساعد افتراضي

كما هو الشأن في كل مجالات النشاط البشري الأخرى، فإن الذكاء الاصطناعي قادر على تيسير العمل في مجال الأمن وتسريعه. ويعمل حاليا باحثون في جامعة غرناطة بإسبانيا، على بناء برمجيّات تعتمد على الشبكات العصبية، تكون قادرة على الكشف في صور فيديو، بصفة آنية وبدقّة كبيرة، على الأسلحة الخفيفة مثل المسدسات والرشاشات.  تتضمّن نُظم الأمن الحديثة عددا كبيرا من عدسات المراقبة، لكنه يتعذر فحص كل المشاهد صورة صورة. لذلك، يكون الذكاء الاصطناعي مُفيدا جدّا في تحليل تلك الصور والكشف عن الأسلحة إن وجدت وإبلاغ الأعوان في وقت قياسي.

من ناحية أخرى، قام مركز الاستعلامات في الجغرافيا الفضائية بجامعة ميسوري بالولايات المتحدة، بتطوير نظام ذكاء اصطناعي قادر على التحديد السريع والدقيق لمواقع أجهزة الصواريخ المضادة للطائرات، في صور قمرية وفضائية. وتبلغ سرعة تأدية هذا النظام ما يساوي 85 أضعاف قدرة الخبراء البشريين. وقد تمّ بناء الشبكة العصبية التي يعتمد عليها هذا النظام باستعمال صُور تُمثّل مختلف أصناف الصواريخ المضادّة للطائرات. وبعد تدريب النظام، تمّ اختباره على مجموعة من الصور: في 42 دقيقة فقط، عثر على 90% من أجهزة الدفاع. في حين استغرق عمل الخبراء 60 ساعة لحلّ نفس المشكل والحصول على نفس النتيجة.

كما يعُد الذكاء الاصطناعي تطبيقات أكثر تعقيدا. وعلى سبيل المثال، يقوم مخبر البحث التابع للجيش الأمريكي بتطوير نظام معلوماتي يتولّى تحليل ردّ فعل الإنسان أمام صورة مُعيّنة. وسوف يستفيد منه المُحلّلون العسكريون المُطالَبون بمشاهدة آلاف الصور وساعات من أشرطة الفيديو، وتحليلها بشكل منهجي. ويتمثّل مبدأ هذا النظام في الآتي: يراقب الذكاء الاصطناعي عن قرب عيني الشخص ووجهه ويضع بالتوازي سمات الوجه مع الصور التي ينظر إليها الشخص. وإذا جلبت إحدى الصور انتباه الشخص (ممّا ينتج عنه تغيير في سمات وجهه وتوجه نظره)، تقوم البرمجية آليا بحفظ الصورة في ملف خاص بالموضوع. وأثناء الاختبارات، تمّ عرض مجموعة من الصور على أحد الجنود، تنقسم إلى خمسة أصناف أساسية: بواخر، حيوان بندا، فواكه حمراء، فراشات، ثريّات. وطُلب منه ألّا يحصي إلا صور الصنف الذي يهمّه. كانت الصور تمرّ أمامه بنسق صورة في الثانية. و«استنتج» الذكاء الاصطناعي أن الجندي مُهتمّ بصنف البواخر، فقام بتسجيل الصور المطابقة في ملفّ منفصل.
 


رسوم أُنجزت في الأصل خصيصا للنشر في «كريزيس إن زفرا»، رواية خيالية لكارل شرودر الذي أجرت معه الرسالة حوارا في نفس هذا العدد.

في مسرح العمليات

لكن  الذكاء الاصطناعي قادر أيضا على مساعدة العسكريين في ساحة المعركة. في روسيا، يتمّ حاليا وضع اللمسات الأخيرة لصنع طائرة حربية من الجيل الخامس سو-57، قد تدخل حيز الاستخدام قبل نهاية السنة. وتتضمّن برمجية حاسوب قيادة هذه الطائرة عناصر من الذكاء الاصطناعي تخول لها، أثناء التحليق، بتحليل مستمر لحالة الهواء، ودرجة حرارته، وضغطه، وعديد المُتغيّرات الأخرى. وإذا حاول الطيّار القيام بمناورة «يعتبر» النظام أنها سوف تتسبب في السقوط، فلن يأخذ بأمر الطيّار. وإذا أصاب الطائرة عطب وبدأت تتهاوى، يدل نفس النظام الطيّار عن كيفية إعادة الطائرة إلى الوضع المستقيم واستعادة السيطرة عليها.

في الأثناء، يقوم اليابان بتطوير طائرته الخاصّة من الجيل الخامس. وتمت أوّل رحلة للنموذج الأصلي منها، اكس 2 شينشين («الروح» باللغة اليابانية)،  في أبريل 2016. وتحتوي هذه الطائرة على شبكة واسعة من أجهزة الاستشعار، تقوم بتحليل وضع كل عنصر من مُكوّنات الطائرة وتحديد الأضرار التي تلحقها، ممّا يسمح لها «بالصمود». أثناء المعركة، إذا تضرر أحد جناحيها أو ذيلها، يُعيد نظام القيادة تهيئة منظومة المراقبة للإبقاء على نفس المرونة والسرعة. وسوف يكون حاسوب الطائرة اليابانية قادرا على تحديد ساعة التعطل الكلّي للعنصر المُتضرّر، ممّا يتيح للطيّار تقرير مواصلة القتال أو العودة إلى القاعدة.

وفي هذا الصدد، يمثل الذكاء الاصطناعي «نعمة» - إذا جاز استعمال هذه العبارة في سياق الحديث عن الأسلحة ونُظم القتال. ذلك أن مثل تلك البرمجية المعقدة القادرة على حلّ مشكلة محددة بالطريقة المُثلى وبسرعة تفوق عشرة أضعاف سرعة البشر، في وسعها لا فقط تسهيل عمل طائرة استطلاعية، أو مُشغّل طائرة دون طيّار، أو قائد نظام للدفاع الجوّي، وإنما أيضا إنقاذ أرواح بشرية. بإمكانها نجدة الأشخاص المعرضين للخطر في غوّاصة (إطفاء دقيق للحرائق في الأجزاء الخالية من الناس)، ونجدة قائدي الطائرات أو المقاتلين المتواجدين في دبابات مُسلّحة أصابها ضرر.

 

روبوتات قاتلة

أصبح الذكاء الاصطناعي عاملا جذابا لأنظمة القتال، لما يمتاز به من سرعة في التحليل وقدرة على التعلّم. و من المحتمل أن يكون العسكريون راغبين - وإن هم لا يعترفون بذلك لحد الآن - في وضع نُظم للقتال قادرة على الاشتغال في ساحة المعركة باستقلالية تامّة، أي أنها تستطيع تحديد الهدف بكل حرية، وإطلاق النار عليه، والتحرّك واختيار المسار الأفضل للبقاء في مأمن.

وقد أعلنت السلطات العسكرية، منذ بضع سنوات، في كل من الولايات المتحدة الأمريكية، وروسيا، وألمانيا، والصين، وفي العديد من الدول الأخرى، أن هدفها ليس خلق نُظم للقتال مُستقلّة تماما. إلا أن العسكريين ذكروا، في نفس الوقت، أنه ليس من المستبعد أن يتم إنجاز مثل تلك النُّظم.

في السنة الماضية، انتهت وزارة الدفاع الأمريكية من تصميم «استراتيجية التعويض الثالثة» وشرعت في تطبيقها. وبمُوجب هذه الوثيقة، سيتم تطوير الابتكارات التقنية بصفة فاعلة واستعمالها في الأشغال العسكرية المستقبلية.

وفي غرّة سبتمبر 2017، صرّح الرئيس الروسي فلاديمير بوتن، خلال محاضرة عموميّة ألقاها في مدرسة بمدينة ياروسلافل أن« الذكاء الاصطناعي لا يُمثّل مستقبل روسيا فحسب، وإنما مستقبل الإنسانية قاطبة. فهو يُوفّر إمكانيات هائلة، مصحوبة بتهديدات يصعب التكهّن بها اليوم. والذين سيتفوّقون في هذا المجال هم الذين سيُسيّرون العالم»، مُضيفا أن « احتكاره غير مرغوب فيه تماما. لذك، إذا كانت لنا الزعامة في هذا المجال، فإننا سوف نتقاسم هذه التكنولوجيات مع العالم بأسره». ولكن، هل هذا يكفي لاستنتاج أننا لسنا في بداية عصر جديد للسباق نحو التسلّح؟

في الأرض، يتزايد عدد المناطق التي تحميها، بصفة موثوقة، نظم مُضادّة للطائرات والصواريخ، وتراقبها نظم قمرية وبدون طيّار، وتحرسها دوريات للسفن والطائرات. وفي نظر العسكريين، في حالة الحرب، تبقى نظم القتال المُجهّزة بالذكاء الاصطناعي هي الوحيدة القادرة على الولوج لتلك المناطق المُغلقة، وعلى تنفيذ العمليّات بحريّة نسبية.

وتُوجد حاليا نُظم قتال قادرة على كشف الأهداف وتصنيفها، وعلى التحكم في إطلاق صواريخ مُضادّة للطائرات، على غرار نُظم صواريخ س-400 في روسيا. ويشتغل النظام الأمريكي للمعلومات آيجيس بنفس الطريقة، وهو نظام يُراقب تسلّح السفن الحربية. وعلى طول المنطقة المنزوعة من السلاح، الواقعة على الحدود مع جمهورية كوريا الديمقراطية، ثبتت الجمهورية الكورية العديد من الروبوتات العسكرية س.ج.ر-أ1 مُكلّفة بالمراقبة. وعند تشغيلها بطريقة آلية، تُصبح هذه الروبوتات قادرة على اطلاق النار تجاه العدو، دون استهداف الأفراد الرافعين لأيديهم. ولا  يقوم العسكريون بتشغيل أي من هذه النُظم بطريقة آلية.

إن آخر التطورات التي أدخلت على الذكاء الاصطناعي تسمح بخلق نُظم للقتال قادرة على التنقّل. ففي الولايات المتحدة، يتمّ حاليا تطوير مُحلّقات جانبية ذاتية القيادة لترافق الطائرات الحربية التي يقودها طيّارون، قادرة على تصويب طلقاتها، حسب الأوامر، نحو أهداف جوّية أو برّية. كما أن نظام تسيير القصف في النموذج المقبل للدبابة الروسية ت-14، الذي تمّ تصميمه على قاعدة المنصّة الكونية المُزنجرة أرماتا، سوف يكون قادرا على كشف الأهداف بشكل مستقل، وقصفها حتى تدميرها بالكامل. وبالتوازي مع ذلك، تقوم روسيا بتطوير صنف من الروبوتات المُزنجرة ستكون قادرة على المشاركة في القتال صحبة جنود بشريين.

بالنسبة للجيوش، كل هذه النُّظم مدعوّة للقيام بالعديد من المهام الأساسية، وفي مُقدّمتها مهمّة تعزيز النجاعة في تدمير أهداف العدوّ مع الحفاظ على حياة جنودها. بينما لا توجد إلى حد الآن قواعد دوليّة ولا وثائق قانونية تضبط استعمال نظم قتال مُجهّزة بالذكاء الاصطناعي في الحروب. ولا نجد في الاتفاقية الخاصة باحترام قوانين وأعراف الحرب البرية، ولا في اتفاقيات جنيف، وصفا للنظم المُجهّزة بالذكاء الاصطناعي التي يُمكن أن تُستعمل في المعارك، أو تلك التي لا يُمكن استعمالها. كما أنه لا تُوجد تشريعات دُوليّة تسمح بتحديد الجُناة المُتسبّبين في تعطل نظام مستقل. وإذا ما قصفت طائرة ذاتية القيادة مدنيّين، فمن الذي سيُعاقب؟ صانعها؟ قائد سرب الطائرات الذي تنتمي إليه تلك الطائرة؟ أم وزارة الدفاع؟ إن سلسلة الجناة المُحتملين طويلة جدّا، وكما نعلم جميعا، عندما تكون قائمة الجناة طويلة، لم يعد هناك جاني.

في سنة 2015، نشر فيوتشر أوف لايف انستيتيوت (معهد مستقبل الحياة) رسالة مفتوحة تحمل 16.000 توقيعا، تحذر من نُظم القتال المُجهّزة بالذكاء الاصطناعي التي تهدد حياة المدنيين، ومن خطر السباق نحو التسلّح، وبالتالي من مخاوف المآل في النهاية إلى فناء البشرية. من بين المُوقّعين على الرسالة نخص بالذكر كلا من المقاول الأمريكي إيلون موسك  الذي أسس سبايس إكس وتسلا، وعالم الفيزياء الفلكية البريطاني ستيفن هوكينغ (1942-2018)، والفيلسوف الأمريكي نعوم تشومسكي. و في شهر أغسطس الماضي، أرسل إيلون موسك و116 خبير من مصممي النظم الروبوتية والذكاء الاصطناعي، عريضة إلى منظمة الأمم المتحدة يُطالبون فيها بالمنع التام لتطوير الأسلحة الهجومية المستقلّة وحظر التدريب عليها.

ويرى هؤلاء الخبراء أن إنشاء جيوش روبوتية قادرة على القيام بهجمات بشكل مُستقلّ سوف يؤدّي حتما إلى بروز شعور، لدى مستخدميها، بالسلطة المطلقة والإفلات من العقاب. من ناحية أخرى، لما يتواجد الإنسان في خضم المعركة، فإن القرارات التي يأخذها تكون متأثرة بوضعيّته النفسيّة وأحاسيسه وعواطفه. وقد تبعث المشاهدة المباشرة لآلام الغير شعورا بالتردّد أو العكوف لدى الجندي، رغم أن العسكريين المحترفين يفقدون شيئا فشيئا مع مرور الزمن، الشعور بالتعاطف والإشفاق. وإذا انتشر استعمال نُظم القتال المُستقلّة، حيث لا تُقاد الجيوش إلا بحركة إصبع على شاشة لوحة تُوجد في قارة أخرى، فإن الحرب ستتحوّل حتما إلى لعبة، يصبح فيها عدد الضحايا من مدنيين وجنود مجرّد أرقام.

المزيد من المعلومات

منظمة الأمم المتحدة في مجابهة أنظمة الأسلحة الفتاكة المستقلّة

فاسيلي سيتشاف

خبير في التسلّح وصحفي. ينشر فاسيلي سيتشاف (الفدرالية الروسية) بالخصوص في صحف لاغازات روس، أكسبار، لينتا.رو، و لوكورياي دو لاندوستري ميليتار. كما يُدير ركني «التسلّح» و«الطيران» في الصحيفة الإلكترونية للتبسيط العلمي ن+1