الجنود الآليون قادمون.. مصنعوها يكشفون عن قدراتها المدمرة ويحذرون من هذه السيناريوهات

تم النشر: تم التحديث:
ALLSTAR
Allstar

طالب بعض رواد صناعة الروبوتات والذكاء الاصطناعي في العالم الأمم المتحدة بحظر تطوير واستخدام الروبوتات القاتلة.

ويقود إيلون ماسك من شركة تسلا ومصطفى سليمان من شركة جوجل مجموعةً من 116 خبيراً من 26 دولة يطالبون بحظر الأسلحة الذاتية، أي الأسلحة التي لا تحتاج إلى البشر في توجيهها، وفقاً لما نشر في تقرير لصحيفة الغارديان البريطانية.

وقد صوَّتت الأمم المتحدة مؤخراً لبدء نقاشٍ رسميٍ حول الأسلحة المماثلة، والتي تتضمن الطائرات دون طيارٍ، والدبابات، والبنادق الآلية. وقد سبق ذلك التحرُّك إرسال مجموعة من مؤسسي شركات الروبوتات والذكاء الاصطناعي رسالة مفتوحة للأمم المتحدة يطالبون فيها بوقف سباق التسلح الذي يتجه حالياً نحو صناعة روبوتاتٍ قاتلة.

وحذَّر المؤسِّسون في رسالتهم المؤتمر الخاص بمراجعة اتفاقية الأسلحة التقليدية من أنَّ سباق التسلح هذا يهدد بإطلاق "الثورة الثالثة من الحروب" بعد البارود والأسلحة النووية.


ما مخاطرها ؟


وكتب المؤسِّسون: "ما إن يتم تطوير تلك الأسلحة الذاتية، فإنَّها ستسمح للنزاعات المسلحة بأن تتم على نطاقٍ أكبر من أي وقتٍ مضى، وستتطور بشكلٍ أسرع من قدرة البشر على الاستيعاب. وقد تكون تلك أسلحةً في يد الإرهاب، أو أسلحةً يستخدمها الطغاة والإرهابيون ضد الأبرياء، أو أسلحةً معدَّةٌ للتصرف بشكلٍ غير مرغوبٍ فيه".

وأضافوا: "ليس لدينا الكثير من الوقت للتحرك. فما إن يُفتح هذا الباب، سيصبح من الصعب إغلاقه".

وكان الخبراء قد حذَّروا سابقاً من أنَّ تكنولوجيا الذكاء الاصطناعي قد وصلت إلى مستوى أصبح نشر الأسلحة الذاتية فيه أمراً قابلاً للتحقُّق خلال سنواتٍ قليلةٍ لا ترقى إلى عقودٍ حتى.

وبينما يمكن للذكاء الاصطناعي أن يجعل ساحات المعارك أقل خطراً على العسكريين، فإنَّ الخبراء يخشون من أنَّ الأسلحة الهجومية التي تعمل من تلقاء نفسها ستُسهِّل من عتبة الذهاب إلى الحروب وتتسبَّب في خسائر أكبر للإنسانية.

وتلقى الرسالة التي ستنطلق في افتتاح المؤتمر العالمي المشترك للذكاء الاصطناعي في ملبورن الإثنين، 21 أغسطس/آب 2017، دعماً من شخصياتٍ بارزة في مجال الروبوتات، وتؤكِّد بقوةٍ على الحاجة إلى تحركٍ عاجلٍ، بعدما أُجبِرت الأمم المتحدة على تأجيل اجتماعٍ كان يفترض أن يبدأ غداً لمراجعة القضية.


غير أخلاقية


ويطالب المؤسِّسون بإضافة أنظمة الأسلحة الذاتية "غير الأخلاقية" إلى قائمة الأسلحة المحظورة بموجب اتفاقية الأسلحة التقليدية للأمم المتحدة، التي بدأ العمل بها منذ العام 1983، وتتضمن الأسلحة الكيميائية وأسلحة الليزرالمسببة للعمى.

وقال توبي والش، أستاذ الذكاء الاصطناعي بجامعة نيو ساوث ويلز بسيدني: "يمكن أن تستخدم كل تقنية تقريباً من أجل الخير أو الشر، والذكاء الاصطناعي ليس استثناءً.
إذ يمكن أن يساعد في معالجة الكثير من المشكلات المُلحّة التي تواجه المجتمع اليوم مثل قلة الكفاءة، والفقر، والتحديات الناجمة عن تغير المناخ، والأزمة الاقتصادية الجارية. ومع ذلك، فإنَّ التكنولوجيا نفسها يمكن أن تستخدم أيضاً في الأسلحة الذاتية من أجل إضفاء الطابع الصناعي بصورةٍ أكبر على الحروب. إنَّنا بحاجةٍ لاتخاذ قراراتٍ اليوم لتحديد أيٍ من هذين المستقبلين نريد".


أكبر تهديد للإنسانية


وقد نبَّه ماسك، الذي كان أحد الموقعين على الرسالة المفتوحة، مراراً على الحاجة إلى سن لوائح تنظيمية مسبقة للذكاء الاصطناعي، واصفاً إيَّاها بأكبر تهديدٍ يواجه الوجود الإنساني، لكن في حين يعتبر البعض أنَّ القدرة التدميرية للذكاء الاصطناعي ستكون واسعة، يعتبر البعض الآخر أنَّ ذلك لن يحدث سوى بعد وقتٍ بعيد.

وقال ريان غاريبي، مؤسس شركة كليرباث روبوتوكس: "بخلاف المظاهر الأخرى المحتملة للذكاء الاصطناعي التي تظل من عالم الخيال العلمي، فإنَّ أنظمة الأسلحة الذاتية قيد التطوير في الوقت الحالي، ولديها احتمالية حقيقية للتسبُّب في أذى بالغ للأبرياء، فضلاً عن زعزعة الاستقرار العالمي".

وهذه ليست المرة الأولى التي يستغل فيها المؤتمر العالمي للذكاء الاصطناعي، الذي يعد أحد أبرز مؤتمرات الذكاء الاصطناعي في العالم، كمنصةٍ لمناقشة أنظمة الأسلحة الذاتية.
إذ كان المؤتمر قد استُغِل قبل عامين لإطلاق رسالةٍ مفتوحةٍ موقعةٍ من آلاف الباحثين في مجال الذكاء الاصطناعي والروبوتات، من بينهم إيلون ماسك وستيفن هوكينغ، دعت على نحوٍ مماثل إلى فرض حظر، وهو ما ساعد على دفع الأمم المتحدة للدخول في محادثاتٍ رسميةٍ بشأن التكنولوجيا.

وتقول منظمة هيومان رايتس واتش إن من الدول التي التي تطور "الروبوتات القاتلة"، القادرة على تحديد الأهداف وإشراكها دون تدخل بشري ، الصين واسرائيل وكوريا الجنوبية وروسيا والمملكة المتحدة والولايات المتحدة بتطوير موضحة أن مثل الطائرات المسلحة بدون طيار تنتمي لهذا النوع من الأسلحة. وأضافت أنه من المشكوك فيه أن تكون هذه الأسلحة قادرة على الوفاء بمعايير القانون الإنساني الدولي، بما في ذلك قواعد التمييز والتناسب والضرورة العسكرية، في حين أنها ستهدد الحق الأساسي في الحياة ومبدأ الكرامة الإنسانية، داعية إلى فرض حظر وقائي على تطوير وإنتاج واستخدام هذه الأسلحة.


بريطانيا تعارض وكوريا تنفذ


وكانت حكومة المملكة المتحدة قد عارضت ذلك الحظر عام 2015، حين صرَّحت وزارة الخارجية قائلةً إنَّ "القانون الدولي الإنساني يضع بالفعل تشريعاتٍ كافية بهذا الشأن". كما قالت إنَّ المملكة المتحدة لا تطور أسلحة ذكاءٍ اصطناعيةٍ، وإن كل الأسلحة المستخدمة من قِبل جيش المملكة المتحدة "تخضع لإشرافٍ وتحكُّمٍ إنساني".

وفي حين تستحضر الإشارة إلى الروبوتات القاتلة في الذهن صوراً من أفلام الخيال العلمي مثل الروبوت T-800 من فيلم "Terminator" أو الروبوت ED-209 من فيلم "Robocop"، فإنَّ الأسلحة المستقلة المميتة قيد الاستخدام بالفعل.

إذ تُستخدَم بالفعل بندقية الحراسة SGR-A1 التي طوَّرتها شركة سامسونغ على طول الحدود الكورية الجنوبية مع المنطقة منزوعة السلاح في شبه الجزيرة الكورية التي يصل عرضها إلى نحو 4 كيلومترات، وقد أفادت تقارير بأنَّها قادرة تقنياً على إطلاق النار بشكلٍ ذاتي، لكن هناك شك في أنَّها منشورة وتُستَخدَم بهذا الشكل.

وكانت بندقية الحراسة المُثبتة، التي طُوِّرت لحساب الحكومة الكورية الجنوبية، هي الأولى من نوعها مع نظام أداءٍ ذاتي مستقل قادر على المراقبة، والتعرُّف على الأصوات، والتعقُّب، وإطلاق النار باستخدام مدفعٍ رشاش أو قاذفة قنابل. لكنَّه ليس نظام الأسلحة الذاتية الوحيد قيد التطوير، أذ يتوافر نماذج أولية خاصة بالقتال الذاتي البري، والبحري، والجوي.

ومن بين هذه الأسلحة طائرة تارانيس البريطانية دون طيار، التي تُطوِّرها شركة بي إيه سيستمز، والتي تستهدف أن تجعلها قادرة على حمل مدافع أرض أرض وجو أرض بشكلٍ عابر للقارات وتركيبها بشكلٍ مستقل تماماً.

وشهدت الطائرة غير المأهولة، التي يصل حجمها إلى حجم طائرة التدريب بي إيه إي هوك، التي يستخدمها سلاح الجو الملكي للاستعراض الجوي، أولى رحلاتها التجريبية في 2013 ويُتوقَّع أن تدخل الخدمة في وقتٍ ما بعد عام 2030 لتصبح جزءاً من "نظام الهجوم الجوي المستقبلي" لسلاح الجو الملكي البريطاني، وهو النظام الذي من المُقرَّر أن يحل محل مقاتلات تورنادو جي آر 4 التي يقودها طيَّارون بشر.


دبابات


وتُطوِّر روسيا، والولايات المتحدة، وبلدان أخرى حالياً دباباتٍ روبوتية بالإمكان إمَّا التحكُّم فيها عن بُعد أو العمل بشكلٍ مستقل. وتتراوح تلك المشاريع بين نسخ تعمل بشكلٍ ذاتي مثل مركبة يوران 9 الروسية الخاصة بالقتال الأرضي، إلى الدبابات التقليدية المُعدَّلة بأنظمةٍ ذاتية.

وأُطلِقت السفينة الحربية الأميركية الذاتية، التي تحمل اسم "سي هانتر" وصنعتها شركة فيغور إندستريال، في عام 2016، وفي حين أنَّها لا تزال قيد التطوير، فإنَّه هناك مساع لتزويدها بقدراتٍ هجومية، بما في ذلك أسلحة مضادة للغواصات. وتحت سطح المياه، يجري البحث في الاستخدام العسكري بعيد المدى لأنظمة غواصات بوينغ الذاتية التي يُطلَق عليها "إيكو فوياغر" في أعماق البحار.