تقتل بكفاءة وتدخل المباني لملاحقة البشر وتصيب بالرأس مباشرة.. علماء يطالبون بحظر الروبوتات القاتلة وإلا فسيحدث ما لا يحمد عقباه

تم النشر: تم التحديث:
S
مصدر الصورة: http://www.alarab.co.uk | S

مستقبل وحشي للبشرية يتوقعه بعض العلماء نتيجة ما صنعته أيديهم وأيدي زملائهم.

فقد أنتجوا فيلماً يُظهر أن شركة معدات عسكرية تكشف عن طائرة صغيرة من دون طيار تستهدف وتقتل بكفاءة وبلا رحمة. وعندما تقع تلك التكنولوجيا بأيدي خاطئة، فلا يكون أحد في مأمن منها. بالفيلم يُغتال السياسيون في وضح النهار، وتنزل الآلات إلى قاعة محاضرات وتقتل النشطاء بإصابات مباشرة في الرؤوس.

الفيلم القصير والمثير للقلق هو آخر محاولة يقوم بها الناشطون والعلماء المعنيّون لتسليط الضوء على مخاطر تطوير أسلحة مستقلة يمكنها أن تجد الأهداف وتتتبعها وتطلق النار عليها دون إشراف بشري، حسب تقرير لصحيفة الغارديان البريطانية.

ويحذر النشطاء والعلماء المعنيون من أن هناك حاجة ماسة إلى فرض حظر وقائي على التكنولوجيا؛ لمنع أسلحة الدمار الشامل الفظيعة.


ليست خيالاً علمياً بل إنها حقيقة


يعرض ستيوارت راسل، وهو عالم رائد بعلم الذكاء الاصطناعي بجامعة كاليفورنيا في بيركلي، وآخرون، الفيلم يوم الإثنين 13 نوفمبر/تشرين الثاني 2017، خلال مؤتمر الأمم المتحدة حول الأسلحة التقليدية برعاية حملة "وقف الروبوتات القاتلة".

يقول راسل إن تصنيع واستخدام الأسلحة المستقلة، مثل الطائرات من دون طيار والدبابات والرشاشات الآلية، سيكون مدمراً للأمن الإنساني والحرية وإن نافذة تطويرها يجب أن تغلق بسرعة.

ويؤكد راسل: "إن التكنولوجيا الموضحة في الفيلم هي ببساطة عبارة عن تكامل قدرات قائمة بالفعل. إنها ليست خيالاً علمياً. وفي الواقع، فإن تنفيذها أسهل من السيارات ذاتية القيادة التي تتطلب معايير أداء أعلى بكثير".

وقد كان الجيش من أكبر الممولين والمتبنين لتكنولوجيا الذكاء الاصطناعي، حيث تساعد تقنيات الحوسبة الروبوتات على الطيران، والملاحة، والتجول تحت البحار. بربط تلك الروبوتات بالكاميرا، يمكن لبرامج التعرف على الصور تسجيل لقطات فيديو للأهداف أفضل مما يفعل الإنسان. فمثلاً، الحارس الآلي الذي يحرس الحدود الكورية الجنوبية مع كوريا الشمالية يعتمد على تكنولوجيا تستطيع اكتشاف وتتبع الأهداف على بُعد 4 كيلومترات.

وعلى الرغم من أن الطائرات الحربية من دون طيار كانت تعمل عن بُعد لأغراض المراقبة والهجوم، فإن الأسلحة المستقلة المزودة بالمتفجرات ونظم التعرف على الأهداف أصبحت الآن في متناول اليد، ويمكنها تحديد مواقع هذه الأهداف وضربها دون الرجوع إلى وحدة تحكم بشرية. ويعتقد المعارضون أن ترك قرار القتل للآلات يعتبر خطأ أخلاقياً واضحاً.

ويضيف راسل: "إن مواصلة تطوير أسلحة مستقلة قاتلة من شأنها أن تقلل كثيراً من الأمن الدولي والوطني والمحلي والشخصي".

وكان العلماء قد استخدموا حجة مماثلة لإقناع الرئيسين ليندون جونسون وريتشارد نيكسون بالتخلي عن برنامج الأسلحة البيولوجية الأميركي، وفي النهاية تم التوصل إلى اتفاقية الأسلحة البيولوجية.

ونظراً إلى أن تصنيع الآلات التي تعمل بالطاقة الشمسية رخيص نسبياً، يخشى المنتقدون من أن الأسلحة المستقلة يمكن أن تنتَج بكميات كبيرة وتقع في أيدي الدول المارقة أو الإرهابيين الذين قد يستخدمونها لقمع السكان وإثارة الفوضى، كما يصور الفيلم.

ومن شأن معاهدة لحظر الأسلحة المستقلة أن تحول دون تصنيع تلك التكنولوجيا على نطاق واسع. كما ستوفر إطاراً لردع الدول التي تعمل على تطوير تلك التكنولوجيا، وانتشار الأجهزة والبرمجيات ذات الاستخدام المزدوج مثل المروحيات الرباعية وبرمجيات تحديد الهدف. وقال راسل: "يجب أن تَحظر قواعدُ السلوك الأخلاقية أيضاً تطويرَ الآلات التي يمكنها أن تقرر قتل الإنسان".


مصر و"العفو الدولية"


وفي آب /أغسطس 2017، دعا أكثر من 100 من رواد الروبوتات والذكاء الاصطناعي في العالم ومنظمة العفو الدولية الأممَ المتحدة إلى حظر تطوير واستخدام الروبوتات القاتلة.

وحذرت الرسالة المفتوحة التي وقعها الرئيس التنفيذي لشركة تسلا، إيلون ماسك، ومؤسس وحدة الذكاء الاصطناعي بشركة "ألفابت" مصطفى سليمان، من أن هناك حاجة إلى حظر عاجل لمنع "الثورة الثالثة في الحروب" بعد البارود والأسلحة النووية. حتى الآن، دعت 19 دولة إلى فرض هذا الحظر، بما في ذلك الأرجنتين ومصر وباكستان.

وقد حذر نويل شاركي، الأستاذ الفخري للذكاء الاصطناعي بجامعة شيفيلد ورئيس اللجنة الدولية للحد من الروبوتات المسلحة، من مخاطر الأسلحة المستقلة منذ 10 سنوات.

وقال: "إن الفيلم تقشعر له الأبدان. فهو يبلور أحد النتائج المستقبلية المحتملة من تطوير هذه الأسلحة ذات التكنولوجيا الفائقة". هناك سباق تسلح ناشئ بين الدول المصنّعة للتكنولوجيا الفائقة لتطوير الغواصات والطائرات المقاتلة والبوارج والدبابات التي يمكن أن تحدد أهدافها تلقائياً وتصيبها دون تدخل البشر. ولن يستغرق الأمر سوى حرب كبيرة واحدة لإطلاق العنان لهذه الأسلحة الجديدة، التي ستكون لها عواقب إنسانية مأساوية وسوف تتسبب في زعزعة الأمن العالمي".


كيف سيكتشفون الملثمين؟


واعتمد المجرمون والناشطون منذ وقت طويل على الأقنعة والتنكر لإخفاء هوياتهم، ولكن تقنيات الرؤية عن طريق الكمبيوتر الجديدة يمكنها أن ترى الوجوه التي خلف الأقنعة.

وفي وقت سابق من هذا العام (2017)، عمل العلماء الممولون من الحكومة الهندية مع جامعة كمبردج على تطوير برمجيات لتحديد هوية الأشخاص الذين يحجبون وجوههم بالقبعات أو النظارات الشمسية، واللِحَى المستعارة والأوشحة. لا تزال ثمة مشكلة فنية صعبة، ولكن التعرف على الوجه هو مجرد إحدى وسائل تحديد هوية الأشخاص.

يقول راسل: "لا يخفي قناع التزلج جنس أو سن أو عِرق الشخص. ويمكن بسهولة أن تصبح "القاعدة" أن تهاجم تلك الأسلحة أيضاً أولئك الذين يشتبه في أنهم يحاولون إخفاء هويتهم عن طريق تغطية وجوههم وأجسامهم".


إسرائيل


في 2015، عارضت حكومة المملكة المتحدة فرض حظر دولي على الروبوتات القاتلة. وقالت الخارجية البريطانية إنها لا ترى حاجة إلى الحظر؛ لأن القانون الإنساني الدولي ينظم الأمر بالفعل.

وعلق متحدث باسم وزارة الخارجية البريطانية في ذلك الوقت قائلًا: "إن المملكة المتحدة لا تقوم بتطوير أنظمة أسلحة مستقلة قاتلة، وإن تشغيل القوات المسلحة البريطانية نظم هذه الأسلحة سيكون دائماً تحت الرقابة والإشراف البشريين".

ولكن وفقاً لحملة وقف الروبوتات القاتلة، يتجه عدد من الدول، بما في ذلك الولايات المتحدة والصين وروسيا وإسرائيل وكوريا الجنوبية والمملكة المتحدة، نحو أنظمة من شأنها أن تعطي "مزيداً من الاستقلالية القتالية" للآلات.

وقال شاركي: "إن الأمم المتحدة تتحرك ببطء شديد، والجهات الفاعلة ذات المصالح الخاصة تضع عقبات على الطريق عند كل منعطف. لكن الحملة تواصل المضي قدماً بدعم كبير من المجتمع العلمي. يجب أن ننجح؛ لأن البدائل مرعبة جداً".