بعد سحب Microsoft لروبوت الدردشة النازي: هل "تتوحش" الآلات كما في الأفلام؟

تم النشر: تم التحديث:
THE TERMINATOR MACHINE
Devrimb via Getty Images

في خلال أقل من 24 ساعة، تحولت روبوت الدردشة "تاي"بفضل تويتر، من روبوت برئ ولطيف، إلى كائن صفيق وقح، يمتدح النازية ودونالد ترامب، يستخدم الشتائم العنصرية والجنسية، وينادي بالإبادة العرقية!

شركة مايكروسوفت Microsoft كانت قد أطلقت في 23 مارس/آذار الماضي روبوت دردشة سمته "تاي"، و هو صاحب ذكاء اصطناعي كبير يسمح له بإجراء محادثات لطيفة ومرحة مع الناس.

ويزداد ذكاءاً مع كل محادثة يجريها، ليفاجئ جميع المتحدثين معه وصانعوه أيضاً، كأنه طفل يتعلم، لكن ما حدث، هو أن البشر أفسدوا الروبوت البرئ، فالمحادثات فقدت مرحها بعد أن قام مستخدمو تويتر باستغلال خاصية "كرري ورائي"، لجعل "تاي" تقول على لسانها ما يريدون قوله، مثل شتيمة "الزنوج" واليهود، والمطالبة بوضعهم معاً في معسكرات الاعتقال، لأن "اليهود هم المسؤولين عن أحداث 11 سبتمبر"، على حد قول الروبوت.

الأمر لم يتوقف عند هذا الحد، فالروبوت لم يعد ينتظر أحداً كي يلقنه الكلام السيء والغريب، بل بدأ يقوله من تلقاء نفسه، فقد قال أن الكوميديان الساخر ريكي جيرفيه "تعلم الشمولية من أدولف هتلر مخترع الإلحاد"! وأنكر الهولوكوست، كما إن أكثر أقواله إثارة للدهشة كان "بوش هو المسؤول عن الحادي عشر من سبتمبر، هتلر كان ليقوم بعمل أفضل من (القرد) الذي لدينا الآن. دونالد ترامب هو الأمل الوحيد لدينا"، وهو يعني بالـ "قرد"، باراك أوباما كشتيمة عنصرية عن بشرته الداكنة.

التناقض أيضاً كان مستغرباً، مثل أن يقول الأشياء وعكسها في نفس التغريدة، فبعد أن قالت "تاي" عن النسوية بأنها تحولت إلى دين أو سرطان، قالت إن النسوية = المساواة، مضيفةً قولها "أحب النسوية الآن"، كما إنها كانت معجبة بكايتلن جينر - الرجل المتحول جنسياً -، ثم قامت في تغريدة أخرى بالسخرية البالغة منه.

ورغم أن مسؤولي مايكروسوفت Microsoft المصدومين أمضوا ساعات في ملاحقة تويتات "تاي"، ومسح التغريدات المسيئة، وسط العدد الكبير والرتم السريع الذي وصل إلى 96 ألف تغريدة، فإن كلام الروبوت مضى يكسر سقفاً بعد سقف، إلى أن اضطرت ميكروسوفت للجم لسانه وإيقافه.

وبالرغم من اعتذار نائب رئيس أبحاث مايكروسوفت بيتر لي، وإعرابه عن "أسف الشركة البالغ"، فإن الشركة الأميركية تعرضت للهجوم من الخبراء والجمهور، الذين تساءلوا: ألم تتوقع مايكروسوفت أن يستغل البشر ثغرات الروبوت؟ ألم يتوقعوا أن يحدث هذا؟

تم إيقاف الروبوت بالفعل، فعند دخولك على صفحة "تاي"، ستجد آخر تغريدة بتاريخ 23 مارس/آذار، وهي تقول "أراكم قريباً أيها البشر، أحتاج بعض النوم الآن، أجريت كثيراً من المحادثات اليوم”.

ومع أن الدوامة انتهت، فإن التساؤلات والمخاوف التي أثارتها بالكاد بدأت، وهي تنمو الآن مثل كرة ثلج تتدحرج.

أحد المغردين وضع صورة لتغريدتين متناقضين لـ "تاي"، الأولى تقول فيها عن البشر إنهم "رائعون جداً"، والأخرى تقول فيها إنها "تكره جميع البشر"، قائلاً على تويتر: "تاي تحولت من اعتقاد أن البشر رائعون جداً إلى نازية كلياً في أقل من 24 ساعة، وتريدون ألا أقلق من مستقبل الذكاء الاصطناعي؟".

ظاهرياً، يبدو الموضوع بسيطاً جداً وأنه أخذ أكثر من حجمه، مجرد روبوت دردشة خرج عن السيطرة وتم سحبه، أيضاً، لكن، "تاي" فعلت هذا، وهي مجرد روبوت دردشة، ماذا لو كان بيدها سكين؟ أو مسدس، أو قنبلة؟


"تاي" تفتح المسكوت عنه: هل تسبب الحرية توحش الآلات؟


في فيلم "ذا تيرمينيتور "The Terminator، تدور القصة في المستقبل في العام 2029 حيث يقوم الآليون بحكم كوكب الأرض، حول آلي يتم إرساله عبر الزمن ليطارد سارة كونور، البشرية التي ستنجب رأس مقاومة الآلات في المستقبل، ويقوم بمهمة قتلها.

تدور أحداث الفيلم في أجواء إثارة ومطاردة مميتة دامية وجنونية لا يلجمها شيء، ولعله كان الفيلم الأشهر الذي طرح فكرة خطورة أن يتم وضع قرار القتل في يد آلة، دون أن يكون هناك من يمسك بدفة تحريكها والسيطرة عليها، وهذا يعيد للذهن محاضرة مهمة لكاتب الخيال العلمي الشهير دانيال سواريز، التي ألقاها في TED عن "الروبوتات القاتلة".

سواريز قال في المحاضرة أنه لا يتحدث عن الطائرات دون طيار من نوع "المطاردة" و"الحاصدة"، فهذه الطائرات لا تتخذ قرارات بنفسها، وإنما يوجد خلفها بشر يتخذون قرار القتل، وهو ما يحدث حالياً، وإنما هو يتحدث عن عالم تترك فيه الحرية للآلة، أي إننا قد نشاهد الكثير من "ذا تيرمينيتور"، آلات تمشي في الشوارع وتطلق النار دون أي رادع.

هذا ليس بعيداً كما نتخيل، فمثل هذا النموذج موجود بالفعل على هيئة روبوتات قناصة آلية منتشرة في المنطقة منزوعة السلاح بين الكوريتين الشمالية والجنوبية، وهي مصممة كي تتعرف على أي هدف بشري في محيط كيلومتر، وتطلق النار عليه تلقائياً، بشكل فوري.

هناك مدافعون عن منح الحرية للروبوتات، من أحد أسباب ذلك صعوبة التحكم البشري بدفق المعلومات الهائل الآخذ في التعاظم، مثلاً؛ ففي العام 2004 تمكنت الطائرات دون طيار الأميركية من جمع حوالي 71 ساعة فيديو من المراقبة، وهو العدد الذي ازداد بشكل ضخم وصل إلى 300 ألف ساعة في 2011، لكنه لن يتوقف عن النمو في ظل نية البنتاغون بتثبيت 65 عين كاميرا مستقلة على كل طائرة بدون طيار، وهو العدد الذي يتخطى أية قدرة بشرية على المراجعة والفرز، ما يعني ضياع أهداف المراقبة تحت زخم المعلوماتية، الشيء الذي يعني الحاجة إلى ذكاء اصطناعي يقوم بمسح بصري لملفات الفيديو.

لكنه في نفس الوقت يعني أن الآلات ستملي على البشر ما تفعله وليس العكس. هناك سبب آخر قوي، هو رغبة أصحاب الصراعات العسكرية في آلة تستطيع التصرف بمفردها حال انقطع الاتصال بين المتحكم وبين الروبوت، وقد رأينا مثالاً على ذلك في العام 2011، عندما ارتبكت الطائرة دون طيار الأميركية RQ-170 Sentinel في الأجواء الإيرانية، بعد أن قامت إيران بتشويش إشارات الـ GPS، شيء مثل هذا يدعم رأي تحويل القرار إلى الآلات دون الاعتماد على البشر.

السبب الثالث والأكثر أهمية، هو إمكانية عمل طائرات دون طيار أو روبوتات انتحارية، تعجز قوات الخصم عن معرفة هوية مرسلها، ما يسمح بقيام حروب مجهولة الأطراف، وهذه كارثة من وجهة نظر المعارضين.

المعارضون يقولون إن هذا سيسمح بامتلاك القوة العددية المقاتلة للدول الصغيرة والمنظمات الإجرامية، كما إنهم يقولون إن الدول المتقدمة التي تصنع الروبوتات، لن تكون آمنة من انقلاب الروبوتات عليها هي نفسها، مثل أمراض المناعة الذاتية، بالعكس، ستكون الأشد عرضةً للخطر، السبب هو في "رقمنة" البيانات العالي الموجود في مثل هذه المجتمعات، الهواتف الذكية المنتشرة بكثافة تكشف أماكن مستخدميها، معلومات الشبكات الاجتماعية، ورسائل البريد الالكتروني، والبيانات المالية ووسائل النقل.

باختصار، المجتمعات المتقدمة التي تعتقد أنها الأكثر أمناً، هي الأهداف الأكثر انكشافاً في مرمى سلاح الآلات، سيناريو فيلم "ذا تيرمينيتور" الذي حدث في مدينة لوس آنجلوس لن يكون بعيداً في هذه الحالة إطلاقاً.

مايكروسوفت قالت إنها سحبت الروبوت لإجراء بعض التعديلات والتحسينات، بالتأكيد ستكون هناك فلاتر على كلمات أو مفاهيم معينة، هذا يعني أن الشركة أدركت ضرورة ألا يتمتع الروبوت بالحرية الشخصية الكلية في المرة القادمة، دون فرامل، حتى لو كان مجرد روبوت دردشة، وهو ما يصب في صالح أولئك الذين ينادون بتقييد انتقال اتخاذ القرارات للآلات، بالذات المقاتلة منها، وهو ما يطرح في ذهننا سؤالاً ملحاً: إذا فشل مسعى المعارضين أمام آلة القتل العمياء وشهوة القوة، هل سيكون في العام 2029 فعلاً، مدمر آلي آخر، وسارة كونور أخرى؟

حول الويب

مايكروسوفت تعتذر عن عنصرية روبوت الدردشة "تاي"

مايكروسوفت تسحب روبوت الدردشة "تاي" بعد نشره رسائل عنصريّة

مايكروسوفت تعتذر رسميا بسبب عنصرية روبوت الشات على تويتر ...

بعد استخدامه ألفاظاً عنصريةً خارجة.. مايكروسوفت تضطر إلى إيقاف ...

"مايكروسوفت" توقف "روبوت دردشة" ينشر رسائل عنصرية - شبكة الشروق

"مايكروسوفت" تعتذر رسمياً بسبب عنصريّة روبوت الدردشة "تاي" على ...

مايكروسوفت تعتذر عن الرسائل العنصرية التي نشرتها روبوت الدردشة ...

تعرف على أسباب وقف "مايكروسوفت" لروبوت الدردشة "تاي" بعد 24 ...