ما هي فرصة أن يقتلك سلاح ذكي بدون أوامر بشرية؟
أنت الآن أمام التلفاز، تشاهد فيلم The Matrix revolutions، تظهر أمامك كل تلك الآليات الذكية، تطلق النار، تتقاتل، فوضى عارمة أحدثتها أسلحة متطورة مدمرة. لو كانت على أرض الواقع، وليست أسيرة الخيال العلمي لأحدثت مجازر، وسببت موتًا أحمر للبشرية جمعاء.
سرعان ما تعبر الأفكار بين عالم الخيال في أدمغتنا إلى أرض الواقع، خاصة عندما يكون الدافع هو آلة الحرب، التي ربما سرعت عجلة التطور في مختلف المجالات العلمية إبان القرن العشرين.
دعني صديقي القارئ أختصر الحديث وأعرفك إلى شركة «بوستون ديناميكس – Boston Dynamics» إن لم تسمع عنها من قبل، فهي شركة روبوتات حديثة تعمل على تطوير أجهزة روبوت عسكرية، تترواح ردود أفعال متابعيها بين الإعجاب الشديد والهلع، كلما أطلقت فيديو يوضح جديد ما توصلت إليه.
لكن لنوجّه انتباهنا تجاه الفئة القلقة، هل يستدعي الأمر كل هذا القلق حقًّا؟ هل وصل البشر لذلك الحدِّ من التقدّم الذي يسمح بخلق سلاح قادر على اتخاذ قرار التدمير؟ هل سيتحكم به البشر، أم سيكون ذاتي التحكّم تمامًا؟ وإنّك كان ذاتيًّا هل لديه المقدرة على اتخاذ قرار أخلاقي من الدرجة الأولى كالقتل؟
لنبدأ بتفكيك الأسئلة لنفهم الوضع الذي وصلت إليه الأسلحة الذكية، وما مدى تقدّمها، ولنبدأ بأبسط المفاهيم، تعريف ماهيّة الأسلحة الذكية.
ما هي الأسلحة الذكيّة؟
روبوت SGR-A1 من Samsung، الذي يُسْتَخْدَم لحماية الحدود الكورية الجنوبية
الأسلحة الذكيّة، هي نوع من الروبوتات العسكرية ذاتيّة التحكم، والتي تقوم بالبحث عن هدفها، وتشتبك معه، بناءً على وصف، ومُحدِّدات مُبرمجة، والتي بإمكانها أنّ تقوم بغرضها الأساسي برًّا، وفي قلب السماء، وعلى سطح الماء، وفي أعماق البحار. لكن هل يعني أنّها ذاتية التحكّم، أنّها لن تحتاج إلى توجيهات العلماء؟
كلمة autonomous التي تترجم لذاتيّ، لها معانٍ مختلفة حسب مجال دراستها؛ ففي علم السياسة تعتبر الذاتيّة هي المفهوم المُجرد الذي ينطبق على العديد من مقاييس التنظيم، وفي علم الهندسة، يشار إلى الذاتيّة بأنها قدرة الآلة على العمل بدون تدخل الإنسان، وفي علم الفلسفة تشير الذاتيّة إلى قدرة الفرد على أنّ يكون مستقلًّا أخلاقيًّا.
لكن عندما ننتقل إلى تطوير الأسلحة العسكرية، فليس هناك مفهوم واضح وصريح يعرف ذاتيّة الآلة؛ فالمعايير التي تحدد كون الشيء ذاتي التحكم أم لا، تختلف من عالِم لآخر ومن منظمة لأخرى. لكن بوجه عام، أكثر مفاهيم الأنظمة الذاتيّة شيوعًا هي: قدرة النظام أنّ يتصرف وفقًا لأهدافه، ومعرفته الداخلية، بدون أيّة تدخلات خارجية.
مستوى الذاتيّة
الآن دعنا نتخيل أننا نحضر تدريبًا عسكريًّا وفيه أعلنوا أنهم سيستعرضون الطائرة الحربية الذكية الجديدة التي ستضمها البلاد إلى أسطولها، طائرة عسكرية تحلق فوق رءوسنا، هذه الطائرة تقوم بمراوغات، وفجأة أطلقت وابلًا من النيران على شيء ما. التحركات التي قامت بها المركبة، وانطلاقها من موقع إلى موقع آخر معين، يسمى بالملاحة، وهو نظام تحكم ذو حلقات مغلقة.
دالة الملاحة تتضمن عدّة حلقات متداخلة، داخلية وخارجية، لتوفير التغذية الراجعة FeedBack، وللحلقة الخارجية على وجه الخصوص، هناك العديد من الطرق لتعيين سلطة استخدام الذاتيّةلكي يتم إغلاق هذه الحلقة. لكن تصنيف مستويات الذاتيّة قد يتطلب تفريقًا وتمييزًا بين الدوال الفرعية؛ فمثلًا يمكننا تفكيك دالة الملاحة إلى دوال فرعية تقوم بـتحديد الموقع، وحساب التوجيه، وتنفيذ إجراءات التحكم، وبالمثل، قد اقترحت خططًا أخرى أكثر عمومية للتفريق بين مراحل معالجة المعلومات المختلفة، المسئولة عن تحقيق هدف معين.
مثال على ذلك النموذج البشري ذو الأربع المراحل لمعالجة المعلومات المتمثل في: اكتساب المعلومة، تحليل المعلومة، اتخاذ القرار، ثم تنفيذ العمل. مراحل الذاتيّة العشر وفقًا لأستاذ الهندسة الميكانيكية بمعهد ماساشوستس للعلوم والتقنية، توماس شيردن هي:
مستويات الذاتيّة العَشر
9. تُعلِم الآلة البشر، إذا ما قررت أنها تودّ أن تفعل ذلك.
8. تُعلِم البشر، فقط، إذا طلب من الآلة ذلك، أو.
7. يُنفذ تلقائيًا، ثم، حتميًا، يُعلِم البشر، أو.
6. يمنح البشر، بشكل إلزامي، حق الاعتراض قبل التنفيذ، أو.
5. يُصيب الهدف، ما أن يوافق البشر على ذلك، أو.
4. يقترح بديلًا واحدًا.
3. يُقلل الاحتمالات الكثيرة إلى قِلة، أو.
2. تقترح الآلة مجموعة كاملة من البدائل للقرارات/الأفعال، أو.
1. لا تعرض الآلة أيّة مساعدات: يقوم البشر باتخاذ كل القرارات، والقيام بالأفعال.
بقراءة المستوى العاشر، أكاد أشعر بالقلق يتسلل إليكَ، عزيزي القارئ، لا أخفيك سرًّا، قد قلقت أنا أيضًا، لكن هناك سؤالًا، قد تزيد إجابته معدلات الأدرينالين لديك ولديَّ، ونبدأ بلعن الحداثة وما جلبته للبشرية، إن لم تكن قد لعنتها بالفعل، أو قد يهدئ من روعنا قليلًا، هل الوضع الحالي للتسليح الآلي يسمح بأن تقوم الآلة بأخذ القرار والتنفيذ وتجاهل أوامر البشر؟ هل سيكون الأمر جنونيًا كما في الأفلام؟
الولايات المتحدة قد استخدمت الطائرات بدون طيار بالفعل، لقصف اليمن وكذلك في باكستان. يتم التحكم في هذه الطائرات من بعد من قبل الجنود في مراكز العمليات. وفيما تقوم جارات السحاب بأعمالها في السماء، فالأرض لم تسلم أيضًا؛ فعلى غرار Suicide squad، يوجد روبوتات الـ bomb squad التي تستخدمها القوات الأمريكية لفحص وتفكيك المتفجرات، كما حدث في العراق وأفغانستان. يتم تحريك هذه الروبوتات عن بُعد، وكانت تمتلك ذراعًا ميكانيكية للتعامل مع القنابل.
حتى الآن، كان كل ما تم استخدامه، يتم اتخاذ القرار النهائي المتعلق بتحركّه أو إطلاقه للنار من قبل البشر، وحتى الذي كان يتمتع ببعض الذاتيّة في بعض قراراته مثل روبوتات SWORDS، وهي روبوتات اسْتُخْدِمَتْ في العام 2005 من قبل الجيش الأمريكي، تتحرك على جنزير مثل جنزير الدبابة، وتمتلك ذراعًا ميكانيكية مزودة برشاش صغير الحجم، ومصممة للدفاع عن الجنود ضد الانفجارات، آثر بعض قادة الجيش ألا يتركوا لها حرية الحركة، مُقننين حركتها بدفاعها عن أماكن ثابتة بدلًا من مطاردتها للأشخاص السيئين، تاركين قرار القتل للبشر، لا للآلات.
لكن لنعترف أنّ فكرة استخدام روبوتات كجنود مغرية للغاية لصناع القرار الأمريكي، فلها من مميزاتها ما قد يجعلهم يستبدلون بالجنود البشريين الروبوتات، خصوصًا إذا قامت دول معادية للولايات المتحدة الأمريكية مثل روسيا باستخدامه في الحرب؟ ألن يكون من المنطقي محاربة النار بالنار؟
الإجابة: نعم، محاربة النار بالنار واجبة، وإن كان حتى للدفاع، وليس لجلب الضرر، كما صرّح روبرت و. وورك، مختص الأمن الوطني الأمريكي، لكن الدفاع الذي يتحدث عنه وورك، سواء كان ضد الصين، أو روسيا، سينتج عنه مجازر؛ لأنه إذا فشل الدفاع، فلن يتبقى سوى الهجوم، فهل سنقف مكتوفي الأيدي ونكتفي بالمشاهدة عندما تبدأ حرب الخيال العلمي؟ في المقالة القادمة سنستعرض تقنين استخدام الأسلحة الذكية وأخلاقيات استخدامها في الحروب في المقالة القادمة.
