"روبوتات القتل": حتى القتلة يحتاجون إلى "ضمير"

وثائقي على "نتفليكس" يجدّد النقاش

 Nash Weerasekera
Nash Weerasekera

"روبوتات القتل": حتى القتلة يحتاجون إلى "ضمير"

طوّرت البشرية، خلال تاريخها الطويل، أدوات القتل، التي بدأت بالسلاح الأبيض مرورا بالقنبلة اليدوية والدبابة والطائرة، وصولا إلى القنبلة الذرية، التي اعتقدنا بأنها قد تكون السلاح الأخير الأكثر فتكا والأشد دمارا، ولا شيء بعده.

لكن هذا الاعتقاد راح يتبدّد مع تسلل تكنولوجيا الذكاء الاصطناعي إلى مختلف الميادين ومن بينها "ساحات الوغى"، وهو تعبير مجازي لم يعد يعكس جوهر الحروب في العصر الحالي التي تدار من غرف عمليات بعيدة آلاف الكيلومترات عن جغرافيا المعارك، التي قد تكون كهفا في قندهار، أو قبوا في إدلب السورية، أو أرصفة مطارات أو موانئ في هذه الدولة أو تلك.

مع الذكاء الاصطناعي تغير تماما شكل الحروب التقليدية، على نحو يمكن معه القول إنّ تلك الساحات تحولت إلى "شاشات مضيئة" تتحكم بمجريات المعركة عن بعد، إذ ظهرت الطائرات المسيرة، التي تنفذ مهامها دون "طيار"، والقوارب المسيرة التي تقتحم مياه العدو الإقليمية، دون وجل، وبدلا من كتيبة الاستطلاع، تستعين الجيوش حاليا، بأجهزة حديثة تستكشف وتستطلع الأرض والبحر والسماء، وتعود بأفلام مصوّرة عن انتشار جيش الخصم ومواقعه، وتقترح حلولا لمواقف معقدة، ومثل هذه التقنيات قلّصت الخسائر البشرية للجيش الذي يملكها، وكبدت الطرف المقابل خسائر موجعة، في المقابل، كما يروي أحد عناصر البحرية الأميركية في الوثائقي "المجهول: روبوتات القتل"،Unknown: Killer Robots للمخرج جيسي سويت، الذي بدأت منصة "نتفليكس" بعرضه أخيرا.

ولأن الذكاء الاصطناعي يملك قدرات خارقة وغير محدودة، تفوق إمكانات البشر، فإن ذلك شجع الدول على المزيد من التطوير، كي تكون الرقم الأول. ففي العرف العسكري "لا أحد يفوز بالمركز الثاني في الحروب"، ومن هنا ظهرت تقنية جديدة متمثلة في اختراع روبوت مسلح، فائق الذكاء، يأخذ قرار قتل شخص ما بنفسه، في المواقف الطارئة والصعبة، من دون أي تدخل بشري.

   في العرف العسكري "لا أحد يفوز بالمركز الثاني في الحروب"، ومن هنا ظهرت تقنية جديدة متمثلة في اختراع روبوت مسلح، فائق الذكاء، يأخذ قرار قتل شخص ما بنفسه، في المواقف الطارئة والصعبة، من دون أي تدخل بشري


هذا الاختراع المثير للجدال هو ذروة ما توصل إليه الذكاء الاصطناعي في مجال التطبيقات العسكرية، وهو اختراع يطرح أسئلة أخلاقية وسياسية وقانونية حول مدى قدرة جسم معدني، يسير وفق خوارزميات غامضة، على اتخاذ القرار الصائب بالضغط على الزناد، وقتل انسان، دون أن يرفّ له جفن، وهذا ما يناقشه الوثائقي الذي يستعين بخبراء وسياسيين وعسكريين لشرح أبعاد هذه التقنية، والتغيير الذي قد تحدثه في حروب المستقبل، وتداعيات مثل هذا الإجراء الذي يعطي فرصة الانتصار في الحروب لمن يستحوذ بشكل أفضل على التكنولوجيا العسكرية، لا لمن يمتلك جيوشا جرارة، وعتادا ضخما.

وعلى الرغم من بشاعة المعارك، أو كما يقال إن "لا شيء جيدا في الحروب سوى نهايتها"، غير أن قرار القتل في المعارك التي شهدتها البشرية، كان يصدر دائما عن محارب بشري يملك ولو قدرا ضئيلا من المشاعر والعواطف الإنسانية التي قد تردعه عن التمادي في إصدار أوامر القتل. علاوة على أن هذا المحارب البشري يتحمّل، في النهاية، مسؤولية قراره، إن كان صائبا أم خاطئا. أما أن يعهد بمثل هذا القرار المصيري إلى روبوت، يستطيع بمفرده، ومن دون تدخل بشري، أن يبحث عن هدفه، ويشتبك معه، في البر والبحر والجو، ويرديه قتيلا، فإن مثل هذا الإجراء "غير مقبول سياسيا، وبغيض أخلاقيا"، كما ترى المسؤولة الأممية إيزومي ناكاميتسو التي يستضيفها الفيلم والتي تطالب بـ"منع هذه التقنية، في جميع الأحوال، ودون استثناء".

العاطفة الانسانية

المفارقة هنا أن المدافعين عن هذه التقنية، وهم في غالبيتهم من العسكريين ومن الشركات المصنعة للأسلحة، يستندون بدورهم إلى مسألة العواطف لتبرير موقفهم، إذ يرون أن المشاعر تتحكّم في تصرفات البشر وقد تدفعهم، تحت تأثير الغضب واليأس والخوف من الهزيمة، إلى إصدار أوامر متسرّعة وخاطئة، في حين أن الروبوت الآلي سيتصرّف بمعزل عن تلك المشاعر، وسيقرّر بهدوء ما ينبغي فعله في اللحظات الحاسمة، وهو ما قد ينقذ أرواحا.

بيد أن الذين يبررون شرعية "الروبوتات القاتلة" بذريعة أن القائد العسكري قد يصدر أوامره تحت تأثير الغضب، في حين أن الروبوت سيلتزم إصدار الأمر دون أي انفعال، يتجاهلون حقيقة أن القائد العسكري قد يتأنى، كذلك، وفي حالات مختلفة، عن إصدار أوامر القتل، لانه يدرك قيمة الحياة الإنسانية، ويتقيّد ولو بأدنى قدر بقواعد الاشتباك وحماية المدنيين، مهما بلغت سطوته وجبروته، في حين أن الروبوت، فضلا عن أنه لا يكترث بسلامته، ولا يفكر في النجاة مطلقا، لا يدرك قيمة حياة الآخر، ولا يشعر بأي ذنب حين يرى الدماء تسيل من جنود العدو، ناهيك بأنه يعجز عن التمييز بين المقاتلين والمدنيين، ولئن أصابه العطب، فثمة روبوت آخر جاهز للانقضاض.

ثمة قصص كثيرة، وردت في أفلام أو روايات، عن جنود تراجعوا في اللحظات الأخيرة عن قتل خصومهم بعدما تعاطفوا معهم لهذا السبب أو ذاك، بل إن الكثير من الجنود لا يتخلصون حتى بعد سنوات طويلة من انتهاء الحرب، من عقدة الذنب والشعور بالندم جراء صور المعارك الرهيبة التي تستقر في ذاكرتهم، ومثل هذه المشاعر التي تنم عن نزعة إنسانية متأصّلة لدى البشر، يفتقر الروبوت إليها بالطبع.

علاوة على هذه الفطرة الإنسانية، ثمة جانب يتعلق بالتربية والمعتقدات الدينية، فمن المعروف أن الديانات جميعا تدعو إلى السلام وتمنع القتل، وقد يشكل ذلك رادعا للكثير من الجنود، الذين يؤمنون في غالبيتهم بعقيدة دينية ما، في اتخاذ قرار القتل، على عكس الروبوت الذي لا يأبه حتما لتلك الروادع الدينية، ولا يمتلك قناعات غيبية، بل يخضع لمنطقه الخاص المبني على معادلات وأرقام لا علاقة لها بقدسية النصوص الدينية.

مأزق قانوني

مثل هذا الجدال يقود الى مأزق قانوني يتعلق بهذه التقنية، ففي حين أن الضابط الذي يصدر أوامر خاطئة سيتعرض للمحاكمة، وقد يحكم عليه بالسجن، وثمة أمثلة لا تحصى عن ضباط أميركيين وإسرائيليين، على سبيل المثل، تعرضوا لمحاكمات قادتهم إلى السجون، جراء سوء التصرف. من نافل القول هنا إن الروبوت لن يتعرض لمثل تلك المحاكمات حتى وإن تصرف بشكل سيئ، وأطلق النار على الهدف الخاطئ.

Netflix

بالطبع، المنظمات الحقوقية ستحمل المسؤولية في مثل هذه الحالات للجيوش التي استعانت بالروبوتات القاتلة، لكن حتى في هذه الحالة ليس هناك شخص معين لمحاكمته، وستقيّد القضية، على الأرجح، ضد مجهول، كما يشير عنوان السلسلة التي تعرضها "نتفليكس"، وتتضمن وثائقيات عدة، بينها هذا الفيلم الذي يتناول روبوتات القتل.

 تحاجج الجيوش التي تسعى إلى امتلاك تكنولوجيا "روبوتات القتل"، وتطويرها، بأنها إن أحجمت عن ذلك، فإن الخصم لن يتردد في امتلاكها وتطويرها، وهذا ما يقود إلى سباق التسلح بمثل هذه التقنية لضمان التفوق في المعركة، وهذه المعادلة "المستحيلة الحل"،  تنذر بمستقبل قاتم


وتحاجج الجيوش التي تسعى إلى امتلاك تكنولوجيا "روبوتات القتل"، وتطويرها، بأنها إن أحجمت عن ذلك، فإن الخصم لن يتردد في امتلاكها وتطويرها، وهذا ما يقود إلى سباق التسلح بمثل هذه التقنية لضمان التفوق في المعركة، وهذه المعادلة "المستحيلة الحل"، تنذر بمستقبل قاتم، خصوصا في ظل التوترات القائمة بين واشنطن والغرب من جهة، وبين روسيا والصين وغيرها من الدول في ما يمكن تسميته بالمعسكر الشرقي من جهة ثانية. الأمر شبيه بغيرة الأطفال الذين يرغبون في امتلاك أي شيء يملكه أقرانهم، غير أن هذه الغيرة بريئة، في حين أن تنافس الجيوش في امتلاك روبوتات تقتل من تلقاء نفسها، يهدّد البشرية برمّتها، وكان الفيزيائي البريطاني ستيفن هوكينغ أطلق قبل سنوات تحذيرا من "أن تطوير ذكاء اصطناعي بالكامل قد يعني نهاية الجنس البشري".

إلى جانب صقور العسكريين، يدافع بعض السياسيين كذلك عن "الروبوتات القاتلة"، لأغراض دعائية وانتخابية، فقرار إرسال جنود إلى معارك قد لا يعودون منها، يعرّض السياسيين غالبا إلى المساءلة أمام المشرعين والإعلام وأسر العسكريين، أما استخدام "الربوتات القاتلة" فيعفي أولئك السياسيين من أي مسؤولية، ذلك أن التكلفة هنا مادية فحسب، وليست بشرية.

الخيال العلمي أصبح واقعا

عشرات الأفلام الهوليوودية التي صنفت على أنها "خيال علمي"، باتت واقعا، بل إن المشاهد التي ظهرت في فيلم "المدمر"   The Terminator، مثلا، وتستعرض روبوتات آتية من المستقبل لتحارب البشر، تبدو متشابهة إلى حد بعيد مع ما يعرضه هذا الوثائقي، فتلك الآلات المعقدة، المستقلة في اتخاذ القرارات، والتي صُمّمت للتسلية في تلك الأفلام، صارت في حوزة الجيوش، وهذا ما قد يؤدّي إلى سيناريوهات كابوسية، وسط تحذيرات من أن الأعداد الهائلة لروبوتات القتل في المستقبل القريب قد تخرج عن السيطرة، وتهدّد بفناء البشرية.

Netflix

الارجح أن هذه المخاوف والهواجس التي يطرحها الوثائقي، الذي يدوم لنحو ساعة وعشر دقائق، حيال امتلاك روبوتات ذاتية التحكم ستكون مثار جدال على أعلى المستويات في السنوات المقبلة، بين الجيوش والشركات المصنعة، وبين منظمات حقوقية ومفكرين وقانونيين وعلماء اجتماع وتربية وكتاب يسعون الى إيقاظ العالم وتحذيره من المصير المروع المحتمل، في حال انتشر هذا النوع من السلاح بأعداد هائلة، ومن هنا يعدّ الفيلم مدخلا مفيدا للتفكير النقدي والتحليلي حول هذه التقنية التي ستشهد انقسامات وفصولا مدوية بين المدافعين عنها والمعارضين لها.

font change

مقالات ذات صلة