أسوأ كوابيس كافكا تتحقق اليوم في غزة

يتعرض المستكشف الزائر في قصة "في مستعمرة العقاب"، وهو غربي كما يتضح، إلى طقوس إعدام ينتمي إلى البلد المستعمَر حيث تدور أحداث القصة، وما يتعرض له هو أمر غير منطقي بالكامل: حيث يعدم دون الخضوع لمحاكمة بل ودون أن يعرف التهم الموجهة إليه، كما أنه لا يتحدث اللغة التي تصف الآلة التي ستقتله. إن هذا العبث سياسيٌ بشكل أساسي: فالتوضيح إذن موجه الى الغربي، وليس الى المحكوم بالإعدام. إن الافتقار إلى المنطق صادم بشكل أكبر بسبب الآلة، وهي جهاز ينقش المخالفة على جلد المحكوم من خلال آلية رتيبة من الوخز بالإبر. مع ذلك، فإن ما تكتبه الآلة معقد بسبب الزخارف والتزيينات، ولا يفهم الرجل المدان الجملة التي نقشتها الآلة على جلده إلا قبيل وفاته وبعد ساعات من تحمل ألم الإبر التي تخترق لحمه مرة بعد مرة، وكانت، بشكل رمزي في هذه الحالة عبارة: "احترم من هم أعلى منك مرتبة".

من خلال منطق بديهي ولكن مراوغ، تنفتح بوابة القانون في قصة "أمام القانون" أمام المواطن، الذي لا يكتشف إلا في لحظة موته أن الباب مفتوح له وحده وأنه كان في إمكانه العبور في أي وقت. مع ذلك، هناك شيء ضعيف في الأشخاص ذوي النفوذ في أعمال كافكا، فالقضاة في "المحاكمة" يتعرضون للإذلال على يد جوزيف ك، وغالبا ما يقترب هذا الضعف من الكوميديا، حيث يتعاملون مع الكدح اليومي المذكور في قصة "من الأمثال"، مثل القاضي الذي يستبدل المصباح الكهربائي في منتصف الليل في بيت متهمه. لا ينبغي للمرء أن ينخدع بقدرة هذه الشخصيات التي ابتدعها كافكا على الفتك: ينتهي الأمر بإعدام جوزيف ك "مثل الكلب" والآلة في قصة "في مستعمرة العقاب" تدمر نفسها لأنه لم يعد هناك أموال لصيانتها. إنها تقتل المحكوم قبل أن يتمكن من الوصول إلى المعرفة العديمة الجدوى ليفهم سبب إعدامه.

بنات آوى والعرب

في قصة "بنات آوى والعرب"، التي كتبت قبل وقت قصير من إعلان وعد بلفور عام 1917، تتوسل بنات آوى، وهي الكائنات العدوانية والضعيفة في آنٍ معا، إلى زائر غربي، يُنظر إليه على أنه المختار لأنه ببساطة أوروبي، أن يقطع رقاب العرب بمقص الخياطة، بسبب الرغبة في النظافة ('النظافة - هذا ما نريده - لا شيء سوى النظافة'، هذا ما يقوله زعيم بنات آوى). ومن المثير للاهتمام، أن كلا القصتين "بنات آوى والعرب" و"تقرير لأكاديمية" لا ينبغي اعتبارهما عبرا وأمثالا استنادا إلى رأي المؤلف ذاته.

في الواقع، يرى بعض الباحثين أن قصة "بنات آوى والعرب" لا يجب أن يُنظر إليها على أنها تشير إلى "مكان آخر بعيد" غير محدد، بل إلى المكان الآخر البعيد المحدّد بدقة، اي فلسطين. تبدو قراءة هذه الحكاية الآن مشؤومة على وجه الخصوص: "يبدو أن الصراع قديم جدا – على الأرجح هو يسري في الدم، وهكذا ربما لن ينتهي إلا بالدم" وهو ما يؤكد من جديد، عند الفحص الدقيق، انعدام المنطق في الاضطهاد: إذا كان الصراع قديما فهو إذن يبدأ بالعنف وينتهي به.

وبعد أكثر من مائة عام، تغير شكل هذا المقص وقدرته الهجومية، ومعه جاء شكل جديد من العبث ليخطو خطواته الأولى، عبث يتشابك بين القمع والرياضيات بشكل لم يشهد له التاريخ مثيلا. كما هو معروف لدى الجميع فالذكاء الاصطناعي الجديد يعتمد على التعلم الإحصائي التلقائي. إضافة إلى ذلك، هناك وعي متزايد في المجتمع حول مدى غموض أداء هذه الأدوات الجديدة وأسباب مخرجاتها حتى بالنسبة إلى علماء الكمبيوتر الذين صمموها ونفذوها.

على مدى سنوات عدة، كان هناك حلم في مختلف المجالات لبناء نظام اصطناعي قادر على التنبؤ بتحركات السكان للتحكم في سلوكهم. هذا الحلم، الذي أصبح بعمر قرن على الأقل، يسبق عصر الحوسبة وينحدر من الرياضيات والفيزياء. فمن الرياضيات تأتي نظرية الاحتمالات، ومن الفيزياء جاءت أولى النتائج المبهرة التي حققتها تقنيات النمذجة هذه على أرض الواقع. العالم الذي تصوره هذه النظرية غير مفهوم، عالم خال من التشبيهات. لا يوجد تشبيه يفسر الظواهر الكمومية، لأن هذه الظواهر موصوفة بشكل أساسي بشيء غير مفهوم بالنسبة إلينا: متوسط الحوادث المحسوبة استنادا إلى الرياضيات، وإسقاط هذا المتوسط ​​على المستقبل. ليس لمثل هذا المفهوم صورة واضحة يمكن ربطه بها. من ناحية أخرى، في المتوسط، تكون القياسات والتنبؤات دقيقة للغاية أيضا. فالأرقام تبقى متوافقة معه حتى لو كانت متوسطة.

لعبة الاحتمالات

بعد نحو عقد من وفاة كافكا، كتب الفيزيائي الإيطالي إيتوري ماجورانا، وهو تلميذ إنريكو فيرمي، مقالا بعنوان "قيمة القوانين الإحصائية في الفيزياء والعلوم الاجتماعية" يضم المقال تعريفا لكل من "القيمة والجدارة" بين هذين العلمين. يعمل النهج الجديد على التسبب بعدم استقرار النظام الفيزيائي والتحكم فيه من خلال علم الاحتمالات، والإدارة، على سبيل المثل، كما كتب ماجورانا، من أجل "إعداد سلسلة من الظواهر التي يتحكم فيها التفكك العشوائي لذرة مشعة واحدة مهما كانت معقدة ومذهلة". كل هذا دون معرفة القوانين الأساسية بمصطلحات واضحة ومحددة، بل باستخدام مصطلح المتوسط بدلا من ذلك. ووفقا لماجورانا، فإن هذا يعني البدء في ايجاد طريقة لترك الأمور غير المفهومة غير مفهومة ولكن يمكن التحكم بها في الوقت ذاته.

في لعبة الاحتمالات يكفي البقاء على الجانب الصحيح من طاولة البطاقات، حيث تضمن الرهانات الربح بغض النظر عن نتيجة اللعبة نفسها. تضيف علوم الكومبيوتر إمكانات جديدة لهذه الرؤية؛ إن علم البيانات الحالي هو أكثر من مجرد علم، إنه أداة للتحكم. لقد كان الحلم منذ فترة طويلة بنسخة قائمة على الاحتمالات لما قبل الجريمة، أي قوى الشرطة التي تعتقل المشتبه بهم قبل أن يتمكنوا من ارتكاب الجرائم فعليا، كما في فيلم "تقرير الأقلية" لفيليب ديك. تتمثل الفكرة في تحديد نماذج واضحة استنادا إلى سلوكيات معينة تحدّد على أنها منحرفة أو إجرامية، وذلك باستخدام أمثلة لأفراد أدينوا بجرائم معينة. وباستخدام نظام إحصائي معين، إذا كان هناك ما يكفي من المعلومات عن السكان المراد السيطرة عليهم، فإن هذا قد يسمح "بإسقاط" بعض التصنيفات المحدّدة من خلال خصائص معينة على السكان من أجل العثور على المنحرفين و/أو المجرمين بناءً على سلوكيات لا ترتبط بالضرورة بالنشاط الإجرامي نفسه، كالاعتماد مثلا على البيانات المتعلقة بعدد المرات التي يغير فيها شخص ما مكان إقامته أو هاتفه.

الذكاء الاصطناعي والإبادة

وهكذا هذه هي الطريقة التي يُستخدم بها الذكاء الاصطناعي بشكل كبير في الإبادة لأول مرة في التاريخ. كما ظهر أخيرا في تحقيق أجرته مجلة +972، فإن "لافندر" هو برنامج ذكاء اصطناعي يعتمد على الشبكات العصبية في أيدي الحكومة الإسرائيلية. يتعلم هذا البرنامج التعرف الى خصائص الناشطين المعروفين في حركة "حماس" و "الجهاد الإسلامي" في فلسطين، والذين أدخلت معلوماتهم إلى الجهاز كقاعدة بيانات تدريبية، ومن ثم يقوم بتصنيف 2.3 مليون من سكان قطاع غزة الذين يحصلون على بياناتهم من نظام مراقبة جماعية معروف. تمنح الآلة كل شخص في غزة تقريبا درجة من 1 إلى 100، للتعبير عن احتمال أن يكون مقاتلا. سيحصل الشخص الذي يجد النظام أنه يمتلك العديد من الخصائص التي تجرّمه على درجة عالية، وسوف يصبح بالتالي هدفا محتملا للقتل بشكل تلقائي.

كان رئيس "لافندر"، القائد الحالي لوحدة الاستخبارات الإسرائيلية 8200، قد دعا في السابق إلى تصميم "آلة استهداف" تعتمد على التعلم الآلي، يمكنها معالجة كميات هائلة من البيانات بسرعة لتوليد آلاف الأهداف المحتملة لضربات عسكرية. نعرف ذلك من هفوة القائد نفسه، يوسي ساريئيل، الذي ترك آثارا عن هويته في الكتاب الذي يصف المشروع جزئيا، الكتاب بعنوان "فريق الإنسان والآلة" وكان ينوي نشره دون الكشف عن هويته. وبكلماته الخاصة من الكتاب، سيعطي النظام تقييما عن الوقت الذي يكون من الممكن فيه مهاجمة مقاتلي العدو دون إلحاق الضرر بالمدنيين، وفي الوقت نفسه سوف يكون مثمرا للغاية عند قيامه بذلك: "تخيل تقديم 80 ألف هدف ذوي صلة قبل القتال وتوليد 1500 هدف جديد كل يوم خلال الحرب".

وقد بدا هذا النظام "فعالا" إلى أقصى حد، وتكتل حوله نوع من التوازن السياسي في إسرائيل. وهكذا بدا الذكاء الاصطناعي كأنه ذلك السلاح القادر على تدمير "حماس"، أو ربما، كما قد يتصور المرء بتحليل سياسي أقل سطحية، على أنه الأداة القادرة على إضفاء الشرعية على استراتيجيا معينة ردا على أحداث 7 أكتوبر/تشرين الأول. إذ أصبحت هناك حاجة ملحة لوجود العديد من الأهداف فجأة، وعمل هذا النظام  على توفير تلك الأهداف التي تعرضت للقصف دون أي إشراف بشري آخر. بدا أن الذكاء الاصطناعي هو الأداة المناسبة في ذلك الوقت.

استُخدم هذا النظام في الفترة الأولى من الحرب على وجه التحديد. وبالفعل، بلغت الخسائر البشرية نحو نصف إجمالي الخسائر في الأسابيع الستة الأولى بعد الثامن والعشرين من أكتوبر/تشرين الأول عند بدء النزاع. وكما أظهر التحقيق الذي أجرته مجلة +972، فإن أحد الأسباب الرئيسة للعدد غير المسبوق من حالات الوفاة في أعقاب القصف الإسرائيلي هو أن الجيش هاجم أهدافا في منازلهم مع عائلاتهم بشكل منهجي لأنه من الأسهل استخدام منازل العائلات كأهداف بواسطة الأنظمة الآلية المؤتمتة.  

تمرّد الآلة

لكن هل يمكن البقاء على الجانب الصحيح من طاولة البطاقات؟ أثبت استخدام الحكومة الإسرائيلية لهذه الأنظمة أنه مصيبة على إسرائيل، ليس فقط بسبب العدد الهائل من الضحايا المدنيين، الذي يبعدها بشكل متزايد عن المجتمع الدولي، ولكن أيضا لأنها فشلت في تحقيق الهدف المعلن المتمثل في تدمير "حماس". وقد اعترف يوسي ساريئيل نفسه: "لقد هُزِمنا. أنا هُزمت". وكما رأينا في قصة "في مستعمرة العقاب"، تفشل الآلة في تحقيق هدفها، وتدمر نفسها، وتدمر ضحاياها، وتبتلع الضابط الذي مجّدها، تاركة النظام القمعي الذي أنشأها دون أي تغيير.

لكن، وعلى عكس حكاية كافكا، تبقى الحقيقة أن مخرجات الذكاء الاصطناعي ترجمت إلى أوامر، من خلال عملية غير مسبوقة من انعدام المسؤولية الجماعية. كما قال أحد المبلغين عن المخالفات لمجلة +972، محافظا على الهراء: "هناك شيء ما في النهج الإحصائي الذي يضعك أمام قاعدة ومعيار معين. كان هناك قدر غير منطقي من [التفجيرات] في هذه العملية. وهذا ليس له نظير في ذاكرتي. ولدي ثقة في آلية إحصائية أكبر بكثير من جندي فقد صديقا منذ يومين. الجميع هناك، بمن فيهم أنا، فقدنا أشخاصا في 7 أكتوبر. لقد فعلت الآلة ذلك ببرود. وهذا جعل الأمر أسهل".

هذا صحيح بالتأكيد، ولكن كما قلنا، نعتقد أن هناك أشياء أكثر بكثير على المحك هنا. بهدف الحصول على الشرعية، "وجب" على الجميع إطاعة آلة تحسين الإبادة الجماعية، ما يعني اتباع ما يمكن أن نسميه، هذه الغرابة الرياضية الجديدة للشر، في استرجاع لما قالته  حنة أرندت. وهناك المزيد مما ينبغي التفكير فيه هنا، وهو أمر يضرب جوهر اللاهوت السياسي كما تصورناه حتى الآن. ينطق المبلغ عن المخالفات بالتناقض المسكوت عنه، قائلا إن الآلة هي صانعة للمعايير، وأن نتيجة هذه المعايير في الوقت نفسه هي عدد غير منطقي من التفجيرات، وأنه يجب على المرء أن يثق بجهاز إحصائي أكثر من ثقته بإنسان (حتى لو كان ذا نزعة انتقامية)، وفي ذروة هذا البناء المتداعي من الكلمات، فإن كل ما سبق "جعل الأمور أسهل".

كيف يمكننا أن نثق بنظام ينتج تطبيقه رعبا غير منطقي؟ يثير لافندر أسئلة تحتاج وقتا أطول بكثير من الوقت الذي استغرقه تنفيذه الوحشي. إن عصرا جديدا آخذ في الظهور، وهو نوع من الحكومة الدمية القائمة على المصادفة، التي تسيطر عليها الإحصائيات. إحصائيات غير مفهومة: ليس هناك أية تشبيهات تقاربها، فهي تحرمنا من الراحة التي نشعر بها جميعا عندما نجد صورة جيدة للوضع الذي يعنينا، وتجردنا من المواعظ التي تجعل الخسارة مفهومة بالنسبة إلينا. إننا نُحرم من هذا الارتياح أكثر وأكثر كلما سيطر عصر الاحتمالات على التاريخ، وهو الشكل الجديد المتطرف والمضطرب من الحكم الآخذ في النهوض.

في فلسطين تكشّف مستقبلٌ  نحن جميعنا في حاجة للدفاع عن أنفسنا منه. وينبغي أن نعثر على أساليب سياسية جديدة كي نتفادى هذه الحقبة غير المنطقية من الأسوأ التي سوف تستمر في صب الزيت على النار وجعل الأمور أسوأ وأسوأ.