على الرغم من ظهور مفهوم الذكاء الاصطناعي منذ خمسينيات القرن العشرين الماضي على يدي الباحث آلان تورنج، فإن الجدل في شأنه لم يتصاعد إلا في السنوات الأخيرة، بعد أن ظهرت مجموعة من التطبيقات المثيرة للقلق. ولعل أهمها التحولات الخطيرة في سوق العمل وتهديد الكثير من الوظائف، مع ضرورة إعادة تأهيل البقية لمواكبة التطورات المتلاحقة، كما إشكالية التقليد والأصالة في الأعمال الأدبية والتشكيلية وغيرها من الفنون التي استطاعت الآلة محاكاتها بمهارة ودقة وما نجم عنه من طفرة في سوق التزييف. غير أن الخطر الفادح والذي قد يشكل منعطفًا خطيرًا في تعريف الإنسان، يظهر الآن مع استخدام الذكاء الاصطناعي في ساحة الحرب الدائرة في قطاع غزة، والتي توشك أن تتجاوز 200 يوم.

الدائرة الجهنمية

منذ أن بدأت الحرب على غزة في السابع من أكتوبر/ تشرين الأول 2023، وسكان غزة يتساقطون بالآلاف، على الرغم من إدّعاء الكيان الصهيوني بأنه لا يستهدف إلا "العناصر الإرهابية"، ويقصد بهم أعضاء الجناح العسكري لحركة المقاومة الإسلامية- حماس، فما الذي يبرّر هدم منشآت خدمية وبيوت سكنية واختفاء أسر بأكملها؟

في تحقيق تداولته الصحف العالمية مؤخرًا، نقلًا عن صحيفتي "+972" و"لوكال كول"، أجرى الصحافي الإسرائيلي يوفال أبراهام تحقيقًا مع 6 من ضباط المخابرات الإسرائيلية، وفيه نتعرف على مدى العشوائية التي تدار بها الحرب على غزة من خلال تصريحات المسؤولين في جهاز الاستخبارات، والتي تتلخص في اعتماد الجيش الاسرائيلي على عدد من برامج الذكاء الاصطناعي لتحديد الأهداف، منها برنامج يعرف باسم "لافندر/ Lavender"، وهو نظام يتم تغذيته بالبيانات عن العناصر المنتمية إلى حماس، تشمل تحركاتهم وأماكن تجمعهم وأرقام هواتفهم وعناوينهم القديمة والحديثة، فما كان من لافندر إلا القيام بوضع علامات على 37 ألف شخص كمشتبه بهم وأهداف محتملة للقصف.

فحص العدو نتائج تجربته بدقة قبل تطبيقها، وتأكد أن النظام ارتكب أخطاء بنسبة 10 في المائة في العينات الأولى، مع ذلك أعطى لجنوده "كارت بلانش" في تنفيذ النتائج التي يحددها لافندر من دون الرجوع إلى العنصر البشري أو حتى فحص البيانات الخام التي اعتمد عليها في اختياره الأفراد كأهداف، مع الاحتفاظ بشرط التأكد في زمن قدره 20 ثانية من كون المستهدف ذكرًا. وبالتالي شملت القائمة جميع عناصر الجناح العسكري لحماس كأهداف بشرية، بغض النظر عن رتبتهم أو أهميتهم العسكرية، علاوة على أهداف أخرى بعيدة الصلة أو ليست ذات صلة على الإطلاق. كان لافندر، كما يقر أحد المسؤولين، في بعض الأحيان يضع علامات على أفراد يستخدمون أنماط اتصال مشابهة لعناصر حماس أو حركة الجهاد الإسلامي - بمن في ذلك رجال الشرطة وعمال الدفاع المدني، أقارب المسلحين، أشخاص يحملون اسمًا ولقبًا مماثلًا للهدف، ومواطنون استخدموا جهازًا كان فيما سبق في حوزة عضو من حماس.

يصف رجل الاستخبارات الذي تعامل مباشرة مع البرنامج: "كان من المدهش بالنسبة لي أن يُطلب منا قصف منزل لقتل جندي أرضي، بالرغم من انخفاض رتبته في القتال"، ومثل هذه الأهداف أطلق عليها اسم "أهداف تافهة". ولكن ما يتكلفه قتل "هدف تافه" كان، في بعض الأحيان، الإطاحة بناطحات سحاب وإغراق منطقة بأكملها في حمم الفوضى والدمار.

يرى أبراهام أن هذه الحرب القائمة على الذكاء الاصطناعي تسمح للناس بالهروب من المساءلة، فالقرار اتخذته آلة تنتج أهدافًا على نحو جنوني مع التسليم بمبدأ الأضرار الجانبية وهو ما "يفقد القانون كل معنى" (Getty, Gaza)

أين أبي؟

الأسوأ من ذلك كله هو مكان اصطياد الضحية والذي يقرره النظام الإضافي "أين أبي/ Where's Daddy"، وهو نظام يقوم بمسح معلومات عن 90% من سكان غزة على الأرجح، أي أكثر من مليون شخص. ويمنح كل فرد تقييما يتراوح بين واحد إلى 100 استنادًا إلى معلومات بسيطة تتجمع لتكون احتمالية أن ذلك الفرد هو عضو في الأجنحة العسكرية لحماس أو الجهاد الإسلامي. ومن ثم يتحدد الوقت ليلا غالبا وفي البيت كأنسب مكان للقصف، ما أسفر عن نتائج كارثية، حيث ينهار مبنى بأكمله على سكانه بينما لا يكون الهدف في كثير من الأحيان داخله على الإطلاق، لأن الضباط لم يتأكدوا من المعلومات في وقتها، أو لأنه نسي هاتفه هناك.

وكما ورد في التحقيق "كانت القوات الجوية تأتي في الخامسة صباحًا، وتقصف جميع المنازل المحددة بأمر لافندر الذي قام بوضع علامات على آلاف الأشخاص، لم نفحص كل منهم على حدة، بل وضعنا كل شيء في يد الأنظمة الآلية، وبمجرد أن يصبح أحد الأفراد المحددين في منزله، يصبح هدفًا على الفور، ويتم قصفه هو ومنزله"، من دون اعتبار لأي آثار جانبية.

يرى أبراهام أن هذه الحرب القائمة على الذكاء الاصطناعي تسمح للناس بالهروب من المساءلة، فالقرار اتخذته آلة تنتج أهدافًا على نحو جنوني مع التسليم بمبدأ الأضرار الجانبية، وهو ما "يفقد القانون كل معنى".

قديمًا، كان يتعين على الضابط لإعطاء تفويض باغتيال هدف واحد، أن يمر بعملية طويلة ومعقدة، ومع زيادة القائمة لتشمل عشرات الآلاف من العناصر ذات المراتب الأدنى، اضطر الجيش إلى الاعتماد على البرمجيات التلقائية والذكاء الاصطناعي. كما كان من المقبول قتل ما يصل إلى 15 أو 20 مدنيًا بجانب الهدف إذا كانت رتبته منخفضة، أما إذا كان برتبة قائد كتيبة أو لواء، فيجوز قتل أكثر من 100 مدني، كآثار جانبية. وفي حالة أيمن نوفل، قائد اللواء المركزي في حماس، سمح الجيش بقتل 300 فلسطيني لا ذنب لهم، إلى جانبه.

حقل تجارب

يتناول التحقيق نظامًا آخر يسمى "الإنجيل / The Gospel"، ينحصر عمله في وضع العلامات نفسها ولكن على المباني والمنشآت التي يشتبه أن تكون مكانا للهدف لمحوها تمامًا. فإذا كان المستهدف من الرتب الصغيرة يختار العدو استخدام الصواريخ المعروفة بالقنابل "الغبية" التي يمكن أن تدمر مباني بأكملها فوق سكانها وتسبب خسائر كبيرة، بدلًا من القنابل الدقيقة "الذكية". إنهم كما يبرّرون: "لا نريد أن نفقد قنابل باهظة الثمن على أشخاص غير مهمين، فهي مكلفة للغاية بالنسبة للبلاد، فضلًا عن نقصها الآن". 

برزت فكرة برنامج لافندر المخيف من أعوام ثلاثة ليس إلا، مع صدور كتاب "فريق الإنسان والآلة: كيفية خلق تآزر بين الإنسان والذكاء الاصطناعي الذي سيقوم بثورة في عالمنا" بقلم الجنرال واي إس، وهو اسم مستعار للقائد الحالي لوحدة الاستخبارات الإسرائيلية النخبوية 8200. يطرح فيه فكرة تصميم آلة خاصة يمكنها معالجة كميات هائلة من البيانات بسرعة لتوليد آلاف "الأهداف" المحتملة للجيش. بحيث توفر الكثير من الوقت والجهد في خضم المعركة بدون الرجوع إلى القادة وما يترتب عليه من إهدار وتفويت الهدف، وبذلك أصبح بوسعها أن تحل ما وصفه بـ "العائق البشري الذي يحول دون تحديد الأهداف الجديدة واتخاذ القرار للموافقة على الأهداف".

تم تطوير هذه التقنية في الوحدة 8200، وفي عدة شركات إسرائيلية في قطاع التكنولوجيا، وها هي التجربة تتم أمام أعيننا على أرض الواقع، وبرغم آثارها الكارثية فإن رئيس شركة "ستارت آب نايشن سنترال"، آفي حسون، إحدى الشركات الناشئة في مجال التكنولوجيا، يراها فرصة مثالية لاختبار تقنياته، كتب يقول: "عمومًا، الحرب في غزة تسبّب مخاطر، لكنها تتيح أيضًا فرصًا لاختبار التقنيات الجديدة في هذا المجال... في ميدان المعركة والمستشفيات ثمة تقنيات استخدمت في هذه الحرب لم يتم استخدامها سابقًا".

ويا لها من تجربة جد مثيرة، حين تتحول قرارات الحياة أو الموت إلى حسابات تجريها الخوارزميات. إن مثل هذه  التقنية الجديدة لا تختبر فعاليتها على أرض الواقع، بقدر ما تختبر الضمير الجمعي حين يستحوذ على الإنسان هوس التجريب.