الغارديان: كيف طورت "إسرائيل" نموذج ذكاء اصطناعي بالعربية للسيطرة على الفلسطينيين؟

نشرت صحيفة "الغارديان" البريطانية، تقريرا، أعدّه هاري ديفيس ويوفال أبراهام، قالا فيه إنّ: وحدة رقابة في جيش الاحتلال الإسرائيلي استخدمت مجموعة بيانات لاتصالات الفلسطينيين التي اعترضتها، لبناء أداة ذكاء اصطناعي مُشابهة لتشات جي بي تي، والتي تأمل بأن تُحدث تحوّلا في قدرات التجسّس.

وكشف التحقيق المشترك مع مجلة +972 وموقع "لوكال كول" العبري، الذي ترجمته "عربي21" أنّ: "وحدة 8200 قامت بتدريب نموذج ذكاء اصطناعي قادر على فهم اللغة العربية، من خلال استخدام كمية كبيرة من الحوارات الهاتفية والنصية التي تم الحصول عليها من خلال التنصت على الأراضي الفلسطينية المحتلة".

وبحسب مصادر عليمة بالمشروع، فقد بدأت الوحدة ببناء النموذج لإنشاء أداة متطورة تشبه روبوت المحادثة، قادرة على الإجابة على أسئلة حول الأشخاص الذين تراقبهم، وتوفير رؤى حول كميات هائلة من بيانات المراقبة التي تجمعها.

وسرّعت الوحدة التي تقارن قدراتها بوكالة الأمن القومي الأمريكية، أن أس إي، جهودها لتطوير النظام  بعد بداية عدوان الاحتلال الإسرائيلي على غزة في تشرين الأول/ أكتوبر 2023. ولا يزال النموذج طور التدريب في النصف الثاني من العام الماضي، ولا يعرف إن تم نشره بعد.

وتمّ الكشف جزئيا عن الجهود لتطوير نموذج اللغة الكبير أو "أل أل أم"، وهو نظام تعلم متقدم يولد نصا يشبه النص البشري، في محاضرة عامة لم يلحظها أحد وقدمها أحد خبراء تكنولوجيا الاستخبارات العسكرية السابقين، الذي قال إنه أشرف على المشروع. 

وقال المسؤول السابق، شكيد روجر جوزيف سيدوف، أمام الحضور في مؤتمر عسكري للذكاء الاصطناعي في "تل أبيب"، العام الماضي: "لقد حاولنا إنشاء أكبر مجموعة بيانات ممكنة [و] جمع كل البيانات التي حصلت عليها إسرائيل على الإطلاق باللغة العربية". 

وأضاف سيدوف، أنّ: "النموذج يتطلب "كميات هائلة" من البيانات"؛ فيما أكّد ثلاثة مسؤولين سابقين في الاستخبارات على دراية بالمبادرة وجود برنامج التعلم الآلي وشاركوا تفاصيل حول بنائه.

ووصفت عدّة مصادر أخرى كيف استخدمت الوحدة 8200 نماذج التعلم الآلي الأصغر حجما في السنوات التي سبقت إطلاق المشروع الطموح، والتأثير الذي أحدثته هذه التكنولوجيا بالفعل. 

وقال مصدر مطلع على تطوير وحدة 8200 لنماذج الذكاء الاصطناعي في السنوات الأخيرة: "الذكاء الاصطناعي يزيد من القوة"، وأضاف أنّ "الأمر لا يتعلق فقط بمنع الهجمات بإطلاق النار، بل يمكنني تتبع نشطاء حقوق الإنسان، ومراقبة البناء الفلسطيني في المنطقة ج [من الضفة الغربية]. ولدي المزيد من الأدوات لمعرفة ما يفعله كل شخص في الضفة الغربية".

وتعلّق الصحيفة بكون: "التفاصيل حول حجم النموذج الجديد تلقي الضوء على احتفاظ وحدة 8200 وعلى نطاق واسع بمحتوى الاتصالات التي تم اعتراضها، وهو ما مكّنها من مراقبة شاملة للاتصالات الفلسطينية"، حسب وصف مسؤولين استخباراتيين إسرائيليين وغربيين حاليين وسابقين.

ويوضّح المشروع أيضا كيف تسعى الوحدة 8200، مثل العديد من وكالات التجسّس في جميع أنحاء العالم، إلى الاستفادة من التقدم في مجال الذكاء الاصطناعي لإجراء مهام تحليلية معقدة وفهم الكميات الهائلة من المعلومات التي تجمعها بشكل روتيني، والتي تتحدى بشكل متزايد المعالجة البشرية وحدها.

ولكن دمج أنظمة كنموذج اللغة الكبير في التحليل الاستخباراتي يحمل الكثير من المخاطر لأن الأنظمة عادة ما تفاقم التحيز ولديها قابلية لارتكاب أخطاء، كما يحذر الخبراء ونشطاء حقوق الإنسان. كما أن طبيعتها الغامضة قد تجعل من الصعب أيضا فهم كيفية التوصل إلى الاستنتاجات التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

وعبّر باحث في مجال المراقبة بمنظمة "هيومان رايتس ووتش"، زاك كامبل، عن قلقه من أن تستخدم الوحدة 8200 برامج الذكاء الاصطناعي لاتّخاذ قرارات مهمة بشأن حياة الفلسطينيين تحت الاحتلال العسكري. وقال: "إنها آلة تخمين، وفي النهاية يمكن استخدام هذه التخمينات لتجريم الناس".

ورفض متحدث باسم جيش الاحتلال الإسرائيلي، الكشف عمّا إن كان يستخدم نموذج اللغة الكبير، لكنه قال إنّ: "الجيش يستخدم عددا من الأساليب لتحديد وإحباط نشاطات المنظمات المعادية في الشرق الأوسط".

وتشير الصحيفة إلى أنّ: "وحدة 8200 قد طوّرت عددا من الأساليب التي تعمل بالذكاء الاصطناعي في السنوات الأخيرة". وكانت أنظمة مثل "غوسبل" و"لافيندر" والتي تم دمجها بسرعة في العمليات القتالية في الحرب على غزة، لعبت دورا مهما في قصف جيش الاحتلال الإسرائيلي للمنطقة من خلال المساعدة في تحديد الأهداف المحتملة (كل من الأشخاص والمباني) للضربات القاتلة.

وتابعت: "منذ ما يقرب من عقد من الزمان، استخدمت الوحدة أيضا الذكاء الاصطناعي لتحليل الاتصالات التي تعترضها وتخزّنها، باستخدام سلسلة من نماذج التعلم الآلي لفرز المعلومات إلى فئات محددة مسبقا، وتحديد كيفية التعرف على الأنماط وإجراء التنبؤات".

وأبرزت: لكن عندما حشد جيش الاحتلال الإسرائيلي، مئات الآلاف من جنود الاحتياط، عادت مجموعة من الضباط ذوي الخبرة في بناء نموذج اللغة الكبير إلى الوحدة من القطاع الخاص. وجاء بعضهم من شركات التكنولوجيا الأمريكية الكبرى، مثل غوغل وميتا ومايكروسوفت. 

وقالت غوغل إنّ: "العمل الذي يقوم به موظفوها كجنود احتياطيين "غير مرتبط" بالشركة، فيما رفضت ميتا ومايكروسوفت التعليق.

ونقلت الصحيفة عن مصدر، قوله إنّ: "الفريق الصغير من الخبراء بدأ في بناء نموذج اللغة الكبير، قادر على فهم اللغة العربية، ولكن كان عليه فعليا أن يبدأ من الصفر بعد اكتشاف أن النماذج التجارية والمصادر المفتوحة باللغة العربية الموجودة، تم تدريبها باستخدام اللغة العربية المعيارية المكتوبة والمستخدمة في الاتصالات الرسمية والأدب والإعلام – بدلا من اللغة العربية المنطوقة".

وقال أحد المصادر: "لا توجد نصوص للمكالمات أو محادثات واتساب على الإنترنت بكمية كافية لتدريب مثل هذا النموذج". وأضافوا أن التحدي كان "جمع كل النصوص [العربية المنطوقة] التي حصلت عليها الوحدة على الإطلاق ووضعها في مكان مركزي".

وقالوا إنّ: "بيانات تدريب النموذج تتكون في النهاية من حوالي 100 مليار كلمة"؛ فيما قال مصدر مطلع على المشروع لصحيفة "الغارديان" إن هذا الكم الهائل من الاتصالات يشمل محادثات باللهجتين اللبنانية والفلسطينية. 

وقالت مصادر أخرى، بحسب الصحيفة نفسها، إنّ: "الوحدة سعت أيضا إلى تدريب النموذج على فهم المصطلحات العسكرية المحددة للجماعات المسلحة. لكن يبدو أن عملية جمع البيانات التدريبية الضخمة تضمّنت جمع كميات كبيرة من الاتصالات التي لا قيمة استخباراتية لها عن الحياة اليومية للفلسطينيين".
 
وأوضحوا: "لا تعد الوحدة 8200 وحدها بين وكالات التجسس التي تجري تجارب على تكنولوجيا الذكاء الاصطناعي التوليدي". ففي الولايات المتحدة، طرحت وكالة المخابرات المركزية أداة شبيهة بتشات جي بي تي لغربلة المعلومات من المصادر المفتوحة. 

كذلك، تعمل وكالات التجسس في بريطانيا على تطوير برامجها الخاصة للذكاء الاصطناعي، والتي يقال إنها تدربها أيضا على مجموعات البيانات  من المصادر المفتوحة.

لكن العديد من المسؤولين الأمنيين السابقين في أمريكا وبريطانيا قالوا إنّ: "مجتمع الاستخبارات الإسرائيلي يبدو أنه يجازف بمخاطر أكبر من أقرب حلفائه عند دمج أنظمة جديدة تعتمد على الذكاء الاصطناعي في تحليل الاستخبارات".

وقال أحد مسؤولي التجسّس الغربيين السابقين إنّ: "جمع الاستخبارات العسكرية الإسرائيلية المكثف لمحتوى الاتصالات الفلسطينية سمح لها باستخدام الذكاء الاصطناعي بطرق "لن تكون مقبولة" بين وكالات الاستخبارات في البلدان التي تتمتع برقابة أقوى على استخدام سلطات المراقبة والتعامل مع البيانات الشخصية الحساسة".

وقال كامبل من "هيومان رايتس ووتش" إنّ: "استخدام مواد المراقبة لتدريب نموذج الذكاء الاصطناعي "أمر ينتهك حقوق الإنسان ويتعارض معها"، وإن إسرائيل كقوة احتلال ملزمة بحماية حقوق الخصوصية للفلسطينيين". 

وأضاف: "نحن نتحدث عن بيانات شخصية للغاية مأخوذة من أشخاص لا يشتبه في ارتكابهم جريمة، واستخدامها لتدريب أداة يمكن أن تساعد بعد ذلك في إثبات الشكوك".

وقال مدير "حملة" وهي مجموعة حقوق رقمية فلسطينية، نديم ناشف، إنّ: "الفلسطينيين أصبحوا موضوعات في مختبر إسرائيل لتطوير هذه التقنيات وتسليح الذكاء الاصطناعي، وكل ذلك لغرض الحفاظ على نظام الفصل العنصري والاحتلال حيث تُستخدم هذه التقنيات للسيطرة على شعب، والسيطرة على حياته".

ووفقا للصحيفة: "فوق هذا يحذر خبراء من الأخطاء التي قد يرتكبها نموذج الذكاء الاصطناعي، فقد لاحظت بريانا روزين المسؤولة السابقة في مجلس الأمن القومي بالبيت الأبيض، وهي الآن باحثة بارزة في جامعة أكسفورد، أنه في حين أن أداة شبيهة بتشات جي بي تي يمكن أن تساعد محلل الاستخبارات على اكتشاف التهديدات التي قد يغفل عنها البشر، حتى قبل ظهورها، إلا أنها تخاطر أيضا باستخلاص روابط خاطئة واستنتاجات خاطئة".

وقالت إنه: "من الأهمية بمكان أن تتمكن وكالات الاستخبارات التي تستخدم هذه الأدوات من فهم المنطق وراء الإجابات التي تنتجها". مبرزة: "سوف تحدث أخطاء، وقد تكون لبعض هذه الأخطاء عواقب وخيمة جدا". 

وفي شباط/ فبراير، ذكرت وكالة "أسوشيتد برس" أنّ: "ضباط الاستخبارات ربّما استخدموا الذكاء الاصطناعي للمساعدة في اختيار هدف في غارة جوية إسرائيلية في غزة في تشرين الثاني/ نوفمبر 2023، والتي قتلت أربعة أشخاص، بما في ذلك ثلاث فتيات. وأشارت رسالة اطلعت عليها وكالة الأنباء إلى أن الغارة الجوية نفّذت عن طريق الخطأ".