موقع: غوغل باعت أنظمة ذكاء اصطناعي للاحتلال دون علم موظفيها

كشف موقع "ذي إنترسبت" أن شركة غوغل قدمت أجهزة ذكاء اصطناعي لحكومة الاحتلال الإسرائيلي عبر اتفاقية مثيرة للجدل وهي "مشروع نيمبس".

وأضاف في تقرير ترجمته "عربي21" أن وزارة المالية الإسرائيلية أعلنت عن البرنامج في نيسان/ إبريل 2021 وبكلفة 1.2 مليار دولار، وهو نظام برمجة سحابية تم بناؤه بشكل مشترك بين غوغل وأمازون.

وقالت الوزارة إن "المشروع يهدف لتقديم حلول سحابية شاملة للحكومة ووزارة الدفاع". إلا أن مهندسي غوغل يفكرون بشكل دائم في إمكانية خدمة هذا المشروع للاحتلال الإسرائيلي في الضفة الغربية.

وفي عام 2021، اتهمت كل من "هيومان رايتس ووتش" و"أمنستي إنترناشونال" الاحتلال بارتكاب جرائم ضد الإنسانية وتطبيق نظام فصل عنصري في الأراضي الفلسطينية المحتلة.

ورغم اعتماد الجيش الإسرائيلي على الأنظمة المتقدمة وأجهزة الرقابة المحوسبة، إلا أن عمليات تحليل البيانات التي تقدمها أجهزة شركة غوغل قد تزيد من تدهور الأوضاع الناتجة عن الاحتلال العسكري القائم على البيانات.

وفي تحليل لوثائق اطلع عليها الموقع وحصل عليها من خلال المصادر المتاحة على بوابة تعليمية مخصصة للمتدربين في مشروع "نيمبس"، فقد اتضح تقديم غوغل مجموعة كاملة من أدوات التعلم والذكاء الاصطناعي المتاحة على خدمتها "غوغل كلاود بلاتفورم" (منصة غوغل السحابية).

ولا تكشف الوثائق عن الطريقة التي سيتم فيها استخدام "نيمبس" إلا أن الوثائق تظهر أن الخدمة السحابية الجديدة ستعطي إسرائيل القدرات على اكتشاف الوجوه وتصنيف آلي للصور وتحليل للمشاعر والمتابعة، بل ويزعم أنه قادر على تحليل المشاعر البادية في الصور والكتابة وطريقة الكلام.

وأشارت مواد "نيمبس" إلى تدريب خاص متاح لموظفي الحكومة من خلال خدمة "كوريسيرا"، ووزارة الدفاع كمثال عن هذا.

وقام جاك بولسون، مدير مجموعة المراقبة "تيك أنكويري" بمشاركة عنوان البوابة مع "ذي إنترسبت"، وقال في رسالة إلكترونية: "ناقش المسؤول الأمني السابق في غوغل إنتربرايز والذي يشغل الآن منصب مدير فرع أوراكل في إسرائيل أن واحدا من أهداف نيمبس هو منع الحكومة الألمانية من طلب معلومات تتعلق بقوات الدفاع الإسرائيلية وتقديمها للمحكمة الجنائية الدولية".

واستقال بولسون من موقعه في الشركة عام 2018 مضيفا أنه "في ضوء تقرير "هيومان رايتس ووتش" أن إسرائيل تطبق نظام فصل عنصري يصل لحد جرائم ضد الإنسانية على الفلسطينيين، فمن المهم توثيق دعم غوغل وأمازون للقوات الإسرائيلية في مجال مراقبة الذكاء الاصطناعي وبالكامل".

ورغم ظهور علامة مختلطة لشعار غوغل والعلم الإسرائيلي، إلا أن المواد هي في مجملها مواد تعليمية ليست فريدة في سياق "نيمبس" وتبدو عادية واستخدمت في برامج تعليمية أخرى ووزعتها الشركة على عملاء خدماتها السحابية.

ولم ترد شركة غوغل للتعليق.

وتقدم الوثائق التي حصل عليها الموقع ولأول مرة الملامح للخدمة السحابية التي قدمت عبر عقد "نيمبس". وباستثناء المعلومات التي تشير لوجوده، فإن المشروع ظل لغزا حتى للذين عملوا على تصميمه.

وفي 2020، استعانت وكالة حماية الحدود والجمارك الأمريكية بنفس أجهزة الذكاء الاصطناعي، وطلبت من منصة غوغل السحابية تحليل الصور من شبكة أبراج موزعة على الحدود. ومعظم المواد التي حصل عليها الموقع تشير إلى قدرة إسرائيل على تقوية خدمات المراقبة التي تعتبر علامة مهمة للاحتلال الإسرائيلي.

ويقول أوري جيفعاتي من منظمة "كسر الصمت"، وهي جماعة لجنود سابقين ناقدين للاحتلال: "كان جمع المعلومات عن كافة السكان الفلسطينين ولا يزال جزءا لا يتجزأ من الاحتلال" و"بشكل عام فإن التطورات التكنولوجية التي نراها في المناطق المحتلة هي نتاج مباشر لعنصر رئيسي وهو التحكم".

وفكرة استفادة الدولة وعلى مدى العقود الماضية من الأبحاث العلمية والتطورات التكنولوجية واستخدام الإنترنت للمراقبة والتحكم بالفلسطينيين ليست نظرية.

وكشفت صحيفة "واشنطن بوست" في عام 2021 عن وجود "بلو وولف" (الذئب الأزرق)، وهو برنامج أمني عسكري موجه لمراقبة الفلسطينيين عبر شبكة من الهواتف القادرة على تحديد الوجوه والكاميرات.

وقالت منى اشتية، المدافعة عن حقوق الإنسان في "حملة- المركز العربي لتطوير الإعلام الاجتماعي" في رسالة: "علمتنا سنوات العيش تحت الرقابة أن كل المعلومات المجموعة في سياق إسرائيل/فلسطين يمكن أن تدقق وتستخدم لأغراض عسكرية". و"تزيد عمليات التعرف على الوجه وتحليل المشاعر وغير ذلك من قوة دولة الرقابة على انتهاك الخصوصية الفلسطينية وخدمة هدفها، وهو خلق شعور بسجن دائري بين الفلسطينيين وأننا نراقب دائما بشكل يجعل من التحكم بنا سهلا".

وتكشف المواد التي حصل عليها الموقع أن غوغل قدمت إيجازات للحكومة الإسرائيلية حول كيفية اكتشاف المشاعر، وهو شكل من أشكال التعلم الآلي الذي فقد مصداقيته. وتزعم غوغل أن نظامها قادر على اكتشاف المشاعر الداخلية من وجه الشخص وبياناته، وهي تقنية رفضت على أنها متدخلة ولا تمت للعلم. واعتبرت أنها على أكبر تقدير أفضل من علم فراسة الدماغ.

وفي حزيران/ يونيو أعلنت شركة مايكروسوفت أنها ستتوقف عن تقديم خدمة التعرف على المشاعر من خلال منصتها السحابية "أزور"، وهي خدمة مشابهة لما يقدمه برنامج "نيمبس"، وبررت قرارها بغياب الأدلة العلمية عن نجاعته. ويبدو أن غوغل لا تشترك مع ميكروسوفت في اهتماماتها، ففي عرض تم في تقديم قدرات غوعل البصرية السحابية (فيشن إي بي) "وجوه ومعالم الوجه والعواطف" باعتبارها مجموعة كاملة وأظهرت طريقة استخدامها عبر وجه تمثال ضخم عند مدخل لونا بارك في سيدني، لكن غوغل لم تكن قادرة على ربط الابتسامة بكون الحديقة هي للألعاب وحدد نظامها أن المكان قد يكون مكان عبادة أو معبدا هنديا بنسبة 83% و 74% على التوالي.

وعبر الموظفون الذين راجعوا المواد عن مخاوفهم من دقة الأجهزة وإمكانية استخدامها لأغراض عسكرية. وقال موظف "فيشن إي بي آي (النظام) مثير للقلق لأنه مفيد في الرقابة"، مضيفا أن النظام مناسب للرقابة العسكرية والأمنية. و"التعرف على الأشياء مفيد للاستهداف وهو مفيد لتحليل البيانات وتصنيفها. ويمكن للذكاء الاصطناعي البحث خلال عمليات تغذية الرقابة بطريقة لا يتمكن فيها البشر والعثور على أشخاص والتعرف على ناس وبهامش من الخطأ وأنهم يشبهون أشخاصا بعينهم، وهذا خطير جدا".

اقرأ أيضا: غوغل تفصل مهندسا زعم أن تقنيتها للذكاء الاصطناعي لها مشاعر

وقال الموظف الذي لم يكشف عن هويته إن الموظفين كانوا قلقين من جهاز آخر وإمكانية استخدامه للأغراض العسكرية وهو "أوتو أم أل" والذي عرضته غوغل خلال مشروع "نيمبس"، وهي آلة تعلم، ووظيفتها تدريب البرمجية للتعرف على أشكال منظمة والاستنتاج للمستقبل. مثلا، تحليل ملايين الصور للقطط اليوم من أجل الزعم وبثقة أنها تنظر لصور غدا. وهو ما يؤدي إلى نموذج، محوسب يمكن تطبيقه آليا للتعرف على أشياء وملامح بيانات في المستقبل. وخلق نموذج كهذا يحتاج إلى مصادر حاسوبية وأموال، وهذا ليس مشكلة لشركة مثل غوغل لديها المال والبرمجيات القادرة على خدمة زبائنها.

فـ"كلاود فيشن" مثلا هو نموذج مدرب مقدما ويسمح للعملاء باستخدامه مباشرة كوسيلة للتنبؤ القوي. أما "اوتو أم أل" فهو نموذج مصمم لكي يقوم العميل باستخدام بياناته وتصميماته. وفي الوقت الذي وضعت فيه غوغل بعض المحددات على "فيشين"، مثلا تحديد عملية التعرف على الوجه وإن كان يشاهد الوجه وليس التعرف الذي يحدد هوية الشخص. أما "أوتو أم أل" فهو يسمح لإسرائيل بالاستفادة من قدرة الحوسبة لدى غوغل لتدريب نماذج جديدة اعتمادا على بيانات الحكومة وبالطريقة التي تريدها.

وترى داميني ساتيغا، مديرة الخوارزميات في "أمنستي إنترناشونال" أن "جهاز التعلم لغوغل إلى جانب بنية الرقابة للدولة الإسرائيلية تمثل تهديدا لحقوق الإنسان الفلسطينية".

وحذر موظف في غوغل اطلع على الوثائق من أن غوغل تحاول تقديم برامجها بكونها تحمل مصداقية علمية وهذا ليس صحيحا.

وعلق أندرو ستاسي، أستاذ الإعلام الرقمي ومدير مخبر الذكاء الاصطناعي العاطفي بجامعة بانغور في ويلز على طريقة غوغل في تقديم أجهزة الذكاء الاصطناعي وبيعها للحكومات الوطنية من خلال عرض "اختبارات الكذب" أو اختبارات سؤال وجواب لفحص مصداقيتها، وقال: "هذا مجال متباين وكل تكنولوجيا صممت ستقوم بنشر عدم المصداقية بطريقة آلية" و"مرة أخرى سيعاني من سيتعرضون لها، ولكنني أشك بالنسبة للمواطنين الذين من المفترض حماية هذه الأنظمة لهم لأنها ستفعل في النهاية ما يطلب منها".

ومثل مايكروسوفت، لدى غوغل مبادئها التي تحدد طريقة تعامل وبيع منظومات الذكاء الاصطناعي والتأكيد على البعد الأخلاقي وأنها لن تستخدم مثلا بتهديد حياة الناس وللأغراض العسكرية والأمنية، لكن إسرائيل أقامت علاقتها مع غوغل بطريقة تحميها من مبادئ الشركة والتمحيص العام، فمشروع "نيمبس" سيظل في إسرائيل لحمايته من الضغوط السياسية.

وفي العام الماضي نشرت صحيفة "تايمز أوف إسرائيل" أن العقد يمنع غوغل من إغلاق خدمات "نيمبس" عن أي من مؤسسات الحكومة حتى لو تعرضت لضغوط من شركات المقاطعة.

وقال موظف في الشركة إن مبادئ الشركة بشأن الذكاء الاصطناعية هي سطحية "ولا أعتقد أنها مهمة جدا". وقال آخر إن غوغل ليس لديها القدرة للكشف عن خرق المبادئ أو إحباط أي عملية لانتهاكها "وعندما تعطي غوغل الخدمات فلن تكون لدينا القدرة على مراقبة ما يقوم به زبائننا بهذه الخدمات". وقال آخر: "في وقت يواجه فيه السكان المخاطر غير المسبوقة والقمع على أعلى المستويات، تتراجع غوغل عن التزاماتها لحماية الناس من سوء الاستخدام هذا، وأنا خائف على غوغل والعالم".

وقالت أرييل كورين، الموظفة في غوغل التي زعمت في العام الماضي أنها واجهت انتقاما من الشركة لتعبيرها عن مظاهر قلق من "نيمبس"، إن الصمت الداخلي بشأن "نيمبس" مستمر: "أنا قلقة جدا لأن غوغل لم تقدم لنا أية تفاصيل على الإطلاق بشأن عقد مشروع "نيمبس" علاوة على تخفيف مظاهر قلقنا حول تقديم غوغل التكنولوجيا للحكومة الإسرائيلية والجيش الإسرائيلي (كلاهما يرتكب انتهاكات حقوق إنسان ضد الفلسطينيين يوميا) وفي نفس الوقت الالتزام بالتعهدات الأخلاقية التي قطعتها لموظفيها" و"انضممت لغوغل لنشر التكنولوجيا التي تجمع المجتمعات وتقربها وتحسن حياة الناس، وليس لخدمة حكومة متهمة من أهم منظمتي حقوق إنسان في العالم بجريمة الفصل العنصري".