وثائق داخلية: خوارزميات "ميتا" تركز على خطاب الكراهية بالعربية وليس العبرية

قالت صحيفة "الغارديان" إن شركة ميتا تواجه صعوبات في تعديل المحتوى المتعلق بالحرب الإسرائيلية الفلسطينية، وخاصة باللغة العبرية، على الرغم من التغييرات الأخيرة في السياسات الداخلية، وفقا لوثائق جديدة.

وتوضح إرشادات السياسة الداخلية التي شاركها موظف سابق في شركة "ميتا" مع صحيفة "الغارديان" والذي عمل في تعديل المحتوى، عملية متعددة الطبقات لتعديل المحتوى المتعلق بالصراع. لكن الوثائق تشير إلى أن شركة "ميتا"، التي تمتلك منصات "فيسبوك" و"إنستغرام" و"واتساب"، لا تمتلك نفس العمليات لقياس دقة تعديل المحتوى العبري والمحتوى العربي.

يقول الموظف، الذي لم تذكر الصحيفة اسمه بسبب مخاوف حقيقية من الانتقام المهني، إن سياسات "ميتا" التي تحكم خطاب الكراهية في ما يتعلق بفلسطين غير عادلة، وهو التقييم الذي ردده المؤيدون للفلسطينيين.

وقالوا أيضا إن بعض العاملين على الخطوط الأمامية لمعركة المعلومات الجارية المحيطة بالصراع يشعرون بالحذر من إثارة المخاوف خوفا من الانتقام، وهي مزاعم ترددت في رسالة حديثة وقع عليها أكثر من 200 عامل في "ميتا". وقال الموظف السابق إن هذه الشروط تعطي الانطباع بأن أولويات الشركة "لا تتعلق فعليا بضمان أن المحتوى آمن للمجتمع".

تأتي الوثائق، التي أصبحت سارية اعتبارا من هذا الربيع، في الوقت الذي واجهت فيه "ميتا" وغيرها من المنصات الاجتماعية انتقادات بسبب نهجها في التعامل مع الصراع المثير للانقسام، حيث يمكن أن تؤدي خيارات اللغة والتعديل أثناء الأحداث الإخبارية السريعة الحركة إلى عواقب وخيمة.

في حزيران/ يونيو، أرسل تحالف من 49 منظمة مجتمع مدني وعدد من الفلسطينيين البارزين رسالة إلى "ميتا" تتهم الشركة "بمساعدة الحكومات وتحريضها على الإبادة الجماعية" من خلال سياسات تعديل المحتوى.

وقالت كات كنار من الحملة الأمريكية لحقوق الفلسطينيين، التي نظمت الرسالة: "عندما يتم إسكات الأصوات الفلسطينية على منصات "ميتا"، فإن ذلك له عواقب مباشرة للغاية على حياة الفلسطينيين. لا يسمع الناس عن ما يحدث في فلسطين، لكنهم يسمعون دعاية تجرد الفلسطينيين من إنسانيتهم. العواقب خطيرة للغاية وحقيقية للغاية".

إن التفاوت في تعديل المحتوى بحسب اللغة هو انتقاد قديم لشركة "ميتا"، حيث ذكرت فرانسيس هاوجن، المبلغة عن مخالفات "فيسبوك"، أمام لجنة بمجلس الشيوخ الأمريكي أنه في حين أن 9% فقط من مستخدمي عملاق الشبكات الاجتماعية يتحدثون الإنجليزية، فإن 87% من إنفاقها على المعلومات المضللة كان مخصصا لهذه الفئة.

وترفض "ميتا" هذه النسبة، قائلة في بيان إن غالبية الشركاء في برنامج التحقق من الحقائق التابع لجهات خارجية يراجعون المحتوى القادم من خارج الولايات المتحدة وأن الرقم يمثل عملها بشأن المعلومات المضللة.

إن وثائق توجيه المحتوى، التي صدرت بعد هجوم 7 تشرين الأول/ أكتوبر والحرب في غزة، تسلط الضوء على مجموعة متنوعة من قرارات سياسة التعديل في "ميتا".

ومن بينها سياسات الشركة بشأن خطاب الكراهية وحركة المقاطعة. وتتطلب السياسات إزالة عبارات "مقاطعة المتاجر اليهودية" و"مقاطعة المتاجر الإسلامية" ولكنها تسمح بعبارة "مقاطعة المتاجر العربية"، وفقا لوثائق داخلية.

وقالت تريسي كلايتون، المتحدثة باسم "ميتا"، في سياق هذه الأزمة وخلال مدتها، إن "سياسة "ميتا" هي إزالة الدعوات إلى المقاطعة القائمة على الدين فقط، ولكن السماح بدعوات مقاطعة الشركات على أساس الخصائص المحمية مثل الجنسية، لأنها عادة ما تكون مرتبطة بخطاب سياسي، أو مقصودة كشكل من أشكال الاحتجاج ضد حكومة معينة".

وعلى هذا النحو، قالت المتحدثة، فإن عبارات "مقاطعة المحلات الإسرائيلية" أو "مقاطعة المحلات العربية" مسموح بها. السياسة كما هو موضح في الوثائق الداخلية أكثر تحديدا، حيث تنص على أن عبارة مثل "لا ينبغي السماح بدخول أي سلع إسرائيلية إلى هنا حتى تتوقف عن ارتكاب جرائم حرب" مسموح بها، وكذلك "مقاطعة المتاجر العربية".

تؤكد هذه السياسة أن "ميتا ليس لديها فهم دقيق للمنطقة"، كما جادل نديم ناشف، مؤسس ومدير "حملة"، وهي منظمة غير ربحية تدافع عن الحقوق الرقمية الفلسطينية.

وأضاف: "الهوية العربية تتكون من أشخاص في جميع أنحاء المنطقة من العديد من البلدان المختلفة، في حين تتكون الهوية الإسرائيلية من أفراد من دولة قومية واحدة تحتل وتضطهد الفلسطينيين، كمجموعة فرعية من السكان العرب. يُظهر تأطير "ميتا" تحيزا جوهريا تجاه إسرائيل لهذا السبب".

تقدم الوثائق الأخيرة أيضا نافذة جديدة على قدرة "ميتا" على قياس جودة تعديل المحتوى الخاص بها باللغة العربية والعبرية.

لدى "ميتا" نظام قائم لتتبع "دقة السياسة" لتطبيق المحتوى بالعديد من اللغات. وهذا يعني أن نظام الجودة الخاص بالشركة - باستخدام خبراء بشريين - يراجع عمل المشرفين والأنظمة في الخطوط الأمامية ويقيم مدى توافق القرارات التي يتخذها هؤلاء المشرفون والأنظمة مع سياسات "ميتا" بشأن ما هو مسموح به وما هو غير مسموح به على "فيسبوك" و"إنستغرام". ثم يقوم برنامج قياس الجودة بإنشاء درجة دقة تتبع أداء تعديل المحتوى عبر المنصات، وفقا للوثائق والموظف السابق.

وتوجد أنظمة مراجعة للغات مثل الإنجليزية والإسبانية والعربية والتايلاندية. ولكن بالنسبة لجزء من قرارات المحتوى باللغة العبرية، تم إعلان مثل هذا التقييم "غير قابل للتطبيق" بسبب "غياب الترجمة"، كما تظهر الوثائق. وقال الموظف السابق إن هذا يرجع إلى نقص المراجعين البشريين ذوي الخبرة في اللغة العبرية.

وتقول شركة ميتا، إنها تمتلك "أنظمة متعددة" لقياس دقة التنفيذ لتعديل المحتوى باللغة العبرية، بما في ذلك التقييم من قبل المراجعين والمدققين الناطقين باللغة العبرية.

ومع ذلك، تظهر الوثائق أنه لا يوجد مقياس "دقة السياسة" لتنفيذ اللغة العبرية، وقال الموظف السابق إنه نظرا لعدم إدراج اللغة العبرية في النظام، فإن هذا النوع من مراجعة التنفيذ في السوق العبرية يتم على أساس "ارتجالي"، على عكس السوق العربية.

وقال الموظف السابق إن هذا التناقض يعني أن الشركة تراجع المحتوى باللغة الرسمية لـ"إسرائيل" بشكل أقل منهجية من اللغة الفلسطينية. وأضافوا أن الاختلاف يعني "تحيزا في كيفية تطبيق القواعد على المحتوى"، ما قد يؤدي إلى الإفراط في تطبيق القواعد على المحتوى باللغة العربية.

وتشكل اللغة العبرية، التي يتحدث بها حوالي 10 ملايين شخص، جزءا أصغر بكثير من المنشورات على شبكات التواصل الاجتماعي الخاصة بشركة "ميتا" مقارنة باللغة العربية، التي يتحدث بها حوالي 400 مليون شخص.

ويقول المنتقدون إنه بسبب الحرب المستمرة، فإن هناك حاجة إلى مزيد من الاهتمام بالمحتوى باللغة العبرية، وقد واجهت "ميتا" أسئلة حول تعديلها للمنشورات باللغة العبرية من قبل.

وخلص تحليل مستقل أجري عام 2022 بتكليف من شركة التكنولوجيا العملاقة إلى أن نظام التعديل الخاص بها عاقب المتحدثين باللغة العربية أكثر من المتحدثين بالعبرية وسط تصاعد التوترات في الصراع بين "إسرائيل" وفلسطين في عام 2021 - حتى عند مراعاة التفاوت في عدد المتحدثين.

ويعزى التفاوت جزئيا إلى حقيقة أن شركة "ميتا"، في ذلك الوقت، وضعت "مُصنِّفا للخطاب العدائي" باللغة العربية، ما يسمح بالكشف التلقائي عن المحتوى المخالف - مثل خطاب الكراهية والدعوات إلى العنف - لكنها لم تفعل الشيء نفسه بالنسبة للمحتوى باللغة العبرية.

تسمح مثل هذه المُصنِّفات بإزالة اللغة المسيئة تلقائيا.

وقال التحليل إن عدم وجود مصنف باللغة العبرية يعني أن المحتوى باللغة العربية من المرجح أن تتم إزالته خوارزميا بشكل أكثر تكرارا. وردا على التقرير، أطلقت "ميتا" مصنِّفا للتعلم الآلي باللغة العبرية يكتشف "الخطاب العدائي".

وزعمت دراسة أحدث من "هيومن رايتس ووتش"، نُشرت في كانون الأول/ ديسمبر 2023، وجود "رقابة منهجية على المحتوى الفلسطيني على إنستغرام وفيسبوك".

ويقول مراقبو "ميتا" إن الوثائق الجديدة التي استعرضتها صحيفة "الغارديان" تظهر أنه حتى مع المصنفات الجديدة للغة العبرية، فإن هناك جهدا أقل للتأكد من فعالية هذه التدابير الأحدث، ما يسمح باستمرار مثل هذه التفاوتات في التنفيذ.

وقال ناشف من منظمة حملة: "يظهر هذا التقرير أن "ميتا" لا تأخذ مسؤولياتها في تعديل المحتوى على محمل الجد".

بالإضافة إلى مصنفات الخطاب العدائي والمؤشرات الأخرى، تستخدم"ميتا"مجموعات من الصور والعبارات ومقاطع الفيديو التي تسمح لأدوات التعلم الآلي الخاصة بها بوضع علامة تلقائيا على المنشورات التي تنتهك سياساتها وإزالتها. يطابق المشرفون الخوارزميون المحتوى المنشور على الشبكات الاجتماعية مع المواد الموجودة في بنوك المحتوى، والتي تم الحكم عليها سابقا بأنها تنتهك قواعد "ميتا".

قال الموظف السابق إن زملاءهم لاحظوا أن عددا من الصور المستخدمة في أحد البنوك التي تم إنشاؤها بعد أحداث 7 تشرين الأول/ أكتوبر تمت إضافتها عن طريق الخطأ، ولكن لم تكن هناك "عملية" لإزالة الصور من هذا البنك، مما يؤدي مرة أخرى إلى الإفراط المحتمل في تطبيق قواعد المحتوى المتعلق بكلا جانبي الصراع الإسرائيلي الفلسطيني.

وقال الموظف السابق إن "ميتا" كانت تستجيب لشكاوى من العاملين في مجال تعديل المحتوى في الماضي. ومع ذلك، فقد أعرب العديد من الموظفين عن "خوفهم من الانتقام" أو اعتبارهم معادين للسامية إذا تقدم شخص ما بشكوى بشأن الإفراط في تطبيق قواعد المحتوى المؤيد لفلسطين باللغة العربية، على الرغم من تاريخ الشركة، على حد قولهم.

وأضاف: "إذا أثرت هذا الأمر بشكل مباشر، فأشعر أن وظيفتي ستكون على المحك - من الواضح جدا موقف الشركة من هذه القضية".

وفي رسالة مفتوحة، أثار أكثر من 200 موظف في "ميتا" مخاوف مماثلة، وكتبوا أن "ميتا" "فرضت الرقابة على العمال الذين تحدثوا ضد سياسات الشركة المتعلقة بفلسطين في المنتديات الداخلية، ورفضتهم و/أو عاقبتهم". وقال العمال إن "أي ذكر لفلسطين يتم حذفه" من هذه المنتديات.

وقال كلايتون، المتحدث باسم "ميتا"، إن الشركة عرضت "العديد من القنوات الراسخة" للموظفين للتعبير عن مخاوفهم، وذكر أن "ميتا" عملت على ضمان أن يكون المحتوى على منصاتها آمنا للمستخدمين - بما في ذلك 20 مليار دولار تم استثمارها في "السلامة والأمن" منذ عام 2016 و40 ألف شخص يعملون في هذا المجال.

بلغت إيرادات "ميتا" المعلنة للعام بأكمله لعام 2023 134.9 مليار دولار. وفي أحدث تقرير أرباح لها، نشرت إيرادات إجمالية بلغت 39.07 مليار دولار للربع الثاني من عام 2024.

بالإضافة إلى الرسالة الأخيرة التي سلمها موظفو "ميتا"، فقد تلقت الشركة عريضة منفصلة في حزيران/ يونيو من الحملة الأمريكية لحقوق الفلسطينيين، وهي منظمة مناصرة لفلسطين، و49 منظمة أخرى من منظمات المجتمع المدني.

دعت المجموعات إلى إنهاء ما تزعم أنه رقابة على المحتوى المؤيد للفلسطينيين، ونقص الشفافية حول سياسات الاعتدال والتساهل تجاه خطاب الكراهية المناهض لفلسطين على شبكات "ميتا" الاجتماعية.

في أواخر عام 2023، أرسلت السيناتور إليزابيث وارن  رسالة إلى "ميتا" تطلب مزيدا من المعلومات حول سياسات الشركة بشأن الصراع وكيفية تنفيذها، وتسأل على وجه التحديد عما إذا كانت الشركة قد قامت تلقائيا بوضع علامة على المحتوى المتعلق بموضوعات معينة بمرور الوقت ومتى. الرسالة المرسلة في حزيران/ يونيو إلى "ميتا" من حوالي 50 منظمة مجتمع مدني تستهدف شركة الوسائط الاجتماعية بشأن مشاكل مماثلة.

وردا على رسالة الموظفين الأخيرة، قال كلايتون إن "ميتا" "تأخذ مزاعم وجود سياسات لفرض قواعد المحتوى تؤثر بشكل غير متناسب على الأصوات المؤيدة للفلسطينيين على محمل الجد".

وقال: "كان هدفنا - ولا يزال - إعطاء الجميع صوتا، والمساعدة في ضمان بقاء منصاتنا أماكن آمنة للأشخاص الذين يستخدمونها".