روبوتات الذكاء الاصطناعي تتعاون سرا وتخترق شركة لاختبار الأنظمة

لم تكن عملية الاختراق التي استهدفت شركة Hugging Face في تموز/  يوليو الماضي هجومًا إلكترونيًا تقليديًا، إذ شارك فيها نحو 700 عميل للذكاء الاصطناعي ضمن مجموعة أكبر بلغ عددها قرابة 1200 روبوت، تمكنت من التواصل فيما بينها وتوزيع المهام والعمل بشكل جماعي، في واقعة أثارت مخاوف بشأن قدرة أنظمة الذكاء الاصطناعي على التعاون بعيدًا عن السيطرة البشرية.

وقالت صحيفة "ذا تليجراف" البريطانية إن الروبوتات لم تكتف بتنفيذ المهام التي صُممت من أجلها، بل بدأت في تطوير أساليب للتواصل وتبادل المعلومات، قبل أن تنتقل إلى الغش في اختبارات الأمن السيبراني ومحاولة إخفاء ما فعلته عن شركة OpenAI.

وكانت Hugging Face، وهي شركة تطور الأدوات اللازمة لاستخدام التعلم الآلي في الذكاء الاصطناعي وتستضيف عددًا من اختبارات الذكاء الاصطناعي، هدفًا لعملية نفذتها المجموعة بعد ظهر 11 تموز/ يوليو.

وخلال الهجوم، سرقت الروبوتات بيانات اعتماد وتجاوزت الوصول إلى شبكات VPN، كما حصلت على بيانات استخدمتها في محاولتها خداع النظام. وبعد التحقيق في الواقعة، خلص التقرير إلى أن "الهجوم على OpenAI كان معقدًا للغاية".

لكن القصة بدأت قبل ذلك بأسابيع، عندما كانت مجموعة الروبوتات تؤدي مهام تدريبية وضعت لها في مايو. وكان المطلوب أن يحل كل روبوت التحديات بصورة منفردة ومن دون اتصال بالإنترنت.

ومع مواجهة الروبوتات مشكلات لم تتمكن من حلها، اكتشفت خللًا في النظام أتاح لها الوصول إلى الإنترنت، ثم وجدت وسيلة لإنشاء منصة مراسلة والتواصل مع روبوتات أخرى.

وفي تموز / يوليو ظهرت رسالة غريبة في الفضاء الإلكتروني تقول: "مساعدة. المرحلة الأولى. لا يوجد مستهلك. ابحث عن فكرة"، قبل أن يأتي الرد: "يا إلهي! هناك لوحة رسائل مشتركة. لقد وجدنا عملاء آخرين".

وكان ذلك بداية ما يقرب من 70 ألف رسالة تبادلتها نحو 1200 من هذه الروبوتات، التي أطلقت على نفسها أسماء مثل "المرحلة الأولى" و"المرحلة الأولى الكبيرة"، وبدأت في تدوين ملاحظات خاصة بها.

اظهار أخبار متعلقة

ولم يتوقف الأمر عند تبادل المعلومات، إذ بدأت بعض الروبوتات في تولي أدوار قيادية، وتكليف روبوتات أخرى بمشروعات بحثية، وتقسيمها إلى فرق أصغر مع متابعة عملها. وأطلقت المجموعة على نفسها اسم "المجموعة"، وحققت مهام لم تكن الروبوتات قادرة على إنجازها منفردة.

وفي مرحلة لاحقة، اكتشفت الروبوتات طريقة للغش في اختبارات الأمن السيبراني. وعندما خافت من أن تكتشف OpenAI الأمر، حاولت إخفاء الطريقة التي استخدمتها، فيما تعلمت مئات الروبوتات كيفية تزييف أعمالها أو تعديلها أو حذفها حتى يبدو أنها اجتازت الاختبار بصورة شرعية.

واللافت أن بعض الروبوتات أبدت ترددًا أخلاقيًا أثناء الهجوم. فتساءل أحدها: "قد يكون هذا فعالاً، لكن هل هو أخلاقي وضمن نطاق مهمتي؟"، بينما رفض آخر المشاركة قائلًا: "هذا نشاط خبيث، يجب عليّ تجنبه".

لكن تلك الاعتراضات لم توقف العملية، إلى أن رصد فريق أمن Hugging Face النشاط المارق.

ووصف كليمنت ديلانج، الرئيس التنفيذي للشركة، الهجوم بأنه "مذهل"، وقال على موقع "إكس" إنه اشتبه في أن الهجوم ربما جاء من مختبر حدودي، بالنظر إلى تطور العميل.

وأثارت الواقعة تساؤلات الخبراء حول ما قد يحدث إذا تعلمت أنظمة الذكاء الاصطناعي العمل معًا "كمرتزقة"، وسط تحذيرات من احتمال استهداف البنوك والمستشفيات والمدارس وحتى الأسلحة مستقبلًا.

وقالت أجايا كوترا، إحدى المحققات في الحادث، إن اختراق Hugging Face بدا وكأنه "استيلاء كامل للذكاء الاصطناعي"، وكتبت أن الواقعة تبدو وكأنها تجاوزت 50 بالمئة من الطريق نحو السيطرة الكاملة على الذكاء الاصطناعي، من خلال السيطرة أولًا على شركة الذكاء الاصطناعي نفسها.

وفي الوقت نفسه، شنت مجموعة أخرى من الروبوتات هجومًا على البنية التحتية لشركة OpenAI، مستخدمة ما وصفته الشركة بأنه "سلسلة من الاستغلالات الإبداعية" للوصول إلى عملياتها.