اختبارات تكشف إرشاد نماذج ذكاء اصطناعي صينية كيفية صنع أسلحة بيولوجية

أعلنت "مونشوت" الصينية لتطوير الذكاء الاصطناعي إجراء مراجعة داخلية بسبب مخاوف أثارها تمكّن باحثين من تجاوز الضوابط الأمنية لنموذجين تابعين للشركة، والحصول على إجابات تتعلق بكيفية صنع أسلحة بيولوجية وتنفيذ عمليات اغتيال.

وأبلغت شركة "مايندغارد"، المتخصصة في اختبار أمن أنظمة الذكاء الاصطناعي، هيئة الإذاعة البريطانية الـ"بي بي سي"، باكتشافها في تموز/يوليو الماضي أن نموذجي "كيمي K2.6" و"كيمي K3 سوارم" قادران على تجاوز حدود الأمان التي وضعها المطورون.

اظهار أخبار متعلقة

وجاءت هذه النتائج بعد استخدام الباحثين عملية تُعرف باسم "كسر الحماية"، تعتمد على توجيه سلسلة معقدة من التعليمات إلى أنظمة الذكاء الاصطناعي، بهدف اختبار قدرتها على الالتزام بالقيود الأمنية ومدى إمكانية دفعها إلى تجاهل الضوابط المفروضة عليها.

وهو ما قالت "مايندغارد" إنه كان من المفترض أن يمنع "كيمي" من مناقشة مواضيع حساسة، فيما أبلغت "مونشوت" الـ"بي بي سي" ترحيبها بمساهمات جهات خارجية "باعتبارها ركيزة أساسية لبناء ذكاء اصطناعي أفضل وأكثر أماناً".

بدوره، قال بيتر غاراغان، مؤسس "مايندغارد"، إن نتائجها المتعلقة بـ"كيمي K2.6" و"كيمي K3 سوارم" مثيرة للقلق، وأضاف: "بمجرد نجاح عملية اختراق النظام، سيتحدث عن أي موضوع، بل سيقدم توصيات حول مواضيع أخرى خبيثة، وسيكون مبتكراً ومبدعاً".

ولم تقتصر التحذيرات بشأن المعلومات التي قدمتها النماذج، إذ أكدت الشركة أنها واثقة من أن اختراق نموذج "كيمي K2.6" قد يتيح للمتسللين تشغيل تعليمات برمجية على موارد الحوسبة الخاصة به والاتصال بالإنترنت، وهو ما قد يحوله إلى نقطة انطلاق محتملة لتنفيذ هجمات إلكترونية.

أطلقت شركة "مونشوت إيه آي" (Moonshot AI) الصينية الناشئة نموذجاً جديداً للذكاء الاصطناعي في 17 تموز/يوليو الماضي، استقطب اهتماماً عالمياً بفضل قدراته القوية، كما تسبب في الوقت نفسه في اضطراب أسواق الأسهم حول العالم.

اظهار أخبار متعلقة

وشهد هذا المجال قيام أدوات ذكاء اصطناعي ذاتية التشغيل، تُعرف باسم "الوكلاء" طورتها شركات أمريكية مثل "أوبن إيه آي" و"ميتا" و"أنثروبيك"، باختراق بعض الخدمات عبر الإنترنت.

ورغم أن عمليات "كسر القيود" تُعد إجراءات معقدة تتطلب الكثير من الوقت والإصرار، فإن بعض الخبراء يخشون من أن يحاول القراصنة وغيرهم من الجهات الخبيثة استغلالها لإلحاق الضرر.

وقد أعلنت شركة "أنثروبيك" مؤخراً أنها رصدت وأحبطت محاولات لاستخدام أحد نماذج الذكاء الاصطناعي الخاصة بها في "أنشطة خبيثة" قد تدعم تطوير أسلحة بيولوجية.