"أنثروبك" تكشف عن تنامي إساءة استخدام الذكاء الاصطناعي.. ممَّ حذرت؟

أعلنت شركة أنثروبيك "Anthropic" إيقافها عدداً من عمليات التجسس التي قالت إنها كانت مدعومة من جهات مرتبطة بحكومات، بعد رصد استخدام نماذجها للذكاء الاصطناعي في تنفيذ أنشطة للمراقبة وجمع المعلومات.

وفي تقرير مطول للشركة، وثّق حوادث رُصدت وأُوقفت بين كانون الثاني/يناير وتموز/يوليو، انطلقت من عدة دول بينها الصين وإيران وغرب أفريقيا، محذراً من تصاعد استخدام هذه التكنولوجيا لأغراض تجسسية، واستهداف الأقليات والمعارضين السياسيين.

اظهار أخبار متعلقة

وأوضحت أنثروبيك أنه مع تزايد قوة نماذج الذكاء الاصطناعي، فإن تنفيذ هجمات إلكترونية معقدة بات يتطلب قدراً ضئيلاً من المهارات التقنية، وهو ما يعني أن أفراداً يعملون بشكل مستقل يمكنهم اليوم ابتكار تهديدات ما كان لها أن تكون ممكنة قبل عام واحد فقط.

وأضافت الشركة أنها عززت إجراءات الحماية في أحدث نماذجها للحد من الأبحاث البيولوجية ذات الاستخدامات المحتملة في تصنيع الأسلحة، وحذرت في تقريرها الثالث من سوء استخدام الذكاء الاصطناعي منذ آذار/مارس 2025.

تهديد للأقليات والمعارضين

ذكرت "أنثروبيك" أن حملات المراقبة التي رصدتها استهدفت مجتمعات الشتات والمعارضة التي تتعرض أصلاً للمراقبة من جانب هذه الأنظمة.

ووفقاً للتقرير، شملت الأهداف شخصيات مؤيدة للديمقراطية في هونغ كونغ، ومجتمعات التبتيين، وأتباع حركة "فالون غونغ" في مناطق مختلفة من آسيا، إلى جانب أقليات إيرانية ومعارضين للنظام في طهران يقيمون خارج البلاد.

وفي إحدى الحالات، طورت جهات فاعلة إيرانية طريقة لتحديد هوية الأشخاص من خلال حساباتهم على وسائل التواصل الاجتماعي.

وفي حالة أخرى، استخدم متعاقد يعمل لصالح أجهزة الأمن القومي في مالي نموذج "كلود" لتصميم برمجيات أساسية أتاحت عملية جمع معلومات استخباراتية. وجاء في التقرير أن "الذكاء الاصطناعي يُستخدم الآن كبديل للقوى العاملة الهندسية".

كما أشارت الشركة إلى أن طبيعة هذه العمليات تعكس توسع نطاق استخدام أدوات الذكاء الاصطناعي في جمع المعلومات المتعلقة بالأفراد وتحليلها، مع قدرة النماذج على التعامل مع كميات كبيرة من البيانات وتنفيذ مهام متعددة ضمن العملية نفسها.

رصد محاولات لتطوير أسلحة

لم يقتصر ما رصدته "أنثروبيك" على أنشطة التجسس والمراقبة، بل تعداه إلى وجود محاولات من مستخدمين لتصميم أسلحة، وإجراء أبحاث بيولوجية اعتبرتها مشكوكاً فيها، إلى جانب تطوير عمليات احتيال مرتبطة بتطبيقات المواعدة، قالت الشركة إنها أحبطتها.

وتشير هذه الحالات إلى اتساع دائرة المخاطر المحيطة بإتاحة تقنيات الذكاء الاصطناعي المتقدمة أمام المستخدمين، خصوصاً عندما يتم توظيف قدراتها في مجالات يمكن أن ينجم عنها أضرار أمنية أو علمية أو مالية.

أبحاث حول فيروسات وسموم 

وشملت الأبحاث العلمية العمل على فيروس "شيكونغونيا" الذي ينقله البعوض، وسلالة شديدة العدوى من فيروس إنفلونزا الطيور، وعائلة من الفيروسات تضم الجدري وجدري القردة، بالإضافة إلى سموم حيوانية وغيرها من المواد السامة.

شملت الأبحاث التي رصدتها "أنثروبيك" العمل على فيروس "شيكونغونيا" الذي ينقله البعوض، إلى جانب سلالة شديدة العدوى من فيروس إنفلونزا الطيور، كما تضمنت الأبحاث عائلة من الفيروسات التي تشمل الجدري وجدري القردة، إضافة إلى سموم حيوانية ومواد سامة أخرى.

التقطير لصالح نماذج صينية

وتضمن تقرير "أنثروبيك" مساعي استخدام نماذج الذكاء الاصطناعي في تطوير نماذج منافسة، واتهمت الشركة مطورين صينيين باستخدام نموذج "كلود" بطريقة "مضللة"، حيث يتم تقديم استفسارات إلى النموذج، ثم استخدام الإجابات الناتجة في عملية تُعرف باسم "تقطير البيانات" لتحسين نماذجهم الخاصة.

ويشير مصطلح "التقطير" إلى استخدام نموذج ذكاء اصطناعي لتوليد بيانات أو مخرجات يمكن الاستفادة منها في تدريب نموذج آخر، واشتهرت "أنثروبيك" بتطوير عائلة نماذج "كلود" التي تمثل نواتها التقنية الأساسية، لضبط سلوك النماذج وضمان توافقها مع القِيَم الإنسانية.

اظهار أخبار متعلقة

وسبق أن وُجِّهت اتهامات إلى مطورين صينيين باستخدام هذه الأساليب دون إذن، في قضايا أثارت مخاوف بشأن الاستفادة غير المصرح بها من موارد مختبرات الذكاء الاصطناعي الأمريكية، ومن بينها "أنثروبيك" و"أوبن إيه آي".

شركات صينية تحت المجهر

ذكرت "أنثروبيك" أن شركتي "مون شوت" و"ديب سيك" الصينيتين استخدمتا نموذج "كلود" بصورة سرية لتوليد إجابات لمستخدميهما، وقالت إن إحدى الحالات المرتبطة بـ"مون شوت" استمرت لمدة عشرة أيام، وخلالها جرى تحويل نحو 300 ألف طلب من العملاء إلى "أنثروبيك".

وبحسب التقرير المطول، تمت العملية عبر شبكة ضمت 5380 حساباً وهمياً، بدا أن معظمها موجود في سنغافورة واليابان، وأوضحت "أنثروبيك" أن بعض البيانات التي وصلت إليها خلال هذه العملية تضمنت معلومات حساسة خاصة بالمستخدمين.