مسؤول في البنتاغون يحذر من الذكاء الاصطناعي: نحتاج أن نفهم أكثر

قال كبير مسؤولي الذكاء الاصطناعي في وزارة الدفاع الأمريكية، كريج مارتيل إن هناك "حاجة إلى معرفة المزيد عن أدوات الذكاء الاصطناعي" قبل أن يتم الالتزام بها بشكل كامل، داعيا المطورين إلى أن يكونوا "أكثر شفافية".

يريد مارتيل أن تشارك الشركات الأفكار حول كيفية بناء برامج الذكاء الاصطناعي الخاصة بها - دون التنازل عن ملكيتها الفكرية - حتى تتمكن الوزارة من "الشعور بالراحة والأمان" عند اعتمادها، بحسب وكالة "بلومبيرغ".

اظهار أخبار متعلقة

وتعتمد برامج الذكاء الاصطناعي على نماذج لغوية كبيرة، أو LLMs، والتي تستخدم مجموعات بيانات ضخمة لتشغيل الأدوات مثل برامج الدردشة الآلية ومولدات الصور. 

ويتم تقديم الخدمات عادة دون إظهار أعمالها الداخلية، في ما يسمى بالصندوق الأسود، وهذا يجعل من الصعب على المستخدمين فهم كيفية اتخاذ التكنولوجيا للقرارات أو ما الذي يجعلها تتحسن أو تسوء في وظيفتها بمرور الوقت.

وقال مارتيل: "لقد حصلنا للتو على النتيجة النهائية لبناء النموذج، وهذا ليس كافيا، البنتاغون ليس لديه أي فكرة عن كيفية هيكلة النماذج أو ما هي البيانات التي تم استخدامها".

وكشف أن الشركات أيضا لا توضح المخاطر التي قد تشكلها أنظمتها، قائلا: "إنهم يقولون ها هو ذا، نحن لا نخبرك كيف بنيناه. نحن لا نخبرك بما هو جيد أو سيئ، نحن لا نخبرك ما إذا كانت هذه التقنية متحيزة أم لا".

اظهار أخبار متعلقة

ودعا مارتيل العاملين في هذا المجال والأكاديميين إلى زيارة واشنطن في شهر شباط/ فبراير المقبل، لمعالجة هذه المخاوف، موضحا أن "ندوة البنتاغون حول بيانات الدفاع والذكاء الاصطناعي تهدف إلى معرفة الوظائف التي قد يكون حاملو شهادة الماجستير في القانون مناسبين للتعامل معها".

وأوضح "لا نريد إيقاف النماذج اللغوية الكبيرة، إنما نريد فقط أن نفهم الاستخدام والفوائد والمخاطر وكيفية الحد منها".

كما كشف أن "جلسة سرية في حدث شباط/ فبراير المقبل الذي يستمر ثلاثة أيام ستركز على كيفية اختبار النماذج وتقييمها والحماية من القرصنة"، مضيفا أن مكتبه "يلعب دورا استشاريا داخل وزارة الدفاع، ويساعد على اكتشاف الطريقة الصحيحة لقياس نجاح أو فشل أنظمتها".

وذكر أن لدى الوزارة أكثر من 800 مشروع للذكاء الاصطناعي قيد التنفيذ، بعضها يتضمن أنظمة أسلحة، قائلا إنه "بالنظر إلى المخاطر التي ينطوي عليها الأمر، فإن البنتاغون سيطبق معايير أعلى لكيفية استخدام نماذج الخوارزمية مقارنة بالقطاع الخاص".