هل من الحكمة أن نثق برأى الكمبيوتر؟

تخيل أنك في المستقبل القريب تذهب إلى عيادة طبيب وتدخل إلى حجرة الكشف لتجد جهاز كمبيوتر فقط، هذا الجهاز سيحلل نتائج التحاليل والكشف ثم يطبع لك ورقة بها التشخيص والدواء اللازم، هل ستثق في هذا التشخيص؟ البعض قد يقول نعم فأجهزة الكمبيوتر الآن أكثر ذكاء من البشر وتهزم بطل العالم في الشطرنج بسهولة، البعض الآخر يرفض ذلك ويقول كيف أثق في قطعة الحديد هذه التى لا تتمتع بالخبرة البشرية وتعدد الثقافات فالطبيب يعرف أكثر عن عادات المرضى والأمراض المنتشرة في بلده وبالتالي يمكنه التشخيص بدقة أكثر، من أي الفريقين أنت؟ في هذا المقال سنلقي نظرة سريعة عن قوة وضعف برمجيات الذكاء الاصطناعي عندما تدلي بدلوها في أمور مهمة مثل الأمور الطبية والعسكرية إلخ.

يمكننا تلخيص موقف تلك البرمجيات في عدة نقاط:

أولا: من المهم أن نعرف أن الجيل الحالي من برمجيات الذكاء الاصطناعي لا تشرح كيف وصلت للاستنتاج أو التشخيص أو الرأي النهائي، هناك عدة مجموعات بحثية تعمل على تغيير ذلك لكنهم لم يصلوا إلى خط النهاية بعد، وكما قلنا في مقال سابق أن تلك النوعية من البرمجيات مختلفة عن برمجيات الكمبيوتر العادية والتي من الممكن فحص البرنامج واكتشاف كيف يصل للنتيجة، في حالتنا لا يمكننا عمل ذلك.

ثانيا: الاعتماد التام على الكمبيوتر دون تدخل بشري يفتح الباب أمام قضية المسئولية، إذا حدثت مشكلة فمن المسئول؟ لنتخيل مثلا أننا أصبح في عصر السيارات ذاتية القيادة وركبت أنت إحداها وطلبت منها الذهاب لعنوان معين، أثناء الذهاب دهست السيارة شخصا في الشارع، من المسئول؟ أنت؟ أم من صمم وجمع السيارة؟ أم من برمج السيارة؟ هذه نقطة هامة تبحثها الكثير من المؤسسات حالية لأن المسئول يجب أن يكون إنسانا وليس جهاز كمبيوتر.

ثالثا: عندما نتكلم عن الذكاء الاصطناعي في أيامنا هذه فإننا نقصد فرعا معينا من الذكاء الاصطناعي يسمى تعلم الآلة (machine learning) وتعتمد على «تعليم» تلك البرمجيات عن طريق إعطائها أمثلة، فمثلا لبناء برنامج لتشخيص أشعة على الصدر يجب أن نغذي تلك البرمجيات بآلاف أو ملايين الأشعات ولكل منها نحدد إذا كانت تلك الأشعة تخص شخصا مريضا أو صحيحا، ستتعلم البرمجيات من تلك الأمثلة وعندما نعطيها أشعة لم ترها من قبل ستتمكن من التشخيص، كلما كانت الأمثلة أكثر ومتنوعة كلما كان التعليم أفضل والتشخيص أدق.

إذا فكفاءة الكمبيوتر تعتمد على المعلومات التي يتم تعليمه بها، وحيث إننا في عصر المعلومات الغفيرة (big data) فيجب تجميع المعلومات وتنقيتها ثم اختيار ما سيتم تعليم الآلة عليه، لذلك أصبح في جامعات كثيرة أقسام لعلوم المعلومات. لكن النقطة التي تهمنا في هذا المقال هو أن المسئولية هنا تقع على من يختار المعلومات التى يتم تعليم الآلة بها، فإذا كان هذا الشخص أو المجموعة المنوط بها تجميع تلك المعلومات لها تحيزات معينة أو حتى قدرتها العلمية غير قوية فقد يتم اختيار معلومات تجعل الكمبيوتر متحيزا أو كثير الخطأ.

تلوث المعلومات يعتبر في عصرنا هذا نوعا من فيروسات الكمبيوتر لكنه فيروس مختلف عما اعتدنا عليه.

رابعا: الدقة وحدها لا تكفي، قد تكون دقة تشخيص الكمبيوتر ثمانية وتسعين في المائة ودقة الطبيب البشري تسعين في المائة، لكن تلك الاثنتين في الماء الخطأ من الكمبيوتر سهل تداركها على الطبيب البشري بخبرته، الكمبيوتر دقيق لكن لا يمتلك الحدس، وفي تخصص مثل الطب الحدس والخبرة مهمان وإلا إذا كان الموضوع دقة فقط لماذا يصر البعض على الذهاب لأكثر من طبيب؟

تلك النقاط الأربع تقودنا إلى أننا لا يجب أن نثق في الكمبيوتر فقط لكننا نستطيع أن نثق في الكمبيوتر مع الخبرة البشرية، وهناك الكثير من الدراسات التي تتم الآن عن كيفية التكامل بين الكمبيوتر والبشر وليس التنافس بينهما وهذا ما نتوقع أن يكون السبب في تقدم الكثير من التخصصات والخدمات.

ذكرنا أن نقطة مهمة في موضوع تعليم الآلة هي المعلومات، نستطيع بسهولة إنشاء مؤسسات لتجميع المعلومات وتصنيفها واستخدامها في تعليم الآلة طبعا مع الآخذ في الاعتبار الجوانب الأمنية. نحن في عصر الذكاء الاصطناعي ووقوده هو المعلومات.

(الشروق المصرية)