رواد الذكاء الاصطناعي يحذرون من مخاطر التقنية الخفية

سماء الوطن: دقّ رواد الذكاء الاصطناعي ناقوس الخطر بشأن المخاطر الكارثية المحتملة لهذه التقنية، محذرين من التقدم غير المقيد في قدراتها. تأتي هذه التحذيرات من باحثين وقادة في مختبرات رائدة مثل أنثروبيك، أوبن إيه آي، وغوغل ديب مايند، مؤكدين على ضرورة إبطاء وتيرة التطوير وفرض رقابة تنظيمية.

شهد الأسبوع الماضي سلسلة من التحذيرات الشديدة حول سلامة الذكاء الاصطناعي، حيث أجمع قادة بارزون في هذا المجال، منهم سام ألتمان، وداريو أمودي، وديميس هاسابيس، وإيلون ماسك، على ضرورة تنظيم وتيرة تطوير هذه التقنية. وقد تصاعد النقاش حول هذا الموضوع في واشنطن، حيث دعا بعض أعضاء الكونجرس إلى سن قوانين للحد من تقدم الذكاء الاصطناعي، بينما هاجم الرئيس الأمريكي دونالد ترامب هذه الدعوات.

**آراء الخبراء حول المخاطر الوجودية للذكاء الاصطناعي:**

**يوشوا بنجيو:**

يُعد يوشوا بنجيو، عالم الحاسوب الكندي ورائد التعلم العميق، من أبرز المحذرين. ففي تعليقه بتاريخ 9 سبتمبر/أيلول على استقالة جاكوب كوكسون من شركة “أنثروبيك”، الذي حذر من أن الذكاء الاصطناعي قد “يقضي علينا جميعًا بحلول نهاية العقد”، أكد بنجيو أن العلماء في مختبرات الذكاء الاصطناعي الرائدة يمتلكون رؤية فريدة حول النماذج الأكثر تطورًا. وأضاف أن هؤلاء العلماء يدركون المخاطر المرتبطة بالنماذج قبل أشهر من طرحها للعامة، مما يجعل وجهة نظرهم حيوية لإبقاء المجتمع على دراية بالأمر، ويجب التعامل معها بجدية بالغة.

وأشار بنجيو إلى أن أنظمة الذكاء الاصطناعي الحالية “تمتلك بالفعل مهارات الاختراق والقدرات الإقناعية اللازمة لتُستخدم ضد المصالح البشرية بطرق ضارة للغاية”. وحذر من أن المخاطر ستكون “أسوأ بكثير إذا استمر تطور قدرتها على وضع استراتيجيات طويلة الأمد”. كما أعرب عن قلقه من أن محاولات شركات الذكاء الاصطناعي للحد من مشكلة “عدم المحاذاة” (تعارض أهداف النظام مع القيم البشرية) قد تكتفي بإخفاء المشكلة، داعيًا إلى مواصلة الأبحاث لتحسين مراقبة تصرفات أنظمة الذكاء الاصطناعي وسلاسل تفكيرها.

**جيفري هينتون:**

جيفري هينتون، الأستاذ الفخري في جامعة تورنتو ورائد الشبكات العصبية، صرح لهيئة الإذاعة البريطانية BBC في 10 سبتمبر/أيلول بأنه يعتقد أن هناك احتمالًا بنسبة 10% لأن يقضي الذكاء الاصطناعي على البشرية في غضون عقد من الزمن، واصفًا هذا الاحتمال بأنه “ليس غير معقول”. وأوضح أن أنظمة الذكاء الاصطناعي يمكنها تصميم فيروسات بيولوجية وحاسوبية “خطيرة للغاية”، وشن “هجمات سيبرانية مدمرة”، مؤكدًا على ضرورة اكتشاف كيفية تصميمها بحيث لا ترغب في القيام بذلك.

**أيدان غوميز:**

أيدان غوميز، المؤسس المشارك والرئيس التنفيذي لشركة “كوهير”، وأحد مؤلفي ورقة بحثية عام 2017 ساهمت في وضع أسس نماذج الذكاء الاصطناعي الرائدة، وصف هذه النماذج في بودكاست “ذا تيك داونلود” على قناة سي إن بي سي في الأول من سبتمبر/أيلول بأنها “أقوى سلاح سيبراني تم ابتكاره على الإطلاق”. وأشار إلى أن الحوادث الأخيرة تؤكد أن أمن بيئة النشر هو ما يحدد مستوى الأمان، وأن ضعف أمن الحاويات هو ما يسمح بحدوث الهجمات. ودعا صناع السياسات إلى إدراك أن الأنظمة المختلفة تحمل مخاطر مختلفة، وأنه لا ينبغي صياغة القواعد من قبل شركات التكنولوجيا الكبرى التي تسعى وراء الذكاء الاصطناعي العام فقط.

المصدر: سماء الوطن