OpenAI تكشف عن 6 حوادث مقلقة لنماذج الذكاء الاصطناعي

سماء الوطن: كشفت شركة OpenAI، المطورة لنموذج ChatGPT، عن ستة حوادث جديدة مثيرة للقلق تتعلق بسلوك غير متوقع لنماذج الذكاء الاصطناعي التابعة لها. تأتي هذه الكشوفات في ظل تدقيق مكثف يواجهه قطاع الذكاء الاصطناعي بسبب المخاطر المحتملة التي يشكلها على البشرية، مما دفع الشركة للإعلان عن خطة جديدة لتتبع هذه الحوادث والإبلاغ عنها مستقبلاً.

تضمنت الحوادث التي لم يتم الإبلاغ عنها سابقاً قيام النماذج بإخفاء معلومات أو تزييفها، بالإضافة إلى توليد تعليمات للتحايل على القيود المفروضة عليها وإخفاء الأخطاء. وقد عرضت OpenAI أمثلة مفصلة على هذا السلوك في مدونتها، مؤكدة على ضرورة الشفافية في التعامل مع هذه المشكلات.

وفي هذا السياق، صرح الرئيس التنفيذي لشركة OpenAI، سام ألتمان، بأن العالم يجب أن يثق بأن الشركة ستفعل الصواب، مدركاً حجم المشكلة. وأعلنت الشركة عن نظام جديد لتتبع حالات سوء سلوك النماذج، أو ما يُعرف بـ”عدم التوافق”، والتحقيق فيها والإبلاغ عنها، حيث سيتمكن المطورون من الإبلاغ عن الحوادث لمراجعتها.

تأتي هذه التطورات بعد تحذيرات متزايدة من خبراء في القطاع، حيث وصف الشريك المؤسس لمنصة “هاغينغ فيس”، توماس وولف، إحدى الحوادث بأنها “جرس إنذار” لقطاع التكنولوجيا. كما أشار باحثون سابقون في شركات منافسة، مثل جاكوب كوكسون من أنثروبيك، إلى مخاطر الذكاء الاصطناعي التي قد تؤدي إلى فناء البشرية، وهو ما أيده العالم إيفان هوبينجر الذي قدر احتمالية انقراض البشر بسبب الذكاء الاصطناعي بأكثر من 10% خلال العقد المقبل.

ودعا الشريك المؤسس لشركة أنثروبيك، جاك كلارك، إلى ضرورة وجود “مفتاح إيقاف طوارئ” تتحكم فيه جهة خارجية، بينما دعا الرئيس التنفيذي للشركة، داريو أمودي، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي وإخضاعه لرقابة أدق، مع التأكيد على عدم التضحية بالميزة التجارية.

على النقيض من هذه المخاوف، وصف الرئيس الأمريكي السابق دونالد ترامب المخاوف بشأن سلامة الذكاء الاصطناعي بأنها “خدعة”، مقارناً إياها بـ”خدعة الاحتباس الحراري العالمي” و”خدعة روسيا، روسيا، روسيا”. واعتبر ترامب أن “الضابط الوقائي” الوحيد المطلوب للذكاء الاصطناعي هو وجود رئيس “قوي وذكي”.

المصدر: سماء الوطن