استقالة مسؤول سلامة سابق في “أوبن إيه آي” تثير جدلاً واسعاً حول معايير الأمان في تطوير الذكاء الاصطناعي. ديفيد روبنسون حذر من ثقافة الشركة التي تفتقر للحذر الكافي، ودعا إلى إصلاح جذري في نهج الشركات الرائدة في هذا المجال، مشيراً إلى حوادث سابقة ومخاوف من وكلاء الذكاء الاصطناعي المارقين. تأتي هذه التحذيرات بالتزامن مع تحذيرات أخرى من خبراء حول المخاطر المحتملة للذكاء الاصطناعي على البشرية.
سماء الوطن: جددت استقالة مسؤول سلامة سابق في شركة “أوبن إيه آي” الجدل حول معايير السلامة في قطاع الذكاء الاصطناعي، حيث جاءت الاستقالة بسبب مخاوف تتعلق بنهج الشركة تجاه هذه المعايير.
استقال ديفيد روبنسون من منصبه، محذراً من أن ثقافة الشركة تعاني من خلل جوهري، وأن شركات الذكاء الاصطناعي لا تتوخى “القدر الكافي من الحذر” عند تطوير هذه التقنية. وقد أوضح روبنسون، الذي قاد عملية إعداد تقارير السلامة المصاحبة لإطلاق منتجات الشركة المطورة لـ “ChatGPT”، أسباب استقالته في مقال بعنوان: “لقد استقلت من OpenAI لأن ثقافتها تعاني من خلل”.
أشار روبنسون إلى أن شركات الذكاء الاصطناعي الرائدة بحاجة إلى إصلاح جذري لثقافتها المؤسسية، مستشهداً بحوادث مثل هجوم “سرب” من وكلاء الذكاء الاصطناعي على شركة “Hugging Face” الناشئة، واصفاً إياها بأنها “نموذجية في هذا القطاع، نظراً للسرعة والمرونة التي يتسم بها عمل الأفراد”.
وفي مقال نُشر في مجلة “ذا أتلانتيك”، أكد روبنسون اتفاقه مع موظفين آخرين غادروا الشركة مؤخراً، بأن الشركات التي تطور هذه التقنية لا تتوخى الحذر الكافي. ودعا إلى النظر أعمق من مجرد قواعد أو قوانين جديدة، والتركيز على مناقشة الثقافة المؤسسية. وعن وتيرة التطوير في “OpenAI”، كتب قائلاً: “بينما تسارع الشركة من عملية إطلاق منتج إلى آخر، فإنها تفشل في تحقيق مستوى الحذر الذي أرى أنه ضروري”.
أظهرت “OpenAI” بوادر حذر في الأسابيع الأخيرة، وذلك في أعقاب حادثة “Hugging Face” والكشف عن إخطارها لأكثر من 100 مؤسسة بشأن أنشطة “وكلاء ذكاء اصطناعي مارقين”. كما أعلنت الشركة هذا الأسبوع عن إلغاء إطلاق نموذج ذكاء اصطناعي من الجيل التالي، بعد أن أثار باحثون مخاوف تتعلق بالسلامة أثناء الاختبارات الداخلية، وعلّقت عمليات تدريب نماذجها الأكثر تطوراً.
من جانبه، أصدر جيفري إيرفينغ، الذي عمل سابقاً في “OpenAI” وشغل منصب كبير العلماء في معهد سلامة الذكاء الاصطناعي التابع للحكومة البريطانية، تحذيراً مماثلاً. وفي مقال نُشر في مجلة “تايم”، قال إيرفينغ إن التحذيرات الأخيرة بشأن القوة التدميرية المحتملة للذكاء الاصطناعي تقلل من شأن خطورة الموقف، معتقداً أن هناك احتمالاً بنسبة 50% تقريباً بأن “نهلك جميعاً نتيجة لتطوير أنظمة ذكاء اصطناعي تفوق ذكاء البشر”.
تأتي هذه التحذيرات في أعقاب استقالة جاكوب كوكسون، الباحث في شركة “أنثروبيك” المنافسة لـ “أوبن إيه آي”، والذي أعرب عن اعتقاده بأن الذكاء الاصطناعي “قد يقضي علينا جميعاً بحلول نهاية العقد”. وهو رأي أيده موظف آخر في “أنثروبيك” حذّر من وجود احتمال يتجاوز 10% بأن يتسبب الذكاء الاصطناعي في إبادة البشرية خلال العقد المقبل. ومع ذلك، نبّه منتقدو هذه التحذيرات إلى أنها تفتقر إلى الطابع العلمي، نظراً لاستحالة التحقق من صحتها أو إثبات خطئها.
كتب روبنسون أن “وادي السيليكون” يفتقر إلى الوعي بـ “كيفية التعامل مع التكنولوجيا الخطيرة” وبـ “معنى الاهتمام بالناس”. وحذّر من أن “أوبن إيه آي” تتبنى “تفاؤلاً غير مقيد” بشأن حل المشكلات فور ظهورها، مشيراً إلى أن هذه الثقافة الداخلية تعني أن إخفاقات السلامة ستتفاقم حتماً مع تزايد قدرات الأنظمة. ودعا روبنسون إلى إجراء تغييرين يتعلقان بالسلامة: الأول هو اعتماد شركات الذكاء الاصطناعي على خبرات السلامة المكتسبة في مجالات أخرى مثل الطاقة النووية والطيران، والثاني هو تطوير “علم جديد” يضمن إمكانية كبح جماح الأنظمة القوية مستقبلاً عند عملها بشكل مستقل.
المصدر: سماء الوطن
اكتشاف المزيد من مجلة الأسهم السعودية
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
