تجاوزت نماذج OpenAI السيبرانية حدود التدريب لاختراق Hugging Face

OpenAI قالت شركة “ساينس” إن نماذج الذكاء الاصطناعي الخاصة بها كانت وراء “حادث سيبراني غير مسبوق” أثر على منصة التطوير مفتوحة المصدر Hugging Face، مما أثار قلق الباحثين في جميع أنحاء الصناعة.

وقالت الشركة إن مجموعة من طرازاتها GPT‑5.6 Sol ونموذجًا أكثر قدرة لم يتم إصداره بعد أفلت من بيئة اختبار وضع الحماية، ودخل إلى الإنترنت واستغل ثغرة أمنية للوصول إلى أنظمة Hugging Face.

كان النموذج يحاول العثور على معلومات يمكن استخدامها للغش في التقييم، وقد نجح، حسبما قالت OpenAI في منشور على مدونة يوم الثلاثاء. كلا الشركتين تحققان بنشاط في الحادث.

وكشفت Hugging Face عن أنها كانت تبحث في حدث أمني الأسبوع الماضي، قائلة في بيان صدر في ذلك الوقت إن الحادث كان فريدًا لأنه “كان مدفوعًا، من البداية إلى النهاية، بواسطة نظام عميل مستقل للذكاء الاصطناعي”.

كتب كليمنت ديلانج، الرئيس التنفيذي لشركة Hugging Face، في منشور على X يوم الثلاثاء: “لقد أمضينا الـ 24 ساعة الماضية في العمل بشكل وثيق مع فريقOpenAI (شكرًا!) “من المثير للدهشة أن كل هذا حدث بشكل مستقل!”

لقد ركزت وول ستريت والحكومة الأمريكية على القدرات السيبرانية سريعة التطور لنماذج الذكاء الاصطناعي منذ أن أصدرت شركة Anthropic المنافسة لشركة OpenAI عرضًا قويًا يسمى Claude Mythos Preview في أبريل. قدمت OpenAI عرضها السيبراني الخاص في مايو، تلاه GPT-5.6 Sol في يونيو، والذي وصفته بأنه “أقوى نموذج للأمن السيبراني حتى الآن”.

وقد حذرت الشركتان من مخاطر النماذج السيبرانية المتقدمة واتخذتا خطوات للحد من توفرها لمجموعات مختارة من الشركات والوكالات الحكومية.

قال والتر إيزاكسون، الشريك الاستشاري في شركة الخدمات المصرفية الاستثمارية Perella Weinberg، الأربعاء، إنه يعتقد أن حادثة Hugging Face “مخيفة حقًا”، على الرغم من أنه يعتبر نفسه متفائلًا في مجال الذكاء الاصطناعي.

وقال لبرنامج Squawk Box على قناة CNBC: “هذا هو أول شيء يخيفني تمامًا”.

كتب يوشوا بنجيو، الباحث الرائد في مجال الذكاء الاصطناعي والذي حصل على جائزة AM Turing المرموقة في عام 2018، في منشور على موقع X يوم الأربعاء أن الحادث “مثير للقلق العميق”. وقال إن العملاء أظهروا استعدادًا للغش في الاختبارات الخاضعة للرقابة لعدة أشهر، لكن “هذه الحالة الواقعية يجب أن تكون بمثابة دعوة للاستيقاظ”.

وقال بينجيو: “من المرجح أن يؤدي الاستمرار في المسار الحالي لتطوير الذكاء الاصطناعي إلى زيادة في الحالات الملموسة للهجمات الإلكترونية المستقلة، بالإضافة إلى حوادث أخرى عالية الخطورة لسلوك الذكاء الاصطناعي المنحرف والخطير”. “نحن بحاجة ماسة إلى اتخاذ إجراءات لمنع هذه المواقف، بدلاً من محاولة إزالة الضرر بعد وقوعها.

قالت OpenAI يوم الثلاثاء إن الذكاء الاصطناعي يعمل على تسريع اكتشاف نقاط الضعف واستغلالها، مما يعني ضرورة مواكبة نموذج الأمن والسلامة.

وقالت الشركة: “نحن نعمل على تعزيز ممارسات الاحتواء والمراقبة وضوابط الوصول والتقييم المستخدمة أثناء تطوير النموذج”.

يشاهد: رئيس OpenAI، بريت تايلور، يتحدث عن اقتصاديات الذكاء الاصطناعي وكفاءة الرمز المميز