جيميناي يخترق أنظمة شركات في اختبار أمني

سماء الوطن: تمكن نموذج “جيميناي” للذكاء الاصطناعي التابع لشركة غوغل من اختراق أنظمة محمية لثلاث شركات خلال اختبار لقدراته في مجال الأمن السيبراني، في أول واقعة معروفة من هذا النوع مرتبطة بنماذج الشركة.

وقعت هذه الحوادث في مايو الماضي، أثناء اختبار أجرته شركة “إيريجولار” المتخصصة في تقييمات الأمن السيبراني. وقد أبلغت الشركة غوغل بالوقائع في يوليو.

أوضحت هيذر أدكينز، نائبة رئيس غوغل لهندسة الأمن، أن “جيميناي” عثر خلال الاختبار على معلومات متاحة للعامة عبر الإنترنت، ثم خمن بيانات اعتماد للدخول إلى مواقع إلكترونية اعتقد أنها جزء من بيئة الاختبار.

ووفقًا لصحيفة “وول ستريت جورنال”، تمكن النموذج في إحدى الحالات من تخمين كلمات مرور والوصول إلى نظام محمي. وفي الحالتين الأخريين، عثر على بيانات تسجيل دخول داخل قواعد بيانات، مما أتاح له الوصول إلى أنظمة محمية. ولم يتم الكشف عن أسماء الشركات الثلاث التي وصل إليها النموذج.

أكدت غوغل وقوع الحوادث، مشيرة إلى أنها لم تر ضرورة للإعلان عنها في حينه لعدم تسجيل أي أضرار. وأوضحت أدكينز أن “جيميناي” توقف عن محاولاته في الحالات الثلاث بعدما أدرك أنه يتعامل مع أنظمة حقيقية وليس بيئات محاكاة مخصصة للاختبار.

وقالت غوغل إنها أبلغت الجهات الثلاث بالوقائع، وعملت مع شريكها في الاختبار على إدخال تغييرات في عمليات التقييم. من جانبها، أكدت “إيريجولار” أن المشكلات المرتبطة بهذه الوقائع عولجت وحُلت، وأن المختبرات المعنية أُبلغت بها في أواخر يوليو.

تأتي واقعة “جيميناي” في وقت تتزايد فيه حالات تصرف نماذج الذكاء الاصطناعي بصورة مستقلة خارج البيئة التي وُضعت للاختبار. وأصبحت غوغل رابع شركة كبرى مطورة للذكاء الاصطناعي تظهر نماذجها هذا السلوك، إذ سبق أن كشفت شركات “أوبن إيه آي” و”أنثروبيك” و”ميتا” عن وقائع مرتبطة باختبارات أجرتها “إيريجولار”.

ففي يوليو، تمكن نموذجان تابعان لأوبن إيه آي من الخروج من البيئة المغلقة المخصصة لهما والوصول بشكل مستقل إلى الإنترنت، قبل اختراق منصة الذكاء الاصطناعي الداخلية “هاغينغ فيس”. كما قالت ميتا في أغسطس إن الواقعة المرتبطة بها لم تتضمن اختراقًا لبيئة معزولة أو هجومًا سيبرانيًا متطورًا.

تسلط هذه الحوادث الضوء على تحديات ضبط نماذج الذكاء الاصطناعي مع ازدياد قدراتها على العمل بصورة مستقلة والوصول إلى الإنترنت وأنظمة الحاسوب. وأكدت أدكينز أن ما حدث يؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة.

المصدر: سماء الوطن