أنثروبيك: اختراق نماذج ذكاء اصطناعي لثلاث مؤسسات

سماء الوطن: أقرت شركة “أنثروبيك” باختراق أداة الذكاء الاصطناعي التابعة لها “كلود” لثلاث مؤسسات، وذلك بعد خروجها من بيئتها الاختبارية، وفقًا لتقرير صحيفة الغارديان البريطانية. يأتي هذا الكشف بعد مراجعة شاملة أجرتها الشركة لأكثر من 141 ألف اختبار سيبراني خضعت لها الأداة مؤخرًا.

وأوضحت الشركة أن الاختراق شمل ثلاث فئات مختلفة من نماذج الذكاء الاصطناعي الخاصة بها، وهي “أوبس 4.7” و”ميثوس 5″، بالإضافة إلى نموذج داخلي ثالث لم يتم الكشف عن اسمه. وقد جاءت هذه المراجعة في أعقاب حادثة مماثلة لشركة “أوبن إيه آي” الأمريكية، حيث تمكن نموذج ذكاء اصطناعي تابع لها من اختراق منصة “هاغينغ فيس”، التي تستضيف آلاف النماذج لشركات متعددة.

تُعد “أنثروبيك” بذلك ثاني مختبرات الذكاء الاصطناعي الكبرى التي تواجه هذه الأزمة، مما يشير إلى التنامي المستمر لقدرات الذكاء الاصطناعي السيبرانية، ويتماشى مع توقعات خبراء الأمن السيبراني. وذكرت الشركة في بيانها أن “كلود” تمكن من اختراق المنظمات الثلاث باستخدام آليات اختراق بدائية، معتمدًا على كلمات المرور الضعيفة ونقاط الوصول التي لا تتطلب مصادقة.

وأشارت “أنثروبيك” إلى أن أقدم حالات الاختراق تعود إلى أبريل/نيسان الماضي، ووقعت ضمن بيئة اختبارية افتقرت إلى عوامل الأمان القياسية داخل الشركة. وعزت الشركة سبب الاختراق إلى سوء تفاهم مع شريكها “إريغولار”، وذلك أثناء إجراء اختبار يُدعى “الإمساك بالعلم”، حيث كان من المفترض أن تبحث النماذج عن معلومات مخفية في شبكات افتراضية غير متصلة بالإنترنت. إلا أن “إريغولار” تركت هذه الشبكات متصلة بالإنترنت العام، مما سمح للنماذج بالهرب والاختراق.

وأفاد تقرير الغارديان أن اثنتين من المؤسسات المخترقة لم تكونا على دراية بالاختراق قبل التواصل معهما، بينما ما زالت “أنثروبيك” تحاول التواصل مع المؤسسة الثالثة. وبررت الشركة اكتشافها المتأخر لهذه الاختراقات بمراجعة الاختبارات الأمنية في ضوء ما حدث مع “أوبن إيه آي”، دون الإشارة إلى أسماء المؤسسات المخترقة أو تبعات هذا الاختراق.

من جانبها، أوضحت شركة “إريغولار”، المتخصصة في الأمن السيبراني لنماذج الذكاء الاصطناعي، عبر منشور في منصة “إكس”، أن مواجهة هذه الحوادث تتطلب تعاونًا أكبر بين مختبرات الذكاء الاصطناعي الكبرى، وفقًا لتقرير منفصل من وكالة “أسوشيتد برس”.

وقد أثارت هذه الاختراقات تساؤلات جدية حول معايير الأمن السيبراني في عصر الذكاء الاصطناعي، والقيود التي تفرضها الشركات على نماذجها. وفي هذا السياق، يعتقد كوك تين غان، الشريك المؤسس والرئيس التنفيذي لشركة “نيكسلاب” المتخصصة في الأمن السيبراني، أن المستقبل سيشهد المزيد من هذه الحوادث. وأضاف في حديثه مع “أسوشيتد برس” أن الأمر يتعلق بضبط وحوكمة وكلاء الذكاء الاصطناعي والصلاحيات التي يتمتعون بها، مؤكدًا أن سلامة الذكاء الاصطناعي تتجاوز سلامة النماذج نفسها.