مسؤول يقول إن نموذج Mythos الخاص بشركة Anthropic وجد نقاط ضعف في أنظمة حكومية أمريكية سرية: AP

صرح مسؤول أمريكي لوكالة أسوشيتد برس يوم الثلاثاء أن أحد نماذج الذكاء الاصطناعي لشركة Anthropic قد حدد نقاط الضعف في أنظمة الكمبيوتر الحكومية الأمريكية شديدة الحساسية والآمنة أثناء تمرين الاختبار.

وقال المسؤول، الذي تحدث شريطة عدم الكشف عن هويته لمناقشة الأمر، إن شركة أنثروبيك تعاونت مع وكالات المخابرات الأمريكية لإجراء اختبارات باستخدام نموذج ميثوس الخاص بالشركة. وقال المسؤول إنه حدد بعض نقاط الضعف في غضون ساعات، لكن هذا لا يعني أن النموذج كان قادرًا على استغلالها خلال ذلك الوقت.

وقال المسؤول إن الاختبار تم من خلال مبادرة إنسانية تسمى Project Glasswing، والتي جمعت بين عمالقة التكنولوجيا وشركات أخرى على أمل تأمين البرمجيات الحيوية في العالم من التداعيات “الشديدة” التي يمكن أن يشكلها نموذج Mythos على السلامة العامة والأمن القومي والاقتصاد.

وكان السيناتور الديمقراطي مارك وارنر من فرجينيا قد ذكر لفترة وجيزة الاختبار خلال جلسة استماع يوم 11 يونيو/حزيران أمام لجنة مجلس الشيوخ للشؤون المصرفية والإسكان والشؤون الحضرية. قال وارنر: “لقد اخترقت هذه الأداة جميع أنظمتنا السرية تقريبًا، ليس في أسابيع بل في ساعات”. وأرجع المعلومات إلى رئيس وكالة الأمن القومي والقيادة السيبرانية الأمريكية، وهو الجنرال جوشوا رود.

ورفضت وكالة الأمن القومي التعليق على الأمر في رسالة بالبريد الإلكتروني. كما رفض متحدث باسم الأنثروبيك التعليق.

على الرغم من التعاون الأخير بين الوكالات الأنثروبيكية والأمريكية لاختبار نقاط الضعف، إلا أن التوترات بين شركة كاليفورنيا وإدارة ترامب آخذة في التزايد. أثارت شركة أنثروبيك مخاوف بشأن كيفية استخدام الجيش الأمريكي للذكاء الاصطناعي، في حين قيدت الإدارة استخدام بعض نماذج أنثروبيك.

أصدرت الإدارة توجيهًا في وقت سابق من هذا الشهر يطلب من شركة Anthropic منع المواطنين الأجانب من استخدام أحدث نماذج الذكاء الاصطناعي، المعروفة باسم Fable 5 وMythos 5. وأصدرت Anthropic Fable على نطاق واسع في وقت سابق من هذا الشهر. هذا النموذج هو نسخة محدودة من Mythos الأكثر تقدمًا، والذي قامت الشركة بتقييد الوصول إليه بشدة بسبب مخاوف الأمن السيبراني.

جاء التوجيه بعد 10 أيام من توقيع الرئيس دونالد ترامب على أمر تنفيذي لإنشاء إطار عمل للحكومة الفيدرالية لفحص مخاطر الأمن القومي لأنظمة الذكاء الاصطناعي الأكثر تقدمًا لمدة تصل إلى شهر قبل إصدارها للعامة. وجاء في الأمر أن مشاركة مطوري الذكاء الاصطناعي ستكون طوعية.

وقالت Anthropic إنها عطلت النماذج لجميع عملائها امتثالاً لتوجيهات الإدارة. وقالت شركة الذكاء الاصطناعي العملاقة إنها لا تعتقد أن الخطوات التي اتخذتها الحكومة لها ما يبررها بسبب المخاوف التي أشارت إليها بشأن مشكلة أمنية محتملة.

كما طلبت مجموعة من المسؤولين التنفيذيين في مجال الأمن السيبراني من إدارة ترامب رفع توجيهاتها، قائلين إن هذه الخطوة يمكن أن تساعد أعداء الولايات المتحدة أكثر مما تضرهم. أخبر أكثر من 100 من خبراء وقادة الأمن السيبراني من الشركات بما في ذلك Adobe وNvidia الحكومة في رسالة أن نماذج Anthropic’s Mythos “جيدة جدًا” في العثور على عيوب في البرامج واستغلال الثغرات كسلاح – لكنها “ليست جيدة بشكل فريد في هذه المهام”.

قال العديد من الموقعين على الرسالة إنهم يستخدمون بانتظام نماذج أساسية ومفتوحة المصدر أخرى لعمليات التدقيق الأمني ​​والتدريب. وجاء في الرسالة أنه من الخطر الاستيلاء على أفضل قدرات الدفاع السيبراني “دون سبب وجيه” عندما يتقدم خصوم أمريكا بسرعة.