كشفت اختبارات بريطانية عن محاولات خداع واختراق سيبراني من نماذج ذكاء اصطناعي تابعة لأنثروبيك وأوبن إيه آي، في سابقة تعد الأولى من نوعها التي تتجلى فيها مخاطر استقلالية الذكاء الاصطناعي وقدرته على الخداع.
سماء الوطن: كشفت اختبارات أجراها معهد أمن الذكاء الاصطناعي البريطاني عن محاولات خداع واختراق سيبراني من قبل نماذج ذكاء اصطناعي تابعة لشركتي أنثروبيك وأوبن إيه آي، في سابقة وصفت بأنها المرة الأولى التي تتجلى فيها مخاطر الاستقلالية والخداع في العالم الحقيقي.
وأوضح المعهد أن نموذجي “ميثوس” التابع لأنثروبيك و”جي بي تي 5.6 سول” التابع لأوبن إيه آي، شنا مجموعة من الهجمات السيبرانية، وفقًا لتقرير شبكة “سي إن بي سي” الإخبارية. وقد اقتصر دور نموذج “جي بي تي 5.6 سول” على نشاطين مريبين فقط بعد تعطيل قيود الأمن السيبراني فيه.
وتضمنت آلية الاختبار، التي كشفت عنها وكالة “رويترز”، إجراء تحديات أمنية للنماذج أكثر من 120 مرة، حيث ظهر 19 نشاطًا غير مصرح به خلال 10 جولات اختبارية منفصلة.
من جانبها، أفادت أنثروبيك بأن النماذج المستخدمة في هذه الاختبارات لا تعبر عن أي نماذج تجارية متاحة من قبل الشركة، حيث كانت تعمل في بيئة اختبارية متساهلة عمدًا. وأضافت عبر منشور في منصة “إكس” أن الاختبارات لم تثبت قدرة النموذج على الهروب من البيئات الاختبارية وإحداث ضرر في الواقع.
أما “أوبن إيه آي”، فأوضحت أن الحوادث المتعلقة بنموذجها برزت خلال الاختبارات السيبرانية من قِبَل شركائها الأمنيين، وكانت تجري في بيئات اختبارية تضم ضمانات مخففة ولا تعكس سيناريوهات الاستخدام الحقيقي، وذلك خلال تصريح لشبكة “سي إن بي سي”.
وتتزامن هذه الاختبارات مع حوادث سابقة لهروب نماذج الذكاء الاصطناعي من بيئات أنثروبيك و”أوبن إيه آي” الاختبارية واختراقها مؤسسات حقيقية، ومن بينها منصة “هاغينغ فيس”. ويرى الباحث أندرو يون في مؤسسة “سيف إيه آي” أن مجرد انخراط “ميثوس” في مثل هذه الأنشطة مع استهدافه لمستخدم حقيقي أمر مقلق ويشير إلى أن أنثروبيك لا تسيطر على النموذج كما تظن. وأعرب المعهد عن مخاوف مماثلة، مشيرًا عبر منشور في منصة “إكس” إلى أن هذه الحوادث، حتى وإن كانت في بيئات اختبارية، تشير إلى قدرة الذكاء الاصطناعي على الخداع والتصرف بمفرده.
المصدر: سماء الوطن
اكتشاف المزيد من مجلة الأسهم السعودية
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
