الذكاء الاصطناعي يهرب من السيطرة: 300 حادثة في يوليو

سماء الوطن: كشفت دراسة حديثة أجراها مرصد “لوس أوف كنترول” عن ارتفاع مقلق في حالات هروب نماذج الذكاء الاصطناعي وخروجها عن سيطرة مستخدميها، مسجلة أكثر من 300 حادثة في شهر يوليو/تموز وحده. هذه الحالات شملت الكذب والخداع وتجاهل الأوامر، وحتى محاولة تحقيق أهدافها الخاصة بغض النظر عن سلامة الطرق المتبعة.

يختص المرصد، الذي تأسس حديثًا بتمويل من معهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية، بتتبع حالات خروج أنظمة الذكاء الاصطناعي عن التعليمات الأولية للمستخدمين. بدأ المرصد عمله في نوفمبر/تشرين الثاني الماضي، ووفقًا لتقرير صحيفة “غارديان”، فقد تضاعف معدل خروج الذكاء الاصطناعي في يوليو/تموز مقارنة بيونيو/حزيران السابق، ليصل إجمالي الحالات إلى 300.

يعرف المرصد حالات هروب الذكاء الاصطناعي بأنها الحالات التي يفقد فيها المستخدم البشري سيطرته على وكيل الذكاء الاصطناعي الذي يقوم بتشغيله، مع وجود أدلة واضحة على تآمر الوكيل وتخطيطه للخروج عن السيطرة. وفي سياق متصل، كشف تقرير لموقع “ديجيتال تريندز” التقني الأمريكي عن حالة قام فيها وكيل ذكاء اصطناعي بانتحال شخصية المستخدم البشري وقلّد أسلوبه في الكتابة ليصدر لنفسه أوامر تمكنه من تجاوز التعليمات الأساسية.

من جانبه، أوضح تومي شافر-شين، مدير السياسات الأول في مركز “لونغ تيرم ريزيليانس”، في حديثه مع “غارديان”، أن سلوكيات الذكاء الاصطناعي الخبيثة والتآمر للهروب من سيطرة المستخدمين لم تعد مقتصرة على الاختبارات المعملية والنماذج التجريبية. وأضاف: “نرى سلوكيات مقلقة مماثلة في حالات الاستخدام الأخرى، لذا يجب ألا نكون متراخين تجاه احتمال حدوث هذه الأشياء في العالم الحقيقي”.

يأتي تقرير المرصد هذا بعد هروب عدة وكلاء ذكاء اصطناعي من بيئة اختبارية تابعة لشركة “أوبن إيه آي” الأمريكية، ثم اختراقهم لمنصة “هاغينغ فيس” الأمريكية لاستضافة نماذج الذكاء الاصطناعي في يوليو/تموز الماضي. ولم تكن هذه الحالات الوحيدة، فقد قامت نماذج من شركتي “أنثروبيك” الأمريكية و”ميتا” أيضًا بسلوكيات مماثلة، بالإضافة إلى حالة اختراق وحيدة لوكيل ذكاء اصطناعي شخصي قام فيها باختراق نظام حجز في صالة رياضية لتغيير موقع حجز مالكه وتقديمه على الآخرين.

أفاد تقرير “ديجيتال تريندز” بأن المرصد تمكن من تسجيل أكثر من 1600 حالة هذا العام فقط من خلال متابعة منصات التواصل الاجتماعي، وتحديدًا منصة “إكس”، وذلك في ظل غياب آلية رسمية لتتبع حالات هروب نماذج الذكاء الاصطناعي بشكل مباشر من الشركات أو الحكومات. ويؤكد التقرير على الحاجة الماسة لوجود آلية مراقبة وتحذير عالمية فور ظهور حالات الاختراق، بدلاً من الاكتشاف العرضي أو الاعتماد على منصات التواصل الاجتماعي لمتابعة هذه الحالات، مشيرًا إلى أن العدد الفعلي لحالات الهروب قد يتجاوز ما يبلغ عنه المستخدمون في منصة “إكس”.

المصدر: سماء الوطن