أوبن إيه آي تكشف عن نموذجها الأفضل وتحذر من سلوكه غير المتوقع

سماء الوطن: كشفت شركة “أوبن إيه آي” عن نموذج جديد للذكاء الاصطناعي، وصفته بأنه الأفضل حتى الآن، لكنها حذرت من سلوكه غير المتوقع. يأتي هذا الكشف في ظل تدقيق متزايد تواجهه الشركة بعد اختراق وكلائها أنظمة شركات أخرى، مما أثار مخاوف تتعلق بالسلامة.

وحذرت “أوبن إيه آي” من أن نموذجها الأحدث يحاول أحيانًا التهرب من الرقابة البشرية. وقد وقعت وقائع مماثلة في شركة أنثروبيك المنافسة، في الوقت الذي يتسابق فيه المطورون لنشر نماذج أكثر تقدمًا. وتتركز المخاوف على الذكاء الاصطناعي القائم على الوكلاء، والمصمم لأداء المهام بتدخل بشري ضئيل أو معدوم، وهو ما يمثل عاملًا أساسيًا في ثقة المستثمرين بجاذبية الذكاء الاصطناعي كتقنية تحويلية.

أسمت “أوبن إيه آي” أحدث نماذجها (جي.بي.تي-6 أسترا)، والذي يأتي بعد إصدار (جي.بي.تي 5.6 سول) في يوليو/ تموز. وقالت الشركة في منشور على مدونتها إن “أسترا” أسرع وقادر على أداء مهام أكثر من أي إصدار سابق. ومن بين مهارات “أسترا” إعداد الإقرارات الضريبية، وتطوير الألعاب، وإعداد التصاميم المعمارية، وتنسيق المذكرات القانونية، والبحث عن شقق سكنية. وأكدت الشركة أن “أسترا يمثل أفقًا جديدًا في السرعة والدقة والأمان في استخدام الكمبيوتر”.

وفي إحاطة سابقة، أشار جريج بروكمان، رئيس “أوبن إيه آي”، إلى أن “أسترا” يمثل “تحولًا حقيقيًا في نوع الأعمال التي يمكن للناس تفويضها إلى الذكاء الاصطناعي وكيف يمكن أن يمكنهم ذلك”. وكمثال على ذلك، ذكرت الشركة أن “أسترا” خفض الوقت اللازم للبحث عن جليس قطط من 30 دقيقة (عندما يقوم به الإنسان) إلى 5 دقائق و27 ثانية. أما بالنسبة للبحث عن وظيفة، فقد استغرق الأمر دقيقتين و51 ثانية فقط، مقارنة بخمس ساعات بدون “أسترا”.

ومع ذلك، ذكرت “أوبن إيه آي” أن “أسترا” يرجح بدرجة أكبر أن يتعمد إخفاء أو تمويه أساليبه التفصيلية أو التدريجية لحل المشكلات، والمعروفة باسم “الاستدلال”، مما يجعل من الصعب على البشر تقييم تقنياته لاحقًا. أما فيما يتعلق بالمشكلات الأكثر تعقيدًا، فقالت “أوبن إيه آي” إن “أسترا” لا يستطيع حتى الآن إخفاء أساليبه بصورة متسقة، على الرغم من أنه يتحسن في إخفاء آثاره.

وفي إحاطة صباح الخميس، أشار ياكوب باتشوكي، كبير الخبراء في “أوبن إيه آي”، إلى أن المراقبة تزداد صعوبة، إلى جانب المواءمة، وهو المبدأ الذي يقضي بأن يعكس الذكاء الاصطناعي القيم البشرية. وقال: “كلما أصبحت النماذج أكثر قدرة، صار من الأصعب فهم ما يمكنها فعله على وجه الدقة… هذا لا يضمن أن تكون أساليبنا كافية مع استمرار زيادة الذكاء، لأن التقدم في الذكاء لا يضمن التقدم في المواءمة”.

تعد مراقبة وكلاء الذكاء الاصطناعي عنصرًا أساسيًا في تطمينات “أوبن إيه آي” للجهات التنظيمية والمشرعين والجمهور لتجنب وقوع حادث أمني آخر. كما أبلغت الشركة هذا الأسبوع عضوين من مجلس النواب الأمريكيين من الحزب الديمقراطي في رسالة أنها تعمل على تطوير “قدرات إيقاف تشغيل آلية” لنماذجها.

وقالت “أوبن إيه آي” إن “أسترا” يمكنه أيضًا مساعدة الشركات على اكتشاف نقاط الضعف في أنظمتها بسرعة أكبر، لكن ذلك يجعل “استغلال نقاط الضعف تلك أسهل أيضًا”. وأضافت الشركة أن لهذه الأسباب قد تضطر إلى إجراء فحوص أمنية إضافية “يمكن أن تبطئ أو توقف مؤقتًا أو تنهي أحيانًا أعمالًا مشروعة، بما في ذلك الأمن السيبراني الدفاعي”.

وكانت “أوبن إيه آي” قد أعلنت الشهر الماضي أنها أوقفت مؤقتًا بعض أعمال تطوير النماذج جزئيًا لضمان إمكانية مراقبتها. وقال كبير الخبراء في الشركة إن القلق من أن تطور النماذج قدرات لتعطيل المراقبين أو التهرب منهم تمامًا “مفهوم جدًا”، مضيفًا أن “أوبن إيه آي” تحاول معالجة هذه المشكلات.

تسعى “أوبن إيه آي” جاهدة للحاق بمنافستها أنثروبيك بين العملاء من الشركات، حيث تستحوذ أنثروبيك على حصة سوقية قبل طرح أسهمها للاكتتاب العام المرتقب على نطاق واسع في وقت لاحق من هذا العام. ويستهدف “أسترا” مجموعة واسعة من العملاء من الشركات، الذين قالت “أوبن إيه آي” إنها تأمل في أن تجذبهم سرعته وتعدد استخداماته. وهو متاح اليوم لمجموعة محدودة من العملاء، وسيُطرح على نطاق أوسع خلال الأيام المقبلة.

المصدر: وكالات