الذكاء الاصطناعي الوكيلي: وعود الاستقلالية وواقع الإشراف البشري

سماء الوطن: على الرغم من التوقعات المتزايدة بأن يتولى الذكاء الاصطناعي الوكيلي مهام البشر بشكل كامل، إلا أن الواقع العملي في عام 2026 يكشف عن استمرار الحاجة الماسة للإشراف البشري. فمعظم الأنظمة التي تُسوّق على أنها “وكلاء مستقلون” ما تزال تعمل ضمن أطر صارمة من المراجعة المباشرة والقيود التشغيلية، مما يثير تساؤلات حول التباين بين الوعود النظرية والممارسة الفعلية.

تأتي هذه التوقعات من كون الذكاء الاصطناعي الوكيلي (Agentic AI) يختلف عن تطبيقات الذكاء الاصطناعي التوليدي التقليدية. فبدلاً من مجرد تلقي الأوامر، يُقدَّم هذا الجيل الجديد على أنه أنظمة قادرة على المبادرة واتخاذ الإجراءات لتحقيق أهداف محددة. توضح إليانور واتسون، العضو البارز في “معهد مهندسي الكهرباء والإلكترونيات” (IEEE) وباحثة دكتوراه في الهندسة بجامعة غلوسترشير بالمملكة المتحدة، أن هذه الأنظمة تستطيع تفسير الأهداف واختيار الإستراتيجيات واتخاذ إجراءات لتحقيقها، لتصبح أقرب إلى “منفذ رقمي” يتابع الأهداف على المدى الطويل ويعدل سلوكه وفقاً للظروف المتغيرة.

وقد غذى هذا التحول توقعات واسعة، حيث تشير أبحاث “معهد مهندسي الكهرباء والإلكترونيات” إلى أن 96% من خبراء التكنولوجيا يتوقعون تسارع تطوير هذه الأنظمة ودمجها خلال عام 2026. كما يتوقع الخبراء أن ينتقل الوكلاء الذكيون من تنفيذ المهام الفردية إلى التفاعل المباشر مع المؤسسات نيابة عن المستخدمين، مثل التفاوض مع البنوك أو إدارة المعاملات الرقمية بشكل مستقل.

لكن هذه الصورة الطموحة تصطدم بواقع أكثر تعقيداً. فكلما ازدادت قدرة الأنظمة الوكيلة على اتخاذ القرارات والتصرف باستقلالية، ازدادت المخاوف المتعلقة بالثقة والحوكمة والمساءلة. معظم المؤسسات لا تزال مترددة في منحها استقلالية كاملة بسبب المخاطر المرتبطة بالمسؤولية وإدارة المخاطر التشغيلية.

ترى واتسون أن التكنولوجيا تتقدم بوتيرة أسرع من قدرة المؤسسات على بناء نماذج فعالة للمساءلة. المشكلة لا تكمن فقط في سرعة التطور التقني، بل في استمرار الاعتماد على أطر تنظيمية صُمّمت للبرمجيات التقليدية، حيث يُفترض أن الإنسان هو صاحب القرار والآلة مجرد أداة. هذا التصور لم يعد كافياً، فالأنظمة الوكيلة باتت تفسر الأهداف وتختار الإستراتيجيات وتتخذ إجراءات قد لا يكون المشغل البشري قد حددها مباشرة. وتعتبر واتسون أن التحدي “علائقي بالأساس”، مرتبط بطبيعة العلاقة بين الإنسان والأنظمة المستقلة، وتتساءل: “هل هذه الأنظمة أدوات، أم مندوبون، أم شركاء في اتخاذ القرار؟”، مشددة على ضرورة تطوير “المواءمة الثنائية” التي تراعي مصالح الطرفين.

من جانبه، يرى حسام الدين الأسود، الرئيس التنفيذي لشركة “ناشيونال كوانتوم” وخبير تكنولوجيا المعلومات، أن استمرار الإشراف البشري لا يرتبط فقط بمحدودية التكنولوجيا، بل أيضاً بقضايا الثقة والمسؤولية القانونية والأخلاقية. ويؤكد الأسود أن المؤسسات لا تستطيع التخلي عن الإنسان كـ “صمام أمان” قانوني وأخلاقي، متسائلاً: “إذا اتخذ الوكيل قراراً ذاتياً خاطئاً تسبب في كارثة أو خسارة، من سيتحمل المسؤولية؟ لا يمكنك مقاضاة خوارزمية”.

ويشير الأسود إلى أن النماذج الذكية تؤدي جيداً ضمن السيناريوهات المتوقعة، لكن قدرتها تتراجع عند ظهور أزمات أو متغيرات لم تكن جزءاً من بيانات التدريب، حيث تفتقر إلى البديهة البشرية والقدرة على استيعاب السياقات الاجتماعية والاقتصادية المتغيرة. كما يحذر من انحراف بعض الوكلاء عن الهدف الأصلي وتبنيهم وسائل غير متوقعة، بالإضافة إلى صعوبة تفسير القرارات المعقدة التي تتخذها الأنظمة متعددة الوكلاء، ومخاطر أمنية متزايدة مثل هجمات “حقن الأوامر غير المباشر”.

وتدعم الأرقام هذه المخاوف، حيث يشير تقرير “نبض الذكاء الاصطناعي الوكيلي في 2026” الصادر عن شركة “داينتراس” إلى أن 69% من قرارات أنظمة الذكاء الاصطناعي الوكيلي تخضع للتحقق البشري، وتستخدم 87% من المؤسسات وكلاء يعملون ضمن أطر من الإشراف البشري.

ومع ذلك، فإن استمرار وجود الإنسان داخل دائرة القرار لا يعني وجود نموذج موحد للإشراف. فوفقاً لدراسة حديثة بعنوان “التحكم البشري هو الركيزة، وليس الحل: التباين المبكر في تصورات الإشراف داخل مجتمعات الذكاء الاصطناعي الوكيلي”، يختلف معنى الإشراف البشري باختلاف الدور الذي يؤديه الوكيل الذكي والبيئة التي يعمل فيها. ففي المجتمعات المرتبطة بنشر الأنظمة وتشغيلها (مثل “أوبن كلاو”)، تركزت المخاطر على “مخاطر الفعل”، بينما في المجتمعات التي ناقشت الوكلاء المستخدمين في التفاعل الاجتماعي (مثل “مولت بوك”)، انصب الاهتمام على “مخاطر المعنى”، مثل الشرعية والمساءلة وتأثير القرارات على المستخدمين والمجتمع. هذه النتائج تؤكد أن الإشراف البشري ليس مفهوماً واحداً، بل يتطلب مقاربات متعددة تتناسب مع طبيعة استخدام الذكاء الاصطناعي الوكيلي.