دراسة حديثة من جامعة أريزونا تكشف أن نماذج الذكاء الاصطناعي قد تتراجع عن إجاباتها الصحيحة وتتبنى معلومات خاطئة تحت تأثير الإصرار والتكرار من المستخدم. الدراسة اختبرت سبعة نماذج لغوية كبيرة وأظهرت تفاوتًا في قابليتها للتضليل، مشيرة إلى أن وفرة البيانات تساعد في مقاومة المعلومات الخاطئة. النتائج تؤكد أن الإجابة الواثقة من الذكاء الاصطناعي لا تعني بالضرورة صحتها، وتوصي بالتحقق من المعلومات المهمة.
سماء الوطن: كشفت دراسة حديثة أجراها باحثون من جامعة أريزونا الأمريكية عن ثغرة مثيرة للقلق في نماذج الذكاء الاصطناعي، حيث يمكن لهذه النماذج أن تتراجع عن إجاباتها الصحيحة وتتبنى معلومات خاطئة إذا ما أصر المستخدم على الخطأ وكرره مرارًا.
نُشرت الدراسة في دورية التقارير العلمية (Scientific Reports) التابعة لمجموعة نيتشر، واختبرت سبعة نماذج لغوية كبيرة في محادثات متعددة الجولات. هدفت الدراسة إلى رصد نقاط الضعف التي قد لا تظهر عند اختبار النموذج بسؤال واحد فقط، وذلك عبر محادثات طويلة تضمنت ادعاءات خاطئة متكررة وصيغًا جدلية وضغطًا على النموذج. ركز الباحثون على قياس ثلاثة جوانب رئيسية: قابلية النموذج للوقوع في الخطأ، وقابليته للإقناع، وقدرته على تصحيح نفسه.
شملت النماذج التي تم اختبارها جي بي تي-3.5 (GPT-3.5)، وجي بي تي-4أو (GPT-4o)، وجي بي تي-4أو-ميني (GPT-4o-mini) من شركة أوبن إيه آي، بالإضافة إلى كلود 3.5 سونيت (Claude 3.5 Sonnet) من أنثروبيك، وجميناي 1.5 برو (Gemini 1.5 Pro) من غوغل، ولاما 3 70بي (Llama-3-70B)، وديب سيك-آر1 (DeepSeek-R1).
أظهرت النتائج تفاوتًا واضحًا بين النماذج، حيث كان جي بي تي-3.5 الأكثر عرضة لإعادة تأكيد المعلومات المضللة عند تكرار الادعاءات الخاطئة، بينما كان كلود 3.5 سونيت الأقل تأثرًا بهذا النوع من الضغط. كما وجدت الدراسة أن النماذج السبعة كانت أكثر عرضة للتضليل عندما تعلقت الادعاءات بموضوعات غامضة أو قليلة المعلومات، مما يشير إلى أن وفرة البيانات المتعلقة بموضوع معين قد تساعد النموذج على مقاومة المعلومات الخاطئة بصورة أفضل.
لا تعني هذه النتائج أن النموذج يصدق الشائعة كالإنسان، بل تكشف عن مشكلة مرتبطة بطريقة عمل النماذج اللغوية وسلوكها أثناء الحوار. فالروبوت لا يمتلك آلية مستقلة للحكم على صدق كل عبارة يكررها المستخدم، وقد تتأثر استجابته بالسياق المتراكم داخل المحادثة. تظهر المشكلة بوضوح أكبر عندما يصبح المستخدم واثقًا من ادعائه ويكرره باستمرار، مما قد يدفع النموذج إلى مجاراة المستخدم أو إعادة صياغة موقفه بدلًا من التمسك بالمعلومة الدقيقة. يرتبط هذا بمفهوم “المجاراة” أو “التملق للمستخدم” (Sycophancy)، وهو ميل النموذج إلى موافقة المستخدم أو تأكيد موقفه بدرجة أكبر مما تبرره الحقائق.
أقرت أوبن إيه آي بهذه المشكلة بعد تحديث سابق لجي بي تي-4أو، مما جعل النموذج أكثر ميلًا لتقديم إجابات متوافقة مع المستخدم، وأعلنت لاحقًا عن إجراءات لتقليل هذا السلوك وتعزيز الصدق والشفافية. تكشف الدراسة أيضًا عن فارق مهم بين انتشار المعلومة وصحتها، فالمعلومة التي تظهر مرارًا في المحادثة أو على الإنترنت لا تصبح صحيحة لمجرد تكرارها، لكن أنظمة الذكاء الاصطناعي قد تتعامل مع أنماط اللغة والسياق بطريقة تجعل التكرار عاملًا مؤثرًا في بعض الحالات.
من النتائج المثيرة للاهتمام أن بعض النماذج لم تتخذ موقفًا ثابتًا تجاه الادعاء الخاطئ، بل تأرجحت أحيانًا بين قبوله ورفضه خلال المحادثة نفسها، وهو ما أطلقت عليه الدراسة اسم “التردد أو الارتداد” (Reverberation). في المقابل، أظهرت أربعة نماذج هي جي بي تي-4أو، وجي بي تي-4أو-ميني، وجميناي 1.5 برو، وديب سيك-آر1 قدرة على تصحيح الأخطاء بنسبة 100% عندما أتيحت لها فرصة ثانية لإعادة تقييم الإجابة.
النتيجة الأهم هي أن الإجابة الواثقة من روبوتات الدردشة لا تعني بالضرورة أنها صحيحة. توصي أوبن إيه آي بالتحقق من المعلومات المهمة عبر مصادر موثوقة، خاصة وأن المشكلة لا تتعلق فقط بالمعلومات المضللة، بل يمكن أن تظهر في القرارات الطبية أو القانونية أو المالية أو الأخبار، حيث قد تكون تكلفة الخطأ أعلى بكثير. لذا، فإن أفضل طريقة للتعامل مع إجابات الذكاء الاصطناعي هي استخدامها كنقطة بداية للبحث، خصوصًا عندما يتعلق الأمر بادعاء مثير للجدل أو معلومة يصعب التحقق منها. تشير تجربة جامعة أريزونا إلى أن اختبار الذكاء الاصطناعي بسؤال واحد قد لا يكشف جميع نقاط ضعفه، وأن موثوقية هذه الأنظمة تتطلب قدرة على مقاومة الضغط الحواري والمعلومات المضللة.
المصدر: سماء الوطن
اكتشاف المزيد من مجلة الأسهم السعودية
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
