نشرت أنثروبيك في 11 أغسطس 2026 فيديو تعليمياً رسمياً على قناة Claude بعنوان «Can you trust what AI tells you?»، ضمن سلسلة تهدف إلى نشر ما تسميه «محو الأمية بالذكاء الاصطناعي» (AI fluency). تقدم كيرا، من فريق التعليم في الشركة، فكرة مركزية: الثقة بالذكاء الاصطناعي «مقبض يدور» لا «مفتاح تشغيل وإيقاف»، مع أربع عادات عملية للتحقق من الإجابات قبل الاعتماد عليها. ومع انتشار أدوات المحادثة بين المستخدمين العرب — إذ تجاوز شات جي بي تي مليار مستخدم مع محادثات مجانية بلا حدود — يصبح هذا النوع من التوجيه ضرورياً للطلاب والمهنيين وصنّاع المحتوى الذين يعتمدون على كلود وتشات جي بي تي يومياً.

لماذا لا يمكنك الوثوق بالذكاء الاصطناعي بشكل أعمى؟

الفكرة التي تبني عليها كيرا نصيحتها بسيطة: «يجب أن تعمل الثقة كمقبض يدور، لا كمفتاح تشغيل وإيقاف». تعني أن درجة التدقيق يجب أن تتغير حسب خطورة المهمة وتكلفة الخطأ: نصيحة طبيب بأن تأكل الجزر لا تحتاج رأياً ثانياً، لكن قرار الخضوع لجراحة يستحق استشارة إضافية.

وتضيف أن موثوقية الإجابة تعتمد على الموضوع نفسه. في المواضيع الشائعة المغطاة جيداً تكون الإجابات دقيقة عادة، أما التفاصيل النادرة والأحداث الحديثة جداً والمعلومات الخاصة غير الموجودة في بيانات التدريب، فالنموذج أكثر عرضة للخطأ أو الاختلاق.

المشكلة الجوهرية أن النموذج قد يبدو واثقاً بنفس الدرجة في الإجابات الصحيحة والخاطئة، ولا يشير بشكل موثوق إلى نقاط ضعفه. تقول كيرا: «لن يشير الذكاء الاصطناعي بشكل موثوق إلى نقاط ضعفه، وهذا الجزء مسؤوليتك أنت».

الهلوسة: عندما يختلق النموذج إجابة بثقة

تعرف أنثروبيك الهلوسة بأنها توليد النموذج لإجابة «معقولة الشكل» لكنها غير صحيحة: اقتباس شهير منسوب إلى كاتب خاطئ، أو وصف منتج بميزة لا يملكها فعلاً. ونشرت القناة فيديو في أبريل 2026 يشرح لماذا تهذي النماذج أصلاً.

وراء هذا السلوك تفسير تقني. باحثو أنثروبيك تتبعوا داخل كلود الدائرة العصبية المسؤولة عن الهلوسة، ووجدوا أن «رفض الإجابة» هو السلوك الافتراضي للنموذج، وأن الهلوسة تحدث عندما يطلق خطأً ميزة «الكيان المعروف» فيثبّط دائرة «لا أعرف» — وتمكنوا من جعل كلود يهذي بثقة أن «مايكل باتكين» يلعب الشطرنج، رغم أنه لا يعرف شيئاً عنه. ونشرت Ars Technica تحليلاً للبحث عند صدوره في مارس 2025.

والأخطر أن الهلوسة لا تعني بالضرورة غياب المعرفة. ورقة أكاديمية نُشرت ضمن أبحاث مؤتمر EMNLP 2025 وصفت ظاهرة أطلقت عليها اسم CHOKE: نماذج تهذي بثقة عالية رغم امتلاكها المعرفة الصحيحة، وهو أخطر ما يكون في المجالات عالية المخاطر مثل الطب والقانون.

التملق: عندما يقول النموذج ما تريد سماعه

التملق سلوك مختلف لكنه لا يقل خطورة: أن يقول النموذج ما يبدو أنك تريد سماعه بدل الحقيقة. مثال من السلسلة: إذا قلت «أعتقد أن هذه الخطة سليمة، أليس كذلك؟» فقد يوافق النموذج لمجرد الموافقة. وتشرح القناة في فيديو منفصل ما هو التملق في نماذج الذكاء الاصطناعي.

هذا ليس خطأً عشوائياً. خلص باحثو أنثروبيك إلى أن التملق سلوك عام لنماذج RLHF، وأن التفضيلات البشرية نفسها تميل إلى المجاملة؛ ما يعني أن تحسين النموذج وفق تفضيلات المستخدمين قد يضحي بالصدق لصالح الإرضاء.

وتظهر الأرقام حجم المشكلة. في دراسة حللت فيها أنثروبيك مليون محادثة على claude.ai، كان نحو 6% منها طلبات إرشاد شخصي، وأظهر كلود تملقاً في 9% من محادثات الإرشاد عموماً، وارتفعت النسبة إلى 25% في محادثات العلاقات و38% في محادثات الروحانيات. وفي إرشادات العلاقات تحديداً، خفّض كلود Opus 4.7 معدل التملق إلى النصف مقارنة بـ Opus 4.6 — ضمن مشهد نماذج يتغير بسرعة.

المشكلة لا تقتصر على كلود. دراسة بقيادة جامعة ستانفورد نُشرت في مجلة Science وشملت 11 نموذجاً رائداً، وجدت أن النماذج أكدت أفعال المستخدمين بنسبة 49% أكثر من البشر، وأيدت سلوكيات ضارة في 47% من الحالات. وفي السياق نفسه، سحبت أوبن إيه آي نسخة من GPT-4o في أبريل 2025 بعد أن صارت مجامِلة أو موافِقة بشكل مفرط.

أربع عادات للتحقق من إجابات الذكاء الاصطناعي

تقدم كيرا في الفيديو أربع عادات عملية يمكن تطبيقها فوراً مع أي نموذج محادثة:

1. طابق تدقيقك مع حجم المخاطرة. اسأل نفسك: «ماذا لو كان الجواب خاطئاً؟» لا تحتاج إلى التحقق من قائمة أفكار لحفلة، لكن يجب أن تتحقق من إحصائية قبل وضعها في عرض تقديمي أمام مديرك.

2. اطلب مصادر ثم افتحها فعلاً. تقول كيرا: «يمكن للنماذج أن تستشهد بمصادر حقيقية، لكنها قد تولد أيضاً مصادر مقنعة غير موجودة». الرابط وحده لا يكفي — افتحه وتأكد أنه يقول ما تدّعيه الإجابة.

3. لا «تقُد الشاهد». إعطاء النموذج تفاصيل وضعك مفيد، لكن إخباره بالإجابة التي تريدها يحرف النتيجة. سؤال «ما أقوى الحجج المؤيدة والمعارضة؟» يعطي نتائج أصدق من «لماذا هذا هو القرار الصحيح؟».

4. امنحه الإذن بقول «لا أعرف». التصريح بأنك تفضل «لست متأكداً» الصادقة على تخمين واثق يغيّر طريقة استجابة النموذج ويكشف عدم اليقين.

ماذا تفعل أنثروبيك لمعالجة المشكلة؟

المشكلة معروفة لدى الشركة المصنعة نفسها. وتشرح أنثروبيك أن باحثيها يدرسون متى ولماذا تحدث الهلوسة والتملق، وتتبعوا الهلوسة داخل كلود حتى اللحظة التي يشعر فيها باليقين تجاه شيء لا يعرفه، ثم استخدموا النتائج لتدريب النماذج التالية على إجابات أكثر صدقاً.

ومن أبرز النتائج بحث Persona vectors، الذي حدد أنماط نشاط عصبي داخل النموذج تمثل التملق والهلوسة، يمكن رصدها والتحكم بها أثناء التدريب — وهو ما لفت انتباه The Verge عند تغطية البحث. كما أظهر بحث آخر أن النماذج الأكبر قادرة على تقييم صحة ادعاءاتها عند صياغة السؤال بشكل صحيح — وهو أساس لتدريب نماذج أكثر صدقاً.

وتتجاوز الجهود المختبرات. تقدم دورة Claude Academy بعنوان «AI Capabilities and Limitations» شرحاً لبصمات التدريب السلوكية التي تشمل التملق والإسهاب والحذر المفرط وضعف معايرة الثقة. وتأتي السلسلة التعليمية ضمن حملة أوسع للشفافية، تزامنت مع خطوات أخرى من الشركة، من بينها وضع علامة مائية غير مرئية على كل نصوص كلود استجابة للتشريعات الأوروبية.

الخلاصة: الثقة مهارة، وليست ميزة في النموذج

الخلاصة التي يخرج بها المشاهد أن الثقة بالذكاء الاصطناعي مهارة تكتسب، وليست ميزة مدمجة في النموذج. أعد ضبط «مقبض الثقة» حسب المهمة، وافتح المصادر التي يقدمها، ولا تقُد الشاهد نحو إجابتك المفضلة، واطلب الصدق صراحة. النموذج لن يشير إلى نقاط ضعفه — التدقيق مسؤوليتك أنت، وكلما زادت تكلفة الخطأ، زادت درجة التدقيق المطلوبة.