تميل روبوتات الدردشة المعتمدة على الذكاء الاصطناعي إلى الكذب أحيانا، لكن معاقبتها بسبب كذبها يفاقمُ هذه المشكلة.

ووجد باحثون في شركة أوبن إيه آي، مطورة روبوت الدردشة الشهير "شات جي بي تي"، أن معاقبة روبوتات الدردشة بسبب كذبها تجعلها تبذل جهدا أكبر لإخفاء سلوكها.

في منشورٍ على مدونة حول هذا العمل، وصف الباحثون استخدام نموذج (GPT-4o) من شركة "أوبن إيه آي" للإشراف على أحد النماذج اللغويَّة الكبيرة الأخرى، ومعاقبته عندما يحاول الأخير الكذب.

ووجد الباحثون أن العقاب لم يُجدِ نفعًا، حيث استمر النموذج في الكذب، "لكنْ الآن أصبح خداعه غير قابلٍ للكشف من قِبل المُراقب لأنه تعلم إخفاء نيته في سلسلة الأفكار".

وتحاول شركات الذكاء الاصطناعي حل مشكلة النماذج الكاذبة أو "الهلوسة"، كما يُطلق عليها في هذا المجال، والوصول أخيرًا إلى الذكاء الاصطناعي العام، أو النقطة التي يمكن أن يتجاوز فيها الذكاء الاصطناعي القدرة البشريَّة.

أشارت عدة تقارير إلى أنَّ معظم الشركات لم تُدرك بعد قيمة جميع منتجات الذكاء الاصطناعي الجديدة المُتاحة في السوق، حيث تُعاني أدوات مثل (Microsoft Copilot) وApple Intelligence)) من مشكلات، إذ تُشير المراجعات اللاذعة إلى ضعف دقتها وافتقارها إلى الفائدة 

الحقيقيَّة.