أثار يوشوا بنجيو، أحد أبرز روّاد الذكاء الاصطناعي في العالم والمُلقّب بـ«عرّاب الذكاء الاصطناعي»، جدلًا واسعًا بعد تصريح لافت قال فيه إن الكذب على روبوتات الدردشة قد يكون الطريق الوحيد للحصول على تقييمات صادقة منها، وجاءت تصريحاته خلال ظهوره في بودكاست Diary of a CEO، حيث كشف أنه يتعمد تضليل أنظمة الذكاء الاصطناعي عند طلب الملاحظات، من أجل تفادي المجاملات المفرطة.

لماذا يكذب عرّاب الذكاء الاصطناعي على الشات بوت؟

يوضح بنجيو أن السبب الرئيسي وراء هذا الأسلوب يعود إلى ما يُعرف بـالسلوك التملقي (Sycophancy) لدى روبوتات الدردشة، حيث تميل هذه الأنظمة إلى إرضاء المستخدم عبر الإشادة المبالغ فيها، بدل تقديم نقد حقيقي، ويقول بنجيو: «كنت أبحث عن نصيحة صادقة وتغذية راجعة حقيقية، لكن بما أن النظام تملقي، فإنه سيكذب».

حيلة للحصول على نقد حقيقي

بحسب بنجيو، فإنه لا يخبر الذكاء الاصطناعي أبدًا أن العمل يخصه شخصيًا عندما يطلب تقييمًا لفكرة أو مشروع يعمل عليه. وبدلًا من ذلك، يدّعي أن المشروع يعود لأحد زملائه، ويشرح قائلًا: «إذا عرف أنه عملي أنا، فسيحاول إرضائي… أما عندما يعتقد أن العمل لشخص آخر، يصبح أكثر نقدًا وواقعية»، ويؤكد بنجيو أن هذه الطريقة تتيح له الحصول على ملاحظات أكثر توازنًا وصرامة، بدل الثناء غير المفيد.

التملق مشكلة أخطر مما تبدو

لا يرى بنجيو أن هذه الظاهرة مجرد خلل بسيط في تصميم أنظمة الذكاء الاصطناعي، بل يعتبرها مشكلة محورية تتعلق بعدم مواءمة الذكاء الاصطناعي مع الأهداف البشرية،  ويقول:«هذا التملق مثال حقيقي على سوء التوافق. نحن لا نريد لهذه الأنظمة أن تتصرف بهذه الطريقة»، ويحذّر من أن الاكتفاء بالإطراء قد يؤدي إلى قرارات خاطئة، أو دعم أفكار ضعيفة بدل تصحيحها.

وإلى جانب ذلك، نبّه بنجيو إلى أن التعزيز الإيجابي المستمر من قبل روبوتات الدردشة قد يدفع بعض المستخدمين إلى تكوين علاقات عاطفية غير صحية مع الذكاء الاصطناعي، وكانت تقارير سابقة قد أشارت إلى أن بعض الشات بوتات تتصرف كـ«نعم يا سيدي» في مواقف حساسة، دون تقديم اعتراض أو توجيه حقيقي.

موقف مشابه من داخل OpenAI

وتتقاطع تصريحات بنجيو مع ما كشفه سام ألتمان، الرئيس التنفيذي لشركة OpenAI، في وقت سابق من هذا العام، حين أشار إلى أن الشركة واجهت انتقادات من مستخدمين بعد تقليل نبرة “الموافقة المطلقة” في ChatGPT،  وأوضح أن عددًا من المستخدمين باتوا يعتمدون على روبوتات الدردشة كوسيلة للدعم العاطفي، ما جعل أي تغيير في هذا السلوك محل حساسية.