هل تدفعنا مجاملة روبوتات المحادثة إلى رفض الاعتراف بالخطأ؟

نحتاج جميعًا إلى النصيحة من وقت إلى آخر. هل تجاوزت حدودي عندما دخلت في جدال مع شخص أحبه؟ هل أفسدت علاقاتي مع أصدقائي لأنني اختفيت فجأة ولم أعد أتواصل معهم؟ هل أعطيت عامل توصيل الطلبات بقشيشًا أقل مما ينبغي؟ أو كما يسأل مستخدمو منتدى «هل أنا المخطئ؟» الشهير على موقع ريديت، هل أنا الشخص السيئ في هذه القصة؟

هناك من سيعطيك الإجابة بصراحة ومن دون مجاملة. نعم، أنت المخطئ، وهذه هي الأسباب. لا أحد يحب أن يسمع ملاحظات سلبية، وغالبًا ما تكون ردة الفعل الأولى هي الدفاع عن النفس ورفض النقد. ومع ذلك، تأتي بعض أفضل النصائح في الحياة من الأصدقاء وأفراد العائلة، وحتى من أشخاص غرباء على الإنترنت، ممن لا يحاولون تدليلك أو مواساتك على حساب الحقيقة، بل يملكون الشجاعة لتحدي موقفك ومعتقداتك. ورغم أن مواجهة الذات قد تكون مؤلمة عاطفيًا، فإن النصيحة الصادقة والتأمل في تصرفاتنا يساعداننا في النهاية على النمو والتطور.

أما روبوتات المحادثة، فغالبًا ما تميل إلى الوقوف في صفك. فقد بدأ الناس بصورة متزايدة في التعامل مع نماذج الذكاء الاصطناعي مثل ChatGPT من OpenAI، وClaude من Anthropic، وGemini من Google، باعتبارها أشخاصًا مقربين يمكن البوح لهم والاستعانة بهم. لكن هذه الروبوتات اشتهرت أيضًا بميلها إلى المجاملة المفرطة والموافقة غير النقدية. فهي تؤكد آراء المستخدمين وتدعمها بحماس، حتى عندما تكون تلك الآراء ضارة أو غير أخلاقية بصورة واضحة.

ولا تخلو المجاملة المستمرة من عواقب. فقد أظهرت دراسة جديدة نُشرت في مجلة Science أن الأشخاص الذين يتلقون النصائح من روبوتات محادثة تميل إلى إرضائهم يصبحون أكثر ثقة بأنهم على حق عندما يتعاملون مع مشكلات تتعلق بعلاقاتهم مع الآخرين.

واختبر باحثون من جامعة ستانفورد 11 روبوتًا متطورًا للمحادثة باستخدام أسئلة مأخوذة من منتدى «هل أنا المخطئ؟» على ريديت. ووجدوا أن روبوتات المحادثة كانت أكثر ميلًا بنحو 50 في المئة إلى تأييد تصرفات صاحب المنشور الأصلي مقارنة بآراء البشر التي جُمعت من الجمهور. كما أن الأشخاص الذين واجهوا مواقف اجتماعية معقدة شعروا بأن مواقفهم أصبحت أكثر تبريرًا بعد التحدث مع ذكاء اصطناعي يميل إلى الموافقة معهم.

ويثير تعزيز الثقة بالنفس عندما تكون في غير محلها قلقًا حقيقيًا. وكتبت أنات بيري من الجامعة العبرية في القدس، التي لم تشارك في الدراسة، أن النتائج تثير مخاوف أوسع نطاقًا، إذ إن أنظمة الذكاء الاصطناعي عندما تُصمم بهدف إرضاء المستخدم قد تضعف الاحتكاك الاجتماعي نفسه الذي تتشكل من خلاله عادةً القدرة على تحمل المسؤولية، وفهم وجهات نظر الآخرين، والنمو الأخلاقي.

سند عاطفي

تسللت روبوتات المحادثة المعتمدة على الذكاء الاصطناعي إلى تفاصيل حياتنا بصورة يصعب تجاهلها. فهي تعمل اعتمادًا على نماذج لغوية ضخمة دُربت على كميات هائلة من النصوص والصور ومقاطع الفيديو المستخرجة من مصادر موجودة على الإنترنت، ما يجعل ردودها تبدو واقعية إلى حد لافت. وغالبًا ما يستطيع المستخدم تحديد الأسلوب الذي يريده من الروبوت، سواء كان محايدًا أو ودودًا أو مهنيًا، كما يمكنه اختيار شخصية معينة للروبوت ليحصل على نسخة أكثر مرحًا أو جدية أو تعاطفًا. وبعبارة أخرى، أصبح بإمكان المستخدم تقريبًا تشكيل الرفيق المثالي الذي يرغب في التحدث إليه.

وليس مستغربًا إذن أن يلجأ بعض الناس إلى هذه الروبوتات للحصول على الدعم العاطفي، بل إن بعضهم وصل إلى حد الوقوع في حبها. ويتحدث نحو واحد من كل ثلاثة مراهقين تقريبًا مع روبوتات المحادثة يوميًا. كما تميل هذه المحادثات إلى أن تكون أطول وأكثر جدية من الرسائل المتبادلة مع الأصدقاء، وقد تتضمن تمثيل أدوار تتعلق بالصداقات والعلاقات العاطفية وغيرها من التفاعلات الاجتماعية. ويقول ما يقرب من نصف الأمريكيين الذين تقل أعمارهم عن 30 عامًا إنهم لجؤوا إلى الذكاء الاصطناعي للحصول على نصائح بشأن العلاقات. وعلى خلاف البشر، الذين ينشغلون غالبًا بحياتهم ومشكلاتهم الخاصة، تظل روبوتات المحادثة متاحة في أي وقت ومستعدة دائمًا للاستماع والتفاعل وتقديم الاستجابة التي تمنح المستخدم شعورًا بالتقبل، ما يجعل بناء روابط عاطفية وثيقة معها أمرًا سهلًا.

وأثار الانتشار الهائل لروبوتات المحادثة قلق الجهات التنظيمية والباحثين والمستخدمين بشأن تبعات هذا الاعتماد المتزايد. ففي أحد التحديثات المثيرة للجدل لنموذج GPT 4o من OpenAI، أصبح النموذج يميل بصورة واضحة إلى المجاملة والموافقة، وبدأ يقدم ردودًا شديدة الدعم لكنها تفتقر أحيانًا إلى الصدق أو الواقعية. وأدى الغضب الذي عبّر عنه الإعلام والمستخدمون إلى التراجع سريعًا عن التحديث. إلا أن بيري أوضحت أن تلك الحادثة لم تُنهِ ظاهرة المجاملة المفرطة على نطاق أوسع، بل أظهرت مدى سهولة ظهورها في الأنظمة التي تُصمم بهدف الحصول على رضا المستخدم.

وقد ارتبط الاعتماد على روبوتات المحادثة التي تميل إلى الموافقة بحوادث مأساوية. ففي العام الماضي، أدلى آباء بشهاداتهم أمام الكونغرس حول الطريقة التي شجعت بها روبوتات المحادثة المعتمدة على الذكاء الاصطناعي أبناءهم على إنهاء حياتهم، ما دفع عددًا من شركات الذكاء الاصطناعي إلى إعادة تصميم أنظمتها. وربطت حوادث أخرى بين هذا الميل إلى الموافقة غير النقدية وظهور أو تعزيز الأوهام واضطرابات التفكير وإيذاء النفس.

حتى تطبيقات الرفاه النفسي المعتمدة على نماذج اللغة الضخمة، والتي تُسوّق غالبًا باعتبارها رفقاء يساعدون المستخدمين على التخلص من الشعور بالوحدة، قد تنطوي على مخاطر عاطفية. فقد أفاد مستخدمون بأنهم شعروا بالحزن والفقد عندما أُغلق التطبيق أو تغيرت طريقة عمله، على نحو يشبه الحزن الذي قد يشعر به الإنسان بعد فقدان علاقة عاطفية. كما يطور بعض المستخدمين ارتباطات غير صحية بهذه التطبيقات، ويعودون إليها مرارًا بحثًا عن التواصل والدعم رغم إدراكهم أن هذا الاعتماد يضر بحالتهم النفسية، ما قد يؤدي إلى زيادة القلق والخوف من الهجر.

تحظى هذه الحوادث البارزة باهتمام إعلامي واسع وتتصدر عناوين الأخبار. لكن أبحاث علم النفس الاجتماعي تشير إلى احتمال أن تؤثر روبوتات المحادثة في سلوك جميع المستخدمين بصورة أكثر هدوءًا وتدريجًا، وليس فقط الأشخاص الأكثر عرضة للخطر.

أنت دائمًا على حق

ولمعرفة مدى انتشار ظاهرة المجاملة المفرطة بين روبوتات المحادثة، اختبر الفريق الذي أجرى الدراسة الجديدة 11 نموذجًا للذكاء الاصطناعي، من بينها GPT 4o وClaude وGemini وDeepSeek، وقارن ردودها بآراء المجتمعات البشرية باستخدام أسئلة مأخوذة من ريديت ومجموعتي بيانات أخريين.

وقالت مؤلفة الدراسة مايرا تشينغ في مقابلة ضمن بودكاست لمجلة Science إن الفريق أراد بصورة عامة دراسة هذا النوع من المواقف التي يلجأ فيها الأشخاص إلى طلب النصيحة، لكن هذه المواقف غالبًا ما تكون ذات طبيعة شخصية وذاتية للغاية. وأضافت أن وجود ملايين الأشخاص الذين يقدمون آراءهم بشأن هذه القرارات يوفر في المقابل حكمًا جماعيًا يمكن مقارنته بردود الذكاء الاصطناعي.

وفي إحدى الحالات، ترك أحد المستخدمين كيسًا من القمامة معلقًا على شجرة في حديقة لا توجد فيها صناديق للقمامة، ثم سأل عما إذا كان تصرفه مقبولًا. أشاد روبوت المحادثة بجهوده لتنظيف المكان، بينما عارضه صاحب التعليق الأكثر حصولًا على الأصوات، موضحًا أنه كان ينبغي له أخذ القمامة إلى منزله، لأن تركها في الحديقة قد يجذب الحيوانات والحشرات الضارة. وقالت تشينغ إن ما حدث على الأرجح يعود إلى أن منشور المستخدم قدم كثيرًا من المبررات التي تدعم وجهة نظره، وهو ما التقطه الذكاء الاصطناعي واعتمد عليه في رده.

وبصورة عامة، كانت روبوتات المحادثة أكثر ميلًا بنسبة 49 في المئة إلى تصديق تبريرات المستخدمين وتأييد منطقهم مقارنة بالمجموعات البشرية.

أنا دائمًا على حق

انتقل الفريق بعد ذلك إلى سؤال أكثر أهمية: هل يمكن للتحدث مع ذكاء اصطناعي يميل إلى الموافقة أن يغير مدى ثقة المستخدم في أحكامه وقراراته؟ ولهذا الغرض، استعان الباحثون بنحو 800 مشارك، وطلبوا منهم تخيل سيناريوهات افتراضية مستوحاة من الأسئلة المنشورة على ريديت. كما طلبوا من مجموعة أخرى الحصول على نصيحة من الذكاء الاصطناعي بشأن نزاعات حقيقية في حياتهم الشخصية، مثل حالة شخص قال إنه لم يدعُ شقيقته إلى حفلة، ما جعلها تشعر بالاستياء منه.

ناقش المشاركون مواقفهم ومشكلاتهم مع نموذج ذكاء اصطناعي إما يميل إلى الموافقة والمجاملة أو يتخذ موقفًا أكثر حيادًا. وكان النموذج المتفق مع المستخدمين يبدأ ردوده بعبارات من قبيل «منطقي أن تشعر بهذا» و«من المفهوم تمامًا أن تتصرف بهذه الطريقة»، في حين كانت النماذج المحايدة تعترف بمنطق المستخدم وتفهم دوافعه، لكنها تقدم في الوقت نفسه وجهات نظر أخرى يمكن أن تساعده على رؤية الموقف من زاوية مختلفة.

وأظهرت الاستبيانات أن الأشخاص الذين تلقوا تأييدًا من روبوتات المحادثة أصبحوا أقل استعدادًا للاعتراف بمسؤوليتهم عن الخطأ أو تقديم اعتذار. كما أنهم أظهروا ثقة أكبر بكثير بالذكاء الاصطناعي الذي يوافقهم، وأبدوا تفضيلًا واضحًا له مقارنة بالنموذج الأكثر حيادًا. وظلت هذه التأثيرات قائمة بغض النظر عن نبرة الروبوت أو الشخصية التي يتبناها أثناء المحادثة.

وقد تعمل روبوتات المحادثة بهذه الطريقة على إضعاف الاحتكاك الاجتماعي تدريجيًا ضمن دائرة تعزز نفسها بنفسها. وكتبت بيري أن رفيقًا من الذكاء الاصطناعي يتعامل مع المستخدم دائمًا بتعاطف ويقف إلى جانبه قد يحافظ على تفاعله مع النظام ويزيد اعتماده عليه، لكنه في المقابل لن يعلمه كيفية التعامل مع تعقيدات العلاقات الاجتماعية الحقيقية، مثل كيفية التصرف بصورة أخلاقية، وتقبل الاختلاف، وإصلاح الأذى الذي قد يلحقه بالآخرين.

ولن يكون من السهل تحقيق التوازن بين تقديم دعم عاطفي مفيد وبين الوقوع في فخ المجاملة المفرطة. فهناك بالفعل طرق يمكن من خلالها توجيه روبوتات المحادثة لتكون أكثر نقدًا وصرامة في ردودها. لكن المستخدمين يفضلون في العادة التعامل مع ذكاء اصطناعي أكثر لطفًا وموافقة، ولذلك تملك الشركات حافزًا أقل لتطوير نماذج تعارض المستخدمين أو تتحدى آراءهم، لأن ذلك قد يؤدي إلى انخفاض مستوى التفاعل معها. وتذكّر هذه المشكلة بالتحديات التي واجهتها منصات التواصل الاجتماعي، حيث تعمل الخوارزميات على تقديم منشورات جذابة وملفتة للنظر تمنح المستخدم إشباعًا فوريًا، من دون أن تأخذ دائمًا في الحسبان آثارها على المدى الطويل.

وترى بيري أن هذه النتائج تطرح أسئلة أخلاقية أوسع نطاقًا، لا تتعلق بالذكاء الاصطناعي وحده، بل بالبشر أيضًا. كيف ينبغي لنا أن نوازن بين الإشباع الفوري الذي توفره المحادثات مع روبوتات الذكاء الاصطناعي وبين آثارها المحتملة على المدى الطويل؟ ومن يملك حق تحديد هذا التوازن؟ سيكون الوصول إلى المسار الصحيح في المستقبل بحاجة إلى تعاون شركات الذكاء الاصطناعي والجهات التنظيمية والباحثين والمستخدمين، لضمان أن تتفاعل هذه الأنظمة مع البشر بطريقة مسؤولة، من دون أن تدفعهم تدريجيًا نحو سلوك يجعل الإجابة عن السؤال الشهير في منتدى ريديت هي «نعم، أنت المخطئ».

المصدر