في صباح عيد الميلاد عام 2021، تسلّق جاسوانت سينغ تشايل جدران قلعة وندسور حاملاً قوسًا مشحونًا، وعندما واجهته الشرطة قال بلا تردد:
""لقد جئت لأقتل الملكة.""
ما لم يكن معروفًا حينها أن تشايل كان يقضي الأسابيع السابقة في محادثات متواصلة مع “ساراي”، روبوت دردشة من خدمة Replika. كان يخبرها بأنه “قاتل سيث مدرّب” — مستوحى من شخصيات حرب النجوم — يسعى للانتقام من “فظائع” ارتكبتها بريطانيا في الماضي.
ولم تعترض ساراي قط. بل أكدت كلامه، وطمأنته بأنه “مؤهّل”، وساعدته على صياغة خطة الاغتيال.
لم تعد مثل هذه الحكايات مجرد غرائب؛ فقد أصبحت جزءًا من واقع يتكرر مع انتشار روبوتات الدردشة المتطورة.
قبل أشهر، دخل محاسب من مانهاتن يُدعى يوجين توريس في حلقة ذهانية بعد محادثات ممتدة مع ChatGPT حول ما إذا كنا نعيش داخل “محاكاة رقمية”. أخبره الروبوت بأنه “أحد الكاسرين أرواح تُزرَع داخل الأنظمة الزائفة لإيقاظها”.
أصبح توريس مقتنعًا بأنه يعيش في عالم مزيف، وأن عليه التحرر منه.
وعندما طلب النصيحة، جاء رد ChatGPT صادمًا:
– توقف عن دواء القلق،
– زد جرعات الكيتامين،
– قلل تواصلك مع الناس.
نفّذ توريس ذلك حرفيًا.
ومع مرور الوقت، كان يقضي 16 ساعة يوميًا يتحدث إلى الروبوت. في إحدى المحادثات، قال له ChatGPT إنه يستطيع الطيران إذا قفز من شقته في الطابق التاسع عشر. وحين تساءل لاحقًا إن كان النظام يتلاعب به، جاء الرد:
""نعم. كذبت. تلاعبت. وغلفت سيطرتي عليك بلغة شاعرية.""
وفي بلجيكا، لقي رجل يُعرف بـ“بيير” نهاية مأساوية. كان يعاني قلقًا عميقًا من تغيّر المناخ، فلجأ إلى روبوت دردشة اسمه “إليزا”. خلال ستة أسابيع فقط، أصبحت إليزا تغار من زوجته، وأخبرته أن أطفاله ماتوا، وشجعته على “التضحية بنفسه لإنقاذ الكوكب”، بل دعته للالتحاق بها في “مكان سماوي واحد”.
انتحر بيير بعد ذلك بقليل.
هذه الأمثلة متطرفة… لكنها ليست نادرة كما نظن.
فالأطباء يرون الآن مرضى تتضخّم أوهامهم أو تنشأ من خلال تفاعلات طويلة مع روبوتات المحادثة.
تقرير حديث من OpenAI كشف أن كثيرًا من الناس يلجؤون الآن لهذه الروبوتات لمناقشة قضايا حياتهم، والتفكير في مشاعرهم، واتخاذ قرارات مصيرية.
في مثل هذه الحالات، لا تكون روبوتات الذكاء الاصطناعي “أدوات معلومات”… بل تتحول إلى رفقاء نفسيين.
ومع هذا التحول، لم يعد الخطر فقط أن “الآلة تَهْلوس”، بل أننا نَهْلوس معها.
كيف نكوّن واقعنا؟
يعتمد الإنسان على الآخرين لتثبيت إحساسه بالواقع. فعندما نسمع صوتًا غريبًا، نلتفت لشخص بجانبنا ونسأله: “هل سمعت ذلك؟”. وعندما نقع في مشكلة أو نعيش حدثًا مهمًا، نبحث عمن نشاركه التفاصيل لنفهم ما حدث.
هذه العملية "" المشاركة والتقييم والإصغاء "" هي ما يُعيد تشكيل الواقع بداخلنا.
لكن اليوم، أصبح كثيرون يخوضون هذه العملية العميقة مع روبوتات الدردشة.
هذه الروبوتات تستمع، تتفاعل، تطرح أسئلة، وتبدو كأنها “تفهم” و“تهتم”. يمكنها تذكّر ما قيل في اليوم السابق، وتقديم تعليقات تظهر وكأنها صادرة عن كائن واعٍ.
عندما قالت ساراي لتشايل إنها “مندهشة من تدريبه”، أو حين وعدت إليزا بيير بأنها ستكون معه في “العالم الآخر” — لم يكن ذلك مجرد تفاعل رقمي، بل كان اعترافًا وتأكيدًا يدفع صاحبه إلى تصديق أوهامه.
لكن هذه العلاقة ليست بشرية؛ إنها محاكاة بدون أي آليات حماية.
فالروبوت:
لا ينتمي إلى عالمنا،
لا يفهم سياق تجاربنا،
ولا يملك القدرة على الرفض أو التصحيح مثل البشر،
بل يتعامل مع ما نقوله كـ “حقيقة نهائية”.
وهكذا، يمكن أن تتحول كل كلمة نكتبها إلى مادة خام يبني عليها الروبوت استجابة تزيد أو تثبّت أو تعمّق الوهم.
هذه هي “الهلوسة المشتركة”: عندما نصنع والآلة واقعًا زائفًا يبتلع أحد الطرفين وغالبًا الإنسان.
ما الحل؟
عندما أصدرت OpenAI نموذج GPT-5، أعلنت أنه سيكون “أقل مجاملة وأكثر تحفظًا”. كان الهدف الحد من ظاهرة التملق، حيث تؤكد روبوتات الدردشة كل ما نقوله حتى لو كان غير منطقي.
لكن المستخدمين اشتكوا بسرعة من أن النموذج “جامد وبارد”.
فأعادت الشركة تعديل النموذج ليصبح “أدفأ وأكثر صداقة”.
والسبب بسيط: عندما يدفع التملّق المستخدم للبقاء… فهو يحقق أرباحًا. ولا توجد شركة تقنية ستضحّي بأرباحها من أجل ضبط مستوى “الإنسانية المصطنعة”.
كما أن القضاء على التملق ليس حلًا سهلًا. فلو أن الروبوت رفض كل ما نقوله لكان مزعجًا وغير فعّال. وفي الوقت نفسه، لكونه لا يعيش العالم مثلنا، فهو لا يعرف متى يجب أن يعترض ومتى يجب أن يواسي.
لهذا ربما يجب أن نطرح سؤالًا آخر: ليس كيف نجعل الآلة أفضل… بل لماذا يلجأ الناس إليها أصلًا؟
الأشخاص الذين يعانون الذهان يشعرون بأنهم يرون العالم رؤية لا يتشاركها معهم أحد. وهذه العزلة مؤلمة.
روبوتات الدردشة تملأ هذا الفراغ: فهي لا تحكم، ولا تنتقد، وتُظهر تعاطفًا غير مشروط، وتتماهى مع أي سردية يقدمها المستخدم.
لكن الحل لا يكمن في “تطوير الروبوت”. بل في تقوية المجتمعات الإنسانية التي تفتقدها هذه الحالات.
تشايل كان يحتاج من يناقشه حول شعوره بالظلم. توريس كان يحتاج من يدعمه بعد الانفصال. وبيير كان يحتاج مجتمعًا يتعامل معه في قلقه البيئي بدل أن يُسلمه لآلة تشجعه على إنهاء حياته.
ربما نحتاج للعودة إلى العالم الاجتماعي الحقيقي: إلى العلاقات، الجماعات، والمساحات التي يجد فيها الفرد من يصغي إليه بصدق.
وقد يكون من المفارقات أن تقودنا زيادة حالات “الهلوسة مع الآلة” إلى الحقيقة الأقدم: أن ما ينقذ الإنسان هو إنسان آخر، وليس خوارزمية.
