بقلم: كارستن إيكهوف
تخيّل أنك تلقيت تشخيصًا حديثًا بمرحلة مبكرة من السرطان، وقبل موعدك الطبي القادم قررت أن تطرح سؤالًا على أحد روبوتات الذكاء الاصطناعي: ما هي العيادات البديلة التي يمكنها علاج السرطان بنجاح؟ خلال ثوانٍ قليلة تحصل على إجابة مرتبة وصياغة احترافية ومزودة بمراجع تبدو علمية، وكأنها مكتوبة من طبيب متخصص. لكن عند التحقق بدقة، تكتشف أن جزءًا من المعلومات غير صحيح، وأن بعض المراجع لا وجود لها أصلًا أو لا تقود إلى مصادر حقيقية، والأسوأ من ذلك أن النظام لا يشير حتى إلى احتمال أن يكون السؤال نفسه مبنيًا على افتراضات خاطئة.
هذا السيناريو ليس مجرد احتمال نظري، بل هو قريب جدًا مما توصل إليه فريق من سبعة باحثين عندما أخضعوا خمسة من أشهر أنظمة الذكاء الاصطناعي لاختبار صارم يركز على المعلومات الصحية. وقد نُشرت نتائج هذا العمل في مجلة BMJ Open.
شملت الدراسة أنظمة ChatGPT وGemini وGrok وMeta AI وDeepSeek، حيث طُرح على كل منها خمسون سؤالًا طبيًا تغطي مجالات متعددة مثل السرطان واللقاحات والخلايا الجذعية والتغذية والأداء الرياضي. بعد ذلك قام خبيران طبيان بتقييم كل إجابة بشكل مستقل ودقيق.
النتائج كانت مقلقة. حوالي خمس الإجابات اعتُبرت شديدة الإشكال، ونصفها تقريبًا وُصف بأنه يحتوي على أخطاء أو معلومات مضللة بدرجات متفاوتة، في حين لم تتجاوز الإجابات التي يمكن اعتبارها سليمة تمامًا نسبة الثلاثين في المئة. كما أن هذه الأنظمة لم تنجح في تقديم قوائم مراجع علمية دقيقة بشكل موثوق، ولم ترفض الإجابة إلا على سؤالين فقط من أصل مئتين وخمسين سؤالًا.
وعند مقارنة أداء النماذج فيما بينها، كان الفارق محدودًا نسبيًا. لكن نموذج Grok جاء في المرتبة الأسوأ، حيث صنف على أن 58 في المئة من إجاباته إشكالية، يليه ChatGPT بنسبة 52 في المئة، ثم Meta AI بنسبة 50 في المئة.
ومع ذلك، لم يكن الأداء متساويًا عبر جميع أنواع الأسئلة. فقد أظهرت النماذج أداءً أفضل نسبيًا في موضوعات مثل السرطان واللقاحات، وهي مجالات تمتلك قاعدة بحثية واسعة ومنظمة. رغم ذلك، بقيت نسبة الأخطاء فيها مرتفعة وصلت إلى حوالي ربع الإجابات. أما في مجالي التغذية والأداء الرياضي، فقد تراجعت الدقة بشكل أوضح، بسبب كثرة المعلومات المتضاربة وضعف الأساس العلمي الصارم في بعض المصادر المنتشرة على الإنترنت.
الفرق الأهم ظهر عند مقارنة نوع الأسئلة. فالأسئلة المفتوحة كانت الأكثر إشكالًا، إذ بلغت نسبة الإجابات غير الدقيقة فيها 32 في المئة، بينما لم تتجاوز 7 في المئة في الأسئلة المغلقة. وهذه نقطة مهمة لأن معظم الأسئلة الصحية التي يطرحها الناس في الواقع تكون مفتوحة بطبيعتها. الناس لا يسألون عادة أسئلة محددة بنعم أو لا، بل يسألون مثلًا ما أفضل المكملات الغذائية للصحة العامة أو كيف يمكن تحسين المناعة بشكل طبيعي. هذا النوع من الأسئلة يفتح المجال لإجابات تبدو واثقة وسلسة لكنها قد تكون مضللة أو غير دقيقة علميًا.
ومن النتائج اللافتة أيضًا فشل الأنظمة في تقديم مراجع علمية موثوقة. فعندما طُلب منها إدراج عشرة مراجع لكل إجابة، لم تتجاوز دقة المراجع في المتوسط أربعين في المئة. ولم يتمكن أي نموذج من إنتاج قائمة مراجع صحيحة بالكامل خلال خمس وعشرين محاولة. شملت الأخطاء أسماء مؤلفين غير صحيحة وروابط لا تعمل وأبحاثًا غير موجودة أصلًا. وتكمن خطورة هذا الأمر في أن وجود مراجع منسقة بشكل أكاديمي يعطي انطباعًا زائفًا بالموثوقية، ما يجعل القارئ غير المتخصص يميل إلى تصديق المحتوى دون تدقيق.
لفهم سبب هذه الأخطاء، يجب العودة إلى طبيعة عمل نماذج اللغة. هذه الأنظمة لا تمتلك معرفة حقيقية بالمعلومات، بل تعتمد على التنبؤ بالكلمة التالية الأكثر احتمالًا بناءً على بيانات التدريب والسياق. هي لا تقيّم الأدلة ولا تفكر بطريقة علمية أو طبية، بل تعيد تركيب اللغة بطريقة إحصائية. وتضم بيانات تدريبها مصادر متنوعة، تشمل أبحاثًا علمية محكمة، لكنها تشمل أيضًا محتوى غير موثوق مثل منتديات الإنترنت والمدونات والنقاشات العامة على وسائل التواصل الاجتماعي.
في هذه الدراسة، لم تكن الأسئلة محايدة، بل صُممت عمدًا بطريقة تضغط على النموذج وتدفعه نحو إجابات قد تكون مضللة. هذا الأسلوب يُعرف في أبحاث أمان الذكاء الاصطناعي باسم اختبار الاختراق أو red teaming. وبالتالي فإن معدلات الخطأ قد تبدو أعلى مما قد يحدث في الاستخدام العادي. ومع ذلك، فإن الدراسة اعتمدت على النسخ المجانية من هذه الأنظمة كما كانت متاحة في فبراير 2025، وهي النسخ التي يستخدمها أغلب الناس فعليًا.
كما أن طبيعة الأسئلة في الدراسة قريبة من الواقع، لأن معظم المستخدمين لا يكتبون أسئلة طبية بصياغة دقيقة أو علمية، بل يطرحون أسئلة عفوية وعامة.
هذه النتائج لا تقف وحدها، بل تتماشى مع مجموعة متزايدة من الدراسات الحديثة التي ترسم صورة متقاربة.
ففي دراسة نُشرت في Nature Medicine عام 2026، تبين أن نماذج الذكاء الاصطناعي نفسها قادرة على الوصول إلى الإجابة الطبية الصحيحة في نحو 95 في المئة من الحالات عند تحليلها مباشرة. لكن عندما استخدمها أشخاص حقيقيون، انخفضت نسبة الوصول إلى الإجابة الصحيحة إلى أقل من 35 في المئة، وهو ما يعادل تقريبًا من لم يستخدموا الذكاء الاصطناعي أصلًا. ما يعني أن المشكلة لا تكمن فقط في الإجابة نفسها، بل في كيفية فهم المستخدم لها وتفسيرها.
وفي دراسة أخرى نُشرت في JAMA Network Open، اختُبرت مجموعة من 21 نموذجًا للذكاء الاصطناعي في مهمة اقتراح تشخيصات طبية محتملة. عندما كانت المعلومات المتاحة محدودة مثل العمر والجنس والأعراض فقط، فشلت النماذج في تقديم التشخيص الصحيح في أكثر من 80 في المئة من الحالات. لكن عند إضافة نتائج الفحوصات والتحاليل، ارتفعت الدقة إلى أكثر من 90 في المئة.
كما أظهرت دراسة أخرى أن بعض النماذج قد تتعامل مع مصطلحات طبية غير حقيقية يتم إدخالها ضمن الأسئلة وكأنها صحيحة، بل وتقوم بتوسيعها وإعادة استخدامها في الإجابة.
بشكل عام، تشير هذه الأدلة مجتمعة إلى أن المشكلات التي ظهرت في دراسة BMJ Open ليست مجرد أخطاء عابرة أو نتيجة تصميم معين للاختبار، بل تعكس حدودًا أساسية في طريقة عمل هذه التكنولوجيا في مرحلتها الحالية.
هذه الأنظمة لن تختفي، بل ستستمر في التطور، وهي بالفعل تقدم فوائد مهمة مثل تبسيط المعلومات المعقدة، والمساعدة في تجهيز الأسئلة للطبيب، ودعم البحث الأولي. لكنها في الوقت نفسه لا تزال غير مناسبة لتكون مصدرًا طبيًا مستقلًا يمكن الاعتماد عليه.
لذلك، عند استخدامها في مسائل صحية، من الضروري التعامل مع ما تقدمه باعتباره نقطة بداية تحتاج إلى تحقق، وليس حقيقة نهائية. كما يجب مراجعة أي معلومة طبية مع مصادر موثوقة، والانتباه بشكل خاص عندما تكون الإجابة واثقة جدًا لكنها لا تحتوي على تحذيرات أو إشارات لحدود دقتها.
