ملخص: تناقش هذه المقالة الفجوة المتزايدة بين انتشار استخدام الذكاء الاصطناعي في الرعاية الصحية وبين مستوى الثقة به، موضحة أن المشكلة لم تعد في دقة النماذج بل في شعور المرضى بعدم الأمان بسبب غياب الشفافية والمساءلة والسيطرة البشرية. وتبرز أمثلة من جنوب شرق آسيا تُظهر كيف تتحول مبادئ الأمان إلى واقع ملموس عبر سجلات تدقيق واضحة، ونسب تجاوز الأطباء للتشخيصات، ومسارات استئناف للمرضى. وتدعو المقالة صناع السياسات إلى اعتبار ثقة المرضى مؤشراً أساسياً لأداء الأنظمة الصحية، مؤكدة أن مستقبل الذكاء الاصطناعي في الطب سيُبنى على الثقة المجربة لا على الوعود التقنية.
- تتراجع الثقة في الذكاء الاصطناعي في الرعاية الصحية رغم تسارع اعتماده، خاصة في المجالات الحساسة.
- ويمكن لمقاييس رئيسية، مثل معدل تجاوز الأطباء لتوصيات الذكاء الاصطناعي، أن تقدّم الحدّ الأدنى من الضمان الذي يحتاجه المرضى لبناء الثقة في هذه الأنظمة.
- وتُظهر أنظمة الصحة في جنوب شرق آسيا دروساً عملية حول كيفية جعل أمان الذكاء الاصطناعي حقيقة ملموسة وقابلة للملاحظة.
أصبح الذكاء الاصطناعي بسرعة الطبقة الأولى للتفاعل في الرعاية الصحية، يُشغّل كل شيء من أدوات فحص الأعراض إلى روبوتات العلاج. لكن اعتماد هذه الأنظمة يتجاوز مستوى الثقة بها. ففي سنغافورة، وهي بيئة رقمية متقدمة ومنظمة جيداً، يبلغ استخدام الذكاء الاصطناعي 80% بين السكان، لكن الثقة تنخفض بشدة عندما يتعلق الأمر بمجالات حساسة مثل الصحة النفسية. ويظهر النمط نفسه في جنوب شرق آسيا، حيث جرّب واحد من كل أربعة أشخاص في إندونيسيا وهونغ كونغ أدوات الصحة النفسية بالذكاء الاصطناعي، ومع ذلك تستمر المخاوف حول السلامة والقدرة على التعاطف. عالمياً، يشعر ما يقرب من 60% من الأمريكيين بعدم الارتياح تجاه التشخيص المدعوم بالذكاء الاصطناعي. لم تعد المشكلة تقنية؛ بل هي أزمة في الشعور بالأمان العاطفي.
تنشأ فجوة الثقة هذه من ثلاثة اختلالات نظامية، حتى في أكثر التطبيقات تقدماً:
غياب الشفافية في طرق عمل الذكاء الاصطناعي
كثير من المرضى والأطباء لا يستطيعون معرفة كيفية توليد نماذج الذكاء الاصطناعي لنتائجها أو درجات المخاطر، مما يؤدي إلى فجوة ثقة أساسية. هذا الغموض البنيوي يمكن أن تكون له عواقب سريرية مباشرة. فمثلاً، وثّق مرصد حوادث الذكاء الاصطناعي التابع لمنظمة التعاون الاقتصادي والتنمية حالات في الرعاية الصحية أدّت فيها تصاميم معيبة إلى نتائج متحيّزة، مثل نظام أعطى الأولوية للمرضى البيض على حساب المرضى السود لأنه استخدم التكاليف الصحية كمؤشر للاحتياج الطبي. ويؤكّد التدقيق التنظيمي هذه المخاطر، إذ وجدَت دراسة في مجلة npj Digital Medicine لعام 2025 أن أكثر من 90% من الأجهزة الطبية المعتمدة من إدارة الغذاء والدواء الأمريكية لا تبلغ عن معلومات أساسية حول بيانات التدريب أو البنية المعمارية للنموذج. وعندما يكون “سبب القرار” غير مرئي، تتحوّل السلامة إلى تخمين.غياب المسؤولية الواضحة
يوضّح تقرير الاتحاد الدولي للاتصالات حول حوكمة الذكاء الاصطناعي لعام 2025 أن المسؤولية تتفتت بين المطوّرين والمستشفيات والجهات الحكومية عندما تدخل النماذج الخاصة في مسارات الصحة العامة. يؤدي ذلك إلى فجوة في المساءلة: فعندما يحدث خطأ، لا يوجد صاحب مسؤولية واضح. وقد تؤدي شكاوى المرضى إلى فراغ بيروقراطي بدون جهة واحدة مُلزمة بالتحقيق أو التفسير أو التعويض.دور البشر يتغيّر بدون ضمانات واضحة
عندما يقترح الذكاء الاصطناعي التشخيص أولاً، قد يعكس ذلك التسلسل التقليدي للعمل الطبي. تشير الأبحاث الحديثة إلى أن دور الأطباء يتحول نحو “التحقق”، ويعتمد قبولهم لتوصيات الذكاء الاصطناعي على مدى القدرة على شرح أسباب تلك التوصيات. لكن هذا “الإشراف البشري” لا يكفي دون وجود نقاط تحكم واضحة وملزمة، مثل اشتراط أن يقرأ الطبيب تشخيص الذكاء الاصطناعي ثم يوافق عليه أو يتجاوزه صراحة.
لماذا يجب أن يصبح الشعور بالأمان مؤشراً أساسياً؟
في الرعاية الصحية، الثقة الرقمية شرط للفعالية. تُظهر الأدلة من تطبيقات الصحة النفسية الرقمية أن عدم الارتياح تجاه الذكاء الاصطناعي يؤدي إلى انخفاض المشاركة والانسحاب المبكر، حتى عندما تكون النماذج دقيقة. المستخدمون لا يبتعدون بسبب الخطأ، بل بسبب شعورهم بأن التجربة “غير آمنة”.
وبما أن الذكاء الاصطناعي لا يستطيع الإحساس بالتعاطف، فلا يمكن بناء الثقة على تشابه المشاعر. وبدلاً من ذلك، تؤكد أبحاث التفاعل بين الإنسان والآلة أن الثقة تُبنى عبر احترام هشاشة المريض، من خلال: إمكانية التنبؤ، والوضوح، والسيطرة للمستخدم.
وهذا يتطلب جعل ثلاثة أمور واضحة:
ما البيانات المستخدمة؟
تُظهر دراسة في Nature Medicine لعام 2024 أن مجرد إخبار المرضى بأن الذكاء الاصطناعي مشارك في العملية يقلل الثقة، مما يبرز حساسية تدفقات البيانات غير الواضحة.كيف تُتخذ القرارات؟
أكدَت مراجعة شفافية حديثة في Nature أن أكثر من 90% من الأجهزة الطبية المعتمدة بالذكاء الاصطناعي لا تعلن معلومات التدريب الأساسية، مما يقوّض الثقة المدركة.متى يتدخل البشر؟
تشير أبحاث فجوات المسؤولية إلى أن المشكلة ليست غياب المسؤول، بل تشتته عبر مؤسسات متعددة. لذلك تصبح مسارات الاستئناف — التي تسمح للمرضى بطلب تفسير أو مراجعة أو تعديل قرار مدعوم بالذكاء الاصطناعي — عاملاً حاسماً في استعادة الشعور بالعدالة والثقة.
نماذج من جنوب شرق آسيا: تحويل الأمان من مفهوم إلى واقع
الأنظمة الصحية في المنطقة تُظهر كيف يمكن جعل الأمان قابلاً للملاحظة:
سنغافورة:
تعتمد مسارات تنظيمية مرنة مثل مكتب الابتكار HPRG وبرنامج تغيير إدارة البرمجيات SaMD، وتشترط سجلات تدقيق قابلة للتحقق قبل النشر. كما توسّع التعاون عبر الحدود مع ماليزيا.إندونيسيا:
تعمل على دمج مبادئ الضمان في الرعاية المباشرة عبر استراتيجية التحول الصحي الرقمي BPJS.ماليزيا:
الرقمنة السريعة لـ156 عيادة عامة توفر بنية بيانات قوية، وتدفع الدولة نحو تنسيق إقليمي حول الأخلاقيات والشفافية.هونغ كونغ:
تطلق أول فضاء بيانات طبية عابر للحدود، يعتمد على حلول لامركزية وتشفيرية لضمان مصداقية البيانات.
مفهوم “الضمان الجوهري الأدنى”: جعل الثقة قابلة للقياس
لبناء الثقة على نطاق واسع، يجب تحويل مبادئ الحوكمة إلى إشارات واضحة للمستخدم. وهناك ثلاثة مقاييس عملية:
معدلات تجاوز الأطباء لتوصيات الذكاء الاصطناعي
تُظهر دراسة Diagnostics 2025 أن نماذج الذكاء الاصطناعي الشفافة تنخفض لديها معدلات التجاوز إلى 1.7% فقط، مقابل 73% للنماذج غير الشفافة.وضوح سجلات التدقيق
توصي منظمة الصحة العالمية والاتحاد الأوروبي بوجود سجلات يمكن التحقق منها، وقد طبّقت سنغافورة ذلك عبر منصة MOH TRUST.درجات فهم المرضى
تُعدّ القدرة على التذكّر والفهم (“أسلوب الإعادة”) نقطة تحقق مهمة قبل تنفيذ توصيات الذكاء الاصطناعي، مما يوفّر إشارة ملموسة على السلامة.
أجندة سياسية جديدة للمرحلة القادمة
مع توسع نشر الذكاء الاصطناعي في الأنظمة الصحية، يجب أن يصبح ثقة المريض مؤشراً رئيسياً للأداء، إلى جانب معايير الدقة والكفاءة. ويستلزم ذلك:
دمج الإنصاف بشكل عملي: تتبّع نسب استخدام أقل بين الفئات الأكبر سناً أو الأقل دخلاً.
بناء مسارات استئناف واضحة: لجعل المساءلة ملموسة للمستخدم.
معالجة القلق الرقمي: خصوصاً في الصحة النفسية، حيث قد يتحول الذكاء الاصطناعي إلى حاجز بدلاً من جسر.
سيُحدَّد مستقبل الصحة الرقمية ليس بأداء الخوارزميات في المختبرات، بل بثقة المرضى في العيادات. يجب أن تكون الحوكمة محسوسة، لا مجرد وثائق. ولتحقيق وعد الذكاء الاصطناعي، يجب هندسة الثقة في كل تفاعل.
