الثقة في الذكاء الاصطناعي في الرعاية الصحية لا تُصمَّم فقط – بل يجب أن تُحسّ من قِبل الأطباء والمرضى

ملخص: تتناول هذه المقالة أهمية بناء الثقة في الذكاء الاصطناعي في الرعاية الصحية ليس فقط من خلال تصميم الأنظمة، بل من خلال التجربة اليومية الحقيقية للأطباء والمرضى. وتُبرز كيف أن حوكمة الذكاء الاصطناعي يجب أن تكون ديناميكية وتشاركية، تُركّز على الشفافية، والتغذية الراجعة المستمرة، وقابلية التتبع، مع أمثلة مبتكرة من جنوب شرق آسيا – لا سيما سنغافورة – حيث يتم نقل الثقة من السياسات إلى التطبيق العملي داخل العيادات والمستشفيات.

• الثقة في الذكاء الاصطناعي في الرعاية الصحية تعتمد حاليًا بشكل مفرط على تصميم الأنظمة، دون مراعاة للواقع الطبي المعيشي.
• تُعدّ حلقات التغذية الراجعة المستمرة ضرورية لترسيخ الثقة في الذكاء الاصطناعي الصحي بما يتماشى مع احتياجات الأطباء والمرضى.
• تُظهر المبادرات في جنوب شرق آسيا كيف يمكن توسيع نطاق الثقة بالتكنولوجيا من السياسات إلى الممارسات الفعلية.

يُعيد الذكاء الاصطناعي تشكيل الرعاية الصحية – من التشخيصات إلى إدارة المستشفيات. ومع ذلك، لا تزال الحوكمة متأخرة.
الثقة بالتكنولوجيا، وهي أمر أساسي لتبنّيها إكلينيكيًا، لا تزال غير مستقرة. تركز معظم الأطر على تصميم النظام أو الامتثال، متجاهلة واقع الرعاية حيث تُبنى الثقة من خلال الاستخدام اليومي من قِبل المرضى والأطباء.

تعكس مقاربة سنغافورة في الذكاء الاصطناعي الصحي كلًا من التقدّم والتحديات. في عام 2018، أدى هجوم إلكتروني على "سينغهيلث"، وهو من أسوأ اختراقات البيانات في البلاد، إلى تسريب سجلات قرابة 1.5 مليون مريض وكشف عن ثغرات حرجة في البنية التحتية.

وأظهر استطلاع أجرته YouGov في عام 2023 أن 14٪ فقط من سكان سنغافورة سيكونون على استعداد لاستخدام الاستشارات النفسية المدعومة بالذكاء الاصطناعي. وفي عام 2021، أصدرت وزارة الصحة "إرشادات الذكاء الاصطناعي في الرعاية الصحية"، لتعزيز الضوابط مثل القابلية للتفسير، والإشراف البشري، والتواصل بشأن المخاطر؛ وهي خطوة نحو ترسيخ الثقة بدلاً من الاكتفاء بالامتثال.

تشير هذه التطورات إلى ضرورة أوسع: يجب أن تتجاوز الحوكمة المعايير الثابتة لتتبنّى حلقات الثقة في مرحلة النشر – وهي آليات ديناميكية وواعية للسياق تتطوّر جنبًا إلى جنب مع الواقع السريري. يجب أن تكون الحوكمة في الرعاية الصحية مرنة، وقابلة للرصد، ومُدمجة – لا مجرد تشريع نظري.

لا يمكن تثبيت الثقة بأثر رجعي

يتردد اختصاصي أشعة قبل قبول تفسير ناتج عن الذكاء الاصطناعي. ممرضة تتجاهل تنبيه فرز تلقائي من الذكاء الاصطناعي. يسأل مريض: "من يطّلع على بياناتي؟"
هذه الأمثلة الثلاثة ليست أخطاء في النظام بحد ذاتها؛ إنها إشارات. تظهر احتكاكات الثقة عندما لا تتماشى الأنظمة مع الاحتياجات الواقعية. "الثقة عبر التصميم" مفيدة، لكن الحوكمة يجب أن تكون مستمرة ومبنية على التغذية الراجعة، لا الافتراضات.

أظهر مقال نشر عام 2025 في npj Digital Medicine أن أنظمة المراقبة المستمرة ومسارات إعادة التدريب أصبحت بسرعة أحد التكاليف التشغيلية الرئيسية، بينما تُشكّل التعديلات اللازمة للتعامل مع تغيرات البيانات (مثل "انحراف البيانات") عبئًا إضافيًا على المؤسسات التي تفتقر إلى فرق هندسية متخصصة.
تعزز هذه النتائج الحاجة إلى حلقات ثقة قابلة للتوسع وواعية للسياق، وإلا سنُخاطر باتساع الفجوة بين المراكز المجهزة جيدًا والمستشفيات الصغيرة.

ما هي الثقة التشغيلية؟

تشير الثقة التشغيلية إلى مدى أداء أنظمة الذكاء الاصطناعي تحت الظروف السريرية الواقعية، بطريقة شفافة وخاضعة للمساءلة وقابلة للاستخدام من قِبل الطاقم الطبي. وتشمل:

القابلية التفسيرية السياقية: هل يمكن للأطباء المبتدئين فهم نتائج الذكاء الاصطناعي وتحدّيها في الوقت الحقيقي؟
كشف استطلاع أجرته الجمعية الطبية الأمريكية (AMA) عام 2025 أن 68٪ من الأطباء يرون قيمة في أدوات الذكاء الاصطناعي، و66٪ يستخدمونها بالفعل. لكن ما يقرب من النصف (47٪) اعتبروا أن زيادة الإشراف الطبي هي أهم خطوة تنظيمية لبناء الثقة في توصيات الذكاء الاصطناعي.

يُعد نموذج AI2D (الذكاء المعزز في الأمراض المعدية) في مستشفى سنغافورة العام مثالًا على التفسير السياقي. يساعد هذا النموذج الأطباء على تحديد ما إذا كانت المضادات الحيوية ضرورية لحالات مثل الالتهاب الرئوي باستخدام بيانات المريض في الوقت الفعلي، وحقق دقة بلغت 90٪ في الاختبارات الأولية.
من خلال تقديم التوصيات قبل صدور نتائج التحاليل، يدعم AI2D الحكم الطبي دون أن يحلّ محله، مما يعزز الثقة من خلال مخرجات قابلة للفهم وواقعية.

إمكانية التدقيق أثناء العمل: هل يمكن تتبّع التنبؤات أثناء تسليم الحالات بين الطاقم؟
أفادت دراسة نُشرت في Nature Medicine عام 2022 بانخفاض بنسبة 17٪ في أداء نموذج تعرّف على الإنتان خلال أشهر من النشر بسبب تغيّر بيئة العمل.
يُبرز هذا أهمية التدقيق: فهو يتيح تتبّع أداء النموذج في الوقت الفعلي مع تغيّر الظروف.

تُكسب أدوات aiTriage وCARES 2 في سنغافورة ثقة المستخدمين من خلال تسجيل التنبؤات ووضع طوابع زمنية لها ودمجها في السجلات السريرية، مما يسمح للأطباء بالتحقق من التوصيات السابقة أثناء التسليم أو المتابعة.
تُعزز هذه القدرة على التتبع المساءلة وتدعم في الوقت ذاته الحكم الطبي.

آليات تغذية راجعة من المستخدم النهائي: هل يمكن للمستخدمين في الخطوط الأمامية الإبلاغ عن الأنماط غير الآمنة والمساهمة في تحسين الخوارزمية؟
تحسينات قابلة للاستخدام: يقوم Note Buddy من SingHealth بنسخ الاستشارات متعددة اللغات مباشرة، مما يقلل العبء الإداري ويُمكّن الأطباء من التركيز أكثر على الرعاية – وهو مثال ملموس على بناء الثقة من خلال واجهات محسّنة.

تُجسّد منصات الصحة النفسية مثل mindline.sg وNeuroBlu من Holmusk الرقابة الواعية للثقة في تصميمها.
يستخدم mindline.sg إطار فرز تمت مراجعته طبيًا مع توجيه المستخدمين حسب الفئة، ويقدم أدوات للعناية الذاتية أو إحالات مهنية دون الاحتفاظ ببيانات قابلة للتحديد الشخصي. ورغم أنه ليس مصممًا للتجاوز الطبي المستمر، إلا أنه يُحدّث باستمرار للحفاظ على السلامة والملاءمة.

أما NeuroBlu من Holmusk، فيربط النماذج التنبؤية بلوحات معلومات موجهة للأطباء، مما يمكّن فرق الرعاية من مراقبة المخاطر وتحسين التدخلات من خلال تحديثات بيانات مستمرة.

جنوب شرق آسيا: مختبر ثقة حي

تقود جنوب شرق آسيا الحوكمة من خلال الممارسة، وليس فقط السياسات. في سنغافورة، يستضيف تبادل TRUST بقيادة وزارة الصحة الآن نحو 40 مجموعة بيانات صحية وطنية مجهولة، ودعم 17 طلب بيانات معتمد من أصل 107 مستخدمين خلال عامه الأول.

في الوقت نفسه، يجري اعتماد AI Verify – وهو الإطار الوطني لاختبار وتقييم أنظمة الذكاء الاصطناعي – في البيئات السريرية من خلال "تجربة التحقق العالمية للذكاء الاصطناعي 2025".
يجمع هذا الإطار بين الاختبارات التقنية والفحص العملياتي لتقييم الأنظمة من حيث العدالة، والصلابة، والشفافية.
في هذه التجربة، تم ربط 17 تطبيقًا واقعيًا لتقنيات الذكاء الاصطناعي التوليدي، بما في ذلك أداة تلخيص سير العمل في مستشفى تشانغي العام، مع 16 شركة اختبار متخصصة في 10 صناعات.

خارج سنغافورة، انتقلت رابطة دول جنوب شرق آسيا (آسيان) من المبادئ إلى التجارب الميدانية، حيث اختبرت الدول الأعضاء أدوات أمان لغوية خاصة بكل دولة.
الأبرز هو مصنّف Typhoon2-Safety في تايلاند، المصمم لفرض حواجز ثقافية وسياقية على مخرجات النماذج اللغوية الكبيرة باللغة التايلاندية.
وفي مجال الصحة، تزداد أهمية مثل هذه الأدوات في تطبيقات مثل دعم الصحة النفسية، ومساعدي الفرز، وأنظمة الذكاء الاصطناعي التوليدية المواجهة للمرضى، حيث تكون الدقة اللغوية والحساسية الثقافية أساسيتين للسلامة والثقة.

يتطلب تحويل هذه التجارب إلى تأثير مستدام بنية حوكمة مشتركة التصميم – بمشاركة المورّدين والمؤسسات الصحية والجهات المنظمة – تستطيع دمج المساءلة والثقة في سير العمل اليومي.
يمكن للمشتريات العامة تأمين الثقة عبر ربط الحوافز أو الغرامات في حال عدم تحقيق الأهداف بمجموعة أساسية من مؤشرات الأداء الرئيسية – مثل معدل تجاوز الأطباء للنظام، وانخفاض معدل الأخطاء التشخيصية، ونتائج تجارب المرضى (PREM) – كما هو موضح في إطار تقييم AI for IMPACTs.

مبادئ ترسيخ الثقة

يتطلب ترسيخ الثقة في صميم عمليات الذكاء الاصطناعي قيادة مؤسسية. فالشروط – الشفافية، والمساءلة، ومواءمة المستخدم – لا تنشأ تلقائيًا.
يجب على القادة وضع شروط نشر الذكاء الاصطناعي وتقييمه وتحسينه، من خلال الإجراءات التالية:

• بناء الثقة: تضمين مؤشرات الثقة التشغيلية في مناقصات الذكاء الاصطناعي في القطاع العام (مثل طلب تتبع معدلات التجاوز الطبي، ونتائج PREM، وتقليل الأخطاء التشخيصية).
  تقوية قنوات الإبلاغ عن المخاطر بطريقة آمنة وإشراك المستخدمين في تحسين النظام أمر ضروري.

• التصميم المشترك مع المستخدمين: يجب أن تُبنى الثقة بالتشارك، لا تُفرض.
  ويعني ذلك دمج ضوابط الخصوصية الدقيقة ومدخلات المرضى في كل دورة تصميم.

• التنسيق الإقليمي: استخدام منصات مثل آسيان وآبيك لتنسيق حوكمة النشر، كما يظهر في مذكرة التفاهم الخاصة بسنغافورة.

• الاستثمار في التثقيف حول الحوكمة: تعمل مبادرات مثل مركز الذكاء الاصطناعي في الطب (C-AIM) ومبادرة الذكاء الاصطناعي للعلوم في سنغافورة على ترسيخ مبادئ الحوكمة التي تدعم السلامة، والأخلاقيات، والتطبيق الواقعي.

يمكن للذكاء الاصطناعي أن يُحدث تحولًا في الرعاية الصحية، لكن فقط إذا كان محل ثقة.
الثقة ليست حالة ثابتة؛ بل تُبنى من خلال السياق، والتغذية الراجعة، والاستخدام.
السياق يعني مواءمة أنظمة الذكاء الاصطناعي مع البيئة السريرية، بما في ذلك سير العمل ومصادر البيانات والأدوار الميدانية.
والتغذية الراجعة تشير إلى المدخلات المستمرة من المستخدمين ومراقبة الأداء لرصد المخاطر وتحسين الوظائف.
أما الاستخدام، فيؤكد أن الثقة تُكتسب من خلال التفاعل الآمن المتكرر – لا تُفترض منذ الإطلاق.

لصناعة مستقبل الذكاء الاصطناعي في الرعاية الصحية، علينا أن نحكم من القاعدة إلى القمة – بثقة تُبنى عبر التجربة، لا تُصمَّم فقط.

المصدر