- يتمتع الذكاء الاصطناعي بإمكانات هائلة في مجال الرعاية الصحية، إلا أن مخاطر السلامة تتطلب قدرًا أكبر من الإشراف البشري، بحيث لا يُمنح الذكاء الاصطناعي سوى الصلاحيات التي أثبت قدرته على التعامل معها بأمان.
- ينبغي لمؤسسات الرعاية الصحية أن تحدد ما الذي يستطيع نظام الذكاء الاصطناعي القيام به بصورة موثوقة، ولأي فئات من السكان وفي أي ظروف، وكذلك الحالات التي قد يفشل فيها.
- نظرًا إلى أن النماذج والأدلة السريرية وفئات المرضى وسير العمل تتغير باستمرار، فلا يمكن أن يكون تأهيل أنظمة الذكاء الاصطناعي عملية تُجرى مرة واحدة، بل يجب أن تتكيف حوكمته بشكل مستمر.
يشهد كل قطاع من قطاعات الاقتصاد تحولًا بفعل الذكاء الاصطناعي، لكن الحاجة إلى وضع ضمانات للحماية أصبحت اليوم أكثر وضوحًا من أي وقت مضى، وكذلك ضرورة تحقيق ذلك دون الحد من الإمكانات الهائلة للذكاء الاصطناعي، كما هو الحال في مجال اكتشاف الأدوية.
ويملك قطاع الرعاية الصحية فرصة، بل ومسؤولية، لقيادة الجهود الرامية إلى نشر الذكاء الاصطناعي بطريقة آمنة.
وتواجه مؤسسات الرعاية الصحية اليوم تحديًا عمليًا يتمثل في تحديد ما يمكن لنظام الذكاء الاصطناعي القيام به بأمان، وتحديد المجالات التي يجب أن تبقى فيها السلطة بيد الإنسان، وتكييف هذه الضوابط مع تطور التكنولوجيا.
1. ابدأ بتأهيل نظام الذكاء الاصطناعي
قبل تحديد مقدار الصلاحيات التي ينبغي منحها لنظام الذكاء الاصطناعي، تحتاج المؤسسات إلى فهم الظروف التي يمكن في ظلها الوثوق به لتنفيذ مهمة معينة. وتستخدم الرعاية الصحية بالفعل أنظمة تعتمد على التأهيل والأدلة ونطاقات الاستخدام المحددة والمراقبة والمساءلة. إلا أن الذكاء الاصطناعي يتطلب آليات تتناسب مع تكنولوجيا يمكن أن تتغير قدراتها وسلوكياتها بسرعة.
يمكن لأدوات مثل بطاقات البيانات وبطاقات النماذج وتحليلات المخاطر أن توثق العوامل التي ساهمت في تشكيل النظام، وكيفية تقييمه، والسياق المقصود لاستخدامه، والقيود المعروفة وحالات الفشل المحتملة، والحالات التي تستوجب إجراء تحقق إضافي. وتُعرّف إدارة الغذاء والدواء الأمريكية بطاقات النماذج باعتبارها آلية لتعزيز الشفافية، كما طورت «ائتلاف الذكاء الاصطناعي من أجل الصحة» بطاقة نموذج تطبيقية مخصصة لقطاع الرعاية الصحية.
وينبغي أن يشمل التأهيل دراسة الفئات السكانية التي جرى تقييم النظام عليها، والظروف التي يتراجع فيها أداؤه، والأدلة التي يعتمد عليها، وكيفية تصرفه عند مواجهة معلومات ناقصة أو متضاربة، وتأثير التغييرات التي تطرأ على النموذج أو الأدلة أو سير العمل. كما تتجه سياسات تكنولوجيا المعلومات الصحية في الولايات المتحدة بالفعل نحو تعزيز الشفافية المتعلقة بالخوارزميات المستخدمة في التقنيات الصحية المعتمدة.
ويؤدي الخبراء المتخصصون دورًا أساسيًا في تحديد حالات الفشل المحتملة، والاستثناءات التي قد تترتب عليها عواقب مهمة، والنقاط التي يمكن عندها للحكم المهني أن يُحدث فرقًا جوهريًا في القرار.
2. حدد النقاط التي يمكن أن تتسلل منها الأخطاء إلى النظام
يمثل التأهيل إحدى طبقات السلامة، أما الخطوة التالية فتتمثل في فهم عملية اتخاذ القرار التي يعمل النموذج في إطارها. ويمكن لسير العمل المدعوم بالذكاء الاصطناعي في مجال الرعاية الصحية أن ينتقل من البيانات الأساسية إلى السياق والأدلة، ثم إلى الاستدلال والتوصية والإجراء والنتيجة.
ويمكن للمخاطر أن تظهر في أي مرحلة؛ فقد تكون البيانات غير مكتملة، وقد لا يتم استرجاع الأدلة ذات الصلة. كذلك قد يسيء النظام فهم سياق حالة المريض، أو يطبق إرشادات في ظروف لم تكن مخصصة لها، أو ينتج استدلالًا لا يتوافق مع الأدلة المتاحة.
ويعد الخبراء المتخصصون ضروريين لتحديد أوجه الفشل المحتملة والاستثناءات ذات العواقب المهمة، وكذلك النقاط التي يمكن عندها للحكم المهني أن يغير القرار بصورة جوهرية. كما تؤكد ممارسات التعلم الآلي الجيدة أهمية الاستفادة من الخبرات متعددة التخصصات وإيلاء الاهتمام لمختلف مراحل دورة حياة المنتج بالكامل.
3. ضع نقطة التحقق المناسبة عند مستوى الخطر المناسب
بعد فهم أوجه الفشل المحتملة، يمكن الاستناد إلى ثلاثة أبعاد رئيسية لضبط مستوى الإشراف: احتمال وقوع الخطأ، والعواقب المترتبة عليه في حال حدوثه، وما إذا كان الإجراء الناتج عنه قابلًا للتراجع أو التصحيح.
فقد تسمح مهمة إدارية منخفضة المخاطر وقابلة للتراجع بدرجة كبيرة من الأتمتة، في حين تتطلب التوصية السريرية ذات العواقب المهمة، والمبنية على معلومات غامضة، مستوى أعلى من التحقق.
كما تتطلب أنواع المخاطر المختلفة نقاط تحقق مختلفة:
- يمكن لفحوصات البيانات التأكد من اكتمالها وجودتها.
- يمكن لفحوصات الأدلة التأكد من أن المصادر المناسبة تدعم التوصية.
- يمكن لفحوصات عدم اليقين الإشارة إلى وجود أدلة متعارضة أو ظروف غير مألوفة.
- يمكن لنقاط التحقق البشرية إحالة الحالات ذات العواقب المهمة إلى المختص الأكثر قدرة على تقييمها.
كما ينبغي للنظام تقييم مدى فاعلية التدخل البشري نفسه. فوجود نقطة تحقق بشرية لا يؤدي تلقائيًا إلى تحسين القرار المدعوم بالذكاء الاصطناعي. إذ يمكن أن يؤثر ترتيب الاستدلال البشري واستدلال الذكاء الاصطناعي، والمعلومات التي تُعرض على المراجع، وخبرة المراجع، وتصميم التفاعل بين الإنسان والنظام، جميعها في النتيجة.
لذلك ينبغي للمؤسسات اختبار ما إذا كان سير العمل المشترك بين الإنسان والذكاء الاصطناعي يؤدي بالفعل إلى تحسين جودة القرارات وسلامتها في الظروف التي يُستخدم فيها.
4. بناء هيكل يضع الإنسان في موقع القيادة
نقترح خمسة عناصر لنموذج تشغيلي يضع الإنسان في موقع القيادة ضمن سير عمل مشترك بين الإنسان والذكاء الاصطناعي:
- التحديد: تحديد نقاط الفشل المحتملة وعواقبها والحدود التي جرى وضعها من خلال عمليات التأهيل وتحليل المخاطر.
- الاكتشاف: التعرف على حالات عدم اليقين، والمعلومات المفقودة، والأدلة المتضاربة، والمخرجات غير الاعتيادية، والإشارات التي تدل على أن النظام قد يعمل خارج الظروف التي تم تأهيله للعمل ضمنها.
- التحقق: تطبيق ضمانات تتناسب مع مستوى الخطر، بما في ذلك التحقق من صحة البيانات، والتحقق من الأدلة، واختبار الاتساق، أو المراجعة من قبل الخبراء. وعندما يشارك البشر في العملية، ينبغي تقييم ما إذا كان هذا التفاعل يحسن القرار المشترك.
- التصعيد: إحالة الحالات غير المؤكدة أو ذات العواقب المهمة إلى الخبير المناسب، مع تزويده بالأدلة والسياق والاستدلال اللازم لتقييم القرار بكفاءة.
- التعلم: توثيق التصحيحات وحالات تجاوز قرارات النظام والخلافات والنتائج اللاحقة، واستخدامها لتحسين النظام وتحديد المواضع الأنسب لنقاط التحقق في المستقبل.
5. أعد التأهيل باستمرار
تتطور قدرات الذكاء الاصطناعي بسرعة. كما تتغير الأدلة السريرية، وتتبدل خصائص فئات المرضى، وتتغير السياسات، ويُعاد تصميم سير العمل. ولذلك يجب أن تكون عمليات التأهيل والإشراف مستمرة. وقد أشارت أبحاث منشورة في مجلة Nature Medicine، على سبيل المثال، إلى أهمية إجراء عمليات تحقق محلية متكررة لأنظمة الذكاء الاصطناعي في الصحة، نظرًا إلى أن أداء هذه الأنظمة يمكن أن يختلف من بيئة إلى أخرى ومع مرور الوقت.
لذلك ينبغي للمؤسسات مراقبة أنماط الأخطاء، وحالات تجاوز قرارات النظام، ومعدلات التصعيد، والخلافات، والانحرافات التي تطرأ على النماذج والبيانات، وكذلك النتائج النهائية.
وقد تكشف حالات التجاوز المتكررة من جانب الأطباء عن وجود قيود لم يتم اكتشافها أثناء التقييم الأولي.
كما أن تكرار تصعيد نوع معين من الحالات قد يشير إلى الحاجة إلى أدلة إضافية أو تدريب أو إعادة تصميم لسير العمل. ومن هذا المنطلق، ينبغي لعملية الاستخدام الفعلي في بيئات العمل أن تسهم باستمرار في تحديث فهم المؤسسة للمجالات التي يعمل فيها النظام بموثوقية، والحدود التي ما تزال قائمة أمامه، ومقدار الصلاحيات التي ينبغي منحه إياها.
3 مبادئ لقادة قطاع الرعاية الصحية
بالنسبة لقادة قطاع الرعاية الصحية، تبرز ثلاثة مبادئ أساسية عند إدارة سير العمل المشترك بين الإنسان والذكاء الاصطناعي، بهدف تحقيق أقصى استفادة من الذكاء الاصطناعي مع الحفاظ على السلامة:
التأهيل قبل تفويض الصلاحيات: حدد ما أثبت النظام قدرته على القيام به، والظروف التي يمكنه العمل فيها، والحدود التي تواجهه.
تأهيل منظومة الإشراف إلى جانب تأهيل الذكاء الاصطناعي: ينبغي مواءمة نقاط التحقق التقنية والبشرية مع احتمالية وقوع الأخطاء وعواقبها ومدى إمكانية التراجع عنها، مع تقييم ما إذا كانت هذه النقاط تحسن القرار المشترك بين الإنسان والذكاء الاصطناعي.
إعادة التأهيل بصورة مستمرة: ينبغي أن تسهم النتائج الفعلية، وتدخلات الخبراء، والتغييرات التي تطرأ على النماذج، وأنماط الفشل الجديدة في إعادة ضبط الأنظمة وإجراءات الحماية.
يمكن لقطاع الرعاية الصحية أن يقدم نموذجًا عمليًا يسهم في النقاش الأوسع حول حوكمة الذكاء الاصطناعي. ويتمثل الهدف في بناء أنظمة تكون قدراتها مفهومة، ومخاطرها متوقعة، والقرارات ذات العواقب المهمة فيها قابلة للتدخل والتعديل، مع توظيف الخبرة البشرية في المواضع التي تحقق فيها أكبر قيمة.
ويعني وضع الإنسان في موقع القيادة تأهيل التكنولوجيا، وتحديد مخاطرها، وتصميم نقاط التحقق المناسبة، والحفاظ على سلطة بشرية حقيقية وفعالة، والاستمرار في التعلم بالتوازي مع تطور كل من التكنولوجيا والأدلة.
