يعكس نهج الاتحاد الأوروبي في تنظيم الذكاء الاصطناعي من خلال قانون الذكاء الاصطناعي الأوروبي توازناً دقيقاً بين الاستفادة من مزايا هذه التقنيات والتعامل مع المخاطر المرتبطة بها. ففي الصيغة النهائية للقانون، ينص على أن حظر الممارسات القائمة على التلاعب أو الإقناع «لا ينطبق على أنظمة الذكاء الاصطناعي المخصصة للاستخدام لأغراض علاجية معتمدة، وذلك على أساس موافقة مستنيرة ومحددة».
ويبدو أن هذا النص يفتح استثناءً للاستخدامات العلاجية للذكاء الاصطناعي، معترفاً بأن التلاعب أو الإقناع قد يكونان في بعض الحالات مفيدين أو ضروريين لتحقيق أهداف علاجية. ويبرز هذا الأمر بشكل خاص في مجالات مثل الصحة النفسية، حيث يمكن للذكاء الاصطناعي أن يساعد في تعديل السلوك أو تحسين الالتزام بالعلاج. ومع وجود أكثر من 10,000 تطبيق للصحة النفسية في السوق حالياً، تصبح حماية البيانات الحساسة للمستهلكين وضمان الالتزام بمعايير جودة واضحة أمراً بالغ الأهمية، خاصة في خدمات مثل المعالجين النفسيين المعتمدين على روبوتات المحادثة، وهي معايير لا يتم تطبيقها حالياً بشكل كافٍ.
وفي المقابل، فإن السماح بالتلاعب العلاجي قد يفتح الباب أمام الاستغلال إذا تم تفسير هذا الاستثناء بشكل واسع أو غامض. فقد تحاول بعض الشركات توسيع مفهوم «الأغراض العلاجية» ليشمل استخدامات لا تمت بصلة حقيقية للعلاج، أو تضمين ادعاءات علاجية في شروط الاستخدام لتبرير ممارسات تلاعبية.
ومع الأخذ في الاعتبار أن معظم تطبيقات الصحة النفسية لم تخضع لتقييمات سريرية معتمدة، فإن ذلك يخلق مخاطر كبيرة. ومن هنا تبرز الحاجة إلى تعريف واضح ومستنير سريرياً لما يُقصد بـ«الأغراض العلاجية المعتمدة»، وكذلك تحديد أنواع التلاعب أو الإقناع المسموح بها ضمن هذا الاستثناء.
ينظم قانون الأجهزة الطبية الأوروبي لعام 2017 الخدمات الرقمية العلاجية ذات الأغراض الصحية. ونرى أنه من الضروري إخضاع الأنظمة القادرة على التلاعب أو الإقناع لمعايير صارمة من حيث الجودة وضمان الفعالية والفائدة الصحية للمستخدم. لكن في غياب تعريف واضح لـ«الأغراض العلاجية»، يظل المواطنون الأوروبيون معرضين لخطر استغلال هذا الاستثناء من قبل مزودي تقنيات الذكاء الاصطناعي، بما قد يقوض سيادتهم الشخصية.
الأضرار المحتملة الناتجة عن سوء استخدام الاستثناء العلاجي
قد يتحول مصطلح «الأغراض العلاجية» إلى غطاء مريح لإخفاء أهداف أخرى. فالسرد العلاجي يمكن توظيفه للتأثير على الأفراد بطرق أيديولوجية أو سياسية. كما أن أي نموذج لغوي للذكاء الاصطناعي يؤدي دوراً علاجياً سيكون قادراً على التلاعب بالمستخدمين أو إقناعهم بطرق تخدم أهدافاً تجارية، سواء من خلال زيادة التفاعل أو التأثير على تفضيلاتهم تجاه منتجات أو منظمات أو خدمات معينة.
ومن الأمثلة على ذلك الانتشار الواسع لتطبيقات وبرامج «تدريب الدماغ»، التي غالباً ما تخدم في المقام الأول هدفاً تجارياً يتمثل في تعظيم التفاعل، مع وعود بتحسين القدرات الذهنية. هذه المنصات تعتمد على إبقاء المستخدمين في حلقة تفاعل مستمرة، وهي حلقة قد تقترب في بعض الحالات من حدود الإدمان.
وتعزز الجاذبية التجارية لهذه التطبيقات الصناعة التي تقف خلفها. فقد شهد هذا القطاع معدل نمو سنوي مركب تراوح بين 20 و25%، حيث ارتفعت قيمته السوقية من 1.3 مليار دولار في عام 2013 إلى أكثر من 6 مليارات دولار متوقعة بحلول عام 2020. ويعكس هذا المسار المربح دافعاً تجارياً قوياً لتعظيم تفاعل المستخدمين، حتى لو كان ذلك على حساب القيمة العلاجية الحقيقية. ورغم الوعود بتحسين القدرات الإدراكية، فإن الإجماع العلمي حول فعالية هذه التطبيقات لا يزال غير حاسم في أفضل الأحوال.
ونظراً لتزايد عدد الجهات التي تدخل سوق الذكاء الاصطناعي بادعاءات علاجية حالياً وفي المستقبل، يصبح من الضروري حماية المواطنين الأوروبيين من آثار هذه المنصات. فالمعالجون البشريون يخضعون لمعايير أخلاقية وسريرية صارمة للغاية، نظراً لوصولهم إلى الأفراد في أكثر لحظاتهم هشاشة. وينبغي ألا نتوقع أقل من ذلك من أنظمة الذكاء الاصطناعي.
نحو تعريف واضح ونطاق محدد لـ«الأغراض العلاجية»
يمكن لقانون الذكاء الاصطناعي الأوروبي أن يقدم تعريفاً واضحاً لما يُعد «غرضاً علاجياً» في سياق الذكاء الاصطناعي، وبالتالي تحديد الأنظمة التي تستفيد من استثناء الإقناع والتلاعب. وتزداد أهمية ذلك لأن مصطلح «الأغراض العلاجية» غير معرّف أصلاً في قانون الأجهزة الطبية الأوروبي، ما يجعله عرضة لتفسيرات متباينة.
أحد الخيارات يتمثل في إلزام الشركات بتبرير ادعاءاتها المتعلقة بالأغراض العلاجية من خلال تقديم بيانات واضحة عن الغرض المقصود، تشرح بدقة أساليب الإقناع أو التلاعب المستخدمة، ولماذا تُعد هذه الأساليب أساسية لتحقيق الهدف العلاجي. ويمكن أن يساعد ذلك في الحيلولة دون الحالات التي يكون فيها الإقناع موجهاً أساساً لزيادة التفاعل مع النظام بدلاً من تحقيق فائدة علاجية حقيقية.
ونرى أن تعريف «الغرض المقصود» وآليات تقييمه الواردة في قانون الأجهزة الطبية الأوروبي تمثل نقطة انطلاق ممتازة. إذ يتم تقييم الغرض المقصود «استناداً إلى البيانات التي يقدمها المصنع على الملصقات أو في تعليمات الاستخدام أو في المواد الترويجية أو التصريحات التسويقية، وكذلك كما هو محدد في التقييم السريري». ويمكن إلزام الشركات بدعم هذه البيانات بأدلة ملموسة. كما يمكن إنشاء بوابة إلكترونية تُمكّن الشركات من تقديم الوثائق اللازمة، مع نشر قائمة بالأنظمة المعتمدة لإطلاع الجمهور.
وبالإضافة إلى ذلك، نوصي بما يلي:
أن يشمل التعريف كلاً من تدخلات الذكاء الاصطناعي البرمجية البحتة وتلك المدمجة مع المنتجات الدوائية.
أن توضح الإرشادات كيفية تفاعل هذا الاستثناء مع قوانين المساواة وحقوق الإنسان، ويمكن تحقيق ذلك من خلال دراسات حالة توضيحية.
أن تحظى التقنيات التي تخدم أغراضاً علاجية دون أن تُصنف كأجهزة طبية، والمعروفة بـ«المنتجات الحدودية»، باهتمام خاص، من خلال الحوار مع مشرّعي قانون الأجهزة الطبية الأوروبي لضمان الرقابة المناسبة.
الحاجة إلى رقابة خارجية كافية قبل طرح المنتجات في السوق
يعتمد النظام الأوروبي الحالي لترخيص الأجهزة الطبية على آلية لا مركزية، تتيح للشركات تقييم ما إذا كانت منتجاتها تندرج ضمن نطاق القانون وتحديد فئة المخاطر الخاصة بها. ورغم أن هذا النهج ضروري في قطاع يضم أكثر من 500,000 منتج، إلا أنه لا يخلو من تحديات. فالشركات التي تصنف تقنياتها ضمن الفئة الأولى، وهي الأقل خطورة، يمكنها الاكتفاء بالتقييم الذاتي، في حين تخضع التقنيات الأعلى خطورة لمعايير سلامة أكثر صرامة وتتطلب موافقة جهات معتمدة على وثائقها الفنية، بما في ذلك نتائج التجارب السريرية. ويُعد غياب المراجعة الخارجية خطراً حقيقياً على المستخدمين.
مخاطر التطبيقات غير الخاضعة لمراجعة مهنية كافية
من هنا ينبع قلقنا من احتمال أن تستفيد بعض التقنيات من استثناء «الأغراض العلاجية» مع الادعاء في الوقت نفسه بأنها أجهزة طبية من الفئة الأولى. فهذا قد يسمح بطرحها في السوق دون رقابة مستقلة أو تحقق فعلي من فوائدها العلاجية.
ورغم اعتقادنا بأن من غير المرجح تصنيف هذه التقنيات ضمن الفئة الأولى بسبب تطبيق القاعدة 11 في الملحق الثامن من قانون الأجهزة الطبية الأوروبي، إلا أن ضمان عدم إمكانية استغلال هذا الثغرة يظل أمراً بالغ الأهمية.
التمسك بأعلى المعايير قيمة أوروبية أصيلة
إن سد الثغرة العلاجية المحتملة سيعزز سلامة ملايين المواطنين الأوروبيين ويشجع الابتكار القائم على الأدلة العلمية. كما أن إدراج تعريف واضح ضمن قانون الذكاء الاصطناعي الأوروبي من شأنه أن يعزز القدرة على التكيف والمرونة، ويؤكد ريادة الاتحاد الأوروبي في حقبة يُسهم فيها الذكاء الاصطناعي في تطوير الرعاية الصحية، ولكن وفق أعلى معايير الأخلاق والفعالية والسلامة، وهي قيم أوروبية بامتياز.
