مفارقة الرقابة: كيف قد يُضعف إشراف البشر على الذكاء الاصطناعي الكفاءة التي يقوم عليها

ملخص: تناقش هذه المقالة مفارقة خطيرة في حوكمة الذكاء الاصطناعي: فبينما تطمئن القوانين والسياسات إلى أن الإنسان يبقى «داخل الحلقة» ومسيطراً على قرارات الأنظمة الذكية، فإن هذه السيطرة قد تصبح شكلية إذا فقد البشر تدريجياً المهارات والخبرة العملية التي تمكّنهم من الحكم على مخرجات الذكاء الاصطناعي. وتوضح المقالة كيف أن تفوق الأنظمة الحديثة في مهام معرفية معقدة، من العلوم إلى البرمجة والقانون، قد يؤدي إلى تآكل كفاءة المشرفين بسبب الاعتماد المتزايد على الآلة، والانحياز إلى الأتمتة، وتحول الرقابة إلى إجراء امتثالي بلا مضمون. كما تدعو إلى إعادة التفكير في معنى الإشراف البشري الحقيقي، عبر الحفاظ المتعمد على مهارات الإنسان وقدرته على أداء العمل من دون الذكاء الاصطناعي، حتى لا تتحول الرقابة من ضمانة فعلية إلى مجرد توقيع.

• تعتمد أطر حوكمة الذكاء الاصطناعي، مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي، على فرضية أن الإنسان يبقى مسيطراً.
• لكن الكفاءة التي يحتاج إليها الإنسان للإشراف على نظام ذكاء اصطناعي تُحافَظ عليها من خلال الممارسة، وهي الممارسة نفسها التي بات الذكاء الاصطناعي يؤديها بدلاً منه.
• وسيصبح الحفاظ على ذلك الإنسان، ومعه مهارته وممارسته وحكمه المهني، أمراً أساسياً على نحو متزايد لحوكمة الذكاء الاصطناعي بشكل جيد.

يقوم كل إطار لحوكمة الذكاء الاصطناعي على الفرضية المطمئنة نفسها: الإنسان يبقى مسيطراً. فقانون الذكاء الاصطناعي في الاتحاد الأوروبي يفرض وجود إشراف بشري على الأنظمة عالية المخاطر، كما يقيّد النظام العام لحماية البيانات في الاتحاد الأوروبي القرارات التي تتخذها الآلات وحدها، وتتعهد سياسات الذكاء الاصطناعي في الشركات بأن شخصاً ما يراجع كل مخرَج قبل أن يصل إلى العميل. والرسالة متسقة: الذكاء الاصطناعي لا يقرر شيئاً بمفرده.

لكن هذه الفرضية تخفي مشكلة نادراً ما تُقال بصوت عالٍ، وهي موجودة منذ اليوم الأول لنشر أي نظام. فالكفاءة التي يحتاج إليها الإنسان للإشراف على نظام ذكاء اصطناعي ليست رصيداً ثابتاً. إنها تُبنى وتبقى حية من خلال الممارسة، وهي الممارسة نفسها التي أصبح نظام الذكاء الاصطناعي يؤديها بدلاً من الإنسان.

كلما أصبح النظام أكثر قدرة، زاد حجم العمل الذي نسلّمه له، وقلّت الفرص المتاحة للمشرف كي يمارس الحكم المهني نفسه الذي يعتمد عليه دوره الرقابي. فالإشراف البشري لا يبقى ببساطة في مكانه كضمانة. بل يتآكل بهدوء، مهمة بعد أخرى، بالتوازي مع النظام الذي يُفترض به أن يسيطر عليه. وهذا ما نطلق عليه مفارقة الرقابة.

والدلالة المقلقة هنا هي أن الذكاء الاصطناعي الأفضل أداءً يمكن أن يجعل الرقابة أضعف لا أقوى. فمع تولّي النظام مزيداً من العمل المعرفي، يفقد الإنسان الذي يراجعه سيطرته المباشرة على هذا العمل، ويصبح بالتالي أقل قدرة على التقاط اللحظات التي يخطئ فيها النظام. وهكذا ترتفع قدرة النظام ومخاطر الرقابة معاً. وهذا ليس قلقاً يتعلق بمستقبل بعيد أو بذكاء اصطناعي أكثر تقدماً. بل يصف ما تواجهه الرقابة بالفعل اليوم.

مفارقة الرقابة ليست افتراضية

إن سرعة هذا التحول هي ما يجعل الأمر ملحاً. ففي معيار GPQA، الذي يتضمن أسئلة على مستوى الدكتوراه في الفيزياء والكيمياء والأحياء، يجيب خبراء يحملون درجة الدكتوراه إجابات صحيحة بنسبة تقارب 65%. وعندما صدر هذا المعيار في أواخر عام 2023، لم يحقق أقوى نموذج أساسي من GPT-4 سوى 39%. وبحلول عام 2026، بات النموذج الرائد يسجل نحو 94%. قد لا تكون المقارنة دقيقة تماماً، لكن الصورة العامة واضحة: انتقلت الآلات من مستوى أدنى بكثير من مستوى الخبراء إلى مستوى يتجاوزه بوضوح.

وتُظهر هندسة البرمجيات المنحنى نفسه. ففي معيار SWE-bench، الذي يطلب من النماذج إصلاح مشكلات حقيقية في شيفرات مفتوحة المصدر، حلّ أفضل نظام عند إطلاق المعيار في عام 2023 أقل من 5% من المشكلات. أما في مجموعة SWE-bench Verified التي تحقق منها البشر، فإن الأنظمة الرائدة باتت تحل الآن ما يزيد كثيراً على 90%.

استغرق الأمر جيلاً كاملاً تقريباً حتى أضعفت الآلة الحاسبة مهارة الحساب الذهني. أما الذكاء الاصطناعي فيعيد تشكيل الأداء الخبير خلال أشهر، وهذا الضغط الزمني هو جوهر المشكلة بالنسبة للرقابة. فكلما أسرع النظام في تجاوز الأشخاص الذين يُفترض بهم الإشراف عليه، أسرع تراجع إلمامهم العملي المباشر بالمهمة. وكل قفزة في القدرة ترفع بهدوء السقف الذي يجب على المشرف بلوغه، بينما تسحب منه الممارسة التي تمكّنه من بلوغه.

ولا يقتصر هذا النمط على المختبر. فقد وجد مؤشر أنثروبيك الاقتصادي أن استخدام الذكاء الاصطناعي يتركز في أعمال معرفية متوسطة إلى عالية الأجر، مثل تطوير البرمجيات والكتابة التقنية ومهام مهنية مشابهة، لا عند أدنى أو أعلى أطراف سوق العمل من حيث الأجر. وتحرص أنثروبيك على عدم الادعاء بأن تراجعاً شاملاً في المهارات سيحدث بالضرورة، فهي ترفض صراحة التنبؤ بهذه النتيجة. لكن حجم التعرض لافت: فالمهام الأكثر تأثراً بالذكاء الاصطناعي هي بالتحديد المهام الخبيرة الثقيلة في الحكم المهني، وهي المهام التي تعتمد عليها الرقابة ذات المعنى.

تآكل القدرة على الإشراف على الذكاء الاصطناعي

تعمل هنا ثلاث قوى متميزة، وهي تتراكم فوق بعضها بعضاً.

القوة النفسية: الانحياز إلى الأتمتة

يميل الناس إلى الثقة في النظام الآلي عندما يكون صحيحاً في معظم الأحيان. وقد وجدت دراسات كلاسيكية في محاكاة الطيران أن حتى الطيارين المحترفين فشلوا في التعامل مع مشكلات لم يرصدها النظام، أو اتبعوا تنبيهات خاطئة من دون التحقق منها. وفي سيناريوهات كانت المعلومات اللازمة لاكتشاف الخطأ متاحة بوضوح للتحقق منها، سُجلت معدلات خطأ بلغت نحو 55%. وينتقل هذا المنعكس نفسه إلى العمل المعرفي. فاختصاصي الأشعة الذي يحدد له الذكاء الاصطناعي الشذوذات بدقة عالية جداً، سينتقل بعد الفحص المئة من تقييم الصورة إلى تأكيد ما تقوله الآلة. وتعالج المادة 14 من قانون الذكاء الاصطناعي في الاتحاد الأوروبي هذا الأمر مباشرة، إذ تشترط أن يبقى المشرفون متنبهين إلى الانحياز إلى الأتمتة.

القوة البنيوية: دورة فقدان المهارات

ينجز النظام المهمة، ويُنقل الإنسان إلى دور ضمان الجودة. لكن ضمان الجودة يتطلب خبرة، والخبرة تُكتسب بالممارسة، والممارسة هي بالضبط ما أخذه النظام على عاتقه. تخيل محامياً يقضي عامين في مراجعة عقود صاغها الذكاء الاصطناعي بدلاً من أن يكتبها بنفسه. عند أي نقطة يفقد الإحساس بالحذف الاستراتيجي، أو الحكم المهني الذي لا يأتي إلا من صياغة مئات العقود بنفسه؟ كل جولة من التفويض تجعل الجولة التالية من الرقابة أقل عمقاً بقليل.

القوة القانونية: الرقابة الشكلية مقابل الرقابة الفعالة

تقيّد المادة 22 من النظام العام لحماية البيانات في الاتحاد الأوروبي القرارات القائمة حصراً على المعالجة الآلية عندما يكون لها أثر كبير على شخص ما. غير أن الجهات التنظيمية أوضحت أن المسؤول عن معالجة البيانات لا يمكنه الإفلات من القاعدة عبر مراجعة بشرية صورية؛ إذ يجب أن تكون المشاركة البشرية ذات معنى، وأن يقوم بها شخص يملك سلطة إلغاء القرار والمعرفة اللازمة لتقييم جميع البيانات ذات الصلة. وعندما تتآكل هذه القدرة، لا يتبقى سوى مسرحية امتثال.

يحاول قانون الذكاء الاصطناعي في الاتحاد الأوروبي سد هذه الفجوة من خلال المادة 4، التي تشترط الإلمام بالذكاء الاصطناعي، والمادة 14، التي تشترط إشرافاً فعالاً على الأنظمة عالية المخاطر. ومع ذلك، تفترض المادتان إلى حد كبير وجود علاقة مستقرة بين كفاءة الإنسان وقدرة الآلة. يمكن للتنظيم أن يضمن إمكانية التدخل، لكنه لا يستطيع أن يضمن أن الشخص المتدخل لا يزال قادراً على معرفة ما إذا كان التدخل ضرورياً أصلاً.

نحو رقابة تحافظ على نفسها

تمتد هذه المفارقة أيضاً إلى الحوكمة الديمقراطية. فأنظمة الذكاء الاصطناعي تُستخدم على نحو متزايد في الإدارة العامة، لكن الهيئات المنتخبة المسؤولة عن حوكمتها تواجه فجوة ترجمة: فالواقع التقني لهذه الأنظمة لا ينتقل بسهولة إلى لغة المداولات الديمقراطية.

وعلى مستوى الاتحاد الأوروبي، يحتاج مكتب الذكاء الاصطناعي إلى استقاء قدر كبير من خبرته من المنظمات نفسها التي ينظمها، ليس بسبب أي مؤامرة، بل بسبب عدم توازن في الكفاءة بات جزءاً من طبيعة المجال.

ليست مفارقة الرقابة حجة ضد تبني الذكاء الاصطناعي. إنها حجة ضد افتراض أن الإشراف البشري يحافظ على نفسه تلقائياً. وهناك ثلاثة اتجاهات تستحق اهتماماً جاداً.

ينبغي تقديم الجوهر على الشكل في قواعد وجود الإنسان ضمن الحلقة. فبنود الرقابة يجب أن تشترط قدرة مثبتة على تجاوز النظام وإلغاء قراره، لا مجرد وجود إجرائي لمراجع بشري.

ينبغي الحفاظ المتعمد على الكفاءة. فكما يجب على الطيارين أن يقودوا الطائرة بانتظام من دون الطيار الآلي، يحتاج العاملون في أدوار معززة بالذكاء الاصطناعي إلى ممارسة منظمة من دون النظام، على أن تُعامل هذه الممارسة كمتطلب مؤسسي لا كنية حسنة من الفرد.

ينبغي بناء جسور داخل المؤسسات الديمقراطية عبر أشخاص يفهمون فعلاً ما يفعله النموذج، ويستطيعون ترجمة ذلك إلى فئات المساءلة العامة. عدد هؤلاء الأشخاص قليل جداً، وتدريب المزيد منهم أولوية عاجلة في الحوكمة.

السؤال الذي يجب أن تطرحه كل منظمة وكل جهة تنظيمية وكل هيئة تشريعية ليس ما إذا كان الإنسان موجوداً في الحلقة، بل ما إذا كان ذلك الإنسان لا يزال قادراً على أداء العمل من دون الذكاء الاصطناعي، وما إذا كانت هذه القدرة تُحافظ عليها بنشاط.

في كثير من الحالات اليوم، الإجابة الصادقة هي لا. فعندما لا يعود المشرف قادراً على أداء العمل من دون مساعدة، تتوقف الرقابة عن كونها ضمانة وتتحول إلى توقيع. والخطأ الذي يفلت في النهاية لا يمكن أن يلتقطه إلا شخص لا يزال يعرف ما يكفي ليراه. إن الحفاظ على ذلك الشخص، على مهارته وممارسته وحكمه المهني، أصبح جوهر حوكمة الذكاء الاصطناعي بشكل جيد.

المصدر