مفارقة الاستقلالية: حين يوافق البشر لكن الذكاء الاصطناعي هو من يقرر

• ارتفعت نسبة الشركات التي تستخدم الذكاء الاصطناعي من 8.7% في عام 2023 إلى 20.2% في عام 2025، وتتوقع الغالبية العظمى منها أن يسهم في إحداث تحول في أعمالها بحلول عام 2030.
• لكن الإفراط في الاعتماد على الذكاء الاصطناعي قد يؤدي إلى ما يُعرف بـ«مفارقة الاستقلالية»: يوافق الإنسان على النتيجة النهائية، لكن الذكاء الاصطناعي يكون قد رتّب الخيارات، وصفّى الأدلة، وحدد الخيار الافتراضي قبل أن يضغط أي شخص على زر الموافقة.
• تصبح المؤسسات العالقة في مفارقة الاستقلالية أكثر كفاءة في الظروف المألوفة، لكنها قد تكون هشة بصورة مفاجئة عندما تتغير تلك الظروف.

يراجع مسؤول توظيف قائمة مختصرة أعدّها الذكاء الاصطناعي. ويدرس موظف ائتمان درجة لتقييم المخاطر. ويرى مدير مشتريات قائمة مرتبة للموردين. وفي كل حالة، لا يزال الإنسان هو من يعتمد القرار النهائي. وعلى الورق، يبدو أن الإنسان هو صاحب القرار.

لكن النظام يكون قد حدد مسبقاً ما يستحق الانتباه، وما يمكن تجاهله، وأي الخيارات ينبغي أن يظهر أولاً. فالإنسان يحتفظ بسلطة الاختيار، لكنه يمتلك قدراً أقل من السيطرة على الطريقة التي تشكل بها هذا الاختيار.

هذه الفجوة بين السلطة الرسمية والتأثير الحقيقي هي واحدة من أقل تكاليف الذكاء الاصطناعي في بيئة الأعمال خضوعاً للدراسة. وتزداد أهميتها الآن لأن هذه التكنولوجيا تنتقل من مرحلة التجربة إلى أن تصبح جزءاً من الآليات اليومية المعتادة داخل المؤسسات.

في البلدان التي تتوفر عنها بيانات، ارتفعت نسبة الشركات التي تستخدم الذكاء الاصطناعي من 8.7% في عام 2023 إلى 20.2% في عام 2025. كما يتوقع 86% من أصحاب العمل أن تؤدي تقنيات الذكاء الاصطناعي ومعالجة المعلومات إلى إحداث تحول في أعمالهم بحلول عام 2030.

وقد تكون الفوائد كبيرة، بما في ذلك تسريع عمليات التحليل، وتوسيع نطاق الوصول إلى الخبرات، وتوفير مساحة أكبر للابتكار. لكن الخطر يكمن في أن الشركات قد تتوقف تدريجياً عن ملاحظة مقدار الحكم البشري الذي تخلت عنه لصالح الأنظمة الآلية.

مفارقة الاستقلالية في بيئة العمل

تستجيب معظم المؤسسات لهذا التحدي من خلال إبقاء الإنسان «ضمن دائرة اتخاذ القرار». فيعتمد المدير التوقعات، ويراجع مسؤول التوظيف القائمة المختصرة، ويوقع موظف البنك على قرار منح القرض. وهذا أمر ضروري، لكنه ليس كافياً.

فالتوقيع النهائي يخبرنا بمن يتحمل المسؤولية، لكنه لا يخبرنا بمن شكّل القرار فعلياً. فإذا كان الذكاء الاصطناعي قد رتّب الخيارات، ولخّص الأدلة، وحدد درجة المخاطر، وقدم توصية واحدة باعتبارها الخيار الافتراضي، فإن جزءاً كبيراً من عملية الاختيار يكون قد حدث قبل أن يضغط أي شخص على زر الموافقة.

هذه هي مفارقة الاستقلالية: يحتفظ الناس بالفعل الظاهر للاختيار، بينما تتولى التكنولوجيا ترتيب الظروف التي يختارون ضمنها. وداخل الشركات، لا يبدو الأمر وكأنه نقل للسلطة بقدر ما يبدو مجرد وسيلة للراحة. تكون التوصية واضحة، والموعد النهائي قريباً، كما أن تحدي النظام يتطلب جهداً إضافياً، ولذلك يتحول القبول بتوصياته تدريجياً إلى سلوك اعتيادي.

وقد تكون العواقب على الأعمال خطيرة. فالموظفون الذين يقبلون مخرجات الأنظمة مراراً وتكراراً قد يفقدون الخبرة اللازمة للتعرف على الحالات الاستثنائية. وقد تبدأ الفرق المختلفة في تبني الافتراضات نفسها. وهكذا تصبح المؤسسة شديدة الكفاءة في الظروف المألوفة، لكنها هشة بصورة مفاجئة عندما يتغير السوق أو يواجه النموذج حالة لم تكن بيانات تدريبه قادرة على توقعها.

وهذه مشكلة تنافسية أيضاً. فنادراً ما تأتي الميزة التنافسية من الوصول إلى الاستنتاج نفسه الذي توصل إليه الجميع. بل غالباً ما تأتي من ملاحظة ما لم يتمكن النموذج من رؤيته: تغير في سلوك العملاء، أو واقع محلي غير اعتيادي، أو خطر ناشئ، أو فرصة لم يسجلها التاريخ بعد.

كيف يمكن لكفاءة اليوم أن تضعف القدرة على الحكم غداً

الإمكانات الاقتصادية للذكاء الاصطناعي كبيرة، لكن لا يمكن اختزال الإنتاجية في عدد الدقائق التي تم توفيرها أو التقارير التي تم إنجازها. فلكي تستفيد الشركات بالكامل من الإمكانات الإنتاجية للذكاء الاصطناعي التوليدي، تحتاج إلى تكييف هياكلها التنظيمية وعملياتها واستراتيجياتها. ولذلك فالمسألة تتجاوز مجرد نشر برنامج جديد، وتتعلق بكيفية استمرار الشركة في التعلم.

يمكن للشركة أن تصبح أكثر كفاءة اليوم، وفي الوقت نفسه تضعف القدرات التي ستحتاج إليها غداً. فإذا لم يعد الموظفون المبتدئون يقومون بالأعمال التي تساعدهم على تطوير قدرتهم على الحكم واتخاذ القرار، فمن سيصبح صاحب الخبرة بعد خمس سنوات؟ وإذا بدأت جميع الفرق عملها انطلاقاً من الملخص نفسه الذي أنشأته الآلة، فمن أين سيبدأ الاختلاف البنّاء في وجهات النظر؟ وإذا اضطر المديرون إلى تبرير كل مرة يخالفون فيها توصية الخوارزمية، فإن الرقابة البشرية تتحول إلى إجراء شكلي.

وتشمل تداعيات ذلك بالفعل شريحة واسعة من القوى العاملة. إذ تشير التقديرات إلى أن واحداً من كل أربعة عمال حول العالم يعمل في مهنة تنطوي على قدر من التعرض للذكاء الاصطناعي التوليدي، مع التأكيد على أن تحول الوظائف أكثر احتمالاً من الاستبدال الكامل للعمال. وستعتمد جودة هذا التحول على ما إذا كان العاملون سيصبحون مجرد متلقين سلبيين لمخرجات الآلات، أم مشاركين فاعلين قادرين على التشكيك فيها وتحسينها.

الرقابة البشرية يجب أن تشمل حرية الاختلاف مع الذكاء الاصطناعي

لا تحتاج الشركات إلى الاختيار بين الطموح التكنولوجي والقدرة البشرية على اتخاذ القرار. لكنها تحتاج إلى إجراء ثلاثة تغييرات مدروسة.

تتبّع التأثير، وليس المسؤولية فقط. يجب ألا تقتصر الحوكمة على تسجيل الشخص الذي اعتمد النتيجة النهائية. بل ينبغي للقادة أيضاً دراسة ما قام النظام بترتيبه أو استبعاده أو تلخيصه أو تقديمه باعتباره الخيار الافتراضي. يجب جعل تأثير الذكاء الاصطناعي مرئياً قبل أن يتحول تدريجياً إلى سلطة فعلية.

اجعل الاختلاف مع النظام أمراً عملياً. يحتاج الموظفون إلى أكثر من مجرد حق نظري في تجاوز توصيات النظام. يجب أن تكون لديهم إمكانية الوصول إلى البدائل، وأدلة كافية لتقييم التوصية، ومسار عملي للاعتراض أو التصعيد. وينبغي النظر إلى حالات تجاوز توصيات النظام والحالات التي كادت أن تؤدي إلى أخطاء باعتبارها مصادر للتعلم، لا مؤشرات على عدم الكفاءة.

احمِ رأس مال الحكم البشري. تراقب مجالس الإدارة رأس المال المالي والتكنولوجي والبشري، وينبغي لها أيضاً حماية القدرة المتراكمة لدى الأفراد والفرق على تفسير الغموض، واختبار الافتراضات، والتصرف عندما تفشل النماذج. وهذا يعني الحفاظ على التدريب العملي، والخبرة المتخصصة، ووجهات النظر المختلفة فعلياً، حتى عندما تبدو الأتمتة أقل تكلفة على المدى القصير.

وأصبحت الحاجة إلى الانتقال من المبادئ إلى التطبيق أمراً ملحاً. فأقل من 1% من المؤسسات نجحت في التطبيق الكامل للذكاء الاصطناعي المسؤول بطريقة شاملة واستباقية. وسد هذه الفجوة هو ما سيجعل الابتكار أكثر موثوقية ومرونة وقدرة على التوسع.

ينبغي للذكاء الاصطناعي أن يخفف من الأعمال الروتينية المرهقة، ويوسع نطاق الرؤية، ويساعد الناس على اتخاذ قرارات أفضل. لكنه لا ينبغي أن يلغي بهدوء واجب التفكير. ولن تكون أقوى الشركات هي تلك التي تكتفي بإبقاء البشر شكلياً ضمن دائرة اتخاذ القرار، بل تلك التي تحافظ على وجودهم الفكري الحقيقي داخلها، مع منحهم المهارة والسلطة اللازمتين للقول: قد تكون الآلة على حق، لكن دعونا نعيد النظر.

المصدر