- تقوم مجالس الإدارة بشكل متزايد بإعادة توزيع صلاحيات اتخاذ القرار إلى أنظمة مستقلة، بينما تحتفظ بنماذج حوكمة صُممت أساسًا للحكم البشري.
- إن عدم التوافق بين الذكاء الاصطناعي الوكيل والحكم البشري يمثل الخطر الحقيقي، ليس في سلوك الأنظمة، بل في كيفية تحديد مجالس الإدارة لحدود التفويض.
- وهذا يعني أنه من أجل حوكمة أنظمة الثقة، يجب على مجالس الإدارة التخلي عن وهم السيطرة الكاملة، حيث يصبح التفويض الجديد هو بناء “معمارية القيود”.
لعقود، كانت مجالس الإدارة تدير التكنولوجيا بالطريقة نفسها: شراء النظام، توظيف الفريق، وضع السياسات، ثم تدقيق النتائج. لكن التحول الأخير مختلف.
فغرفة مجلس الإدارة الحديثة لا تعتمد فقط على فئة أسرع من البرمجيات، بل تعيد توزيع صلاحيات اتخاذ القرار إلى أنظمة مستقلة مثل وكلاء الذكاء الاصطناعي، مع الاحتفاظ بنماذج حوكمة صُممت للحكم البشري.
هذا التناقض بين الأنظمة المستقلة والحكم البشري هو الخطر الحقيقي، ليس في سلوك النظام، بل في كيفية تعريف مجالس الإدارة لحدود التفويض. فالمجالس التي تدير هذه الوكلاء، وليس فقط تشتريهم، ستحقق ميزة تراكمية لن يدركها منافسوها حتى.
تعكس ورقة العمل الأخيرة للمنتدى الاقتصادي العالمي حول “وكلاء الذكاء الاصطناعي في العمل”، إلى جانب دليل “تعزيز الابتكار المسؤول في الذكاء الاصطناعي”، واقعًا أصبح واضحًا في غرف مجالس الإدارة: يجب الآن ترميز الحوكمة، لا مجرد مناقشتها.
مع انتقال الوكلاء من أدوات حوارية بسيطة إلى محركات تشغيل أساسية، تتقلص الفترة الزمنية بين التوجيه الاستراتيجي والتنفيذ الكارثي إلى الصفر. وهذا يعني عمليًا أن مجالس الإدارة تصوّت الآن، غالبًا دون وضوح كامل، على النقطة التي ينتهي فيها الحكم البشري وتبدأ فيها سلطة الآلة.
حيث تفشل الحوكمة في الواقع ليس في المواضع التي تركز عليها المجالس. إذ تفترض المجالس أن الخطر يتمثل في خلل تقني، كأن يهذي الوكيل أو يتعطل. لكن نمط الفشل الحقيقي للأنظمة المستقلة نادرًا ما يكون انهيارًا، بل هو كفاءة مفرطة مطبقة على مقياس خاطئ.
لنأخذ مثال وكيل مالي يعمل على تحسين المشتريات. لا يفشل هذا الوكيل؛ بل ينفذ بدقة، يعيد التفاوض على نطاق واسع لاستخراج مكاسب هامشية، ما يؤدي إلى انهيار مورد أساسي وتعطيل سلسلة الإمداد. لقد عمل النظام كما صُمم تمامًا. وهنا يكمن الفشل، وهو غير مرئي تمامًا ضمن مصفوفة المخاطر التقليدية.
الامتثال التقليدي غالبًا ما يكون بعد وقوع الحدث، لكن الأنظمة التي تعمل بسرعة الآلة لا يمكن تدقيقها بأثر رجعي. إن الاعتماد على عمليات تدقيق ثابتة لوكيل مستقل يشبه تحليل مسار رصاصة بعد أن أصابت الجدار.
يشير مرصد سياسات الذكاء الاصطناعي التابع لمنظمة التعاون الاقتصادي والتنمية إلى أنه رغم انتشار الاستراتيجيات الوطنية للذكاء الاصطناعي، لا تزال الأطر الوظيفية للرقابة الفورية على الوكلاء غائبة. نحن نبني محركات دون مكابح، ونتوقع من أحزمة الأمان القديمة أن تنقذنا.
حوكمة أنظمة الثقة في عصر الذكاء الاصطناعي الوكيل
إن الدلالة بالنسبة للحوكمة واضحة: لحوكمة أنظمة الثقة، يجب على مجالس الإدارة التخلي عن وهم السيطرة الكاملة. التفويض الجديد هو تصميم “معمارية القيود”.
التوجيه الأول لمجالس الإدارة: التصميم من أجل احتكاك مفهوم
المفاضلة الأساسية هي بين أقصى إنتاجية للنظام وقابلية الدفاع القانوني. فالكفاءة المطلقة تقضي على إمكانية الفهم البشري. وإذا لم تتمكن من تفسير كيفية اتخاذ قرار ما، فلن تتمكن من الدفاع عنه.
لذلك، تتطلب الحوكمة تقييد السرعة بشكل مقصود. يجب على المجالس هندسة “احتكاك مفهوم”: نقاط توقف محددة تتطلب فيها القرارات عالية المخاطر موافقة بشرية. ما يبدو كعدم كفاءة هو في الواقع سيطرة تشغيلية.
يعكس اتحاد معهد سلامة الذكاء الاصطناعي في الولايات المتحدة هذا التحول نحو وضع حواجز حماية معيارية. وكما أكدت كاثلين هيكس، نائبة وزير الدفاع الأمريكي السابقة: “عندما نقول إن الإنسان داخل الحلقة، فإننا نعني أن شخصًا ما في سلسلة القيادة يجب أن يتحمل المسؤولية في النهاية.”
التوجيه الثاني: تدقيق المكافأة لا المسار
اتخاذ آلاف القرارات الصغيرة في الوقت الفعلي أمر غير عملي. لذلك يجب على مجالس الإدارة الانتقال من تدقيق التنفيذ إلى حوكمة دالة المكافأة الأساسية. فإذا حفّزت الوكيل على تعظيم التفاعل، فسيجد أكثر الطرق تطرفًا لتحقيق ذلك. الهدف هو الذي يحدد النتيجة.
لا يمكن أن يظل هذا إطارًا غربيًا فقط. فالأنظمة المدربة على بيانات محدودة ستعيد تشكيل النتائج العالمية. وتؤكد مبادرات مثل مشروع “الذكاء الاصطناعي العادل في إفريقيا” على ضرورة دمج الواقع الإقليمي في أهداف الأنظمة لتجنب تعزيز أوجه عدم المساواة الهيكلية.
التوجيه الثالث: استيعاب نطاق المسؤولية
لا تزال مجالس الإدارة تتعامل مع نقل المخاطر باعتباره مسألة تعاقدية، لكن في الواقع، المسؤولية غير قابلة للنقل. يمكن الاستعانة بمصادر خارجية للبنية التحتية، لكن المسؤولية تبقى مرتبطة بالمؤسسة. عندما ينفذ وكيل مشتريات مستقل ممارسات تمييزية في اختيار الموردين، فإنه يفعل ذلك تحت سلطة مجلس الإدارة، سواء أُدرك ذلك صراحة أم لا.
تتعامل المؤسسات العالمية الآن مع الذكاء الاصطناعي كعامل هيكلي للتجارة والنمو، وليس كتجربة جانبية. ويتطلب اغتنام هذه الفرصة استيعاب المخاطر. لا يمكنك شراء بند تعويض لكيان اصطناعي يعمل نيابة عنك. إذا تصرف الوكيل، يجب أن يتحمل مسؤول تنفيذي محدد العواقب.
لم تعد هذه التحولات مجرد سيناريوهات في سجلات المخاطر، بل أصبحت تظهر في محاضر الاجتماعات والدعاوى القضائية، وتتطلب استجابة مؤسسية تُقاس بالأشهر لا بالسنوات.
بناء الشفافية والثقة في الذكاء الاصطناعي
ينبغي على مختلف الأطراف المعنية اتخاذ الإجراءات التالية لبناء الشفافية والثقة في الذكاء الاصطناعي الوكيل:
الحكومات: تنظيم نقاط التفاعل التي يتعامل فيها الوكلاء مع الأسواق والبنية التحتية الحيوية والأنظمة المادية، وليس النماذج الأساسية نفسها. ومواءمة هذه النقاط مع الهدف 16 من أهداف التنمية المستدامة للأمم المتحدة لضمان مؤسسات شفافة وخاضعة للمساءلة.
قادة الأعمال: التخلي عن الافتراض بأن الامتثال يمكن إضافته بعد النشر. فالأمان قرار تصميمي يتطلب التضحية بجزء من أقصى تحسين. يجب ترميز مستوى تقبل المخاطر مباشرة في بنية النظام، بما يتماشى مع معايير ناشئة مثل ISO/IEC 42001 لأنظمة إدارة الذكاء الاصطناعي. ادفع تكلفة القابلية للدفاع، أو تحمل تكلفة الفشل غير المسيطر عليه.
المجتمع المدني: نقل التدقيق من بيانات التدريب إلى أهداف التحسين. والمطالبة بالشفافية ليس فقط فيما تستهلكه الأنظمة، بل فيما يتم تحفيزها لتحقيقه. فدالة المكافأة هي ساحة المعركة الجديدة لحقوق الإنسان.
ينبغي على مجالس الإدارة إطلاق ثلاثة توجيهات فورية:
المطالبة بتدقيق “الوكيل الظل”: تحديد الأتمتة غير الرسمية داخل المؤسسة، فالمخاطر الأساسية ليست في ذكاء اصطناعي الموردين، بل في النشر الداخلي غير الخاضع للإشراف.
إجراء اختبار ضغط لمسؤولية المديرين التنفيذيين: مراجعة تغطية تأمين المسؤولية ضد أخطاء وكلاء الذكاء الاصطناعي، حيث إن العديد من السياسات لا تأخذ هذه المخاطر في الحسبان، ومعظم المجالس اليوم غير مؤمّنة بشكل كافٍ.
تنفيذ تمرين “استدعاء اصطناعي”: مطالبة الإدارة بالدفاع رسميًا عن قرار عالي المخاطر اتخذه وكيل مستقل كما لو كان تحت تدقيق قانوني. وإذا لم تتمكن القيادة من تتبع القرار بوضوح إلى أهداف محددة ونية بشرية، فلا ينبغي للنظام أن يعمل. تبدأ الحوكمة حيث تفشل قابلية التفسير.
إن المسؤولية الحاسمة في العقد القادم ليست في الشيفرة التي لم تكتبها، بل في القرارات التي سمحت للآلات بتنفيذها. يمكنك الاستعانة بنظام اصطناعي لتنفيذ المهام، لكن لا يمكنك نقل الواجب الائتماني.
عندما يتصرف وكيل ذكاء اصطناعي، فإنه يوسع نطاق اتخاذ القرار لمجلس الإدارة، ومعه تتوسع مسؤوليته. لم يعد النظام مجرد معالجة للسجلات، بل أصبح يكتب التاريخ.
