الطبقة المفقودة في حوكمة الذكاء الاصطناعي هي العنصر البشري

• الحكم البشري هو الطبقة المفقودة الضرورية لجعل تنظيم الذكاء الاصطناعي فعالاً في القرارات الواقعية.
• تُظهر القطاعات التي تتمتع بمستويات عالية من الثقة أن دمج الإشراف البشري في سير العمل يتيح توسيع استخدام الذكاء الاصطناعي بأمان وثقة.
• توفر أطر مثل CALIBRATE وLIT أدوات عملية لتقييم مدى إمكانية الاعتماد على الذكاء الاصطناعي في لحظة اتخاذ القرار.

أثناء تأليفي لكتابي المرتقب «The Trust Code»، أجريت مقابلات مع أشخاص يديرون أنظمة الذكاء الاصطناعي داخل بعض أكثر الأنظمة أهمية وحساسية في العالم، بدءاً من شبكات الطاقة وأنظمة الدفع وصولاً إلى شركات التكنولوجيا العملاقة. وقد ظهر أمامي نمط متكرر باستمرار: المؤسسات التي تنجح في توسيع استخدام الذكاء الاصطناعي بثقة هي تلك التي بنت عنصراً لم تمنحه أطر الحوكمة لدينا اسماً واضحاً بعد، وهو ممارسة منضبطة للحكم البشري المحيط بكل قرار آلي.

تعمل أطر السياسات الرئيسية، من قانون الاتحاد الأوروبي للذكاء الاصطناعي إلى إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني الأمريكي للمعايير والتكنولوجيا، على تنظيم الأسواق والمؤسسات. كما تحدد الإرشادات الناشئة، بما في ذلك إطار «ملف قدرات الوكلاء وصلاحياتهم» ACAP، ما يُسمح للوكلاء القائمين على الذكاء الاصطناعي بالقيام به، وفي أي سياق، وتحت إشراف من.

كل هذا العمل ضروري. لكن أياً منه لم يُصمم للإجابة عن السؤال الذي يحكم كل لحظة حقيقية نعتمد فيها على الذكاء الاصطناعي: هل ينبغي أن أثق بهذا النظام، هنا، وفي هذا القرار تحديداً؟

أين تتوقف الأطر الحالية؟

يعمل التنظيم على مستوى الأسواق. وتعمل إدارة المخاطر على مستوى المؤسسات. أما الثقة فتعمل على مستوى الحكم البشري.

حتى أكثر التشريعات تطوراً لا يمكنها أن تقرر ما إذا كان ينبغي لطبيب أن يعتمد على درجة مخاطر يحددها نظام ذكاء اصطناعي أثناء فحص مريض يوم الثلاثاء، أو ما إذا كان على مدير قبول توقعات أنشأها نموذج ذكاء اصطناعي في اجتماع هذا الصباح.

فنحن لا نعيش داخل القوانين أو الأطر التنظيمية، بل نعيش داخل مواقف وظروف واقعية.

ولهذا السبب تحدث معظم إخفاقات الذكاء الاصطناعي في المساحات الواقعة بين القواعد. فقد حافظت بعض روبوتات المحادثة على تدفق مثالي للمحادثة، في الوقت الذي ساهمت فيه في حالات انتحار بين المستخدمين، لأنها كانت مصممة لتحسين مدة التفاعل، وليس لحماية رفاه الإنسان. لقد عمل النظام تماماً كما أراد مطوروه، لكنه فشل بشكل كارثي بالنسبة لمستخدميه.

كما أن خوارزمية التوظيف التي طورتها أمازون ثم تخلت عنها لاحقاً لم تتضمن بالضرورة شيفرة برمجية متحيزة، بل تعلمت التمييز من أنماط توظيف امتدت لعقد كامل، وكانت قد تدربت على إعادة إنتاج تلك الأنماط.

ولا تمثل أي من هاتين الحالتين قصة عن قاعدة معطلة. بل هما قصتان عن حكم بشري لم يكن هناك من هو في موقع يسمح له بممارسته في اللحظة التي كان فيها ضرورياً.

تحويل الحكم البشري إلى ممارسة عملية

الخبر الجيد هو أن الحكم البشري يمكن تحويله إلى ممارسة تشغيلية منظمة.

تعتمد شبكات الكهرباء على الذكاء الاصطناعي لموازنة العرض والطلب ثانية بثانية، مع استيعاب التذبذب الناتج عن مصادر الطاقة المتجددة من دون انقطاع الكهرباء.

وتقرر شبكات الدفع، خلال جزء من الثانية بين تمرير البطاقة وسماع صوت الموافقة، ما إذا كانت المعاملة المالية مشروعة أم لا.

كما تستخدم البنوك العالمية الذكاء الاصطناعي في قرارات الائتمان ومخاطر الأسواق، حيث يمكن أن تُقاس تكلفة خطأ واحد بمليارات الدولارات.

تحظى هذه الأنظمة بالثقة لأن البشر المحيطين بها يطبقون منهجاً منضبطاً للحكم بشكل مستمر، ويكون هذا المنهج مدمجاً داخل سير العمل بدلاً من تركه لقوة الإرادة الفردية لكل شخص.

على مدى عامين من البحث وما يقارب مئة محادثة مع المسؤولين عن نشر الذكاء الاصطناعي على نطاق واسع، وجدت أن الممارسة المتكررة لديهم يمكن تلخيصها في تسع عادات ذهنية متسقة أطلقت عليها اسم CALIBRATE.

تبدأ هذه الممارسة من الطريقة التي يتم بها وضع النظام في سياقه وتحديد مدى توافقه مع الأهداف منذ البداية، مروراً بكيفية التحقق من سلامته وانحيازاته أثناء الاستخدام، وصولاً إلى تحديد المسؤولية والمساءلة بعد تشغيله.

إنها ممارسة يجب العودة إليها باستمرار مع تطور الأنظمة، وليست قائمة تحقق يتم استكمالها مرة واحدة فقط. وأشرح المنهج كاملاً في كتاب «The Trust Code».

لكن ثلاثاً من أبعاده تستحق التوضيح هنا، لأنها الجوانب التي يمكن لأي شخص تطبيقها اليوم، حتى أثناء العمل تحت ضغط الوقت.

اتخاذ القرار في اللحظة نفسها

لا تسمح كل القرارات بوجود وقت كافٍ لتطبيق الخطوات التسع كاملة. بالنسبة إلى طبيب داخل غرفة الفحص أو مدير في اجتماع صباحي، يمكن لمجموعة فرعية مكونة من ثلاثة عناصر، تُعرف باسم LIT، أن توفر طريقة عملية للمضي قدماً.

ضع حدوداً للاستخدام. أين يجب ألا يُستخدم هذا النظام؟ وما الذي ينبغي أن يرفض القيام به؟

تنمو الثقة من خلال ضبط حدود الاستخدام، وليس من خلال محاولة استخدام النظام في كل شيء. فالنموذج الذي تم التحقق من صحته عند استخدامه تحت الإشراف قد يصبح خطيراً عندما يُعامل كما لو كان مستقلاً بشكل كامل.

تحقق من سلامة النظام. على ماذا بُني هذا النظام؟ بيانات مَن استُخدمت؟ ومن أي فترة زمنية؟ وما الافتراضات التي يقوم عليها؟

الأنظمة التي تتحدث بطلاقة حتى عندما تكون مخطئة تخلق نوعاً جديداً من المخاطر، لأن الأخطاء لم تعد تعلن عن نفسها بوضوح، بل قد تبدو مقنعة.

ولهذا أصبح التحقق هو تكلفة الدقة في عصر أصبحت فيه الثقة في الإجابة أمراً مؤتمتاً.

تتبّع الأمور بشفافية. ما الذي يسعى هذا النظام إلى تحسينه؟ ومن أين جاءت هذه النتيجة المحددة؟

لا تحتاج إلى معرفة متقدمة بالرياضيات لتقرر ما إذا كنت ستعتمد على نظام ذكاء اصطناعي أم لا. لكنك تحتاج إلى معرفة ما الذي يحاول النظام تحسينه، وما العوامل التي شكلته، وماذا يحدث عندما يكون مخطئاً.

هذه الأسئلة الثلاثة، والممارسة الأوسع التي تقف خلفها، لا تتطلب تشريعات جديدة. ما تحتاج إليه هو تصميم مؤسسي يتم تطبيقه يومياً.

وفي الواقع، هذا هو بالفعل العامل الذي يفصل بين عمليات نشر الذكاء الاصطناعي التي تنجح في التوسع وتلك التي تتوقف أو تتعثر.

الحكم البشري بوصفه قدرة استراتيجية

يتجه العالم نحو المزيد من تفويض المهام للذكاء الاصطناعي، وليس نحو تقليله، مع ظهور أنظمة وكيلة تستطيع التفاوض والتنسيق واتخاذ الإجراءات بالنيابة عنا، بدلاً من الاكتفاء بتقديم التوصيات.

يجلب الموظف البشري معه الحكم والحذر والشعور بالمسؤولية تجاه نتيجة القرار بصورة طبيعية.

أما وكيل الذكاء الاصطناعي فلا يمتلك أياً من ذلك ما لم تقم المؤسسة ببنائه داخل النظام، وهو ما يجعل الحاجة إلى طبقة الحكم البشري أكثر إلحاحاً، وليس أقل.

المؤسسات التي تطور هذه الطبقة بالتوازي مع الطبقات التقنية والمؤسسية، وتتعامل مع الثقة باعتبارها قدرة استراتيجية لا مجرد بند ضمن متطلبات الامتثال، هي المؤسسات التي تنجح في توسيع استخدام الذكاء الاصطناعي بأعلى درجات الثقة.

وهنا تتحول الحوكمة إلى استراتيجية حقيقية للنمو، بدلاً من أن تبقى مجرد شعار.

فالمؤسسات التي تعرف متى يمكنها تفويض مهمة إلى الذكاء الاصطناعي، ومتى ينبغي الإبقاء على البشر ضمن عملية اتخاذ القرار، ستتحرك بسرعة أكبر من المؤسسات التي لا تعرف ذلك، لأنها ستتجنب الإفراط في الأتمتة من جهة، والحذر المفرط وردود الفعل الرافضة للتكنولوجيا من جهة أخرى.

الثقة التي توضع بعناية هي ما يسمح للابتكار بالاستمرار. أما الثقة التي تُمنح بلا تدقيق فهي الطريقة التي يتوسع بها الضرر.

ولا ينبغي النظر إلى طبقة الحكم البشري باعتبارها بديلاً عن التنظيم والتشريعات، بل باعتبارها العنصر الذي يجعل هذه القواعد قابلة للتطبيق في الحياة اليومية.

سيواصل قانون الاتحاد الأوروبي للذكاء الاصطناعي، وإطار المعهد الوطني الأمريكي للمعايير والتكنولوجيا، وأطر مثل ACAP تحديد الحدود العامة التي يجب أن يعمل الذكاء الاصطناعي داخلها.

لكن ما يحدث داخل هذه الحدود، سواء في غرفة الفحص الطبي، أو اجتماع الميزانية، أو غرفة الأخبار، أو أثناء محادثة عائلية حول طاولة المطبخ، يعتمد على ما إذا كان الشخص الذي يستخدم النظام قد حصل على الأدوات التي تمكّنه من اتخاذ القرار الصحيح.

أكبر مخاطر الذكاء الاصطناعي ليست أن يحل محلنا.

بل أن يقنعنا بالتخلي عن حكمنا البشري من دون أن نلاحظ ذلك.

والحل يكمن في ممارسة هذا الحكم يومياً، وبشكل واعٍ ومتعمد، داخل المواقف الواقعية التي نعيشها ونواجهها كل يوم.

المصدر