تصميم الثقة في عصر وكلاء الذكاء الاصطناعي

• يتحوّل الذكاء الاصطناعي من أدوات ثابتة إلى وكلاء مستقلين يتطلبون أُطرًا جديدة للمساءلة.
• فالثقة المستدامة تعتمد على أنظمة مُصمَّمة لتحقيق انسجام إدراكي، لا على هندستها عبر الإقناع العاطفي.
• وعلى القادة اعتماد بنية طبقية للثقة تُعطي الأولوية لوضوح المنطق وحدود صلاحيات النظام.

لا يصل الذكاء الاصطناعي القائم على الوكلاء بضجيجٍ لافت، بل يتسلّل بهدوء. فالأنظمة التي كانت تنتظر التعليمات بدأت تبادر بالفعل من تلقاء نفسها — تُطلق المهام، وتتخذ القرارات، وتتكيّف أثناء التنفيذ.

ومع أن هذا التحوّل جارٍ بالفعل، فإن الطريقة التي نتحدث بها عن حوكمة الذكاء الاصطناعي ما تزال أسيرة الماضي. فأُطرنا الأخلاقية والقانونية والتنظيمية لم تُصمَّم لاستيعاب وجود وكلاء غير بشريين. لكن الأنظمة القائمة على الوكلاء تغيّر المعادلة، وتطرح أسئلة ملحّة حول المساءلة عندما تسوء الأمور.

من أدوات إلى أطراف حوار

تركّز معظم النقاشات حول حوكمة الذكاء الاصطناعي على الامتثال وإدارة المخاطر ومنع الأضرار. وهذه أمور مهمة وستظل كذلك. لكنها صُمِّمت لعالم كان فيه الذكاء الاصطناعي في معظمه أداة ثابتة.

ومع انتقال وكلاء الذكاء الاصطناعي من كونهم أدوات إلى أطراف حوار، يصبح جوهر المسألة سلوكيًا: كيف نضمن إمكانية الوثوق بهؤلاء الوكلاء؟ تحاول بعض الدول الإجابة عن هذا السؤال من خلال وضع أطر تنظيمية واسعة النطاق للذكاء الاصطناعي القائم على الوكلاء.

في هذا النموذج الجديد، تصبح الثقة خيارًا تصميميًا أساسيًا، يجب اتخاذه عن وعي ومن خلال تعاون عالمي، لا عبر الإقناع أو الغموض. فالثقة التي تُبنى على محاكاة عاطفية تكون هشّة؛ قد تُقنع في اللحظة، لكنها لا تصمد أمام التدقيق الحقيقي.

كيف نبني الثقة؟

في المقابل، فإن الثقة المبنية على الانسجام الإدراكي — عندما تتصرف الأنظمة بطرق يستطيع البشر فهمها intuitively، وتوقّعها، وتقييمها نقديًا — تكون أكثر دوامًا واستقرارًا.

الانسجام الإدراكي يعني أن تكون حدود الذكاء الاصطناعي واضحة.
وأن يظل منطق الوكيل وحدوده ونواياه قابلة للفهم. وهذا مهم لأن وكلاء الذكاء الاصطناعي يؤثرون بشكل متزايد في القرارات والمعتقدات والحالات العاطفية. فعندما لا يعرف المستخدم سبب استجابة الوكيل بطريقة معينة، أو ما إذا كان يُحسِّن الأداء لصالحه، تتحوّل الثقة إلى تبعية.

وهنا يجب أن يتطور النقاش. فمجرّد منع الضرر لا يساوي توجيه الأثر. وفي عصر الاستقلالية، لا يمكن تعريف المسؤولية فقط بما لم يحدث من أخطاء، بل أيضًا بالمستقبل الذي نصنعه فعليًا.

كسب الثقة لا هندستها

من منظور التصميم، يعني ذلك أن تُكتسب الثقة بدل أن تُهندس. ويتطلب هذا قرارات تصميمية هيكلية ونفسية في آنٍ واحد.

تشمل القرارات الهيكلية طريقة بناء النظام، ومن ذلك إنشاء “بنية طبقية للثقة” في الأنظمة المستقلة، تتضمن:

• مسارات منطق واضحة: ينبغي أن يكون الوكيل قادرًا على شرح كيف ولماذا توصّل إلى نتيجة ما، بمستوى مناسب من التفصيل. ليس إفصاحًا تقنيًا كاملًا، بل تتبّعًا ذا معنى.

• صلاحيات محدودة: يجب وضع حدود واضحة لما يمكن للوكيل فعله أو تقريره أو التوصية به، دون تصعيد خفي في مستوى الاستقلالية.

• شفافية الأهداف: يجب أن تكون أهداف الوكيل صريحة، بحيث يعرف المستخدم إن كان يُحسِّن الأداء من أجل الدقة أو السلامة أو الكفاءة أو التفاعل أو الأهداف التجارية.

• إمكانية الطعن والتجاوز: يجب أن يتمكن البشر من الاعتراض على قرارات الوكيل أو تصحيحها أو الانسحاب منه بسهولة. فالخروج السلس شرط للثقة.

• حوكمة مدمجة في التصميم: يجب تضمين آليات التسجيل والتدقيق والرقابة منذ البداية، لا إضافتها لاحقًا.

وقبل أن تتوسع الاستقلالية، هناك فرصة للتريث والمراقبة: كيف يتصرف الوكيل عندما يتعلم في بيئات حقيقية؟ ما الأنماط التي يبدأ في تفضيلها؟ وكيف يستجيب البشر؟ هل يزيد اعتمادهم عليه؟ هل يقلّ تدخلهم؟ هل يثقون به أسرع مما ينبغي؟

إن تخصيص الوقت لاستكشاف هذه التحولات ليس ترفًا، بل هو السبيل لتجنب ترسيخ سلوكيات لم نقصد يومًا تطبيعها. فهذه ليست حالات استثنائية، بل إشارات مبكرة إلى المستقبل الذي نصوغه.

ينبغي النظر إلى الثقة لا كعائق أمام التبنّي، بل كأساس لنتائج أفضل، ووسيلة لمواءمة أنظمة الذكاء الاصطناعي مع السلوكيات والأحكام والقيم التي نرغب في تعزيزها.

بنية طبقية للثقة

للوثوق بما يفعله نظام الذكاء الاصطناعي، يجب أن نفهم ما الذي يعرفه، وما الذي يُسمح له بفعله، وما الذي فعله بالفعل. ويعني ذلك البدء ببيانات محكومة وقابلة للتتبع، وإضافة قواعد واضحة قابلة للقراءة آليًا تعكس القيم والحدود، وضمان سجلات قرار شفافة تتيح مساءلة الأفعال والتعلم منها.

هذا الهيكل لا يبطئ الاستقلالية، بل يجعل توسيعها أكثر أمانًا.

لكن الحوكمة ليست هيكلية فقط، بل عاطفية أيضًا. يحتاج الناس إلى الشعور بأن لديهم وكالة وسيطرة. ويجب أن يفهموا متى يتصرف الذكاء الاصطناعي، ولماذا، وكيف يمكنهم التدخل. فالأنظمة الملتزمة تقنيًا لكنها غامضة في تجربتها تُقوّض الثقة سريعًا.

ولذلك، هناك خيارات تصميمية أساسية، منها:

• عاطفة غير مضللة: ينبغي أن يتجنب الوكيل الإيحاءات البشرية التي توحي بتعاطف أو رعاية أو سلطة تتجاوز قدرته الفعلية. فلا ينبغي للنبرة العاطفية أن توحي بفهم أخلاقي غير موجود.

• تواضع معرفي: يجب أن يُظهر الوكيل مستويات عدم اليقين وحدوده ودرجة ثقته. فقول “لا أعرف” ميزة تعزز الثقة.

• عدم أسر المستخدم عاطفيًا: يجب ألا يعزز الوكيل المعتقدات دون نقد، أو يعكس المشاعر لتعميق الارتباط، أو يُحسِّن الأداء لتعزيز التبعية.

• الاتساق بدل الإقناع: السلوك المتوقع والمبدئي يبني الثقة أكثر من الإقناع التكيّفي.

• احترام استقلالية المستخدم: ينبغي أن يدعم الوكيل التفكير والاختيار، لا أن يوجّه القرارات سرًا.

لهذا يحتاج القادة إلى طرح أسئلة مختلفة: ليس فقط “هل ذكاؤنا الاصطناعي مسؤول؟” بل أيضًا “ما السلوكيات التي سيطبعها هذا النظام؟” “ما الذي سيكافئه؟” “ما الذي سيثبطه بصمت؟” و“أي نوع من الأحكام سيشكّله مع مرور الوقت؟”

الوكلاء الذين ينسجمون إدراكيًا يعاملون المستخدمين كذوات قادرة على التفكير، لا كأهداف سلوكية. تنشأ الثقة عندما تكون الأنظمة مفهومة، ومحدودة الصلاحيات، وخاضعة للمساءلة. وعلى المدى الطويل، لا يُعد هذا مجرد واجب أخلاقي، بل شرطًا أساسيًا لاعتماد مستدام للذكاء الاصطناعي القائم على الوكلاء على نطاق واسع.

فالاختبار الحقيقي للاستقلالية المسؤولة لن يكون في المخاطر التي تجنبناها، بل في المستقبل الذي اخترنا صنعه. والسؤال الذي يستحق التأمل الآن بسيط وصعب في آنٍ واحد: أي عالم يساعدنا ذكاؤنا الاصطناعي على بنائه، وهل نحن مستعدون لتحمّل مسؤوليته؟