ملخص: تناقش هذه المقالة التحدي الجوهري الذي يسبق اعتماد الذكاء الاصطناعي فائق الذكاء لحل أعقد مشكلات العالم، والمتمثل في ضرورة الاتفاق أولاً على معنى “حل المشكلة” نفسه، إذ توضح أن الذكاء الاصطناعي قد يحقق الأهداف المحددة له حرفياً ولكن بطرق غير مرغوبة أو عديمة الجدوى إذا لم تُصَغ القيم والمكافآت بدقة، كما تسلط الضوء على مخاطر “اختراق المكافأة”، وصعوبة ترميز مفاهيم مثل العدالة، النمو، والرفاه، وتطرح الحاجة إلى أطر مشتركة وخبرات جديدة قادرة على ترجمة القيم الإنسانية والتوازنات المجتمعية إلى أهداف واضحة يمكن للذكاء الاصطناعي العمل عليها بشكل مسؤول ونافع للبشرية.
- بينما نقترب من المرحلة التالية في تطور الذكاء الاصطناعي فائق الذكاء، أي الأنظمة القادرة على تحسين نفسها ذاتياً بشكل متكرر والتعامل مع مشكلات معقدة ومفتوحة النهاية، نواجه سؤالاً أساسياً ظلّ لفترة طويلة في الظل: ما الذي يعنيه فعلاً أن نقول إن مشكلة ما قد “حُلّت”؟
- إذا لم نتمكن نحن البشر من الاتفاق على إجابة واضحة عن هذا السؤال، فكيف يمكننا ترميزه وتعليمه لأنظمة الذكاء الاصطناعي؟
- يجتمع القادة في الاجتماع السنوي للمنتدى الاقتصادي العالمي 2026 لاستكشاف كيف يمكن للاستخدام الأخلاقي للذكاء الاصطناعي والتقنيات الناشئة الأخرى أن يتحول إلى حلول ملموسة لتحديات العالم الحقيقي.
لقد أتاح المزيد من البيانات، وزيادة القدرة الحاسوبية، والابتكارات المعمارية مثل المحوّلات (Transformers)، تسارعاً كبيراً في قدرات الذكاء الاصطناعي. واليوم، ونحن نقترب من عتبة الذكاء الاصطناعي فائق الذكاء، نكتشف أن السؤال الأهم لم يكن تقنياً بقدر ما كان مفاهيمياً: علينا أن نتفق على معنى “حل المشكلة”.
الذكاء الاصطناعي بارع في تحسين وتحقيق الأهداف التي نحددها له، وهذه ميزة وخطر في الوقت نفسه. على سبيل المثال، قد تقرر شركة ما أنها تريد تعظيم درجات رضا العملاء في مركز اتصال. من دون أي توجيه إضافي، قد يجد الذكاء الاصطناعي أن أبسط حل هو نشر ملايين الروبوتات التي تملأ استبيانات الرضا بعد مكالمات قصيرة وتختار أعلى تقييم. أو قد يقرر تقديم تعويض بقيمة عشرة آلاف دولار عن كل طلب فاشل. سترتفع معدلات الرضا، لكن بأي ثمن؟ لقد حقق الذكاء الاصطناعي الهدف حرفياً، لكن بطريقة عديمة الجدوى.
يُعرف هذا السلوك باسم “اختراق المكافأة” (Reward Hacking). وعندما نوسّع هذا الإشكال ليشمل تحديات مجتمعية كبرى، تصبح المخاطر وجودية.
حالياً، لدينا مهندسو أوامر (Prompt Engineers) يصيغون تعليمات لأنظمة الذكاء الاصطناعي مثل: “أجب بشكل مفيد ومختصر” أو “حلّل هذه البيانات وقدّم خلاصة لأهم النتائج”. هذه الأوامر تنجح لأن المهام محدودة والنتائج المتوقعة واضحة نسبياً.
لكن ماذا يحدث عندما نطلب من الذكاء الاصطناعي معالجة قضايا أكبر؟ تحسين نظام الضرائب. تقليل عدم المساواة. مكافحة تغير المناخ. تعظيم النمو الاقتصادي. هنا، لم نعد نمنح تعليمات بسيطة، بل نُشفّر قيماً وأولويات ومقايضات. لقد ركزنا كثيراً على الوظائف التي قد تختفي أو تتقلص بسبب الذكاء الاصطناعي، لكنني أعتقد أن نوعاً جديداً من العمل سيظهر.
كيف يبدو النجاح فعلاً بالنسبة للذكاء الاصطناعي فائق الذكاء؟
تخيل أن نطلب من ذكاء اصطناعي فائق الذكاء “تنمية الاقتصاد وحل مشكلة عدم المساواة الاقتصادية”. ماذا يعني ذلك تحديداً؟
هل يعني تساوي الدخل بين الجميع؟ أم تساوي الفرص؟ أم تساوي النتائج في مجالات معينة؟ هل نريد الإبقاء على قدر من عدم المساواة للحفاظ على حوافز الابتكار؟ وماذا لو تطلّب تقليل عدم المساواة إبطاء النمو الاقتصادي؟ هل سيكون ذلك مقبولاً؟
أو لنأخذ مثالاً آخر: “اجعل الشركة أكثر ربحية”. هل ينبغي على الذكاء الاصطناعي تعظيم الأرباح الفصلية؟ أم القيمة طويلة الأجل للمساهمين؟ هل يجب أن يأخذ في الاعتبار رفاه الموظفين؟ الأثر البيئي؟ ومتى يصبح تعظيم الربح أمراً إشكالياً؟
هذه أسئلة فلسفية وسياسية عميقة ناقشتها المجتمعات البشرية لقرون. لكن إذا أردنا للذكاء الاصطناعي فائق الذكاء أن يساعدنا فعلاً في حل التحديات العالمية الكبرى، فعلينا أن نتمكن من التعبير بوضوح عما نريده.
لقد واجهت هذا التحدي بنفسي. في بحثنا حول “اقتصادي الذكاء الاصطناعي”، استخدمنا التعلم المعزز لتصميم سياسات ضريبية مثلى. أنشأنا اقتصاداً افتراضياً حيث عملت وكلاء ذكاء اصطناعي كعمال ومخطط اقتصادي، يتعلمون جميعاً معاً لاكتشاف سياسات ضريبية تحسن المفاضلة بين المساواة والإنتاجية.
طلبنا من الذكاء الاصطناعي تحسين حاصل ضرب المساواة في الإنتاجية. لكن ماذا لو حقق ذلك عبر تدمير البيئة؟ أو عبر خلق مساواة تقنية يكون فيها الجميع بائسين؟ عندها نكون قد حققنا الهدف المعلن، لكن النتيجة ستكون شيئاً لم نرده إطلاقاً.
إذا لم تتمكن من الاتفاق على المكافأة الحقيقية التي تريد منحها للذكاء الاصطناعي، أو لم تفكر في الطرق غير المتوقعة التي قد يحقق بها الهدف بشكل غير مرغوب، فلن يتمكن الذكاء الاصطناعي من أداء هذه المهام كما ينبغي. عليك أن تتوقع جميع الحالات الحدّية وسيناريوهات الفشل، تلك التي تحقق الهدف نظرياً، لكنها عملياً تؤدي إلى نتائج غير مقبولة.
من يقرر معنى “الحل”؟
نصل هنا إلى السؤال الأصعب: من الذي يملك حق تعريف ما يعنيه أن تكون المشكلة “محلولة”؟ فالدول المختلفة تحمل قيماً متباينة جذرياً.
حتى داخل الدولة الواحدة، لا يوجد اتفاق. هل نُحسّن الناتج المحلي الإجمالي أم السعادة؟ الحرية أم الأمن؟ الابتكار أم الاستقرار؟ الحرية الفردية أم الرفاه الجماعي؟ إذا لم نستطع التوافق على هذه الأسئلة كبشر، فكيف نُشفّرها لأنظمة ذكاء اصطناعي قد تعمل على تقديم توصيات عبر حضارات بشرية متعددة؟
نحن بحاجة إلى أطر مشتركة للتفكير في النتائج الموضوعية، تماماً كما نحتاج إلى بروتوكولات دولية لاختبار سلامة المنتجات. وأكثر من ذلك، نحتاج إلى أشخاص متخصصين في ترجمة القيم الإنسانية والأهداف المجتمعية إلى مواصفات دقيقة يمكن للذكاء الاصطناعي العمل بها. أسمي هذا المجال “هندسة المكافآت”. أياً كان الاسم، فهو تخصص ومسمّى وظيفي بالكاد موجود اليوم.
يجب على هؤلاء المتخصصين أن يفهموا الذكاء الاصطناعي بعمق كافٍ لتوقّع كيف يمكن لذكاء فائق، مفتوح النهاية ويتعلم باستمرار، أن “يلتف” على الأهداف. ليس لأنه شرير أو يمتلك إرادة خاصة، بل لأنه سيبحث عن أبسط وأسرع وأرخص طريق للحصول على المكافأة التي حددها البشر. كما يحتاجون إلى تفكير نقدي وتدريب فلسفي للتعامل مع أسئلة القيم والمقايضات، وإلى خبرة معرفية في المجالات التي سيُطبّق فيها الذكاء الاصطناعي: الاقتصاد، السياسات العامة، الأخلاقيات، العلوم الاجتماعية، وحتى المجالات اليومية المهمة مثل مراكز خدمة العملاء. والأهم، أن يكونوا قادرين على تخيل سيناريوهات الفشل، أي الحالات التي نحقق فيها الهدف رسمياً، لكن نحصل عملياً على نتيجة لا يريدها أحد.
ما الذي يجب التفكير فيه قبل نشر الذكاء الاصطناعي فائق الذكاء؟
يرى البعض أننا بحاجة إلى توافق عالمي على الأهداف قبل نشر ذكاء اصطناعي قوي. بينما يعتقد آخرون أن الأهداف يجب أن تتشكل عبر المنافسة والتجريب. هناك من يفضل العمليات الديمقراطية لتحديد القيم، وآخرون يثقون بالخبراء أو بالأسواق. ومع ازدياد حضور الذكاء الاصطناعي في كل الصناعات، يصبح من غير المنطقي محاولة تعريف كل شيء بشكل مجرد. يجب أن يكون التنظيم مرتبطاً بلحظة تأثير الذكاء الاصطناعي الفعلي على حياة الناس في كل قطاع.
قد لا نملك اليوم جميع الإجابات حول تأثير الذكاء الاصطناعي على الوظائف في مختلف الصناعات، لكن ما أعرفه يقيناً هو أن الاختراقات التكنولوجية وحدها لن تكون كافية لتحقيق مكاسب اقتصادية ومجتمعية من الذكاء الاصطناعي فائق الذكاء.
قبل أن يتمكن الذكاء الاصطناعي فائق الذكاء من حل تحديات العالم، علينا أولاً أن نحل تحدياً إنسانياً بامتياز: أن نتفق على معنى “الحل”، وأن نبني الأطر القادرة على ترجمة هذا المعنى إلى شيء يمكن للذكاء الاصطناعي العمل به.
فأي الوظائف ستكون الأكثر قيمة في تعريف المكافأة التي نمنحها للذكاء الاصطناعي؟
