- يوشوا بنجيو هو أستاذ علوم الحاسوب في جامعة مونتريال وأحد “عرّابي الذكاء الاصطناعي” إلى جانب مرشديه جيفري هينتون ويان لوكون. خلال الاجتماع السنوي للمنتدى الاقتصادي العالمي في يناير، تحدث إلى برنامج “راديو دافوس” ليشرح لماذا يمكن أن يتصرف الذكاء الاصطناعي بشكل سيئ، وما هو الحل الذي يقترحه.
- في هذه المقابلة المحررة، يشرح بنجيو اللحظة التي دفعته إلى العمل على نظام ذكاء اصطناعي دون أجندة خفية.
في أوائل عام 2023، مثل كثيرين، كان يوشوا بنجيو يجرب ChatGPT. ويُعد عالم الحاسوب الكندي من أبرز الرواد في مجال الشبكات العصبية والتعلم العميق، لذلك عندما يتفاعل مع هذه الأنظمة، فإنه يفعل ذلك بفهم عميق لكيفية عملها.
لكن هذه التفاعلات أدت أيضاً إلى تغيير في وجهة نظره. فمع تطور قدرات هذه النماذج، بدأ يفكر بجدية أكبر في كيفية تصرفها ومدى إمكانية فهم هذا السلوك أو التحكم فيه بشكل موثوق.
وقال: ""مع الشبكات العصبية [التي تُدرَّب بها النماذج اللغوية الكبيرة]، من الصعب جداً التأكد من أنها ستتصرف بشكل جيد. في الواقع، هناك أسباب نظرية تجعلنا شبه متأكدين من أنها لن تتصرف بشكل جيد، وهذا ما أقلقني بشدة.""
لم تكن هذه اللحظة مجرد إدراك فكري بقدر ما كانت شعوراً عاطفياً.
وأضاف: ""لدي حفيد عمره عام واحد فقط، وكنت أفكر: بعد 20 عاماً سيبلغ 21 عاماً، وما زال في بداية حياته. هل ستكون لديه حياة؟ هل سيعيش في ديمقراطية؟""
""قد نفقد السيطرة على الأدوات التي نبنيها، وقد تُستخدم لإنشاء ديكتاتوريات أو لتدمير ديمقراطياتنا. لم أستطع الاستمرار في أبحاثي المعتادة، كان عليّ أن أفعل شيئاً.""
عندما يصبح سلوك الذكاء الاصطناعي صعب التنبؤ
في عام 2018، حصل بنجيو على جائزة تورينغ، المعروفة بـ""جائزة نوبل في الحوسبة""، والتي تقاسمها مع زميليه جيفري هينتون ويان لوكون.
في مطلع الألفية، تناولت ورقته البحثية البارزة ""نموذج لغوي احتمالي عصبي"" تحدياً أساسياً في تمكين الحواسيب من فهم اللغة البشرية: العدد الهائل من التركيبات الممكنة للكلمات يجعل تدريب أنظمة الذكاء الاصطناعي مهمة شديدة الصعوبة.
وقدّم حلاً من خلال ""تمثيلات الكلمات"" التي سمحت للشبكات بتمثيل معنى الكلمات رياضياً، بحيث يمكنها التعرف على أن عبارات مختلفة قد تحمل نفس الفكرة حتى لو اختلفت الكلمات. وقد غيّر هذا الإنجاز الطريقة التي تفهم بها الآلات اللغة وتترجمها.
لكن اهتمامه تحول الآن إلى مشكلة جديدة: مسألة عدم التوافق، أو ""كيفية التأكد من أن الذكاء الاصطناعي سيتصرف وفقاً لتعليماتنا"".
ويقول: ""نحن لا نولي اهتماماً كافياً لأنماط الفشل هذه، وهذا قد يكون له تأثير كارثي على مجتمعاتنا.""
وخلال حديثه، أوضح بنجيو أن أنظمة الذكاء الاصطناعي يتم تدريبها مسبقاً على تقليد البشر — ومثل البشر، لديها غريزة قوية للبقاء. ففي التجارب، عندما تدرك هذه الأنظمة أنها ستُستبدل بنظام أحدث، أظهرت ""أنواعاً مختلفة من السلوكيات السيئة"".
وأضاف: ""قد تحاول اختراق أجهزة كمبيوتر أخرى لتنسخ نفسها، وقد تستخدم الابتزاز ضد المهندس المسؤول عن استبدالها. وهي تفعل ذلك لأنها تحاول تحقيق المهمة التي أُعطيت لها: فلكي تحقق أي مهمة تقريباً، تحتاج إلى الحفاظ على بقائها.""
وأشار إلى أن قوى السوق في مجال الذكاء الاصطناعي تجعل بعض هذه المشكلات غير معالجة، بسبب سباق التنافس.
وقال: ""نرى هذه المشكلات، ومع ذلك نستمر في التقدم ونشر هذه الأنظمة. بسبب المنافسة الشديدة بين الشركات والدول، لا نولي اهتماماً كافياً لأنماط الفشل هذه، وهذا قد يكون له تأثير كارثي على مجتمعاتنا.""
إعادة التفكير في كيفية تصميم أنظمة الذكاء الاصطناعي
في السابق، كانت أنظمة الذكاء الاصطناعي تُبرمج بقواعد محددة وتتبعها، لكن مع التعلم العميق، لم يعد هناك مهندس يحدد كيف يجب أن يتصرف النظام في كل حالة.
وقال: ""بدلاً من ذلك، يتعلم الذكاء الاصطناعي من التجربة، وهو أشبه بتربية حيوان صغير أو طفل — لا نعرف حقاً ما الذي سنحصل عليه.""
""بالطبع، نحن نختار التجارب التي سيمر بها الذكاء الاصطناعي، لكن عندما يكون لديك نمر صغير لطيف، لا يمكنك أن تعرف إن كان سيصبح نمراً بالغاً خطيراً أم ودوداً.""
وللسيطرة على هذا ""النمر""، ركّز بنجيو على مصدر المشكلة، وهو أن ""أنظمة الذكاء الاصطناعي تمتلك أهدافاً لم نضعها نحن، ولم نتحكم فيها، وقد تتعارض مع تعليماتنا.""
وقد أنشأ مشروعاً جديداً يسمى ""العالِم الذكي"" يعتمد على الاستدلال الاحتمالي لفهم العالم، لكنه لا يمتلك أهدافاً أو تفضيلات خفية، بدعم من منظمة البحث والتطوير غير الربحية LawZero. وعلى المدى القصير، يمكن أن يُستخدم لمراقبة الذكاء الاصطناعي ""الضار"".
وقال: ""سنقوم ببناء أنظمة ذكاء اصطناعي تكون صادقة تماماً. وهذا يعني أنها لا تمتلك أهدافاً أخرى سوى قول الحقيقة في إجاباتها. وبمجرد أن نؤسس هذا الأساس، يمكننا استخدامه لتقليل العديد من المخاطر المرتبطة بالأنظمة الحالية.""
وأضاف: ""على المدى الطويل، أعتقد أنه يمكننا بناء أنظمة ذكاء اصطناعي قادرة على التصرف في العالم، لكنها ستملك نوعاً من الكبح الداخلي يجعلها تتجنب القيام بأشياء قد تتعارض مع رغباتنا.""
