ملخص: يستعرض المقال، من خلال استعارة بروميثيوس، كيف أن البشر في سعيهم لتطوير الذكاء الاصطناعي منحوا الآلات شكلًا من "النار" التي قد تُحدث آثارًا غير مقصودة، مثلما حدث عبر التاريخ مع ابتكارات أدت إلى عواقب لم تكن بالحسبان. ورغم الإمكانات الهائلة للذكاء الاصطناعي بوصفه منظومة تنبؤية قادرة على معالجة بيانات ضخمة، فإنه يقع في فخ الثقة، أي الميل إلى تعميم نجاحات الماضي على المستقبل، ما قد يؤدي إلى قرارات كارثية كما في حوادث الطيران أو السيارات ذاتية القيادة. ويُظهر المقال أن الاعتماد المفرط على الذكاء الاصطناعي قد يضعف مهارات البشر ويخفي الأخطاء، كما حدث في أداة توظيف أمازون. ولأنه يعتمد على الماضي، فإن قدرته على الابتكار الجذري محدودة، فهو لا يستطيع رؤية العالم بمنظور جديد أو التقاط الحسّ الثقافي البشري كما يفعل المبتكرون أو الفنانون. ويخلص المقال إلى أن الذكاء الاصطناعي، رغم قوته، قد يجرّ البشر إلى مخاطر كبيرة إذا تُرك دون رقابة، وأن مسؤولية تجنب "اللعب بالنار" تقع على عاتق المجتمعات وصناع السياسات لضمان توجيه هذه التكنولوجيا بما يخدم الصالح العام.
في الأساطير الإغريقية، يُنسب إلى بروميثيوس أنه منح البشر النار و"الشرارة" التي أطلقت شرارة الحضارة. ومن النتائج غير المقصودة لـ"هديته" أن الحاجة إلى الآلهة السماوية تضاءلت. أما البشر المعاصرون، فقد انخرطوا في مجموعة واسعة من الأنشطة التي أنتجت بدورها عواقب غير مقصودة، بدءًا من استخدام مركبات الكلوروفلوروكربون التي أدت إلى ثقب في طبقة الأوزون، وصولًا إلى بناء أنظمة لا يفهمونها أو لا يستطيعون السيطرة الكاملة عليها.
وفي انخراطهم في الذكاء الاصطناعي، يبدو أن البشر قد تبنّوا دور بروميثيوس مانحين الآلات على ما يبدو "النار" التي أشعلت الحضارة.
التنبؤ بالمستقبل يُترك عادة للشامان والمستقبليين. لكن يمكننا أن نكون أكثر وعيًا بالمخاطر الناتجة عن كيفية عمل الذكاء الاصطناعي، وأن نبحث في كيفية تجنب هذه المزالق.
أولًا، علينا أن ندرك أن للذكاء الاصطناعي وعودًا هائلة للمجتمع البشري. فهو أصبح واسع الانتشار بدءًا من المهام اليومية مثل كتابة رسائل البريد الإلكتروني، وصولًا إلى السياقات المعقدة التي تتطلب خبرة بشرية.
الذكاء الاصطناعي ويُقصد به النماذج اللغوية الكبيرة (LLMs) التي تبدو وكأنها "تفهم" اللغة البشرية وتنتجها عبارة عن آلات تنبؤ. وهي تُدرَّب على مجموعات بيانات ضخمة تمكّنها من إقامة روابط إحصائية بين عدد هائل من المتغيرات والتنبؤ بما سيأتي لاحقًا.
إذا استخدمتَ محرك جوجل، فقد اختبرت شكلًا من أشكال هذا من خلال اقتراحاته التنبؤية. فعلى سبيل المثال، إذا كتبت "how to drive"، فغالبًا سيُكملها إلى "how to drive an automatic car". ومن غير المرجّح أن يُكملها إلى "how to drive an aeroplane". يقوم جوجل بذلك من خلال النظر في تاريخ الكلمات التي تأتي بعد "how to drive". وكلما كانت مجموعة البيانات أكبر، زادت دقة التوقع.
وتُستخدم هذه المنطقية في جميع تطبيقات الذكاء الاصطناعي الحالية. وقوته بالطبع في قدرته على معالجة كميات لا حصر لها من البيانات، واستقراء أنماطها وتطبيقها على المستقبل.
لكن هذه القوة هي أيضًا نقطة ضعفه إذ تجعله عرضة لما يسميه علماء الإدارة "فخ الثقة". وهو الميل إلى افتراض أن القرارات السابقة التي حققت نتائج إيجابية ستظل كذلك في المستقبل.
فكر في مثال: الفترات الزمنية بين صيانة أجزاء الطائرات الحرجة. إذا كان تقليل الفواصل الزمنية في الماضي قد مرّ دون حوادث، فقد يُعتمد هذا النهج على نطاق أوسع، وربما يُدفع لزيادة الفواصل أكثر. لكن هذا ثبت أنه وصفة لكارثة. فقد تحطمت رحلة خطوط ألاسكا 261 في المحيط الهادئ، ما أدى إلى وفاة 88 شخصًا، لأن قرارًا ربما تأثر بنجاحات سابقة اتُّخذ بتأخير صيانة جزء حرج.
وقد يزيد الذكاء الاصطناعي من حدة هذا الميل. فهو قد يُبعد الانتباه عن مؤشرات المشكلات، لأن تحليلاته تُدمج في عملية اتخاذ القرار.
أو قد يستنتج نتائج الماضي ويتخذ قرارات دون تدخل بشري. انظر إلى مثال السيارات ذاتية القيادة، والتي تورطت في أكثر من عشر حالات وفاة لمشاة. فمهما بلغ حجم البيانات، لا يمكنه أن يوفر تدريبًا يغطي جميع التصرفات المحتملة للمشاة. الذكاء الاصطناعي لا يمكنه منافسة الحكم البشري في مواقف كهذه.
والأخطر من ذلك، أن الذكاء الاصطناعي قد يضعف القدرات البشرية إلى درجة فقدان القدرة على تحديد وقت التدخل. فقد وجد الباحثون أن استخدام الذكاء الاصطناعي يؤدي إلى تدهور المهارات وهو أمر مثير للقلق خصوصًا حين تتعلق قرارات العمل بحياة البشر.
وقد تعلمت أمازون بالطريقة الصعبة مخاطر ترك "آلات التنبؤ" تتخذ القرارات، عندما تبيّن أن أداتها الداخلية للتوظيف تميز ضد النساء لأنها دُرِّبت على قاعدة بيانات تمتد لعشر سنوات يغلب عليها الرجال. وهذه بالطبع مجرد أمثلة نعرفها. ومع ازدياد تعقيد النماذج اللغوية وعدم شفافية عملها الداخلي، قد لا ندرك حتى حين تسوء الأمور.
النظر إلى الوراء
ولأن الذكاء الاصطناعي يعكس الماضي، فهو محدود أيضًا في قدرته على تحفيز الابتكار الجذري. فالابتكار الجذري بطبيعته انقطاع عن الماضي.
فكر في سياق التصوير الفوتوغرافي. فقد تمكن مصورون مبتكرون من تغيير طريقة عمل هذه المهنة إذ تحوّل التصوير الصحفي من مجرد وسيلة لشرح الأخبار إلى قوة سردية تُعدّ شكلًا من أشكال الفن.
ومؤسس شركة الملابس الرياضية Under Armour، لاعب كرة القدم الجامعي السابق كيفن بلانك، استخدم انزعاجه من القمصان القطنية المتعرّقة لتطوير ملابس مصنوعة من ألياف دقيقة تزيل الرطوبة عن الجسم. يمكن للذكاء الاصطناعي تحسين مثل هذه الابتكارات لكنه وفقًا لطريقة عمله الحالية، من غير المرجح أن يكون مصدرًا للأفكار الجديدة.
ببساطة، لا يستطيع الذكاء الاصطناعي رؤية العالم أو إظهاره لنا بطريقة جديدة وهي نقطة يسمّيها الباحثون "مشكلة كريس روك في الذكاء الاصطناعي"، استلهامًا من نكتة أطلقها الكوميدي حول جعل الرصاص باهظ الثمن. فقد اقترح حلًا يقوم على "التحكم في الرصاص" بدلًا من التحكم في الأسلحة لخفض العنف، ما جعله ينتزع الضحك لأنه التقط الحسّ الثقافي وقدم حلاً مبتكرًا. وفي الوقت ذاته، أبرز عبثية الوضع وهو أمر يتطلب قدرة إدراكية بشرية.
ويظهر قصور الذكاء الاصطناعي عندما يفقد الماضي صلاحيته أو قدرته على حل المشكلات. فنجاحه السابق يعني أنه سيتم نشره في دوائر متزايدة الاتساع لكن هذا بحد ذاته يشكل فخًا للثقة يجب على البشر تجنبه.
وفي النهاية، أنقذ هرقل بروميثيوس. لكن لا يوجد مثل هذا الإله يقف بانتظار البشر. وهذا يعني أن مسؤولية أكبر لا أقل ملقاة على عاتقنا. ويشمل ذلك ضمان أن يقدم ممثلونا المنتخبون إشرافًا تنظيميًا على الذكاء الاصطناعي. ففي النهاية، لا يمكننا السماح للتقنيين باللعب بالنار على حسابنا.
