قد يتمكن الذكاء الاصطناعي من القضاء على البشرية خلال هذا العقد، وفقًا لثلاثة باحثين من شركة Anthropic الأمريكية. وقد استقال أحد هؤلاء الموظفين، جاكوب كوكسون، من الشركة.
وحظيت توقعاته بتأييد باحثين آخرين يعملان حاليًا في Anthropic، من خلال منشورات على وسائل التواصل الاجتماعي. وكتب كوكسون على منصة X: «الأشخاص الذين يبنون أنظمة الذكاء الاصطناعي يؤمنون بجدية بأنها قد تقتلنا جميعًا بحلول نهاية العقد. هذا ليس مجرد حيلة تسويقية».
وليست هذه المرة الأولى التي يصدر فيها باحثون وشركات تعمل في مجال الذكاء الاصطناعي تحذيرات من هذا النوع. وفي هذا الحوار، تشرح كيت ديفلين، أستاذة الذكاء الاصطناعي والمجتمع، ما الذي يقف وراء هذه التحذيرات، وما إذا كان التحذير الأخير يختلف عن سابقاته.
جاءت أحدث الادعاءات بشأن الذكاء الاصطناعي من باحث استقال من شركة Anthropic. ما رأيك بشكل عام فيما حدث؟
لفهم الأمر في سياقه الصحيح، ينبغي أن نتذكر أننا نتحدث عن موظف سابق في إحدى شركات الذكاء الاصطناعي، نشر منشورًا على منصة معروفة بإطلاق ادعاءات مبالغ فيها، ثم استشهد به موظف حالي في شركة للذكاء الاصطناعي، وحدد مستوى خطر انقراض البشر بأكثر من 10 في المئة.
إذن نحن أمام رواية أخرى قاتمة بشأن الخطر المزعوم الذي يشكله الذكاء الاصطناعي. لكن هناك بعض التراجع عن حدة هذا الطرح في منشور لاحق لموظف Anthropic الحالي إيفان هوبينغر، قال فيه: «أعتقد أن الخطر الناجم عن النماذج الحالية منخفض. ما يقلقني هو الذكاء الفائق».
وقد حظيت هذه المنشورات بتغطية إعلامية واسعة، لأن مثل هذه التصريحات تحظى دائمًا باهتمام كبير. فهي تلامس مخاوفنا البدائية العميقة، إلى جانب عقود من مشاهدة أفلام الخيال العلمي التي تصور عوالم قاتمة ومستقبلًا ديستوبيًا.
لقد أيد موظفون حاليون في Anthropic ادعاءات جاكوب كوكسون. لماذا تعتقد أن شركات الذكاء الاصطناعي مستعدة لدعم مثل هذه الادعاءات علنًا؟
من المرجح أن هؤلاء الأشخاص يؤمنون فعلًا بما يقولونه، لكننا سمعنا تحذيرات مماثلة طوال سنوات. ومن الغريب بالفعل أن تكون شركات الذكاء الاصطناعي مستعدة لقبول مثل هذه الادعاءات والتعبير عنها علنًا.
ولنتذكر أن هذه الشركات تبحث باستمرار عن الاستثمارات، وفي المقابل تعد بتطوير أقوى النماذج وأكثرها هيمنة. فما الذي يمكن أن يكون أكثر قوة من نموذج يُقال إنه يهدد وجودنا ذاته؟
تتمثل إحدى النظريات بشأن تهويل شركات الذكاء الاصطناعي للمخاطر في أنها تريد تجنب الخضوع للتنظيم. هل تعتقد أن تنظيم شركات الذكاء الاصطناعي من خارج القطاع أمر حتمي؟
لقد كان تنظيم الذكاء الاصطناعي بالغ الصعوبة، خصوصًا على المستوى الدولي. ولم يكن هناك اهتمام كبير في الولايات المتحدة بتنظيم الذكاء الاصطناعي، بسبب وجود اعتقاد بأن التنظيم قد يعرقل الابتكار.
ولا تمتلك المملكة المتحدة أيضًا قوانين مخصصة للذكاء الاصطناعي، بل تعتمد فقط على القوانين القائمة التي يمكن تطبيقها في بعض الحالات. أما الصين فقد بدأت في وضع قوانين على المستوى الوطني، لكنها استبدلت هذا النهج الآن بالمعايير التقنية والتنظيم القطاعي. وتظل أوروبا المكان الوحيد الذي توجد فيه حتى الآن منظومة تنظيمية مخصصة للذكاء الاصطناعي.
ومع ذلك، يبدو أن هذه التصريحات أدت إلى دعوات جديدة لتشديد تنظيم الذكاء الاصطناعي، وهو ما نشهده حاليًا في الكونغرس الأمريكي وفي البرلمان البريطاني.
وهناك زاوية أخرى للمسألة، إذ قد تكون الشركات نفسها مؤيدة للتنظيم. فشركات التكنولوجيا الكبرى تمتلك الأموال اللازمة للامتثال للمتطلبات التنظيمية، لكن هذه القواعد قد تقضي على منافسين أصغر لا يملكون الميزانيات نفسها، وهو ما قد يترك الشركات الكبرى في مواقع أكثر هيمنة.
كم تفصلنا عن نوع الذكاء الاصطناعي الفائق الذي تتحدث عنه التحذيرات الأخيرة؟
نحن لا نمتلك ذكاءً اصطناعيًا فائقًا في الوقت الحالي. وأنا مترددة في تحديد إطار زمني لظهوره. كثيرًا ما يقول الناس «خلال 5 إلى 10 سنوات»، لكن هذه التوقعات تكررت كثيرًا في مجال الذكاء الاصطناعي، ثم تمر السنوات الخمس أو العشر من دون ظهور ما توقعوه.
كما أن الأمر يعتمد على المقصود أصلًا بالذكاء الفائق. هل نتحدث عن شيء واعٍ وقادر على التفكير من تلقاء نفسه؟ قد لا يحدث ذلك أبدًا.
وفي هذه الحالة، لا يغير ذلك كثيرًا من الصورة، لأن هناك أضرارًا أخرى يسببها الذكاء الاصطناعي بالفعل، وهناك طرق أخرى يمكن أن تسوء بها الأمور، وإن كانت على الأرجح لا تصل إلى المستوى الوجودي الذي تشير إليه هذه التحذيرات.
فعلى سبيل المثال، يستهلك الذكاء الاصطناعي كميات هائلة من الطاقة، كما يحتاج إلى المياه لتبريد مراكز البيانات. وله أيضًا تأثير بيئي ضار.
وهناك كذلك مشكلات مرتبطة بالمحتوى الذي ينتجه الذكاء الاصطناعي، بدءًا من محدودية التنوع في مخرجات النماذج، ما يعني أن المعلومات التي تقدمها قد تصبح متجانسة وتتجه نحو وجهات نظر معينة، وصولًا إلى انتشار المعلومات المضللة والمعلومات الكاذبة المتعمدة.
ونحن نعرف أيضًا أن هناك عمالة خفية داخل سلسلة توريد الذكاء الاصطناعي، إذ يعمل أشخاص في ظروف سيئة للغاية من أجل توفير هذه التكنولوجيا.
كما نعرف أن الذكاء الاصطناعي يؤثر بالفعل في حياة الناس، خصوصًا من خلال الطريقة التي يغير بها بيئة العمل.
ما الطرق العملية المحتملة التي يمكن أن يؤدي بها الذكاء الاصطناعي فعلًا إلى القضاء على البشر؟
عبارة «القضاء على البشر» ربما تكون مبالغًا فيها قليلًا، لكن هناك بعض التهديدات الخطيرة.
هناك سيناريوهات يمكن أن نطلق عليها «سيناريوهات الجهات الخبيثة»، حيث يُستخدم الذكاء الاصطناعي بصورة تدميرية، مثل المساعدة في ابتكار أسلحة أو فيروسات قاتلة.
وهناك مخاطر أقل إثارة للخيال، لكنها قد تكون مدمرة للغاية، مثل إطلاق وكلاء الذكاء الاصطناعي للعمل بصورة مستقلة بسبب إهمال البشر أو عدم كفاءتهم، أو استخدامهم في اختراق الأنظمة غير الآمنة والسيطرة عليها.
وأظهر استطلاع أجريناه مؤخرًا في كلية كينغز لندن أن الجمهور البريطاني أصبح أكثر سلبية تجاه الذكاء الاصطناعي. وقال 42 في المئة من الأشخاص إنهم يتعمدون الحد من استخدامهم للذكاء الاصطناعي.
ومع صدور ادعاءات من شركات التكنولوجيا تفيد بأن الذكاء الاصطناعي يمثل تهديدًا مباشرًا لوجودنا، فلن يكون من المستغرب أن تتراجع نظرة الجمهور إليه بصورة أكبر.
