في عام 2008، كان الفيزيائيون الأوروبيون في ""سيرن"" [المنظمة الأورُبية للأبحاث النووية] على وشك تشغيل ""مصادم الهدرونات الكبير"" وسط احتفاء كبير، وقد وفّى المصادم الآمال المعقودة عليه في اختبار توقعات دقيقة لأهم النظريات الحالية في الفيزياء؛ ومن ضمنها: العثور على ""بوزون هيغز"" المراوغ (والذي ثبت وجوده بنجاح بالفعل عام 2012)، ومع ذلك فقد أثار بعض خصوم المنظمة الأورُبية للأبحاث النووية اعتراضًا يكاد يثير الضحك؛ تمثل في صورة دعوى قضائية موجهة ضد ""سيرن"" من الكيميائي الألماني ""أوتو روسلر""، بأن تشغيل مصادم الهدرونات الكبير قد يصنع ثقبًا أسود صغيرًا، ويدمر الأرض. أجاب أكثر الفيزيائيين بأن احتمال حدوث مثل هذه الكارثة لا يُلتفت إليه؛ فهو احتمال ضعيف جدًا، لكنّ أيًّا منهم لم يصرح باستحالة حدوث ذلك. وهذا يثير إشكالًا عمليًا وفلسفيًا مهمًا: ما مدى أهمية تشغيل أي نشاط يحتمل أن يسبب تدميرَ البشرية حتى تغلب أي مكاسب محتملة من هذا التشغيل؟ بل كيف يمكن أن نوازن بين احتمال معقول لتدمير البشرية وبين أي مكاسب أخرى؟هناك شخصيات معروفة مثل «إلون مسك»، و""سام هاريس"" عبّرت مؤخرًا عن مخاوف مماثلة تتعلق بكوارث قد تصيب البشرية تسببها صناعة الذكاء الاصطناعي، وهذا يتبع عملًا سابقًا لـ""نيك بوستروم"" (انظر له مثلًا: «مسائل أخلاقية في الذكاء الاصطناعي المتقدم»، 2004 Ethical Issues in Advanced Artificial Intelligence"", 2004) وكذلك عمل ""إليزر يودكوسكي"" (انظر مثلًا: ""الذكاء الاصطناعي"" باعتباره عاملًا مفيدًا وضارًا في الخطر العالمي""، 2008 Artificial Intelligence as a Positive and Negative Factor in Global Risk"", 2008)، ولنسم هذا الموقف: ""اللاتوليدي"" Anti-Natalism"" بشأن الذكاء الاصطناعي (العام). وبما أنه يقول: إن أخطار صناعة الذكاء الاصطناعي إجمالًا تفوق ما يُرجى منه من مكاسب، فإنه يطالب بأن لا نسمح ""بولادة"" الذكاء الاصطناعي.وخلافًا لمخاوف ""أوتو روسلر"" تجاه مصادم الهدرونات الكبير - التي لم يلق لها أكثر المجتمع العلمي بالًا - فإن عددًا من المجموعات البحثية - ومنها معهد مستقبل الحياة the Future of Life Institute، ومعهد أبحاث ذكاء الآلة the Machine Intelligence Research Institute، ومركز كمبريدج لدراسة الأخطار المهددة للوجود the Cambridge Centre for the Study of Existential Risk - قد خصصت ما يُقدر بملايين الدولارات من جهد فكري لاستكشاف أخطار ذكاء الآلة، بل إن الذكاء الاصطناعي من أهم ما استرعى اهتمام هذا المجال الجديد ""الأخطار المهددة للوجود"" - إلى جانب آثار التغير المناخي، وانتشار الأسلحة النووية، واصطدام كويكب أو مذنب ضخم بالأرض. وما يزال السؤال الملغز قائمًا كما كان مع تخوف ""روسلر"": إلى أي مدى يجب أن تبلغ نسبة احتمال أن يدمر الذكاء الاصطناعي البشرية حتى تغلب مكاسبه المرجوة؟الرهان الإلهي لعالمِ الرياضياتتأتي إحدى إجابات هذا السؤال من مصدر غير متوقع: دليل ""بليز باسكال"" على الإيمان بالله.رأى «باسكال|» في كتابه «خواطر» Pensées الصادر عام (1670)، أنه يمكنك أن ترجو من الإيمان بالله نتائج أفضل مما يرجى من عدم الإيمان. وخاصة إذا ما وجد أي احتمال بأن يجازي الله المؤمنين به بالسعادة الأبدية، وأن يعاقب الكافرين به بالعذاب الأبدي، وعلى هذا فالعقل يقتضي الإيمان به؛ لأنه إن كان موجودًا فالأجر غير محدود (وكذلك العقاب)، وذلك يرجح ترجيحًا عظيمًا على أي مكاسب متناهية يمكن أن يحصلها المرء إن لم يكن مؤمنًا. إذًا فالإيمان بالله رهان جيد، بل إنه الرهان العاقل الوحيد حتى لو كان احتمال عدم وجود الله أكبر من احتمال وجوده، بل حتى لو كان احتمال وجود الله ضعيفًا جدًا؛ فإن أي فرصة لتلقي مكاسب أو خسائر غير محدودة يجب أن تكون باعثًا فوريًا.مخطط شجري لـ""رهان باسكال""وقد كُتب عن «رهان باسكال» كثير من الأعمال الأكاديمية (وفي المجموع الذي حرره «بارثا وبسترناك» بعنوان «رهان باسكال» Pascal's Wager, 2018 نظرة شاملة مفيدة). بل لقد رأى بعضهم أن ذلك كان أول تطبيق لنظرية القرار الحديثة. ومع ذلك فقد اعترض على ذلك باعتراضات قوية، حتى أهمل هذا القول إلى حد بعيد في التيار العام للفلسفة. ومن أهم الاعتراضات على رهان باسكال ما يلي:
الاستحالة النفسية: وتعني أنه من المستحيل إجبار النفس على الإيمان بقضية، حتى لو كان لذلك الإيمان نتائج مفيدة جدًا.
عدم الجواز الأخلاقي: وهو الاعتراض بعدم أخلاقية الإيمان بالله على أساس من النفع المرجو (في مقابل مثلًا: الإيمان بسبب وجود أسباب وجيهة للإيمان).
المنافع اللانهائية: وهو يعني أن في جعل منافع لا متناهية لأي نتيجة إشكالًا. بل وما معنى ""منافع لا متناهية"" أصلًا؟ آلهة متعددة: الآلهة المحتملة كثيرة، وقد يعاقب منها من آمن بإله خطأ بعقاب لانهائي. أو بعبارة أخرى، كيف يمكنك أن تعرف على أي الأديان تراهن؟
أرى أن كل واحد من هذه الاعتراضات قوي جدًا، على الرغم من وجود إجابات محكمة البناء من مدافعين معاصرين؛ مثل «ليكان وشسنايغر»: «تراهن بحياتك» You Bet Your life (1988)، و«جوردن»: «رهان باسكال» Pascal's Wager 2006، و""روتا«: ""صورة أفضل لرهان باسكال» 2016 A Better Version of Pascal's Wager. لكن ذلك الخلاف غير متعلق بما نناقشه هنا. إنما سيفيدنا «رهان باسكال» بإطار مفيد لمجادلة ""اللاتوليدية"" المتعلقة بالذكاء الاصطناعي؛ أي القول بأن الذكاء الاصطناعي أخطر من أن نصنعه.
المعقولية والكارثةأهم ما نستفيده من « باسكال»  فيما يتعلق بالخلاف حول الذكاء الاصطناعي: أن أي نسبة احتمال لخسارة غير متناهية تُرجح دومًا على أي مكاسب مرجوة متناهية.ولنعدل هذه الفكرة قليلًا يمكن أن نضيف قيد ""وجوب أن تزيد نسبة احتمال وقوع حدث على حد أدنى من المعقولية"" حتى تكون معتبرة. قد لا يبلغ تخوف «روسلر» - من أن يصنع مصادم الهدرونات الكبير ثقبًا أسود – أن يكون خطرًا وجوديًا معقولًا، بينما قد يصح ذلك في حق الذكاء الاصطناعي. ووفقًا لمنطق «باسكال» فإن مجرد أن يبلغ حدث احتمال أن يكون خطرًا معقولًا يتسبب في خسائر غير متناهية، فعلينا أن نجعل للقيمة المتوقعة له درجة سالبة لانهائية، وأن نتصرف ضده.وباستخدام هذا المعيار تكون حجة اللاتوليديين على الذكاء الاصطناعي كما يلي:

1. إذا كان لحدث إمكانية معقولة في التسبب في خسائر غير متناهية فإن أخطاره ترجح على أي مكاسب متناهية متوقعة.
2. تدمير الذكاء الاصطناعي للبشرية سيكون خسارة غير متناهية.
3. هناك إمكانية معقولة لتدمير الذكاء الصناعي للبشرية.

الاستنتاج: إذًا فالأخطار المحتملة للذكاء الاصطناعي تفوق أي مكاسب محتملة.
وأجد أن كلًا من هذه المقدمات - وكذلك الحجة نفسها - بالغة القوة.أولًا: ساق اللاتوليديون حجة جيدة جدًا بقولهم بوجود احتمالية كبيرة معتبرة لحدوث كارثة بسبب الذكاء الاصطناعي(كما يصف ذلك «بوستروم» في «الذكاء الفائق: السبل والأخطار والاستراتيجيات Superintelligence: Paths, Dangers, Strategies (2014)؛ فالقيم المحتملة متنوعة تنوعًا كبيرًا؛ لذا فمن الوارد جدًّا أن تصل قيم الذكاء الاصطناعي فائق القوة إلى صدام مع قيم البشر، وسيكون أيسر سبل حل هذا الصدام إفناءَ البشرية. وإذا دمر ذكاء اصطناعي البشرية فإن ذلك يعني تدمير كل شيء نعرفه ونهتم بشأنه الآن، وسيكون ذلك كارثة تبلغ أن تكون خسارة غير متناهية، ولنسم هذا الحدث ""كارثة الذكاء الاصطناعي (أ)».ومع ذلك فإننا حتى لو قبلنا بكل ما قاله اللاتوليديون - وما وصفته شجرة اتخاذ القرار البسكالية -  فقد تظل بعض المكاسب غير المتناهية المحتملة موجودة، وهي هنا مُتجاهَلة. أو إذا قلبنا العبارة قلنا: إنه قد توجد خسائر غير متناهية تتعلق بعدم صناعة الذكاء الاصطناعي.يصف «إيزاك أزيموف» - في قصته القصيرة العظيمة «السؤال الأخير» (1956) - مستقبلًا استعمرت فيه البشرية العالم المنظور. والسؤال الوحيد المتبقي عن بقاء الحضارة الإنسانية العابرة للمجرات هو هل يمكنها التغلب على الموت الحراري الحتمي فيما يبدو للكون الذي سيحدث نتيجة للقانون الثاني للديناميكا الحرارية؟نجاح البشرية في القصة نتج في أغلبه عن الذكاء الاصطناعي - وذلك يمثل مثالًا نادرًا للتفاؤل في الخيال العلمي الذي تغلب عليه تصورات كئيبة عن كل من الحضارة البشرية والذكاء الاصطناعي في المستقبل. لكن القصة هنا تثير سؤالًا مهمًا: هل تواصُل البقاء في المستقبل ونشر الحضارة البشرية يعتمدان على صناعة ذكاء اصطناعي فائق؟من المهم أن نلاحظ أن هذا السؤال مشروط وتجريبي؛ فما تزال نسبة الاحتمال مجهولة لتوقع أن «البشرية لن يمكنها مقاومة تهديدات شتى تهدد تواصل وجودها من دون صناعة الذكاء الاصطناعي». فإذا تبين أن هذا التنبؤ صحيح، وأننا لم نطور الذكاء الاصطناعي، فإن هذا سيعني دمار الحياة البشرية وكل ما عملنا لأجله، إذًا ستكون النتيجة مثل «كارثة الذكاء الاصطناعي (أ) الأصلية». وعلى هذا - وعلى نفس طريقة التسمية - سنسمي فكرة انقراض البشرية نتيجة لعدم صناعة الذكاء الاصطناعي «كارثة الذكاء الاصطناعي (ب)». وأيًا كانت الاحتمالية التي تراها للكارثة (ب) فطالما كانت احتماليتها تزيد كثيرًا عن الصفر ستكون معقولة، ويجب أن تكون تلك الكارثة المحتملة كذلك جزءًا أساسيًا في عملية تقدير حكمة صناعة الذكاء الاصطناعي أو عدم حكمتها.وإني لأجد أن «الكارثة (ب)» تتجاوز كثيرًا حد المعقولية الأدنى، لكن ذلك لا يعدو أن يكون حكمًا شخصيًا. وإدخال ""الكارثة (ب)"" في شجرة اتخاذ قرار صناعة الذكاء الاصطناعي سيغير الحسابات تمامًا.مخطط شجري لاتخاذ القرار بتطوير الذكاء الاصطناعي
في مشجر اتخاذ القرارات الجديد هذا يَخلُص الاستدلال الباسكالي إلى أن كلًا من «الكارثة (أ)» و«الكارثة (ب)» يتجاوز الحد الأدنى للمعقولية، وتحيّد وتوازن نتائجهما السلبية بعضها بعضا! إذًا فالخطر الوجودي الذي يهدد صناعة الذكاء الاصطناعي يقابله ويوازنه الخطر الوجودي من عدم صناعة الذكاء الاصطناعي؛ فلم يبق إلا اعتبار المكاسب المحتملة من الذكاء الاصطناعي بالمقارنة مع بقاء الوضع على ما هو عليه بدون الذكاء الاصطناعي. وعند المقارنة تفوز صناعة الذكاء الاصطناعي بلا شك. ويسهل رؤية ذلك حين نذكر أن «المكاسب المتناهية» المحتملة في هذا القسم تتضمن أمورًا مثل القضاء على الفقر، والمرض، والملل، والحروب؛ وبهذا سيخلُص الاستدلال الباسكالي إلى أن صناعة الذكاء الاصطناعي ستكون دومًا أفضل اختيار للبشر.
الرهان النووي:
وسيسهل قبول هذه الحجة إذا ما طبقناها على كوارث وجودية أكثر شهرة؛ فعلى سبيل المثال: من كان يعارض تاريخيًا تطوير الأسلحة النووية افترض أن نتاج عدم تطويرها سيكون مكسبًا أو خسارة واضحة مباشرة للوضع الراهن، ومع ذلك فقد كانت لعالم العلوم السياسية «كينيث والتس» حجة تتعلق بذلك في كتابه «انتشار الأسلحة النووية: الأكثر قد يكون أفضل، 1981)»؛ وحجته أن الأسلحة النووية كان لها أثر رادع نتج عنه سلام طويل بين القوى العظمى منذ 1945. وصيغ موقف «والتس» في صيغة أقوى تقول: إنه لا يمكن أن يكون لغير الأسلحة النووية هذا التأثير السلمي. ودعوى «والتس» مثيرة لجدل شديد، وأكثر منها الصيغة الأقوى، ولن أدافع عن أيهما، لكنها يجب أن تسترعي انتباه المعارضين لانتشار السلاح النووي؛ فلو تعلق احتمال معقول بكل من هولوكوست نووي تسببت فيه الأسلحة النووية، وهولوكوست غير نووي - نتج عن غياب الأسلحة النووية - فسيصدق على هذا الاحتمال هنا استدلال مشابه للاستدلال الماضي عن الذكاء الاصطناعي.هل مكاسب امتلاك الأسلحة النووية ترجح على مكاسب عدم امتلاكها؟ يصعب تقدير ذلك. لكن المكاسب المتناهية للذكاء الاصطناعي أسهل في تقديرها. فإذا وضعنا في الاعتبار معقولية كارثة أخيرة - إما بوجود ذكاء اصطناعي أو عدم وجوده - فقد لا يرجح الأمر إلا اعتبار المكاسب المحتملة.د. ديريك ليبن 2020ديريك ليبن أستاذ مشارك ورئيس قسم الفلسفة في جامعة بيتسبيرغ في جونزتاو