يمكن للذكاء الاصطناعي توليد الإجابات واقتراح الخيارات وتحليل المعلومات، لكن هناك حدًا فاصلًا بين الاستعانة به وتفويض المسؤولية إليه. فالإنسان يظل مسؤولًا عن الغاية من القرار، والحكم على مدى ملاءمته، والنتائج المترتبة عليه.
ما القضية؟
يستطيع الذكاء الاصطناعي تنظيم البيانات والربط بينها وتقديم الإجابات، لكن الإجابة عن الأسئلة المتعلقة بمعنى الحياة الإنسانية والقيم التي ينبغي أن توجه قراراتنا تتطلب أكثر من المعلومات وحدها. إنها ترتبط بالتجربة المعيشة والمسؤوليات والعلاقات الإنسانية.
ما الدلالة؟
لا يكمن الحد الفاصل بين الأشخاص الذين يستخدمون الذكاء الاصطناعي وأولئك الذين يرفضون استخدامه، بل بين الاستعانة به وتفويض المسؤولية إليه. تستطيع الآلة اقتراح الكلمات والخيارات والأنماط، لكن الإنسان يظل مسؤولًا عن الغاية والحكم والنتائج المترتبة على القرار.
المخاطر والتأثيرات
قد تجعل الإجابات المصاغة بطلاقة الأمور غير اليقينية تبدو محسومة. وفي ظل الضغوط، قد يقبل الناس نصائح لا يستطيعون الدفاع عنها، أو يسمحون لتوصية آلية بإخفاء هوية الشخص الذي اتخذ فعليًا قرارًا بالغ الأهمية.
ما الذي يمكن فعله؟
قبل استخدام الذكاء الاصطناعي لاتخاذ قرار، حدّد القرار المطلوب، والشخص الذي سيتأثر به، والشخص المسؤول عن نتائجه. استخدم النظام لتوسيع نطاق الخيارات، ثم تحقّق من الادعاءات الجوهرية وسجّل المبرر الإنساني الذي استندت إليه في اتخاذ الإجراء.
ما الذي ينبغي مراقبته؟
تكتسب التفسيرات الأفضل والنماذج الأكثر دقة أهمية كبيرة، لكن أيًا منهما لا يؤدي تلقائيًا إلى نشوء ثقة مناسبة. ويتمثل الاختبار الحاسم في قدرة الناس على مساءلة النتيجة وتجاوزها عند الحاجة وتحمل المسؤولية عنها.
ما الذي تكشفه هذه القضية؟
لا تقتصر قدرة الذكاء الاصطناعي على تنظيم المعلومات، بل تشمل أيضًا الربط بين البيانات واستخلاص الأنماط وتقديم الإجابات بسرعة. ومع ذلك، فإن امتلاك المعلومات لا يعني بالضرورة امتلاك الحكمة، مثلما أن تسريع التواصل لا يؤدي بالضرورة إلى مزيد من الحقيقة.
فالذكاء الاصطناعي يستطيع معالجة المعلومات وتقديم اقتراحات، لكنه لا يستطيع أن يحل محل الإنسان في تحديد المعنى الذي تحمله القرارات بالنسبة إليه وللآخرين المتأثرين بها. فهذه المسألة متجذرة في التجربة المعيشة، وليست مجرد عملية لاستخراج المعلومات.
ويتوافق هذا التمييز مع مبدأ عملي للحوكمة اعتمده المؤتمر العام لليونسكو. فتوصيتها بشأن أخلاقيات الذكاء الاصطناعي لعام 2021 تنص على ضرورة إتاحة إمكانية الإشراف البشري، وعلى وجوب بقاء المسؤولية النهائية والمساءلة على عاتق الأشخاص الطبيعيين أو الاعتباريين. وينبغي ألا يُمنح نظام الذكاء الاصطناعي شخصية قانونية تمتص اللوم وتتحمل المسؤولية بدلًا من البشر.
ولا يعني ذلك أن الذكاء الاصطناعي عديم الفائدة، بل إنه يحدد المهمة التي لا يستطيع النظام أن يتولاها نيابة عن الإنسان، وهي أن يكون مسؤولًا عن تفسير الأسباب التي أدت إلى اتخاذ قرار ذي عواقب مهمة.
ما الذي تدعمه الأدلة؟
لا تقوم أقوى الحجج المؤيدة لهذا الحد الفاصل على الادعاء بأن الآلات لا تتفوق على البشر مطلقًا. فهي كثيرًا ما تنجز مهام محددة بسرعة أكبر، وقد تكشف أنماطًا لا ينتبه إليها الإنسان. لكن المشكلة تكمن في أن الأداء الجيد والاعتماد المناسب على الأداة مسألتان مختلفتان.
فالمستشار المفيد هو الذي يُتبع عندما تكون نصيحته صحيحة، ويُقاوَم عندما تكون خاطئة.
اختبر الباحثون ماكس شيمر، ونيكلاس كول، وكارينا بنز، وأندريا بارتوس، وغيرارد ساتزغر هذه المشكلة من خلال دراسة شارك فيها 200 شخص، وأُسندت إليهم مهمة لاتخاذ قرار بمساعدة الذكاء الاصطناعي.
وعرّفت دراستهم المنشورة عام 2023 «الاعتماد المناسب» بأنه قبول نصائح الذكاء الاصطناعي الصحيحة ورفض نصائحه الخاطئة. وقد أثرت التفسيرات المصاحبة للنصائح في طريقة اعتماد المشاركين على النظام، لكنها لم تقدم علاجًا بسيطًا لمشكلتي الإفراط في الاعتماد عليه أو التقليل من الاعتماد عليه. فالتصميم يستطيع التأثير في الثقة، لكنه لا يستطيع إنتاج القدرة على الحكم السليم عند الطلب.
ويؤكد المعهد الوطني الأمريكي للمعايير والتقنية الفكرة نفسها، ولكن من منظور إدارة المخاطر. إذ يصف إطار إدارة مخاطر الذكاء الاصطناعي الذي وضعه المعهد هذه التقنية بأنها ظاهرة اجتماعية تقنية، أي إن آثارها لا تنشأ من النموذج وحده، بل من الأشخاص والإجراءات والسياق المحيط به أيضًا. ولذلك يدعو الإطار إلى توثيق الإشراف البشري، وتحديد حدود المعرفة، وتوضيح الأدوار والمسؤوليات.
ولا تثبت الأدلة أن كل قرار تدعمه أدوات الذكاء الاصطناعي يحتاج إلى المستوى نفسه من المراجعة. لكنها تدعم استنتاجًا أكثر تواضعًا، وهو أن جودة النموذج وحدها لا تكفي لتحديد الحالات التي يكون فيها الاعتماد عليه مناسبًا.
كيف يجري تأطير هذه القضية؟
يرى اتجاه أول أن المشكلة هندسية في المقام الأول. فإذا جعلنا النماذج أكثر دقة، وكشفنا مصادرها، وأظهرنا مستويات الثقة في مخرجاتها، وحسّنا تفسيراتها، فسيتمكن الناس من استخدامها على نحو جيد.
ويتميز هذا المنظور بأنه يرفض بحق إضفاء طابع غامض أو خارق على الآلات. فالموثوقية والاختبارات وتصميم واجهات الاستخدام كلها أمور مهمة. لكن حتى الإجابة المدعومة بمصادر موثوقة لا تستطيع أن تقرر ما إذا كان ينبغي إعطاء الأولوية للسرعة أو الرحمة أو الربح أو الإنصاف أو الولاء في حالة معينة.
أما الاتجاه الثاني، فينظر إلى الذكاء الاصطناعي باعتباره منافسًا للكرامة الإنسانية. ويلفت الانتباه إلى سهولة اختزال الإنسان في درجة رقمية، وإلى السرعة التي يمكن بها للغة الاصطناعية أن تشغل مساحات كانت مخصصة في السابق للحوار الإنساني.
لكن هذا التصور قد يصبح واسعًا أكثر مما ينبغي. فأداة تُستخدم لترجمة نموذج حكومي متاح للجمهور، أو صياغة بدائل متعددة، أو مساعدة طبيب على البحث في سجل طبي، قد توسع قدرة الإنسان على التصرف واتخاذ القرار بدلًا من تقويضها.
ويتعامل الاتجاه الثالث مع الذكاء الاصطناعي باعتباره مستشارًا يعمل ضمن حدود واضحة ومقصودة لاتخاذ القرار. فقد يتولى النظام الحساب والمقارنة والنقد والتدريب على السيناريوهات المحتملة، لكن يتعين على شخص أو مؤسسة أن يحدد الهدف، ويتحقق من الأدلة، ويستمع إلى المتأثرين بالقرار، ويتحمل المسؤولية عن النتيجة.
هذا المنظور أقل إثارة للجدل، ولذلك فهو أكثر فائدة. فهو لا يسأل ما إذا كان الذكاء الاصطناعي جيدًا أم سيئًا، بل يسأل عن أجزاء العمل التي يمكن تفويضها من دون تفويض المسؤولية الأخلاقية المرتبطة بها.
وتتغير هذه الحدود بحسب حجم المخاطر. فقد يكون الخطأ في اقتراح مطعم أمرًا يمكن التسامح معه، لكن القرارات المتعلقة باستحقاق الإعانات أو التشخيص الطبي أو توجيه الاتهامات تتطلب مسارًا أوضح بكثير للاعتراض والاستئناف.
الخلفية
لطالما استخدم البشر الأدوات لتوسيع قدرتهم على الحكم واتخاذ القرارات. فالخريطة تستطيع إظهار الطريق من دون أن تختار الوجهة، والآلة الحاسبة تستطيع منع الخطأ الحسابي من دون أن تقرر ما الذي يستحق تخصيص الميزانية له.
ولا يقتصر الجديد في الذكاء الاصطناعي التوليدي على حجم المعلومات التي يستطيع التعامل معها، بل يشمل أيضًا شكله الاجتماعي. فهو يجيب بجمل لغوية متكاملة، ويتحدث بطريقة توحي بأن هناك شخصًا قد فهم السؤال.
تؤدي هذه الطلاقة إلى دمج عدة مراحل كانت واضحة في السابق. فمحرك البحث كان يعرض صفحات متنافسة، والتقرير كان يكشف هوية مؤلفيه ومنهجيته، والنصيحة كانت تأتي من شخص يمكن فحص مصالحه ودوافعه. أما الإجابة المولدة، فقد تدمج استرجاع المعلومات والتنبؤ وصياغة العرض في واجهة واحدة سلسة.
ولا تزال الحاجة إلى بذل الجهد في التشكيك والتحقق قائمة، لكن واجهة الاستخدام لم تعد تجعل هذه الحاجة واضحة بالقدر نفسه.
ولهذا تربط توصية اليونسكو بين الإشراف البشري وبين الشفافية وقابلية التفسير وإمكانية التدقيق والقدرة على الاعتراض على القرارات. وهذه ليست مجرد مصطلحات أخلاقية تزيينية، بل وسائل للحيلولة دون اختفاء سلسلة المسؤولية.
ينبغي أن يتمكن شخص ما من توضيح النظام الذي استُخدم، والأسئلة التي طُرحت عليه، والأدلة التي كان لها تأثير في النتيجة، والشخص الذي راجع المخرجات، والجهة التي امتلكت صلاحية رفضها.
وتطرح مسألة المعنى مشكلة مشابهة، لكنها أعمق. فالمعنى ليس حقيقة خفية تنتظر من يكتشفها في قاعدة بيانات ضخمة بما يكفي. بل هو العلاقة بين الحقيقة والحياة: الوعد الذي يلتزم به الإنسان، والفقد الذي يغير أولوياته، والمسؤولية التي تنشأ عندما يضع شخص آخر ثقته فيه.
يمكن للنموذج أن يساعد الإنسان في العثور على الكلمات التي يعبّر بها عن هذه الأمور، لكنه لا يستطيع أن يصبح الشخص الذي قطع الوعد أو اختبر الفقد أو منح الثقة أو يتعين عليه إصلاح ما أفسده.
ولهذا السبب، لا يكفي السؤال «ماذا قال الذكاء الاصطناعي؟» عندما يؤدي القرار إلى تغيير الخيارات المتاحة لشخص آخر.
من المتأثر بهذه القضية؟
نادراً ما يبدأ إغراء التخلي عن الحكم الشخصي بالكسل، بل يبدأ غالبًا بالإرهاق. فقد تكون الممرضة مثقلة بالسجلات، أو المدير غارقًا في طلبات التوظيف، أو الوالد محاصرًا بتحذيرات متضاربة، أو الطالب جالسًا أمام صفحة فارغة في منتصف الليل.
تبدو الإجابة الفورية مريحة لأنها تزيل العقبات في اللحظة التي يصبح فيها تحملها أصعب ما يكون.
لكن بعض هذه العقبات هو العمل نفسه. فقراءة الاستثناء الوارد في إحدى السياسات، وسؤال الشخص الأقل حديثًا عن التكلفة التي قد يترتب عليها التغيير، والاعتراف بتعارض قيمتين مهمتين، كلها خطوات لا يمكن اختزالها في مجرد التنبؤ من دون فقدان شيء جوهري.
كذلك، يحتاج الأشخاص المتأثرون بالتوصيات الآلية إلى أكثر من مجرد تطمينهم بأن إنسانًا ما كان «ضمن دائرة اتخاذ القرار». فالنقر الشكلي على زر الموافقة لا يُعد إشرافًا حقيقيًا. بل يجب أن يتوفر للمراجع البشري الوقت والمعرفة ذات الصلة والصلاحية للاعتراض، فضلًا عن القدرة على تقديم تفسير واضح.
وإلا، تحول الشخص إلى مجرد جهة تصادق على النتائج آليًا، بينما تستخدم المؤسسة الآلة درعًا تحتمي به من المساءلة.
أما بالنسبة إلى المستخدمين العاديين، فالمبدأ نفسه ينطبق بصورة أبسط، ويمكن التعبير عنه على النحو الآتي: لا تطلب من أداة أن تتحمل عنك تبعات محادثة تقع مسؤولية نتائجها عليك.
جوهر القضية
من الطرق العملية للحفاظ على هذا الحد الفاصل كتابة مذكرة قصيرة عن القرار قبل فتح أداة الذكاء الاصطناعي.
أولًا، حدّد القرار في جملة واحدة. إن قولك «أحتاج إلى ثلاث طرق لشرح هذا الأمر» يُبقي القرار في يدك. أما قولك «أخبرني ما إذا كان ينبغي أن أفصل هذا الموظف»، فيخفي مسؤولية إنسانية داخل صيغة أمر موجه إلى أداة.
ثانيًا، حدّد الأشخاص الذين قد يتضررون، والشخص الذي يجب أن يتحمل مسؤولية النتيجة. إذا وجدت صعوبة في تحديد هؤلاء الأشخاص وكتابة أسمائهم، فمن المرجح أن القرار يحتاج إلى مزيد من التواصل الإنساني، لا إلى أمر أطول وأكثر تفصيلًا.
ثالثًا، أسند إلى النظام دورًا استشاريًا. اطلب منه اقتراح بدائل، أو كشف الافتراضات الناقصة، أو تقديم حجة مضادة، أو تحديد الأسئلة التي تحتاج إلى البحث، أو تنظيم الأفكار في بنية أوضح. فهذه كلها وسائل لتوسيع نطاق انتباهك وفهمك، لكنها لا تمنح الأداة سلطة اتخاذ القرار.
رابعًا، تحقق من الادعاءات الجوهرية بالرجوع إلى مصادرها الأصلية. وإذا كان القرار غير قابل للتراجع، أو ينطوي على مخاطر كبيرة، أو يتعلق بمسألة شخصية شديدة الحساسية، فاستعن بشخص مؤهل على نحو مناسب، وأتح للشخص المتأثر بالقرار فرصة للرد وإبداء رأيه.
إن عبارة «كان النموذج واثقًا» ليست دليلًا، كما أن عبارة «وافق الإنسان على النتيجة» ليست تفسيرًا كافيًا.
خامسًا، سجّل المبرر الإنساني للقرار. يمكن أن تبدأ جملة مفيدة بعبارة: «اخترنا هذا الخيار لأن...». فإذا لم تستطع إكمال الجملة إلا بالقول إن النظام وضع هذا الخيار في المرتبة الأولى، فهذا يعني أن القرار لا يزال يفتقر إلى جهة تتحمل مسؤوليته بوضوح.
وأخيرًا، احتفظ بقائمة صغيرة من الأمور التي لا ينبغي تفويضها إلى الذكاء الاصطناعي. فالموافقة واللوم والوعود والعقاب ومعنى العلاقات تستحق حذرًا خاصًا، لأنها تنشئ التزامات بين البشر. يستطيع الذكاء الاصطناعي مساعدة الإنسان على الاستعداد لهذه المواقف، لكنه لا ينبغي أن ينتحل شخصية الإنسان الذي يتعين عليه أن يكون حاضرًا فيها ويتحمل تبعاتها.
لا يتطلب الاستخدام المسؤول للذكاء الاصطناعي الانسحاب من التكنولوجيا، بل يدعو إلى استخدامها بنضج. فقد تمنحنا الآلة إجابات أكثر مما امتلكه أي جيل سابق، لكن المهمة الإنسانية تتمثل في تحديد الأسئلة التي لا تستطيع الإجابة حسمها، والبقاء حاضرين في المواضع التي تبدأ عندها المسؤولية.
أسئلة تستحق التأمل
ما القرار في حياتك الذي قد يستفيد من وجود خيارات أكثر، لكنه لا يحتاج إلى حكم جاهز تستعيره من الآخرين؟
أين تختبئ حاليًا هوية الشخص الذي يظل مسؤولًا عن النتيجة خلف إجابة مصاغة بطلاقة؟
ما الأمور التي ينبغي أن تضعها في قائمتك الخاصة للأمور التي لا تفوضها إلى الذكاء الاصطناعي؟
