ترجمة: لولوة العيدان
تشير الأبحاث إلى أن الموظفين الذين يُوَجّهون رسائل الحث الآلية، قد يفقدون بعضًا من كفاءتهم الأخلاقية. وهذا له تداعيات على كيفية استخدامنا للجيل الجديد من مساعدي الذكاء الاصطناعي.
تشهد صناعة الذكاء الاصطناعي التوليدي حاليًّا طفرة هائلة؛ إذ أطلق بائعو برمجيات المؤسسات جيشًا من المساعدين الآليين يستخدمون تقنية النماذج اللغوية الكبيرة مثل (تشات جي بي تي)، لتقديم اقتراحات مفيدة للمستخدمين أو تنفيذ مهام روتينية. يُمكن لهذه الأدوات المسماة “كوبايلوت” و”روبوتات الدردشة” أن تعزز الإنتاجية وتُلغي المهام اليدوية المملة، ولكنها قد تُضعف قدرة الموظفين على اتخاذ القرارات المستقلة إذا لم تُوَظف بحكمة، لا سيما عندما تتطلب هذه القرارات مراعاة الجوانب الأخلاقية.
دراستنا لتبعات تقنيات “رسائل الحث الآلية” التي تستخدمها الشركات للتأثير في موظفيها أو عملائها، لاتخاذ إجراءات معينة، لها تداعيات على المؤسسات التي تعتمد الجيل الجديد من روبوتات الدردشة والمساعدين الآليين. تُشجَّع الشركات التي تنفذ تقنيات وكلاء الذكاء الاصطناعي التوليدي على تصميمها لتعزيز الأهداف الإدارية. توفر “مايكروسوفت” التي أتاحَت “كوبايلوت” عبر مجموعة برامجها الإنتاجية أداةً يمكن للمؤسسات تخصيصها، ما يسمح لها بتوجيه سلوك الموظفين توجيهًا دقيقًا. ستُمكّن هذه الأدوات الشركات من تعزيز تقنيات “رسائل الحث الآلية” بقوة، وبناءً على بحثنا في آثار “رسائل الحث الآلية”، فقد يؤدي ذلك مع مرور الوقت إلى تراجع استعداد الأفراد وقدرتهم على تقييم الجوانب الأخلاقية لقراراتهم.
قد تكون “رسائل الحث الآلية” مقنعةً جدًّا، بالنظر إلى الميل المتزايد لدى الأفراد لتجاهل أحكامهم لصالح ما تقترحه التقنية، وقد يتحول اعتزال التفكير النقدي هذا في أسوأ حالاته إلى نوع من “الغرور التقني”، حيث يُقلل من شأن الإدراك البشري لصالح قدرات الذكاء الاصطناعي الحسابية القوية. لهذا السبب، سيكون من المهم تشجيع الموظفين على الحفاظ على منظور نقدي تجاه مخرجات الذكاء الاصطناعي، وأن ينتبه المديرون إلى فرص ما نسميه التعزيز الأخلاقي؛ وهي تدخلات سلوكية تستعمل التأمل الواعي بدلًا من رد الفعل الطائش. قد يساعد هذا الأفراد على النمو في الكفاءة الأخلاقية، بدلًا من السماح لتلك المهارات المعرفية بالتصلب.
قد تُحدث «رسائل الحثّ الآلية»، ولا سيما حين تُقدَّم في هيئة حوافز وأهداف محددة، تحوّلًا طفيفًا في الدوافع؛ إذ تُحجَب الغايات النهائية للفريق أو المؤسسة، ويجري استبدالها بأهداف قصيرة المدى. وحين يغدو «مؤشر الأداء» هو الهدف الرئيس، يفقد وظيفته بوصفه أداة لقياس الأداء الفعلي؛ وهي الظاهرة المعروفة بقانون غودهارت. فعلى سبيل المثال، يمكن تصميم «كوبايلوت» لحث العاملين الذين يتعاملون مباشرةً مع العملاء على الحفاظ على تقييمات خمس نجوم، عبر إظهار نقاط إضافية أو تقديم مكافآت مالية. غير أنّ تركيز الموظفين على رفع التقييمات بوصفها غاية مستقلة – بدلًا من تحسين جودة خدمة العملاء نفسها على أمل الحصول على تقييم مرتفع – قد يغري بعضهم باللجوء إلى أساليب تُضلّل العملاء. وبعبارة أخرى، قد تتحول التقييمات إلى أهداف بذاتها، بما يفضي إلى التضحية بصفاتٍ مهمة يصعب قياسها، مثل الصدق والموثوقية.
وتتضاعف خطورة «رسائل الحثّ الآلية» في السياقات الأخلاقية المركّبة التي تتطلب وعيًا ذاتيًا بالقيم التي نتمسك بها. فعندما يتلقّى المديرون توجيهات «كوبايلوت» المدعوم بالذكاء الاصطناعي ويستجيبون لها دون تفكير، قد يغيب عنهم السبب الأعمق الذي يستندون إليه في قراراتهم. وسنبيّن في هذا المقال كيف يمكن أن يقود ذلك، مع مرور الوقت، إلى تراجع الكفاءة الأخلاقية لدى المديرين، وما الذي ينبغي فعله للحد من هذا الخطر.
من “رسائل الحث الآلية” التفاعلي إلى التعزيز التأملي
تميل تقنيات “رسائل الحث الآلية” إلى استغلال ما أطلق عليه عالم النفس دانيال كانيمان اسم “التفكير السريع”، وهو نمط تفاعلي يتناقض مع “التفكير البطيء”، أي التفكير التأملي، كما هو موضح في بحثنا لعام ٢٠٢٣م: “ما بعد “رسائل الحث الآلية” الشجاعة: تنشيط التأمل الأخلاقي بدلًا من رد الفعل السلوكي” في مجلة “أكاديمي أوف مانجمنت بيرسبكتيفز”. يمكن لهذه التدخلات الاستفادة من حوافز مالية بسيطة أو محفزات عاطفية (بما في ذلك الفرح والخوف والتعاطف والضغط الاجتماعي والمكافآت التقديرية) لدفع الأفراد إلى التصرف كما ينبغي لهم عند التأمل الأخلاقي. قد يؤدي الاعتماد الشديد على هذه الحوافز إلى تحويل الانتباه نحو المكافأة الخارجية، وبالتالي إزاحة الدوافع الأخلاقية وإضعافها، وهي الدوافع التي يُراد تشجيعها. يحدث هذا التحول حين يتحقق النضج الأخلاقي والاستقلالية الذاتية بعد غرس عادات جيدة تستهدف المكافآت الداخلية وليس الخارجية.
في حين أن تدخلات “رسائل الحث الآلية” قد تكون فعالة عند استخدامها بحذر وتقييد، ما يؤدي إلى زيادة الوعي الذاتي والاستقلالية لدى وكلاء الذكاء الاصطناعي، فإن قوة تقنية الذكاء الاصطناعي التوليدي وانتشارها يجعلها عرضة للإفراط في الاستخدام، وقد يؤدي هذا الإفراط في الاستخدام إلى زيادة “رسائل الحث الآلية” الناجمة عن تغير الدوافع والاعتمادية، ما يؤدي إلى طمس العادات الجيدة للتأمل الأخلاقي. قد يؤدي ذلك أيضًا إلى رد فعل عكسي لدى بعض الموظفين؛ فقد يشعرون بالنفور مما يرونه تدخلًا مفرطًا في شؤونهم الشخصية أو مراقبة زائدة. يجب على المديرين الحرص على تجنب خلق نسخة افتراضية لرواية ألدوس هكسلي “عالم جديد شجاع”، حيث يُشَكل السلوك باستمرار باستجابات معرفية تلقائية ليتوافق مع ما يوصي به الذكاء الاصطناعي ومصمموه.
مع أنّ الاعتماد على الحثّ السلوكي لا يمكن تجنّبه كليًّا، ولا سيما في العمليات المرتبطة بإدارة المخاطر أو الامتثال التنظيمي، فإن الخبر المطمئن هو إمكان إدخال آليات مراجعة تُبقي الإنسان حاضرًا بوعي، وتستثير التأمل الأخلاقي قبل الإقدام على أي إجراء. ويمكن لمثل هذه الآليات أن تحدّ من قابلية ضمور المهارات المعرفية حين تُهمَل ولا تُمارَس. ونظرًا للقيود الراهنة للنماذج اللغوية الكبيرة – بما فيها ميلها إلى تقديم معلومات متحيّزة أو غير دقيقة، فضلًا عن ضعف الفهم وافتقارها أحيانًا إلى الاتساق المنطقي – ينبغي للمديرين أن يركّزوا على محفّزات المشاركة التي تُبقي الموظفين في حالة تفكير نقدي تجاه مخرجات «كوبايلوت» المدعوم بالذكاء الاصطناعي، حتى حين لا تبدو أمامهم خيارات أخلاقية واضحة أو رسائل حثّ مباشرة.
ويبقى السؤال: كيف يطوّر الأفراد قدرتهم على التفكير التأملي في الخيارات الأخلاقية، وكيف يقاومون «الطرق السهلة» التي تعرضها تقنيات «رسائل الحثّ الآلية»، لا في العمل وحده، بل في تفاعلاتهم المتعدّدة بوصفهم مستهلكين ومواطنين أيضًا؟ نحن نرى إمكانات واعدة في مفهوم «التعزيز الأخلاقي»، القائم على رؤية إيجابية لقدرة الإنسان على التعلّم والنمو. فإذا كانت «رسائل الحثّ الآلية» تستهدف استثارة استجابات سريعة ودفع الأفراد إلى سلوكات محددة دون حاجة إلى تفكير عميق، فإن «التعزيز» مسارٌ تربوي طويل الأمد يهدف إلى ترسيخ عادات التأمل والتفكير الذاتي. وقد يتخذ هذا التعزيز صورة قواعد ذهنية عامة أو حدوس عملية – مثل «القاعدة الذهبية» التي تقوم على السعي إلى أفضل النتائج للجميع، أو الصورة الذهنية للذات المثالية التي تعين الفرد على التقاط المعضلات الأخلاقية حين تبرز، وتعميق التفكير فيها بدل الانزلاق إلى استجابات جاهزة.
يمكن أن يسهم “تعزيز” المبادئ في تصحيح مسارات العمل غير الصحية بتوفير تذكيرات في نقاط التحول الحاسمة. وفي هذا السياق، يمكن لـكوبايلوت” أن يؤدوا دورًا مهمًّا، أي إذا شجعوا الأفراد على التفكير النقدي بدلًا من الاكتفاء بالنقر على “قبول” للاقتراحات المقدمة. وقد لاحظنا أن “مساعد الطيار الآلي” من “مايكروسوفت” لبرامج البريد الإلكتروني قادر على التحذير من استخدام لغة غير لائقة أو مسيئة في رسائل البريد الإلكتروني. ومع ذلك، قد يختار الأفراد استخدام قدراتهم العقلية لإعادة صياغة رسائل البريد الإلكتروني بأسلوبهم بدلًا من الاكتفاء بتبني توصيات النظام الجاهزة. لتعزيز هذه العقلية، قد تدعو تطبيقات المراسلة المستخدمين إلى أخذ وقت للتفكير قبل الرد على الرسائل التي من المحتمل أن تكون وقحة أو عدائية، ما يسمح للانفعالات بالهدوء ويفسح المجال للتفكير التأملي. ويمكن أن تكون صورة شخص يكتب رسالة غاضبة بمنزلة “مطب سرعة” فعالة، ما يساعد المستخدمين على بناء وعي ذاتي إيجابي. وبالمثل، يهدف التدريب مثل برنامج “سيريوس”، وهو جزء من نشاط مشاريع البحوث المتقدمة في الاستخبارات التابع لمكتب مدير الاستخبارات الوطنية، إلى تعزيز المهارات المعرفية مثل اكتساب الكفاءة في التعرف إلى التحيزات والافتراضات.
يجب على المديرين في النهاية أن يكونوا حذرين من الأثر الترويجي الذي تستخدمه مصطلحات مثل “مساعد الطيار الآلي” في وصف الذكاء الاصطناعي التوليدي، مقارنةً بمصطلحات مثل “أدوات دعم القرار” أو “المساعدين”. في حين أن المصطلحات الأخيرة تعترف بأن التقنية خاضعة للمستخدم، فإن مصطلح “مساعد الطيار الآلي” يوحي بدور قادر ومستقل، بل ومسؤول أيضًا. من المُفترض أن يكون “مساعد الطيار الآلي” مؤهلًا بالكامل لتولي زمام القيادة في غياب الطيار. إن الإيحاء بأن الذكاء الاصطناعي يتمتع بكفاءة عالية يدفع الموظفين إلى الوثوق بتوجيهاته والامتثال لها. إذا كان “مساعد الطيار الآلي” يُمكّن المديرين من زيادة السيطرة وتحسين الكفاءة على حساب تراجع الكفاءة الأخلاقية لدى القوى العاملة، فيجب على المديرين التفكير في وضع “مطبات سرعة” للتفكير التأملي.
