كلما ازداد عدد المهام التي تنفذها الآلات، ولا سيما الآن مع الذكاء الاصطناعي، انتقل البشر بصورة متزايدة من دور المتحكم اليدوي إلى دور المشرف. ويجب أن تراعي التصاميم علم النفس البشري، وإلا فإنها قد تؤدي إلى أخطاء كارثية.
الأتمتة موجودة في كل مكان، بدءًا من الطيار الآلي في الطائرات ووصولًا إلى دورات الغسيل في الغسالات المنزلية. ومع ظهور الذكاء الاصطناعي الحديث، تتولى أجهزة الكمبيوتر والآلات عددًا متزايدًا من المهام.
وهذا لا يعني بالضرورة اختفاء الوظائف البشرية، وإنما يعني تغير طبيعتها، من تنفيذ المهمة نفسها إلى الإشراف على الآلة التي تنفذها، كما يقول رون مكلويد من غلاسكو في اسكتلندا. وقد أمضى مكلويد، وهو متخصص متقاعد في مجال «العوامل البشرية»، مسيرته المهنية في دراسة كيفية عمل الدماغ البشري والأتمتة معًا، أو فشلهما في ذلك، داخل البيئات الصناعية مثل غرف التحكم في مصافي النفط. وقد ألّف مكلويد كتابًا عن هذا الموضوع نُشر في فبراير 2026 بعنوان الانتقال إلى الاستقلالية: علم نفس التحكم البشري الإشرافي.
وفي بيئة العمل، يوفر الذكاء الاصطناعي والروبوتات والأتمتة مكاسب محتملة، لكنه يفرض أيضًا قيودًا، كما أوضحت عالِمتا الاجتماع في جامعة هارفارد يا وين لي وراشيل كيم في المراجعة السنوية لعلم الاجتماع. وتشيران إلى أن أدوات الذكاء الاصطناعي قد تكون غامضة أو ببساطة خاطئة، كما أن العاملين من البشر لا يستطيعون دائمًا تجاوز قراراتها، مما يترك الموظفين في حالة من الانفصال والإحباط.
ويرى مكلويد أن الانتقال إلى دور الإشراف يفرض تحديات تقنية ونفسية في آن واحد. فالعقل البشري يشعر بالملل ويتشتت، وليس مستعدًا دائمًا للانتقال الفوري إلى الفعل عندما تحتاج الآلة إلى المساعدة. لكن هذا ليس سوى جزء من المشكلة. فالأنظمة، سواء كانت غرف تحكم أو قمرة قيادة أو أنظمة تحكيم رياضية آلية، يجب أن تُصمم بحيث تعمل بفاعلية مع البشر، لا بحيث تستبعدهم من الحلقة. كما أن المهندسين والمصممين لا يفهمون بالضرورة كيفية تحقيق التوازن بين أجهزة الاستشعار والأفعال التي تنفذها الأنظمة الآلية وبين احتياجات الأشخاص الذين يراقبونها وقدراتهم.
وعندما يفشل الإشراف على الأتمتة، سواء في لحظة وقوع المشكلة أو في مراحل التصميم أو التدريب التي سبقتها، فقد تكون النتائج كارثية.
تحدثت مجلة كنوابل مع مكلويد حول ماضي الإشراف على الأتمتة وحاضره ومستقبله، في الوقت الذي يتطور فيه هذا المجال في عصر الذكاء الاصطناعي. وقد عُدّلت هذه المقابلة من حيث الطول والوضوح.
ما الذي ألهمك لكتابة هذا الكتاب؟
منذ كنت طالبًا جامعيًا في أواخر سبعينيات القرن الماضي، وأنا مهتم بالتخصص التطبيقي المعروف باسم العوامل البشرية. وهو يجمع بين علم النفس والهندسة وعلم الاجتماع وعلوم أخرى. ونحن نحاول أن نفهم كيفية أداء البشر للمهام بالتعاون مع الأنظمة التقنية، وكيف يمكننا تقديم أفضل دعم لهم.
وفي إطار هذا العمل، كنت على دراية بمفهوم التحكم الإشرافي، وكنت أدرّس الناس عنه ضمن دوري في شركة شل الدولية. لكن المرة الأولى التي اختبرت فيها هذا الانتقال بنفسي بصورة حقيقية كانت في عام 2022، عندما أصبحت مالكًا لسيارة تستطيع القيادة بنفسها.
لم أتلق أي تدريب من الشركة. أعطوني المفاتيح، وأروني كيفية استخدام المؤشرات أو إشارات الانعطاف وكيفية تشغيل الراديو، لكنهم لم يخبروني شيئًا على الإطلاق عن نظام الأتمتة. ولم أدرك الطريقة التي يفترض أن تعمل بها هذه الخاصية إلا خلال الأيام التالية، عندما حاولت دراسة دليل الاستخدام ونظام المساعدة داخل السيارة.
ومع ذلك، ظللت مرتبكًا. هناك طريق سريع بالقرب من منزلي، والسرعة فيه 70 ميلًا في الساعة، وهناك منعطف حاد تنخفض عنده السرعة إلى 40 ميلًا في الساعة. أنا أعرف أن هذا المنعطف قادم، لكن هل تعرف السيارة ذلك أيضًا؟ وإذا كان الطريق جليديًا، فهل ستبطئ السيارة سرعتها؟ لا أعرف. عليّ أن أبقى منتبهًا طوال الوقت، وأن أجري هذه الأحكام ذهنيًا: هل أتدخل أم لا؟
المشكلة أن الأتمتة موثوقة جدًا، وليس هناك الكثير مما ينبغي فعله. والدماغ لا يكون منخرطًا في المهمة. ومن الصعب أن تبقى منتبهًا، وأن تحصل على المعلومات، وأن تفهم ما يحدث إذا لم تكن منخرطًا ذهنيًا في المهمة.
إن مرحلة الانتقال إلى دور المشرف، وهي مرحلة تتطلب جهدًا ذهنيًا كبيرًا، هي ما يثير اهتمامي. ويجب على المصنعين أن يبدأوا في التعامل مع هذه الأمور بالشكل الصحيح. وهذا هو ما دفعني إلى كتابة الكتاب.
كيف يزيد الذكاء الاصطناعي من تعقيد الإشراف على الأتمتة؟
قد تتضمن الأتمتة الذكاء الاصطناعي أو لا تتضمنه. لكن الذكاء الاصطناعي يجلب بالتأكيد عناصر جديدة.
هناك أربعة مستويات محتملة يمكن عندها أتمتة أي شيء: الحصول على المعلومات، وفهم المعلومات، واتخاذ القرارات، وتنفيذ الأفعال. ويمكن تطبيق الذكاء الاصطناعي على أي من هذه المستويات. فالذكاء الاصطناعي التوليدي، على سبيل المثال، يقع بصورة أساسية ضمن مجال الحصول على المعلومات.
هناك دراسة مثيرة للاهتمام حول الذكاء الاصطناعي نشرها مؤخرًا ستيفن شو وجيديون نيف من كلية وارتون في جامعة بنسلفانيا. وقد بنيا دراستهما على نمطي التفكير اللذين حددهما عالم النفس الراحل والحائز على جائزة نوبل دانيال كانيمان في كتابه التفكير، السريع والبطيء.
النظام الأول حدسي ولا يتطلب جهدًا. أما النظام الثاني فهو بطيء ويحتاج إلى وقت للتفكير في الأمور مليًا. وقد صمم شو ونيڤ نظامًا للذكاء الاصطناعي يقدم إجابات خاطئة، ومع ذلك قبل الناس هذه الإجابات في أكثر من نصف الحالات. ويقترح الباحثان أنه عندما تستخدم الذكاء الاصطناعي أداةً، فهناك نوع ثالث من التفكير، أطلقا عليه اسم «الاستسلام المعرفي»، حيث تتخلى ببساطة عن التفكير وتدع الذكاء الاصطناعي يخبرك بالإجابة.
ما يهمني أكثر هو الحالات التي تتحكم فيها الأتمتة والشخص في أشياء مادية في الوقت الفعلي، ما يعني أن الإنسان لديه فرصة للإشراف، وإذا شعر أن الأمور بدأت تنحرف عن المسار الصحيح، فإنه يستطيع التدخل. وهذا يحدث في كل مكان تقريبًا.
لقد تحدثنا عن السيارات ذاتية القيادة. أين يمكن أن يصبح الإشراف على الأتمتة مشكلة أيضًا؟
في الصناعة والتصنيع. أمضيت عشر سنوات أعمل في قطاع النفط والغاز، ولديهما تاريخ طويل في أتمتة غرف التحكم.
وكذلك كل ما يتعلق بالتحكم في المركبات. سواء كانت سيارات أو سفنًا أو طائرات، فإنها جميعًا تمر بالعملية نفسها.
وهناك مجال آخر هو الرعاية الصحية. فعلى سبيل المثال، سيساعد الذكاء الاصطناعي أطباء الأشعة، وقد لا يملكون الثقة الكافية لتجاوز قراراته. التقيت مؤخرًا طبيب تخدير قال إنه تلقى في بداية تدريبه تعليمًا حول مراقبة العلامات الحيوية للمريض يدويًا وإعطاء مواد التخدير، لكن كل شيء أصبح الآن آليًا. وهو يجلس ببساطة ويراقب الأرقام.
وفي الجراحة أيضًا، سيدخل مزيد من الأتمتة. واليوم، حسب فهمي، لا يزال الجراح هو المسيطر، لكننا لسنا بعيدين عن منح بعض التقنيات صلاحية تنفيذ عملية جراحية. وسيتعين على الجراحين خوض الانتقال نفسه، من إجراء الجراحة يدويًا إلى الإشراف على التكنولوجيا، مع المشكلات نفسها الموجودة في حالات الأتمتة الأخرى.
ما نوع التاريخ الذي يشكل فهمك للتحديات المرتبطة بالإشراف على الأتمتة في الصناعات المختلفة؟
في عام 1979، ومع حادثة انصهار مفاعل ثري مايل آيلاند، كانت تلك أول مرة تؤخذ فيها قضايا العوامل البشرية على محمل الجد بصورة حقيقية.
نتج الانصهار عن سلسلة من الأعطال في نظام تبريد المحطة، لكن أحد العوامل الرئيسية التي أسهمت فيه كان سوء تصميم غرفة التحكم. فقد علق صمام لتخفيف الضغط في وضع الفتح، لكن المؤشر في غرفة التحكم أظهر أنه مغلق. ولم يكن لدى المشغلين أي مؤشر على الإطلاق يوضح مستوى المياه التي تغطي قلب المفاعل، لأن هذا المستوى لم يكن من المفترض أن يتغير.
وبسبب المعلومات غير المكتملة وغير الدقيقة، اعتقد المتحكمون أن هناك خطرًا من غمر النظام بالمياه، ولذلك أوقفوا إمدادات المياه الطارئة. وانكشف قلب المفاعل وارتفعت درجة حرارته بصورة مفرطة. ولحسن الحظ، لم يُصب أحد بأذى.
ولو أنهم لم يفعلوا شيئًا، لكانت المحطة قد أوقفت نفسها تلقائيًا وبأمان. في البداية، أُلقي اللوم على المشغلين، لكن تبين لاحقًا أن المشغلين تصرفوا بطريقة منطقية تمامًا استنادًا إلى المعلومات التي كانت متاحة لهم. وكانت تلك أول إشارة واضحة فعلًا إلى بعض التعقيدات النفسية في هذا المجال.
ومن الأمثلة الأخرى فقدان طائرة إيرباص التابعة لشركة الخطوط الجوية الفرنسية التي تحطمت أثناء رحلتها من ريو دي جانيرو إلى باريس عام 2009. وكانت هناك مجموعة من مشكلات العوامل البشرية، من بينها تصميم قمرة القيادة الذي لم يوفر للطيارين المعلومات الضرورية، فضلًا عن قصور تدريب الطيارين وبروتوكولات الطوارئ.
وجدت عدة حالات مشابهة. ومرة تلو الأخرى، عندما لا تكون الأنظمة سهلة الاستخدام، تسوء الأمور ويرتكب الناس الأخطاء. ويفترض قادة الشركات الذين يركبون أنظمة الأتمتة أن التصميم سيكون سهل الاستخدام استنادًا إلى ما يعتبرونه منطقًا سليمًا، لكن الأمر لا يكون كذلك دائمًا.
ما المشكلات المحددة الأخرى التي تظهر عندما يشرف الناس على أنظمة مؤتمتة في معظمها؟
إحدى القضايا الأساسية تتعلق بالتوازن في السلطة بين البشر والأتمتة. من الذي يتحكم فعليًا؟
ظهرت هذه المسألة خلال بطولات التنس في ويمبلدون عام 2025. فقد كانت تلك المرة الأولى التي تمنح فيها ويمبلدون نظامًا آليًا بالكامل لاتخاذ قرارات بشأن خطوط الملعب، وهو نظام «هوك آي»، السلطة الكاملة لتحديد ما إذا كانت الكرات «داخل الملعب» أم «خارجه».
حدث ذلك في الدور الرابع من منافسات فردي السيدات، بين أناستاسيا بافليوتشينكوفا وسوناي كارتال. ضربت كارتال كرة كانت خارج الملعب بوضوح، لكن نظام الأتمتة لم يحتسبها كذلك. كان بإمكان اللاعبتين رؤيتها، وكان الحكام يرونها، وكان العالم كله الذي يشاهد المباراة عبر التلفزيون يرى أنها خارج الملعب، لكن الحكم لم يكن يملك صلاحية تجاوز النظام الآلي. ولذلك طلب الحكم من اللاعبتين إعادة النقطة، وخسرت بافليوتشينكوفا تلك الشوط، رغم أنها واصلت المباراة وفازت بها في النهاية.
واتضح أن الأمر كان خطأً بشريًا، إذ كان النظام قد أُوقف عن طريق الخطأ. شعرت السلطات بإحراج شديد، وكان رد فعلها الفوري، بدلًا من الاعتراف بأنها تتعامل مع نظام معقد يعتمد على السلوك البشري، هو تقديم تطمين شامل بأنها أجرت تغييرات لمنع تكرار الخطأ نفسه. لكن خطأً آخر في احتساب الكرة وقع في اليوم التالي. لم تكن السلطات قد أدركت الدرس الصحيح: النظام ليس موثوقًا بنسبة 100 في المئة، ولذلك ما زلت بحاجة إلى البشر.
وهذه مشكلة شائعة: في أي ظروف يُسمح للبشر بالتدخل في عمل الأتمتة، أو يُسمح للأتمتة بتجاوز البشر؟ في السيارة مثلًا، عندما يكون الطيار الآلي قيد التشغيل، إذا ضغطت بقدمي على المكابح، يتوقف النظام وأعود أنا إلى التحكم. فهو يسمح لي بتجاوز النظام.
ما الذي ينبغي لشركات صناعة السيارات أن تفعله لتسهيل هذا الانتقال على السائقين؟
في سيارتي، بمجرد أن أرفع يدي عن عجلة القيادة، أصبح في دور المشرف. وأحتاج إلى معلومات مختلفة. لا أحتاج إلى معرفة ناقل الحركة الذي أستخدمه، ولا حتى السرعة التي أقود بها. أحتاج إلى معرفة من المسيطر، أنا أم السيارة؟ وأحتاج إلى معرفة ما الذي تفكر فيه السيارة، وهل تستطيع رؤية خطر قادم؟
وعلى أقل تقدير، سواء كنت أقود سيارة، أو أعمل طبيبًا، أو أشرف على غرفة تحكم، لا أستطيع أن أجد سببًا يمنع وجود حزمة تدريب إلكترونية تأخذك عبر المعلومات الأساسية وتضعك أمام عدد من السيناريوهات.
وبالنسبة إلى السيارات تحديدًا، عقد المجلس الوطني لسلامة النقل في الولايات المتحدة مؤخرًا اجتماعًا بعد التحقيق في حادثي تصادم مميتين وقعا عام 2024، اصطدمت فيهما مركبتا «فورد موستانغ» الرياضية متعددة الاستخدامات بمركبات متوقفة على الطريق السريع أثناء تشغيل وضع الأتمتة الجزئية. وفي كلتا الحالتين، كان سائقا فورد متأثرين بعوامل أضعفت قدرتهما أو مشتتين عن الإشراف على القيادة الآلية للمركبتين. وأوصى المجلس شركات صناعة السيارات بتركيب أنظمة تقلل من احتمال انفصال السائقين عن مهمة الإشراف أو شعورهم بالاطمئنان المفرط بسبب الأتمتة.
وستعمل هذه الأنظمة على مراقبة المشرفين البشريين الذين يفترض أن يتولوا الإشراف على القيادة الآلية. وقد بُذلت جهود كبيرة في البحث والتطوير لإنتاج تقنيات تتابع مستوى يقظة هؤلاء الأشخاص. وهي تفعل ذلك، على سبيل المثال، من خلال مراقبة حركات العينين والرأس.
«مرة تلو الأخرى، عندما لا تكون الأنظمة سهلة الاستخدام، تسوء الأمور ويرتكب الناس الأخطاء.»
رون مكلويد
ومن الأمثلة ذات الصلة أن قطاع السكك الحديدية في بعض البلدان اعتمد لسنوات طويلة جهازًا يسمى «جهاز اليقظة» للتأكد من أن سائق القطار لم يغفُ، نظرًا إلى مدى الملل الذي قد تتسم به مهمته. ويتكون الجهاز من إنذار صوتي يصدر كل 30 ثانية. ويُطلب من السائق الضغط على زر لإيقاف الصوت. إنها تقنية بسيطة جدًا، لكنها تبدو فعالة في التأكد من أن السائق مستيقظ.
وليس الجميع يمتلك المهارات المعرفية التي يحتاج إليها لقيادة مركبة بصفته مشرفًا على النظام. فهل ينبغي أن يتضمن اختبار القيادة شيئًا يتعلق بالسؤال عما إذا كان الشخص يمتلك القدرة الذهنية على اتخاذ هذه الأحكام؟ لا أعرف، لكن ينبغي إجراء مزيد من الأبحاث في هذا المجال.
ما الذي يمكن فعله أيضًا لمساعدة المشرفين البشريين على البقاء منخرطين وأداء أدوارهم بفاعلية في المواقف الأخرى التي تعتمد على الأتمتة؟
المشكلة الأساسية هنا ليست صعبة في الواقع. إنها ببساطة تتعلق بالتصميم الجيد. فإذا أدركت أنك تنقل الأشخاص من دور يدوي إلى دور إشرافي، فعليك، من جانب النظام، أن تصمم واجهة المستخدم بناءً على فهم واضح: ما المهمة التي يؤديها الإنسان؟ وما المعلومات التي يحتاج إليها؟ وكيف نحسن ذلك إلى أقصى حد؟
في حالة سيارتي، صُممت الواجهة للسائقين الذين يقودون يدويًا، وليس لي بصفتي مشرفًا. وكان جزء من المشكلة أن هناك قدرًا هائلًا من المعلومات على الشاشات، فلم أكن أعرف أين أنظر. ولم أكن أعرف معنى الرموز. وكان هناك الكثير من النصوص، والكثير منها مختصر. وبعضها لم أكن أستطيع قراءته أصلًا لأنه كان موجودًا في مكان لا أستطيع رؤيته.
وبالنسبة إلى المستخدم، من المهم مراعاة التدريب، وأنظمة الحوافز، وعبء العمل، والمهام المتنافسة. ويجب على الشركات أن تضمن تدريب الأشخاص الذين يشرفون على الأتمتة بحيث يفهمون ما يتضمنه دورهم الإشرافي، مثل أنواع العلامات أو المعلومات التي ينبغي لهم البحث عنها، ومكان وجود هذه المعلومات، وما الذي يمكن أن يحدث إذا سارت الأمور على نحو خاطئ.
وعلى سبيل المثال، يجب ألا تكون هناك حوافز تثني المشرف عن اتخاذ أفضل القرارات. عندما كنت أعمل في قطاع النفط والغاز، كانت هناك حالات عدة تدخل فيها أشخاص في غرف التحكم لإيقاف الإنتاج أو إبطائه، وهو أمر له قيمة مالية مباشرة. وكانوا في الواقع قد اتخذوا القرار الصحيح، لكنهم تعرضوا للوم بسبب ذلك.
وعندما نضيف بُعد الذكاء الاصطناعي، تظهر مشكلات محتملة إضافية، مثل الاستسلام المعرفي. ما زلنا بحاجة إلى البشر، لكن المسألة تتعلق بكيفية التأكد من حصولهم على الدعم المناسب. الأمر ليس علمًا خارقًا؛ إنه ببساطة يتعلق بإدراك مدى تعقيد هذا الدور الجديد.
