- قد يصبح الذكاء الاصطناعي قريباً قادراً على اتخاذ عدد أكبر من القرارات أثناء الرحلات الجوية، ما يطرح سؤالاً أساسياً: إلى أي مدى ينبغي منح الآلات سلطة اتخاذ القرار؟
- سيتطلب التنقل الجوي المتقدم قواعد واضحة تحدد من يستفيد، ومن يتحمل المخاطر، ومن تقع عليه المسؤولية عندما تتسبب القرارات الآلية في أضرار.
- يجب أن تتجاوز المرحلة المقبلة من تطور قطاع الطيران مجرد اعتماد الآلات الذكية من الناحية الفنية، لتشمل أيضاً تحديد نطاق السلطة التي تعمل هذه الأنظمة في إطارها.
قد تكون سيارات الأجرة الجوية من بين أولى طائرات الركاب التي تعمل من دون وجود طيار على متنها يتخذ كل قرار تشغيلي أو يشرف عليه. ولكن حتى إذا كانت مركبات التنقل الجوي المتقدم قادرة على حساب مسارات الرحلات، فكيف ستكون لها الصلاحية لاختيار مسار جديد إذا تغيرت الظروف أثناء الطيران؟
لطالما افترض قطاع الطيران أن البشر هم من يتخذون القرارات المهمة، بينما تساعد الآلات على تنفيذها. لكن مع ظهور التنقل الجوي المتقدم، الذي تصفه إدارة الطيران الفيدرالية الأمريكية بأنه يعتمد على مركبات كهربائية شديدة الأتمتة وقادرة على الإقلاع والهبوط العمودي، بدأ هذا الافتراض يتغير.
وبالطبع، تعتمد الطائرات الحديثة بالفعل على أنظمة آلية، لكن الجيل الجديد من الطائرات المسيّرة والطائرات الكهربائية ذات الإقلاع والهبوط العمودي المصممة للتنقل الجوي المتقدم يذهب إلى مدى أبعد من ذلك. إذ يمكن لهذه المركبات استخدام البرمجيات لتفسير الظروف المحيطة، وتحديد المخاطر، واتخاذ القرارات.
ومع ذلك، فعلى الرغم من أن الطائرة تعمل بوصفها آلة منفردة، فإن الطيران في جوهره منظومة متكاملة. تخيل سيارة أجرة جوية ذاتية التشغيل تحلق فوق منطقة حضرية مكتظة، عندما تمنعها عاصفة رعدية من اتباع مسارها المخطط له. ماذا يحدث إذا تدهورت الاتصالات، وفي الوقت نفسه دخلت طائرة أخرى إلى الممر الجوي ذاته؟ من يمتلك سلطة تحديد ما يجب على الطائرة فعله بعد ذلك: الذكاء الاصطناعي الموجود على متنها، أم مشغل عن بُعد، أم مراقبة الحركة الجوية؟
يتعلم قطاع الطيران في الوقت الراهن كيفية اعتماد الآلات الذكية والتأكد من أهليتها للعمل، لكنه لم يحسم بعد مقدار السلطة التي ينبغي منحها لهذه الآلات. فعندما يتعين على نظام طيران قائم على الذكاء الاصطناعي أن يحسب، خلال ثوانٍ، عدة استجابات محتملة للظروف المتغيرة في الجو، فمن الذي يحدد معنى الخيار «الأكثر أماناً»؟
الذكاء الاصطناعي في الطيران: إبقاء البشر ضمن دائرة اتخاذ القرار
تزداد أهمية هذا السؤال مع انتقال التنقل الجوي المتقدم من مرحلة التصور والمفاهيم إلى مرحلة الاستعداد التنظيمي.
في أكتوبر 2024، أصدرت إدارة الطيران الفيدرالية الأمريكية قاعدة نهائية تتناول الطائرات المأهولة من فئة «الرفع المدفوع»، وهي مركبات يمكنها الإقلاع والهبوط عمودياً ثم التحليق إلى الأمام مثل الطائرات التقليدية. كما اختارت الإدارة ثمانية شركاء للمشاركة في برنامج تجريبي لدمج الطائرات الكهربائية ذات الإقلاع والهبوط العمودي. وتستخدم الوكالة عمليات محاكاة يكون البشر فيها جزءاً من دائرة اتخاذ القرار لدراسة كيفية مشاركة هذه الطائرات للمجال الجوي ومرافق المطارات مع الطائرات التقليدية.
لطالما بُنيت أنظمة تنظيم الطيران حول أدوار بشرية واضحة، من بينها قائد الطائرة، ومشغل نظام الذكاء الاصطناعي، ومراقب الحركة الجوية، والشركة المصنعة للطائرة، والجهة التنظيمية. إلا أن الذكاء الاصطناعي يزيد هذا الترتيب تعقيداً، لأنه لن يقتصر دائماً على تنفيذ تعليمات محددة مسبقاً. فإذا تغيرت الظروف أثناء الرحلة، فقد يضطر إلى تقييم مجموعة من المخاطر المتنافسة واختيار مسار معين للتصرف بدلاً من مسار آخر.
ولإدارة هذا التحول، يحتاج قطاع الطيران إلى ما هو أكثر من مجرد اختبار يحدد ما إذا كان نظام الذكاء الاصطناعي قادراً من الناحية التقنية على أداء مهمة معينة. بل يجب الانتباه إلى خمسة شروط أساسية للحوكمة:
- تتعلق السلطة بما إذا كان النظام مسموحاً له قانونياً وتشغيلياً باتخاذ قرار معين.
- يتعلق ضمان الأداء بالأدلة التي تدعم الثقة في أداء النظام ضمن نطاق محدد.
- تتعلق قابلية التدقيق بإمكانية إعادة بناء القرار لاحقاً، بما يشمل المدخلات التي استند إليها وأي عملية تسليم أو نقل للمسؤولية حدثت أثناء اتخاذه.
- تبحث قابلية التكيف فيما إذا كان الإذن الأصلي الممنوح للنظام يظل صالحاً عندما تتغير الأحوال الجوية أو جودة البيانات أو سلوك البرمجيات أو مدى توافر الخدمات.
- تضمن قابلية المساءلة وجود شخص أو مؤسسة قادرة على شرح ما حدث وتصحيحه والاستجابة عندما يتصرف نظام طيران يعتمد على الذكاء الاصطناعي.
ويُعد هذا إطاراً مقترحاً للحوكمة، وليس مجموعة قائمة بالفعل من القواعد الدولية. وتكشف هذه المستويات عن تمييز بالغ الأهمية: فقد يكون النظام قادراً من الناحية التقنية على اتخاذ قرار من دون أن يكون مخولاً باتخاذه، وقد يكون شخص ما مسؤولاً عنه رسمياً من دون أن يمتلك الوقت أو المعلومات أو الوسائل التقنية اللازمة للتحكم في النتيجة.
فالقدرة على اتخاذ قرار ليست هي نفسها الحق في اتخاذه.
وتكتسب هذه التفرقة أهمية كبيرة لأن منطق اتخاذ القرار لدى نظام الذكاء الاصطناعي يعكس اختيارات سبق أن اتخذها المطورون والمصنعون والمشغلون والجهات التنظيمية. لذلك من المهم معرفة من حدد أولويات النظام، ومن وافق عليها، ومن كانت لديه سلطة تغييرها. كما يحتاج الشخص المعين لتحمل المسؤولية إلى المعلومات والكفاءة والوقت والوسائل التقنية التي تمكّنه فعلياً من التأثير في نتيجة عملية اتخاذ القرار لدى نظام الذكاء الاصطناعي.
حوكمة منطق اتخاذ القرار لدى الذكاء الاصطناعي
ليس من الضروري، بطبيعة الحال، أن تتم الموافقة يدوياً على كل قرار يتخذه الذكاء الاصطناعي. فهذا من شأنه أن يقوض الغاية الأساسية من الأتمتة، بل وقد يخلق مخاطر تتعلق بالسلامة. وبدلاً من ذلك، ينبغي للجهات التنظيمية والمشغلين تحديد مستويات مختلفة من السلطة المفوضة، تشمل القرارات التي يمكن أتمتتها بالكامل، والقرارات التي تحتاج إلى تأكيد بشري، والقرارات الطارئة التي يمكن اتخاذها بصورة مستقلة ثم مراجعتها بعد وقوعها.
وهذا يعني أن أنظمة الطيران القائمة على الذكاء الاصطناعي ينبغي أن تسجل القرارات المهمة المتعلقة بالرحلة، مثل المعلومات التي تلقتها، والبدائل التي درستها، والأسباب التي دفعتها إلى اختيار مسار معين للتصرف. وينبغي التعامل مع انتقال المسؤولية بين المشغل ونظام موجود على متن الطائرة وخدمة رقمية باعتباره حدثاً خاضعاً للحوكمة، وليس مجرد انتقال تقني غير مرئي.
ويجب أيضاً أن تتبع المساءلة سلسلة اتخاذ القرار بأكملها، وألا تظل محصورة في قمرة القيادة. فقد تشمل هذه السلسلة المصمم الذي حدد أهداف النظام، والشركة المصنعة التي دمجت النظام في الطائرة، والمشغل الذي قام بتشغيله، والجهة التنظيمية التي وافقت على العملية، والمشرف البشري الذي كان من المتوقع أن يتدخل عند الضرورة. ولا ينبغي لوجود خوارزمية أن يؤدي إلى خلق فجوة في المسؤولية.
وسيكون التنسيق الدولي ضرورياً أيضاً. فمع تزايد حركة الطائرات والمشغلين والبرمجيات والبيانات عبر الحدود، تظل سلامة الطيران معتمدة على وجود معايير مشتركة. وقد أقرت منظمة الطيران المدني الدولي بأن الابتكار يحتاج إلى سياسات ومعايير عالمية يتم وضعها في الوقت المناسب، إلى جانب التعاون بين الدول وقطاع الصناعة والأوساط الأكاديمية. كما توفر خطة الملاحة الجوية العالمية نموذجاً يمكن الاستفادة منه في مواءمة المناهج العالمية والإقليمية والوطنية.
الطيران في عصر الذكاء الاصطناعي
ينبغي إذاً أن تتجاوز المرحلة المقبلة من تطور قطاع الطيران مجرد اعتماد الآلات الذكية فنياً، لتشمل كذلك تحديد نطاق السلطة التي تعمل بموجبها هذه الأنظمة. ويتعين على الجهات التنظيمية تحديد أنواع القرارات التي يمكن تفويضها إلى الذكاء الاصطناعي. كما ينبغي لمشغلي أنظمة الطيران القائمة على الذكاء الاصطناعي الحفاظ على سلسلة واضحة وقابلة للتحقق من المسؤولية البشرية. أما الشركات المصنعة، فعليها أن تجعل القرارات المهمة المرتبطة بالذكاء الاصطناعي قابلة للتتبع والمراجعة.
ولا تقتصر هذه القضية على قطاع الطيران وحده. فالمجتمع، بما في ذلك الأشخاص المتأثرون بالطيران المدعوم بالذكاء الاصطناعي مثل الركاب والعاملين في قطاع الطيران وكل من يعيشون تحت مسارات الطيران، يجب أن تكون له كلمة في تحديد من يستفيد، ومن يتحمل المخاطر، ومن يجب أن يتحمل المسؤولية عندما تتسبب القرارات الآلية في أضرار.
وقد يصبح قطاع الطيران بمثابة اختبار مبكر للطريقة التي يمكن بها للمجتمعات تنظيم استخدام الذكاء الاصطناعي وحوكمته، مع انتقال البرمجيات تدريجياً من مجرد تقديم المشورة للبشر إلى ممارسة سلطة مفوضة تؤثر بصورة مباشرة في العالم المادي.
فمستقبل الطيران لن يعتمد فقط على القرارات التي تستطيع الآلات اتخاذها، بل أيضاً على من يمنحها سلطة اتخاذ تلك القرارات، ومن يظل مسؤولاً عن عواقبها.
