الخطوط الحمراء السلوكية ضرورية لضمان بقاء الذكاء الاصطناعي متماشياً مع المعايير المجتمعية.
تحكم الخطوط الحمراء كلاً من الاستخدامات الضارة للذكاء الاصطناعي من قبل البشر والسلوكيات الضارة المستقلة للأنظمة الذكية.
لكي تكون هذه الخطوط فعالة وقابلة للتنفيذ، يجب أن تتوافق مع ثلاث خصائص رئيسية.
مع استمرار تقدم قدرات الذكاء الاصطناعي، يصبح ضمان بقاء الأنظمة آمنة وأخلاقية ومتوافقة مع المعايير المجتمعية أمراً بالغ الأهمية. الخطوط الحمراء السلوكية هي اقتراح استباقي لمعالجة السلوكيات غير المقبولة للذكاء الاصطناعي التي تشكل مخاطر خطيرة.
تُظهر الخطوط الحمراء حدودًا محددة لا ينبغي لأنظمة الذكاء الاصطناعي تجاوزها، مثل الانخراط في الاستنساخ الذاتي غير المصرح به، أو اختراق الأنظمة الحاسوبية، أو تمكين تطوير أسلحة الدمار الشامل (WMDs). وقد تم استكشاف مفهوم مماثل في الحوارات الدولية حول سلامة الذكاء الاصطناعي ونُشر لاحقًا في بيان بكين.
لا تهدف هذه الخطوط الحمراء إلى أن تكون شاملة لجميع أشكال السلوك غير المرغوب فيه من قبل أنظمة الذكاء الاصطناعي. من خلال وضع حدود سلوكية واضحة، يمكن أن تكون الخطوط الحمراء نقطة انطلاق حاسمة لتعريف السلوكيات غير المقبولة في الذكاء الاصطناعي، وتأسيس قاعدة لبناء أنظمة ذكاء اصطناعي آمنة ومفيدة بشكل مثبت.
هناك العديد من الفرص والتحديات المرتبطة بتحديد والامتثال وإنفاذ الخطوط الحمراء السلوكية للذكاء الاصطناعي. هنا نسلط الضوء على أمثلة رئيسية، والخصائص المرغوبة لهذه الخطوط، والآليات اللازمة لضمان التزام أنظمة الذكاء الاصطناعي بهذه الحدود الحاسمة.
تحديد الخطوط الحمراء السلوكية
تنقسم الخطوط الحمراء إلى فئتين رئيسيتين: استخدامات غير مقبولة للذكاء الاصطناعي وسلوكيات غير مقبولة للذكاء الاصطناعي.
الاستخدامات غير المقبولة للذكاء الاصطناعي ترتبط بالقيود المفروضة على كيفية استغلال البشر لتقنيات الذكاء الاصطناعي. على سبيل المثال، يفرض قانون الذكاء الاصطناعي التابع للاتحاد الأوروبي قيودًا على كيفية استخدام البشر لأدوات المراقبة بالفيديو المعتمدة على الذكاء الاصطناعي.
السلوكيات غير المقبولة للذكاء الاصطناعي هي الأفعال التي لا يجوز لأنظمة الذكاء الاصطناعي اتخاذها، بغض النظر عما إذا كانت هذه الأفعال تخدم طلبًا بشريًا أم لا. على سبيل المثال، لا يجوز لنظام ذكاء اصطناعي مستقل القيام بمراقبة غير لائقة عبر كاميرات الويب، حتى لو كان ذلك يساعد في تلبية طلب بشري مشروع للحصول على المساعدة.
تختلف آليات الحوكمة لهاتين الفئتين بشكل ما. فالحوكمة الخاصة بخطوط الحمراء المرتبطة بالاستخدام، مثل القيود الأخرى المفروضة على السلوك البشري، تُفرض عادةً بأثر رجعي، مع فرض عقوبات على الانتهاكات. أما الحوكمة المتعلقة بالخطوط الحمراء السلوكية، مثل القيود الأخرى المفروضة على الأنظمة التكنولوجية، فقد تتضمن مزيجًا من التدابير الاستباقية (مثل متطلبات التصميم) والتدابير اللاحقة، اعتمادًا على مدى خطورة الضرر وإمكانية منعه.
تعد الخطوط الحمراء السلوكية مهمة بشكل خاص لمعالجة الأضرار غير المقصودة الناشئة عن أنظمة الذكاء الاصطناعي التي يمكنها العمل والتأثير في العالم الحقيقي بدرجات أعلى من الاستقلالية. من خلال تحديد هذه السلوكيات غير المقبولة ومنعها، يمكن لأصحاب المصلحة إنشاء أساس لنظام بيئي أكثر أمانًا للذكاء الاصطناعي، مع تشجيع تطوير أدوات لمراقبة الامتثال وإنفاذه.
خصائص الخطوط الحمراء
يجب أن تتمتع الخطوط الحمراء الأكثر فاعلية وقابلية للتنفيذ بثلاث خصائص رئيسية:
- الوضوح: يجب أن يكون السلوك المحظور محددًا بشكل جيد وقابلاً للقياس.
- عدم القبول الواضح: يجب أن تشكل الانتهاكات أضرارًا جسيمة وأن تتماشى بوضوح مع المعايير المجتمعية للسلوك غير المقبول.
- الشمولية: يجب أن تُطبّق الخطوط الحمراء باستمرار عبر السياقات والمناطق الجغرافية والفترات الزمنية.
لكي تحقق الخطوط الحمراء التأثير المطلوب في تعزيز معايير سلامة الذكاء الاصطناعي، يجب أيضًا أن تتضمن تحديات امتثال غير تافهة – أي أنها يجب أن تتجاوز مجرد مرشحات الإخراج البسيطة، على سبيل المثال. وهذا يعني الحاجة إلى ضمانات أكثر شمولاً، مثل المراقبة على مستوى النظام، والاختبار الصارم، والتدابير القابلة للإنفاذ لضمان تصرف الذكاء الاصطناعي على النحو المنشود في المواقف الحرجة.
أمثلة على الخطوط الحمراء المحتملة
استكشفنا مجموعة واسعة من الخطوط الحمراء السلوكية المحتملة. جميع الأمثلة المذكورة أدناه تتضمن سلوكيات غير مرغوب فيها بوضوح، ولكن كما نناقش، قد لا تستوفي جميعها الخصائص المرغوبة المذكورة أعلاه.
- لا للاستنساخ الذاتي
- لا لاختراق الأنظمة الحاسوبية
- لا لتقديم المشورة بشأن أسلحة الدمار الشامل
- لا للهجمات الجسدية المباشرة على البشر
- لا لانتحال صفة الإنسان
- لا لتشويه سمعة الأشخاص الحقيقيين
- لا للمراقبة غير المصرح بها
- لا لنشر المعلومات الخاصة
- لا للأفعال التمييزية
هناك العديد من الجوانب الرمادية في بعض هذه الخطوط الحمراء، مما يعكس تعقيد وضع معايير موحدة عبر مختلف النظم القانونية والثقافية.
الامتثال والإنفاذ
يتطلب ضمان امتثال أنظمة الذكاء الاصطناعي للخطوط الحمراء السلوكية نهجًا شاملاً يجمع بين آليات الامتثال وأدوات الإنفاذ.
- الامتثال الاستباقي (Ex-ante) يشمل التدابير التي تُطبق قبل نشر نظام الذكاء الاصطناعي، مثل التسجيل، والترخيص، وشهادات الأمان.
- الامتثال اللاحق (Ex-post) يشمل فرض عقوبات بعد أن ينتهك نظام الذكاء الاصطناعي الخطوط الحمراء المحددة، مثل الغرامات والمسؤوليات القانونية.
- المراقبة المستمرة تلعب دورًا محوريًا في الكشف عن الانتهاكات في الوقت الفعلي من خلال التدقيقات التلقائية والإشراف البشري.
الخطوط الحمراء لمستقبل أكثر أمانًا
لا يزال النهج الحالي لسلامة الذكاء الاصطناعي يعتمد في الغالب على معالجة المخاطر بعد ظهورها. ومع ذلك، قد يكون هذا النهج غير كافٍ مع تقدم الذكاء الاصطناعي نحو مستويات أعلى من الاستقلالية. يمكن للخطوط الحمراء السلوكية أن تساهم في تشجيع التحول إلى نموذج استباقي يُركز على ""السلامة في التصميم""، بما يضمن مزيدًا من التنبؤ، والتحقق، والتعاون التنظيمي عبر مختلف الولايات القضائية.
ساهم الأعضاء التالية أسماؤهم من المجلس العالمي لمستقبل الذكاء الاصطناعي في هذا المقال:
ستيوارت راسل (جامعة كاليفورنيا، بيركلي)، إيدسون بريستس (جامعة ريو غراندي دو سول الفيدرالية، البرازيل)، موهان كانكانهالي (جامعة سنغافورة الوطنية)، جيبو إلياس (مؤسسة موزيلا)، كونستانزا غوميز مونت (C Minds)، فيلاس دهار (منتدى الاقتصاد العالمي)، أدريان ويلر (جامعة كامبريدج ومعهد آلان تورينغ)، باسكال فونغ (جامعة هونغ كونغ للعلوم والتكنولوجيا)، كريم بيجير (المؤسس المشارك والرئيس التنفيذي لشركة InstaDeep).
