مع تزايد قدرات أنظمة الذكاء الاصطناعي وتغلغلها العميق في حياتنا اليومية، تتصاعد في المقابل المخاطر والأضرار التي قد تنتج عنها. وتُظهر أمثلة حديثة مدى إلحاح هذا التحدي: فقد أسهمت الأنظمة متعددة الوسائط القوية في انتشار واسع لعمليات الاحتيال والخداع، كما أتاحت الوكلاء الاصطناعيون الذين باتوا أكثر شبهًا بالبشر أشكالًا جديدة من التلاعب وخلق التبعية، مع آثار خطيرة بشكل خاص على الأطفال. كذلك أظهرت بعض النماذج سلوكيات خادعة، بل وحتى مقاومة لمحاولات إيقافها أو تعديلها.
ومن دون وجود خطوط حمراء واضحة وقابلة للتنفيذ تحظر استخدامات وسلوكيات محددة وغير مقبولة للذكاء الاصطناعي، فإن الأضرار الناتجة قد تصبح واسعة النطاق، ولا رجعة فيها، ومزعزِعة للاستقرار.
يتنامى اليوم إجماع دولي حول هذه الإشكالية. فقد دعا كبار علماء الذكاء الاصطناعي في الحوار الدولي حول سلامة الذكاء الاصطناعي (IDAIS) إلى اعتماد “خطوط حمراء”، كما أظهرت مشاورات قمة العمل حول الذكاء الاصطناعي واستطلاع رأي للمجتمع المدني، شارك فيه آلاف المواطنين والخبراء، أولوية الحاجة إلى “خطوط حمراء واضحة وقابلة للتنفيذ للذكاء الاصطناعي المتقدم”. وحتى كبرى شركات التكنولوجيا والمنتديات الدولية، مثل قمة سيول لسلامة الذكاء الاصطناعي، أقرت بأهمية تحديد عتبات مشتركة للمخاطر غير المقبولة. كما شدد “توافق سنغافورة حول أولويات أبحاث سلامة الذكاء الاصطناعي” على أهمية “الخطوط الحمراء التقنية” أو “عتبات المخاطر”.
وفي هذا السياق، أُطلقت في 22 سبتمبر 2025 مبادرة “النداء العالمي لوضع خطوط حمراء للذكاء الاصطناعي”، التي تحث الحكومات على التوصل إلى اتفاق سياسي دولي حول هذه الخطوط بحلول نهاية عام 2026. وقد حظيت المبادرة بتوقيع تحالف غير مسبوق يضم أكثر من 50 منظمة وأكثر من 200 شخصية بارزة، من بينهم رؤساء دول ووزراء سابقون، وحائزون على جوائز نوبل وتورينغ، ورواد في مجال الذكاء الاصطناعي، وعلماء بارزون، وخبراء في حقوق الإنسان.
وكخلفية مفاهيمية لهذا التوجه، تستعرض سلسلة “الخطوط الحمراء العالمية للذكاء الاصطناعي” المكوّنة من ثلاثة أجزاء ماهية هذه الخطوط وأهميتها، وأين بدأت تتشكل، وكيف يمكن إنفاذها على المستوى العالمي. ويأتي هذا المقال التكميلي ليُلخّص أبرز الأفكار الواردة في السلسلة، مع التركيز على ركيزتين أساسيتين لتحويل الخطوط الحمراء إلى واقع عملي:
تحديد خطوط حمراء دقيقة وقابلة للتحقق لأنظمة الذكاء الاصطناعي.
إنشاء آليات فعالة للامتثال والرقابة.
كيف تعمل الخطوط الحمراء للذكاء الاصطناعي
ماذا نعني بالخطوط الحمراء؟
تُعرّف السلسلة التوضيحية الخطوط الحمراء في حوكمة الذكاء الاصطناعي بأنها محظورات محددة وغير قابلة للتفاوض على سلوكيات أو استخدامات معينة للذكاء الاصطناعي تُعد خطيرة للغاية، أو عالية المخاطر، أو غير أخلاقية ولا يجوز السماح بها. وتهدف هذه الحدود إلى حماية بقاء البشرية وأمنها وحريتها.
وتعمل الخطوط الحمراء كأداة حوكمة تحدد المخاطر غير المقبولة، ويجب أن تتطلب إثباتًا مسبقًا بأن أنظمة الذكاء الاصطناعي لن تتجاوزها. وهي ذات طبيعة وقائية، إذ تستلزم هندسة سلامة صارمة، واختبارات، وعمليات تحقق قبل النشر، بدل الاكتفاء بمعاقبة الانتهاكات بعد وقوعها. فرغم أن المسؤولية القانونية والغرامات أو حتى العقوبات الجنائية قد تعالج بعض الأضرار، فإنها لا تكفي لردع سلوكيات قد تؤدي إلى فقدان لا رجعة فيه للسيطرة البشرية.
وعلى الرغم من أن الخطوط الحمراء ليست حلًا شاملًا لجميع مخاطر الذكاء الاصطناعي، فإن التعاون الدولي لتطبيقها يظل أمرًا حاسمًا لضمان حماية البشرية والحفاظ على سيطرة بشرية ذات معنى على أنظمة تزداد قوة وتعقيدًا.
فئتان: استخدامات غير مقبولة وسلوكيات غير مقبولة
لفهم الخطوط الحمراء، لا بد من التمييز بين طريقتين:
استخدامات غير مقبولة يقوم بها البشر عبر أنظمة الذكاء الاصطناعي.
سلوكيات غير مقبولة قد تصدر عن أنظمة الذكاء الاصطناعي نفسها نتيجة عيوب في التصميم.
أولًا: خطوط حمراء للاستخدامات غير المقبولة
وهي تحظر تطبيقات ضارة أو غير أخلاقية، وتستهدف الجهات التي تنشر أو تستخدم أنظمة الذكاء الاصطناعي.
أمثلة:
حظر استخدام الذكاء الاصطناعي في المراقبة الجماعية في الأماكن العامة.
حظر إنتاج مواد الاعتداء الجنسي على الأطفال (CSAM) بواسطة الذكاء الاصطناعي.
حظر انتحال الشخصية باستخدام الذكاء الاصطناعي لما يتيحه من احتيال وتلاعب وإضرار بالسمعة.
ثانيًا: خطوط حمراء للسلوكيات غير المقبولة
وتُطبق مباشرة على تصميم النظام نفسه، بحيث يُمنع الذكاء الاصطناعي، بطبيعته، من القيام بأفعال معينة، حتى لو طُلب منه ذلك صراحة.
أمثلة:
إلزام الأنظمة بعدم تنفيذ أي شكل من أشكال المراقبة العامة، حتى عند وجود تعليمات من المستخدم.
إلزام الأنظمة برفض أي طلبات تتعلق بالمساعدة في تسليح بيولوجي.
إلزام الأنظمة بعدم ادعاء أنها بشر أو أنها تمتلك وجودًا ماديًا.
وتشبه هذه الخطوط الحمراء أنظمة الأمان المصممة لمنع الكوارث في محطات الطاقة النووية أو حوادث الطيران، إذ تهدف إلى منع سلوكيات غير مقبولة عبر التصميم ذاته، وليس فقط عبر الامتثال البشري.
الخطوط الحمراء للذكاء الاصطناعي على أرض الواقع
لم تعد الخطوط الحمراء فكرة نظرية، بل بدأت تتجسد عبر تشريعات وقواعد مرنة والتزامات طوعية من الدول والشركات.
مبادرات حكومية
قانون الذكاء الاصطناعي في الاتحاد الأوروبي الذي يحدد فئة “المخاطر غير المقبولة” ويحظر استخدامات مثل التلاعب اللاشعوري، واستغلال الفئات الضعيفة، والتصنيف البيومتري العشوائي، والتقييم الاجتماعي.
تشريعات على مستوى الولايات في الولايات المتحدة، مثل قوانين تكساس ونيويورك وكاليفورنيا، التي تستهدف حظر التلاعب بالأطفال، والتزييف العميق غير القانوني، وانتهاك الحقوق الدستورية.
مشروع قانون الذكاء الاصطناعي في البرازيل الذي يقترح حظر الاستغلال الاجتماعي وأنظمة التقييم الاجتماعي والأسلحة ذاتية التشغيل.
إطار حوكمة سلامة الذكاء الاصطناعي في الصين الذي يحدد فئات عالية المخاطر ويوصي بتجنبها أو تقييدها بشدة.
أطر متعددة الأطراف
اتفاقية مجلس أوروبا بشأن الذكاء الاصطناعي التي تركز على توافق الأنظمة مع حقوق الإنسان.
قمة سيول لسلامة الذكاء الاصطناعي التي دعت إلى تحديد عتبات للمخاطر لا يجوز تجاوزها دون تخفيف فعال.
عملية هيروشيما للذكاء الاصطناعي التابعة لمجموعة السبع التي شددت على حظر الأنظمة التي تقوض القيم الديمقراطية أو تسهل الإرهاب والجريمة.
توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي التي دعت صراحة إلى حظر أنظمة التقييم الاجتماعي والمراقبة الجماعية.
لماذا نحتاج إلى خطوط حمراء دولية؟
رغم التقدم، لا تزال الجهود مجزأة وغالبًا طوعية، ولا تتضمن دائمًا تعريفات دقيقة أو آليات تنفيذ قوية. ومع ذلك، فإن وضع معيار عالمي مشترك سيكون بالغ الأهمية لثلاثة أسباب رئيسية:
المخاطر عابرة للحدود: إساءة استخدام الذكاء الاصطناعي قد تؤدي إلى أزمات عالمية متسلسلة.
خطر “السباق نحو القاع”: التنافس على الريادة قد يدفع إلى التضحية بالسلامة.
الحاجة إلى الثقة العامة: لا يمكن للذكاء الاصطناعي أن يخدم المجتمع دون ثقة قائمة على قيود حقيقية وملزمة.
تحديان أساسيان لتطبيق الخطوط الحمراء عالميًا
التحدي الأول: التعريف الدقيق
لكي تكون الخطوط الحمراء فعالة، يجب أن تُعرّف بدقة تقنية تسمح باختبار الالتزام بها. وكلما كان التعريف أكثر غموضًا، زادت صعوبة التحقق والإنفاذ.
التحدي الثاني: الامتثال والرقابة
حتى مع وجود تعريفات دقيقة، يبقى السؤال: هل يستطيع المطورون إثبات أن أنظمتهم المعقدة لن تتجاوز هذه الخطوط؟ في كثير من الحالات، وخاصة مع نماذج اللغة الكبيرة، يكون الجواب غير مؤكد. وهذا يتطلب تحولًا جذريًا نحو “السلامة عبر التصميم”، بحيث تكون السلامة خاصية جوهرية للنظام، لا إضافة لاحقة.
الخطوط الحمراء كأساس لتعاون أوسع
لقد انتقلت الخطوط الحمراء للذكاء الاصطناعي من كونها فكرة نظرية إلى ضرورة عالمية. فالاتفاق الدولي على حدود غير قابلة للتجاوز سيمثل خطوة حاسمة لبناء الثقة، ومنع الأضرار الجسيمة، وتهيئة بيئة ابتكار قائمة على السلامة.
لم يعد السؤال ما إذا كنا بحاجة إلى خطوط حمراء للذكاء الاصطناعي، بل مدى السرعة التي يمكننا بها تحويل هذا الزخم إلى معايير دولية ملموسة وقابلة للتنفيذ، عبر تعاون مستدام وشامل يضمن بقاء الذكاء الاصطناعي متوافقًا مع القيم الإنسانية.
