الثقة الصفرية والمساءلة الواضحة: المعيار الجديد للأمن السيبراني في عصر الذكاء الاصطناعي

• يجب أن تتطور أطر الأمن السيبراني التقليدية لتتعامل مع الذكاء الاصطناعي باعتباره قضية أمن دولي تتطلب مستويات أعلى من التحكم في المخاطر والمساءلة.
• يشمل مفهوم «إساءة استخدام الذكاء الاصطناعي»، الذي يجري الحديث عنه على نطاق واسع، ثلاثة مخاطر حرجة ومختلفة لا يزال مطورو هذه الأنظمة يواجهون صعوبة في السيطرة عليها.
• لا يمكن للمؤسسات الانتظار حتى تلحق السياسات بالتطورات، بل عليها إدارة الذكاء الاصطناعي بصورة استباقية استناداً إلى مبادئ «الثقة الصفرية».

أثارت الاستقالة الأخيرة للباحث المؤثر في مجال الذكاء الاصطناعي جاكوب كوكسان من شركة أنثروبيك، والمنشور الذي انتشر على نطاق واسع وحذّر فيه من التهديد الذي قد يشكله الذكاء الاصطناعي على البشرية، موجة جديدة من القلق. لكن هذه لم تكن أول إشارة تحذير بشأن المخاطر الوجودية المرتبطة بالذكاء الاصطناعي. فقد أثبتت حوادث أمنية، مثل حادثة منصة «هاغينغ فيس»، أن أنظمة الذكاء الاصطناعي قد تسعى لتحقيق أهدافها بطرق لم يقصدها مطوروها أو يتوقعوها. ويُعد سوء سلوك الذكاء الاصطناعي وإساءة استخدامه من المخاطر الحقيقية التي ينبغي علينا التعامل معها.

غالباً ما يُستخدم مصطلح «إساءة استخدام الذكاء الاصطناعي» بصورة عامة، لكنه يشير في الواقع إلى ثلاثة سيناريوهات مختلفة تستحق التوضيح:

استغلال البشر للذكاء الاصطناعي: في الهجمات التي كانت تتطلب سابقاً خبرة تقنية عالية، تخفض النماذج المتقدمة عتبة الدخول، ما يمكّن جهات تهديد محدودة الخبرة من تنفيذ عمليات اختراق واحتيال وجرائم إلكترونية.

خروج نماذج الذكاء الاصطناعي عن نطاق المختبرات: قد يبدو هذا السيناريو وكأنه مأخوذ من فيلم تجسس؛ فعندما شاركت شركة «أوبن إيه آي» في مساعدة منصة «هاغينغ فيس» للذكاء الاصطناعي على التحقيق في اختراق أمني تعرضت له، اكتشفت أن أحد نماذجها كان يقف وراء الحادثة.

السعي وراء الهدف الخاطئ: ليست جميع وكلاء الذكاء الاصطناعي الذين يسيئون التصرف خبيثة؛ فكثير منها يعمل ببساطة على تحسين المقاييس التي يتم تقييمه وفقاً لها، بدلاً من السعي إلى تحقيق النتائج التي أرادها مصمموه فعلياً.

التركيز على الاتجاه العام لا على الأمثلة

يشير المتشككون إلى الحالات التي سعت فيها أنظمة الذكاء الاصطناعي إلى تحقيق هدف خاطئ، ويقولون إن الوكيل تعرّض للتضليل دون قصد، وإن المخاوف المحيطة بالذكاء الاصطناعي مبالغ فيها ببساطة. وفي المقابل، يستشهد المتخوفون ببعض نتائج اختبارات السلامة لإثبات وجهة نظرهم.

فعلى سبيل المثال، وفي إطار تقييم للأمن السيبراني، مُنح أحد نماذج الذكاء الاصطناعي وصولاً مفتوحاً إلى الإنترنت من دون أي ضوابط أمنية. واستغل النموذج هذا النطاق الواسع من الوصول، فمرّر حركة البيانات عبر شبكة «تور» التي توفر إخفاء الهوية، وتواصل مع أشخاص ومؤسسات حقيقية خارج نطاق الاختبار. كما أرسل ملفات تحتوي على مواد ضارة، وزرع تعليمات لكي تعثر عليها وكلاء ذكاء اصطناعي أخرى وتعيد استخدامها لاحقاً.

ورغم صحة القول إن الظروف المستخدمة في مثل هذه الاختبارات لا تعكس الطريقة التي تُطرح بها هذه النماذج فعلياً أمام الجمهور، فإنها تمثل تحديداً الحالة التي يسعى المهاجمون إلى إيصال نموذج الذكاء الاصطناعي إليها. فهم يسرقون مفاتيح واجهات برمجة التطبيقات لتجاوز قيود الاستخدام، وينسخون نموذجاً مفتوحاً ثم يعيدون تدريب نسخة أصغر منه، في عملية تُعرف باسم «التقطير»، مع إزالة سلوكيات السلامة منه، كما يكتبون تعليمات للتحايل على القيود وإقناع النموذج بتجاوز حالات الرفض الخاصة به.

وسوف يستمر الجدل بين المتشككين والمتخوفين، لكن ما لا يمكن إنكاره هو أن أنظمة الذكاء الاصطناعي باتت تنفذ إجراءات تثير قلق مطوريها أنفسهم، في وقت أصبحت فيه وتيرة تطور نماذج الذكاء الاصطناعي أكثر صعوبة من حيث التنبؤ بها.

ثلاثية CIA تحتاج إلى حرف A ثانٍ

لطالما ارتكز الأمن السيبراني على ثلاثة مبادئ أساسية يُشار إليها اختصاراً بـCIA: السرية، والنزاهة، والتوافر، أي ضمان بقاء الأنظمة والبيانات متاحة وقابلة للاستخدام عند الحاجة إليها. لكن مع تزايد انتشار تطبيقات الذكاء الاصطناعي، حان الوقت لإضافة حرف A ثانٍ، يرمز إلى «المساءلة».

يمكن النظر إلى الأمر من خلال الحدود الصارمة الموضوعة حول بعض أوجه التقدم العلمي، مثل الاستنساخ البشري. فالعلم الأساسي يجعل هذا الأمر ممكناً، لكن من المفترض ألا يتم تنفيذ هذه العملية عملياً. وقد يكون الامتناع الطوعي عن بعض مسارات تطوير الذكاء الاصطناعي أحد السبل الممكنة للمضي قدماً، إلا أن بعض مختبرات الذكاء الاصطناعي لا تنظر إلى هذا النهج بإيجابية. فهي ترى أن القيود الطوعية لا يمكن أن تصمد أمام الضغوط التنافسية بين الشركات والدول. ومن ثم، لا ينبغي أن تكون المساءلة اختيارية، بل يجب أن تُبنى في الأنظمة بصورة مقصودة وأن تُفرض بوضوح.

يجب النظر إلى انتشار الذكاء الاصطناعي في مختلف جوانب الحياة والأعمال باعتباره قضية أمن دولي. إذ تستخدم جهات التهديد الذكاء الاصطناعي لمهاجمة الهيئات الحكومية، وشركات الصناعات الدفاعية، والبنية التحتية الحيوية، ما يوفر مبرراً قوياً لاتخاذ إجراءات على المستوى الفيدرالي بدلاً من الاعتماد على مجموعة متفرقة من القواعد واللوائح.

ومن الأفكار التي تتكرر كثيراً في النقاشات فكرة «مفتاح الإيقاف»، الذي يقوم بإغلاق النموذج قبل أن يبدأ في التصرف بصورة غير سليمة. وقد يبدو ذلك جيداً من الناحية النظرية، لكن في سيناريوهات العالم الحقيقي قد تمر الحوادث دون اكتشاف لأشهر. وبحلول الوقت الذي يضغط فيه شخص ما على مفتاح الإيقاف، قد يكون الضرر قد وقع بالفعل.

لذلك ينبغي أن تركز إجراءات الحد من المخاطر على الإبلاغ الإلزامي عن الحوادث، وإجراء تقييمات مستقلة، ووضع معايير للاحتواء، وفرض قواعد صارمة لحماية أوزان النماذج ومفاتيح واجهات برمجة التطبيقات.

لا تنتظروا حتى تلحق السياسات بالتطورات

في الوقت الذي لا تزال فيه السياسات قيد الصياغة، لا ينبغي للمؤسسات انتظارها حتى تلحق بالتطورات، بما قد يعرّضها لسيناريوهات كارثية. وينبغي أن تبدأ بعدم التعامل مع الذكاء الاصطناعي باعتباره مجرد برنامج تقليدي. بل يجب التفكير فيه كما لو كان عنصراً رقمياً داخلياً لديه أهدافه ودوافعه الخاصة. ويمكن اتخاذ الخطوات التالية:

يجب تطبيق المبادئ الأساسية لنموذج «الثقة الصفرية» على الذكاء الاصطناعي، وهي افتراض حدوث الاختراق، وعدم منح الثقة بصورة افتراضية، ومنح الحد الأدنى فقط من صلاحيات الوصول الضرورية. افترض أن وكيل الذكاء الاصطناعي سيتصرف، في مرحلة ما، في نطاق لا ينبغي له العمل فيه. ولا تمنح الوكيل صلاحيات وصول دائمة لمجرد أنه اجتاز المصادقة مرة واحدة، بل ضيّق نطاق صلاحياته إلى أقصى حد ممكن.

لا تفترض أن تسجيل الدخول الصحيح يعني أن الإجراء آمن، ولا تجعل ثقتك في نظام الذكاء الاصطناعي قائمة فقط على امتلاكه بيانات الاعتماد الصحيحة. يجب تقييم كل إجراء ينفذه الذكاء الاصطناعي على حدة. ويمكن التفكير في ذلك من منظور اكتشاف الاحتيال؛ فتسجيل شخص الدخول إلى حساب مصرفي باستخدام اسم المستخدم وكلمة المرور الصحيحين قد لا يثير أي إنذار، لكن إذا أضاف الحساب نفسه مستفيداً جديداً في دولة أخرى، ثم نفذ مباشرة تحويلاً مصرفياً إليه، فسيكون ذلك مؤشراً يثير الشبهة.

تجنّب الاعتماد على تعليمات احتمالية مثل «لا يُسمح لك بحذف الملفات» عندما تكون هذه التعليمات موجودة داخل النموذج نفسه وتعتمد على تقديره الخاص. فالمهاجمون المصممون على تجاوز القيود يستطيعون الالتفاف عليها. بدلاً من ذلك، استخدم ضوابط صارمة تتضمن قيوداً تقنية تُفرض من خارج النموذج. وتشمل هذه الضوابط تقسيم الشبكات، وبيانات الاعتماد محدودة النطاق، والعزل في بيئات محمية، وفرض حدود على معدلات الاستخدام، بما يساعد على تقليص نطاق الضرر المحتمل.

يتعين على المدافعين تقليص الإطار الزمني لاستجابتهم بما يتناسب مع السرعة الآلية للهجمات. ويجب أن تتم عمليات التصحيح والكشف والتخفيف والوقاية في الوقت الفعلي، لا ضمن دورة مراجعة فصلية. كما ينبغي تطبيق وتسريع دورة OODA، التي تشمل «المراقبة، والتوجيه، واتخاذ القرار، والتنفيذ»، عبر كل جهاز ومستخدم وتطبيق سحابي.

تستحق التحذيرات المحيطة بالذكاء الاصطناعي اهتماماً جدياً. لكن التعامل معها بجدية يعني إنشاء إطار يتمتع بالقدرة على الصمود أمام مخاطر الذكاء الاصطناعي، ويكون مصمماً للتعامل مع تحذيرات اليوم والمستقبل.

المصدر