- في الوقت الذي يتزايد فيه استخدام وكلاء الذكاء الاصطناعي لتنفيذ الهجمات السيبرانية، يمكن أيضاً توظيفهم دفاعياً لفحص الأنظمة من منظور المهاجمين.
- تحتاج أدوات المسح القائمة على الوكلاء الذكيين إلى قدر كافٍ من الحرية لاستكشاف بيئات الأمن السيبراني، مع العمل ضمن حدود واضحة تحدد نطاق هذا الاستكشاف.
- لا يمكن لاختبارات الأمن الذاتية أن تكون خالية تماماً من المخاطر، لكن الشركات لا تستطيع تجاهل التهديد الذي تمثله وكلاء الذكاء الاصطناعي.
ناقشتُ مؤخراً موضوع المسح القائم على الوكلاء الذكيين مع العديد من كبار مسؤولي أمن المعلومات وكبار مسؤولي المعلومات. ونادراً ما أسمع منهم شكوكاً حول الحاجة إليه، لكن ما أسمعه باستمرار هو القلق بشأن المخاطر.
يعتمد المسح القائم على الوكلاء الذكيين على استخدام وكلاء ذكاء اصطناعي لاستكشاف بيئة ما من منظور المهاجم، وربط ما يكتشفونه بالثغرات المعروفة والمعلومات الاستخباراتية الخارجية، ثم التحقق من مسارات الهجوم التي يُرجح أن تكون قابلة للاستغلال.
لكن إلى أي مدى ينبغي أن نمنح أداة المسح القائمة على الوكلاء الذكيين استقلالية لاختبار بيئة تشغيل فعلية؟ وإلى أي مدى ينبغي أن تذهب لإثبات أن مسار الهجوم حقيقي؟ وماذا يحدث إذا ارتكبت خطأ؟ وكيف نضمن ألا تتسبب في إلحاق الضرر بالبيئة التي نحاول حمايتها؟
هذه مخاوف مشروعة. وقد راودتنا الأسئلة نفسها تماماً عندما بدأنا استخدام هذا النوع من المسح. لكن الانتظار هو أيضاً قرار، وله مخاطره الخاصة.
فنحن نشهد بالفعل استخدام وكلاء الذكاء الاصطناعي من جانب المهاجمين. ففي الهجوم الأخير الذي استهدف أنظمة حكومية تايوانية، استُخدمت وكلاء ذكاء اصطناعي خاضعة لسيطرة المهاجمين لرسم خريطة الأنظمة، والعثور على نقاط الضعف، وتنفيذ جزء كبير من الهجوم بصورة ذاتية.
وهذا يغيّر طبيعة النقاش. يستطيع المهاجمون استخدام الذكاء الاصطناعي للبحث باستمرار عن طريقة لاختراق الأنظمة. لذلك يحتاج المدافعون إلى القدرة نفسها لفحص بيئاتهم أولاً، لكن مع العمل وفق قواعد مختلفة تماماً.
الاحتفاظ بأدوات المسح التي نستخدمها بالفعل
نحن نفحص بيئاتنا بحثاً عن الثغرات منذ سنوات، وينبغي أن نستمر في ذلك. فماسحات الثغرات التقليدية تكشف بصورة منهجية الثغرات المعروفة، والتحديثات الأمنية المفقودة، ومشكلات الإعداد والتهيئة.
ويمكن للمسح القائم على الوكلاء الذكيين العمل على قائمة الأصول نفسها، لكنه يطرح سؤالاً مختلفاً.
يسأل الماسح التقليدي: ما الذي يحتوي على ثغرات؟
أما الماسح القائم على الوكلاء الذكيين فيسأل: ماذا يمكنني أن أفعل بهذه الثغرات؟
فهو يستكشف البيئة من منظور المهاجم، ويجرّب مسارات مختلفة، ويتكيف عندما لا ينجح أحدها. كما يمكنه اكتشاف الطريقة التي يمكن بها الجمع بين عدة نقاط ضعف لتشكيل مسار هجوم قابل للاستغلال.
نحن بحاجة إلى النهجين معاً: تغطية منهجية لما نعرف أننا بحاجة إلى البحث عنه، إلى جانب رؤية من منظور المهاجم لما يمكن استغلاله فعلياً.
امنح أداة المسح منظور المهاجم، لا حرية المهاجم
لا يبدأ المهاجم عمله بمجرد عنوان بروتوكول إنترنت. فقبل أن يتعامل مع أنظمتنا، قد يكون قد جمع بالفعل الكثير من المعلومات عنا، مثل أصولنا المتاحة خارجياً، والتقنيات التي نستخدمها، والمعلومات المنشورة للعموم، وربما معلومات من اختراقات سابقة أو من منتديات سرية.
وينبغي لأداة المسح القائمة على الوكلاء الذكيين أن تعمل باستخدام السياق نفسه ذي الصلة. فإذا كانت هناك معلومة متاحة للمهاجم، فعلينا أن نفترض أنه سيستخدمها.
لكن الاختلاف يكمن فيما يحدث بعد ذلك. فالمهاجمون لا يحتاجون إلى القلق بشأن تعطيل بيئات التشغيل لدينا، أما نحن فعلينا ذلك.
لذلك تحتاج أداة المسح القائمة على الوكلاء الذكيين إلى قدر كافٍ من الحرية لاستكشاف مسار الهجوم والتحقق منه، إلى جانب حدود واضحة تحدد إلى أي مدى يمكن أن يصل هذا الاستكشاف. كما يجب أن تُفرض بعض هذه الحدود تقنياً. فمجرد مطالبة نموذج بألا ينفذ إجراءً مدمراً لا يساوي جعل تنفيذ هذا الإجراء مستحيلاً من الناحية التقنية.
أقصى قدر من الثقة بأقل قدر من المخاطر
قادنا استخدامنا للمسح القائم على الوكلاء الذكيين إلى مبدأ بسيط: تحقيق أقصى قدر من الثقة بأقل قدر ممكن من المخاطر. ويعني ذلك عملياً: الاستكشاف على نطاق واسع، والتحقق بأمان، والاستغلال بالحد الأدنى، والتوقف بمجرد إثبات مسار الهجوم.
فإذا أثبتت أداة المسح أنها قادرة على الحصول على صلاحيات أعلى، فلا يوجد سبب يدفعها إلى استكشاف كل ما تسمح به تلك الصلاحيات. وإذا أصبحت البيانات الحساسة قابلة للوصول، فينبغي أن يكون إثبات إمكانية الوصول إليها كافياً. فالاستمرار في الهجوم يزيد المخاطر من دون أن يضيف قدراً كبيراً من الأدلة المفيدة.
أفضل أداة مسح قائمة على الوكلاء الذكيين ليست تلك التي تصل إلى أبعد نقطة، بل التي تعرف متى تكون قد ذهبت بعيداً بما يكفي. وهذا المبدأ مهم لأن الاختبارات الأمنية الذاتية لن تكون خالية تماماً من المخاطر أبداً. وينبغي أن يتمثل الهدف في جمع ما يكفي من الأدلة لاتخاذ قرار أمني، من دون زيادة المخاطر على البيئة التي يجري اختبارها بشكل غير ضروري.
من تجربة إلى قدرة أمنية
لا يزال المسح القائم على الوكلاء الذكيين في مرحلة التطور والنضج. ففي المراحل الأولى، واجهنا عدداً كبيراً من النتائج التي لم تصمد عند التحقق منها عملياً، لكن تحسين المعرفة العملية بأساليب الاختراق، وتوفير سياق أكثر ثراءً، وتعزيز عمليات التحقق، كلها عوامل حسّنت النتائج، بينما ساعدتنا الحدود الواضحة على إدارة المخاطر التي تتعرض لها بيئات التشغيل بحذر.
ولا تحتاج المؤسسات إلى تطوير هذه القدرة بنفسها. فهناك اليوم حلول تجارية ومفتوحة المصدر للمسح القائم على الوكلاء الذكيين. وهذا المجال ينتقل من كونه تجربة في البحث والتطوير إلى قدرة أمنية يمكن للمؤسسات تقييمها واعتمادها.
ولا ينبغي أن يكون المقياس الأساسي للتقدم هو مدى استقلالية هذه الأنظمة، بل مدى قدرتها على تحديد مسارات الهجوم القابلة للاستغلال وإثباتها بشكل موثوق، مع الالتزام بالحدود التي نضعها لها.
لا يمكننا أن نختار عدم البحث
توجد حالة من عدم التوازن في جوهر هذه المشكلة. فالمهاجمون يستطيعون التركيز على العثور على طريقة للدخول، بينما يتعين على المدافعين العثور على المسار نفسه من دون الإضرار بالبيئة التي يحمونها. وهذا يجعل مهمتنا أكثر صعوبة، لكنه لا يجعل عملية البحث أمراً اختيارياً.
ومع منح الذكاء الاصطناعي للمهاجمين القدرة على استكشاف البيئات بشكل أسرع وبمستويات أكبر من الاستقلالية، تحتاج فرق الأمن إلى أن تصبح استباقية بالقدر نفسه. ويتطلب ذلك قبول قدر من المخاطر الخاضعة للرقابة، ووضع حدود قوية حول الاختبارات الذاتية، والتعلم المستمر لتحديد أين ينبغي أن تقع هذه الحدود.
كيف يساعد المنتدى القادة على فهم المخاطر السيبرانية وتعزيز المرونة الرقمية
يوفر مركز الأمن السيبراني منصة موثوقة يجتمع من خلالها القادة لفهم المخاطر السيبرانية المتطورة وتداعياتها على الأنظمة والمجتمعات. ويركز المركز على بناء الفهم والثقة في عالم رقمي يتزايد فيه الترابط.
ومن خلال تمكين التعاون بين مختلف القطاعات وتبادل الرؤى والخبرات، يساعد المركز شركاءه على تعزيز المرونة السيبرانية والتعامل مع التحديات التي تتطلب استجابات جماعية.
يمنحنا المسح القائم على الوكلاء الذكيين شيئاً ذا قيمة كبيرة: القدرة على رؤية بيئتنا بعيون المهاجم قبل وقوع الهجوم. وينبغي أن نستفيد من هذا المنظور، مع الحفاظ على السيطرة الكاملة على ما يحدث بعد ذلك.
لأن مسار الهجوم القابل للاستغلال لا يختفي لمجرد أننا قررنا عدم البحث عنه. فقد يعثر عليه شخص آخر ببساطة قبلنا.
