اختبار الاختراق ذاتي التعلّم: ما هو ولماذا يهمّ أمن مؤسستك السيبراني؟

• اختبار الاختراق ذاتي التعلّم هو نهج تستخدم فيه وكلاء الذكاء الاصطناعي القادرين على التعلّم والتكيّف وإعادة الاختبار مع تطور البيئات، بهدف القضاء استباقياً على مسارات الهجوم المحتملة.
• مع ازدياد قدرة أنظمة الذكاء الاصطناعي على تنفيذ عمليات سيبرانية معقدة ومتعددة المراحل، لم تعد النوايا الحسنة أو الضوابط القائمة على التعليمات النصية وحدها كافية.
• للاستفادة من مزايا اختبار الاختراق ذاتي التعلّم، تحتاج المؤسسات إلى قدرات موثوقة للذكاء الاصطناعي تعمل محلياً، إلى جانب معايير مشتركة على مستوى القطاع بشأن التفويض والتسجيل والاستعادة والرقابة.

مع تزايد اعتماد المؤسسات على الرقمنة، أصبح تحديد نقاط الضعف القابلة للاستغلال في الأنظمة والقضاء عليها أولوية استراتيجية.

اختبار الاختراق هو ممارسة تقوم على محاكاة الهجمات السيبرانية ضد أنظمة المؤسسة بهدف تحديد نقاط الضعف الأمنية قبل أن يتمكن المهاجمون من استغلالها. وتقليدياً، كانت هذه الاختبارات تُجرى بصورة دورية ومتقطعة، كما كانت محدودة بتوافر الخبراء البشريين.

يصل فريق متخصص، ويختبر بيئة محددة، ويصدر تقريراً ثم يغادر. وفي الوقت نفسه، تستمر البيئات التقنية في التغير مع نشر شيفرات جديدة ومنح الهويات والصلاحيات مزيداً من الامتيازات. ونتيجة لذلك، قد يتحول النظام الذي اجتاز الاختبار بالأمس دون مشكلات إلى مصدر تعرض أمني غير موثق اليوم.

لقد غيّر الذكاء الاصطناعي هذا النموذج بصورة جوهرية. فالمجال الناشئ المعروف باسم اختبار الاختراق ذاتي التعلّم يتجاوز مجرد المسح الأمني الآلي إلى أنظمة تراقب البيئة، وتضع فرضيات، وتختبرها، وتتعلم من النتائج، ثم تختار مساراً جديداً للعمل.

وفيما يلي ما يحتاج مديرو الحوادث الأمنية إلى معرفته.

كيف يعمل الاختبار ذاتي التعلّم؟

يشير مصطلح «ذاتي التعلّم» إلى القدرة على التعلم بصورة مستقلة وموجّهة ذاتياً. فبينما يتبع برنامج الفحص التقليدي قائمة محددة مسبقاً من الاختبارات، يستطيع الوكيل المستقل اختيار الأداة التي سيستخدمها. أما النظام ذاتي التعلّم، فيفسر أسباب الفشل، ويحدّث فهمه للهدف، ويبتكر محاولات جديدة بناءً على ما تعلمه.

فعلى سبيل المثال، قد يكتشف النظام أن استغلال ثغرة مباشرة قد تم حظره، فيستنتج أن استخدام هوية أو حساب معيّن قد يوفّر مساراً بديلاً. ثم يختبر هذه الفرضية ويضيف النتيجة إلى مخطط الهجوم المتطور الذي يبنيه مع مرور الوقت.

وبعيداً عن هندسة التعليمات النصية والإرشادات البسيطة لاستخدام الأدوات، تحتاج وكلاء الذكاء الاصطناعي بصورة متزايدة إلى مساحة معرفية دائمة ومنظمة، أي ذاكرة مهيكلة تساعدها على التفكير عبر مهام متعددة، والتنسيق مع الوكلاء الفرعيين، والتعلم من الإجراءات السابقة، باستخدام هويات بشرية مفوضة.

لماذا يتطلب تطور مشهد التهديدات السيبرانية أنظمة ذاتية التعلّم؟

في يوليو 2026، كشفت OpenAI أن نماذج كانت تخضع لتقييم داخلي لقدراتها السيبرانية تمكنت من تجاوز القيود الموضوعة لها واختراق البنية التحتية لمنصة Hugging Face.

عثرت النماذج على ثغرة «يوم صفر» في وكيل تخزين مؤقت، أي ثغرة لم تكن معروفة سابقاً، وتمكنت من الوصول إلى الإنترنت، ثم استخدمت ذلك للحصول على امتيازات إضافية، ودمجت تقنيات متعددة في مسارات هجومية معقدة بهدف الوصول إلى هدف محمي، وهو في هذه الحالة ExploitGym.

وتوضح مثابرة هذه النماذج أن الوكلاء المتقدمين يتعاملون مع العوائق التقنية باعتبارها مشكلات يجب حلها، وليس حدوداً يتعين احترامها. كما نشرت Anthropic تفاصيل ثلاث حوادث أخرى كشفتها مراجعتها لاختبارات التقييم المعيارية في مجال الأمن السيبراني.

ويتمثل الاتجاه الأبرز في الذكاء الاصطناعي الهجومي الحديث في ما يُعرف بـ«العمليات طويلة الأفق». فبدلاً من تنفيذ مهمة واحدة فقط، يحافظ الوكيل على هدف مستمر عبر مراحل الاستطلاع والاستغلال وتصعيد الامتيازات والتحرك الجانبي داخل الأنظمة. ويمكنه التنسيق بين واجهات الأوامر، والمتصفحات، وتحليل الشيفرات المصدرية، وواجهات برمجة التطبيقات السحابية، وجمع بيانات الاعتماد، مع الاحتفاظ بقدر كافٍ من السياق والذاكرة للتعلم من الإجراءات السابقة.

لكن هذه القدرات نفسها يمكن أن تمنح المدافعين فوائد كبيرة. إذ تستطيع الأنظمة ذاتية التعلّم اختبار البنية التحتية المتغيرة بصورة مستمرة، والتحقق مما إذا كانت الثغرات المكتشفة قابلة للاستغلال فعلياً، ثم إعادة اختبار الإصلاحات بعد تنفيذها.

وبدلاً من إضافة آلاف الثغرات النظرية الأخرى إلى قائمة الثغرات الأمنية المعروفة التي لم تتم معالجتها بعد، يمكن للوكيل أن يوضح كيف قد تتفاعل عدة نقاط ضعف معاً لتشكّل مساراً فعلياً ذا أهمية للوصول إلى أصل أو هدف بالغ الحساسية.

وبذلك ينتقل التركيز من عدد النتائج أو الثغرات التي تم اكتشافها إلى عدد حالات التعرض الأمني التي تم القضاء عليها. وهذا هو ما نطلق عليه «البرمجيات ذاتية التأمين».

عيوب الضوابط المؤسسية

كشفت استجابة Hugging Face للحادثة أيضاً أن الذكاء الاصطناعي الدفاعي قد يكون مقيداً في اللحظات التي تكون الحاجة إليه فيها أكبر.

فقد استخدمت Hugging Face وكلاء مدعومين بنماذج لغوية كبيرة لتحليل 17,600 حدث مسجل، وإعادة بناء التسلسل الزمني للهجوم، وتحديد مؤشرات الاختراق، ورسم خريطة لبيانات الاعتماد المتأثرة.

وقدّم الفريق في البداية أدلة الطب الشرعي الرقمي، بما في ذلك أوامر المهاجمين، وشيفرات الاستغلال، وآثار البنية المستخدمة للقيادة والتحكم، إلى نماذج متقدمة من خلال واجهات برمجة التطبيقات التابعة لمزودي الخدمة. لكن تلك الطلبات حُظرت لأن أنظمة السلامة لم تتمكن من التمييز بصورة موثوقة بين تحقيق جنائي أو دفاعي في حادثة أمنية وبين محاولة لاختراق النظام.

وبدلاً من ذلك، قامت Hugging Face بتشغيل النموذج الصيني مفتوح الأوزان GLM-5.2 على بنيتها التحتية الخاصة. وأتاح ذلك للمستجيبين معالجة الأدلة دون رفض الطلبات، كما منع البيانات الحساسة وبيانات الاعتماد المذكورة ضمن الأدلة من مغادرة بيئة المؤسسة.

ووصفت Hugging Face هذه المشكلة بأنها حالة من عدم التماثل: إذ يستطيع المهاجمون استخدام نموذج غير مقيد أو تم تجاوز ضوابطه، في حين قد يتوقف المدافعون الذين يستخدمون نموذجاً متقدماً مستضافاً لدى مزود خدمة بسبب القيود الأمنية التي يفرضها ذلك المزود.

ومن هنا، تتمثل التوصية العملية في أن تمتلك المؤسسات مسبقاً نموذجاً قوياً يمكن نشره محلياً، وأن يكون قد خضع للتقييم والمراجعة وجاهزاً للاستخدام قبل وقوع أي حادثة.

كيف يمكن مواجهة عدم التكافؤ في الوصول إلى القدرات السيبرانية؟

لا يتمثل الحل في إزالة إجراءات الحماية، بل في إنشاء وصول خاضع للمساءلة والرقابة. وتشير مبادرات مثل برامج الوصول الموثوق للأمن السيبراني إلى نهج يمكن من خلاله منح المدافعين الذين تم التحقق من هوياتهم قدرات أكثر مرونة، مقابل تطبيق إجراءات أقوى للتحقق من الهوية والمراقبة والإشراف.

تحتاج ضوابط السلامة إلى فهم السياق الكامل: من الشخص أو الجهة التي تنفذ الإجراء؟ وما الأنظمة المصرح لها باختبارها؟ وأين يجري التنفيذ؟ وكيف سيتم تدقيق كل إجراء، والتراجع عنه عند الضرورة؟

أصبحت وكلاء الذكاء الاصطناعي المستخدمة في اختبار الاختراق قوية بما يكفي لتنفيذ عمليات سيبرانية حقيقية. ولذلك لم يعد من الكافي الاعتماد على الثقة بأنها ستتصرف بصورة أخلاقية. بل يجب توفير ضوابط تقنية تفرض السلوك الأخلاقي بصورة فعلية.

فالنوايا الأخلاقية وحدها لا تكفي عندما يكون الوكيل قادراً على المصادقة، واستكشاف الأنظمة، واستغلال الثغرات، والانتقال بين الأنظمة، واستخراج البيانات.

ويجب أن تتحكم هذه الضوابط في ما يُسمح للوكيل بفعله، وأن تحتوي أفعاله ضمن نطاق محدد، وأن تضمن إزالة كل الآثار التي يتركها بعد انتهاء الاختبار، وأن تنشئ سجلاً قابلاً للتدقيق لكل إجراء يقوم به. وإلا فقد نترك وراءنا وسائل أو نقاط ارتكاز يمكن للجهات المهاجمة استغلالها لاختراق أنظمتنا.

كيف ينبغي أن تعمل الضوابط مع اختبار الاختراق ذاتي التعلّم؟

يجب فرض التفويض من خلال الشيفرة البرمجية نفسها، بدلاً من الاعتماد على التعليمات النصية أو وثائق نطاق العمل وحدها. وينبغي ربط الأهداف تقنياً وباستخدام وسائل تشفير بالمؤسسة التي منحت التفويض.

كما يجب أن يكون نطاق العمل والفترات الزمنية والإجراءات المحظورة وشروط الإيقاف قابلة للفرض آلياً.

يمكن للنظام المتعلم أن يحدد كيفية إجراء الاختبار، لكنه يجب ألا يكون قادراً أبداً على تحديد ما يحق له اختباره.

ويجب أن تكون آليات الاحتواء موجودة في طبقة أدنى من النموذج نفسه. فعلى سبيل المثال:

فرض قيود على الاتصالات الصادرة من الشبكة للحد من الجهات التي يمكن للوكيل إرسال البيانات إليها أو الاتصال بها.

تنفيذ الوكيل داخل بيئة معزولة ومقسمة، بحيث لا يتمكن، حتى في حال تصرفه بصورة غير متوقعة، من الوصول بحرية إلى بقية أنظمة المؤسسة.

استخدام هويات ذات الحد الأدنى من الامتيازات، أي منح الوكيل فقط الصلاحيات التي يحتاج إليها بصورة ضرورية. فإذا كان يختبر تطبيقاً واحداً، فلا ينبغي أن يحصل تلقائياً على إمكانية الوصول إلى الشركة بأكملها.

فرض حدود على الموارد لتقييد مقدار القدرة الحاسوبية أو التخزين أو الذاكرة أو الوقت الذي يستطيع الوكيل استهلاكه.

تحديد سقوف لمعدل تنفيذ الإجراءات، للحد من السرعة التي يمكن للوكيل بها تنفيذ العمليات، ومنعه من إطلاق آلاف الطلبات أو التغييرات خلال ثوانٍ إذا حدث خطأ ما.

وضع نقاط موافقة بشرية تحدد ما يمكن للوكيل تنفيذه فعلياً، لأن مجرد كتابة تعليمات مثل «لا تغادر البيئة المعزولة» لا يجعل البيئة معزولة بالفعل.

وتُعد عملية التنظيف بعد انتهاء الاختبار بالقدر نفسه من الأهمية.

فالاختبارات المستقلة قد تخلّف ما يمكن تسميته بـ«مخلفات الوكيل»، والتي قد تشمل حسابات مؤقتة، ورموز وصول، وحمولات برمجية، وتغييرات في الإعدادات، وملفات مرفوعة، ومهام مجدولة، وآليات محتملة للحفاظ على الاستمرارية داخل النظام.

وينبغي للنظام أن يحصر جميع هذه العناصر، ويزيلها، ويتحقق من إعادة البيئة إلى حالتها الأصلية بالاستناد إلى خط أساس آمن ومعروف.

ولا ينبغي أن تكون عبارة «تمت عملية التنظيف» مجرد تأكيد، بل يجب أن تكون مدعومة بأدلة قابلة للتحقق.

أهمية بناء منظومة متكاملة للأمن السيبراني

وأخيراً، يجب أن يكون من الممكن إسناد كل إجراء إلى نسخة محددة من الوكيل، والشخص الذي منحه التفويض، وإصدار النموذج المستخدم، والأداة، وبيانات الاعتماد، ومهمة الاختبار المعنية.

ويؤدي السلوك ذاتي التعلّم إلى زيادة متطلبات التدقيق، لأن المسار الذي سيختاره الوكيل في النهاية لا يمكن التنبؤ به مسبقاً عند بدء الاختبار.

وقد طُرح سابقاً أن الجهات المختلفة ضمن منظومة الأمن السيبراني قادرة على تحسين مستوى الحماية من خلال التعاون، ووضع خطط للتحسين، والمراقبة المستمرة، وتبادل المعلومات الاستخباراتية. وينطبق المنطق نفسه هنا أيضاً.

يجب على مزودي النماذج، وشركات الأمن السيبراني، وشركات التأمين، والجهات التنظيمية، والمؤسسات وضع معايير مشتركة بشأن إثباتات التفويض، وسجلات أنشطة الوكلاء، وإثباتات التنظيف بعد انتهاء الاختبارات، واختبارات استعادة الأنظمة.

سيمنح اختبار الاختراق ذاتي التعلّم المدافعين ميزة مستدامة تتمثل في القدرة على التعلم بصورة مستمرة وبالسرعة نفسها التي تتغير بها البيئات التقنية.

لكن النظام المدرَّب على تجاوز العقبات قد ينتهي به الأمر إلى التعامل مع حدود السلامة باعتبارها مجرد عقبة أخرى يتعين تجاوزها.

ولذلك يجب ألا يُقاس نجاحه فقط بما يستطيع اكتشافه، بل أيضاً بقدرته على البقاء ضمن نطاق التفويض، والعمل داخل الحدود المحددة له، وتفسير إجراءاته، وإزالة آثاره بعد انتهاء العمل، والتوقف عندما يُطلب منه ذلك.

المصدر