ملخص: تتناول هذه المقالة المخاطر السيبرانية المتزايدة المرتبطة بنشر وكلاء الذكاء الاصطناعي المستقلين في وظائف الأعمال، مبرزةً كيف أن نموهم الهائل يخلق تحديات في الهوية والأمن تختلف عن تلك الخاصة بالمستخدمين البشريين. وتحذّر من أنه من دون ضوابط قوية للهوية، ورؤية واضحة، ومعايير للتشغيل البيني، يمكن استغلال هؤلاء الوكلاء عبر هجمات مثل "حقن الأوامر"، مما يؤدي إلى تسريبات بيانات أو حتى اختراق كامل للأنظمة. وتشدد المقالة على ضرورة أن تتبنى المؤسسات نهجًا أمنيًا منذ البداية – يركز على صلاحيات دقيقة، وتشغيل آمن بيني، ورصد شامل – من أجل الاستفادة الآمنة من إمكانات الوكلاء الأذكياء.
- تقوم الشركات بنشر وكلاء الذكاء الاصطناعي (AI) عبر وظائف متعددة من المبيعات والبحث إلى إنشاء المحتوى والتمويل.
- هذه الأنظمة قادرة على اتخاذ القرارات ووضع الخطط بشكل مستقل، لكنها في الوقت نفسه تفتح المجال أمام تهديدات سيبرانية جديدة.
- سواء بدأت المؤسسات من الصفر أو استخدمت أدوات جاهزة، فإن عليها بناء الأمان وقابلية التشغيل البيني والشفافية في وكلائها الذكيين.
يشهد سوق العمل الحديث تحولًا سريعًا. حيث تقوم المؤسسات بنشر وكلاء الذكاء الاصطناعي عبر عدد متزايد من الوظائف التجارية – من التطوير إلى المبيعات وخدمة العملاء، والبحث، وإنشاء المحتوى والتمويل.
هذه الأنظمة المستقلة قادرة على اتخاذ القرارات ووضع الخطط لإنجاز مهام معقدة بأقل إشراف بشري. وتقوم الشركات بسرعة بنقل هذه الوكلاء من مرحلة النماذج الأولية إلى الإنتاج.
ونتيجة لهذا النشر المتسارع، من المتوقع أن يتجاوز عدد الهويات غير البشرية والوكيلة 45 مليارًا مع نهاية هذا العام. أي أكثر من 12 مرة عدد البشر العاملين في القوى العاملة العالمية اليوم.
ورغم هذا النمو الهائل، أفاد فقط 10% من المشاركين في استطلاع أجرته شركة Okta شمل 260 مديرًا تنفيذيًا، بأن لديهم استراتيجية متطورة لإدارة هذه الهويات غير البشرية والوكيلة. ويمثل ذلك مصدر قلق أمني كبير، إذ إن 80% من الاختراقات تتضمن شكلًا من أشكال الهوية المخترقة أو المسروقة. ويزيد الذكاء الاصطناعي التوليدي من خطورة هذا التهديد من خلال تمكين المهاجمين من تنفيذ هجمات تصيّد وهندسة اجتماعية أكثر تطورًا.
مع اندفاع الشركات لنشر الوكلاء، من الضروري أن تضع ضوابط للهوية وتُعطي الأولوية للأمن منذ البداية. فهذا يساعد المؤسسات على تجنّب المخاطر الكبيرة المتعلقة بالوكلاء المفرطين في الصلاحيات أو غير الآمنين.
ولمواجهة سرعة وتعقيد الذكاء الاصطناعي، تحتاج الشركات إلى نهج جديد: نسيج أمني للهويات. هذه الفئة الجديدة تضمن تأمين كل هوية – بشرية أو غير بشرية أو وكيلة – عبر جميع الاستخدامات والتطبيقات والموارد. ويُعد هذا النهج مفتاحًا لحماية الشركات في مستقبل يقوده الذكاء الاصطناعي.
كيف تستهدف هجمات الذكاء الاصطناعي الوكلاء
سارع المهاجمون إلى استغلال الذكاء الاصطناعي لأغراض خبيثة، باستخدامه لجعل التهديدات القائمة أكثر خطورة وابتكار تهديدات جديدة أكثر تخصيصًا. فالذكاء الاصطناعي التوليدي يُستخدم بالفعل في تطوير البرمجيات الخبيثة، والتزييف العميق، واستنساخ الأصوات، وهجمات التصيّد.
إن ظهور وكلاء الذكاء الاصطناعي يضيف طبقة جديدة من التعقيد إلى مشهد الأمن المؤسسي. فهذه الوكلاء تُدرّب على بيانات الشركة القيّمة وربما الحساسة، ويمكن أن تصبح نقاط هجوم جديدة إذا لم تُبنَ وتُنشر وتُدار وتُؤمَّن بشكل صحيح.
تميل المؤسسات إلى منح الوكلاء صلاحيات وصول أكبر لجعلهم أكثر فاعلية، لكن هذا التوسع في الوصول يزيد المخاطر على الأعمال. فقد يستغل المهاجمون هذه الصلاحيات عبر هجوم حقن الأوامر (Prompt Injection) مثلًا، حيث يحاولون خداع الوكيل للإفصاح عن معلومات حساسة.
كلما زادت صلاحيات الوصول لدى الوكيل، أصبح من الأسهل على المهاجمين التغلغل داخل الشركة. وقد يؤدي ذلك إلى تسريبات بيانات أو تنفيذ إجراءات غير مصرح بها أو حتى اختراق كامل للنظام.
مشكلة هوية وكلاء الذكاء الاصطناعي
لأن وكلاء الذكاء الاصطناعي يحتاجون للوصول إلى بيانات المستخدمين وتدفقات العمل الخاصة بهم، فإن كل وكيل يتطلب هوية فريدة. ومن دون ضوابط كافية، قد تتمتع هذه الهويات بقدر مفرط من الوصول والاستقلالية.
ومهما بدت هذه الوكلاء "بشرية"، فإن إدارة هويتها تختلف جوهريًا عن إدارة هوية المستخدم البشري. فالهويات غير البشرية والوكيلة لها خصائص مميزة.
عند انضمام موظف جديد إلى شركة مثلًا، هناك نقطة بداية واضحة تحدد متى يحتاج للوصول إلى تطبيقات وبيانات الشركة. يمكنه استخدام كلمات المرور أو القياسات الحيوية أو المصادقة متعددة العوامل (MFA) لتسجيل الدخول والتحقق من هويته. أما وكلاء الذكاء الاصطناعي فلا يمكن التحقق منهم بنفس الطريقة. بل يعتمدون على رموز واجهة برمجة التطبيقات (API Tokens) أو الشهادات التشفيرية لإثبات هويتهم.
كما أن دورة حياة الوكلاء تختلف عن البشر. فهي ديناميكية قصيرة الأجل، وتتطلب أذونات محددة للغاية لفترات زمنية محدودة وغالبًا ما تحتاج للوصول إلى معلومات حساسة. لذا يجب أن تكون المؤسسات قادرة على منح وإلغاء صلاحيات الوصول بسرعة.
إضافة إلى ذلك، قد يكون تتبع الوكلاء وتسجيل أنشطتهم أصعب من تتبع الموظفين البشريين، ما يعقّد عمليات التدقيق بعد الاختراق وجهود المعالجة.
كل هذه العوامل تجعل من الضروري أن تدير فرق الأمن صلاحيات وكلاء الذكاء الاصطناعي وهوياتهم بحذر شديد.
الاستعداد لمستقبل الوكلاء الذكيين
ما تزال معظم المؤسسات في المراحل الأولى من رحلتها مع وكلاء الذكاء الاصطناعي. وهذا يمنحها فرصة لوضع بروتوكولات الهوية والأمن الصحيحة منذ البداية.
وبالنسبة للمؤسسات التي تعتمد على وكلاء خارجيين، فإن وقت التبني هو أفضل لحظة لتأسيس هوية آمنة. أما عند بناء وكلاء داخليًا، فيجب أن تكون الهوية أولوية أثناء التطوير.
سواء بدأت المؤسسة من الصفر أو عملت بأدوات جاهزة، هناك عدة اعتبارات رئيسية لهويات الوكلاء المستقلين:
الأمن
الطبيعة المستقلة للوكلاء تعني أنهم قد يربطون بين أذونات متعددة للوصول إلى موارد لا يجب الوصول إليها. لذا تحتاج فرق الأمن إلى سياسات وصول دقيقة لضمان عدم مشاركة الوكلاء أي معلومات حساسة. ويجب أن تكون صلاحياتهم محدودة بالموارد والفترات الزمنية المصرّح بها فقط.قابلية التشغيل البيني
يجب على المؤسسات ضمان التزام وكلاء الذكاء الاصطناعي بمعايير التشغيل البيني. فالوكلاء يصبحون أكثر قوة حين يتمكنون من التواصل مع وكلاء آخرين وأنظمة ذكاء اصطناعي مختلفة، لكن لا يجوز أن يكون ذلك على حساب الأمن. معايير مثل بروتوكول السياق النموذجي (MCP) توفر إطارًا لربط الوكلاء بشكل آمن بمصادر البيانات والأدوات الخارجية.الشفافية
من دون رؤى واضحة حول أفعال الوكلاء وأنماط وصولهم، قد تمر السلوكيات الشاذة دون ملاحظة، ما يؤدي إلى ثغرات أمنية. ولتجنب ذلك، تحتاج المؤسسات إلى قدرات شاملة للرصد والتدقيق لتتبع نشاط الوكلاء والحفاظ على السيطرة.
تأمين الطريق نحو مستقبل الوكلاء الذكيين
ما زالت المؤسسات في بدايات استكشاف مستقبل وكلاء الذكاء الاصطناعي. ومن المهم التذكير بأن بناء ونشر الوكلاء ليس سوى الخطوة الأولى في رحلة الأمن.
ومع تزايد حالات الاستخدام، ستزداد كذلك مسؤوليات فرق الأمن. ويتطلب الأمر التزامًا مستمرًا بالشفافية والحوكمة والتحكم لضمان عمل الوكلاء بأمان وكما هو مقصود.
وبوجود أساس قوي لهوية آمنة، يمكن للمؤسسات البدء في توسيع نطاق نشر وكلاء الذكاء الاصطناعي بثقة، وتمكين المزيد من المستخدمين من جني الفوائد وإطلاق الإمكانات التجارية لهذه الأدوات.
