- يشهد الذكاء الاصطناعي تحولًا نحو التقنيات القائمة على الوكلاء، مما يفتح الباب أمام مجموعة جديدة من تحديات الحوكمة والأمن.
- فزيادة استقلالية هذه الأنظمة وقدرتها على التذكر عبر أنظمة مترابطة تخلق نقاط ضعف جديدة ومتطلبات أمنية أكثر إلحاحًا.
- وتعني الحوكمة المسؤولة لوكلاء الذكاء الاصطناعي تحديد نطاق قدراتهم وفقًا للسياق المحدد الذي يعملون فيه.
بعد موجة الذكاء الاصطناعي التوليدي، يتجه الاهتمام الآن نحو وكلاء الذكاء الاصطناعي. هذه الأنظمة قادرة على تخطيط المهام، والوصول إلى الأدوات، واتخاذ إجراءات داخل البيئات الرقمية نيابة عن المستخدمين. وعلى عكس نماذج الذكاء الاصطناعي التي تكتفي بتوليد الردود، يمكن للوكلاء تنفيذ المهام عبر تطبيقات متعددة والتفاعل مع أنظمة خارجية.
يمثل هذا التحول من أدوات المحادثة إلى الوكلاء التشغيليين تغييرًا هيكليًا في كيفية نشر الذكاء الاصطناعي. كما أنه يُدخل مجموعة جديدة من تحديات الحوكمة والأمن التي تتجاوز أداء النماذج لتشمل بنية النظام بأكمله.
من المحادثة إلى الوكلاء التشغيليين
أظهرت المشاريع المبكرة مثل AutoGPT ونماذج الوكلاء المعتمدة على LangChain كيف يمكن ربط نماذج اللغة الكبيرة (LLM) معًا لتخطيط وتنفيذ مهام متعددة الخطوات. ومع ذلك، أثبتت العديد من هذه التطبيقات المبكرة هشاشتها وصعوبة تشغيلها بشكل موثوق.
اليوم، تظهر الموجة الأولى من الوكلاء التشغيليين المعتمدين على نماذج اللغة الكبيرة ضمن سير عمل محدد، بينما لا تزال المساعدات الشخصية الأوسع نطاقًا المبنية على أطر مفتوحة المصدر الناشئة في طور التطور. ومن المرجح أن يكون المسار المستقبلي هو التوسع التدريجي من وكلاء محدودي النطاق إلى مساعدين أكثر قدرة يمكنهم التكامل عبر البيئات الرقمية والعمل باستقلالية متزايدة نيابة عن المستخدمين.
ما يميز الموجة الحالية من الأنظمة القائمة على الوكلاء هو الجمع بين التطورات في الذاكرة، وإمكانية الوصول الموحد للأنظمة، والتواصل بين الوكلاء، إلى جانب نمو منظومة متكاملة من أطر التنسيق مفتوحة المصدر.
تُمكّن بروتوكولات وآليات بنية تحتية ناشئة مثل Model-Context Protocol (MCP)، وبروتوكول Agent2Agent (A2A)، وخدمة أسماء الوكلاء (ANS)، الوكلاء من الوصول إلى الأدوات والموارد الخارجية، والتواصل مع وكلاء آخرين عبر الأنظمة، وتأسيس هويات قابلة للتحقق داخل بيئات موزعة من الوكلاء. وتسهم هذه التطورات في إنشاء الأساس التقني الذي يسمح للوكلاء بالتفاعل مع خدمات مثل البريد الإلكتروني، ومنصات المراسلة، والتقويمات، والتخزين السحابي، وأنظمة المؤسسات.
الذاكرة كقدرة ومصدر لتراكم المخاطر
تُعد الذاكرة سمة أساسية تمكّن وكلاء الذكاء الاصطناعي من التحول إلى مساعدين شخصيين أكثر تقدمًا. فالقدرة على تذكر التفضيلات والتفاعلات السابقة تسمح للوكلاء بتوقع الاحتياجات، والحفاظ على استمرارية المهام، وتقديم تجارب أكثر تخصيصًا مع مرور الوقت.
لكن هذه السمة المعمارية التي تعزز التخصيص تؤدي أيضًا إلى تركيز مخاطر جديدة. فعندما يتم توحيد الذاكرة عبر قنوات مثل الاتصالات والمستندات وأدوات الإنتاجية، يصبح المساعد مستودعًا متكاملًا للبيانات الشخصية أو المؤسسية.
وعلى عكس التطبيقات التقليدية التي غالبًا ما تكون بياناتها معزولة بحسب الوظيفة، يمكن للأنظمة القائمة على الوكلاء الاستدلال عبر مصادر بيانات وسياقات متعددة. وبينما تعزز هذه القدرة فائدتها، فإن ضعف هياكل الأذونات قد يسمح بسوء الاستخدام أو الاختراق بطريقة تمتد آثارها عبر الأنظمة المرتبطة.
تُظهر التطبيقات المبكرة مدى قوة نموذج الذاكرة الموحدة، لكنها تكشف أيضًا أن قضايا حوكمة البيانات، وضبط الوصول، وقابلية التدقيق يجب معالجتها قبل التوسع في الاستخدام.
الأمن في عالم قائم على الوكلاء
تُدخل الأنظمة القائمة على الوكلاء أيضًا فئة مميزة من التحديات الأمنية. إذ يقوم وكلاء الذكاء الاصطناعي بشكل روتيني بمعالجة معلومات من مصادر خارجية مثل صفحات الويب والمستندات، ثم يفسرون هذه المعلومات ويتصرفون باستخدام أدوات وصلاحيات مميزة ضمن الأنظمة. وهذا يخلق نقاط ضعف تختلف عن تلك الموجودة في الأنظمة البرمجية التقليدية، حيث تكون المدخلات أكثر تنظيمًا والإجراءات محكومة بمنطق برمجي محدد مسبقًا.
يمكن أن تظهر عدة أنواع من المخاطر عندما يتفاعل الوكلاء مع المحتوى الخارجي والأنظمة المتصلة. فقد تحتوي رسائل البريد الإلكتروني أو المستندات أو صفحات الويب على تعليمات خبيثة تُغيّر سلوك الوكيل من خلال ما يُعرف بهجمات ""حقن الأوامر"". كما قد تؤدي إعدادات الأذونات غير الصحيحة إلى منح الوكلاء صلاحيات أوسع مما ينبغي، وقد تؤدي التعليمات الغامضة إلى تنفيذ إجراءات غير مقصودة عند التعامل مع أنظمة مترابطة.
ومع تطور المساعدين القائمين على الذكاء الاصطناعي من أدوات تجريبية إلى شركاء رقميين مدمجين، يصبح من الضروري تقييم الأمن على مستوى البنية الكاملة للنظام، وليس فقط على مستوى النموذج.
معايرة الاستقلالية والسلطة
يُبرز صعود وكلاء الذكاء الاصطناعي تحديًا أوسع في الحوكمة يتمثل في ضرورة التعامل مع الاستقلالية والسلطة كعناصر تصميم مقصودة.
يجب أن يتم ضبط درجة الاستقلالية الممنوحة للنظام وفقًا للسياق الذي يعمل فيه، والمخاطر المرتبطة به، ومستوى نضج المؤسسة التي تقوم بنشره. ويكتسب هذا أهمية خاصة بالنسبة للمساعدين الذكيين الذين يعملون في بيئات حساسة للغاية ولديهم وصول إلى الاتصالات التفصيلية وبيانات الاعتماد والمعلومات الشخصية.
ومع ازدياد قدرات الوكلاء، تصبح الحوكمة التدريجية ضرورية، بحيث تتوسع الضوابط بالتوازي مع نطاق عملهم. ويتطلب ذلك عمليًا التعامل مع الاستقلالية والسلطة كمعلمات قابلة للتعديل في التصميم. وينبغي أن تظل المهام ذات العواقب الكبيرة ضمن حدود واضحة تتطلب موافقة بشرية، كما يجب أن يظل الوصول إلى الأنظمة الحساسة مُجزأً بدلًا من تركيزه في وكيل واحد.
كما تصبح الرؤية الواضحة لسلوك الوكلاء أمرًا حاسمًا، حيث تُمكّن عمليات التسجيل والتقييم وقابلية التدقيق المؤسسات من مراقبة الأداء، واكتشاف الأخطاء، والحفاظ على المساءلة مع توسع الاستخدام. وتشمل المنظومة الناشئة المرتبطة بوكلاء الذكاء الاصطناعي مزودي النماذج، ومنصات التنسيق، ومطوري الإضافات، والشركات، والمستخدمين النهائيين، مما يجعل المساءلة عرضة للتشتت ما لم يتم تحديد الأدوار والمسؤوليات بوضوح.
ومن أبرز الدروس المستفادة من أنماط التبني المبكرة أنه عندما تتوسع القدرات بوتيرة أسرع من الحوكمة، يُترك المستخدمون لمواجهة مفاضلات معقدة في المخاطر دون دعم مؤسسي واضح.
لقد أظهرت المشاريع مفتوحة المصدر سريعة التطور مدى تسارع قدرات الوكلاء واستقلاليتهم، في حين لا تزال أطر الحوكمة بحاجة إلى التطور بنفس الوتيرة. وإذا ما تم ضبط هذا التوازن بعناية، يمكن لوكلاء الذكاء الاصطناعي والمساعدين الشخصيين الأكثر تقدمًا أن يصبحوا عناصر موثوقة في الحياة الرقمية اليومية. ويتطلب تحقيق ذلك تنسيقًا على مستوى المنظومة، وضوابط متناسبة، وإدراكًا واضحًا بأن تصميم الأنظمة والحوكمة عنصران لا ينفصلان في عصر الوكلاء.
