كيفية ضمان أمان وكلاء الذكاء الاصطناعي الحديثين وأنظمة الوكلاء المتعددة

مفهوم وكلاء الذكاء الاصطناعي (AI)

وُلد مفهوم وكلاء الذكاء الاصطناعي في التسعينيات كوحدات برمجية ذكية تعمل بشكل مستقل نيابة عن المستخدمين، وتتنقل في بيئات مثل الإنترنت، التي كانت آنذاك بسيطة نسبيًا: نصوص متفرقة مع بعض الصور والروابط التشعبية. لم تكن هناك محركات بحث جيدة، لذا كان استبدال التصفح البشري بتصفح وكلاء الذكاء الاصطناعي يبدو مفيدًا، وكان الذكاء الاصطناعي في تلك الفترة محدودًا لدرجة أن الأمل في نجاحه كان ممكنًا فقط في بيئات مبسطة، مقارنة بالعالم الحقيقي المعقد للبشر.

مع ظهور النماذج اللغوية الضخمة (LLMs) وقدراتها في فهم اللغة الطبيعية والتفكير، تجدد الاهتمام بوكلاء الذكاء الاصطناعي. بدأت شركات مثل Salesforce وServiceNow في الإعلان عن وكلاء متخصصين يمثلون تطبيقاتها. على سبيل المثال، تستخدم Salesforce الوكلاء لأتمتة إدارة علاقات العملاء (CRM) عبر تنفيذ المهام تلقائيًا، وتحليل البيانات، وتخصيص تفاعلات العملاء. تستخدم هذه الوكلاء الحديثة النماذج اللغوية الضخمة لفهم اللغة الطبيعية والاستجابة لها، وكذلك لاتخاذ قرارات حول متى وكيفية استخدام الأدوات، مثل البحث على الويب، وتنفيذ الشفرات البرمجية، وإجراء استدعاءات API، وأوامر استرجاع البيانات.

عمليات الأمان والحَوكَمة لوكلاء الذكاء الاصطناعي

نظرًا لدورهم، يُتوقع أن يتمتع الوكلاء بمستوى معين من الاستقلالية أثناء تفاعلهم مع العالم باستخدام أدواتهم. في بعض الحالات، مثل تشغيل التعليمات البرمجية في حاوية (Container)، يمكن التحكم في العواقب والحد منها. في حالات أخرى، يجب تطبيق مستوى من التدقيق والرقابة لتجنب العواقب غير المرغوبة للسلوك المستقل للوكلاء. الحقيقة أن ""عقل"" الوكيل هو في الأساس شبكة عصبية غير شفافة (أي نموذج لغوي ضخم - LLM)، مما يجعل هذا الأمر أكثر تعقيدًا.

كما أن وكلاء الذكاء الاصطناعي المعتمدين على النماذج اللغوية الضخمة عرضة للهلوسة أو سوء الفهم بسبب الغموض المتأصل في اللغة الطبيعية، لذا فإن ما نكسبه من قوة في التنفيذ قد نفقده من حيث الاتساق.

تتوفر عدة استراتيجيات للتخفيف من هذه المخاطر، بما في ذلك:

• وضع قواعد لتجاوز قرارات معينة أو طلب موافقة بشرية عليها.
• تقييم مدى عدم اليقين في سلوك الوكيل.
• إقران الوكلاء بوكلاء وقائيين يراقبون ويمنعون الأضرار المحتملة.

نظرًا لهذه الحاجة إلى الإشراف، فإننا بحاجة إلى نظام اختبار مختلف للأنظمة القائمة على الوكلاء، يختلف عن اختبارات البرمجيات التقليدية. والخبر الجيد أننا اعتدنا على اختبار مثل هذه الأنظمة، حيث قمنا بتشغيل منظمات وعمليات قائمة على العنصر البشري منذ بداية عصر التصنيع.

دور الذكاء الاصطناعي متعدد الوكلاء

تمنع قيود النماذج اللغوية الحديثة الوكلاء الفرديين من تنفيذ عدد كبير من التعليمات المعقدة المتنوعة بكفاءة. نظرًا لقيود النوافذ السياقية للنماذج اللغوية الضخمة، فضلاً عن محدودية قدرتها على التفكير، فإن تقسيم المسؤوليات بين عدة وكلاء ذكاء اصطناعي متصلين ومنسقين غالبًا ما يكون أكثر فاعلية لإنجاز المهام.

تمامًا كما لا نُكلف مهندس برمجيات واحد بكتابة نظام CRM كامل، فإن تكليف وكيل ذكاء اصطناعي بكتابة كود نظام CRM متكامل يُعد مهمة ضخمة. ولكن وجود فريق من الوكلاء يمثلون أدوارًا مختلفة مثل إدارة المشاريع، والهندسة الأمامية والخلفية، وضمان الجودة، والعمل معًا، يجعل من المرجح إنجاز المهمة بنجاح.

أهمية أنظمة الذكاء الاصطناعي متعددة الوكلاء

يتطلب مجال الذكاء الاصطناعي متعدد الوكلاء أن يكون الوكلاء قادرين على التواصل والتنسيق. يمكن أن يكون هذا في سياق فريق من الوكلاء يتعاونون معًا، أو عبر فرق مختلفة بمستويات متفاوتة من الثقة وحتى التنافس.

يمكن للنظام متعدد الوكلاء، الذي يمثل برمجيات أو عمليات تنظيمية مختلفة، تقديم العديد من الفوائد، بما في ذلك:

• تحسين الإنتاجية.
• تعزيز المرونة التشغيلية.
• تحسين القوة والاستدامة التشغيلية.
• تسريع تحديث الوحدات المختلفة.

الشركات تتجه بسرعة نحو تبني حلول الوكلاء الفرديين، ويبدو أن الأنظمة متعددة الوكلاء هي المستقبل الحتمي والذي سيكون له تأثير كبير.

النماذج اللغوية الضخمة تفهم اللغة الطبيعية، وبالتالي لدينا بالفعل بروتوكول عالمي للتواصل بين الوكلاء. وبسبب مرونة اللغة الطبيعية في التعبير عن النوايا، وقدرة وكلاء الذكاء الاصطناعي على ترجمة هذه النوايا إلى الأوامر الصحيحة، فإن أنظمة البرمجيات المستقبلية ستكون أقل هشاشة من نظيراتها الحالية.

إذا تم تنفيذ الاتصال والتنسيق بين الوكلاء بطريقة تضمن فصل المسؤوليات، فستصبح التطبيقات المؤسسية المستقبلية أكثر قوة، مما يسمح بإضافة قدرات ووظائف جديدة إلى شبكة وكلاء قائمة، دون الحاجة إلى إعادة هندسة النظام بالكامل.

تعزيز المؤسسات باستخدام الوكلاء

لدمج الوكلاء في المؤسسات، يجب أولًا تحديد العمليات والأدوار والعُقد المسؤولة والروابط بين مختلف الفاعلين داخل المؤسسة. والمقصود بالفاعلين هنا الأفراد والتطبيقات البرمجية التي تعمل كموظفين معرفيين داخل المؤسسة.

إلى جانب تحديد الأدوار والمسؤوليات في كل وكيل عبر نصوص التعليمات الأساسية، قد تتضمن الوكلاء أدوات يمكنها استدعاؤها بتمرير مختلف المتغيرات إليها. على سبيل المثال، قد يحتاج وكيل مدير المنتج إلى التعامل مع تذاكر مختلفة على لوحة كانبان افتراضية، بينما قد يحتاج وكيل التنبيهات إلى استدعاء أداة لإرسال التنبيهات عبر نظام الإنذار.

هذا يعني أن التوافقية بين الوكلاء الخارجيين ستكون ضرورة، وسيتعين ظهور معايير موحدة تلتزم بها جميع الوكلاء، مما يسمح للمؤسسات بدمجها بسهولة في شبكات الوكلاء الخاصة بها.

تمتلك الأنظمة متعددة الوكلاء القدرة على كسر الحواجز التنظيمية وكشف أوجه القصور المتراكمة بمرور الوقت، مما يعطل الشركات ويجعلها أقل كفاءة. يمكن لمراقبة العمليات التي ينفذها نظام متعدد الوكلاء أن تساعدنا في تصحيح هذه المشكلات.

مستقبل المنظمات في ظل تعددية الوكلاء

سيعتمد نسيج المؤسسات المستقبلية على شبكة مترابطة من الوكلاء. ولكن، على الأقل في المستقبل المنظور، ومالم يحدث تحول جذري في الثقافة والمجتمع، سيظل البشر هم المسؤولون النهائيون عن القرارات. وهذا يعني أن تعددية الوكلاء يجب أن تُصمم بحيث يظل الإنسان هو الحكم والمُقر النهائي للسلوكيات عالية المخاطر.

المصدر