لا تدع الذكاء الاصطناعي يلخص بيانات ستحتاج إليها لاحقًا

تلتقط معظم أدوات تدوين الملاحظات المعتمدة على الذكاء الاصطناعي والمساعدات المخصصة لبيئة العمل المحادثة، ثم تنشئ ملخصًا لها، وبعد ذلك تتخلص من النص الأصلي لتوفير مساحة التخزين وتقليل تكاليف المعالجة.

ولا تبدو هذه مشكلة إلى أن يحتاج أحدهم إلى معرفة الصياغة الدقيقة لالتزام معين، أو تعليق جانبي، أو تفصيل اتضح بعد ستة أشهر أنه كان مهمًا.

فالملخص هو تفسير واحد ثابت للمحادثة، أُنشئ مرة واحدة ولم تتم مراجعته بعد ذلك. وهو يجيب عن السؤال الذي قدر النموذج وقت كتابة الملخص أنه السؤال المهم في ذلك الوقت.

لكنه لا يستطيع الإجابة عن سؤال مختلف يُطرح لاحقًا، كما لا توجد طريقة لمقارنة الملخص بما قيل فعلًا، لأن المصدر الذي بُني عليه الملخص قد اختفى.

الخطأ هو الحذف

لا يرى دانيال زيف، نائب الرئيس العالمي للذكاء الاصطناعي والتحليلات في شركة فيرنت، أن الملخصات والسجل الخام للمحادثات متنافسان. فالملخص الذي يُنشأ بعد مكالمة مع مركز الاتصال يتيح للموظف التالي متابعة حالة العميل خلال ثوانٍ بدلًا من قراءة نص طويل للمحادثة، ولهذا الغرض يكون الملخص أفضل من النسخة الخام.

المشكلة تبدأ عندما يُحذف النص الأصلي بمجرد إنشاء الملخص.

ما يضيع حينها هو التفاصيل. فقد يكون الملخص مصممًا لالتقاط «سبب الاتصال والحل»، ولذلك يسجل بصورة صحيحة أن مشكلة الفوترة حُلت من خلال إضافة رصيد إلى حساب العميل، وفقًا لزيف.

لكن العميل ربما ذكر خلال المكالمة عرضًا قدمه أحد المنافسين، وأشار إلى أنه اتصل مرتين من قبل، وأوضح أن تطبيق الهاتف المحمول كان أحد أسباب استمراره كعميل، كما انتقل خلال بضع دقائق من حالة واضحة من الإحباط إلى الهدوء. لا تنتمي أي من هذه التفاصيل إلى ملخص تسليم الحالة إلى موظف آخر، لكنها تختفي جميعًا بمجرد حذف النص الأصلي للمحادثة. ويطلق زيف على هذه الطبقة اسم «نفط الذكاء الاصطناعي»، في إشارة إلى المادة الخام الخاصة التي يمكن للشركة مواصلة تنقيحها واستخراج قيمة جديدة منها لأغراض لم تكن قد فكرت فيها بعد.

وقال زيف إن تكلفة التخزين ليست العائق. فالنص الناتج عن مكالمة مدتها خمس دقائق لا يتجاوز بضعة كيلوبايتات، وحتى مليون مكالمة سنويًا لا تنتج سوى بضعة غيغابايتات، وهي تكلفة منخفضة وفق معايير التخزين السحابي مقارنة بقيمة المعلومات الموجودة داخل هذه السجلات.

أما القيد الأكبر فيتمثل في الخصوصية والاحتفاظ بالبيانات، بحسب زيف. والحل في هذه الحالة هو إخفاء البيانات الحساسة بدلًا من حذفها، أي إزالة أرقام البطاقات ومعرفات الهوية والتفاصيل الصحية من السجل الخام، ثم الاحتفاظ بما تبقى منه.

ولا تزال عملية التلخيص تؤدي وظيفة مهمة في كل حالة يتخذ فيها إنسان قرارًا مباشرًا، مثل تسليم الحالة إلى موظف آخر، أو مراجعة المشرف، أو إعداد إحاطة تنفيذية، بحسب زيف. لكن المشكلة تبدأ عندما يتعامل الفريق مع الملخص نفسه باعتباره الأصل الذي يجب الاحتفاظ به.

فقدان مصدر المعلومات وليس التفاصيل فقط

قال روبن كانون، نائب رئيس المنتجات في شركة كنابساك، إن المشكلة في ذاكرة الذكاء الاصطناعي لا تكمن في عملية ضغط المعلومات بحد ذاتها، بل في أن عملية دمج المعلومات تميل إلى الكتابة فوق ما سبق بدلًا من الاحتفاظ به إلى جانب النسخة الجديدة. وكان كانون قد قاد سابقًا أنظمة التصميم المؤسسية في شركتي آي بي إم وجيه بي مورغان، كما أنشأ أداة مفتوحة المصدر لذاكرة جلسات الذكاء الاصطناعي تُسمى Rutter. وما يبقى في هذه الحالة لا يكون سجلًا لما جرى التفكير فيه وقتها، بل سجلًا لما قرر أحدث دمج أن الإجابة عليه أصبحت الآن.

وحتى عندما ينتج النموذج الأفضل ملخصًا أفضل، يظل هذا الملخص تفسيرًا أُنشئ لمرة واحدة وتجمّد لحظة تشغيله، من دون إمكانية مقارنته بأي شيء آخر.

وقال كانون إن الحل لا يتمثل في تخزين كل شيء بصورة شاملة. بل يكمن في اتباع عادتين أقل تكلفة: عدم الكتابة فوق أي سجل موجود، وإرفاق مصدر المعلومات بكل سجل. وبهذه الطريقة، إذا جرى تعديل حكم سابق، تبقى النسخة القديمة إلى جانب النسخة الجديدة، ويستطيع الإنسان رؤية التغير الذي حدث وتحديد معناه، بدلًا من ترك النظام يقرر ذلك نيابة عنه.

أما السؤال الذي يطرح نفسه فهو حجم التخزين المطلوب. ويرى زيف أن التخزين أصبح منخفض التكلفة بما يكفي لجعل الخيار الافتراضي هو الاحتفاظ بكل شيء ثم إخفاء البيانات الحساسة لاحقًا.

لكن كانون وصف تخزين السجل الخام الكامل بأنه مكلف و«مليء بالضوضاء» من الناحية العملية، مشيرًا إلى أن حجم المعلومات التي تستحق الاحتفاظ بها أقل مما يفترضه كثيرون. واستنادًا إلى تتبعه لاستخدامه الشخصي لأداة Rutter، فإن سجلات الذاكرة المرتبطة بالاستخدام تبلغ نحو 20 سجلًا يوميًا، أي بضعة في المئة فقط من إجمالي مخزن المعرفة لديه.

ولا يحتاج نظام كانون إلى النص الكامل للمحادثة. ما يحتاج إليه هو سجل لما تم فعله بالمعلومات، وليس المعلومات نفسها.

وقال كانون إن ما نحتاج إليه هو قابلية الطعن والمراجعة. فالتلخيص مناسب عندما يكون الملخص قابلًا للتخلص منه، لكن بمجرد أن يصبح من الممكن التحقق من سجل ما أو الاعتراض عليه في المستقبل، فإن بنية النظام التي تضع الملخص أولًا تدمر التاريخ الذي قد يحتاج إليه شخص ما لاحقًا.

عندما لا يتضمن الملخص الحل

طرح أوفير هيرموني، مؤسس ورئيس قسم الذكاء الاصطناعي في شركة iForAI المتخصصة في استشارات التحول بالذكاء الاصطناعي، نقطة أخرى للفشل عندما وصف ما حدث في إحدى المؤسسات التي تعامل معها. فقد كان نظام المؤسسة يلخص كل تذكرة دعم لمدة عامين. وعندما عاد فريقه لفهم سبب تكرار بعض المشكلات، اكتشف أن الملخصات كانت تسجل الحل، لكنها لا تسجل الأسباب والمنطق الذي أدى إليه.

فقد جرى إصلاح أحد الأعطال المتكررة في أحد الأجهزة ثلاث مرات على يد ثلاثة مهندسين، وكان كل مهندس يعمل استنادًا إلى تشخيص مختلف. وكانت جميع الملخصات تقول ببساطة: «تم حل المشكلة». ومن دون المحادثات الأصلية، لم تكن هناك طريقة لمعرفة أن اثنين من الحلول الثلاثة لم يكونا سوى حلول مؤقتة، وأن العطل كان يعود للظهور مرة أخرى.

وبالنسبة إلى هيرموني، فهذه ليست مشكلة في جودة النموذج يمكن حلها باستخدام نموذج لغوي كبير أفضل. فالملخص يتجمد لحظة إنشائه، ويُبنى حول السؤال الذي أُبلغ النظام بأنه السؤال المهم وقت التقاط المعلومات.

إذا طُرح سؤال مختلف بعد ستة أشهر، فلن يستطيع الملخص الإجابة عنه، في حين تسمح السجلات الخام بتحديد مدى صلة المعلومات بالسؤال في وقت الاستعلام نفسه.

وفي مؤسسة أخرى، حاول الفريق تدريب نموذج أفضل لتوجيه التذاكر باستخدام بيانات ملخصة امتدت إلى 18 شهرًا، واكتشف أن الملخصات قد حذفت اللغة التي استخدمها العملاء قبل أن يعيد الموظف صياغة مشكلاتهم. وأدى فشل هذا المشروع إلى إعادة بناء مسار البيانات بحيث تُخزن النصوص الأصلية للمحادثات باعتبارها السجل الأساسي، بينما توضع الملخصات فوقها كطبقة إضافية بدلًا من أن تحل محلها.

وأثرت هذه التجربة في توصيات هيرموني. فالتلخيص ينجح عندما تكون المؤسسة متأكدة مسبقًا من السؤال الذي ستحتاج إلى الإجابة عنه، لكن هذا اليقين نادر.

فمعظم الشركات لا تعرف ما الذي ستحتاج إلى السؤال عنه بشأن محادثة ما بعد عامين من الآن. ولذلك تتمثل قاعدته في التعامل مع الملخصات باعتبارها طبقة عرض، مفيدة للوحات المعلومات وتسليم الحالات والاستهلاك البشري السريع للمعلومات، مع تخزين المادة الخام في الأسفل، وإنشاء الملخصات عند الطلب بدلًا من اعتبارها السجل الأساسي للنظام.

التلخيص عملية أحادية الاتجاه

تظهر المشكلة أيضًا عند اكتشاف الإشارات في بيانات تصوير الدماغ، وفقًا لـناتاليا بيلتشيك، مؤسسة منصة تقييم المسارات المهنية Ontology of Value، والتي تمتلك خلفية في علم الأعصاب الحاسوبي.

وقالت بيلتشيك إن أي إحصائية تلخيصية تُستخرج من إشارة خام لا يمكن استخدامها أبدًا لإعادة بناء الإشارة الأصلية. ولهذا السبب أبقت منصتها بيانات الاستجابات الخام إلى جانب الدرجات المشتقة منها منذ البداية.

وقالت بيلتشيك إن التلخيص عملية غير قابلة للعكس. وحتى أداة التلخيص المثالية تتخلص من جزء من المعلومات، لأن التخلص من المعلومات هو أصلًا جزء من وظيفة التلخيص.

المصدر