أصبحت المؤسسات والأفراد اليوم يواجهون تحديات جديدة مع النصوص التي ينتجها الذكاء الاصطناعي. المدرسون يرغبون في معرفة ما إذا كانت أعمال الطلاب تعكس فهمهم الشخصي، والمستهلكون يريدون التحقق مما إذا كانت الإعلانات كتبها بشر أم آلات.
وضع قواعد لاستخدام النصوص المولَّدة بالذكاء الاصطناعي أمر يمكن فعله بسهولة، لكن تطبيق هذه القواعد يعتمد على شيء أصعب بكثير: القدرة على اكتشاف النصوص الآلية بشكل موثوق.
صعوبة كشف النصوص المولَّدة بالذكاء الاصطناعي
أظهرت الدراسات أن بعض البشر قادرون على التمييز بين النصوص البشرية وتلك المولَّدة بالذكاء الاصطناعي. فعلى سبيل المثال، الأشخاص الذين يستخدمون أدوات الكتابة بالذكاء الاصطناعي بشكل مستمر يمكنهم اكتشاف النصوص الآلية بدقة أكبر. بل إن مجموعات من المقيمين البشريين في بيئات مراقبة يمكن أن تتفوق على الأدوات الآلية نفسها. لكن الخبرة بهذا المستوى ليست واسعة، وأحيانًا يكون الحكم الفردي متغيرًا. لذلك، تعتمد المؤسسات التي تحتاج إلى نتائج موثوقة على نطاق واسع على أدوات كشف النصوص الآلية.
كيف تعمل أدوات الكشف؟
الفكرة الأساسية بسيطة: نأخذ نصًا ما ونريد معرفة مصدره، ثم نستخدم أداة كشف غالبًا ما تكون نفسها نظام ذكاءً اصطناعيًا، لتحليل النص وإعطائه درجة احتمال تشير إلى مدى احتمالية كونه مولَّدًا بالذكاء الاصطناعي. تُستخدم هذه الدرجة لاتخاذ قرارات لاحقة، مثل فرض عقوبة على مخالفة القواعد.
لكن الواقع أكثر تعقيدًا. هناك العديد من الأسئلة التي يجب الإجابة عليها قبل استخدام الأداة: ما الأدوات التي قد تكون استخدمت لإنتاج النص؟ ما نوع الوصول المتاح لك لهذه الأدوات؟ هل يمكنك تشغيلها أو الاطلاع على طريقة عملها الداخلية؟ وكم لديك من نصوص للتحليل؟ هل هو نص واحد أم مجموعة نصوص؟ كل هذه الأسئلة تؤثر على ما يمكن أن تكشفه الأدوات وما لا تستطيع.
هناك أيضًا عامل مهم آخر: هل أدرج النظام الذي أنشأ النص علامات مائية لتسهيل اكتشافه لاحقًا؟ هذه العلامات خفية داخل النص ولا تظهر عند القراءة العادية، ويمكن التحقق منها فقط باستخدام مفتاح سري من مزود النظام. لكن هذا يعتمد على تعاون الشركة المنتجة ولا يكون متاحًا دائمًا.
طرق كشف النصوص الآلية
واحدة من الطرق الشائعة هي استخدام الذكاء الاصطناعي نفسه لكشف النصوص المولَّدة. يتم ذلك عن طريق تدريب نموذج على مجموعة كبيرة من النصوص المصنفة مسبقًا كإنسانية أو آلية، ليصبح قادرًا على التمييز بينهما. يشبه هذا نهج تصنيف البريد المزعج، حيث يفحص النموذج نصوصًا جديدة ويقرر مدى تشابهها مع النصوص الآلية أو البشرية التي تدرب عليها.
هذا الأسلوب يعمل حتى لو لم تعرف الكثير عن الأدوات التي قد أنتجت النص. كل ما يحتاجه النموذج هو أن يكون قد تدرب على مجموعة متنوعة من النصوص لتغطية مخرجات أنظمة مختلفة.
أما إذا كان لديك وصول للأدوات نفسها، فيمكن استخدام نهج آخر يعتمد على الإشارات الإحصائية في النص. على سبيل المثال، يمكن مقارنة احتمال تسلسل الكلمات في النص بحسب النموذج؛ إذا منح النموذج تسلسل الكلمات احتمالًا عاليًا جدًا، فهذا قد يشير إلى أن النص أُنتج بواسطة ذلك النموذج.
في حالة النصوص المعلّمة بعلامات مائية، تتحول المهمة من مجرد الكشف إلى التحقق. باستخدام مفتاح سري من مزود النظام، يمكن لأداة التحقق التأكد من أن النص فعليًا ناتج عن نظام يحتوي على العلامة المائية.
التحديات والقيود
لكل أسلوب من هذه الأساليب نقاط ضعف. فالنماذج التي تعتمد على التعلم الآلي تصبح أقل دقة عندما يختلف النص الجديد كثيرًا عن النصوص التي تدربت عليها، وهو ما يحدث بسرعة مع ظهور نماذج جديدة. وتجديد البيانات وإعادة التدريب مكلف، وبالتالي تظل الأدوات دائمًا متأخرة عن أنظمة الذكاء الاصطناعي الحديثة.
أما الأساليب الإحصائية، فتعتمد على افتراضات حول كيفية توليد النصوص بواسطة نماذج محددة أو الوصول لتوزيعات الاحتمالات الخاصة بها، ومع النماذج الخاصة أو المحدثة باستمرار أو غير المعروفة، تنهار هذه الافتراضات وتصبح الأساليب غير موثوقة.
وبالنسبة للعلامات المائية، فهي تعتمد على تعاون مزود النظام ولا تنطبق إلا على النصوص التي تم تفعيل العلامة فيها.
على نطاق أوسع، كشف النصوص هو جزء من سباق متسارع بين قدرات الذكاء الاصطناعي وتقنيات الكشف. فالأدوات تحتاج لأن تكون متاحة للجمهور لتكون مفيدة، لكن هذه الشفافية نفسها تسهّل على مولدات النصوص تجنب الاكتشاف. ومع تطور قدرات الذكاء الاصطناعي وزيادة تعقيد تقنيات التهرب، من غير المرجح أن تبقى أدوات الكشف متقدمة بشكل دائم.
الواقع الصعب
إشكالية كشف النصوص المولَّدة بالذكاء الاصطناعي سهلة من حيث الفكرة، لكنها صعبة الحل بدقة وموثوقية. المؤسسات التي تضع قواعد لاستخدام النصوص الآلية لا يمكنها الاعتماد على أدوات الكشف وحدها لتطبيق القواعد.
ومع تكيف المجتمع مع الذكاء الاصطناعي التوليدي، من المرجح أن تتطور المعايير حول الاستخدام المقبول للنصوص المولَّدة، وأن تتحسن أدوات الكشف. لكن في النهاية، علينا أن نتقبّل حقيقة أن هذه الأدوات لن تكون مثالية أبدًا، وأنه يجب التعامل مع النصوص الآلية بحذر ووعي دائم.
