يشهد العالم اليوم فيضًا غير مسبوق من المحتوى المُنشأ بواسطة الذكاء الاصطناعي. فقد كشف تحقيق حديث لمجلة Wired أن نحو 7% من الأخبار العالمية أصبحت تُنتَج بواسطة الذكاء الاصطناعي، وترتفع النسبة إلى 47% في منصّة Medium، وتصل إلى 78% في بعض المواضيع المحددة. ويُنتَج هذا المحتوى من خلال التفاعل مع أنظمة ذكاء اصطناعي مثل روبوتات المحادثة ومولّدات الصور. وما إن يُنتَج ويُنشر حتى يبدأ في الانتشار على نحو مستقل، حيث يُعاد نشره في المنتديات ووسائل التواصل الاجتماعي، ويُدرج في مواقع مثل ويكيبيديا وStack Exchange، ويُنشر في الصحف والمجلات الأكاديمية، ويُبث عبر التلفزيون أو الإذاعة، ثم يُعاد تداوله دون الإشارة إلى كونه ناتجًا عن الذكاء الاصطناعي.
احتياجات جديدة لمستهلكي المحتوى
في كثير من الحالات، يحتاج مستهلكو المحتوى إلى معرفة ما إذا كان المحتوى قد أُنتج بواسطة إنسان أو نظام ذكاء اصطناعي، أو عبر مزيج من الاثنين كما يحدث بشكل متزايد. ولا يعود ذلك إلى افتراض أن المحتوى البشري دائمًا أعلى جودة من المحتوى المُولَّد آليًا، بل إلى طبيعة إنتاج المحتوى باعتباره ممارسة اجتماعية.
يلعب المحتوى الدائم أدوارًا أساسية في تنظيم المجتمع، مثل القوانين المكتوبة، والأبحاث العلمية، والعقود التجارية، والتقارير الإخبارية. ولهذا تخضع عملية إنتاج المحتوى في هذه المجالات لمؤسسات اجتماعية تحافظ على الثقة والسمعة، وتضمن الدقة، وتحد من الانتحال والتشهير.
غير أن الانتشار الواسع لأدوات الذكاء الاصطناعي التوليدي قد يُضعف هذه المؤسسات بعدة طرق. أولًا، تتيح هذه الأدوات للأفراد تقديم محتوى لم ينتجوه بأنفسهم وقد لا يفهمونه بالكامل، وهو ما يُعد إشكاليًا في السياقات التعليمية، ويقوّض الثقة في مجالات مثل التجارة والبحث العلمي. ثانيًا، تمكّن هذه الأدوات الأفراد والمؤسسات من إنتاج كميات هائلة من المحتوى، ما قد يُزعزع استقرار النظم المعلوماتية، وهو أمر مقلق بشكل خاص في مجالات الرأي السياسي، والأسواق المالية، والأمن السيبراني.
تقنيات جديدة للتحقق من تقنيات جديدة
لمواجهة هذه التحديات، نحتاج إلى توسيع الأطر والمؤسسات الحالية التي تحكم إنتاج المحتوى ونشره. وبشكل أكثر تحديدًا، نحتاج إلى تقنيات قادرة على اكتشاف المحتوى المُولَّد بالذكاء الاصطناعي، لأن هذه الأنظمة باتت متقدمة بما يكفي لخداع معظم البشر في معظم الأحيان. وبشيء من الاستعارة من أدب الخيال العلمي، يمكن القول إننا بحاجة إلى اختبار شبيه باختبار “فويت-كامبف” في فيلم Blade Runner للتمييز بين المحتوى البشري والآلي.
وقد طُوِّرت عائلتان رئيسيتان من أساليب الكشف التقنية. الأولى تعتمد على أنظمة توثيق المصدر، وأبرزها بروتوكول C2PA، الذي يضيف بيانات وصفية محمية توثّق أصل المحتوى وتاريخه. أما الثانية فتشمل أدوات تحليل المحتوى ذاته للكشف عن أنماط مميزة تشير إلى إنتاجه بواسطة الذكاء الاصطناعي، سواء عبر البحث عن “علامات مائية” مخفية أثناء التوليد، أو عبر الرجوع إلى سجلات تحتفظ بها الشركات المطوِّرة. ويُشار إلى هذه التقنيات مجتمعة باسم “كواشف المحتوى المُولَّد بالذكاء الاصطناعي”.
يسود اعتقاد شائع بأن هذه الكواشف غير دقيقة بما يكفي للاستخدام العملي، غير أن تطورات حديثة بدأت تغيّر هذا التصور. فخلال حملة الانتخابات الرئاسية الأميركية الأخيرة، استخدمت شركة TrueMedia أداة متخصصة في تحليل الصور السياسية، طُوِّرت بالتعاون مع شركات توليد المحتوى، وحققت دقة تقارب 90%، ومن المتوقع أن تُتاح كمصدر مفتوح قريبًا. كما أعلنت Google DeepMind عن تقنية جديدة لوسم النصوص بعلامات مائية في نظام Gemini، حققت معدلات كشف إيجابية صحيحة وصلت إلى 95%، وقد نُشرت هذه التقنية كمصدر مفتوح بالفعل.
وذكرت صحيفة Wall Street Journal أن شركة OpenAI اختبرت داخليًا نظامًا مشابهًا بفعالية عالية، رغم محدودية المعلومات المتاحة عنه. في الوقت ذاته، بدأت شركات عديدة في اعتماد بروتوكول C2PA لتوثيق المحتوى، إذ أعلنت Google استخدامه في الصور ومقاطع YouTube، كما انضمت Amazon إلى لجنته التوجيهية.
ويُلاحظ تنوع الأساليب المستخدمة في هذه المبادرات، مع وجود إجماع على أن الجمع بين هذه الطرق سيؤدي إلى تحسين الأداء، على غرار أساليب “التجميع” المعروفة في تعلم الآلة.
جوهر النقاش السياسي: من المسؤول عن أدوات الكشف؟
تشير هذه التطورات إلى أن الشركات المطوِّرة لأنظمة الذكاء الاصطناعي التوليدي هي الأقدر على تقديم أدوات كشف موثوقة، بل هي الوحيدة القادرة على تحديد نسبة مساهمة الإنسان مقابل الآلة، لأنها وحدها تملك بيانات الأوامر (prompts) المستخدمة في التوليد.
وانطلاقًا من ذلك، دعت مجموعة العمل التابعة للشراكة العالمية للذكاء الاصطناعي إلى تحميل هذه الشركات مسؤولية قانونية عن توفير أدوات كشف موثوقة، بحيث يُشترط على أي شركة تطلق نظامًا توليديًا جديدًا أن تُثبت قدرتها على كشف المحتوى الذي ينتجه النظام.
وقد لاقت هذه الفكرة صدى لدى صانعي السياسات، إذ نوقشت في جلسة استماع لمجلس الشيوخ الأميركي عام 2023، وأسهمت في صياغة الأمر التنفيذي للرئيس جو بايدن بشأن الذكاء الاصطناعي. كما أُدرجت في قانون الذكاء الاصطناعي الأوروبي، حيث تنص المادة 50.2 على أن يضمن مزودو أنظمة الذكاء الاصطناعي التوليدي إمكانية الكشف عن مخرجاتهم باعتبارها مُولَّدة أو مُعدَّلة آليًا.
تخيّل عالمًا تتوافر فيه أدوات كشف موثوقة
في مقال نُشر بمجلة Ethics and Information Technology، حاولنا تخيّل سيناريو تتوافر فيه أدوات كشف موثوقة بتكلفة منخفضة. كيف سيُستخدم هذا النوع من الأدوات؟ ومن سيعتمدها بدافع المصلحة الذاتية؟ ومن قد يُلزم باستخدامها لحماية النظام المعلوماتي؟
نرى أن المدارس والجامعات ستكون من أوائل المستخدمين، نظرًا لحاجتها إلى الحفاظ على سمعتها وضمان نزاهة التقييم. كما ستدفع المنافسة في السوق مؤسسات أخرى إلى اعتماد هذه الأدوات. وينطبق الأمر ذاته على الشركات، خصوصًا في السياقات التي تتطلب معرفة شخصية أو مسؤولية مباشرة، مثل التوظيف والاستشارات واتخاذ القرار.
أما المؤسسات الإعلامية التقليدية، فهي معنية بشكل خاص باستخدام أدوات الكشف قبل النشر، مع السماح بنشر المحتوى المُولَّد بالذكاء الاصطناعي بشرط الالتزام بالمعايير المهنية ووضع وسم واضح يوضح مصدره. وفي بعض الحالات، مثل المحتوى الذي يحاكي تسجيلات حقيقية لأشخاص أو أحداث، نرى ضرورة حظر النشر، باستثناء الأغراض الإخبارية التحليلية.
وسائل التواصل الاجتماعي ومحركات البحث
تختلف الحوافز لدى شركات التواصل الاجتماعي، التي لا تتحمل مسؤولية مباشرة عن المحتوى وفق قوانين مثل المادة 230 في الولايات المتحدة. ومع ذلك، نرى ضرورة إلزامها بفحص المحتوى للكشف عن الحملات التضليلية أو المزعجة، ومنح المستخدمين خيار تحديد مستوى المحتوى المُولَّد بالذكاء الاصطناعي الذي يرغبون في رؤيته.
أما محركات البحث، فلديها حوافز قوية للحفاظ على جودة النتائج، ومن المرجح أنها تطبق بالفعل آليات للكشف. ويكفي في هذه الحالة الإشراف التنظيمي لضمان الشفافية.
تنظيم سباق التسلح بين الكواشف والمتحايلين
نختتم بالتحذير من سباق تسلح متصاعد بين مطوري أدوات الكشف ومن يسعون للتحايل عليها. ورغم صعوبة تنظيم هذا السباق، فإن وجوده لا ينبغي أن يكون ذريعة للتراجع عن تطوير أدوات الكشف. بل على العكس، يجب دعم هذه الجهود عبر التمويل والمساعدة التقنية، خصوصًا للشركات الصغيرة، وفرض قيود على نشر النماذج المتقدمة جدًا دون ضمانات كشف موثوقة.
وفي هذا السياق، نرى أن تشجيع الكشف الموثوق يقتضي الحذر من نماذج “الأوزان المفتوحة” المتقدمة، والانحياز إلى الأصوات التي تحذر من مخاطرها على المدى الطويل.
