العالم غارق في محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي. فقد كشفت تحقيقات حديثة من مجلة ""وايرد"" أن 7% من القصص الإخبارية العالمية تم إنشاؤها بواسطة الذكاء الاصطناعي، وارتفعت النسبة إلى 47% في منشورات ""ميديوم""، وحتى 78% في مواضيع معينة. يتم إنشاء هذا المحتوى من خلال التفاعل مع أنظمة الذكاء الاصطناعي مثل روبوتات الدردشة ومنشئي الصور. وبمجرد أن يتم إنتاج هذا المحتوى ونشره، يمكن أن يتخذ حياة خاصة به. يمكن نشره على لوحات النقاش ومنصات وسائل التواصل الاجتماعي، إضافته إلى مواقع مثل ويكيبيديا و""ستاك إكستشينج""، نشره في الصحف والمجلات الأكاديمية، وبثه على التلفاز أو الراديو. ومن هناك، يمكن أن يتم مشاركته وإعادة مشاركته دون الإشارة إلى أصوله الذكية الاصطناعية.
احتياجات المعلومات الجديدة لمستهلكي المحتوى
في العديد من الحالات، يحتاج مستهلكو المحتوى إلى معرفة ما إذا كان المحتوى الذي تم إنتاجه قد أعده إنسان أو نظام ذكاء اصطناعي. أو، كما هو الحال بشكل متزايد، من خلال مزيج من الاثنين. لا يرجع ذلك إلى أن المحتوى الذي ينتجه الإنسان دائمًا أعلى جودة من المحتوى الذي ينتجه الذكاء الاصطناعي، بل إن الأسباب تتعلق بتوليد المحتوى كممارسة اجتماعية.
يلعب المحتوى المستمر دورًا حيويًا في الآليات التي تنظم المجتمع، مثل القوانين المكتوبة، المقالات العلمية، العقود التجارية، والتقارير الإخبارية. وبسبب ذلك، فإن إنشاء المحتوى في العديد من المجالات يخضع لإشراف مؤسسات اجتماعية، التي تعمل على الحفاظ على السمعة والثقة، وضمان الدقة، والحد من الانتحال والتشهير.
ومع ذلك، فإن الاستخدام الواسع للأدوات الجديدة لتوليد الذكاء الاصطناعي قد يضعف هذه المؤسسات بعدة طرق. أولًا، تتيح هذه الأدوات للأشخاص تقديم محتوى لم يقوموا بإنتاجه وقد لا يفهمونه بشكل صحيح. وهذا قد يشكل مشكلة في السياقات التعليمية، وأكثر من ذلك، بالنسبة للثقة في مجالات مثل التجارة والبحث العلمي. ثانيًا، تتيح أدوات الذكاء الاصطناعي التوليدية للأشخاص والمنظمات إنتاج محتوى أكثر بكثير من أي وقت مضى. ومن المحتمل أن يكون لهذا تأثيرات مزعزعة للاستقرار على نظم المعلومات، وهو أمر مثير للقلق بشكل خاص في مجالات مثل الرأي السياسي، الأسواق المالية، وأمن المعلومات.
التقنيات الجديدة للتحقق من التقنيات الجديدة
نحتاج إلى توسيع المؤسسات الحالية التي تحكم توليد المحتوى وتوزيعه للتعامل مع هذه التهديدات الجديدة. بشكل أكثر تحديدًا، نحتاج إلى تقنيات جديدة لاكتشاف المحتوى الذي يتم توليده بواسطة الذكاء الاصطناعي. إن التقنية ضرورية لأن مولدات المحتوى المعتمدة على الذكاء الاصطناعي أصبحت الآن قوية بما يكفي لخداع معظم المستهلكين البشريين في معظم الأحيان. ومن باب الفكاهة، قد نستخدم بعض المصطلحات من أفلام الخيال العلمي: ما نحتاجه هو نسخة من اختبار فويت-كامبف من فيلم ""بليد رانر"" لتمييز المحتوى الذي يولده الإنسان عن ذلك الذي يولده الذكاء الاصطناعي.
تم تطوير مجموعتين من طرق الكشف التقنية لتلبية هذه الحاجة. إحداهما تتضمن مخططات توثيق الأصل، وأبرزها مخطط C2PA، الذي يضع علامات على العناصر المحتوية على محتوى مع بيانات وصفية محمية توثق أصلها وتاريخها. أما المجموعة الأخرى فتتكون من أدوات كشف تحلل عناصر المحتوى العشوائية وتحدد ما إذا كانت قد نشأت من نظام ذكاء اصطناعي عن طريق البحث عن أنماط مميزة داخل المحتوى نفسه، أو البحث عن الأنماط المخفية أثناء التوليد المعروفة بـ ""العلامات المائية""، أو استشارة سجلات المحتوى الذي تم توليده والذي تحتفظ به شركات مزودي المولدات. معًا، نطلق على هذه التقنيات اسم ""كاشفات محتوى الذكاء الاصطناعي"".
هناك تصور شائع بأن كاشفات محتوى الذكاء الاصطناعي لا تعمل بشكل جيد بما يكفي لتكون قابلة للاستخدام عمليًا. لكن النتائج والتطورات الأخيرة تغير ذلك. خلال حملة الانتخابات الرئاسية الأمريكية العام الماضي، قامت شركة TrueMedia بنشر أداة تركز على الصور في المحتوى السياسي الأمريكي، تم تطويرها بالتعاون الوثيق مع شركات مولدي المحتوى، وحققت دقة تقارب 90%. ستصبح هذه الأداة مفتوحة المصدر قريبًا. كما أعلنت شركة DeepMind التابعة لجوجل مؤخرًا عن مخطط جديد للعلامات المائية للنصوص التي تعمل على جزء من الاستفسارات لنظام توليد النصوص Gemini، مع معدلات دقة إيجابية حقيقية تصل إلى 95%؛ وقد تم بالفعل فتح مصدر مخططهم.
كما أفاد وول ستريت جورنال مؤخرًا أن OpenAI قد جربت داخليًا مخططًا للعلامات المائية مع أداء عالٍ مشابه، رغم أن القليل من التفاصيل معروفة علنًا عن ذلك. في هذه الأثناء، تتبنى العديد من الشركات بروتوكول التوثيق C2PA للمحتوى الذي يولده الذكاء الاصطناعي. على سبيل المثال، أعلنت جوجل مؤخرًا أنها تستخدمه للصور وفيديوهات يوتيوب، وانضمت أمازون إلى لجنة التوجيه الخاصة به.
من المثير للاهتمام ملاحظة التنوع في الأساليب المستخدمة في هذه المبادرات. في الواقع، هناك إجماع على أن دمج هذه الأساليب سيؤدي إلى تحسينات إضافية مماثلة لتلك التي شهدناها في أساليب التجميع في مصنفات الذكاء الاصطناعي.
مفصل السياسة: هل يجب أن يكون مقدمو خدمات الذكاء الاصطناعي التوليدي مسؤولين عن أدوات الكشف الموثوقة؟
رسالة واضحة تظهر من جميع المبادرات السابقة هي أن الشركات التي تبني وتستخدم أدوات الذكاء الاصطناعي التوليدي هي في أفضل موقع لتوفير كاشفات محتوى الذكاء الاصطناعي الموثوقة. في الواقع، هم اللاعبون الوحيدون القادرون على الإبلاغ عن النسبة المئوية من عنصر الذكاء الاصطناعي الذي ساهم فيه مؤلف بشري، لأن هذه الشركات فقط هي التي تمتلك الوصول إلى المحفزات المستخدمة لتوليد المحتوى.
استنادًا إلى هذه الأسباب، جادل فريقنا في الشراكة العالمية من أجل الذكاء الاصطناعي بأن مقدمي مولدي المحتوى يجب أن يكونوا مسؤولين قانونيًا عن توفير أدوات موثوقة لاكتشاف المحتوى. على وجه التحديد، كما لخصنا في مقال لمجلة AI Wonk، يجب على الشركة التي تطور نظامًا للذكاء الاصطناعي التوليدي أن تثبت وجود أداة موثوقة لاكتشاف المحتوى الذي تولده كشرط لإصداره العلني.
كان لهذا الجدل صدى قوي لدى صانعي السياسات. تم مناقشته في جلسة الاستماع في مجلس الشيوخ لعام 2023 حول إشراف الذكاء الاصطناعي، التي قدمت مواد لمرسوم الرئيس جو بايدن بشأن الذكاء الاصطناعي. العام الماضي، تم تضمينه في قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي: تنص المادة 50.2 على أن مقدمي أنظمة الذكاء الاصطناعي التوليدي يجب عليهم ضمان أن تكون نتائجهم ""قابلة للكشف باعتبارها مولدة صناعيًا أو معدلة"".
باختصار، لقد حسنت التطورات التقنية والمبادرات التنظيمية من آفاق كاشفات محتوى الذكاء الاصطناعي الموثوقة. ولتقدم النقاش، نعتقد أنه من المفيد تصور عالم تتوفر فيه كاشفات موثوقة بتكلفة منخفضة.
تخيل عالمًا مع الكشف الموثوق عن محتوى الذكاء الاصطناعي
في مقال كتبناه لمجلة ""أخلاقيات وتقنيات المعلومات""، أردنا تحريك النقاش السياسي حول الكشف عن محتوى الذكاء الاصطناعي من خلال تخيل عالم يتوفر فيه كاشفات محتوى موثوقة بسهولة. كيف ستُستخدم كاشفات محتوى الذكاء الاصطناعي عمليًا في مثل هذا السيناريو، الذي قد يكون وشيكًا؟ أي الجهات ستستخدمها بشكل طبيعي، من منطلق مصلحتها الشخصية؟ وأي الجهات قد تُجبر على استخدامها من أجل استقرار النظام البيئي للمعلومات؟ هدفنا ليس تقديم إجابات قاطعة ولكن بدلاً من ذلك بدء نقاش سياسي حول هذا السيناريو حتى نكون مستعدين إذا حدث. إليكم ملخصًا للنقاط الرئيسية في المقال.
أولاً، نُفكر في المجموعات المتوقعة أن تعتمد الكاشفات الموثوقة من منطلق المصلحة الشخصية. المدارس والجامعات، على سبيل المثال، يجب أن تكون من أوائل المتبنين. ستظل أنظمة الذكاء الاصطناعي التوليدي أدوات منتجة في التعليم، لكن من المحتمل أن تكون هناك قيود على استخدامها ستكون مفيدة في بعض سياقات التعلم والتقييم. المؤسسات التعليمية لديها سمعة يجب الحفاظ عليها: يجب أن تكون قادرة على التوصية بخريجيها، ويمكن أن يساعد الاستخدام الحكيم لكاشفات محتوى الذكاء الاصطناعي في توفير الضمانات اللازمة. يوفر التنافس في السوق الحرة حافزًا إضافيًا: المؤسسات التعليمية التي يمكنها تقديم أفضل الضمانات ستحصل على ميزة تنافسية، مما يشجع المؤسسات الأخرى على تبني الممارسات ذات الصلة.
من المرجح أن تحفز الحوافز التنافسية اعتماد كاشفات محتوى الذكاء الاصطناعي عبر العديد من قطاعات العالم التجاري. فهي مفيدة في الأماكن التي من الضروري أن يمتلك فيها الموظفون المعرفة الشخصية أو الخبرة: في قرارات التوظيف أو التعاقد، في علاقات الاستشارات، في تقديم التقارير والملخصات، أو عندما يتعين على الموظفين تحمل المسؤولية الشخصية عن القرارات. علاوة على ذلك، ستكتسب الشركات التي تستخدم كاشفات محتوى الذكاء الاصطناعي بشكل جيد ميزة تنافسية، لذا من المتوقع أن تصبح بعض التطبيقات ممارسة قياسية.
في بعض الحالات، قد لا تكون الحوافز للمؤسسات لاعتماد الكاشفات واضحة بنفس القدر. المنظمات الإعلامية هي ذات أهمية خاصة بسبب دورها المركزي في نشر المحتوى. من بين هذه المنظمات، تعتبر الشركات الإعلامية ""التقليدية"" هي الأكثر اهتمامًا بالكشف عن المواد التي أنشأها الذكاء الاصطناعي قبل نشرها، لأنها مسؤولة بشكل قاطع عن المحتوى الذي تنشره. في هذه المنظمات، يتخذ المحررون البشريون قرارات النشر. إذا كان بإمكان المحررين الوصول إلى كاشف موثوق لمحتوى الذكاء الاصطناعي، فيجب عليهم استخدامه بانتظام كجزء من الإجراءات القياسية لفحص المشاركات. بالإضافة إلى ذلك، يجب أن يكون لديهم الحرية العامة في نشر المواد التي أنشأها الذكاء الاصطناعي، بشرط أن تلبي المعايير التي يفرضونها عادة على العناصر المنشورة. يجب عليهم أيضًا وضع علامة واضحة على العنصر المنشور باعتباره مولدًا صناعيًا لإعلام المستهلكين.
هناك بعض الحالات التي نعتقد أنه يجب فيها منع النشر. على وجه الخصوص، نتبع ميثاق باريس حول الذكاء الاصطناعي والصحافة في التأكيد على أنه يجب حظر المحتوى متعدد الوسائط الذي يحاكي التسجيلات الفوتوغرافية أو السمعية البصرية لأشخاص أو أحداث حقيقية من النشر—باستثناء التقارير حول تداول محتوى الذكاء الاصطناعي، حيث يكون للمحتوى وظيفة هامة.
القوانين الجديدة حول الكشف عن المحتوى على منصات التواصل الاجتماعي ومحركات البحث
تختلف حالة شركات التواصل الاجتماعي بشكل كبير عن تلك الخاصة بشركات الإعلام التقليدية. بموجب القسم 230 من قانون اللياقة في الاتصالات الأمريكي، هذه الشركات ليست مسؤولة عن المحتوى الذي تنشره. نتيجة لذلك، ليس من المهم أن يُنظر إليها كمزودين موثوقين للمحتوى. بدلاً من ذلك، يعتمد نموذج أعمالها على زيادة قاعدة المستخدمين والمشاهدين. وبالتالي، فإن لدى شركات التواصل الاجتماعي حوافز أقل بكثير لاستخدام كاشفات محتوى الذكاء الاصطناعي. في نفس الوقت، تمثل هذه الشركات نقطة طبيعية حيث يمكن التحكم في انتشار محتوى الذكاء الاصطناعي.
نعتقد أنه يجب على شركات التواصل الاجتماعي أن تُطلب منها فحص المحتوى المولد بواسطة الذكاء الاصطناعي بشكل منهجي إذا كانت أدوات الكشف الموثوقة متاحة. على الأقل، يمكن أن تساعد هذه الفحوصات في التعرف على الحملات الدعائية أو المحتوى المضلل الذي يتم إنتاجه بواسطة الذكاء الاصطناعي ووقفها. كما نعتقد أنه يجب على الشركات السماح للمستخدمين باختيار مقدار المحتوى المولد بواسطة الذكاء الاصطناعي الذي يرغبون في رؤيته في إعداداتهم الشخصية إذا كان ذلك ممكنًا. مرة أخرى، يتطلب ذلك منهم إجراء فحوصات شاملة للمحتوى.
إلى جانب هذه الحالات، نعترف بأن بعض المحتوى المولد بواسطة الذكاء الاصطناعي مفيد ويجب السماح بنشره. لا يزال التمييز بين هذا المحتوى والمحتوى منخفض الجودة ""الزائف"" مسألة مفتوحة للبحث داخل الشركات وخارجها. ومع ذلك، فإن تحديد المحتوى المولد بواسطة الذكاء الاصطناعي بشكل منهجي هو الخطوة الأولى الواضحة في أي عملية من هذا القبيل ويمكن بالفعل أن يُطلب من الشركات الالتزام بها.
بعد ذلك، يناقش مقالنا شركات محركات البحث مثل Google و Bing. هل يجب على هذه الشركات فحص المحتوى المولد بواسطة الذكاء الاصطناعي؟ باعتبارها مزودي نتائج بحث جيدة، من المؤكد أن هذه الشركات لديها سمعة يجب الحفاظ عليها. لذلك، لديهم الحوافز لفحص المحتوى المولد بواسطة الذكاء الاصطناعي بشكل منهجي، ومن المحتمل أنهم يفعلون ذلك بالفعل. بالنسبة إلى مجال محركات البحث، نقترح أن يكون المستوى المناسب من الإشراف هو مراقبة ما تقوم به الشركات حاليًا للتعامل مع المحتوى المولد بواسطة الذكاء الاصطناعي. قد يوفر قانون الأسواق الرقمية في الاتحاد الأوروبي أداة مفيدة لهذا العملية.
تنظيم سباق التسلح في الكشف عن محتوى الذكاء الاصطناعي
نختتم بتناول سباق التسلح الذي بدأ يظهر بين مزودي أنظمة الكشف عن محتوى الذكاء الاصطناعي وأولئك الذين يسعون لتجنب الكشف. تنظيم سباق التسلح أمر صعب، حيث تختلف التدابير المضادة الناجحة مع مرور الوقت. ولكن في رأينا، فإن وجود سباق التسلح ليس سببًا لكي تتراجع الشركات الكبرى عن جهودها في إنشاء كاشفات موثوقة. فهي دائمًا ما تشارك في مثل هذه التفاعلات العدائية، لا سيما في مجال تحسين محركات البحث.
نعتقد أنه من المفيد لصانعي السياسات أن يفكروا في ما يمكن فعله لتوجيه ساحة اللعب نحو مزودي الكاشفات وابتعادها عن المتجنبين. نقترح بعض الإجراءات التي يمكن أن تساعد في تحقيق ذلك. بعضها يتعلق بالتمويل ونشر المعلومات. على وجه الخصوص، يجب على الحكومات مساعدة الشركات الأصغر المنتجة لأنظمة الذكاء الاصطناعي في تنفيذ التدابير التي تدعم الكشف الموثوق للمحتوى الذي تنتجه أنظمتها. تدبير آخر مهم هو تقييد نشر أنظمة الذكاء الاصطناعي المولدة ""الحدودية"" حتى يمكن فرض متطلبات دعم الكشف الموثوق بشكل فعال من قبل مزودي الأنظمة.
هناك نقاش نشط بين المجموعات التي تدافع عن النماذج المفتوحة للذكاء الاصطناعي والتي تعارضها. لدى كلا الجانبين حجج مثيرة للاهتمام، كما يلخصها ساييش كابور وزملاؤه. ولكن إذا كنا نرغب في تشجيع ظهور كاشفات موثوقة لمحتوى الذكاء الاصطناعي، يجب أن نميل بالتأكيد إلى التعليقات التي يدلي بها ديفيد إيفان هاريس وإليزابيث سيجر وزملاؤهم الذين يحذرون من النماذج ذات الأوزان المفتوحة.
