كيف يستهدف التضليل في عصر الذكاء الاصطناعي الإدراك البشري والآلي معًا

• في عصر الذكاء الاصطناعي، يمكن لجهود التضليل أن تستهدف البشر، ولكنها قد تستهدف الآلات أيضًا.
• يمكن استخدام الذكاء الاصطناعي القائم على الوكلاء وأسراب الذكاء الاصطناعي لنشر محتوى زائف أو مضلل، بما يؤدي إلى إرباك منظومة المعلومات العالمية.
• تتطلب الحماية من جهود التأثير المستقلة هذه تعزيز الأمن والمرونة الإدراكية لدى البشر والآلات على حد سواء.

غيّرت التطورات التكنولوجية منظومة المعلومات العالمية بصورة جوهرية، وجعلتها أكثر رقمية وسهولة في الوصول، لكنها في الوقت نفسه أصبحت أكثر تعقيدًا وتجزؤًا. ويقع الذكاء الاصطناعي في قلب هذا التحول، من خلال إتاحة الوصول إلى المعلومات على نطاق أوسع ودعم عمليات اتخاذ القرار القائمة على البيانات لدى الحكومات والشركات.

ومنذ عام 2022، أغرق الذكاء الاصطناعي التوليدي، ولا سيما النماذج اللغوية الكبيرة، منظومة المعلومات بمحتوى متفاوت الجودة. وتشير التقديرات إلى أن نحو 50% من المقالات المنشورة حديثًا أصبحت مولدة بواسطة الذكاء الاصطناعي، في حين يظهر المحتوى الاصطناعي في ما يصل إلى 74% من صفحات الويب الجديدة. ويؤدي ذلك إلى طمس الحدود بين المحتوى الذي ينتجه البشر والمحتوى الذي تنتجه الآلات، كما يؤثر في المعلومات المستخدمة في ذكاء الأعمال والتحليلات.

التضليل والحرب الإدراكية

يُنشر التضليل بقصد التلاعب أو الخداع، في حين تكون المعلومات المضللة أو الخاطئة غير دقيقة أيضًا، لكنها تُشارك من دون علم الشخص الذي ينشرها بأنها غير صحيحة أو مضللة.

وقد ظهرت الظاهرتان قبل الذكاء الاصطناعي، غير أن العصر الرقمي زاد من تعقيدهما وحجمهما ومدى انتشارهما، في ظل تأثير خوارزميات التوصية والاستغلال التجاري المستمر للبيانات.

لطالما استخدمت عمليات التأثير التضليل، وتطورت بالتوازي مع تطور التكنولوجيا. وكانت مقاطع التزييف العميق الأولى سهلة الاكتشاف، أما الإصدارات الحديثة منها فأصبحت مقنعة بما يكفي لاستغلالها لتحقيق مكاسب سياسية ومالية. كما خفّضت النماذج اللغوية الكبيرة متعددة الوسائط ومنخفضة التكلفة الحواجز أمام الجهات الخبيثة، فأصبح بإمكانها إنتاج التضليل النصي والصوتي والمرئي على نطاق واسع.

وتتعرض الشركات لهذه المخاطر من خلال سلاسل التوريد وعمليات التلاعب بالأسواق، عبر حملات تضليل منسقة تتعلق بأخبار حساسة تؤثر في أسعار الأسهم، أو من خلال مقاطع تزييف عميق تنتحل شخصيات مسؤولين تنفيذيين. وينبغي أن تكون هذه المخاطر موضع اهتمام كل مجلس إدارة.

وتختلف الدوافع. فقد تسعى بعض الجهات الخبيثة إلى الابتزاز والاحتيال، بينما قد تركز جهات أخرى على التخريب وتقويض النظام القائم، من خلال استغلال مواطن الضعف السياسية والاجتماعية بهدف إضعاف السلطات والمؤسسات الراسخة.

ويقع التخريب في صميم الممارسة الناشئة المعروفة باسم الحرب الإدراكية. ففي حين يسعى التضليل إلى التلاعب بالرواية، تهدف الحرب الإدراكية إلى التأثير في الطريقة التي يفهم بها الأشخاص والشركات والمؤسسات والمجتمعات الواقع، وفي كيفية اتخاذهم للقرارات.

الذكاء الاصطناعي القائم على الوكلاء وأسراب الذكاء الاصطناعي

يضيف الذكاء الاصطناعي القائم على الوكلاء مزيدًا من التعقيد إلى مشهد التهديدات هذا. فوكلاء الذكاء الاصطناعي، القادرون بصورة مستقلة على إدراك بيئتهم والتصرف استنادًا إليها، ينتشرون بسرعة في الشركات والحكومات والقوات المسلحة، على الرغم من القيود المتعلقة بالموثوقية والأمن.

وتشير التقديرات إلى أن نحو 28.6 مليون وكيل ذكاء اصطناعي كانت قيد الاستخدام داخل المؤسسات في عام 2025، ومن المتوقع أن يتجاوز العدد ملياري وكيل بحلول عام 2030.

ويثير هذا الانتشار أيضًا مخاوف تتعلق بإساءة الاستخدام. فقد ساهم الوكلاء المستقلون بالفعل في أتمتة بعض العمليات السيبرانية جزئيًا، ما يعني أن الهجمات التي كانت تتطلب في السابق خبرة عميقة يمكن أن تعمل الآن بصورة مستقلة وبسرعة وحجم يتناسبان مع قدرات الآلات.

ويزداد الخطر عندما تعمل وكلاء ذكاء اصطناعي متخصصة ضمن شبكات منسقة تُعرف باسم الأسراب. وعلى الرغم من أن هذه التقنية لا تزال في مراحلها الأولى، فإن أسراب الذكاء الاصطناعي قد تضخم تأثير التضليل بفضل مستويات أعلى من الاستقلالية والتعقيد والسرعة والقدرة على العمل على نطاق واسع. وعلى عكس الروبوتات المقيدة بقواعد محددة، يمكن للذكاء الاصطناعي القائم على الوكلاء أن يتيح تنفيذ عمليات تأثير متكاملة وقادرة على التكيف، مع قدر محدود من الإشراف البشري بمجرد تحديد الهدف.

وهذا الخطر ليس افتراضيًا. ففي بيئة محاكاة لشبكات التواصل الاجتماعي أُنشئت ضمن دراسة حديثة لجامعة جنوب كاليفورنيا، نسّق 500 وكيل ذكاء اصطناعي بصورة مستقلة حملة للترويج لمرشح سياسي. وإذا استُخدمت حملات مماثلة ضد الشركات أو الشخصيات العامة، فقد تتسبب في أضرار كبيرة للسمعة خلال أيام، رغم أن بناء الثقة قد يستغرق سنوات.

هدفان في آن واحد: الإدراك البشري والإدراك الآلي

يدفع الذكاء الاصطناعي القائم على الوكلاء التضليل إلى ما هو أبعد من مجرد إنتاج المحتوى بكثافة وتضخيمه، نحو الأتمتة والإغراق المعلوماتي. وهذا يجعل التمييز بين الحقيقة والزيف أكثر صعوبة تدريجيًا. وبينما مكّن الذكاء الاصطناعي التوليدي من إنشاء تضليل شديد التخصيص، يستطيع الذكاء الاصطناعي القائم على الوكلاء اختلاق إجماع اصطناعي على نطاق واسع، مستفيدًا من البيانات الشخصية المستخدمة في بناء الملفات التعريفية للأفراد.

وهنا يمكن أن يتحول التضليل إلى حرب إدراكية؛ إذ قد يصبح الإدراك البشري هدفًا مركزيًا للصراعات الحديثة، في حين تجعل عمليات التأثير المستقلة إطلاق الحملات التخريبية أكثر سهولة وتعقب الجهات المسؤولة عنها أكثر صعوبة.

وتجد أسراب الذكاء الاصطناعي بيئة خصبة في ظل ما يصفه البعض بأزمة معرفية متفاقمة، ناتجة عن تراجع قدرة المجتمعات على الاتفاق بشأن الحقائق الأساسية. فقد تراجعت سلطة الوسطاء التقليديين، مثل المؤسسات العلمية ووسائل الإعلام والجهات الحكومية، مع صعود الإنترنت ووسائل التواصل الاجتماعي. وأدى ذلك إلى إضعاف الثقة الجماعية وجعل المجتمعات أكثر عرضة للتضليل. ويمكن للذكاء الاصطناعي القائم على الوكلاء استغلال نقاط الضعف هذه بدقة.

وفي عصر الذكاء الاصطناعي، يمكن للحرب الإدراكية أيضًا أن تستهدف الإدراك الآلي، أي العمليات داخل الأنظمة الاصطناعية التي تشبه الإدراك والاستدلال والتفكير لدى البشر.

ومع انتشار البيانات الاصطناعية، تتزايد كذلك مخاطر تسميم البيانات. ويمكن لما يُعرف بتوجيه أو تهيئة النماذج اللغوية الكبيرة بصورة خبيثة أن ينشر محتوى مضللًا عبر شبكة الإنترنت المفتوحة، بهدف إدخاله في بيانات التدريب والتأثير في مخرجات النماذج. ولا تتطلب مثل هذه الهجمات قدرًا كبيرًا من البيانات للنجاح، إذ أظهرت إحدى الدراسات أن 250 وثيقة مسمومة فقط قد تكون كافية لزرع ثغرة خفية داخل نموذج لغوي كبير.

وحتى من دون تلاعب متعمد، قد تعرض النماذج معلومات مضللة بصورة بارزة عندما تكون المعلومات الموثوقة المتاحة بشأن موضوع معين محدودة. ويمكن للأسراب أن تملأ بسرعة مثل هذه الفراغات المعلوماتية بمحتوى اصطناعي، ما يؤدي إلى تشويه التصورات العامة في مراحل مبكرة. ومع تراجع وفرة البيانات المنتجة بشريًا، تعتمد النماذج بصورة متزايدة على البيانات الاصطناعية في التدريب، وهو ما قد يؤدي إلى أخطاء وتحيزات تتغذى على نفسها باستمرار. وتُعرف هذه الظاهرة باسم انهيار النموذج.

وتشير الأدلة إلى أن التفاعل مع أنظمة الذكاء الاصطناعي قد يؤدي إلى تغيير المعتقدات بشأن قضايا مجتمعية محل خلاف.

وبذلك، تمثل نماذج الذكاء الاصطناعي أهدافًا عالية القيمة. فاختراقها أو التأثير فيها ينطوي على خطر تلويث الإدراك الآلي والبشري معًا، وما يترتب على ذلك من الإضرار بالمعلومات الموثوقة والقدرة على إصدار أحكام غير مشوهة، وهما عنصران أساسيان لاتخاذ القرارات في القطاعين العام والخاص. ويزيد الذكاء الاصطناعي القائم على الوكلاء من حدة هذه المخاطر عندما يتجاوز حجم قراراته وسرعتها قدرة البشر على الإشراف عليها.

كيفية بناء الأمن الإدراكي

يتطلب الدفاع عن منظومة المعلومات اتباع نهج متعدد المستويات يستند إلى هدفين مترابطين: حماية الأمن الإدراكي وبناء المرونة الإدراكية لدى البشر والآلات.

وعلى الجانب البشري، تتطلب المرونة على مستوى الأفراد والمؤسسات والمجتمعات اتخاذ تدابير تعليمية وسياساتية وتنظيمية. ويمكن للتثقيف المنهجي في مجال الإعلام والذكاء الاصطناعي، إلى جانب تكييف أنظمة التعليم، أن يساعد في تحسين التفكير النقدي وحماية الأمن الإدراكي للبشر.

وتحتاج المؤسسات إلى ممارسات تشمل تدقيق أنظمة الذكاء الاصطناعي واختبارها هجوميًا للكشف عن نقاط الضعف، إضافة إلى وضع بروتوكولات للتحقق من المعلومات قبل السماح لها بالتأثير في القرارات. كما تكتسب أهمية خاصة زيادة الوعي بمخاطر التلاعب الإدراكي، مثل المعلومات الاستخباراتية الفاسدة أو المزيفة، والضغوط المختلقة، وانتحال صفة القيادات.

وعلى نطاق أوسع، يجب أن تعالج القوانين واللوائح مسألة المساءلة، وأن تغيّر الحوافز الهيكلية التي تصب في مصلحة التضليل، ومنها انخفاض تكلفة إنتاج المحتوى المضلل مقارنة بالمحتوى الصادق، إلى جانب ميل المنصات الرقمية إلى إعطاء الأولوية للتفاعل على حساب الدقة.

ومع تحول أنظمة الذكاء الاصطناعي إلى جزء من البنية التحتية الإدراكية العالمية، يجب أن يمتد الأمن الإدراكي ليشمل الآلات أيضًا. ويمكن للنماذج السيادية أو النماذج المطورة داخليًا والمدربة على مجموعات بيانات موثوقة ومتحقق منها أن تقلل التعرض لتسميم البيانات وانهيار النماذج. كما أن التقدم في مجال قابلية التفسير الآلي، أي القدرة على فهم الآليات الداخلية لعمل النماذج، من شأنه أن يتيح تتبع سلوك أنظمة الذكاء الاصطناعي وتدقيقه بصورة أفضل.

وتُظهر عمليات المراقبة عبر المنصات إمكانات واعدة في التنبؤ بكيفية انتشار الروايات الزائفة، في حين يمكن لوكلاء الذكاء الاصطناعي الدفاعيين اكتشاف التضليل من خلال التعرف على أنماط التنسيق التي يُستبعد أن تكون من تنفيذ البشر. كما يمكن استخدامها لمراقبة سمعة العلامات التجارية والكشف المبكر عن حملات التشهير قبل أن تكتسب زخمًا واسعًا.

وستتطلب جميع هذه الإجراءات تحولًا في طريقة التفكير، بحيث يتم التعامل مع الأسس التي يقوم عليها الإدراك البشري والآلي باعتبارها بنية تحتية حيوية.

إن بناء القدرة على الصمود أمام التهديدات الإدراكية يمثل تحديًا في مجال الحوكمة بقدر ما هو تحدٍ تقني. وهو يتطلب قدرات مؤسسية، وأبحاثًا مشتركة بين القطاعات، وتعاونًا دوليًا، ومشاركة حقيقية من مختلف أصحاب المصلحة.

المصدر