لماذا يشكّل وصف الذكاء الاصطناعي بـ«الفاعل» خطرا حقيقيا في العالم الواقعي، وكيف يمكن تجنبه

• إن وصف الذكاء الاصطناعي بأنه «فاعل» يطمس فاصلًا جوهريا بين الفاعلية الإنسانية والأنظمة المؤتمتة، ما يجعل من الصعب على الجمهور والجهات التنظيمية والمحاكم تحديد المسؤولية عند وقوع الضرر.
• فالأنظمة الاصطناعية لا تمتلك تجربة معيشة، ولا حكما ذاتيا، ولا صدقا عاطفيا في السرد. ومساواتها بالبشر تنطوي على خطر تسطيح الثقافة، وخفض المعايير الإبداعية، وتقويض قيمة العمل الإنساني.
• لكن هذه المخاطر ليست حتمية ولا ملازمة للتكنولوجيا. فالإفصاح الواضح، والتسمية الدقيقة، وتحديد المسؤولية البشرية الصريحة، يمكن أن تتيح للأدوات الاصطناعية دعم الإبداع من دون تضليل الجمهور أو تقويض مكانة المؤدين البشر.

في ستينيات القرن الماضي، لاحظ علماء الحاسوب الأوائل ظاهرة لافتة في تفاعل البشر مع البرمجيات. حتى البرامج البسيطة كانت قادرة على دفع المستخدمين إلى إضفاء نية أو فهم على نصوص ناتجة عن مطابقة آلية للأنماط.

وأصبحت هذه الظاهرة تُعرف لاحقا باسم «تأثير إليزا»، وظلت لعقود تذكيرا بمدى استعداد البشر لإسقاط الفاعلية على الأنظمة التي تتواصل بلغة مألوفة.

أما اليوم، فقد حوّل الذكاء الاصطناعي التوليدي هذا الميل الإنساني إلى نموذج أعمال. فهذه الأنظمة صممت لتمنحك شعورا بوجود عقل خلف الشاشة، من خلال أسلوب محادثة بشري، وتعابير مألوفة، وأحيانا وجوه واقعية وأصوات معبرة.

وتكتسب هذه الديناميكية خطورة خاصة عندما تُوصف الأنظمة الاصطناعية بمسميات مهنية بشرية، ولا سيما عندما يُطلق عليها وصف «ممثل».

فالتمثيل ليس مجرد مهمة يمكن تنفيذها. إنه حرفة تتشكل عبر الذاكرة، والهشاشة، والفضول، والاختيار. ووصف كيان اصطناعي بأنه ممثل يعني محو الفارق بين التعبير الإنساني والمحاكاة الآلية.

وقد مهّد هذا الخلط الطريق للجدل الأخير المتعلق بالشخصية الاصطناعية المسماة «تيلي نوروود»، التي قُدمت بوصفها أول ممثل ذكاء اصطناعي، من إنتاج استوديو الإنتاج الهولندي Particle6.

مخاطر استخدام «ممثل» من الذكاء الاصطناعي

1. مخاطر ثقافية: تسطيح السرد الإنساني

لطالما عكس السرد القصصي التجربة الإنسانية. فالأداء المؤثر ينبع من أشخاص عرفوا الفرح والخسارة والشك والنمو. وغالبا ما تستمد القصص قوتها العاطفية من رؤى متجذرة في حياة بشرية حقيقية.

أما الأنظمة الاصطناعية فلا تمتلك تجربة. إنها تعيد تركيب أنماط توحي بالعاطفة. وقد تبدو النتائج مصقولة ومتقنة، لكنها تفتقر إلى أصل إبداعي حقيقي. وإذا تشبع الجمهور بهذا النوع من المحتوى، فإن الثقافة مهددة بأن تصبح أكثر تسطيحا وتكرارا، وأقل عمقا ومفاجأة وارتباطا بالوجدان الإنساني.

ومع انتشار المحتوى الاصطناعي منخفض التكلفة، يبرز خطر آخر يتمثل في خفض سقف التوقعات. فقد يخلط المشاهدون بين الوفرة والأصالة، وبين البراعة التقنية والمعنى الحقيقي. وهذه خسارة لا تطال المبدعين فقط، بل كل من يعتمد على القصص لفهم العالم من حوله.

2. مخاطر عملية: مسؤولية بلا صاحب مسؤولية

لا تقل مسألة المسؤولية أهمية عن البعد الثقافي.

فعندما يشاهد الجمهور ممثلا، فإنه يدرك ما يعنيه ذلك الدور: إنسان يتخذ قرارات إبداعية، يبرم عقودا، يتفاوض على شروط، ويتحمل مسؤولية قانونية ومهنية.

أما النظام الاصطناعي فلا يستطيع القيام بأي من ذلك. ومع ذلك، عندما يُقدَّم بلغة وصورة إنسانية، قد يفترض الجمهور بشكل مشروع أن الشخصية الظاهرة على الشاشة هي الطرف المسؤول.

وتكمن خطورة هذا الالتباس عند وقوع الضرر. فإذا نشر مقدم أخبار اصطناعي معلومات مضللة أو أساء إلى شخص خاص، فإن المسؤولية لا تقع على البرمجيات، بل على البشر الذين صمموا النظام ودربوه ونشروه وسوقوه.

لكن إضفاء الصفات البشرية على هذه الأنظمة قد يحجب هذه الحقيقة، ويمنح الجهات المسؤولة ستارا يقيها من المساءلة.

ثلاثة مبادئ للحفاظ على النزاهة

لا تدعو هذه المخاوف إلى التخلي عن الأدوات الرقمية. فالأدب والفن لطالما لعبا على حدود العلاقة بين الخالق والمخلوق. ويدرك الجمهور أن الشخصيات الخيالية يمكن أن تعبر عن أفكار ومشاعر لا وجود لها خارج السرد.

لكن الإشكال يظهر عندما ينتقل هذا الإطار الخيالي إلى السياقات التجارية والعالم الواقعي. ولحماية الإبداع، والثقة العامة، والمساءلة القانونية، ينبغي على الصناعات التي تستخدم الوسائط الاصطناعية الالتزام بثلاثة مبادئ أساسية:

1. الفصل الواضح بين السرد الخيالي والواقع التجاري

داخل العمل الفني، يمكن للشخصية الاصطناعية أن تعبر عن أي مشاعر يقتضيها السياق. أما في السوق، فيجب أن تكون الدقة مطلقة. فالبرمجيات لا تُوظف كممثلين، بل تُرخص بوصفها مؤدين اصطناعيين، أو نسخا رقمية، أو أدوات محددة التوصيف بوضوح.

ويجب أن تعكس العقود والبيانات العامة هذه الحقيقة. فاللغة الشفافة تحافظ على معنى الأدوار البشرية، وتحمي الفئات المهنية في القانون، وتمنع تضليل الجمهور بشأن الجهة التي تؤدي العمل فعليا.

2. تحديد مسؤول بشري صريح عن المخرجات الاصطناعية

كلما ازداد تشابه النظام مع الإنسان، ازدادت أهمية تحديد المسؤولين عنه. ولا يجوز لأي نظام اصطناعي أن يكون درعا يقي من تبعات الأضرار.

فالتفسيرات التقنية الغامضة لا تعوض المسؤولية. ويجب أن تتحمل القيادة المؤسسية المسؤولية الكاملة عن مخرجات الأنظمة التي تعتمدها.

3. قول الحقيقة عند كل نقطة تفاعل

إن روبوت خدمة عملاء يقلد صوتا بشريا دون الإفصاح عن طبيعته الاصطناعية يمارس خداعا. كما أن مقدم أخبار اصطناعي يعبر عن آراء دون تحديد الجهة المسؤولة يقوض الثقة العامة.

وأي نظام اصطناعي يُستخدم خارج إطار خيالي واضح يجب أن يُعرّف على حقيقته، مع الإفصاح عن الجهة التي تقف خلفه.

ويمكن للوسوم، والعلامات المائية، وخيارات تصميم الواجهة أن تخدم مطلبا أساسيا واحدا: قول الحقيقة عند نقطة التفاعل.

التزام ضروري قبل دافوس 2026

على كل قائد عالمي يساهم في تطوير أو نشر الذكاء الاصطناعي التوليدي أن يتبنى هذه المبادئ، وأن يجعلها حجر الأساس في برامجه الأخلاقية ونظم المساءلة.

فالخيارات التي نتخذها اليوم ستحدد ما إذا كانت هذه التكنولوجيا ستعزز الإبداع الإنساني والثقة الديمقراطية، أم ستقوض الأسس التي يقوم عليها مجتمعنا.

يمكننا استخدام التكنولوجيا لصناعة قصص استثنائية، لكن لا يجوز لنا الخلط بين المحاكاة والإنسانية. فالكائن الاصطناعي أداة، أما المؤدي فهو شخص. وإذا فشلنا في حماية هذا التمييز، فإننا نخاطر بفقدان المساءلة، وربما بفقدان الصوت الإنساني في قلب الثقافة نفسها.