ملخص: تناقش هذه المقالة كيف أن الانتشار السريع للذكاء الاصطناعي يفوق فهم المستخدمين له، مما يخلق مخاطر حقيقية ترتبط بالثقة وسلامة التفاعل، خاصة في المجالات الحساسة، وتوضح الحاجة إلى تعزيز محو الأمية الرقمية، ووضع إشارات واضحة لمصدر المحتوى، وبناء واجهات تحمي المستخدمين من التحيز والإقناع الزائف، مع تأكيد دور السياسات والتعاون العالمي لضمان أن تخدم هذه التقنيات الإنسان بأمان قبل أن تمس حياته ورفاهيته.
- يتفاعل الكثيرون يوميًا مع التقنيات الرقمية، حيث تجعل الدردشة مع الروبوتات والأفاتارات التفاعلات عبر الإنترنت أكثر قربًا وشخصية.
- ومع ذلك، فإن هذا الانتشار السريع قد سبق مستوى فهم الجمهور لها، مما يخلق مخاطر على الأطفال والعاملين وكبار السن وغيرهم من الفئات الضعيفة.
- إن الثقة في التقنيات الرقمية – بما في ذلك الذكاء الاصطناعي – أمر محوري، وعلى جميع الأطراف العمل معًا لضمان أن تخدم التكنولوجيا المستخدمين لا العكس.
نحن نتفاعل بالفعل مع أنظمة تستمع وترد بنبرة دافئة وتبدو وكأنها تفهمنا. فمساعدات الصوت تُهدّئ بعد أيام طويلة، والدردشة الآلية تساعد في حل المشكلات، والأفاتارات تجعل التفاعل عبر الإنترنت أكثر إنسانية.
هذا السلاسة في التفاعل تخفّض حواجز الوصول إلى المعلومات، وتدعم التعلم، وقد توسّع نطاق الرعاية في الأماكن التي تكون فيها الخدمات البشرية محدودة.
لكن هذه الأنظمة تعتمد على نماذج احتمالية، لا على خبرة مهنية حقيقية، كما أن انتشارها السريع تجاوز وعي المستخدمين بها، مما خلق مخاطر على الفئات الضعيفة.
الثقة هي التحدي الأساسي.
الثقة في التقنيات الرقمية تتعلق بتوقعات الناس وكيفية اجتماع عوامل تقنية – مثل الأمن السيبراني – وعوامل اجتماعية – مثل إمكانية التظلم – لضمان أن تكون التكنولوجيا في خدمة الإنسان.
المستخدمون بحاجة إلى فهم متى لا ينبغي الوثوق بالذكاء الاصطناعي
لم يحصل معظم المستخدمين على الخبرة الكافية مع الذكاء الاصطناعي لبناء فهم دقيق لما يمكن الوثوق به. فالأنظمة التي تتحدث بثقة تشجع القبول السريع، وهو أمر مفيد في المهام البسيطة لكنه خطير في المجالات الحساسة مثل الصحة والتمويل والخدمات القانونية أو الرفاه النفسي.
وتظهر الحاجة الملحة لذلك من خلال حوادث حديثة:
– روبوتات محادثة بأسلوب علاجي تقدم إرشادات خطيرة،
– أدوات صوتية اصطناعية تُستخدم في الخداع،
– خوارزميات توظيف تعيد إنتاج التحيزات القديمة وتقصي المرشحين المؤهلين.
هذه ليست أخطاء معزولة، بل إشارات على كيف يمكن للواجهات الإقناعية والتصميم غير الشفاف أن يعيد تشكيل السلوك على نطاق واسع.
منذ إطلاق ChatGPT في نوفمبر 2023، ركزت مناقشات سلامة الذكاء الاصطناعي على النماذج الأساسية وهندستها ومجموعات تدريبها، أكثر من المخاطر التي تحدث على مستوى التفاعل بين المستخدم والمنتج.
ولكن حماية المستخدمين تتطلب تغيير التركيز نحو الأضرار السياقية:
– نبرة الإقناع التي تبني ثقة زائفة،
– إعدادات واجهة تدفع نحو سلوك ضار،
– تخصيص يكشف نقاط ضعف حساسة،
– فجوات في التصعيد تحرم المستخدم من المساعدة البشرية في الوقت المناسب.
هناك خطوات أولية واعدة، إذ بدأت الشركات والجهات المنظمة بفرض ملصقات منشأ ومؤشرات عدم اليقين التي تبيّن متى يكون المحتوى مولّدًا بواسطة الذكاء الاصطناعي أو غير مؤكد.
تشير التوجيهات المبكرة إلى أن هذه الإشارات تقلل من الإفراط في الاعتماد وتُعزز السلوك القائم على التحقق.
شارات المنشأ، ودرجات الثقة، ورسائل مثل "هذه الإجابة تم توليدها بواسطة الذكاء الاصطناعي" تدفع المستخدمين للتوقف، والتحقق، أو التصعيد.
تدابير تركز على التفاعل هي مفتاح سلامة الذكاء الاصطناعي
هذه التدابير ضرورية ولكنها غير كافية وحدها.
يجب أن تكون الإجراءات التي تركز على التفاعل في صميم أجندات السلامة الرقمية.
بالنسبة لصانعي السياسات وفرق المنتجات، يعني ذلك مواءمة التصميم والحَوْكمة والتعليم والاستجابة المشتركة لضمان بناء ثقة حقيقية قبل أن تمس هذه التقنيات حياة الناس ورفاههم.
يجب أن تنطلق ميزات المنتجات من حقيقة أن الناس لا يستطيعون دائمًا ضبط أنفسهم – خصوصًا في ظل أزمة الوحدة والاكتئاب – وأن الذكاء الاصطناعي الودود والمتاح دائمًا قد يعزز ثقة زائفة.
لذا يجب أن تتضمن الواجهات حواجز سلوكية تقلل من إضفاء الطابع البشري على الذكاء الاصطناعي.
كما ينبغي أن تشمل الحماية الافتراضية:
– إعدادات خصوصية تقلل البيانات،
– تخصيصًا محافظًا في المجالات الحساسة،
– وضوحًا في منشأ المحتوى ومستوى اليقين،
– وإمكانية وصول سريعة إلى دعم بشري عند التعامل مع الأزمات أو الأسئلة القانونية أو الطبية.
وينبغي أن تجري الشركات اختبارات “فِرق الهجوم” بانتظام، تركز على أضرار التفاعل، وتحد من إعادة استخدام البيانات الحساسة، وتنشر أدلة سلامة توضح نماذج التهديد وخطط الاستجابة.
وفي الوقت نفسه، يجب على الجهات المنظمة فرض تدقيقات مستقلة وآليات تظلم واضحة في الحالات عالية الخطورة، كما يجب أن تعمل شبكات الاستجابة السريعة عبر القطاعات على مشاركة الحوادث والإصلاحات عبر الحدود.
هذه التدابير ليست لكبح الابتكار، بل لضمان أن تكسب هذه الأدوات القوية ثقة الجمهور قبل أن تؤثر في سبل عيش الناس ورفاههم.
أهمية تعزيز محو الأمية في الذكاء الاصطناعي والدعم المجتمعي
بنفس القدر من الأهمية، يجب تعزيز محو الأمية في الذكاء الاصطناعي ليفهم الناس متى يثقون به ومتى يلجؤون إلى المساعدة البشرية.
يجب أن تتجاوز برامج التعليم مهارات “صياغة الأوامر” وتستند إلى علم النفس لتعليم المستخدمين من جميع الأعمار كيفية:
– التعرف على التصميم الإقناعي،
– قراءة إشارات المنشأ واليقين،
– والتحقق من النصائح الحرجة.
يمكن للمكتبات والمدارس وأماكن العمل والمراكز المجتمعية أن تستضيف تدريبات عملية و"خرائط تصعيد" تربط المستخدمين مع مختصين موثوقين.
كما يجب أن تقدّم المدارس دروسًا في الذكاء الاصطناعي كما كانت تقدّم دروس الحاسوب، لشرح طريقة عمل الذكاء الاصطناعي ومجالات فائدته ومخاطره المحتملة.
التحالف العالمي للسلامة الرقمية يدفع هذا التوجه عبر جمع الحكومات والصناعة والمجتمع المدني والخبراء لسد الفجوات بين مجتمعات الذكاء الاصطناعي ومجتمعات الثقة والأمان، ومناقشة تفاعلات الذكاء الاصطناعي مع المستخدمين.
وفي الاجتماع السنوي للمنتدى الاقتصادي العالمي 2026 في دافوس، سيجري التركيز على تحسين منشأ المحتوى، وتنظيمات السلامة الرقمية، وبرامج محو الأمية الرقمية القابلة للتوسع لجعل السلامة ممارسة واقعية في كل مكان.
إذا تمت أولوية السلامة القائمة على التفاعل، فإن التفاعل الذكي يمكن أن يكون قوةً للاندماج والإبداع والمرونة.
فالإشارات الواضحة للمنشأ واليقين، والإعدادات المحافظة في المجالات الحساسة، والتعليم الواسع، والممارسات الشفافة، والتعاون العالمي يمكن أن تجعل هذا المستقبل ممكنًا.
بالنسبة لصانعي السياسات وفرق المنتجات، المهمة الحالية ملحّة وعملية:
دمج سلامة التفاعل في دورة حياة المنتج،
وفرض مسؤولية مستقلة للعمليات عالية المخاطر،
والاستثمار في برامج محو الأمية المجتمعية حتى يتمكن المستخدمون من تبني أدوات الذكاء الاصطناعي بثقة والحصول على الإنصاف عندما يحدث خطأ ما.
