أحد أكبر العوائق أمام التسريع في تبني الذكاء الاصطناعي هو الحاجة إلى ضمان وجود حوكمة قوية، وأمان محكم، وإجراءات خصوصية فعالة—خصوصًا في ظل المخاطر الجديدة التي تفرضها تقنيات الذكاء الاصطناعي التوليدي.
وقد صرّحت 45% من الشركات بأن هذه القضايا تُبطئ من سرعة تبنّي الذكاء الاصطناعي لديها، وترتفع النسبة إلى 65% بين الشركات التي تتجاوز إيراداتها 10 مليارات دولار.
ويُعزى هذا التفاوت إلى الملف الخطر الأكبر الذي تواجهه المؤسسات الكبرى، بما في ذلك اتساع سطح الهجوم الرقمي، مما يجعلها أكثر عرضة للاختراق والمساءلة التنظيمية.
الهلوسة، والأخطاء، والتحيّز
يرافق الذكاء الاصطناعي التوليدي مجموعة من المخاطر الجديدة، أبرزها:
- إنتاج معلومات غير دقيقة أو ما يُعرف بـ ""الهلوسة""
- مخاطر قانونية مثل السرقة الأدبية، وانتهاك حقوق النشر، والمساءلة عن الأخطاء
- تحديات تتعلق بالخصوصية وملكية البيانات
- التحيّز المنهجي في النماذج والقرارات
هذه المخاطر يمكن أن تضر بالعملاء وتعرض الشركات للمساءلة القانونية.
فعلى سبيل المثال، تم تحميل شركة Air Canada مؤخرًا المسؤولية القانونية عن أضرار تسببت بها معلومات مضللة قدمها روبوت دردشة مدعوم بالذكاء الاصطناعي.
كما أن المعلومات غير الدقيقة والهلوسات قد تُساهم في تعزيز التحيّز داخل نماذج الذكاء الاصطناعي.
ففي قطاع الخدمات المالية، قد تساعد تقييمات المخاطر الائتمانية المدعومة بالذكاء الاصطناعي في تقليل التمييز، ولكن فقط إذا كانت البيانات المستخدمة في التدريب موثوقة وخالية من الانحرافات.
أما إذا تم تدريب النموذج على بيانات خاضعة لتحيّزات مسبقة، فسيُفاقم ذلك التمييز بدلاً من معالجته، مؤديًا إلى نتائج أقل عدالة.
ويمكن لهذا النوع من التحيّز أن يظهر في تطبيقات متعددة مثل:
- الرعاية الصحية
- إنفاذ القانون
- الإعلان، حيث قد تُعزز الخوارزميات التحيّزات الجندرية أو تُهمّش الأقليات
مخاطر الأمن السيبراني
تفتح أدوات الذكاء الاصطناعي التوليدي الباب أمام أنواع جديدة من الهجمات السيبرانية، مثل:
- هجوم حقن الأوامر (Prompt Injection): حيث يستخدم المهاجمون أوامر مخادعة لإجبار النموذج على إعطاء ردود غير مقصودة، أو التحايل على القيود الأمنية.
في فبراير 2023، تمكّن طالب من جامعة ستانفورد من اكتشاف معلومات حساسة عن Bing Chat من خلال خداعه ليقوم بتجاهل التعليمات السابقة. - تسميم البيانات (Data Poisoning): ويحدث عند إدخال معلومات ضارة عمدًا في بيانات التدريب لتشويه أداء النموذج.
- تسريبات البيانات من قواعد البيانات أو الأنظمة التي تُغذي النماذج اللغوية، وهو مصدر قلق متزايد.
الخصوصية وحماية البيانات
في عصر الذكاء الاصطناعي، تتطلب الخصوصية وحماية البيانات استثمارات كبيرة، لا سيما في القطاعات الحساسة التي تعتمد بشكل كبير على الأمان والامتثال التنظيمي.
وقد أظهر استطلاعنا أن المشاركين من قطاع الخدمات المالية كانوا أكثر وعيًا بهذه المخاطر، حيث تجاوزت نسبتهم بـ13 نقطة المتوسط العام، إذ أشار 58% منهم إلى أن الحوكمة، والأمان، والخصوصية تُشكّل عوائق أمام تبني الذكاء الاصطناعي، مقارنة بمتوسط عام بلغ 45%.
كشف استطلاعنا أن الغالبية العظمى من الشركات عبر مختلف القطاعات تأخذ مسألة الأمان والسلامة على محمل الجد، حيث أشار 98% من المشاركين إلى أنهم على استعداد للتخلي عن ميزة السبق في تبني الذكاء الاصطناعي إذا كان ذلك يضمن تطبيقه بأمان وحذر (انظر الشكل 6).
هذا النهج الحذر يعكس إدراكًا واسع النطاق للمخاطر المحتملة المرتبطة بالذكاء الاصطناعي، سواء من حيث الأضرار المحتملة على سمعة العلامة التجارية، أو احتمالية التعرّض لعقوبات تنظيمية صارمة. وتتبنى الشركات منظورًا بعيد المدى، تسعى من خلاله إلى تحقيق توازن بين التقدم والحماية.
في حالات عديدة، بدأت المؤسسات باستخدام الذكاء الاصطناعي ذاته لتعزيز أمنها السيبراني ومرونتها التقنية.
فمع تصاعد حجم التهديدات، أصبح لزامًا على الشركات أن تتعامل معها على ""مقياس الآلة"" وليس ""مقياس الإنسان""، وهنا تبرز قوة حلول الذكاء الاصطناعي في أعمال الحماية، مثل:
- فحص الثغرات الأمنية
- تقييم المخاطر
- كشف التهديدات والهجمات
- مطاردة التهديدات المحتملة بشكل استباقي
ورغم هذا التقدم، كل حل جديد بالذكاء الاصطناعي قد يخلق تهديدات جديدة أيضًا.
لذا، ستظل الرقابة البشرية جزءًا أساسيًا من العملية، ليس فقط لأغراض السلامة، ولكن لأنها تُسهم أيضًا في تحسين أداء النماذج نفسها.
يقول ماكلارتي:
""نظرًا لمخاوف الثقة والحَوْكمة، لا نزال بحاجة إلى وجود العديد من حواجز الحماية البشرية ضمن الصورة.""
المد التنظيمي المتصاعد
حتى الآن، ركزت التشريعات المتعلقة بالذكاء الاصطناعي على إرساء الضوابط وأطر الحوكمة لمراقبة أنشطة الذكاء الاصطناعي، والتحكم بالمخاطر، وضمان تكافؤ الفرص بين الفاعلين.
وقد أظهرت دراسة تحليلية شملت 127 دولة أن عدد القوانين التي تتضمن مصطلح ""الذكاء الاصطناعي"" قد ارتفع من قانون واحد فقط في 2016 إلى 37 قانونًا في عام 2022.
ورغم أن هذا التزايد يعكس إدراكًا لتأثير الذكاء الاصطناعي المتزايد، لا يزال هناك حاجة ملحّة لتسريع وضع سياسات شاملة تُغطي الأخلاقيات، والخصوصية، والأمن.
وتُعد اللائحة الأوروبية للذكاء الاصطناعي (AI Act) من أكثر المبادرات التنظيمية شمولًا حتى اليوم.
فهي تقدم نهجًا قائمًا على مستوى الخطورة لتصنيف أنظمة الذكاء الاصطناعي، وتفرض متطلبات صارمة على الأنظمة المستخدمة في مجالات عالية المخاطر مثل:
- البنية التحتية
- التوظيف
- تطبيق القانون
ويُشترط على هذه الأنظمة الامتثال لمعايير صارمة تتعلق بجودة البيانات، والشفافية، والرقابة البشرية، والدقة، قبل السماح لها بالتداول في السوق.
أما الأنظمة المنخفضة المخاطر مثل روبوتات الدردشة (chatbots)، فستخضع لـ مدونات سلوك طوعية ومتطلبات شفافية.
الغالبية العظمى من الشركات عبر القطاعات تأخذ السلامة والأمان على محمل الجد، حيث عبّر 98% من المشاركين عن استعدادهم للتنازل عن ميزة السبق مقابل ضمان تطبيق آمن وموثوق للذكاء الاصطناعي.
منع بعض الاستخدامات بشكل كامل
بعض حالات الاستخدام، مثل تصنيف الأفراد اجتماعيًا (social scoring) أو المراقبة الجماعية، سيتم حظرها تمامًا بموجب هذه اللوائح.
وفي الولايات المتحدة، تم اتخاذ خطوات مماثلة، حيث أصدر الرئيس الأمريكي جو بايدن أمرًا تنفيذيًا في أكتوبر 2023، يتضمن معايير جديدة للأمن والسلامة في الذكاء الاصطناعي.
يتضمن هذا الأمر:
- برنامجًا متقدّمًا للأمن السيبراني يهدف إلى تطوير أدوات ذكاء اصطناعي لاكتشاف الثغرات الأمنية وإصلاحها في البرمجيات الحيوية
- إنشاء مجلس خاص بالأمن والسلامة في الذكاء الاصطناعي
- إلزام مطوري النماذج القوية بمشاركة نتائج اختبارات السلامة مع الحكومة
تحديات الامتثال التنظيمي
الزخم التشريعي المحيط بالذكاء الاصطناعي سيبقى تحديًا مستمرًا للشركات.
يقول كولينز:
""قد تستغرق المؤسسة عامين حتى تتمكن من فهم كيفية الامتثال للوائح الجديدة، نظرًا لكمية القراءة اللازمة لفهم السياسات والتوجيهات.""
من التحديات الرئيسية أيضًا إنشاء آليات فعالة لقياس الامتثال والأداء.
وتُساعد أدوات مثل:
- تقييم أثر الخوارزميات (Algorithm Impact Assessments)
- مراجعة التحيّزات (Bias Audits)
في مراقبة قدرات أنظمة الذكاء الاصطناعي وبناء الثقة فيها.
لكن الثغرات التنظيمية الحالية تجعل من وضع أطر تقييم موثوقة أمرًا صعبًا. ومع ذلك، يمكن الاستعانة بمعايير منظمة ISO الدولية لتوفير إرشادات مفيدة.
وتقر التنظيمات الحالية بأن الخطر لا يمكن تجنبه بالكامل، لكنها تسعى لردع نشر أنظمة الذكاء الاصطناعي بطريقة غير مسؤولة أو عالية الخطورة.
أما المؤسسات الذكية، فستبدأ بإعطاء الأولوية لخاصية ""قابلية التفسير"" (Explainability) — أي فهم كيف يتخذ النموذج قراراته ونتائجه — لأسباب تتعلق بالامتثال، وكذلك لبناء ثقة العملاء.
