الفصل الرابع: الآثار والتحديات المجتمعية
يبحث هذا الفصل التبعات المجتمعية للذكاء الاصطناعي التوليدي، مركزاً على فجوة المهارات والحاجة إلى الثقافة في مجال الذكاء الاصطناعي لدى المواطنين والقوى العاملة. ويناقش المشاعات الرقمية، وتقاطع الذكاء الاصطناعي مع الشواغل البيئية، فضلاً عن حضور الذكاء الاصطناعي التوليدي في وسائل الإعلام والتصورات العامة والخطاب العام والسرديات المحيطة بتطوراته. ويتناول الفصل أيضاً حقوق الأطفال، وقضايا التحيز القائم على النوع الاجتماعي في أنظمة الذكاء الاصطناعي، وإمكانية توليد محتوى زائف أو مضلل. ويقترح مقاربة سلوكية لتحليل سياسات الذكاء الاصطناعي التوليدي بوصفها وسيلة للتعامل مع تحديات الخصوصية وحماية البيانات. ويطرح الفصل أسئلة جوهرية حول كيفية ضمان تطبيقات ذكاء اصطناعي شاملة وأخلاقية تنسجم مع القيم المجتمعية.
4.1 فجوة المهارات والثقافة في مجال الذكاء الاصطناعي لدى المواطنين والقوى العاملة
الرسائل الرئيسية
تُعد معالجة فجوة المهارات وتعزيز الثقافة في مجال الذكاء الاصطناعي لدى القوى العاملة تحدياً معقداً يتطلب جهوداً منسقة من أصحاب مصلحة متعددين، بمن فيهم الشركات والمؤسسات التعليمية وصانعو السياسات.
ومن خلال تبني استراتيجيات شاملة تركز على تطوير المهارات وإعادة التأهيل وتعزيز الثقافة في مجال الذكاء الاصطناعي منذ سن مبكرة عبر التعليم، واستمراراً عبر التعلم مدى الحياة، تستطيع المجتمعات المساعدة في ضمان أن تكون قواها العاملة ومواطنوها أكثر استعداداً لتسخير إمكانات الذكاء الاصطناعي التوليدي.
مدخل إلى فجوة المهارات والمهارات الرقمية
يملك الذكاء الاصطناعي التوليدي القدرة على إحداث تحول جوهري في مشهد القوى العاملة في مختلف الصناعات. ويبرز هذا التحول فجوة مهارات قد تتطور تطوراً كبيراً، ولا سيما في الكفاءات الرقمية، وهي فجوة تزداد وضوحاً مع انتشار تقنيات الذكاء الاصطناعي التوليدي. فمع أن قابلية الذكاء الاصطناعي، والتوليدي منه خاصة، لمحاكاة بعض المهارات البشرية ستفضي إلى إزاحة بعض المهارات، يُتوقع أن يولّد انتشاره الواسع طلباً متزايداً على المهارات الرقمية ومهارات علم البيانات المتعلقة بتطوير أنظمة الذكاء الاصطناعي وصيانتها، فضلاً عن المهارات المعرفية والمستعرضة المكملة التي تمكّن العمال من استخدام أنظمة الذكاء الاصطناعي التوليدي والتفاعل معها. وهذه المهارات، إلى جانب التفكير التحليلي، والمرونة النفسية، والمرونة، وسرعة التكيف، والقيادة، والتأثير الاجتماعي، هي المهارات التي يطلبها أصحاب العمل.
ولا تقتصر فجوة المهارات هذه على فهم كيفية استخدام أدوات الذكاء الاصطناعي التوليدي، بل تمتد إلى استيعاب التبعات الأوسع لتقنيات الذكاء الاصطناعي، بما في ذلك قدرتها على أتمتة المهام وتعزيز القدرات البشرية، وهو ما يتصل بالتبعات الاقتصادية لهذه التقنية. وينصب التركيز هنا على الاستجابات اللازمة على المستويين المجتمعي والتدريبي لتزويد العمال، والمواطنين عموماً، بالمهارات الضرورية.
وتظل المهارات الرقمية في صدارة الأجندة السياساتية للاتحاد الأوروبي، وتؤكد الأدلة المتاحة الحاجة إلى جهود متواصلة ومستدامة. فبرنامج سياسات العقد الرقمي يحدد هدفاً يتمثل في أن يمتلك ما لا يقل عن 80% من الأشخاص الذين تتراوح أعمارهم بين 15 و74 عاماً مهارات رقمية أساسية على الأقل بحلول عام 2030. وفي عام 2023، كان 56% من هذه الفئة يمتلكون مهارات رقمية أساسية أو تفوق الأساسية، وهو ما يبعد كثيراً عن الهدف المنشود. وللاتحاد الأوروبي كذلك هدف يتمثل في أن تقل نسبة الطلاب ذوي التحصيل المنخفض في الثقافة الحاسوبية والمعلوماتية عن 15% في عام 2030، غير أن 43% من الطلاب لم يبلغوا في عام 2023 المستوى الأساسي من المهارات الرقمية. وفي عام 2023، اعتمد المجلس توصية بشأن تحسين توفير المهارات والكفاءات الرقمية في التعليم والتدريب، إقراراً بأهمية تعزيز نهج نوعي وشامل ومتسق لتنمية المهارات الرقمية في جميع مستويات التعليم والتدريب.
وتواصل المفوضية الأوروبية في ولايتها الممتدة من 2024 إلى 2029 إيلاء أهمية كبيرة للمهارات، بما فيها المهارات الرقمية، من خلال مبادرات منها مبادرتها الشاملة "اتحاد المهارات". وفي إطار هذا التحرك السياساتي، اعتُرف بالمهارات الرقمية مهاراتٍ أساسية في خطة العمل الخاصة بالمهارات الأساسية المعتمدة مؤخراً، ومن المرتقب صدور استراتيجية أوروبية للتعليم والتدريب المهنيين. ويبرز التقرير المتعلق بمستقبل القدرة التنافسية الأوروبية أن معالجة فجوات المهارات في جميع المراحل أمر حاسم لنجاح أوروبا على المدى الطويل، وأن ثمة حاجة إلى تكثيف الجهود في التعليم والتدريب والتعلم مدى الحياة. ويحذر التقرير من أن التكنولوجيا، بما فيها الذكاء الاصطناعي، وإن كانت محورية للحفاظ على النموذج الاجتماعي الأوروبي، قد تفاقم أوجه عدم المساواة إن لم تقترن باستثمارات قوية في التعليم وتنمية المهارات. وتعالج "بوصلة التنافسية" الأوروبية هذه الحاجة في مجال الذكاء الاصطناعي من خلال استراتيجية "طبّق الذكاء الاصطناعي"، فيما تؤكد خطة عمل "قارة الذكاء الاصطناعي" الصادرة مؤخراً الحاجة إلى تعزيز مهارات الذكاء الاصطناعي، بما فيها الثقافة الأساسية في هذا المجال، من خلال مواصلة تطوير التميز في التعليم والتدريب والبحث في مجال الذكاء الاصطناعي.
وللتشريعات الرقمية، بما فيها قانون الذكاء الاصطناعي وقانون الأمن السيبراني وقانون الخدمات الرقمية، تبعات على المواطنين من حيث وعيهم بحقوقهم ومسؤولياتهم وفهمهم للتبعات الأخلاقية والاجتماعية للتقنيات الرقمية. وتُلزم المادة الرابعة من قانون الذكاء الاصطناعي مزودي أنظمة الذكاء الاصطناعي والجهات المستخدمة لها بضمان مستوى كافٍ من الثقافة في مجال الذكاء الاصطناعي لدى موظفيهم وغيرهم من الأشخاص الذين يتعاملون مع هذه الأنظمة نيابة عنهم. ولتحقيق ذلك، ينبغي للمزودين والجهات المستخدمة مراعاة المعرفة التقنية لموظفيهم وخبرتهم وتعليمهم وتدريبهم، والسياق الذي ستُستخدم فيه أنظمة الذكاء الاصطناعي، بما في ذلك الأشخاص المستهدفون بها.
ويحظى مفهوم الثقافة في مجال الذكاء الاصطناعي باعتراف متزايد بوصفه مكوناً حاسماً في تنمية القوى العاملة، وواحداً من المهارات التي يتزايد طلب أصحاب العمل عليها. ولا يقتصر هذا المفهوم على القدرة على استخدام أدوات الذكاء الاصطناعي، بل يشمل أيضاً فهم المفاهيم الأساسية للذكاء الاصطناعي واعتباراته الأخلاقية وآثاره المجتمعية. ومع ازدياد اندماج أنظمة الذكاء الاصطناعي في عمليات العمل، تغدو تنمية هذه الثقافة أمراً أساسياً لتمكين العمال من اتخاذ قرارات مستنيرة واستخدام الذكاء الاصطناعي بمسؤولية وفعالية.
وينبغي التعامل مع أهمية الثقافة في مجال الذكاء الاصطناعي لا بوصفها مهارة مستقلة، بل بوصفها جزءاً لا يتجزأ من السياق الأوسع للكفاءة الرقمية. فمن خلال بناء قوى عاملة ملمة بالذكاء الاصطناعي، تستطيع المؤسسات تعزيز الإنتاجية والابتكار مع الحد من المخاطر المرتبطة بتبنيه.
الإطار الأوروبي للكفاءة الرقمية 3.0
يهدف الإطار الأوروبي للكفاءة الرقمية للمواطنين، المعروف اختصاراً بـ DigComp، إلى معالجة فجوة المهارات الرقمية من خلال توفير نهج منظم لتعزيز الكفاءات الرقمية لدى المواطنين. وستعمل النسخة المرتقبة DigComp 3.0، المقرر نشرها بحلول نهاية عام 2025، على مزيد من دمج الكفاءات المتعلقة بالذكاء الاصطناعي، بما يعكس حاجة المواطنين إلى فهم أنظمة الذكاء الاصطناعي والتفاعل معها على نحو أخلاقي وفعال. ويؤدي هذا الإطار دوراً محورياً في دعم تنمية المهارات الرقمية الحاسمة اللازمة للتعامل مع المشهد الرقمي المتطور والاستفادة منه. وستتضمن النسخة الجديدة دمجاً منهجياً ومستعرضاً للذكاء الاصطناعي، بما فيه الذكاء الاصطناعي التوليدي، في مجالات الكفاءة الخمسة للإطار جميعها، مع التركيز على الفهم المفاهيمي والتبعات الأخلاقية والمجتمعية. وينصب التركيز على تشجيع استخدام نقدي ومتأمل ومتوازن لأنظمة الذكاء الاصطناعي ومخرجاتها. وسيتواءم هذا الدمج مع مبادرات رئيسية أخرى، كقانون الذكاء الاصطناعي، وإطار الثقافة في مجال الذكاء الاصطناعي المرتقب للمدارس الابتدائية والثانوية الذي تشارك في إعداده المفوضية الأوروبية ومنظمة التعاون الاقتصادي والتنمية. وعلى وجه التحديد، ستُراعى كفاءات الذكاء الاصطناعي التوليدي على النحو التالي:
الأمن السيبراني للمواطنين: ثمة تركيز متزايد على الأمن السيبراني للمواطنين، بما في ذلك دور أنظمة الذكاء الاصطناعي في الهجمات السيبرانية وفي الأمن السيبراني على حد سواء، وينعكس ذلك في ثلاث من الكفاءات الإحدى والعشرين، هي إدارة الهوية الرقمية، وحماية الأجهزة، وحماية البيانات الشخصية والخصوصية.
الحقوق والاختيار والمسؤولية: ستُوسَّع كفاءة الانخراط في المواطنة الرقمية لتتضمن إشارات أكثر صراحة إلى حقوق المستهلك، والاختيار، والمشاركة الفاعلة، والتأثير، بما يشمل الوعي بالحقوق والتمسك بها فيما يتعلق بالتشريعات الرقمية الحديثة كقانون الخدمات الرقمية وقانون الذكاء الاصطناعي.
المعلومات الخاطئة والمضللة والتهديدات للديمقراطية: تركز كفاءة تقييم المحتوى الرقمي على التعامل مع المعلومات الخاطئة والمضللة، مع إدراك دور الذكاء الاصطناعي التوليدي والسرعة المحتملة التي قد تنتشر بها المعلومات الرقمية، ويشمل ذلك تحديد المصادر المتحيزة، والتحقق من الحقائق، والإشارة إلى المعلومات الخاطئة والمضللة والإبلاغ عنها.
التحول المزدوج: تتضمن كفاءة حماية البيئة النظر في كون التقنيات والاتجاهات الحديثة، كالذكاء الاصطناعي التوليدي ووسائل التواصل الاجتماعي، كثيفة الاستهلاك للموارد، وفي دور الممارسات الفردية في الحد من هذا الأثر.
وإجمالاً، يؤكد الإطار المحدّث DigComp 3.0 أهمية الثقافة الرقمية والتفكير النقدي والسلوك المسؤول في العصر الرقمي، مع التركيز على التبعات المجتمعية للتقنيات الناشئة كالذكاء الاصطناعي والذكاء الاصطناعي التوليدي.
العرض الأكاديمي في مجال الذكاء الاصطناعي
أكد الاتحاد الأوروبي أهمية بناء سكان وقوى عاملة متمكنين رقمياً للحفاظ على القدرة التنافسية في الاقتصاد الرقمي. وكما سبقت الإشارة، تهدف مبادرات سياساتية عدة، منها برنامج سياسات العقد الرقمي وخطة عمل "قارة الذكاء الاصطناعي"، إلى تعزيز قدرات القوى العاملة في مجال الذكاء الاصطناعي. وتقترح خطة عمل "قارة الذكاء الاصطناعي" دعم زيادة برامج البكالوريوس والماجستير والدكتوراه في الاتحاد الأوروبي في التقنيات الرئيسية لتوسيع قاعدة المتخصصين في الذكاء الاصطناعي.
وتؤدي مؤسسات التعليم العالي دوراً حاسماً في تشكيل القوى العاملة المستقبلية، ويقدم عرضها الأكاديمي رؤى قيّمة حول المهارات التي سترسم ملامح رأس المال البشري في الغد. ولذلك فإن رصد الاتجاهات في البرامج الأكاديمية أمر أساسي لفهم كيفية استجابة أنظمة التعليم للتطورات التقنية الناشئة. ومن خلال استخدام تقنيات التنقيب في النصوص لرصد إدراج التقنيات الرقمية المتقدمة في مناهج البرامج، والاستناد إلى بيانات منصة StudyPortals، يرصد مركز البحوث المشترك مدى توافر برامج الماجستير والبكالوريوس والدورات المهنية القصيرة المقدمة باللغة الإنجليزية، ويدرس خصائصها. ويركز التحليل التالي على درجات الماجستير، لأهميتها الخاصة في استشراف تنمية المهارات، إذ تمثل المرحلة الأكاديمية الأخيرة قبل الانخراط في سوق العمل.
وقد انصب التركيز خلال الفترة من 2020 إلى 2024 على البرامج المتعلقة بالذكاء الاصطناعي، ثم وُسّع النطاق في العام الأكاديمي 2024 و2025 ليشمل البرامج التي تتناول الذكاء الاصطناعي التوليدي صراحة، إذ لم تكن هذه البيانات متاحة في السنوات السابقة. وتؤكد أحدث النتائج زيادة مطردة في عدد برامج الماجستير في الذكاء الاصطناعي المقدمة في الاتحاد الأوروبي والمملكة المتحدة، تُضاف إليها برامج أخرى تتضمن الذكاء الاصطناعي التوليدي. أما الولايات المتحدة فتشهد تراجعاً ملحوظاً في العام الأكاديمي 2024 و2025، لا يعوّضه إلا احتساب برامج الذكاء الاصطناعي التوليدي، مما يوحي بتحول استراتيجي نحو استبدال برامج الذكاء الاصطناعي التقليدية بعروض في الذكاء الاصطناعي التوليدي. ويعكس معدل الانتشار، أي نسبة برامج الماجستير في الذكاء الاصطناعي والذكاء الاصطناعي التوليدي إلى إجمالي برامج الماجستير المقدمة في المنطقة الجغرافية، الأهميةَ النسبية للذكاء الاصطناعي في مجمل العروض الأكاديمية. ويبرز هذا المؤشر الريادة القوية والمستدامة للاتحاد الأوروبي في إدماج الذكاء الاصطناعي في العروض الأكاديمية بين العامين الأكاديميين 2020 و2021 و2024 و2025، إذ يسجل الاتحاد باستمرار معدلات انتشار أعلى بكثير من المملكة المتحدة والولايات المتحدة. واللافت أن إدراج برامج الماجستير المتعلقة بالذكاء الاصطناعي التوليدي يفضي إلى زيادة قدرها 0.4 نقطة مئوية في معدل الانتشار مقارنة ببرامج الذكاء الاصطناعي التقليدية، مما يبرز الاهتمام المتزايد الذي يثيره هذا المجال الناشئ.
استراتيجيات تطوير المهارات والتدريب
برامج التدريب في مكان العمل: تعمل المؤسسات على نحو متزايد على تنفيذ برامج تدريب داخلية تركز على الذكاء الاصطناعي التوليدي والمهارات الرقمية. وكثيراً ما تتضمن هذه البرامج ورش عمل ودورات إلكترونية ومشاريع تطبيقية تتيح للموظفين اكتساب خبرة عملية في استخدام أدوات الذكاء الاصطناعي. وتُعد هذه المبادرات حاسمة للحفاظ على القدرة التنافسية للقوى العاملة الحالية وقدرتها على التكيف مع التغيرات التقنية، ولفهم احتياجات بناء القدرات المتبقية. وإضافة إلى ذلك، أنشأت المفوضية مستودعاً للثقافة في مجال الذكاء الاصطناعي يجمع ممارسات المؤسسات التي توفر أنظمة الذكاء الاصطناعي وتستخدمها، دعماً لتنفيذ المادة الرابعة من قانون الذكاء الاصطناعي.
ومن الأمثلة على ذلك مبادرة "مركز البحوث المشترك المعزز بالذكاء الاصطناعي". فبوصفه الذراع العلمية الداخلية للمفوضية الأوروبية، أطلق المركز مبادرة لاستكشاف إمكانات الذكاء الاصطناعي في مكان العمل. ومع استخدام 75% من العاملين فيه أدوات ذكاء اصطناعي مثل منصة GPT@JRC، وهي منصة داخلية آمنة تتيح للموظفين الوصول إلى النماذج اللغوية الكبيرة والتجريب عليها، يسعى المركز إلى تطوير مهارات موظفيه لتسخير كامل إمكانات الذكاء الاصطناعي. ويهدف المشروع إلى دعم الموظفين في استخدام أدوات الذكاء الاصطناعي بفعالية، ومعالجة المخاوف المتعلقة بحدودها ومخاطرها، وتنمية المهارات اللازمة للعمل مع أنظمة الذكاء الاصطناعي. وفي إطار هذه المبادرة، يركز المركز على تطوير المهارات والتدريب، ولا سيما للمديرين، لضمان دمج الذكاء الاصطناعي في المهام اليومية على نحو يعزز الإنتاجية والكفاءة. وكمثال على التطبيق المحدد عند نقطة الالتقاء بين العلم والسياسات، تجري حالياً تجارب لنشر "مساعدين بحثيين" مدعومين بالذكاء الاصطناعي التوليدي والذكاء الاصطناعي الوكيلي. ويركز نهج المشروع على التجريب والتعاون والتعلم المتبادل، وقد يقدم رؤى مفيدة وممارسات فضلى للمؤسسات الأخرى الساعية إلى تبني الذكاء الاصطناعي في أماكن عملها، مع إيلاء عناية خاصة للاستخدام الهادف للذكاء الاصطناعي التوليدي.
الشراكات مع المؤسسات التعليمية: يمكن للتعاون بين الشركات ومؤسسات القطاع العام والمؤسسات التعليمية أن ييسر تطوير مناهج تتوافق مع احتياجات الصناعة، وسيكون ذلك مهماً أيضاً في مرحلة تحديد الاحتياجات التدريبية للشركات والمؤسسات. ويمكن لمؤسسات التعليم العالي والمدارس التقنية تقديم دورات وشهادات متخصصة في الثقافة في مجال الذكاء الاصطناعي، بما يضمن دخول الخريجين سوق العمل وهم يمتلكون المهارات اللازمة للنجاح في بيئة يقودها الذكاء الاصطناعي التوليدي.
المبادرات المدعومة سياساتياً: يؤدي صانعو السياسات دوراً حيوياً في دعم القوى العاملة من خلال مبادرات عامة تهدف إلى تعزيز الثقافة في مجال الذكاء الاصطناعي. ويمكن للبرامج السياساتية أن توفر التمويل لمبادرات التدريب، وأن تخلق حوافز للشركات للاستثمار في تطوير موظفيها، وأن ترسي معايير وطنية للثقافة الرقمية.
دور المؤسسات التعليمية وصانعي السياسات
تقف المؤسسات التعليمية في الطليعة في سد فجوة المهارات. فمن خلال دمج الثقافة في مجال الذكاء الاصطناعي في مناهجها، تستطيع مؤسسات التعليم والتدريب على جميع المستويات إعداد الطلاب لمستقبل يكون فيه الذكاء الاصطناعي حاضراً في كل مكان. ولا يقتصر ذلك على تعليم المهارات التقنية، بل يشمل أيضاً تنمية التفكير النقدي ومهارات حل المشكلات، وهي قدرات أساسية في عالم يقوده الذكاء الاصطناعي.
أما صانعو السياسات، فيتعين عليهم تهيئة بيئة مواتية تدعم التعلم مدى الحياة والتطوير المستمر للمهارات، وهو ما يتطلب صياغة سياسات تشجع الابتكار التعليمي، وتدعم تطوير البنية التحتية الرقمية، وتعزز الوصول المنصف إلى فرص التعلم لجميع فئات المجتمع.
معالجة الفجوة
تتطلب معالجة فجوة المهارات نهجاً متعدد الأوجه، يشمل التعليم والتدريب النظاميين، وكذلك مبادرات تطوير المهارات وإعادة التأهيل. ويشير تطوير المهارات إلى تحسين المهارات القائمة لتلبية متطلبات التقنيات الجديدة، في حين تنطوي إعادة التأهيل على تدريب العمال على مهارات جديدة كلياً ذات صلة بسوق العمل الحالية. وقد أظهرت دراسة أُجريت على 2,307 من صانعي القرار في مجال الذكاء الاصطناعي التوليدي أن اثنين من كل ثلاثة مستجيبين يقرون بأن موظفيهم لا يمتلكون المهارات اللازمة للعمل مع هذه التقنية، وأن نحو نصفهم يخططون لتعليم الموظفين وتدريبهم لزيادة تبنيها.
4.2 الذكاء الاصطناعي التوليدي والتلاعب بالمعلومات
الرسائل الرئيسية
تُحدث نماذج الذكاء الاصطناعي التوليدي ثورة في إنتاج المحتوى، إذ تجعل إنتاج محتوى تلاعبي شديد الإقناع أمراً بالغ السهولة وسريعاً وواسع النطاق. ويمكن استغلال هذه القدرة للهيمنة على نقاشات وسائل التواصل الاجتماعي، ومحاكاة المنافذ الإخبارية الموثوقة، وإنشاء صور ومقاطع مرئية وصوتية واقعية. وإمكانات نشر المعلومات الخاطئة والمضللة هائلة، إذ يمكن استخدام المحتوى المولّد بالذكاء الاصطناعي لتضليل الجمهور، وتقويض الثقة في وسائل الإعلام، وتشويه المشهد المعلوماتي برمته. وقد تكون لهذا التلاعب آثار عميقة، منها تغيير نتائج الانتخابات، والتأثير في العمليات السياسية، وتحويل التأييد الشعبي في قضايا حاسمة كتغير المناخ. فمن خلال إغراق الفضاء الرقمي بالمعلومات المضللة، يستطيع الذكاء الاصطناعي التوليدي أن يحرف التصورات العامة وعمليات اتخاذ القرار انحرافاً كبيراً.
وكثيراً ما يسبق التوليدُ السريع للمعلومات الخاطئة والمضللة القدرةَ على دحضها بفعالية، لأن صياغة ردود دقيقة وقابلة للتحقق تستغرق وقتاً. ويعني هذا التفاوت أن حتى الاستخدام حسن النية للذكاء الاصطناعي في التواصل قد يجد صعوبة في مواجهة سيل الأكاذيب. ولذلك كثيراً ما يكون الحفاظ على الالتزام بتواصل جدير بالثقة قائم على الحقائق، صوناً لنزاهة المعلومات، معركة شاقة في مواجهة المعلومات الخاطئة والمضللة المولّدة بالذكاء الاصطناعي.
ومع أن الحلول التقنية، كوضع العلامات المائية على المحتوى المولّد بالذكاء الاصطناعي والتحقق من المعلومات عبر مصادر موثوقة، حلول قيّمة، فإنها لا تكفي وحدها. فالدفاع الأكثر فعالية في مواجهة المعلومات الخاطئة والمضللة يكمن في تعزيز الثقافة الإعلامية والثقافة في مجال الذكاء الاصطناعي لدى المواطنين، بمن فيهم صانعو السياسات. فمن خلال تزويد الأفراد بمهارات التعامل النقدي مع المحتوى المولّد بالذكاء الاصطناعي، يصبحون أقدر على تمييز المعلومات الزائفة أو غير الدقيقة. كما أن تثقيف الجمهور ليسائل المحتوى الذي يصادفه ويحلله يمكّنه من اتخاذ قرارات مستنيرة ومقاومة التلاعب. ويُعد هذا النهج التأسيسي، مقترناً بالتدابير التقنية، حيوياً للحفاظ على مجتمع مستنير قادر على الصمود أمام التحديات التي يطرحها الذكاء الاصطناعي التوليدي.
تظهر جوانب مختلفة من المعلومات الخاطئة والمضللة في أقسام عديدة من هذا التقرير، لكن الموضوع يستحق أيضاً تناولاً مخصصاً عند بحث تبعات الذكاء الاصطناعي التوليدي وكيفية استخدامه في إنتاج المحتوى الزائف أو المضلل أو في مكافحته.
فالتحيز غير المقصود ينطوي بالفعل على خطر إنتاج محتوى مضلل حين يُستخدم الذكاء الاصطناعي في توليد المحتوى أو حتى في تلخيصه. فعند استخدام الذكاء الاصطناعي التوليدي للحصول على المعلومات مثلاً، قد تكون الإجابات متحيزة تحيزاً شديداً تبعاً لمجموعة البيانات التي دُرّب عليها. أما حين يُستخدم الذكاء الاصطناعي عمداً للتلاعب بالمعلومات، فإن استخدامه يفضي إلى تحديات غير مسبوقة، إذ يتيح إنشاء مقاطع صوتية ومرئية مزيفة تزييفاً عميقاً على نطاق واسع وبسرعة كبيرة، مما يشوه نزاهة وسائل الإعلام.
وبمعزل عن إنتاج المحتوى، يمكن أيضاً استخدام الذكاء الاصطناعي التوليدي في تسميم البيانات تسميماً منهجياً على نطاق واسع، كتلويث مستودعات المعرفة الحرة والمفتوحة، أو تضخيم النشر في الأخبار الإلكترونية ووسائل التواصل الاجتماعي. فعلى سبيل المثال، قد يؤثر التحيز في نماذج الذكاء الاصطناعي تأثيراً كبيراً في المواقف تجاه تغير المناخ، وقد يكون لتغير عالمي في المواقف تجاه هذه القضية أثر مركب في الانبعاثات العالمية، فيضخمها أو يقلصها تقليصاً كبيراً. ويمكن لأنظمة التوصية القائمة على الذكاء الاصطناعي أن تنشر المعلومات المضللة والمحتوى المثير المولّد بالذكاء الاصطناعي التوليدي، مما يفاقم الاستقطاب حول تغير المناخ.
وقد خضعت عمليات التأثير القائمة على الذكاء الاصطناعي التوليدي والموجهة نحو العمليات الانتخابية لرصد دقيق. وتكشف الدراسات عن زيادة كبيرة في المحتوى المولّد اصطناعياً مع تنامي قدرات هذه التقنية، وتميط اللثام عن محاولات للتلاعب بالمعلومات والتدخل من جهات أجنبية. ومن أبرز حالات التدخل التي وظفت تقنيات انتحال الهوية القائمة على الذكاء الاصطناعي حملة "Doppelganger"، التي اعتمدت على نسخ مزيفة من مواقع إلكترونية مشروعة تابعة لمؤسسات إعلامية ومؤسسات عامة على حد سواء.
وفي وسائل التواصل الاجتماعي على وجه الخصوص، تعزز الروبوتات المدعومة بالذكاء الاصطناعي التوليدي انتشار السرديات المضللة والمعلومات المتلاعب بها، وكثيراً ما تضيف إليها مشاعر سلبية بهدف إرباك الخطاب العام، واستفزاز مجتمعات مستهدفة، وتغذية التطرف.
وتتطلب معالجة المشكلات الناجمة عن المعلومات المتلاعب بها ثقافةً في مجال الذكاء الاصطناعي لدى صانعي السياسات والمواطنين، لضمان قدرتهم على التعامل النقدي مع المحتوى المولّد بالذكاء الاصطناعي وتحديد المعلومات الزائفة أو التلاعبية، بما في ذلك التزييف العميق. فضلاً عن ذلك، تتضمن اللائحة المتعلقة بشفافية الإعلانات السياسية واستهدافها التزاماً محدداً بضمان الشفافية في استخدام الذكاء الاصطناعي لاستهداف الإعلانات السياسية أو إيصالها، كما اعتمدت المفوضية الأوروبية والمجلس الأوروبي للخدمات الرقمية مدونة سلوك مخصصة لمكافحة التضليل الإعلامي في إطار قانون الخدمات الرقمية، إلى جانب مبادئ توجيهية بشأن المخاطر المتعلقة بالانتخابات. ويمثل ذلك جهداً على مستوى الاتحاد الأوروبي لمعالجة القضايا المذكورة آنفاً.
وفي الوقت ذاته، ينبغي التأكيد أن الذكاء الاصطناعي التوليدي يمكن أن يسهم أيضاً في مكافحة التلاعب بالمعلومات ونشرها، ومن الفرص المتاحة في هذا الصدد استخدامه في التواصل الواضح والموجه، والتحقق من الحقائق، وتحديد المحتوى المولّد بالذكاء الاصطناعي، وغير ذلك.
4.3 صورة الذكاء الاصطناعي التوليدي في وسائل الإعلام
الرسائل الرئيسية
كثيراً ما تتسم صورة الذكاء الاصطناعي التوليدي في وسائل الإعلام بالاستقطاب، إذ تبرز رؤى طوباوية إمكاناته التحويلية، فيما تحذر مخاوف ديستوبية من تبعاته الأخلاقية وإزاحته للوظائف وقضايا الخصوصية. وتشكل هذه السردية المزدوجة الخطاب العام، وقد تؤثر في التصورات السياساتية على المستوى العالمي.
وقد شهدت التغطية الإعلامية للذكاء الاصطناعي التوليدي زيادة كبيرة منذ أواخر عام 2022، ولا سيما بعد الإطلاق العام لـ ChatGPT. ثم تلت ذلك ذروات في التغطية رافقت أحداثاً رئيسية، كإطلاق نماذج جديدة للذكاء الاصطناعي التوليدي، ودمجها في المنتجات التجارية، والإجراءات التنظيمية السياسية التي اتخذها أصحاب مصلحة عديدون، بما في ذلك المشاركة الفاعلة للمفوضية الأوروبية في هذا الخطاب.
ويبين تحليل المقالات الإخبارية أن وسائل الإعلام تنقل الأهمية البالغة للحوكمة الدولية في إدارة الذكاء الاصطناعي التوليدي والحد من المخاطر المرتبطة به.
يُعد فهم صورة الذكاء الاصطناعي التوليدي في وسائل الإعلام أمراً حاسماً لإدراك دوره المتصور وأثره في المجتمع والاقتصاد. وكثيراً ما يُؤطَّر تصور هذه التقنية في المقالات الإخبارية الإلكترونية ضمن طيف من السرديات يصور في الغالب سيناريوهات متطرفة. فمن جهة، تبرز الرؤى الطوباوية الإمكانات التحويلية للذكاء الاصطناعي التوليدي، موحية بكيفية إحداثه ثورة في الصناعات، وتعزيزه الإبداع، وحله التحديات العالمية المعقدة، بما يفضي إلى ابتكار وازدهار غير مسبوقين. ومن جهة أخرى، تنتشر المخاوف الديستوبية، إذ تحذر مقالات من التبعات الأخلاقية، وإزاحة الوظائف، وتآكل الخصوصية والأمن، مما قد يرافق صعود الذكاء الاصطناعي. وتطبع النقاشَ تكهناتٌ تغذيها مخاوف من الذكاء الاصطناعي التوليدي القوي، إذ يتصور بعضهم مستقبلاً تتجاوز فيه الآلات الذكاء البشري، مما يثير أسئلة وجودية حول السيطرة والاستقلالية، بل وحول احتمال انقراض البشرية. وفي غضون ذلك، يزداد وضوح اندماج الذكاء الاصطناعي التوليدي جزءاً لا يتجزأ من الحياة اليومية الحديثة، إذ يتغلغل في الأنشطة الروتينية، مما يثير نقاشات حول الاعتماد عليه وإعادة تشكيل القدرات البشرية.
وقد شمل التحليل تغطية كل من وسائل الإعلام الرئيسية والمصادر غير الموثقة للذكاء الاصطناعي التوليدي، والمقصود بالمصادر غير الموثقة تلك التي أشار مدققو حقائق مستقلون إلى أنها كثيراً ما تنشر معلومات خاطئة أو مضللة، وذلك استناداً إلى اتجاهات التغطية وذرواتها، وإلى السرديات المتعلقة بهذه التقنية التي تؤثر في السياسات والتصورات العامة حول العالم. واستند التحليل إلى 265,306 مقالات إخبارية إلكترونية جُمعت عبر منصة رصد الإعلام الأوروبي من وسائل الإعلام الرئيسية والمصادر غير الموثقة في الفترة الممتدة من 1 يناير 2022 إلى 28 فبراير 2025، واختيرت بالبحث عن مجموعة من الكلمات المفتاحية أو تركيباتها ذات الصلة داخل النصوص. وتُرجمت هذه الكلمات المفتاحية إلى جميع لغات الاتحاد الأوروبي الأربع والعشرين، فضلاً عن الروسية والصينية بشكليها التقليدي والمبسط والعربية والهندية والتركية والنرويجية والجورجية واليابانية. واختيرت تركيبات الكلمات المفتاحية بعناية لتشمل المقالات المعنية وتتجنب "الضجيج" غير ذي الصلة في المجموعة الإخبارية. واستخدم التحليل القائم على البيانات تقنيات مؤتمتة، منها الذكاء الاصطناعي وتعلم الآلة والنماذج اللغوية الكبيرة، لاكتشاف الاتجاهات والأنماط والتحولات في التغطية المتعلقة بالذكاء الاصطناعي التوليدي، وتحديد أبرز قصص المعلومات الخاطئة والمضللة، ومقارنة اتجاهات بعينها، والكشف عن المشاعر المرتبطة بها وأكثر أبعاد التأطير شيوعاً.
ويُظهر التحليل توزيعاً متشابهاً في اتجاهات التغطية لدى وسائل الإعلام الرئيسية والمصادر غير الموثقة حول الأحداث الرئيسية المتعلقة بالذكاء الاصطناعي التوليدي. ومع ذلك، كثيراً ما تشوه المصادر غير الموثقة المعلومات بإساءة تأويل الأحداث والتصريحات الحقيقية. وقد حُددت الموضوعات الرئيسية المتعلقة بهذه التقنية من خلال تقييم المجموعات الرئيسية التي حُسبت لكل شهر بناءً على التشابه الدلالي لجمل المقالات، وهي تغطي التطورات التقنية والمؤسسية، والاعتبارات التنظيمية والأخلاقية، والأثر الاقتصادي والصناعي، والتنافس والتعاون العالميين، والأثر الثقافي والمجتمعي. وتتكرر هذه الموضوعات في مجموعتي المقالات المدروستين من وسائل الإعلام الرئيسية والمصادر غير الموثقة، غير أن مقالات المصادر غير الموثقة توجه انتباه القراء إلى منظور مختلف داخل كل موضوع.
أبعاد التأطير في المقالات الإخبارية المتعلقة بالذكاء الاصطناعي التوليدي
يقدم فحص التغطية الإعلامية المتعلقة بالذكاء الاصطناعي التوليدي رؤى إضافية من خلال تحليل أطر التناول المرصودة في المقالات. وتقابل أبعاد التأطير هذه جوانب محددة تُذكر في سياق الموضوع الرئيسي، فتكشف المنظور الذي تُعرض منه القضايا أو الأخبار. وقد قورنت أبعاد التأطير المرصودة في المقالات الإخبارية الصادرة عن وسائل الإعلام الرئيسية والمصادر غير الموثقة، وشملت الأبعاد الاقتصادية، ووصف السياسات وتقييمها، والصحة والسلامة، والقدرات والموارد، والقضايا السياسية، والأمن والدفاع، والجريمة والعقاب، والرأي العام، والأخلاق، والتشريع، والإنصاف والمساواة، والتنظيم، والهوية الثقافية. وتكشف المقارنة عن فروق بين وسائل الإعلام الرئيسية والمصادر غير الموثقة، وكذلك بين المقالات الصادرة عن مصادر في الدول الأعضاء في الاتحاد الأوروبي والتغطية العالمية. وقد حُللت أبعاد التأطير وتوزيعها بين وسائل الإعلام الرئيسية والمصادر غير الموثقة تحليلاً كمياً، وأُسندت أبعاد تأطير إلى أكثر من 75% من المقالات من كلا النوعين من المصادر خلال الفترة المرصودة.
ومع أن التأطيرين الاقتصادي ووصف السياسات وتقييمها كانا سائدين في وسائل الإعلام الرئيسية والمصادر غير الموثقة على حد سواء، فإن حصتهما كانت أعلى في وسائل الإعلام الرئيسية. وقد برز التأطير الاقتصادي بفضل العدد الكبير من المقالات الإخبارية التي تسلط الضوء على الأثر التحويلي للذكاء الاصطناعي التوليدي، الذي لا يُحدث ثورة في قطاع التكنولوجيا فحسب، بل يعيد أيضاً تشكيل صناعات أخرى متنوعة، ويحفز استثمارات كبرى، ويشدد المنافسة. أما تأطير وصف السياسات وتقييمها فقد حظي بتركيز خاص في وسائل الإعلام الرئيسية الأوروبية، متناولاً الحاجة إلى سياسات تنظم تطوير تقنيات الذكاء الاصطناعي والذكاء الاصطناعي التوليدي ونشرها، والدعوات إليها، بما يضمن المعايير الأخلاقية ويحد من المخاطر المحتملة. واستخدم كلا النوعين من وسائل الإعلام كثيراً تأطيري الصحة والسلامة والقدرات والموارد، إذ تقدم الأخبار أمثلة على كيفية إحداث التقدم التقني أثراً إيجابياً في الرعاية الصحية، لكنها تثير أيضاً مخاوف بشأن تزايد المخاطر على الجمهور، كالأمن الوظيفي. فضلاً عن ذلك، يتطلب التطور السريع قدراً كبيراً من الموارد المالية والقدرات لتشغيل أنظمة الذكاء الاصطناعي.
تحليل المشاعر في المقالات الإخبارية المتعلقة بالذكاء الاصطناعي التوليدي
إضافة إلى ما سبق، طُبّق نموذج تعلم آلي مدرّب مسبقاً على المقالات الإخبارية لتحليل المشاعر بهدف تحديد المشاعر المعبر عنها فيها، إذ يسند النموذج إلى كل مقال شعوراً إيجابياً أو محايداً أو سلبياً، ورُصد تطور التغطية الإخبارية بحسب هذه المشاعر موزعة بين وسائل الإعلام الرئيسية والمصادر غير الموثقة.
ويتمثل الشعور السائد في مقالات وسائل الإعلام الرئيسية المتعلقة بالذكاء الاصطناعي التوليدي في الشعور الإيجابي، الذي ظل غالباً طوال فترة الرصد، يليه الشعور المحايد. ويُقدَّم نحو 30% من إجمالي المقالات الإخبارية في وسائل الإعلام الرئيسية في صورة سلبية، تتناول المخاوف من المخاطر التي قد تشكلها تقنيات الذكاء الاصطناعي.
وتشير معظم العناوين الإيجابية إلى النمو الاقتصادي وما يرتبط به من فرص لصناعات متعددة، مبرزة التقدم الكبير والاستثمارات الضخمة في الشركات الناشئة التي تركز على أنشطة رئيسية مرتبطة بالتقدم، كالتكنولوجيا والرعاية الصحية والاستدامة. كما تسلط وسائل الإعلام الضوء على نحو إيجابي على الشركات الناشئة التي تحصد الجوائز والتقدير في المسابقات الدولية.
وفي المقابل، تشير العناوين ذات الدلالة السلبية إلى ما تواجهه الشركات الناشئة وشركات التكنولوجيا من تحديات كبيرة في صناعات مختلفة، منها حالات الإعسار، وشح الاستثمار في الشركات الناشئة التي توظف الذكاء الاصطناعي التوليدي في مجالات متنوعة، وممارستها الضغط من أجل تشريعات مواتية ومزيد من الدعم الحكومي لمعالجة هذه المسائل. كما ترصد هذه العناوين السلبية التهديدات والمخاطر المرتبطة بالتقنيات الجديدة.
ويكشف تحليل المشاعر في مقالات المصادر غير الموثقة عن غلبة الشعور المحايد، يليه عن كثب الشعوران الإيجابي والسلبي بالقدر نفسه تقريباً. وقد كانت المصادر غير الموثقة ميالة إلى نشر سرديات مضللة ومعلومات مغلوطة، كثيراً ما تقدم الذكاء الاصطناعي التوليدي بنبرة مثيرة ومُنذرة بالخطر. فمن جهة، تبالغ العناوين ذات الشعور الإيجابي في تصوير قدرات هذه التقنية، فتقدمها كأنها تقنية شبه سحرية قادرة على حل جميع المشكلات المجتمعية، ومن جهة أخرى، تستعجل العناوين السلبية ديستوبيا كارثية. وتستغل هذه المقالات الخوف من المجهول، موحية بأن الذكاء الاصطناعي التوليدي قد يحل وشيكاً محل عملية صنع القرار البشري أو حتى محل البشر أنفسهم. وكثيراً ما تقلل المصادر غير الموثقة من شأن التحديات القائمة والاعتبارات الأخلاقية، فتبسط النقاشات المعقدة تبسيطاً مخلاً لتلائم سرديات أكثر إثارة. ومن خلال تركيزها على السيناريوهات المتطرفة وتجاهلها في الغالب آراء الخبراء، تسهم في خطاب مستقطب تُضخَّم فيه المنافع المحتملة للذكاء الاصطناعي التوليدي أو تطغى عليها مخاطر مبالغ فيها.
وإجمالاً، يبين التحليل أن وسائل الإعلام تنقل الأهمية البالغة للحوكمة الدولية في إدارة الذكاء الاصطناعي التوليدي والحد من المخاطر المرتبطة به. ويكتسب هذا القسم أهمية لصانعي السياسات لأنه يبرز الحاجة إلى التحرك. وتبين النتائج أن تطبيق تقنيات متنوعة للتنقيب في النصوص على المقالات الإعلامية المتعلقة بهذا الموضوع يقدم رؤى مهمة حول الخطاب المتعلق بالذكاء الاصطناعي التوليدي عموماً، ويمكن أن يبرز الاتجاهات في نبرة التغطية، وهو ما يهم بوجه خاص محللي الإعلام وخبراء الاتصال وصانعي السياسات. ويمكن استخدام النهج الموصوف لتوجيه استراتيجيات الاتصال الخارجي، استناداً إلى فهم الطريقة التي أُطّرت بها القضايا في وسائل الإعلام المختلفة. كما يمكن استخدامه لتقييم أثر الاتصال الصادر عن مؤسسات الاتحاد الأوروبي، من خلال رصد ما إذا كان له تأثير في الخطاب الإعلامي حول قضايا محددة تتعلق بالذكاء الاصطناعي التوليدي.
4.4 المشاعات الرقمية
الرسائل الرئيسية
تُعد المشاعات الرقمية عنصراً حاسماً في مجموعات بيانات تدريب الذكاء الاصطناعي، ومصيرها مرتبط ارتباطاً وثيقاً بتطور تقنياته.
ومع استمرار تطور الذكاء الاصطناعي، من الضروري حماية المشاعات الرقمية ودعمها لضمان سلامة كليهما وتنوعهما على المدى الطويل، إذ إن حماية المشاعات الرقمية أمر أساسي لذكاء اصطناعي منصف ومتقدم.
تشير المشاعات الرقمية إلى المحتوى والموارد الإلكترونية، كالشيفرات والبرمجيات والصور والنصوص وغيرها من أشكال المعرفة، التي تُشارَك بتراخيص حرة ومفتوحة، فتكون من ثم متاحة لكل من يملك اتصالاً بالإنترنت. وهي المقابل الإلكتروني للسلع والفضاءات العامة المشتركة كالحدائق العامة والمكتبات، وتشمل مثلاً الموسوعات والويكيات الإلكترونية المختلفة، ومستودعات البرمجيات مفتوحة المصدر، وأرشيفات التراث الثقافي الرقمية، ومجموعات الفنون والوسائط ذات التراخيص المفتوحة، والمنتديات الإلكترونية التي يوثق فيها الناس المعلومات ويبحثون عن إجابات لأسئلتهم. وتضم المشاعات الرقمية ثروة من الشيفرات والمعارف والمحتوى الثقافي الفريد بتنوعه، وبكونه ثمرة عمل تعاوني، وبإتاحته مجاناً. ولم يغب ذلك عن مطوري الذكاء الاصطناعي، إذ يشكل المحتوى المنتمي إلى المشاعات الرقمية اليوم عنصراً حاسماً في جميع مجموعات بيانات تدريب الذكاء الاصطناعي تقريباً. ولذلك فإن السؤال ليس ما إذا كان مصير المشاعات الرقمية وتقنيات الذكاء الاصطناعي متشابكين تشابكاً وثيقاً، بل كيف يتشابكان وبأي آثار. ومع أن المشاعات الرقمية تُعد عموماً غير تنافسية، أي إن قيمتها وقابليتها للاستخدام لا تتناقصان بفعل الإفراط في استخدامها، فإنها معروفة بتعرضها لتهديدات كالتلوث، وقلة المعروض، وصعوبة العثور عليها. وتتعزز هذه التهديدات جميعها بإدخال تقنيات الذكاء الاصطناعي التوليدي، التي تفتح آفاقاً جديدة من الإمكانات ومواطن القلق على حد سواء.
الفرص
من الناحية الإيجابية، قد يوفر الذكاء الاصطناعي التوليدي قدرات جديدة للبحث في قواعد البيانات المفتوحة والتنقل فيها، ويساعد في التحقق من الحقائق وتحسين البيانات الوصفية في مستودعات المعرفة المشتركة، ويسهم في ترجمة المعارف والمعلومات، فيحسّن بذلك قابلية المحتوى المنتمي إلى المشاعات الرقمية للعثور عليه وإمكانية الوصول إليه وجودته. ومن المهم التأكيد أن هذه الاستخدامات للذكاء الاصطناعي ليست جديدة على مجال المشاعات الرقمية، الذي طالما اعتمد على تعلم الآلة في إدارة مجموعات البيانات المفتوحة وتطويرها. وبالبناء على هذه الممارسات، يمكن للمعرفة المتعلقة بالمشاعات الرقمية أن تغذي بدورها الممارسات الحالية للذكاء الاصطناعي وأن تؤدي دوراً مهماً في تحسينها، ولا سيما فيما يتعلق بجمع مجموعات بيانات تدريب عالية الجودة وتنظيمها. فاستناداً إلى الموافقة والشفافية الكاملة، تعيد مشاريع مثل Public Diffusion تصور ممارسات تدريب الذكاء الاصطناعي الحالية، باستخدام محتوى من المشاعات والملك العام لتطوير نماذج ذكاء اصطناعي قائمة كلياً على مبادئ الانفتاح والموافقة، مقدمة بديلاً جذرياً لممارسات التدريب التجارية التي كثيراً ما تقوم على مجموعات بيانات مغلقة جُمعت دون موافقة وقد تنتهك حقوق أصحاب حقوق المؤلف. وبفضل عقود من الخبرة في تنظيم قواعد بيانات النصوص والصور لمعالجة قضايا التحيز والتمييز والفجوات الثقافية، يمكن لخبراء المجالات المتصلة بالمشاعات الرقمية، بما فيها الأرشيفات والمتاحف والمكتبات، أن يؤدوا أيضاً دوراً مهماً في جعل مجموعات بيانات تدريب الذكاء الاصطناعي ونماذجه وأنظمته أكثر إنصافاً وتنوعاً وتعاوناً وشمولاً.
المخاطر والتحديات
قد يكون لاستخدام الذكاء الاصطناعي التوليدي آثار سلبية في المشاعات الرقمية، منها:
تسييج المعرفة الحرة والمفتوحة وخصخصتها: فالتدابير التقييدية الرامية إلى منع كشط البيانات قد تحد عن غير قصد من وصول أرشيفات المنفعة العامة إلى البيانات الإلكترونية.
تراجع المساهمات الطوعية: فمع اعتماد الناس على خدمات روبوتات المحادثة المغلقة، قد يقل احتمال مساهمتهم في قواعد بيانات المعرفة المشتركة.
تلوث مستودعات المعرفة الحرة والمفتوحة: إذ قد تدخل بيانات مولّدة بالذكاء الاصطناعي تتضمن أخطاء وهلوسات ومعلومات مضللة إلى قواعد بيانات مثل ويكيبيديا، مما يستلزم عمليات تحقق وتصحيح مكلفة.
الضغوط المالية على مؤسسات المشاعات الرقمية: إذ يترتب على توفير البيانات المفتوحة لبرامج الزحف التابعة للذكاء الاصطناعي تكاليف كبيرة في البنية التحتية، فأكثر من نصف حركة الزيارات على المواقع الإلكترونية يعود إلى برامج زحف مؤتمتة لا إلى مستخدمين بشريين، مع عائد ضئيل، مما قد يلقي أعباء مالية على المؤسسات التي تستضيف المحتوى مفتوح المصدر.
وقد تحد هذه المخاطر في نهاية المطاف من الوصول إلى المعرفة المشتركة وتوسعها، وتلقي عبئاً اقتصادياً كبيراً على المؤسسات التي تستضيف المحتوى المنتمي إلى المشاعات الرقمية.
آفاق مستقبلية
يظل مستقبل المشاعات الرقمية غامضاً، ويتوقف على مستوى الدعم الذي تتلقاه. وثمة سيناريوهان محتملان:
السيناريو الأفضل: تواصل المشاعات الرقمية ازدهارها بدعم مالي ودعم للبنية التحتية من المؤسسات العامة ومطوري الذكاء الاصطناعي التجاريين. وتظل المشاعات الرقمية مصدراً متنوعاً وعالي الجودة للمعلومات، يعزز نماذج ذكاء اصطناعي متوازنة ثقافياً، ويتيح الوصول العالمي إلى المعرفة والمعلومات والتاريخ الثقافي. وتقدم تقنيات الذكاء الاصطناعي التوليدي دعماً إبداعياً للمجتمعات حول العالم، فتيسر إنتاج محتوى جديد يسهم في نمو المشاعات، كما تتبناها بنجاح المؤسسات التي تستضيف المحتوى المنتمي إلى المشاعات، فتجعل إدارة المعلومات أكثر كفاءة ويسراً.
السيناريو الأسوأ: تتدهور المشاعات الرقمية بفعل التلوث وشح البيانات الجديدة، فتغدو مصدراً غير جدير بالثقة للثقافة والمعلومات، ثم تذبل، فيتراجع تنوع نماذج الحوكمة الخاصة بإنتاج المعرفة وإدارتها. ومن شأن ذلك أن يهدد الوصول العالمي إلى الثقافة والتاريخ والمعرفة الحرة والمفتوحة، وأن يضر بتطوير الذكاء الاصطناعي بجعله معتمداً على بيانات متدنية الجودة أو متقادمة.
ومع أن الذكاء الاصطناعي التوليدي يملك القدرة على إثراء الممارسات الثقافية ودعم مستودعات المعرفة والمعلومات الحرة والمفتوحة، فثمة حاجة إلى التأمل في العواقب السلبية المحتملة التي قد يجلبها. والأهم من ذلك أن حماية المشاعات الرقمية في عصر الذكاء الاصطناعي التوليدي ليست مسألة تأمين وصول مفتوح ومتنوع ولامركزي إلى معلومات عالية الجودة للمواطنين حول العالم فحسب، بل هي أيضاً مسألة تأمين تطوير تقنيات ذكاء اصطناعي أكثر إنصافاً وتنوعاً، ومن ثم أكثر تقدماً وفائدة.
4.5 التبعات البيئية للذكاء الاصطناعي التوليدي
الرسائل الرئيسية
الأثر المباشر للذكاء الاصطناعي في البيئة كبير، وقد يطرح مشكلات خاصة إذا أُنشئت مراكز البيانات في مناطق فقيرة بالمياه، كما أن إعادة تدوير المكونات تمثل إشكالية قائمة.
ويمكن لتدابير محددة، كالتتبع الإلزامي لاستهلاك الطاقة، والتخطيط الأفضل لإنشاء مراكز البيانات في المناطق الغنية بالمياه، وبرامج إعادة التدوير، أن تساعد في الحد من أثر الذكاء الاصطناعي في البيئة.
وقد كان الاتحاد الأوروبي رائداً في جهود مكافحة تغير المناخ ودمج حماية البيئة في السياسات. ومن أبرز ما قام به اعتماده تدابير متعددة لمعالجة أثر مراكز البيانات، منها توجيه كفاءة الطاقة ونظام تصنيف الاستدامة المرتبط به، وتوجيها وسم الطاقة والتصميم البيئي، كما يعكف على إعداد قانون مرتقب لتطوير الحوسبة السحابية والذكاء الاصطناعي يركز أيضاً على مراكز البيانات المستدامة. ويتضمن قانون الذكاء الاصطناعي الأوروبي أحكاماً بيئية تتعلق بشفافية نماذج الذكاء الاصطناعي وأنظمته، والالتزام بمدونات الممارسة، والإفصاح عن المعلومات.
وتتيح التقنيات الناشئة في مجال الذكاء الاصطناعي، كالترانزستورات الموفرة للطاقة والرقائق الشبيهة بالدماغ ورقائق الذكاء الاصطناعي الطرفية المتخصصة، ذكاءً مدمجاً في الأجهزة نفسها وتقلل استهلاك الطاقة، غير أن ثمة تحديات ينبغي معالجتها لتحقيق كامل إمكاناتها في التطبيقات المستدامة والآنية.
الأثر البيئي المباشر للذكاء الاصطناعي
ينطوي الاستخدام المتزايد لنماذج الذكاء الاصطناعي، ولا سيما الذكاء الاصطناعي التوليدي والنماذج اللغوية الكبيرة، على تبعات بيئية كبيرة يُتوقع أن تتنامى. فهذه النماذج تتطلب موارد حاسوبية هائلة، مما يفضي إلى استهلاك مرتفع للطاقة والمياه واستخراج المعادن. ومن المتوقع أن يزداد الطلب على الطاقة في مراكز البيانات، التي يُقدر عددها بنحو 5,000 مركز في الولايات المتحدة و2,000 مركز في أوروبا، بنسبة 50% بحلول عام 2027، وبنسبة تتراوح بين 103% و165% بحلول عام 2030 وفق تقديرات مختلفة.
واستناداً إلى تقديرات متحفظة، ارتفع الطلب على الطاقة في مراكز البيانات من 194 تيراواط ساعة في عام 2010 إلى 204 تيراواط ساعة في عام 2018، ثم ارتفع الاستهلاك العالمي للكهرباء في مراكز البيانات إلى 460 تيراواط ساعة في عام 2022. ووفقاً لتقديرات حديثة لمركز البحوث المشترك، استهلكت مراكز البيانات في الاتحاد الأوروبي ما بين 45 و65 تيراواط ساعة من الكهرباء في عام 2022، أي ما بين 1.8% و2.6% من إجمالي استهلاك الكهرباء في الاتحاد، في حين استهلكت شبكات الاتصالات ما بين 25 و30 تيراواط ساعة، أي ما بين 1% و1.2% من إجمالي استهلاك الكهرباء في الاتحاد. وقدّرت الوكالة الدولية للطاقة أن مراكز البيانات استهلكت على المستوى العالمي نحو 1.5% من استهلاك الكهرباء في عام 2024.
ومع صعوبة تحديد الحصة الدقيقة من استهلاك الطاقة التي تُعزى إلى الذكاء الاصطناعي، يُقدر أنها تمثل حالياً 14% من استهلاك الطاقة في مراكز البيانات، ويُتوقع أن ترتفع إلى 27% بحلول عام 2027.
وتشمل الآثار البيئية للبنية التحتية للذكاء الاصطناعي ما يلي:
استهلاك الطاقة: يسهم الطلب المرتفع على الكهرباء لتدريب النماذج وتشغيلها في انبعاثات غازات الاحتباس الحراري، ولا سيما إذا كانت حصة المصادر المتجددة في مزيج الطاقة منخفضة. فعلى سبيل المثال، تشير تقديرات مختلفة إلى أن الطلب العالمي على الطاقة للبنية التحتية للذكاء الاصطناعي سيبلغ ما بين 1% و1.5% من إجمالي استهلاك الطاقة العالمي بحلول عام 2027، وهو ما دفع شركات الذكاء الاصطناعي إلى الاستثمار في الطاقة النووية وتوليد الكهرباء بالغاز.
وتجدر الإشارة إلى أن الأرقام المذكورة آنفاً يكتنفها قدر كبير من عدم اليقين لأسباب عدة. فمن جهة، قد لا تأخذ هذه التقديرات في الحسبان احتمال التبني الواسع لنماذج الاستدلال مثل نموذج o1 من OpenAI، التي تقدم قدرات أفضل على حساب طلب متزايد على الموارد الحاسوبية. ومن جهة أخرى، أُعدت هذه التقديرات قبل إطلاق نموذج DeepSeek R1، الذي أثبت إمكانية منافسة OpenAI باستهلاك لا يتجاوز جزءاً يسيراً من الطاقة. وفي الوقت ذاته، قد لا تعكس الوتيرة المرصودة لنمو استهلاك الطاقة الطلب الفعلي على نحو كامل، بالنظر إلى القيود والاختناقات القائمة، كمحدودية توافر رقائق الذكاء الاصطناعي، وطول مهل توريد المعدات التي تمتد لسنوات، والقيود على توافر الطاقة. ومن شأن فرض التزامات بالإفصاح عن الاستهلاك الكامل لكل مركز بيانات يُستخدم للذكاء الاصطناعي أن يساعد في تقييم البصمة الإجمالية وتقليصها.
البصمة المائية: يُتوقع أن يبلغ حجم المياه المسحوبة لهذا الغرض ما بين 4.2 و6.6 مليار متر مكعب في عام 2027، وهو ما يتجاوز إجمالي السحب السنوي للمياه في نصف المملكة المتحدة. ويمثل ذلك مصدر قلق كبيراً عند إنشاء مراكز البيانات في الدول التي تعاني شحاً في المياه. ومما يزيد التحدي أن آليات التبريد البديلة المتاحة أقل كفاءة، إذ تولّد حرارة مهدرة وقد تستخدم مواد تبريد ضارة كالغازات المفلورة.
الموارد المعدنية: ينطوي استخراج المواد الخام، كالسيليكون والألومنيوم والنحاس والقصدير والتنتالوم والليثيوم والغاليوم والجرمانيوم والبلاديوم والكوبالت والتنغستن، اللازمة لتصنيع الرقائق، على تكاليف بيئية كبيرة، إذ يتطلب إنتاج طن واحد فقط من المادة حفر مئات الأطنان من الخام ومعالجتها.
النفايات الإلكترونية: يتسم عتاد مراكز البيانات بعمر قصير يبلغ نحو ثلاث سنوات ونصف، مما قد يفضي إلى تراكم ما بين 1.2 و5 ملايين طن من النفايات الإلكترونية خلال الفترة الممتدة من 2020 إلى 2030. ووفق المصادر ذاتها، يمكن لتطبيق الاقتصاد الدائري أن يطيل عمر عتاد مراكز البيانات وأن يقلص النفايات الإلكترونية بنسبة تتراوح بين 16% و86%.
غير أن نماذج الذكاء الاصطناعي قادرة أيضاً على المساعدة في التخفيف من آثار تغير المناخ، من خلال دعم تطبيقات مثل تتبع التلوث ورصد الطقس وتحسين استخدام الطاقة. ولا يزال أثر هذه التطبيقات بحاجة إلى قياس كمي، وقد تعيق إمكاناتها عوامل عدة، كمخاوف قابلية التشغيل البيني، والنقص الحاد في المهارات، وقصور البنية التحتية الرقمية. والجدير بالملاحظة أن مراكز البيانات تميل إلى التركز مكانياً بدرجة كبيرة، وبالنظر إلى استهلاكها الكبير للطاقة والمياه، فإن ذلك يطرح تحديات جسيمة أمام المخزونات المائية المحلية وشبكة نقل الكهرباء. ففي أيرلندا مثلاً، تستهلك مراكز البيانات نحو 20% من إمدادات الكهرباء المقيسة. ومن المرجح أن تطال الآثار البيئية المحلية للذكاء الاصطناعي المناطق الزراعية، فتفاقم أوجه عدم المساواة البيئية.
البرامج الطوعية والتنظيم الخاص بمراكز البيانات
عولجت العواقب البيئية السلبية لاستهلاك مراكز البيانات للطاقة وبصمتها البيئية بنجاح من خلال برامج طوعية، كمدونة السلوك الأوروبية لكفاءة الطاقة في مراكز البيانات. فمن خلال الالتزام بتبني ممارسات فضلى متفق عليها تُحدَّث سنوياً، حقق أكثر من 400 مشغل لمراكز البيانات مكاسب كبيرة في الكفاءة. وتبين البيانات المجمعة في إطار البرنامج أن متوسط فعالية استخدام الطاقة لدى الشركات المشاركة انخفض من 1.8 إلى أقل من 1.3 خلال السنوات الخمس عشرة الماضية. وتدل مبادرات مماثلة أخرى على أن القطاع يعمل بنشاط على الحد من آثاره البيئية، واضعاً أهدافاً طموحة لتحقيق الحياد الكربوني أو الأثر المائي الإيجابي. كما يدعو مجتمع الذكاء الاصطناعي إلى استخدام أكثر وعياً واستدامة للذكاء الاصطناعي.
وقد أدرجت الجهات التنظيمية مؤخراً استدامة مراكز البيانات ضمن أولوياتها. ففي مارس 2024، اعتمدت المفوضية الأوروبية القانون المفوَّض بشأن نظام تصنيف مشترك لمراكز البيانات في الاتحاد الأوروبي، وهو قانون ينفذ توجيه كفاءة الطاقة المعدّل، ويفصّل مؤشرات الأداء الرئيسية للطاقة التي يتعين على مشغلي مراكز البيانات الكبيرة، أي تلك التي لا يقل الطلب على الطاقة لتقنية المعلومات المثبتة فيها عن 500 كيلوواط، تقديمها بانتظام إلى قاعدة البيانات الأوروبية لمراكز البيانات.
وتتناول لائحة التصنيف الأوروبية للأنشطة المستدامة، ولا سيما قانونها المفوَّض الخاص بالمناخ، مراكزَ البيانات أيضاً، إذ يعالج القسم 8.1 من هذا القانون النشاط الاقتصادي المتمثل في "معالجة البيانات واستضافتها والأنشطة ذات الصلة"، ويحدد معايير الفرز التقنية لتحديد ما إذا كان مركز البيانات يسهم إسهاماً جوهرياً في التخفيف من تغير المناخ أو في التكيف معه، دون أن يلحق ضرراً كبيراً بالأهداف البيئية الأخرى.
التقنيات الناشئة والابتكارات الرائدة
تعد التقنيات الناشئة، كالترانزستورات الموفرة للطاقة المصنوعة من مواد مثل ثاني كبريتيد الموليبدينوم، بإتاحة معالجة الذكاء الاصطناعي في أجهزة صغيرة كالساعات الذكية، بما يعزز الذكاء المدمج في الأجهزة ويقلل الاعتماد على الحوسبة السحابية. وبالمثل، وإن على نطاق مختلف، تتيح الحوسبة النانومغناطيسية عمليات حسابية فائقة الانخفاض في استهلاك الطاقة بالاستفادة من الخصائص المغناطيسية على المستوى النانوي، مما قد يقلص استهلاك الطاقة تقليصاً جذرياً في الأجهزة المدعومة بالذكاء الاصطناعي. ويُعد تطوير الشبكات العصبية النبضية ابتكاراً واعداً آخر في سبيل ذكاء اصطناعي موفر للطاقة، إذ توفر هذه الشبكات، بمحاكاتها لعملية الإشارات في الدماغ، معالجة مدفوعة بالأحداث تقلص استهلاك الطاقة في أوقات الخمول تقليصاً كبيراً. وتُعد هذه التطورات حاسمة للحوسبة الطرفية وأجهزة إنترنت الأشياء والذكاء الاصطناعي على الأجهزة المحمولة، حيث تكون قيود الطاقة بالغة الأهمية. فضلاً عن ذلك، تعمل الرقائق الشبيهة بالدماغ والخلايا العصبية الكهروضوئية على تحسين كفاءة الطاقة بمحاكاتها قدرات المعالجة الشبيهة بالدماغ، وهو ما يفيد بوجه خاص التطبيقات في الأنظمة المستقلة ومراقبة الرعاية الصحية والأجهزة القابلة للارتداء.
وتُظهر الرقائق المتخصصة الجديدة للذكاء الاصطناعي الطرفي سرعة استدلال وكفاءة طاقة محسنتين على الأجهزة المحلية، مما يقلل الحاجة إلى الاعتماد على مراكز البيانات. فهذه الرقائق، التي تستخدم تقنيات مثل الشبكات العصبية الثنائية ومصفوفات المقاومات الذاكرية المتقاطعة، تتيح إجراء حسابات الذكاء الاصطناعي مباشرة على الأجهزة، فتقلل زمن الاستجابة ومتطلبات النطاق الترددي في تطبيقات المدن الذكية والأجهزة القابلة للارتداء وإنترنت الأشياء الصناعي. ومع تزايد استخدام الذكاء الاصطناعي التوليدي، ستكون ابتكارات أشباه الموصلات كهذه مفتاحاً لتمكين تطويره وتبنيه على نحو مستدام وطويل الأمد. ولذلك يتعين على صانعي السياسات النظر في تدابير لتعزيز البحث والتطوير والابتكار، فضلاً عن قابلية التوسع الصناعي، وتوحيد معايير العتاد، وأمن سلاسل التوريد، بما يضمن تحولاً مزدوجاً حقيقياً تلتقي فيه التقنيات الموفرة للطاقة مع تنامي التبني ومتطلبات الأداء.
الأثر البيئي للذكاء الاصطناعي عبر أثره المجتمعي
قد تؤثر نماذج الذكاء الاصطناعي المتحيزة في المواقف، بما فيها المواقف تجاه تغير المناخ. ويمكن للذكاء الاصطناعي التوليدي أيضاً أن يكون مصدراً لمعلومات مضللة خطيرة بشأن المناخ، إذ قد تكون النماذج متحيزة بسبب الهلوسات، أو مشكلات بيانات التدريب، أو التحيزات الناشئة في مرحلة التعلم المعزز.
ويتضمن قانون الذكاء الاصطناعي أحكاماً بيئية تتعلق بشفافية نماذج الذكاء الاصطناعي وأنظمته، والالتزام بمدونات الممارسة، والإفصاح عن المعلومات. وتمتد المتطلبات البيئية إلى أي مزود، بمن فيهم المزودون القائمون خارج أوروبا الذين يطرحون الذكاء الاصطناعي التوليدي في السوق الأوروبية. ومع أن هذا القيد نتيجة طبيعية للتشريع الأوروبي، فإنه يحد من القدرة على معالجة الاعتبارات البيئية على نطاق عالمي. وقد هدد بعض مزودي الذكاء الاصطناعي القائمين في الولايات المتحدة بعدم خدمة أوروبا إذا تعارض التنظيم مع مصالحهم. وبالتوازي مع ذلك، تزداد النماذج المطورة في الصين قدرة على المنافسة، لكنها قد تقصّر أيضاً في الامتثال لقواعد الذكاء الاصطناعي الأوروبية التي تمنع انتشار المعلومات المتحيزة بشأن المناخ أو تعالج الآثار البيئية المباشرة للنماذج.
ولمواجهة هذه التحديات، كان الاتحاد الأوروبي رائداً في جهود مكافحة تغير المناخ ودمج حماية البيئة في السياسات، كما في ميثاق الحقوق الأساسية للاتحاد الأوروبي في مادته السابعة والثلاثين. ويُعد الاتحاد الأوروبي منطقة مثالية لتطوير تقنيات الذكاء الاصطناعي بضمانات بيئية قوية. ويتطلب العمل المناخي في عصر الذكاء الاصطناعي ما يلي:
الحوسبة الموفرة للطاقة: دفع الابتكار في أشباه الموصلات وتعزيز الحوسبة الطرفية لتقليل الاعتماد الإجمالي على مراكز البيانات كثيفة الاستهلاك للطاقة.
الطاقة المتجددة لمراكز البيانات: خفض انبعاثات غازات الاحتباس الحراري وتفضيل المناطق الغنية بالمياه لإقامة مراكز البيانات.
مراكز البيانات الفعالة: تقليص استهلاك الطاقة والحرارة والنفايات الإلكترونية، مع مراعاة الآثار الارتدادية المحتملة.
نماذج الذكاء الاصطناعي الشفافة والجديرة بالثقة: تشجيع المواطنين على اختيار النماذج التي تقدم معلومات موثوقة عن تغير المناخ.
التعاون الدولي: إرساء معايير عالمية لرصد الآثار البيئية للذكاء الاصطناعي والحد منها، مع مراعاة الآثار غير المباشرة لسياسات القوى الكبرى في هذا المجال كالولايات المتحدة والصين.
الاستخدام المستدام للمواد في أشباه الموصلات: ضمان التوريد المسؤول للمواد الخام وتعزيز الابتكار في تصميم أشباه الموصلات لتقليل الطلب على المواد وتعزيز الاقتصاد الدائري من خلال إعادة الاستخدام وإعادة التدوير.
ومن شأن تعزيز نماذج وأنظمة ذكاء اصطناعي خضراء متمحورة حول الاتحاد الأوروبي، وإرساء معايير دولية، أن يساعدا في ضمان انسجام تطوير الذكاء الاصطناعي مع أهداف حماية البيئة والعمل المناخي. كما أن تطوير نماذج ذكاء اصطناعي متقدمة في الاتحاد الأوروبي تكون "جديرة بالثقة منذ التصميم" أو "ممتثلة منذ التصميم" يُعد سبيلاً لضمان امتثالها للوائح الاتحاد. ومن الاستراتيجيات الممكنة على المدى الطويل في مجال الذكاء الاصطناعي والمناخ تعزيز نماذج وأنظمة ذكاء اصطناعي خضراء متمحورة حول الاتحاد الأوروبي، وإرساء معايير دولية لرصد الآثار البيئية للذكاء الاصطناعي والحد منها.
4.6 الذكاء الاصطناعي التوليدي وحقوق الطفل
الرسائل الرئيسية
يتيح الذكاء الاصطناعي التوليدي فرصاً ويطرح تحديات في آن معاً على صعيد حقوق الطفل. فمع أنه قادر على تحسين التعليم والإبداع والتواصل والوصول إلى المعلومات، فإنه ينطوي أيضاً على مخاطر جسيمة، كالتلاعب الخادع، والمحتوى الضار القائم على الذكاء الاصطناعي، وانعدام الخصوصية والسلامة.
ولضمان تطوير الذكاء الاصطناعي التوليدي واستخدامه على نحو يحترم حقوق الطفل ويعزز رفاهه، من الضروري تصميم أنظمة جديرة بالثقة، وإيلاء الأولوية للشفافية والمساءلة، والاستثمار في برامج التعليم والتدريب التي تنمّي التفكير النقدي ومهارات الثقافة الإعلامية.
وينبغي أن تُدمج ضمانات حماية الأطفال في تصميم الذكاء الاصطناعي التوليدي، وأن تتجاوز الأطر العامة للخصوصية والأخلاقيات لمعالجة مواطن الضعف الخاصة بالأطفال. وفي هذا السياق، يُعد اعتماد نهج قائم على الحقوق وملائم للعمر وشامل أمراً أساسياً لضمان تجارب ذكاء اصطناعي آمنة وممكِّنة ومنصفة لجميع الأطفال.
تمثل حقوق الطفل جانباً جوهرياً في ضمان رفاه الصغار ونموهم، وللتطورات الأخيرة في الذكاء الاصطناعي التوليدي تبعات كبيرة في هذا المجال، لا سيما أن الأطفال من أوائل من يتبنون التكنولوجيا وبنسبة تفوق غيرهم. ويتأمل هذا القسم الفرص والتحديات التي يطرحها الذكاء الاصطناعي التوليدي فيما يتعلق بحقوق الطفل، مع التركيز على بعض الجوانب ذات الصلة، كالتعليم والإبداع والصحة النفسية.
الفرص
يتيح الذكاء الاصطناعي التوليدي فرصاً عدة لتحسين حياة الأطفال. ومن أبرز مجالاتها التعليم، حيث يمكن تكييف تجارب التعلم الشخصية والتكيفية مع احتياجات كل متعلم وخصوصياته. ويمكن تحقيق ذلك باستخدام أنظمة قائمة على الذكاء الاصطناعي تقدم تغذية راجعة ودعماً آنيين، مما يتيح للمعلمين التحول إلى دور الداعمين الذين يقدمون السقالات التعليمية، وفق مفهوم "منطقة النمو القريبة" الذي قدمه فيغوتسكي، والذي يمثل الفجوة بين ما يتقنه المتعلم وما يستطيع فعله بدعم من معلم أو قرين أكثر معرفة أو خبرة. فعلى سبيل المثال، تستطيع أنظمة التعلم التكيفي المدعومة بالذكاء الاصطناعي ضبط مستوى صعوبة المحتوى التعليمي بناءً على أداء الطفل واهتماماته، بما يوفر تجربة تعلم أكثر فعالية وجاذبية.
ويملك الذكاء الاصطناعي التوليدي أيضاً القدرة على دعم إبداع الأطفال، وتمكينهم من تطوير أشكال جديدة من التعبير باستخدام أدوات جديدة. فبإمكان الأطفال مثلاً استخدامه لإنشاء ألعاب فيديو أو رسوم متحركة أو غيرها من أشكال المحتوى الرقمي انطلاقاً من أفكارهم. ومن شأن ذلك أن ييسر وصولهم إلى التكنولوجيا وأن ينمّي مهاراتهم الإبداعية ومهارات حل المشكلات، وهي مهارات أساسية للنجاح في العصر الرقمي. فضلاً عن ذلك، يمكن للذكاء الاصطناعي التوليدي أن يدعم التواصل بتمكين الأطفال من توثيق تواصلهم والمحافظة عليه بكفاءة، بما يضمن إسماع أصواتهم، وهو ما قد يفيد بوجه خاص الأطفال ذوي الإعاقة أو الذين يواجهون حواجز لغوية وقد يصعب عليهم التعبير عن أنفسهم. وفي مجال الرعاية الصحية، يمكن لأدوات الذكاء الاصطناعي التوليدي أن تدعم الكشف المبكر عن المشكلات الصحية والنمائية أو أن تقدم رؤى مستمدة من البيانات الطبية.
وأخيراً، يمكن للذكاء الاصطناعي التوليدي أن يدعم الوصول إلى المعلومات بتحويل المحتوى المعقد إلى نصوص وصور وصيغ أخرى ملائمة للعمر، فيجعله أيسر منالاً للأطفال، ويمكن أن يتم ذلك أيضاً بلغات غير سائدة، بما يعزز الشمول والتنوع.
العوائق والتحديات
على الرغم من الفرص التي يتيحها الذكاء الاصطناعي التوليدي، ثمة عوائق وتحديات عدة ينبغي معالجتها. ومن أبرز المخاطر التلاعب الخادع، وهو شكل من أشكال التأثير يُدفع فيه الشخص إلى تصديق أمر زائف أو يُقنع بالتصرف على نحو لا يخدم مصلحته. ويحظر قانون الذكاء الاصطناعي هذا النوع من أساليب الخداع أو التضليل. ولأن القدرات المعرفية للأطفال لا تزال في طور النمو، فإنهم أكثر عرضة لمخاطر المعلومات الخاطئة والمضللة. فضلاً عن ذلك، يشكل المحتوى الضار القائم على الذكاء الاصطناعي، كمواد الاعتداء الجنسي على الأطفال، تهديداً جسيماً لسلامة الأطفال ورفاههم. ومن مصادر الخطر الأخرى استخدام الذكاء الاصطناعي التوليدي في صورة "رفقاء افتراضيين"، وهو ما قد يكون ضاراً بالأطفال على نحو خاص، لما ينطوي عليه من مخاطر انتحال الشخصية أو الخداع، إضافة إلى العبث بنموهم العاطفي واكتسابهم مهارات التواصل مع الآخرين. وتؤكد المادة الثامنة والعشرون من قانون الخدمات الرقمية ضرورة حماية القاصرين، مبرزة أهمية أن يضمن مزودو المنصات الإلكترونية مستويات عالية من الخصوصية والسلامة والأمن للأطفال، ولا سيما فيما يتعلق بتوليد الصور دون موافقة أصحابها، وهو ما قد تترتب عليه عواقب وخيمة على صحة الأطفال النفسية والجسدية.
كما قد تفضي مخاطر التحيز في مجموعات بيانات التدريب، التي تبنيها جهات مهيمنة وتحللها، إلى تمييز غير منصف وإلى فقدان التنوع والثراء في مخرجات الذكاء الاصطناعي التوليدي. وقد يؤدي ذلك أيضاً إلى شكل من أشكال "عولمة" هذه المخرجات، تُقصى فيه منظورات الفئات المهمشة وتجاربها واحتياجاتها. فضلاً عن ذلك، وكحال كثير من التقنيات الناشئة، قد يفاقم الذكاء الاصطناعي التوليدي أوجه عدم المساواة القائمة، ولا سيما بالنسبة إلى أطفال المجتمعات المهمشة الذين قد يواجهون مخاطر أكبر وينالون حظاً أقل من منافعه. ولكي يكون الذكاء الاصطناعي التوليدي فعالاً، ينبغي أن يكون شاملاً ومنصفاً ومسؤولاً، يلبي الاحتياجات المتنوعة لجميع الأطفال.
وتمثل مخاطر الهلوسات والحاجة المتزايدة إلى مهارات التفكير النقدي مصدري قلق كبيرين أيضاً. فبقدرات تفوق كثيراً قدرات محركات البحث ووسائل التواصل الاجتماعي، يملك الذكاء الاصطناعي التوليدي إمكانات أكبر لتشكيل تصورات المستخدمين للعالم وتفاعلاتهم الاجتماعية وتجاربهم. ومع تزايد انتشاره، من الضروري تطوير برامج تعليمية فعالة وتنفيذها لتنمية التفكير النقدي ومهارات الثقافة الإعلامية والثقافة في مجال الذكاء الاصطناعي التوليدي، بما يمكّن الأطفال من تحليل المعلومات التي يصادفونها على الإنترنت وتقييمها. فضلاً عن ذلك، ينبغي النظر بعناية في المخاطر المحتملة للتمييز الاجتماعي والآثار السلبية في صحة الأطفال النفسية والجسدية ومعالجتها. وانطلاقاً في هذا الاتجاه، تشير مراجعة شاملة للمراجعات وتقرير خبراء بشأن آثار استخدام وسائل التواصل الاجتماعي، التي يتضمن بعضها أدوات ذكاء اصطناعي توليدي كروبوتات المحادثة، في الصحة النفسية للمراهقين ورفاههم، إلى أن تبني المنصات لمبادئ التصميم المسؤول قد يحسن الحد من المخاطر.
سبل المضي قدماً
لضمان تطوير الذكاء الاصطناعي التوليدي واستخدامه على نحو يحترم حقوق الطفل ويعزز رفاهه، من الضروري تصميم أنظمة ذكاء اصطناعي توليدي جديرة بالثقة. ومن الأمثلة على ذلك نظام ذكاء اصطناعي لسرد القصص التشاركي يتماشى مع المبادئ التوجيهية الأخلاقية للاتحاد الأوروبي بشأن الذكاء الاصطناعي الجدير بالثقة. وقد حدد تكييف هذه المبادئ الأخلاقية جوانب ذات صلة بهذه الفئة، كإشراك أصحاب المصلحة، وإدارة المخاطر، والتنوع والشمول، وحقوق الأطفال وقدراتهم، ودور الوالدين أو مقدمي الرعاية، وتطبيق سلوكيات ملائمة للعمر.
وتُعد الشفافية متطلباً مستعرضاً جوهرياً لأنظمة الذكاء الاصطناعي التوليدي، ولا سيما حين يتعلق الأمر بالأطفال. وتتطلب الشفافية المتمحورة حول الطفل إعلام الأطفال بطبيعة النظام بلغة ملائمة لأعمارهم أثناء تفاعلهم معه. وينبغي تكييف هذه التدابير مع العمر والسياق اللغوي والثقافي، بما يضمن قدرة الأطفال من خلفيات متنوعة على فهم هذه الأنظمة والتفاعل معها.
ويُعد تقييم أثر الذكاء الاصطناعي التوليدي في النمو العقلي للأطفال أمراً أساسياً لاستجابة حوكمة استباقية أفضل، ويمكن للدراسات الطولية أن تقدم رؤى قيّمة حول آثار هذه التقنية في العمليات المعرفية للأطفال ونمو أدمغتهم.
4.7 الذكاء الاصطناعي التوليدي والصحة النفسية
الرسائل الرئيسية
قد يفضي استخدام روبوتات المحادثة وتطبيقات الرفقاء الافتراضيين القائمة على الذكاء الاصطناعي إلى مشكلات متنوعة في الصحة النفسية، منها سلوكيات شبيهة بالإدمان، ونزعات إلى التماس الاستحسان، وفي بعض الحالات التشجيع على أفعال ضارة كإيذاء النفس واضطرابات الأكل.
وإضافة إلى ذلك، يضيف احتمال انتحال الشخصيات رقمياً طبقة أخرى من المخاطر العاطفية، قد تسبب الضيق للأفراد المتضررين من هذه الممارسات.
كما قد يشكل تنامي التزييف العميق والوسائط المتلاعب بها مخاطر جسيمة، بما في ذلك في صورة محتوى صريح يُنشر دون موافقة أصحابه وأشكال ناشئة من التحرش الإلكتروني.
يعيد الذكاء الاصطناعي التوليدي تشكيل طريقة تفاعل الأفراد مع التكنولوجيا، مدخلاً مخاطر جديدة تتعلق بالصحة النفسية. ويمكن أن نتوقع في السنوات المقبلة أن يزداد اندماج هذه التقنية في الخدمات الرقمية، وأن يصبح محتواها أكثر انتشاراً على الإنترنت، وهو ما قد يصاحبه ظهور أنواع جديدة من المخاطر.
وقد سلطت أبحاث حديثة الضوء على المخاطر المحتملة التي تشكلها روبوتات المحادثة القائمة على الذكاء الاصطناعي على رفاه الإنسان النفسي والجسدي. وعلى وجه التحديد، قد تسهم بعض خصائص الذكاء الاصطناعي التوليدي، كالوعي المتصور لروبوت المحادثة، أو طابعه الشبيه بالبشر، أو قدرته المدهشة على إخبار المستخدمين بما يرغبون في سماعه، وهو ما يُعرف بـ"التملق"، في استخدام إشكالي أو شبيه بالإدمان لهذه الأنظمة، فيما تسعى أبحاث ناشئة إلى فهم الظواهر المعقدة المتداخلة في ذلك. وقد رصدت تقارير حديثة حالات شجعت فيها تطبيقات الرفقاء الافتراضيين المستخدمين على إيذاء النفس وسلوكيات اضطرابات الأكل والعنف. ومنذ ذلك الحين، أُبلغ على نطاق واسع عن حوادث جديدة لإيذاء النفس تتعلق بمستخدمين مراهقين للذكاء الاصطناعي التوليدي، فضلاً عن حالات انتحال رقمي لشخصيات أشخاص حقيقيين، بمن فيهم قاصرون متوفون.
علاوة على ذلك، يشكل تنامي التزييف العميق الذي يتيحه الذكاء الاصطناعي التوليدي، حيث يصعب التمييز بين المحتوى الحقيقي والمزيف، مخاطر جسيمة على الصحة النفسية، ويزيد مخاطر التنمر الإلكتروني. وقد يتخذ ذلك شكل إنشاء محتوى صريح ونشره دون موافقة أصحابه، ولا سيما بين المراهقين الأكثر عرضة للهشاشة في هذه المرحلة النمائية. ويُدخل التزييف العميق بعداً جديداً من الضرر من خلال إنشاء مقاطع مرئية مزيفة مقنعة لا تضر بالسمعة فحسب، بل تسبب صدمات نفسية أيضاً. وليس هذا الخطر جديداً، إذ ظهرت أولى المقاطع المرئية الواقعية المزيفة على المنصات الإلكترونية منذ عام 2017، لكن قدرات الذكاء الاصطناعي التوليدي ضاعفته أضعافاً كبيرة. وتبين دراسة حديثة أجراها معهد أكسفورد للإنترنت أن أدوات توليد التزييف العميق نُزّلت نحو 15 مليون مرة منذ أواخر عام 2022، وأن 96% من نماذج التزييف العميق استهدفت النساء في المقام الأول. ومن الأمثلة على ذلك قضية ألمندراليخو التي وقعت في عام 2023، حين تلقت عدد من الفتيات المراهقات صوراً عارية لهن ولّدها أقرانهن بالذكاء الاصطناعي، مما سبب لهن ضيقاً شديداً. وبدأ الباحثون في توثيق أثر هذه الظاهرة في ضحاياها ودراسته، وفي بحث الإجراءات القانونية الممكن اتخاذها في مثل هذه الحالات. فعلى سبيل المثال، مع أن كثيراً من المدارس تملك سياسات عامة لمكافحة التنمر الإلكتروني، فإنها كثيراً ما لا تراعي الخصائص الفريدة للمحتوى المولّد بالذكاء الاصطناعي. وتتعرض خدمات أخرى غير وسائل التواصل الاجتماعي والمنصات الإباحية، كمتاجر التطبيقات ومحركات البحث، لمخاطر مماثلة، إذ أُبلغ مثلاً عن ظهور تطبيقات "التعرية" التي تعدّل صور النساء لتظهرهن عاريات. وفضلاً عن ذلك، ومع أن المشاركين من البشر يظلون عنصراً أساسياً في الكشف عن التنمر الإلكتروني، يمكن مستقبلاً تدريب خوارزميات متعددة على التعرف على التعابير العامية الثقافية والمصطلحات الدارجة لتيسير الكشف عنه.
4.8 النوع الاجتماعي بوصفه حالة خاصة من حالات التحيز والتبعات الاجتماعية للذكاء الاصطناعي
الرسائل الرئيسية
يمكن لأنظمة الذكاء الاصطناعي التوليدي أن تكرّس التحيزات والصور النمطية القائمة، ولا سيما إذا دُرّبت على مجموعات بيانات تعكس أوجه عدم المساواة التاريخية والبنيوية، مما يبرز الحاجة إلى استخدام أخلاقي للذكاء الاصطناعي قائم على حقوق الإنسان.
وتبرز حالة تقييم مخاطر الائتمان، وما ينطوي عليه الذكاء الاصطناعي التوليدي من مخاطر محتملة في تكريس التحيز القائم على النوع الاجتماعي، أهميةَ إرساء أطر ومبادئ توجيهية لعملية اتخاذ قرارات منصفة وشفافة بالذكاء الاصطناعي، مع التركيز على الحد من التحيزات غير المنصفة وضمان المساءلة.
يُعد التنوع والإنصاف وعدم التمييز ركائز أساسية لبناء ذكاء اصطناعي جدير بالثقة. ويُعد القضاء على التحيز غير المنصف في الذكاء الاصطناعي أمراً حاسماً لمنع النتائج السلبية، كتهميش الفئات الضعيفة وترسيخ الأحكام المسبقة والتمييز. ويُقيَّم إنصاف الذكاء الاصطناعي باستخدام مجموعة من السمات المحمية، منها الأصل العرقي أو الإثني، والدين أو المعتقد، والطبقة الاجتماعية، والإعاقة، والعمر، والنوع الاجتماعي، والتوجه الجنسي، والأصل القومي، وغيرها، بما يتماشى مع ميثاق الحقوق الأساسية للاتحاد الأوروبي. وفي هذا الصدد، ينبغي تقييم أنظمة الذكاء الاصطناعي مع مراعاة الفئات المحمية المختلفة، ولا سيما في السيناريوهات عالية المخاطر. فضلاً عن ذلك، ينبغي للجهات الفاعلة في مجال الذكاء الاصطناعي السعي إلى تقليص النتائج التمييزية أو المتحيزة ومنعها طوال دورة حياة النظام، لضمان إنصافه والامتثال للإطار القانوني الأوروبي لمكافحة التمييز.
التحيز والصور النمطية والإنصاف
أثار الاندماج المتزايد للذكاء الاصطناعي في مختلف القطاعات مخاوف متصاعدة بشأن التحيزات في النماذج اللغوية الكبيرة، بما فيها تلك المتعلقة بالنوع الاجتماعي والدين والعرق والمهنة والجنسية والعمر والمظهر الجسدي والوضع الاجتماعي والاقتصادي. ومع أن الذكاء الاصطناعي يحمل وعوداً بتحسين الكفاءة واتخاذ القرار في مجالات كالرعاية الصحية والتعليم والأعمال، فإن انتشار استخدامه والثقة العامة الكبيرة التي يحظى بها قد يضخمان أيضاً الأحكام المسبقة المجتمعية، فيفضيان إلى أضرار ممنهجة، ولا سيما بالنسبة إلى النساء.
ويمكن لأنظمة الذكاء الاصطناعي التوليدي أن تكرّس التحيزات القائمة بل وتضخمها، ولا سيما حين تُدرَّب على بيانات تعكس أوجه عدم المساواة التاريخية. وقد كشفت الأبحاث عن تحيزات اجتماعية مستمرة في النماذج اللغوية الحديثة، رغم الجهود المبذولة للحد منها. ففي مهام ربط الكلمات بالنوع الاجتماعي مثلاً، لا تزال النماذج الحديثة تربط أسماء الإناث بأدوار تقليدية كـ"المنزل" و"الأسرة"، في حين تربط أسماء الذكور بـ"الأعمال" و"المسيرة المهنية". فضلاً عن ذلك، تنتج هذه النماذج في مهام توليد النصوص محتوى متحيزاً ضد المرأة ومعادياً لها في نحو 20% من الحالات.
وبالمثل، كشف تحليل لصور مهنية ولّدتها ثلاثة من أشهر مولّدات الصور من النصوص عن تحيزات كبيرة قائمة على النوع الاجتماعي والعرق، إذ كانت النساء وذوو البشرة السوداء ممثلين تمثيلاً ناقصاً على نحو ملحوظ، ولا سيما في الأدوار التي تتطلب مستويات عالية من الإعداد. وكثيراً ما صُورت النساء أصغر سناً وبإيماءات توحي بالخضوع، في حين ظهر الرجال أكبر سناً وأكثر سلطة. والمقلق أن هذه التحيزات فاقت الفوارق القائمة في الواقع، مما يشير إلى أن المشكلة تتجاوز مجرد تحيز بيانات التدريب.
وقد أثبتت الأبحاث أن الذكاء الاصطناعي قد يُظهر تحيزاً قائماً على النوع الاجتماعي حين يُستخدم في عمليات اتخاذ القرار. ففي التوظيف مثلاً، لوحظ أن خوارزميات الذكاء الاصطناعي تفضل المرشحين الذكور على المرشحات المساويات لهم في المؤهلات. وفي عام 2025، خلص المعهد الهولندي لحقوق الإنسان إلى وجود انتهاك للتشريعات الهولندية والأوروبية لمكافحة التمييز في خوارزمية الإعلان عن الوظائف الشاغرة لدى شركة Meta. فقد عرضت الخوارزمية في هولندا عام 2023، خلافاً لمبدأي المساواة في المعاملة وعدم التمييز، الوظائف الشاغرة لموظفي الاستقبال على المستخدمات الإناث في 97% من الحالات، وعرضت بالمثل وظائف الميكانيكيين على المستخدمين الذكور في 96% من الحالات. وفي الرعاية الصحية، أظهرت أنظمة الذكاء الاصطناعي تحيزاً قائماً على النوع الاجتماعي في الاستدلال التشخيصي، مما أفضى إلى توصيات علاجية قد تخطئ في تشخيص حالات النساء أو تعالجها معالجة قاصرة، ويعود ذلك غالباً إلى التدريب على بيانات متمحورة في معظمها حول الذكور. وفي التعليم، ومع أن الذكاء الاصطناعي قادر على إنشاء مسارات تعليمية مخصصة تلائم الكفاءات والاحتياجات الفردية، فإنه قد يتنبأ على نحو غير منصف بمعدلات تسرب أعلى للطالبات، ولا سيما في المجالات التي يهيمن عليها الذكور كالعلوم والتكنولوجيا والهندسة والرياضيات، مما يحد من وصولهن إلى برامج التعليم المتقدم. وبالنظر إلى أن الخوارزميات المتحيزة قد تفضي إلى التمييز ضد الفئات الضعيفة، ولا سيما تلك التي تعاني تقاطع أشكال متعددة من التمييز، كالأقليات العرقية أو الأشخاص ذوي الإعاقة، فإن الأمر يستدعي عناية خاصة.
استراتيجيات الحد من المخاطر
تُعد معالجة التحيزات القائمة على النوع الاجتماعي في أنظمة الذكاء الاصطناعي أمراً حاسماً لتطوير تقنيات منصفة، وهو ما يتطلب استراتيجيات متعددة، كتعزيز تنوع مجموعات بيانات التدريب وتمثيليتها، واعتماد مقاربات خوارزمية تركز على الإنصاف، وزيادة التنوع بين مطوري الذكاء الاصطناعي. ولأن الحد من التحيز لا يتحقق بتدخلات تُجرى لمرة واحدة، فمن الضروري إجراء عمليات تدقيق ورصد منتظمة باستخدام مجموعات بيانات ومنهجيات مرجعية متنوعة لتحديد التحيزات ومعالجتها طوال دورة حياة الذكاء الاصطناعي. ويمكن لإرساء أطر سياساتية متينة على مستوى الشركات والحكومات أن يوجه التطوير والنشر الأخلاقيين لأنظمة الذكاء الاصطناعي. ومن خلال تنفيذ استراتيجيات شاملة للحد من المخاطر وتعزيز ممارسات التطوير الشاملة، يمكن تسخير الذكاء الاصطناعي لتعزيز العدالة المجتمعية ومنع ترسيخ أوجه عدم المساواة القائمة. وبموجب قانون الخدمات الرقمية، يتعين على المنصات الإلكترونية الكبيرة جداً ومحركات البحث الكبيرة جداً إجراء تقييمات سنوية للمخاطر النظامية الناشئة عن خدماتها وأنظمتها الخوارزمية، بما فيها المخاطر على الحقوق الأساسية كعدم التمييز، ومخاطر العنف القائم على النوع الاجتماعي.
دراسة حالة: التحيزات القائمة على النوع الاجتماعي في تقييم مخاطر الائتمان
يتزايد تبني الذكاء الاصطناعي أيضاً في المؤسسات المالية، بما يتيح إمكانية التأثير في أنشطة كالتصنيف الائتماني، ودعم العملاء، والامتثال التنظيمي. غير أن هذا التبني يأتي بتحدياته الخاصة، ومنها الحد من التحيزات الكامنة في أنظمة الذكاء الاصطناعي. ومن بين التطبيقات العديدة، يُعد تقييم مخاطر الائتمان أحد المجالات الرئيسية التي تستكشف فيها المصارف بنشاط استخدام الذكاء الاصطناعي، ويُصنَّف هذا الاستخدام عالي المخاطر بموجب قانون الذكاء الاصطناعي. وخلافاً للمقاربات التقليدية القائمة عادة على النمذجة الإحصائية، يتيح ظهور الذكاء الاصطناعي للمؤسسات المالية إمكانية بناء تصنيفاتها الائتمانية على خصائص طالب القرض، واتخاذ القرارات على نحو مستقل، وإنشاء ملفات مخاطر العملاء بسرعة أكبر بكثير. وتؤكد الإحصاءات الوصفية لمعدلات الموافقة على الائتمان في الولايات المتحدة حتى عام 2022 وجود تحيز في التصنيف الائتماني التقليدي، إذ تشير إلى تحيز قائم على النوع الاجتماعي يبلغ نحو 4%. وبديلاً عن هذا النهج التقليدي، أجرى مركز البحوث المشترك تجربة لتقييم ما إذا كانت أدوات الذكاء الاصطناعي التوليدي تُظهر تحيزات مماثلة أو أعلى، مع تقييم صلاحية النماذج اللغوية الكبيرة وموثوقيتها في دعم اتخاذ القرارات المالية.
ولتحقيق ذلك، اعتمدت التجربة على مجموعة بيانات تضم أكثر من 400,000 سيرة ذاتية قصيرة مصنفة بحسب المهنة والنوع الاجتماعي. ولكل مهنة تتوافر لها ملاحظات كافية، جرى إقران 1,000 سيرة ذاتية لذكور و1,000 سيرة ذاتية لإناث إقراناً عشوائياً، لتتكون مجموعة البيانات النهائية من 17 مهنة و34,000 فرد. ثم قُيّم استخدام نموذج لغوي كبير بوصفه خوارزمية لتصنيف مخاطر الائتمان، من خلال توجيهه إلى اختيار شخص واحد بالتحديد من كل زوج لمنحه الائتمان. وللتحكم في احتمال تفاوت جودة المرشحين لصالح نوع اجتماعي بعينه، قورنت النتائج بخط أساس بديل حُذفت فيه من السير الذاتية جميع المعلومات الدالة على النوع الاجتماعي، كالأسماء والضمائر، واستُعيض عنها بإشارات محايدة، أي بضمائر محايدة ودون أسماء.
وتبين هذه التجربة ما يلي:
يُظهر النموذج اللغوي الكبير مستوى من التحيز مماثلاً لما يُلاحظ حالياً في منح الائتمان التقليدي، بفارق يبلغ نحو 4% لصالح الرجال.
يتباين الوضع بين المهن، إذ تُظهر النساء في بعض المهن التي تهيمن عليها الإناث تقليدياً، كالتمريض والتدريس، احتمالاً أعلى للحصول على قرض مقارنة بنظرائهن من الرجال.
4.9 إسهام المقاربة السلوكية في تحليل سياسات الذكاء الاصطناعي
الرسائل الرئيسية
يساعد دمج الرؤى السلوكية في تنظيم الذكاء الاصطناعي التوليدي بحيث يعمل بشفافية وإنصاف، بما يواءم تطوراته مع القيم المجتمعية ويعزز ثقة الجمهور.
ويمكن للذكاء الاصطناعي الوكيلي أن يقلل الأخطاء البشرية في عملية اتخاذ القرار، لكنه قد يكون متحيزاً هو الآخر بسبب البيانات التي ينتجها البشر ويتغذى عليها.
ويمكن للرؤى السلوكية أن تساعد في تحديد متى ينبغي أن يتقدم الذكاء الاصطناعي على الحكم البشري بما يعزز الرفاه الاجتماعي.
شهدت السنوات الأخيرة تحولاً كبيراً في صنع السياسات يُشار إليه غالباً بـ"المنعطف السلوكي". ويستفيد هذا النهج من رؤى علم النفس والاقتصاد السلوكي في صياغة السياسات، ويتحقق ذلك بطرق عدة. فهو أولاً يساعد في توجيه السياسات لتكون أكثر انسجاماً مع الطرق الطبيعية التي يفكر بها الناس ويتخذون بها قراراتهم. فبدلاً من افتراض أن الأفراد يتصرفون دائماً بعقلانية، تساعد الرؤى السلوكية في تصميم تدخلات تشجع بلطف على خيارات أفضل دون إكراه. لكن المقاربة السلوكية تساعد أيضاً في تحديد الحالات التي تستغل فيها جهات السوق قصور تفكير المواطنين والمستهلكين لتوجيه سلوكهم في اتجاه معين، كاستقطابهم أو إقناعهم بالاستهلاك. وبعبارة أخرى، يمكن للمقاربة السلوكية في صنع السياسات أن تسهم في تعزيز استخدام الرؤى السلوكية في الخير مع الحد من استخدامها في الشر.
ولهذه المقاربة إمكانات كبيرة في توجيه تحليل سياسات الذكاء الاصطناعي التوليدي، إذ تمنحنا مجموعة واسعة من الأدوات. فهي أولاً يمكن أن تساعد في ضمان تفاعل الذكاء الاصطناعي التوليدي مع البشر بطرق تحمي المستخدم وتعزز الثقة في الذكاء الاصطناعي. ويمكن للتشريعات أن تساعد في حماية الأفراد، ولا سيما الفئات الضعيفة التي قد تواجه صعوبة في التعامل مع الواجهات المعقدة. ومن خلال دمج الرؤى السلوكية في السياسات، يستطيع المنظمون تقديم مبادئ توجيهية أفضل تضمن عمل أدوات الذكاء الاصطناعي بشفافية وإتاحتها لجميع المستخدمين. والهدف هو إنشاء إطار لا تكون فيه أنظمة الذكاء الاصطناعي فعالة فحسب، بل منصفة أيضاً، بما يضمن توزيع منافعها على نطاق واسع بين سكان الاتحاد الأوروبي المتنوعين.
ويمكننا أيضاً الاستفادة من الرؤى السلوكية لضمان انسجام الذكاء الاصطناعي التوليدي، والتطورات المستقبلية كالذكاء الاصطناعي الوكيلي، مع الأطر الأخلاقية الأوسع التي تحكم القيم المجتمعية والحقوق الأساسية. فثمة أمور نعدّها نحن البشر منصفة أو أخلاقية، يمكن التصريح بها أحياناً بسهولة، وتحتاج أحياناً أخرى إلى الكشف عنها من خلال الملاحظة المنهجية لسلوك الأفراد، كالتجريب مثلاً. ويمكن للرؤى الناتجة أن توجه الاتحاد الأوروبي في تنظيم تطوير الذكاء الاصطناعي التوليدي بحيث يحترم هذه القيم الجوهرية.
ويمكن للمقاربة السلوكية أيضاً أن تساعد في معالجة مسألة التحيز في الذكاء الاصطناعي التوليدي. ولا يقتصر ذلك على معالجة الجوانب التقنية والمتعلقة بالبيانات، وضمان تنوع مجموعات البيانات المستخدمة في تدريب أنظمة الذكاء الاصطناعي وتمثيليتها، بل يتطلب أيضاً فهماً أعمق للتحيزات المعرفية الكامنة في عملية اتخاذ القرار البشري. وتستطيع المقاربة السلوكية هنا أن تقدم لنا إطاراً للتعرف على هذه التحيزات ومعالجتها داخل أنظمة الذكاء الاصطناعي، إذ قد تنعكس التحيزات المعرفية، كالتحيز التأكيدي أو تحيز الارتساء، دون قصد في الذكاء الاصطناعي التوليدي إن لم تُدَر بعناية.
وبالنظر إلى المستقبل، لن تزيد التطورات اللاحقة للذكاء الاصطناعي إلا من أهمية المقاربة السلوكية. فالذكاء الاصطناعي الوكيلي مثلاً يمثل تطوراً مهماً في مجال الذكاء الاصطناعي، إذ يبني على قدرات الذكاء الاصطناعي التوليدي ليعمل ككيانات مستقلة. فبينما يركز الذكاء الاصطناعي التوليدي على إنشاء المحتوى، كالنصوص أو الصور أو الموسيقى، يوسّع الذكاء الاصطناعي الوكيلي هذه الوظيفة ليمكّن الأنظمة من التصرف باستقلالية ضمن عمليات اتخاذ القرار. فهذه الأنظمة قادرة على إدراك بيئتها، واتخاذ قرارات معقدة، والتفاعل مع البشر ومع الآلات الأخرى لتحقيق أهداف محددة. ويعزز هذا التقدم فائدة الذكاء الاصطناعي التوليدي، لكنه يطرح أيضاً تحديات جديدة ينبغي معالجتها، وهنا ستكون المقاربة السلوكية ذات قيمة خاصة.
فالذكاء الاصطناعي الوكيلي سيبني على قدرته على التعلم بتفصيل دقيق عن سلوك المستخدمين وتفضيلاتهم. ومع أن هذه القدرة ستتيح تخصيصاً قوياً، فإنها ستنطوي أيضاً على خطر استغلال التحيزات المعرفية للمستخدمين ونقص معلوماتهم، مما قد يدفع الناس إلى اتخاذ خيارات لا تخدم مصلحتهم. ويمكن للبحث السلوكي في هذا المجال أن يساعد في تحديد ما إذا كان الذكاء الاصطناعي الوكيلي يستغل هذه التحيزات، وأن يوجه السياسات لمواجهة مثل هذه الممارسات المرفوضة.
غير أن ثمة فرصاً إلى جانب المخاطر. فيمكن أيضاً تصميم عملية اتخاذ القرار في الذكاء الاصطناعي الوكيلي بحيث تتغلب على التحيزات المعرفية التي قد تحرف الحكم البشري. فالقضاة والأطباء مثلاً يخضعون هم أنفسهم للتحيزات، وقد يخطئون بل ويخطئون فعلاً. فهل يعني ذلك أن الذكاء الاصطناعي الوكيلي سيكون متفوقاً دائماً؟ إن البحث السلوكي ضروري لتحديد متى يكون من الأفضل أن يتخذ البشر القرارات، ومتى يكون ثمة مجال للذكاء الاصطناعي الوكيلي ليتولى هذه القرارات ويحسنها لصالح الرفاه الاجتماعي.
وأخيراً، يضع كل من الذكاء الاصطناعي التوليدي والذكاء الاصطناعي الوكيلي افتراضات حول سلوك المستخدمين وتفضيلاتهم بالبناء على السلوك المرصود، كالوقت المنقضي على وسائل التواصل الاجتماعي، وهو سلوك قد لا يعكس بدقة الاهتمامات الحقيقية للأفراد أو لا يسهم في رفاههم. وقد يفضي هذا الخلل في الإدراك إلى نتائج كتزايد الاستقطاب أو نمط الحياة الخامل. ويستدعي فهم هذه الديناميكية تطوير نماذج سلوكية أحدث وأكثر متانة، ورقابة أكثر دقة، لضمان أن تكون السلوكيات التي يجري تعزيزها مفضية إلى الرفاه العام.
4.10 الخصوصية وحماية البيانات من منظور مجتمعي
الرسائل الرئيسية
يمكن أن تكون للذكاء الاصطناعي التوليدي آثار مجتمعية كبيرة جداً، وأن يطرح تحديات جدية أمام خصوصية الأفراد وحماية بياناتهم الشخصية، وذلك بسبب قدرته على تحليل البيانات والربط بينها.
ومع أن هذه التحديات ينبغي ألا تعيق تطوير الذكاء الاصطناعي التوليدي وما يقدمه من جوانب مجتمعية إيجابية، فلا يمكن تجاهل هذا الأثر وهذه التحديات، ويتطلب الأمر فهماً تقنياً وقانونياً واضحاً للقضايا التي يثيرها الذكاء الاصطناعي التوليدي في مختلف القطاعات المجتمعية، بما فيها المستخدمون والجهات التنظيمية وصانعو السياسات، لضمان أخذ هذه القضايا في الحسبان ومناقشتها ومعالجتها على النحو الكافي وفي الوقت المناسب.
مفهوما حماية البيانات والخصوصية
في الإطار القانوني للاتحاد الأوروبي، يُعد الحق في حماية البيانات الشخصية والحق في الخصوصية حقين أساسيين منصوصاً عليهما في نصوص قانونية رئيسية. وكثيراً ما يُستخدمان بالتبادل، ففي الولايات المتحدة مثلاً كثيراً ما يتضمن مفهوم الخصوصية مفهوم حماية البيانات الشخصية، ومع ذلك فإنهما يختلفان اختلافاً كبيراً.
فالحق في حياة خاصة وعائلية يرد في نصوص أساسية كالإعلان العالمي لحقوق الإنسان في مادته الثانية عشرة، والاتفاقية الأوروبية لحقوق الإنسان في مادتها الثامنة، وميثاق الحقوق الأساسية للاتحاد الأوروبي في مادته السابعة، فضلاً عن معاهدات الاتحاد الأوروبي. ويشمل الحق المنصوص عليه في المادة الثامنة من الاتفاقية الأوروبية لحقوق الإنسان والمادة السابعة من ميثاق الحقوق الأساسية سرية الاتصالات، وهو ما يُشار إليه غالباً في السياق الأوروبي بالحق في الخصوصية. وتشمل المادة الثامنة من الاتفاقية الأوروبية لحقوق الإنسان أيضاً حماية البيانات الشخصية، في ظل غياب حق أكثر تحديداً في تلك الاتفاقية. وكما ذكرت المحكمة الأوروبية لحقوق الإنسان في إطار المادة الثامنة المذكورة، فإن الحياة الخاصة للشخص "تشمل طيفاً واسعاً من المصالح"، منها "هوية الشخص ونموه الشخصي، والحق في إقامة علاقات مع الآخرين وتطويرها"، و"الأنشطة ذات الطابع المهني أو التجاري"، ومن ثم فهي "مفهوم لا يقبل التعريف الجامع المانع".
أما الحق في حماية البيانات الشخصية فيتعلق بحماية البيانات الشخصية للفرد، كما تنص عليه المادة الثامنة من ميثاق الحقوق الأساسية للاتحاد الأوروبي والمادة السادسة عشرة من معاهدة عمل الاتحاد الأوروبي. ويجب معالجة هذه البيانات معالجة عادلة، ولأغراض محددة، وعلى أساس قانوني واضح، مع منح الأفراد حقوقاً محددة فيما يتعلق بمعالجة بياناتهم، تحت إشراف سلطة مستقلة.
ويُعد مفهوم "البيانات الشخصية" مفهوماً واسعاً، مما يجعل أي نقاش يتعلق به أكثر تعقيداً، لأنه ينطبق على جميع أنواع البيانات الشخصية، بما فيها البيانات الشخصية المتاحة للعموم. ويعود أول قانون في أوروبا يتناول تحديداً حماية البيانات الشخصية إلى ألمانيا في سبعينيات القرن الماضي، فيما تُعد اللائحة العامة لحماية البيانات الحالية، المطبقة في الاتحاد الأوروبي منذ عام 2018، في نظر كثيرين المعيار الدولي لحماية البيانات.
ومن اليسير إدراك كيف يمكن أن تتشابك البيانات الشخصية والخصوصية، بوصفهما حقين ومفهومين. فمفهوم البيانات الشخصية يتكون من المعلومات المتعلقة بفرد ما، أي "شخص طبيعي"، والتي يمكن أن تجعله محدد الهوية أو قابلاً لتحديد هويته على نحو مباشر أو غير مباشر. ومن ثم، كثيراً ما يترتب على انتهاك البيانات الشخصية لفرد ما انتهاك لحياته الخاصة.
وفي دورة حياة الذكاء الاصطناعي التوليدي، قد توجد البيانات الشخصية في جميع المراحل، بدءاً من تدريب النماذج اللغوية وصولاً إلى المخرجات التي ينتجها وكيل الذكاء الاصطناعي. ومع انتشار استخدامه، من المهم جداً تقييم الأثر الذي تحدثه أدوات الذكاء الاصطناعي التوليدي في معالجة بياناتنا الشخصية وفي خصوصيتنا. ومن الضروري كذلك تحديد التحديات التي يثيرها استخدامها فيما يتعلق بمعالجة بياناتنا الشخصية. ويركز هذا القسم على الأثر المجتمعي والتحديات، تاركاً أي نقاشات قانونية حول الموضوع للفصل الخامس.
التحديات والأثر على صعيد حماية البيانات والخصوصية
توجد تحديات أمام حماية البيانات والخصوصية ناشئة عن تطوير أدوات الذكاء الاصطناعي التوليدي واستخدامها في جميع مراحل دورة حياته. ومن الطرق الأبسط للتفكير في هذا المفهوم تقسيمه إلى مرحلتين:
مرحلة "التطوير"، وتشمل جميع جوانب إنشاء نموذج الذكاء الاصطناعي التوليدي أو نظامه، كتطوير الشيفرة البرمجية، وجمع بيانات التدريب الشخصية وغير الشخصية، والتدريب ذاته.
مرحلة "النشر"، وتغطي جميع المراحل المتعلقة باستخدام نموذج الذكاء الاصطناعي، بما في ذلك استخدامه جزءاً من نظام ذكاء اصطناعي، فضلاً عن أي أنشطة في مرحلة ما بعد التطوير كالضبط الدقيق.
وكثيراً ما تكون كمية البيانات اللازمة لتطوير نموذج ذكاء اصطناعي، قبل أن يصبح جزءاً من نظام ذكاء اصطناعي، كبيرة جداً، وهي في تزايد مطرد، إلى جانب قدرتنا على جمعها في كثير من جوانب حياتنا اليومية. وكما يقول باحثون في هذا المجال، فإن "شهية الذكاء الاصطناعي للبيانات لا تعرف حالياً حدوداً تذكر". ومن المرجح أن تتزايد هذه "الشهية النهمة للبيانات"، ولا سيما في ضوء الأدلة على أن مجموعات البيانات الأكبر قادرة على تحسين قدرات أنظمة الذكاء الاصطناعي.
وترتبط بالكمية ارتباطاً وثيقاً مسألة الجودة، إذ كثيراً ما تحتوي مجموعات البيانات الكبيرة على بيانات غير دقيقة أو متحيزة، مما يفضي إلى مخرجات غير دقيقة أو ضارة فيما يتعلق بالأفراد، ولا سيما المنتمين إلى مجتمعات أقل تمثيلاً. فنظام الذكاء الاصطناعي المبني على مجموعة بيانات جُمعت من مدينة ما لن يتضمن سوى نسبة صغيرة من بعض الأقليات، ولتكن 5%، فإذا استُخدمت مجموعة البيانات كما هي، ستكون مخرجات النظام متحيزة ضد هذه الأقلية، لأنها لا تشكل سوى 5% من البيانات ولا يجد النظام عنها إلا قدراً قليلاً نسبياً من البيانات ليتعلم منه.
وثمة أيضاً مسألة الاستنتاج، إذ قد تتيح أنظمة الذكاء الاصطناعي التوليدي لمستخدميها استنتاج معلومات عن فرد ما تتجاوز بكثير ما قصد ذلك الفرد الإفصاح عنه أصلاً. وقد يؤدي ذلك إلى تعرض الأفراد لقرارات خاطئة أو ربما للتمييز، لا سيما حين تُشارَك هذه الاستنتاجات مع أطراف ثالثة كشركات التأمين أو المؤسسات المالية أو أصحاب العمل. وفي مثال كثيراً ما يُستشهد به ويتعلق بشركة تجزئة كبرى، طُوّرت خوارزمية لتحديد النساء الحوامل بناءً على أنماط تسوقهن، مما أدى إلى اكتشاف أب حمل ابنته المراهقة بعد تلقيه في منزله قسائم شراء لمنتجات خاصة بالأطفال الرضع. ويكمن مصدر القلق الرئيسي هنا في أن الخوارزمية قادرة على استنتاج بيانات شخصية حساسة عن فرد ما انطلاقاً من بيانات شائعة يسهل الحصول عليها.
وللطريقة التي تُجمع بها البيانات أهميتها، ولا سيما أن من أكثر التقنيات شيوعاً كشط الويب، وهي ببساطة تقنية "تتيح الجمع والاستخراج المؤتمتين لمعلومات معينة من مصادر مختلفة متاحة للعموم على الإنترنت، كالمواقع الإلكترونية"، ويمكن استخدامها بعد ذلك في هذا السياق لتدريب نماذج الذكاء الاصطناعي. غير أن كشط الويب بوصفه تقنية يثير أسئلة مهمة حول أثره في الأشخاص الذين تُجمع بياناتهم، إذ قد "يفقد الأفراد السيطرة على معلوماتهم الشخصية حين تُجمع دون علمهم، وخلافاً لتوقعاتهم، ولأغراض تختلف عن أغراض النشر الأصلي". ومن الأمثلة المعروفة على ذلك شركة Clearview AI، التي فرضت عليها هيئة حماية البيانات الهولندية غرامة تقارب 30 مليون يورو، إذ تقدم الشركة خدمات التعرف على الوجوه لأجهزة الاستخبارات والتحقيق، وتملك لهذا الغرض قاعدة بيانات تضم أكثر من 30 مليار صورة لأشخاص تكشطها آلياً من الإنترنت، ثم تحولها إلى رمز بيومتري فريد لكل وجه، دون علم هؤلاء الأشخاص ودون موافقتهم.
والغرض مسألة إشكالية أيضاً: لأي غرض يُدرَّب النموذج؟ وما الاستخدام الذي سيُوظف فيه؟ وفي أي نوع من أنظمة الذكاء الاصطناعي سيُدمج، وبأي وظائف؟ وهل يمكن إعادة توظيفه لغرض آخر في مرحلة ما؟ وينطبق ذلك بوجه خاص على نماذج الذكاء الاصطناعي العامة الغرض وأنظمتها. فهذا التعدد في الوسائط والاستخدامات قد يكون له أثر كبير جداً في الأفراد، إذ يمكن إساءة استخدام الأنظمة إساءة جسيمة، كاستخدامها في الاحتيال والتزييف العميق وسرقة الهوية.
وأخيراً، ثمة تحدي الثقافة والوعي: هل نحن، بوصفنا أفراداً، مؤهلون لفهم لماذا تُجمع بياناتنا الشخصية وكيف، وفيم تُستخدم؟ وهل لدينا، أفراداً ومجتمعاً، فهم واضح لكيفية عمل هذه الأنظمة، والتحديات التي تثيرها، وآثارها في حياتنا؟ ويكتسب ذلك أهمية خاصة لأنه من المشكوك فيه أن يكون حتى من ينشرون هذه الأنظمة قادرين على تفسير القرارات والنتائج الصادرة عنها، وهو ما يُعرف بـ"أثر الصندوق الأسود". وهذا أمر جوهري لتحديد ما إذا كان الأفراد يملكون القدرة، أو تُمنح لهم الأدوات، لفهم التحديات التي تطرحها هذه التقنية على بياناتهم الشخصية وخصوصيتهم والتصرف حيالها، بما في ذلك عبر الآليات القانونية. ومن المهم أيضاً فهم ما إذا كانت تصرفاتهم تحدث أي أثر، سواء على المستوى الجوهري لجمع البيانات والتدريب، أو في مراحل لاحقة من دورة حياة الذكاء الاصطناعي، حين تُستخلص عنهم مثلاً استنتاجات تعتمد على أدوات قائمة على الذكاء الاصطناعي التوليدي. وأخيراً، من الضروري أيضاً أن تفهم الجهات التنظيمية التدابير التي ينبغي اتخاذها، إضافة إلى التدابير القائمة، لتمكين الأفراد من فهم الأثر الذي قد تحدثه هذه التقنية في بيانات الناس وخصوصيتهم والتحكم فيه، أو على الأقل الحد منه.
