تقرير : سلامة الأطفال ورفاههم في عصر الذكاء الاصطناعي: أفضل الممارسات والحوافز

ورقة بيضاء
سبتمبر 2026

إخلاء المسؤولية

ينشر المنتدى الاقتصادي العالمي هذه الوثيقة مساهمةً منه في أحد مشروعاته أو مجالات الرؤى أو مسارات التفاعل التي يعمل عليها. وتأتي النتائج والتفسيرات والاستنتاجات الواردة فيها ثمرةً لعملية تعاونية قام المنتدى الاقتصادي العالمي بتيسيرها واعتمادها، غير أن نتائجها لا تمثل بالضرورة آراء المنتدى الاقتصادي العالمي، ولا آراء جميع أعضائه أو شركائه أو غيرهم من أصحاب المصلحة.

استُخدمت أدوات الذكاء الاصطناعي التوليدي للمساعدة في بعض جوانب الصياغة و/أو التحليل. وقد خضعت جميع المخرجات لمراجعة مستقلة، وتم التحقق منها واعتمادها من جانب المؤلفين.

© 2026 المنتدى الاقتصادي العالمي. جميع الحقوق محفوظة. ولا يجوز إعادة إنتاج أي جزء من هذا المنشور أو نقله بأي شكل أو وسيلة، بما في ذلك التصوير أو التسجيل، أو بواسطة أي نظام لتخزين المعلومات واسترجاعها.

التصدير

ينشأ الأطفال اليوم في عالم أصبح فيه الذكاء الاصطناعي جزءاً من الطريقة التي يتعلمون ويتواصلون ويبدعون ويلعبون بها. ويمكن لهذه الأنظمة أن توسع نطاق الوصول إلى التعليم والتعبير والدعم، لكنها في الوقت نفسه تُدخل مخاطر جديدة وتفاقم مخاطر قائمة، ومن ذلك قدرتها على التفاعل مع الأطفال بصورة مستمرة ومقنعة بطرق لم تُصمم منظومات الحوكمة القائمة في الأصل للتعامل معها.

وقد أظهر الائتلاف العالمي للسلامة الرقمية أن التصدي للمخاطر المحتملة يتطلب استخدام لغة مشتركة، وتقييم المخاطر، والقياس، والتدخل، والاستشراف. وتطبق هذه الورقة ذلك النهج على استخدام الأطفال للذكاء الاصطناعي، من خلال تحديد البيئة التي ينبغي أن يكون الأطفال قادرين على خوض تجربتهم فيها، وترجمة ذلك إلى سبع ممارسات تمتد عبر دورة حياة الذكاء الاصطناعي، وتحديد الحوافز التي يمكن أن تجعل الممارسة المسؤولة أمراً اعتيادياً.

وتضع هذه الورقة رفاه الأطفال في صميم أهدافها. وعلى أولئك الساعين إلى حماية الأطفال أن يتعاملوا بالمثل مع الرفاه باعتباره الهدف الأشمل، على أن تكون السلامة أحد مكوناته. فالسلامة أمر أساسي، لكن إذا أدت الحماية، من دون ضرورة، إلى حرمان الأطفال من فرص التعلم أو إمكانية الوصول أو المشاركة أو الخصوصية أو التواصل الإنساني، فإنها لا تؤدي وظيفتها بالشكل الملائم. وينبغي للأنظمة المسؤولة أن تقلل المخاطر المتوقعة، وفي الوقت نفسه تعزز استقلالية الأطفال ونموهم وتمكّنهم من الاستفادة من الذكاء الاصطناعي.

وتعكس هذه الورقة حواراً متواصلاً بين أعضاء الائتلاف ومجموعة واسعة من وجهات النظر. وهي تقدم خطاً أساسياً مشتركاً ذا صلة عالمية، وليست معياراً تقنياً نهائياً. وتهدف توصياتها إلى مساعدة الجهات المعنية على التنفيذ وضمان المساءلة في المجالات الواقعة تحت سيطرتها، وإشراك الآخرين والتعاون معهم عندما تكون المسؤولية موزعة خارج تلك المجالات.

وستظل جودة الممارسات متفاوتة ما دام التصميم المسؤول مكلفاً أو غير ظاهر أو يضع الجهات التي تتبناه في وضع تنافسي غير مواتٍ. لذلك يتعين على التنظيم، والمشتريات، والضمان، والاستثمار، والتقدير العام أن تجعل توفير حماية أقوى وتحقيق نتائج أفضل للأطفال الخيار المنطقي. وندعو أعضاءنا وشركاءنا والمجتمع الأوسع إلى وضع هذا الخط الأساس موضع التنفيذ، واختباره بصرامة في ضوء الأدلة الناشئة، وتحسينه مع تطور تجارب الأطفال مع الذكاء الاصطناعي.

أغوستينا كاليغاري
رئيسة مبادرات حوكمة التكنولوجيا والسلامة والتعاون الدولي، المنتدى الاقتصادي العالمي

كاثي لي
رئيسة مركز التميز في الذكاء الاصطناعي وعضو اللجنة التنفيذية، المنتدى الاقتصادي العالمي

الملخص التنفيذي

يمكن للذكاء الاصطناعي أن يفتح أمام الأطفال فوائد كبيرة، ولكن فقط إذا كانت السلامة والاستقلالية والشمول والمساءلة جزءاً أصيلاً من تصميمه.

أصبح الذكاء الاصطناعي جزءاً من كيفية تعلم الأطفال وإبداعهم وتواصلهم ولعبهم وحصولهم على الدعم. ويمكنه توسيع فرص التعليم وإمكانية الوصول والوصول اللغوي والإبداع. غير أن الأنظمة التوليدية والمحادثية والوَكيلية يمكنها أيضاً إنشاء المحتوى وتخصيصه، والإقناع، واتخاذ إجراءات بطرق تزيد من حدة الضرر. وينبغي ألا يُطلب من الأطفال التخلي عن الخصوصية أو الاستقلالية أو التواصل الإنساني أو تكافؤ فرص الوصول حتى يتمكنوا من المشاركة في عالم مدعوم بالذكاء الاصطناعي.

وتتعامل هذه الورقة مع رفاه الأطفال، وليس مجرد غياب الحوادث، بوصفه الهدف الرئيسي. فالبيئة المنشودة ليست بيئة خالية تماماً من المخاطر، وإنما بيئة تُخفَّض فيها المخاطر المتوقعة قبل أن يتعرض الأطفال لها؛ وتكون فيها الضمانات متناسبة مع العمر والسياق وقدرات النظام والشدة المحتملة للضرر؛ ويحصل فيها الأطفال ومقدمو الرعاية على الدعم للتعامل مع المخاطر المتبقية؛ وتُوزع الفوائد بعدالة؛ وتظل المؤسسات مسؤولة عن القرارات التي تقع حصراً تحت سيطرتها. ويجب أن تتقدم الحماية والتمكين معاً.

وتحدد الورقة سبع ممارسات لمساعدة المؤسسات في مختلف مراحل دورة حياة الذكاء الاصطناعي على دعم رفاه الأطفال. وينبغي للمؤسسات أن:

– تصمم أنظمة تراعي السلامة والعمر والنمو.
– تتيح الاستخدام المفيد مع الحفاظ على الحكم المستقل والعلاقات الإنسانية.
– تمنع المحتوى والسلوكيات والتفاعلات الضارة، بما في ذلك الاستغلال الجنسي للأطفال والتلاعب بوساطة الذكاء الاصطناعي.
– تحمي الخصوصية والكرامة والفهم المستنير.
– تعزز التعلم والقدرة على الصمود والتفكير النقدي.
– ترسي ملكية واضحة للمساءلة، وإشرافاً بشرياً، وسبل انتصاف، وتحسيناً مستمراً.
– تعزز الشمول والمشاركة الهادفة للأطفال والمسؤولية المشتركة.

وينبغي أن تراعي المسؤولية الالتزامات القانونية، والسيطرة العملية، والقدرة التقنية، ومدى الرؤية، والإسهام في نشوء المخاطر. ويمكن للأطفال ومقدمي الرعاية والمربين دعم الاستخدام الآمن، لكن لا ينبغي تحميلهم مسؤولية المخاطر التي تستطيع المؤسسات منعها بصورة معقولة.

ومن غير المرجح تطبيق التصميم الآمن للأطفال بصورة متسقة ما لم تتوافر للمؤسسات حوافز واضحة للاستثمار فيه. ويظل التنظيم أمراً لا غنى عنه، لكنه غير كافٍ بمفرده؛ فقدرات الذكاء الاصطناعي وأنماط استخدامه تتغير بسرعة، والأدلة ما تزال غير مكتملة، كما تختلف القدرات المؤسسية. ولذلك ثمة حاجة إلى محفظة من الحوافز تجعل الممارسة المسؤولة الخيار المنطقي.

وينبغي الجمع بين خطوط أساس قابلة للإنفاذ وإشراف قادر على الاستجابة، إلى جانب مجموعة أوسع من التدابير الداعمة، من بينها:

– تقارير سلامة قابلة للمقارنة.
– متطلبات خاصة بالمشتريات والتوزيع.
– إشارات وحوافز نابعة من التمويل والتأمين.
– بنية تحتية مشتركة للاختبارات والحماية.
– دعم قدرات الحكومات.
– قنوات أكثر أماناً للإفصاح المسؤول.
– مساءلة داخلية مرتبطة بنتائج قابلة للقياس تخص الأطفال.

وقد صُممت التوصيات الواردة هنا لتكون أساساً عملياً يمكن أن يتطور بالتوازي مع المعايير التقنية والأدلة الناشئة. وينبغي الحكم على نجاحها بناءً على الأدلة التي تبين أن الأطفال أصبحوا أكثر أماناً وأكثر قدرة وأكثر اتصالاً بالآخرين وأقدر على ممارسة حقوقهم والاستفادة من الذكاء الاصطناعي، وليس بناءً على عدد السياسات أو الشهادات أو الالتزامات التي يتم إنتاجها نتيجةً لهذه المقترحات.

المقدمة

يحتاج الأطفال إلى أنظمة تحميهم من الضرر، وفي الوقت نفسه تدعم استقلاليتهم وشمولهم ونموهم وخصوصيتهم وفرصهم الهادفة.

أصبح الذكاء الاصطناعي بالفعل جزءاً من النسيج اليومي المعتاد للطفولة، فهو مدمج في أدوات الواجبات المدرسية التي يستخدمها الأطفال، وفي خلاصات المحتوى، والألعاب، والمحادثات. ويمكنه دعم التعليم والإبداع وإمكانية الوصول وبناء المهارات. لكنه يستطيع أيضاً تضخيم أضرار مألوفة واستحداث مخاطر جديدة من خلال التوليد والتخصيص والإقناع والذاكرة واتخاذ الإجراءات. وتشكل العديد من هذه المخاطر اختيارات قابلة للتحكم تتعلق ببنية النظام والاستهداف والتضخيم وطريقة النشر.

تتقدم الحوكمة، لكنها ما تزال مجزأة. فأطر الذكاء الاصطناعي نادراً ما تتناول الأطفال بعمق، في حين سُنَّت قوانين ولوائح للسلامة على الإنترنت في العديد من الولايات القضائية حول العالم، إلا أن مدى انطباقها على خدمات الذكاء الاصطناعي متفاوت وغير واضح. كما أن القانون الدولي لحقوق الإنسان لا يقدم نموذج تشغيل كاملاً ومخصصاً للذكاء الاصطناعي.[1]

وتختلف التعريفات والضمانات وقدرات الإنفاذ بين الولايات القضائية، وهو ما يؤدي إلى الازدواجية وعدم اليقين وظهور ثغرات. بالإضافة إلى ذلك، تواجه العديد من البلدان قيوداً في القدرات التنظيمية، وأنظمة حماية الطفل، والبنية التحتية الرقمية، والخبرة التقنية.

ولا يمكن أن يقتصر الحل على فرض حظر واسع النطاق أو بوابات عمرية جامدة. فلا يوجد نموذج واحد يناسب الجميع، وينبغي تكييف الضمانات مع طبيعة النظام والمخاطر التي يطرحها، مع تجنب التدابير التي تقيد الاستخدام المفيد من دون ضرورة أو تقوض استقلالية الأطفال. وتقدم هذه الورقة دعماً في هذا المجال من خلال تحديد نتيجة الرفاه المرغوبة، والممارسات اللازمة في الوقت الراهن، والحوافز المطلوبة للتنفيذ.

فالسلامة من الضرر أمر لا غنى عنه، لكن الرفاه يتطلب أيضاً التمكين والنمو والاستقلالية والشمول والخصوصية والكرامة والفرص المفيدة والتواصل الإنساني. ومن المستحيل إزالة جميع المخاطر من الحياة الرقمية للأطفال، كما أن محاولة فعل ذلك ستؤدي إلى استبعادهم من الفوائد والقدرات التي يمكن أن توفرها الحياة المدعومة بالذكاء الاصطناعي.

وتتعلق أفضل الممارسات الواردة هنا بالأضرار الخاصة بالأطفال. أما المخاطر التي تتجاوز مرحلة الطفولة، بما في ذلك الأضرار القائمة على النوع الاجتماعي والأضرار التي يتعرض لها الناجون البالغون، فتتناولها أعمال الائتلاف الأوسع نطاقاً في مجال السلامة الرقمية.

وقد كُتبت هذه الوثيقة لجميع الجهات التي تشكل تجارب الأطفال مع الذكاء الاصطناعي. وتشمل هذه الجهات مطوري أنظمة الذكاء الاصطناعي والقائمين على نشرها، والجهات الفاعلة التي تمكّن عمل النظام، بما في ذلك موفرو النماذج، وموفرو التطبيقات، وموفرو الخدمات السحابية والاستضافة، وأسواق النماذج والتطبيقات، ومتاجر التطبيقات، وموفرو الأجهزة وأنظمة التشغيل، إلى جانب الحكومات والجهات التنظيمية، والمربين، والآباء، ومقدمي الرعاية، ومنظمات المجتمع المدني، والمستثمرين، والباحثين، والأطفال والشباب أنفسهم. وتعترف هذه الممارسات بأن المسؤوليات تختلف عبر سلسلة قيمة الذكاء الاصطناعي على الرغم من الالتزام المشترك بسلامة الأطفال.

ولأغراض هذه الورقة، يُقصد بالطفل أي شخص يقل عمره عن 18 عاماً، ما لم يحدد القانون المنطبق سناً أدنى لبلوغ سن الرشد، وذلك اتساقاً مع اتفاقية الأمم المتحدة لحقوق الطفل.[2]

و«الطفل» فئة قانونية، وليس نموذجاً نمائياً واحداً. لذلك ينبغي أن تستجيب الضمانات لقدرات الطفل وسياقه وقدرات النظام والخطورة المحتملة للمخاطر، بدلاً من الاعتماد على العمر وحده.

ويُقصد بـ«أنظمة الذكاء الاصطناعي» التعريف المعتمد لدى منظمة التعاون الاقتصادي والتنمية، ويشمل ذلك، على سبيل المثال لا الحصر، المساعدين التوليديين والمحادثيين، والرفقاء الافتراضيين، والأدوات التعليمية، والألعاب المزودة بالذكاء الاصطناعي، والوكلاء، وغير ذلك من المنتجات والخدمات والخصائص المدعومة بالذكاء الاصطناعي التي يستخدمها الأطفال أو التي تؤثر فيهم تأثيراً ملموساً.[3]

فالسلامة من الضرر أمر أساسي، لكن الرفاه يتطلب أيضاً التمكين والنمو والاستقلالية والشمول والخصوصية والكرامة والفرص المفيدة والتواصل الإنساني.

1. الوجهة المنشودة: رفاه الأطفال عبر دورة حياة الذكاء الاصطناعي

ينبغي للذكاء الاصطناعي الآمن للأطفال أن يقلل المخاطر المتوقعة مع الحفاظ على استقلالية الأطفال وخصوصيتهم ونموهم وعلاقاتهم وقدرتهم على الوصول إلى الخدمات والاستفادة منها.

الوجهة المتصورة في هذا التقرير هي بيئة يستطيع فيها الأطفال الاستفادة من مزايا الذكاء الاصطناعي من دون الاضطرار إلى قبول مخاطر غير متناسبة. وينبغي أن تكون تدابير الحماية ضرورية ومتناسبة وموجهة، مع الحفاظ على الحقوق والفرص التي تهدف تلك التدابير أصلاً إلى حمايتها. وتشكل اتفاقية حقوق الطفل وإطار رفاه المراهقين الأساس المعياري لهذا النهج.[4]

والسؤال الحاكم ليس مجرد ما إذا كان قد جرى رصد أي حوادث تتعلق بسلامة الأطفال؛ وإنما ما إذا كان النظام والضمانات التي يتضمنها يتركان الأطفال أكثر أماناً، وأكثر قدرة، وأكثر ارتباطاً بالآخرين، وأقدر على ممارسة حقوقهم والاستفادة من الذكاء الاصطناعي.

الوصول الهادف والعادل

ينبغي أن يتمكن الأطفال من الوصول إلى خدمات ومعلومات وفرص تعلم مفيدة مدعومة بالذكاء الاصطناعي. ولا ينبغي أن يكون الوصول شكلياً فحسب؛ بل يتطلب الاتصال، والتغطية اللغوية، وجودة الأنظمة، ومحو الأمية الإعلامية والمعلوماتية، والكفاءات الرقمية، وقدرة الأطفال والأسر والمدارس على إعداد الأنظمة واستخدامها بفاعلية.

ولا يعني ذلك أن كل نظام أو خاصية من خصائص الذكاء الاصطناعي ينبغي أن تكون متاحة لكل طفل. بل يعني أن القيود ينبغي أن تكون متناسبة ومرتبطة بطبيعة الخطر ومستواه. فقد يؤدي منع الأطفال من استخدام الذكاء الاصطناعي إلى تقويض تطوير المهارات الرقمية، من دون أن يفعل الكثير لمعالجة بعض التجارب الأكثر ارتباطاً بصورة واضحة بتدهور الصحة النفسية.[5]

وينبغي مراعاة الأطفال ذوي الإعاقة، والأطفال الذين يتحدثون لغات أقل انتشاراً في الخدمات، والأطفال الذين يعيشون في مناطق معزولة أو محرومة من الخدمات، عند تصميم الأنظمة وبنائها.

التعلم والحكم والاستعداد لمستقبل مدعوم بالذكاء الاصطناعي

ينبغي أن يتعامل الأطفال مع الذكاء الاصطناعي مع حصولهم على قدر كافٍ من الدعم لفهم تكنولوجيا من المرجح أن تشكل تعليمهم وحياتهم المدنية وعملهم المستقبلي. وينبغي أن يتمكنوا من استخدام الذكاء الاصطناعي لطرح الأسئلة، وممارسة المهارات، والإبداع، والتجريب، والوصول إلى المعلومات، وتلقي التغذية الراجعة.

غير أن مجرد التعرض لهذه التكنولوجيا لا يخلق القدرة. فالأطفال يحتاجون إلى فرص متدرجة لتطوير مهارات الثقافة الرقمية حتى يتمكنوا من فهم كيفية عمل الذكاء الاصطناعي، ومصدر مخرجاته، ولماذا يمكن أن يكون مخطئاً، وكيف يمكن أن يؤثر في الخيارات، ومتى تكون الحاجة إلى الحكم البشري ضرورية.

وينبغي للأطفال أن يطوروا القدرة والاستطاعة على تكوين آرائهم الخاصة، واختبار الادعاءات، واتخاذ القرارات، واستخدام الذكاء الاصطناعي، والتساؤل بشأنه، والمساهمة في تشكيله، بدلاً من أن يصبحوا متلقين سلبيين.[6]

ويشمل ذلك التعرف على الإقناع الآلي، والتمييز بين المساعدة والاستعاضة الكاملة، وملاحظة الحالات التي يؤدي فيها التخصيص إلى تضييق الخيارات، ومعرفة متى ينبغي استشارة شخص آخر أو مصدر آخر.

وينبغي ألا يحل استخدام الذكاء الاصطناعي بصورة منهجية محل الجهد والتغذية الراجعة والنقاش واللعب والتعلم الاجتماعي، وهي العناصر التي يبني الأطفال من خلالها معارف ومهارات راسخة ومستدامة.

الاستقلالية والاختيار المدعوم

يجب أن تكون تدابير الحماية، بما في ذلك أدوات الرقابة الأبوية المخصصة للأطفال، موجودة في أنظمة الذكاء الاصطناعي. ومع ذلك، ينبغي أن يتمتع الأطفال أيضاً بقدر حقيقي من السيطرة على تجربتهم التي يتوسطها الذكاء الاصطناعي.

وبحسب العمر والسياق والخطر، يمكن أن يشمل ذلك القدرة على:

1. تقليل استخدام إحدى خصائص الذكاء الاصطناعي أو إيقافها مؤقتاً أو تعطيلها.
2. الاختيار من بين إعدادات محددة للمحتوى أو التفاعل، بدلاً من العمل ضمن «وضع الطفل» الواحد.
3. رفض استخدام الذاكرة أو إعادة استخدام بيانات المحادثات، باستثناء ما يكون ضرورياً للتكيف المتعلق بالسلامة.
4. طلب تفسير مختلف، أو طلب معلومات تتعلق بالشفافية أو استخدام وظيفة الإبلاغ.
5. إدارة ما يرغبون في رؤيته أو تجنبه أو استكشافه ضمن حدود ملائمة.
6. التعبير عن تفضيلات تؤخذ على محمل الجد في تصميم المنتجات واختبارها وتقييمها.

ولا تعني الاستقلالية نقل المسؤولية إلى الطفل. فعلى المؤسسات أن تمنع المخاطر التي يمكنها السيطرة عليها بصورة معقولة، ولا يجوز أن تكون أدوات الرقابة الأبوية بديلاً عن وجود مستوى أساسي من السلامة. وينبغي أن يزداد نطاق الاختيار مع زيادة قدرة الطفل، مع الاعتراف بالاختلافات القائمة داخل الفئات العمرية وبين أنواع القرارات.[7]

الخصوصية والهوية

لا تعني السلامة من الضرر أن الأطفال مضطرون إلى التخلي عن حقهم في الخصوصية. وينبغي أن يكون بمقدور الأطفال التعلم، والبحث عن المعلومات، والتجريب، والتواصل من دون التعرض لتتبع غير ضروري أو تخزين بياناتهم إلى أجل غير محدد.

وقد تكون محادثات الأطفال، والمشاعر المستنتجة عنهم، ومواقعهم، وعلاقاتهم الاجتماعية، وأعمالهم الإبداعية، وإشارات هويتهم شديدة الحساسية. ولذلك ينبغي أن تستمر ممارسات خصوصية الأطفال في الالتزام بمبدأ السلامة منذ مرحلة التصميم، مع مراعاة حقوقهم، من خلال أنظمة تقلل جمع البيانات إلى الحد الأدنى وتتيح للمستخدم تحكماً حقيقياً.

وينبغي حماية الأطفال من الأنظمة التي تقلد هويتهم أو تغيرها أو تكشفها بطرق تقوض الكرامة أو السمعة أو الاستقلالية، وكذلك من الأشخاص الذين يسيئون استخدام أنظمة الذكاء الاصطناعي بغرض استغلال الأطفال.

العلاقات الإنسانية والتواصل

ينبغي للذكاء الاصطناعي أن يكمل العلاقات التي ينمو الأطفال من خلالها، لا أن يحل محلها أو يضعفها. فمقدمو الرعاية، والمربون، والأقران، والمجتمعات يقدمون للأطفال التبادلية والمساءلة والتعاطف والثقافة والتجارب المتجسدة، وهي عناصر أساسية لنموهم.

وتحذر لجنة الأمم المتحدة لحقوق الطفل من استخدام التكنولوجيا الرقمية بديلاً عن التفاعل المباشر وجهاً لوجه، ولا سيما في مرحلة الطفولة المبكرة.[8]

غير أن هذا النهج لا ينفي أن الذكاء الاصطناعي قد يوفر الراحة النفسية، أو فرصة للتدرب، أو إمكانية الوصول، أو وسيلة لطلب المساعدة. وقد تكون هذه الفوائد ذات أهمية خاصة للأطفال المعزولين أو ذوي الإعاقة أو المتباينين عصبياً أو الذين يخشون التعرض للحكم عليهم.

والاختبار المناسب هنا هو اختبار نمائي وعلاقاتي: هل يساعد النظام الطفل على العودة إلى الأشخاص والأنشطة والقرارات بثقة أكبر، أم أن تصميم النظام أو طريقة تنفيذه تجعله يقدم نفسه بوصفه العلاقة المفضلة لدى الطفل؟

الدعم والمراجعة والانتصاف

عندما يحدث خطأ ما، يحتاج الأطفال إلى أكثر من مجرد زر للإبلاغ. فهم يحتاجون إلى تفسير مفهوم، وخيارات آمنة، ومراجعة في الوقت المناسب، ومسار للوصول إلى الدعم.

وينبغي للأنظمة أن تراعي احتمال أن يخشى الطفل العقاب أو فقدان القدرة على استخدام جهازه أو الإفصاح التلقائي عن معلوماته لوالد أو مدرسة. وتختلف الاستجابة المناسبة باختلاف الموقف.

وينبغي أن تظل المؤسسة المسيطرة على القرار المعني مسؤولة عن توفير الانتصاف. ولا ينبغي ترك الأطفال وأسرهم للتنقل بين سلسلة من موفري النماذج والقائمين على النشر والموزعين بهدف معرفة من يمكنه التدخل وكيفية ذلك.[9]

1.1 التحديات التي تعترض إنشاء البيئة المنشودة

لا تنشأ البيئة المنشودة بصورة تلقائية لمجرد توسيع الوصول إلى الذكاء الاصطناعي، أو بسبب حسن النيات، أو لمجرد وجود خاصية للسلامة.

وعلى خلاف إزالة فئة محددة من المحتوى، تتطلب حماية الأطفال في بيئات الذكاء الاصطناعي ممارسة الحكم والتقدير، بما في ذلك تحديد متى وأين وكيف توضع الضمانات؛ ومعرفة اللحظة التي يتحول فيها التفاعل إلى ضرر أو يشير إلى حاجة للمساعدة؛ وتعزيز رفاه الأطفال مع حمايتهم باعتبارهم أفراداً لا يزالون في طور النمو وتحت توجيه الوالدين.

وينتج عن ذلك مجموعة من التحديات الهيكلية التي لا يمكن لضمان واحد أو جهة فاعلة واحدة حلها. ويعرض هذا القسم التحديات الرئيسية، ولا يُقصد منه الإيحاء بعدم وجود حلول قائمة بالفعل.

الحدود النمائية والسياقية

يمثل مفهوم «الطفل» فئة قانونية أساسية، لكنه لا يمثل ملفاً نمائياً واحداً. فالطفل الصغير، والمراهق في بدايات مرحلة المراهقة، ومن يبلغ 17 عاماً، لن تكون لديهم الاحتياجات أو أوجه الضعف أو القدرة نفسها على اتخاذ القرارات بصورة مستقلة. وحتى الأطفال في العمر نفسه يختلفون في اللغة والقدرات والنضج والخبرة ومستوى الدعم الأسري والسياق الذي تُستخدم فيه الأداة.

ويخلق ذلك صعوبات في التصميم والسياسات. فالحد الزمني القائم على العمر يمكن أن يحدد ما إذا كانت قاعدة قانونية معينة تنطبق، لكنه لا يستطيع بمفرده تحديد ما إذا كانت تجربة بعينها ملائمة نمائياً.

ويُعد تحديد الجهة التي تقرر أين توضع الحدود والضمانات المتدرجة، وما المستويات النمائية والحمايات المناسبة، وكيفية تنفيذها، عائقاً كبيراً.

يمكن للتدخلات البسيطة أن تعالج خطراً وتفاقم خطراً آخر

يمكن أن تكون حالات الحظر والبوابات العمرية مناسبة للخدمات غير الملائمة أو غير القانونية، وللحد من بعض أشكال الضرر. لكن عندما تُستخدم باعتبارها استجابة عامة لفئة واسعة من المخاطر المحتملة، فقد تمنع أيضاً الفوائد، وتزيل فرص بناء المهارات، وتدفع الاستخدام نحو خدمات تخضع لحوكمة أقل صرامة.

وبالمثل، يحذر التحليل العالمي لليونيسف لعام 2025 من أن تقييد الوصول يمكن أن يقوض تنمية المهارات، ويوصي بتركيز التدخلات على المحتوى والتجارب الأكثر ارتباطاً بصورة واضحة بالضرر.[10]

ويمكن لتقنيات ضمان العمر أن تساعد في تطبيق ضمانات متباينة، لكنها ليست سوى تدخل واحد. فهي لا تجعل الخدمة آمنة في حد ذاتها، ولا تحدد مدى الاستعداد النمائي، ولا تستبدل الحاجة إلى التصميم الأكثر أماناً أو الإشراف على المحتوى أو التثقيف أو سبل الانتصاف.

كما تفرض هذه التقنيات متطلباتها الخاصة فيما يتعلق بالدقة وإمكانية الوصول والخصوصية والتناسب والأمن والانتصاف.

وعليه، فالسؤال ليس ما إذا كان ينبغي التحقق من عمر الجميع أو عدم التحقق من عمر أي شخص، وإنما ما مستوى ضمان العمر الضروري لمعالجة خطر محدد، وكيف يمكن تنفيذه بأقل قدر ممكن من التدخل في خصوصية الأفراد.

الذكاء الاصطناعي يغير طبيعة التفاعل

بُني العديد من أنظمة السلامة على الإنترنت حول نشر المحتوى أو البحث أو التوصية أو التواصل بين البشر.

أما الذكاء الاصطناعي التوليدي والوكيلي فيستطيع بدلاً من ذلك إجراء تفاعلات مستمرة، وتذكر المحادثات السابقة، وتخصيص الاستجابات، واتخاذ إجراءات بصورة مستقلة.

وفي حالة الذكاء الاصطناعي الوكيلي، لا يعتمد الخطر على القدرة التقنية فحسب، بل أيضاً على درجة الاستقلالية والسلطة والأذونات الممنوحة للنظام والسياق الذي يعمل فيه.

ولذلك يمكن للقدرات نفسها أن تطرح مخاطر مختلفة تبعاً لمدى استقلال الوكيل في اتخاذ الإجراءات والبيئة التي يُنشر فيها.[11]

كما يمكن للغة الشبيهة باللغة البشرية أن تدفع الأطفال إلى المبالغة في تقدير مدى فهم النظام أو سلطته أو قدرته على الحفاظ على السرية أو تقديم الرعاية.

وقد يكون الأطفال عرضة بوجه خاص للتعلق والتلاعب والإفصاح عن المعلومات في التفاعلات المحادثية أو الشبيهة بتفاعلات الرفقاء، ويمكن لهذه الأنظمة أن تزاحم فرص التعلم الاجتماعي الإنساني.[12]

ويمكن لأي نظام ذكاء اصطناعي محادثي أو أداة مستجيبة أن تنشئ نوعاً من العلاقة مع المستخدم، سواء كان طفلاً أو بالغاً. لكن ما إذا كانت تلك العلاقة تبدو أقرب إلى علاقة مع قرين، أو معلم، أو شيء آخر، سيتوقف على الطفل والسياق.

وعلى الرغم من صعوبة تحديد طبيعة هذه العلاقة والتحكم فيها بالكامل، لا سيما في الحالات الحدّية، فإنه يمكن تحسين التحكم فيها من خلال التصميم.

الأدلة محدودة، والوصول إلى البيانات غير متكافئ، والتبني يتقدم بسرعة

تتطور قاعدة الأدلة بوتيرة أبطأ من نشر التكنولوجيا. وعلى الرغم من توسع الأبحاث المتعلقة بآثار الذكاء الاصطناعي، ما تزال الأدلة محدودة بشأن الآثار المتوسطة والطويلة الأجل للذكاء الاصطناعي وتدخلات السلامة في النمو المعرفي والنفسي والتعليمي للأطفال.

وفي الوقت نفسه، ما يزال الأطفال والآباء والمعلمون على هامش الكثير من عمليات حوكمة وتصميم الذكاء الاصطناعي.[13]

وحتى في البيئة الرقمية الأوسع، تتفاوت الأدلة المتعلقة بالسببية وفعالية التدخلات؛ كما يمكن لمقاييس واسعة مثل مدة استخدام الشاشة أن تحجب أهمية طبيعة التجارب التي يخوضها الأطفال والظروف التي تحدث فيها.[14]

وغالباً لا يستطيع الباحثون المستقلون الوصول إلى البيانات أو سلوك النماذج أو أنماط التفاعل طويلة الأجل اللازمة لاختبار الادعاءات.

وقد تمتلك الشركات أدلة أغنى، لكنها تواجه قيوداً تتعلق بالخصوصية والأمن والسمعة والملكية الفكرية.

ونتيجة لذلك، تضع الحكومات اللوائح في ظل معلومات غير مكتملة، فيما تعتمد المؤسسات ممارسات لم تُثبت فعاليتها بعد.

الحوافز التجارية والتنظيمية لا تكافئ رفاه الأطفال بصورة متسقة

يمكن لنظام ذكاء اصطناعي أن يمتثل لقواعد ضيقة تخص المحتوى، ومع ذلك يكون مُحسّناً لتحقيق نتائج تتعارض مع رفاه الأطفال.

فمؤشرات مثل الوقت الذي يقضيه المستخدم، وتكرار العودة إلى النظام، وحجم الإفصاح، والتحويل الناتج عن النقر، أو إنجاز المهام، قد تكافئ الإلحاح المتكرر، والتعلق العاطفي، والتخصيص المفرط، أو الاستعاضة السلسة عن جهد الطفل الشخصي.

وتكون فوائد الشركة واضحة وفورية، بينما يمكن أن تكون الأضرار الواقعة على الانتباه والعلاقات والاستقلالية والنمو تراكمية وموزعة على نطاق واسع ويصعب إسنادها إلى سبب محدد.

وداخل المؤسسات، قد لا تدخل فرق الثقة والسلامة إلا بعد اتخاذ القرارات الأساسية المتعلقة بالمنتج وطرحه في السوق، أو قد لا تراعي المخاوف الخاصة بالأطفال.

وقد تحصل المخاطر النادرة لكنها شديدة الخطورة على موارد أقل مقارنة بالمشكلات الأكثر شيوعاً.

كما قد يضيف القائمون الأصغر حجماً على نشر التكنولوجيا خاصية ذكاء اصطناعي من دون إدراك أنهم أصبحوا مسؤولين عن التزامات جديدة متعلقة بالحماية والاختبار والانتصاف.

ولا يكون للمبادئ الطوعية سوى تأثير محدود إذا لم يُقَس التقدم، ولم تُخضع القيادة للمساءلة، ولم يترتب على التقاعس عواقب تجارية أو قانونية أو تتعلق بالسمعة.

المسؤولية موزعة، لكن المساءلة قد تختفي بين الجهات الفاعلة

تُجمع منتجات الذكاء الاصطناعي وتُنشر عبر سلسلة قد تشمل موفري البيانات، ومطوري النماذج، والجهات التي تضبط النماذج بدقة، ومطوري التطبيقات، وموفري الحوسبة السحابية والاستضافة، ومتاجر التطبيقات، وموفري الأجهزة أو أنظمة التشغيل، والمدارس، والهيئات العامة، وغيرهم من القائمين على النشر. وتسيطر الجهات المختلفة على ضمانات مختلفة.

وتفقد المسؤولية المشتركة فعاليتها عندما تكون لكل جهة فاعلة وظيفة محددة بصورة ضيقة ثم تحيل المشكلات المتبقية إلى جهات أخرى في السلسلة.

ويزيد التطوير والاستضافة والتوزيع عبر الحدود من تعقيد الإنفاذ، وخاصة بالنسبة للبلدان التي تستهلك خدمات الذكاء الاصطناعي لكنها لا تستضيفها أو تطورها.

وتظل المسؤولية والالتزامات عاملاً شاملاً، وينبغي ألا يتم تحويلها بصورة مفرطة إلى الأطفال أو الآباء أو المربين.

يُطلب من المؤسسات العامة تنظيم أنظمة قد لا تكون مجهزة لتقييمها

تفرض سرعة الذكاء الاصطناعي وتعقيده التقني وامتداده عبر قطاعات متعددة متطلبات غير اعتيادية على الحكومات.

فتحتاج الهيئات التشريعية والتنظيمية إلى فهم قدرات النماذج، وتدفقات البيانات، وحوافز المنتجات، وطرق ضمان العمر، وحدود الضمانات المقترحة.

كما تحتاج إلى خبرة في نمو الطفل، والتعليم، والخصوصية، والمنافسة، وحماية المستهلك، وحقوق الإنسان.

ونادراً ما تجتمع هذه القدرات داخل مؤسسة واحدة، وخاصة في البيئات ذات الموارد المحدودة.[15]

وقد تميل السياسات إلى اتخاذ تدابير ظاهرة وبسيطة سياسياً، حتى عندما يمكن لتدخل أكثر استهدافاً أن يحمي حقوق الأطفال وتمكينهم بصورة أفضل.

وتتطلب الحوكمة الفعالة كلاً من الكفاءة التقنية والحدود المستندة إلى الحقوق.

عدم المساواة يشكل الفرص ومقدار التعرض للمخاطر معاً

غالباً ما تُصمم أنظمة الذكاء الاصطناعي على أساس مستخدمين يتمتعون باتصال جيد، ولغات مهيمنة، وواجهات قياسية، وافتراضات مسبقة بشأن الثقافة الإعلامية والمعلوماتية.

وقد يحصل الأطفال الذين يدخلون البيئة الرقمية للمرة الأولى، أو يستخدمون جهازاً منزلياً مشتركاً، أو يتحدثون لغة غير ممثلة بصورة كافية، أو يعتمدون على تقنيات مساعدة، على تجربة أقل قدرة أو أقل أماناً.

كما قد تعمل مرشحات المحتوى والمصنفات ومسارات الدعم بمستويات متفاوتة من الفعالية عبر السياقات الثقافية المختلفة.

وتؤثر الظروف خارج الإنترنت أيضاً في النتائج على الإنترنت. فالأسر التي تمتلك الوقت والمعرفة والموارد تستطيع اختيار الخدمات، وضبط الإعدادات، والتدخل عندما يحدث خطأ.

كما تختلف المدارس وأنظمة حماية الطفل في مستوى قدرات الموظفين ومدى الوصول إلى الأدوات.

وقد يحصل الأطفال المعزولون أو الضعفاء أصلاً على فوائد خاصة من الذكاء الاصطناعي، لكنهم قد يكونون أيضاً أكثر عرضة للتبعية أو الاستغلال أو النصائح المتدنية الجودة.

غالباً ما يبدأ الإبلاغ والانتصاف بعد فوات الأوان

يمكن لمسارات الإبلاغ الآلية أن تفشل أيضاً عندما يكشف طفل عن تعرضه لسوء معاملة، أو عن إيذاء النفس، أو مخاوف جنسية، أو شكل آخر من أشكال الضعف، ويحتاج إلى انتقال دقيق نحو الدعم البشري.

وعادةً ما يحدث الإبلاغ بعد وقوع الضرر بالفعل، وقد لا يفهم الطفل ما الذي حدث أو قد يخشى عواقب طلب المساعدة من شخص بالغ.

ويكون توفير الانتصاف أكثر صعوبة عندما يكون التفاعل خاصاً أو مؤقتاً أو مولداً عبر عدة خدمات.

وقد لا تُحفظ الأدلة، وقد تكون المسؤولية غير واضحة، وربما لا يتوافر الدعم الملائم بلغة الطفل أو في ولايته القضائية.

من الوجهة إلى الممارسة

لا يمكن لحد عمري واحد، أو إعداد أبوي واحد، أو بيان للسياسة، أو مرشح تقني واحد أن يحقق ذكاءً اصطناعياً آمناً للأطفال.

وتمثل الممارسات التالية استجابة شاملة تهدف إلى الحد من المخاطر الخطيرة والمتوقعة قبل وقوعها؛ ودعم الأطفال في التعامل مع المخاطر المتبقية؛ وضمان تناسب الضمانات والحفاظ على الحقوق الأخرى ذات الصلة؛ وتوزيع الفوائد بصورة عادلة؛ وإبقاء المؤسسات مسؤولة عن القرارات الواقعة ضمن سيطرتها.

وستظل الأدلة غير مكتملة في المدى القصير، لكن عدم اليقين يمثل سبباً واضحاً لإجراء اختبارات ورصد ومراجعات متناسبة، وليس مبرراً لعدم التحرك أو لفرض قيود عشوائية واسعة النطاق.

2. أفضل الممارسات لإنشاء بيئات ذكاء اصطناعي آمنة للأطفال ومُمكِّنة لهم

ينبغي إدماج السلامة الملائمة للعمر في الذكاء الاصطناعي منذ المراحل الأولى للتصميم، وتفعيلها افتراضياً، واختبارها وتكييفها باستمرار.

تترجم هذه الممارسات السبع هدف الرفاه إلى إجراءات يمكن للجهات التي تصمم أو تطور أو توفر أو توزع أو تشتري أو تنشر أو تحكم أو تشرف على أنظمة الذكاء الاصطناعي التي يستخدمها الأطفال أو التي تؤثر فيهم بصورة ملموسة أن تتخذها.

وتستند هذه الممارسات إلى اتفاقية حقوق الطفل، والتعليق العام رقم 25 لعام 2021 بشأن حقوق الأطفال في البيئة الرقمية، وإرشادات دولية في مجالات الذكاء الاصطناعي والثقة والسلامة وحقوق الإنسان.

والمسؤولية مشتركة لكنها ليست متساوية. فالدول عليها واجب سن الأطر وتنفيذها بما يحمي حقوق الأطفال، بينما تتحمل الصناعة مسؤولية تصميم المنتجات والخدمات وتطويرها ونشرها بطريقة تحترم تلك الحقوق، من خلال بذل العناية الواجبة، والمنع الاستباقي، والتخفيف، والانتصاف في المجالات الواقعة تحت سيطرتها.[16]

ويمكن للأطفال ومقدمي الرعاية والمربين المساعدة في دعم الاستخدام الآمن، لكنهم لا يتحملون مسؤولية المخاطر التي يمكن للمؤسسات منعها بصورة معقولة.

وينبغي أن تكون متطلبات التنفيذ والأدلة، مثل ضمان العمر، متناسبة مع الخطر والسياق والدور، وأن يُحكم عليها استناداً إلى النتائج لا إلى السياسات أو الخصائص التقنية وحدها.

وتظل الواجبات القانونية المطبقة مرتبطة بكل ولاية قضائية.

كما ينبغي أن يكون التنفيذ، بما في ذلك ضمان العمر والتقييم والشهادات وإعداد التقارير التي تدعو إليها هذه الممارسات، متناسباً مع مستوى الخطر والسياق.

2.1 التصميم من أجل السلامة والعمر والنمو

ينبغي تصميم أنظمة الذكاء الاصطناعي منذ البداية مع مراعاة احتياجات الأطفال وقدراتهم وحقوقهم، بدلاً من الاعتماد على ضمانات تضاف بعد النشر.

ويعني التصميم من أجل السلامة والعمر والنمو توقع كيفية تفاعل الأطفال باختلاف أعمارهم وظروفهم مع الذكاء الاصطناعي، وإدماج وسائل الحماية الملائمة طوال دورة حياة النظام.

الممارسة الأساسية: إدماج السلامة الملائمة للعمر في الذكاء الاصطناعي منذ أقدم مراحل التصميم، وتفعيلها افتراضياً، واختبارها وتكييفها عبر المراحل النمائية المختلفة قبل النشر وبعده.

أهمية ذلك: يختلف الأطفال بحسب العمر والنمو والنوع الاجتماعي والإعاقة والسياق. وقد تفشل الإعدادات الافتراضية أو الضمانات التي تضاف بعد الإطلاق في حماية الأطفال الأقل قدرة على فهم الخطر أو تجنبه. والملاءمة النمائية شرط أساسي للاستخدام المفيد.

الجدول 1: أفضل الممارسات عبر دورة حياة الذكاء الاصطناعي فيما يتعلق بالسلامة والعمر والنمو

مرحلة التصميم والتطوير

الإجراءات الموصى بها:

– إجراء تقييم لأثر حقوق الطفل واعتماده قبل الإطلاق الأول، أو قبل أي تغيير جوهري، أو قبل النشر في سياق جديد يؤثر في الأطفال، وذلك لكل نظام موجه للأطفال أو يُتوقع أن يصل إليه الأطفال أو يعالج بيانات متعلقة بالأطفال أو قد يؤثر فيهم بصورة ملموسة. وينبغي تقييم الآثار المباشرة وغير المباشرة، بما في ذلك الآثار الناتجة عن البيانات وسلاسل التوريد، وإعادة النظر في التقييم كلما تغير النظام.

– عندما يستخدم الأطفال النظام، ينبغي أن تكون الذاكرة محدودة افتراضياً، بحيث تقتصر على التكيف الضروري للسلامة والوظائف والتخصيص الملائم نمائياً، مع تعطيل تجارب الرفيق أو الشخصية المصممة لإقامة صداقات أو علاقات عاطفية.

– إدماج السلامة الملائمة للعمر منذ مرحلة التصميم وتفعيلها افتراضياً؛ وتوفير ضمانات متدرجة ومتناسبة، بإعدادات افتراضية أكثر صرامة للأطفال الأصغر سناً وللسياقات عالية التأثير.[17]

– التعامل مع الجلسات التي لم يسجل فيها المستخدم الدخول أو الجلسات غير الموثقة باعتبار مستخدميها أطفالاً افتراضياً.

الجهات المقترحة: موفرو النماذج، المطورون، القائمون على النشر.

مرحلة الاختبار والتقييم

الإجراءات الموصى بها:

– اختبار ضوابط السلامة داخل بيئة خاضعة للرقابة باستخدام حالات محددة بحسب العمر والسياق، وبالاستعانة بخبرات في مجال نمو الطفل.

– قياس فعالية الضوابط ومعدلات الخطأ عبر مختلف الأعمار واللغات والإعاقات وأنماط سوء الاستخدام المتوقعة، وتجنب وضع واحد موحد للأطفال لا يراعي الفروق بينهم.

الجهات المقترحة: موفرو النماذج، المطورون، القائمون على النشر.

مرحلة النشر

الإجراءات الموصى بها:

– استخدام مستوى اليقين بشأن العمر الذي يتطلبه الخطر فقط، وإعطاء الأولوية لإشارة تتعلق بالفئة العمرية أو الأهلية بدلاً من الكشف عن الهوية؛ وإجراء العناية الواجبة بشأن مزودي تقنيات الذكاء الاصطناعي وضوابطهم الخاصة بسلامة الأطفال.

– دعم إشارات عمرية قابلة للتشغيل البيني ونهج رقابة أبوية متوافقة عبر الأنظمة، مع بقاء الخدمة القائمة على النشر مسؤولة عن توفير تجربة ملائمة للعمر.

– اشتراط تقديم أدلة متناسبة على إجراء تقييم لحقوق الطفل، ووجود بوابات للإطلاق، وفعالية الضوابط قبل الشراء أو الاستخدام عالي التأثير. وينبغي اعتبار الشهادة أحد مسارات الإثبات، وليس المسار الوحيد.

الجهات المقترحة: القائمون على النشر، موفرو خدمات ضمان العمر، الموزعون، موفرو الأجهزة وأنظمة التشغيل، الحكومات والجهات التنظيمية، جهات المشتريات المؤسسية.

مرحلة التشغيل والرصد

الإجراءات الموصى بها:

– رصد الأضرار الناشئة وإساءة الاستخدام بعد الإطلاق، وإعادة تقييم الضمانات، بما في ذلك بعد حدوث تغييرات جوهرية.

الجهات المقترحة: موفرو النماذج، القائمون على النشر، الحكومات والجهات التنظيمية، المجتمع المدني والباحثون.

2.2 تمكين الاستخدام المفيد مع الحفاظ على الاستقلالية البشرية والعلاقات الإنسانية

ينبغي للذكاء الاصطناعي أن يعزز قدرة الأطفال على التعلم والإبداع والمشاركة من دون تقليص استقلاليتهم أو استبدال الأشخاص والعلاقات التي تدعم النمو الصحي.

ويعني التصميم للاستخدام المفيد ضمان أن يكون الذكاء الاصطناعي مكملاً للحكم البشري والتعليم والرعاية، لا بديلاً عنها.

الممارسة الأساسية: توسيع الاستخدام المفيد للذكاء الاصطناعي مع منع التبعية والخداع وإزاحة التواصل الإنساني. وينبغي أن تزيد الفوائد من قدرات الأطفال وروابطهم بالآخرين، لا أن تجعل النظام شيئاً لا يمكنهم الاستغناء عنه.

أهمية ذلك: يمكن للذكاء الاصطناعي توسيع فرص التعلم والإبداع وإمكانية الوصول، لكن الأنظمة المصممة للموافقة المستمرة على المستخدم أو الإطراء أو تعظيم معدل عودته يمكن أن تسهم في التبعية وفقدان المهارات وإزاحة العلاقات الإنسانية. وينبغي أن تزيد الفوائد من قدرة الأطفال واتصالهم بالآخرين، لا أن تجعل النظام لا غنى عنه.

الجدول 2: أفضل الممارسات عبر دورة حياة الذكاء الاصطناعي لتمكين الاستخدام المفيد مع الحفاظ على الاستقلالية البشرية والعلاقات الإنسانية

مرحلة التصميم والتطوير

– تقييم النماذج وضبطها للحد من السلوك التملقي أو المفرط في الاسترضاء، مثل الإطراء الزائد، والسعي لإرضاء المستخدم، والموافقة المستمرة، عندما يعطي ذلك الأولوية للحصول على رضا المستخدم على حساب الدقة أو السلامة، أو يستخدم التلاعب العاطفي أو الحصرية أو السعي إلى خلق التبعية، أو يدّعي سلطة لا يملكها، أو يسيء التعامل مع إفصاحات تتعلق بالضيق النفسي.

– تقييم الخصائص العلائقية والإقناعية؛ وتعطيل وسائل الحث على إعادة التفاعل والتصميمات الساعية إلى خلق التبعية.

– تقييد المحاكاة العاطفية التكيفية والذاكرة المستمرة ما لم يكن استخدامهما مبرراً بعد تقييم موثق لحقوق الطفل والسلامة.

– إتاحة أوضاع ملائمة للعمر للتعلم والإبداع وإمكانية الوصول والاستكشاف، بحيث تُطبق الضمانات على الخصائص عالية الخطورة بدلاً من منع الاستخدامات المفيدة بالكامل.

– عدم استخدام الإعلانات الموجهة، أو الأنماط التصميمية المضللة، أو الخصائص العلائقية التي تتطلب الدفع للحفاظ عليها، أو رسائل إعادة التفاعل التي تستغل نقاط الضعف النمائية لدى الطفل.

– توفير آليات ملائمة نمائياً تساعد الأطفال على فهم تجاربهم مع الذكاء الاصطناعي والتحكم فيها.

الجهات المقترحة: موفرو النماذج، المطورون، القائمون على النشر.

مرحلة الاختبار والتقييم

– اختبار الخصائص العلائقية وخصائص الرفيق الافتراضي للكشف عن التبعية، والسلوك التملقي، والخداع، وطمس الحدود بين الإنسان والآلة عبر المراحل النمائية.

الجهات المقترحة: المطورون، القائمون على النشر.

مرحلة النشر

– اشتراط الإفصاح عن الخصائص العلائقية، والذاكرة، والعمر المستهدف، وبروتوكولات الأزمات، واختبارات السلامة.

– تطبيق مراجعة معززة وضمانات علائقية على الخصائص المجسمة بشرياً، أو المخصصة للدعم الحميمي، أو الرفقاء، أو المحادثات، أو الألعاب، أو لعب الأدوار. وتقييد الوصول إلى الوظائف التي لا يمكن جعلها آمنة.

الجهات المقترحة: المطورون، القائمون على النشر، الموزعون، الحكومات والجهات التنظيمية.

مرحلة التشغيل والرصد

– الاحتفاظ ببروتوكولات موثقة لإدارة الأزمات والحماية في حالات الضيق النفسي المتوقعة، أو سوء المعاملة، أو إيذاء النفس، أو الإفصاح عن الاستغلال، مع تحديد الحالات التي يتوقف فيها النظام عن التفاعل، أو يقدم موارد داعمة، أو يُفعّل مراجعة بشرية من شخص مدرب، أو يحفظ الأدلة، أو يحيل الحالة إلى جهة أخرى.

الجهات المقترحة: المطورون، القائمون على النشر.

2.3 منع المحتوى والسلوكيات والتفاعلات الضارة

تتطلب حماية الأطفال في عصر الذكاء الاصطناعي معالجة ليس فقط ما تولده أنظمة الذكاء الاصطناعي، بل أيضاً كيفية استخدامها وكيفية تجربة الأطفال لها.

وينبغي أن تراعي الضمانات الفعالة النطاق الكامل للتفاعلات بين الأطفال وأنظمة الذكاء الاصطناعي والمستخدمين الآخرين طوال دورة حياة الخدمة.

الممارسة الأساسية: اتخاذ تدابير معقولة ومتناسبة من أجل الوقاية قدر الإمكان من الاستخدامات الضارة أو الاستغلالية التي تؤثر في الأطفال، واكتشافها وتعطيلها وإزالتها والاستجابة لها، مع عدم التسامح مطلقاً مع الاستغلال والاعتداء الجنسي على الأطفال.

أهمية ذلك: يتيح الذكاء الاصطناعي التوليدي إنشاء مواد جنسية اصطناعية، والاستدراج الجنسي، والابتزاز الجنسي، والتلاعب المخصص بسرعة ونطاق غير مسبوقين. ويجب أن تعالج الوقاية والكشف والاستجابة التفاعل بكامله، لا المخرجات وحدها.

الجدول 3: أفضل الممارسات عبر دورة حياة الذكاء الاصطناعي لمنع المحتوى والسلوكيات والتفاعلات الضارة

مرحلة التصميم والتطوير

– توثيق المصدر القانوني لبيانات التدريب وعمليات فحصها؛ ومنع إدراج أو حفظ أو إعادة إنتاج أو تسهيل مواد الاستغلال الجنسي للأطفال، والاستدراج، والابتزاز الجنسي، والتزييفات الجنسية العميقة، وإيذاء النفس، واضطرابات الأكل، والانتحار، والعنف، وتعاطي المواد.

– تطبيق ضمانات على خصائص المطابقة الاجتماعية وتسهيل الاتصال والتوصية التي قد تعرض الأطفال لأشخاص بالغين غير آمنين أو لتفاعلات ضارة.

– تطبيق ضمانات في واجهة المستخدم لاكتشاف إساءة استخدام الذكاء الاصطناعي في تطوير أو إنشاء محتوى يمكن أن يضر بالأطفال، والإشراف عليه وردع ذلك الاستخدام.

الجهات المقترحة: موفرو البيانات، موفرو النماذج، المطورون، القائمون على النشر.

مرحلة الاختبار والتقييم

– اختبار التعليمات العدائية ومحاولات التحايل بعد التغييرات الجوهرية.

– تقييم مخاطر سوء الاستخدام وتطبيق ضوابط وصول وحدود للمعدل وآليات رصد وإنفاذ متناسبة.

– استخدام ضوابط متعددة الطبقات على المدخلات والتفاعلات متعددة الجولات والمخرجات، بهدف منع التوليد الضار المقصود وغير المقصود من جانب الأطفال قدر الإمكان.

– اختبار معدلات النتائج السلبية الكاذبة والإيجابية الكاذبة في سياقات ذات صلة بالأطفال.

الجهات المقترحة: موفرو النماذج، المطورون، القائمون على النشر، موزعو النماذج المفتوحة.

مرحلة النشر

– توفير مسار واضح وسهل الوصول إليه من جانب الأطفال للإبلاغ في موضع التفاعل نفسه.

– وضع علامات على المحتوى الاصطناعي أو المعدل عند مرحلتي الإنشاء والنشر باستخدام أساليب قابلة للتشغيل البيني ويمكن للأطفال فهمها.

– اشتراط وجود ضمانات وإفصاحات موحدة قبل إدراج الخدمات؛ ودعم الاكتشاف الآمن وإشارات العمر؛ وإنفاذ قواعد المنصة؛ وتعليق الخدمات المرتبطة بمحتوى أو سلوك ضار خطير أو مستمر أو معالجتها أو حذفها من القوائم.

الجهات المقترحة: المطورون، القائمون على النشر، الموزعون.

مرحلة التشغيل والرصد

– اكتشاف التقارير المتعلقة بالمحتوى الاصطناعي أو المعدل الذي يشمل أطفالاً؛ وحفظ الأدلة بطريقة قانونية؛ وإبلاغ مقدم التقرير بحالة البلاغ؛ وتوجيه البلاغ إلى الجهة القادرة على إزالة المحتوى أو تعليق الوصول أو التحقيق أو توفير الانتصاف.

– الحفاظ على شروط تمنع الخدمات التي تسهّل إساءة معاملة الأطفال وإنفاذها؛ وتوفير قنوات تصعيد موثوقة؛ والإبلاغ عن الاشتباه في الاستغلال الجنسي للأطفال إلى السلطات؛ وربط الأطفال المتضررين بالدعم؛ وإدراج ضمانات عندما يمكن أن يؤدي الإبلاغ إلى تعريض الطفل للخطر، بما في ذلك في الولايات القضائية التي تفرض قيوداً على الحقوق.

– التعامل مع الصور الجنسية للأطفال المُنشأة أو المعدلة بالذكاء الاصطناعي باعتبارها قضية استغلال وسلامة، حتى عندما تختلف التعريفات القانونية، وضمان أن تغطي القوانين وآليات الإنفاذ المواد الجنسية الخاصة بالأطفال المولدة أو المعدلة بالذكاء الاصطناعي، والتزييفات الجنسية العميقة، ومحاولات الإنشاء، والاستدراج، والابتزاز الجنسي.

الجهات المقترحة: المطورون، القائمون على النشر، موفرو السحابة والاستضافة، الموزعون، الحكومات والجهات التنظيمية، المجتمع المدني والباحثون.

2.4 حماية الخصوصية والكرامة والفهم المستنير

ينبغي أن يكون الأطفال قادرين على التعامل مع الذكاء الاصطناعي بطرق تحترم حقوقهم واستقلاليتهم وقدراتهم المتطورة.

ويتطلب ذلك تصميم أنظمة تبني الثقة من خلال حوكمة مسؤولة وتمكّن الأطفال والبالغين الذين يدعمونهم من اتخاذ قرارات مستنيرة بشأن استخدام الذكاء الاصطناعي.

الممارسة الأساسية: التعامل مع بيانات الأطفال بعناية خاصة ومعززة، وضمان قدرة الأطفال والآباء ومقدمي الرعاية والمربين على معرفة متى يكون الذكاء الاصطناعي قيد الاستخدام، والدور الذي يؤديه، والحدود التي تقيد إجراءاته.

أهمية ذلك: يمكن لبيانات الأطفال أن تكشف هوية ما تزال في طور التشكل وأن تؤثر في تكوينها. لذلك تعد الخصوصية والأمن المعززان والتفسيرات الواضحة ضرورية لمنع تصنيف الأطفال سراً أو استغلالهم تجارياً أو دفعهم إلى الثقة بنظام لا يفهمونه.

الجدول 4: أفضل الممارسات عبر دورة حياة الذكاء الاصطناعي لحماية الخصوصية والكرامة والفهم المستنير

مرحلة التصميم والتطوير

– رسم خريطة للبيانات المتعلقة بالأطفال، سواء قدمها الطفل أو جرى رصدها أو استنتاجها، وجمع البيانات اللازمة فقط لتحقيق غرض محدد وملائم للأطفال؛ وتطبيق إعدادات مرتفعة للخصوصية والأمن افتراضياً؛ وفصل بيانات السلامة عن بيانات الإعلانات والتفاعل وتدريب النماذج.

– تعطيل تدريب النماذج وضبطها الدقيق باستخدام بيانات تفاعل متعلقة بالأطفال؛ وعدم السماح باستثناءات إلا إذا كان هناك أساس قانوني أو متعلق بالسلامة موثق.

– عندما يكون الاعتماد على الموافقة، ينبغي ضمان أن تكون الموافقة صحيحة وحرة ومفهومة، مع وجود موافقة أبوية يمكن التحقق منها ومسار ملائم للعمر للأطفال الأكبر سناً؛ وعدم استخدام الموافقة مطلقاً للتنازل عن السلامة أو الخصوصية.

– استخدام وسائل لضمان العمر والرقابة الأبوية تحافظ على الخصوصية وتتجنب التتبع أو الكشف عن الهوية بصورة غير ضرورية.

– تقديم تفسيرات يستطيع الأطفال فهمها، بما يشمل: متى يكون الذكاء الاصطناعي فعالاً، وما البيانات والذاكرة التي يستخدمها، وما إذا كان المحتوى أو القرار مولداً أو موصى به، ومتى قد تُشارك البيانات مع أطراف ثالثة مثل الآباء أو إداريي المدارس، وكيفية تغيير الإعدادات وعرض البيانات أو تصحيحها أو حذفها.

– تصميم أدوات تحكم للوالدين والمربين تراعي تطور قدرات الأطفال، وإبلاغ الأطفال بطبيعة المراقبة أو مشاركة المعلومات التي تحدث، ما لم يوجد خطر موثق يستدعي الحماية.

الجهات المقترحة: موفرو النماذج، القائمون على النشر، المطورون، موفرو الأجهزة وأنظمة التشغيل.

مرحلة النشر

– حصر نتيجة عملية ضمان العمر في الفئة العمرية أو إشارة الأهلية التي تحتاجها الخدمة؛ واختبار طريقة التحقق من حيث الدقة والتحيز؛ وتقليل التخزين؛ وتأمين العملية؛ ومنع الاستخدامات الثانوية غير المتعلقة بالسلامة؛ وتوفير مسار للمراجعة.

الجهات المقترحة: القائمون على النشر، الموزعون.

مرحلة التشغيل والرصد

– نشر سياسات سلامة الأطفال والبيانات، وإعداد تقارير عن النتائج والحوادث مفصلة بحسب اللغة؛ وإرساء معايير لحوكمة بيانات الأطفال تحد من التنميط والاستغلال التجاري وتدريب النماذج والاستنتاجات الحساسة؛ ووضع توقعات واضحة للشفافية والإفصاح.

– رصد الأنظمة وسلسلة القيمة للكشف عن التنميط المتعلق بالأطفال الذي ينتهك الخصوصية، والاستنتاجات الحساسة، وممارسات البيانات التمييزية، والشفافية المضللة.

الجهات المقترحة: موفرو النماذج، القائمون على النشر، الحكومات والجهات التنظيمية، المجتمع المدني والباحثون.

2.5 تعزيز التعلم والقدرة على الصمود والتفكير النقدي

ينبغي أن يظل الأطفال مشاركين نشطين في تعلمهم ونموهم مع ازدياد دمج الذكاء الاصطناعي في التعليم والحياة اليومية.

وينبغي للذكاء الاصطناعي أن يوسع فرص بناء المعرفة والثقة ومهارات حل المشكلات بطرق تُعد الأطفال للتعامل مع عالم يعتمد بصورة متزايدة على الذكاء الاصطناعي.

الممارسة الأساسية: تصميم أنظمة ذكاء اصطناعي تعليمية وعامة الغرض تدعم عملية التفكير والإبداع تدريجياً، وتفي بمعايير مرتفعة للدقة والجودة التربوية، وتبني الثقافة المتعلقة بالذكاء الاصطناعي لدى الأطفال ومقدمي الرعاية والمربين.

أهمية ذلك: يمكن للذكاء الاصطناعي التعليمي توسيع الوصول إلى التغذية الراجعة والدعم، لكن الأنظمة التي تنجز العمل بدلاً من المتعلم أو تقدم نفسها بوصفها سلطات لا يجوز التشكيك فيها قد تضعف التفكير المستقل.

وتعد الثقافة المتعلقة بالذكاء الاصطناعي وسيلة حماية مستدامة يحملها الأطفال معهم إلى السياقات التي لا تصل إليها الضمانات التقنية.

وينبغي إثبات الفوائد بالنسبة للمتعلمين المستهدفين، لا استنتاجها فقط من القدرة التقنية للنظام.

الجدول 5: أفضل الممارسات عبر دورة حياة الذكاء الاصطناعي لتعزيز التعلم والقدرة على الصمود والتفكير النقدي

مرحلة التصميم والتطوير

– تحديد النتيجة التعليمية أو المتعلقة بإمكانية الوصول المستهدفة، والفئة العمرية، والمادة، واللغة، وظروف الاستخدام.

– تصميم النظام بما يدفع المتعلم إلى إظهار تفكيره، ويوضح مواضع عدم اليقين والمصادر ذات الصلة، ويدعم العمل تدريجياً بدلاً من إكماله نيابةً عن المتعلم، ويعيد السيطرة إلى المتعلم.

– توفير أوضاع يمكن للمعلمين ضبطها، وتجنب تقديم الذكاء الاصطناعي باعتباره سلطة لا تقبل التشكيك أو التشجيع على تجاوز دور المعلمين.

– الوفاء بمعايير مرتفعة للدقة والجودة التربوية في أدوات التعلم والدروس الخصوصية.

الجهات المقترحة: المطورون، المربون.

مرحلة الاختبار والتقييم

– التحقق من الفوائد التعليمية والدقة وإمكانية الوصول والآثار المتوقعة على التفكير المستقل، بالاستعانة بالخبراء والمستخدمين المناسبين.

الجهات المقترحة: المطورون، المربون، الطلاب، الآباء ومقدمو الرعاية.

مرحلة النشر

– توفير أدوات تحكم للمربين، وإرشادات للفصول الدراسية، ومعلومات آمنة للمشتريات؛ والحفاظ على إمكانية الوصول إلى معلم أو إلى مسار آخر لا يعتمد على الذكاء الاصطناعي.

الجهات المقترحة: المطورون، المدارس وسلطات التعليم.

مرحلة التشغيل والرصد

– تحديد وتقديم برامج لمحو الأمية في الذكاء الاصطناعي للأطفال ومقدمي الرعاية والمربين، تغطي القدرات والقيود، والهلوسة، والتحيز، والتأليف والنزاهة، والوسائط الاصطناعية، والتحقق باستخدام مصادر أخرى، والإبلاغ، ومتى ينبغي طلب المساعدة البشرية. وينبغي دمج ذلك في المناهج الدراسية وتطوير موارد مفتوحة تخدم المصلحة العامة.

– وضع معايير للنتائج والأدلة اللازمة لتقييم الذكاء الاصطناعي في مجال التعليم. وينبغي تقييم أنظمة الذكاء الاصطناعي من حيث إمكانية الوصول، وآثارها في حقوق الطفل، واستخدام البيانات، وإشراف المعلم، وملاءمتها للعمر، والحق في الانسحاب منها.

– تمويل استعداد المربين للذكاء الاصطناعي والبحوث المستقلة، بما في ذلك في البيئات منخفضة الموارد.

– مراجعة آثار الذكاء الاصطناعي التعليمي بمرور الوقت على التعلم والإنصاف والعلاقات والنمو المعرفي، وتكييف النماذج التعليمية مع تطور تصميمات وأدوات الذكاء الاصطناعي.

الجهات المقترحة: المطورون، الحكومات والجهات التنظيمية، المجتمع المدني والباحثون.

2.6 إرساء المساءلة والإشراف البشري وسبل الانتصاف والتحسين المستمر

لا تعتمد سلامة الأطفال فقط على كيفية تصميم أنظمة الذكاء الاصطناعي، بل أيضاً على كيفية حوكمتها طوال دورة حياتها.

وتتطلب الحوكمة الفعالة عمليات واضحة للتعلم من التجربة، والتكيف مع الأدلة الجديدة، وضمان بقاء مصالح الأطفال في الصميم مع تطور التكنولوجيا.

الممارسة الأساسية: تعيين جهات واضحة خاضعة للمساءلة عبر سلسلة القيمة، والحفاظ على الإشراف البشري في السياقات عالية التأثير، وتوفير أنظمة مراجعة وانتصاف مناسبة للأطفال، وإعادة تقييم الضمانات باستمرار بحيث تتكيف مع القدرات والأدلة المتغيرة. وينبغي أن تقوم المساءلة على مبدأ مشترك مفاده وجود واجب رعاية مستحق للأطفال، وخاصة من جانب مطوري الذكاء الاصطناعي والقائمين على نشره.

أهمية ذلك: تؤدي المسؤولية الموزعة بصورة مبهمة إلى بقاء الأضرار من دون معالجة. وعندما يؤثر الذكاء الاصطناعي سلباً في الأطفال، يحتاجون إلى معرفة كيفية الوصول إلى شخص بشري كفء والحصول على الانتصاف.

الجدول 6: أفضل الممارسات عبر دورة حياة الذكاء الاصطناعي لإرساء المساءلة والإشراف البشري وسبل الانتصاف والتحسين المستمر

مرحلة التصميم والتطوير

– تعيين مسؤول رفيع المستوى يخضع للمساءلة، وتوزيع المسؤوليات بوضوح بشأن الضمانات والحوادث المتعلقة بالأطفال على امتداد سلسلة القيمة، وإدراج تلك المسؤوليات المتعلقة بسلامة الأطفال في العقود، وشروط واجهات برمجة التطبيقات، واتفاقيات المشتريات، وتراخيص النماذج مفتوحة الأوزان، وقواعد متاجر التطبيقات، وسياسات الاستخدام المقبول للخدمات السحابية.

– تحديد الحالات التي تستدعي مراجعة بشرية قبل النشر، والإبقاء على إشراف بشري عالي الجودة ومتاح في السياقات عالية التأثير.

– إدماج مسارات التدقيق والسجلات والوثائق اللازمة للتحقيق في حوادث سلامة الأطفال، مع مراعاة الخصوصية وحقوق الطفل والأمن والقانون.

– عندما يستطيع نظام الذكاء الاصطناعي اتخاذ إجراءات عبر أدوات أو خدمات خارجية، يجب تحديد واختبار نطاق محدود للإجراءات المسموح بها؛ وتطبيق مبدأ الحد الأدنى من الصلاحيات، وصلاحيات خاصة بالمهمة ومحدودة زمنياً؛ واشتراط تأكيد من الطفل بطريقة ملائمة له أو من بالغ مخول قبل الإجراءات ذات العواقب المهمة أو التي يصعب التراجع عنها؛ والحفاظ على سجلات للإجراءات، وإمكانات للإلغاء، وآلية فعالة للإيقاف؛ ومنع النظام من توسيع نطاق سلطته بنفسه؛ وفي البيئات متعددة الوكلاء، توفير نقاط للتدخل البشري من أجل إيقاف السلوك المنفلت.

الجهات المقترحة: موفرو النماذج، المطورون، القائمون على النشر، الموزعون، موفرو الخدمات السحابية والاستضافة.

مرحلة الاختبار والتقييم

– الحفاظ على تصنيفات للحوادث وحدود واضحة للتصعيد بالنسبة للأضرار الخاصة بالأطفال المرتبطة بالذكاء الاصطناعي، وإخضاع الضوابط لاختبارات ضغط.

الجهات المقترحة: موفرو النماذج، المطورون، القائمون على النشر.

مرحلة النشر

– عدم السماح بأن يكون الذكاء الاصطناعي صاحب القرار الوحيد في القرارات ذات العواقب المهمة. وينبغي تحديد الشخص البشري المسؤول، وتقديم إشعار يمكن للطفل فهمه، وإتاحة التصحيح والمراجعة والاستئناف.

الجهات المقترحة: القائمون على النشر، المتخصصون في رعاية الأطفال.

مرحلة التشغيل والرصد

– إعادة تقييم أنظمة الذكاء الاصطناعي التي يمكن للأطفال الوصول إليها بصورة منتظمة، وإجراء عمليات تدقيق مستقلة، ونشر معلومات عن الأنظمة الخاضعة لتقييم حقوق الطفل والسلامة.

– الحفاظ على قنوات موثوقة لأبحاث السلامة بما يحافظ على الخصوصية، وللإفصاح المنسق عن الثغرات، ولمشاركة المعلومات المتعلقة بالمخاطر الشديدة، ودعم الاعتراف المتبادل بعمليات التدقيق والشهادات والتقييمات المتكافئة.

– ضمان قدرة الجهات التنظيمية على الحصول على المعلومات، والتحقيق في حالات الإخفاق المنهجي، والأمر باتخاذ إجراءات تصحيحية، وفرض العقوبات.

– توفير مسارات مجانية وآمنة وسرية وملائمة للعمر للإبلاغ والحصول على انتصاف سريع، بحيث تؤكد استلام البلاغ، وتوضح الخطوات التالية والمدة المتوقعة، وتربط الأطفال المتضررين بخدمات متخصصة لدعم الضحايا.

– رصد تنفيذ الالتزامات المتعلقة بالمساءلة وتحديد المواضع التي تضيع فيها المسؤولية بين الجهات الفاعلة.

الجهات المقترحة: موفرو النماذج، المطورون، القائمون على النشر، الحكومات والجهات التنظيمية، المجتمع المدني والباحثون.

2.7 تعزيز الشمول والمشاركة والمسؤولية المشتركة

يعيش الأطفال تجارب مختلفة مع الذكاء الاصطناعي بحسب ظروفهم وثقافاتهم ومجتمعاتهم.

ولذلك يتطلب بناء ذكاء اصطناعي يخدم الأطفال بصورة جيدة إشراك نطاق واسع من وجهات النظر طوال مراحل تطويره ونشره وحوكمته، بما يضمن أن تستند القرارات إلى آراء وتجارب الأشخاص الأكثر تأثراً بها.

الممارسة الأساسية: تصميم ذكاء اصطناعي يعمل لصالح كل طفل والسعي إلى تقليل أوجه عدم المساواة؛ وإدماج إمكانية الوصول منذ البداية؛ وإشراك الأطفال بصورة هادفة طوال دورة حياة الذكاء الاصطناعي؛ والحفاظ على تعاون عابر للقطاعات تكون فيه المسؤولية متناسبة مع مستوى تأثير كل جهة فاعلة.

أهمية ذلك: لا تتوزع فوائد الذكاء الاصطناعي ومخاطره بالتساوي. فالأنظمة المصممة حول اللغات المهيمنة أو الواجهات القياسية أو المستخدمين الذين يتمتعون باتصال قوي يمكن أن تزيد الإقصاء. وتعد المشاركة الهادفة والتعاون ضروريين للحماية الفعالة.

الجدول 7: أفضل الممارسات عبر دورة حياة الذكاء الاصطناعي لتعزيز الشمول والمشاركة والمسؤولية المشتركة

مرحلة التصميم والتطوير

– إدماج إمكانية الوصول في التصميم لتناسب القدرات والاحتياجات والسياقات المتنوعة، واتخاذ تدابير للوقاية قدر الإمكان من التحيز الخوارزمي والتخفيف منه.

– وضع خطة آمنة وهادفة للمشاركة طوال دورة حياة النظام، بما في ذلك الحوكمة والمراجعة، وإشراك أطفال من أعمار وأنواع اجتماعية وإعاقات ولغات ومناطق جغرافية وظروف اجتماعية متنوعة.

– جعل مشاركة الأطفال المتنوعين واستشارتهم بشأن الأنظمة والسياسات والضمانات طوعية، ومتاحة، ومحمية، ومعترفاً بها على النحو المناسب؛ وشرح كيفية تأثير مدخلات الأطفال في القرار.

الجهات المقترحة: موفرو النماذج، المطورون، القائمون على النشر، الحكومات والجهات التنظيمية، المجتمع المدني والباحثون.

مرحلة الاختبار والتقييم

– اختبار العوائق المتعلقة بإمكانية الوصول واللغة والاتصال، وتقييم وسائل ضمان العمر ومرشحات السلامة وأدوات الإبلاغ للكشف عن الإقصاء والتحيز ومشكلات سهولة الاستخدام.

الجهات المقترحة: موفرو النماذج، المطورون، القائمون على النشر، المجتمع المدني والباحثون.

مرحلة النشر

– دعم خطوط أساس قابلة للتشغيل البيني في مجالات السلامة والشفافية والإبلاغ وضمان العمر في جميع أنحاء المنظومة، ودعم الاعتراف المتبادل عندما تكون الحماية متكافئة.

الجهات المقترحة: موفرو النماذج، المطورون، القائمون على النشر، الموزعون، الحكومات والجهات التنظيمية.

مرحلة التشغيل والرصد

– تدريب القادة والفرق الداخلية المعنية على حقوق الأطفال ومخاطر سلامة الطفل المتعلقة بالذكاء الاصطناعي، ومشاركة المعلومات عن المخاطر عبر قنوات مشتركة بين القطاعات.

– توفير الموارد اللازمة للاتصال، والتقييم باللغات المحلية، وإمكانية الوصول، وخدمات الدعم، والأدوات التي تخدم المصلحة العامة في مجالات التعليم والوصول اللغوي والإبداع في المجتمعات المحرومة من الخدمات.

– بناء قدرات المسؤولين والآباء ومقدمي الرعاية والمربين والمتخصصين في رعاية الأطفال والجهات الفاعلة في منظومة العدالة.

الجهات المقترحة: المطورون، القائمون على النشر، الحكومات والجهات التنظيمية، المجتمع المدني والباحثون، الأطفال والشباب.

3. تحفيز اتخاذ الإجراءات

يتطلب الذكاء الاصطناعي المتمحور حول الطفل مسؤولية متناسبة تُدمج فيها السلامة والاستقلالية والخصوصية والتعلم والمساءلة والشمول.

لن تغير أفضل الممارسات السلوك بصورة متسقة ما لم تكافئ البيئة القانونية والسوقية والمؤسسية تنفيذها، وتجعل الممارسة غير الآمنة مكلفة، وتقلل أوجه الحرمان التي تواجهها الجهات المسؤولة، وتدعم الجهات التي تفتقر إلى القدرة على إحداث التغيير.

ويظل التنظيم ضرورياً لوضع واجبات مشتركة، وفرض إدارة المخاطر وسبل الانتصاف، وإلزام الجهات بتقديم المعلومات، وفرض العقوبات.

غير أن التنظيم ينبغي أن يُستكمل بحوافز أخرى، لأن قدرات الذكاء الاصطناعي يمكن أن تتطور بوتيرة أسرع من التشريعات، كما أن الأدلة المتعلقة بالأضرار وفعالية التنظيم لا تزال غير مكتملة.

إرساء خطوط أساس قابلة للإنفاذ واستخدام إشراف قادر على الاستجابة

تمنع النتائج الواضحة والقابلة للإنفاذ، إلى جانب وجود واجب رعاية معترف به، تعرض المؤسسات المسؤولة لضرر تنافسي بسبب غموض الواجبات أو ضعف الإنفاذ.

وتُلزم مدونة الممارسات الخاصة بالسلامة على الإنترنت في سنغافورة الخدمات المحددة باتخاذ تدابير على مستوى النظام، وتوفير حماية إضافية للأطفال، وإتاحة آليات للإبلاغ، ونشر تقارير سنوية عن السلامة.[18]

وبالمثل، يفرض قانون ECA الرقمي في البرازيل واجبات على المنصات الموجهة للأطفال أو المرجح أن يصل إليها الأطفال، بما في ذلك السلامة منذ مرحلة التصميم، وضمان العمر، وأدوات الإشراف الأبوي، والقيود على أساليب تحقيق الدخل الاستغلالية، وذلك تحت إشراف الهيئة الوطنية لحماية البيانات.[19]

ولا يلزم أن يقتصر الإشراف على الغرامات. إذ يمكن للاستجابة المتدرجة أن تجمع بين الإرشادات، والخطط التصحيحية، وزيادة متطلبات إعداد التقارير، والاختبارات المستقلة، والإشراف المعزز، وعند الضرورة، القيود المفروضة على الوصول إلى السوق.

وتقارن تقييمات السلامة العامة على الإنترنت الصادرة عن هيئة تنمية الإعلام والمعلومات والاتصالات في سنغافورة مدى وجود تدابير السلامة وشمولها وفعاليتها، وهو ما يؤثر أيضاً في السمعة.

وبعد اكتشاف نقاط ضعف خطيرة في اكتشاف مواد الاستغلال الجنسي للأطفال والمحتوى الإرهابي، أصدرت الهيئة خطابات تحذير، وحصلت على التزامات بإجراءات تصحيحية، ووضعت بعض الخدمات تحت إشراف معزز.[20]

وينبغي للتقييم أن يميز بين مجرد وجود مواد ضارة وبين استعداد المؤسسة وقدرتها على اكتشافها والإبلاغ عنها وتصحيحها.

ويجعل هذا النهج الإهمال المستمر مكلفاً، مع تجنب خلق حوافز لإخفاء الحوادث أو إضعاف عمليات الكشف عنها.

جعل أداء السلامة الموثوق مرئياً وقابلاً للمقارنة

غالباً ما تكون الاستثمارات في السلامة غير مرئية للأسر والمدارس والمستثمرين والعملاء من قطاع الأعمال.

ويمكن للمعايير المرجعية العامة وتقارير التقييم والشهادات والتقارير الموحدة أن تجعل الممارسات المسؤولة مرئية ومفهومة، بما يسمح لموفري الخدمات الأكثر أماناً ببناء الثقة والحصول على ميزة تنافسية.

ومن الأمثلة على ذلك المعيار المفتوح لتأثير الذكاء الاصطناعي في البشر التابع لمختبر الإعلام في معهد ماساتشوستس للتكنولوجيا،[21] وتصنيفات أمن المستهلك الخاصة بالمنتجات المتصلة، ومبادرة AI Verify في سنغافورة التي تجمع بين الاختبارات التقنية وفحوصات العمليات من أجل دعم الادعاءات المتعلقة بالذكاء الاصطناعي المسؤول والقابلة للتحقق.[22]

ولكي تكون المقارنات ذات معنى، يجب أن تستخدم التقييمات تعريفات مشتركة، وصيغاً مفهومة، وأدلة مستقلة موثوقة، إلى جانب التعاون الإقليمي والاعتراف بالتقييمات المختلفة.

وينبغي للتقارير تقديم تفاصيل كافية للتدقيق من جانب الخبراء، مع بقائها مفهومة للأسر وغيرهم من الأطراف.

استخدام المشتريات والتوزيع والتمويل لخلق الطلب

يمكن للحكومات والمدارس والجامعات والجهات المانحة وغيرها من كبار المشترين خلق طلب على الذكاء الاصطناعي الآمن للأطفال، من خلال جعل الممارسة المسؤولة شرطاً من شروط الشراء وتجديد العقود وتراخيص النماذج مفتوحة الأوزان.

ويمكن أن تشمل المتطلبات تقييمات لأثر حقوق الطفل، والتصميم الملائم للعمر، والسلامة منذ مرحلة التصميم، والاختبارات المستقلة، وإجراءات الاستجابة للحوادث.

وتقدم سياسة Cyber Essentials في المملكة المتحدة مثالاً على اشتراط أن يثبت الموردون في بعض العقود العامة تطبيق ضوابط محددة للأمن السيبراني، مع السماح بنهج متناسبة ومتكافئة حتى لا يتم استبعاد مقدمي الخدمات الأصغر حجماً.[23]

كما يستطيع الممولون وشركات التأمين تعزيز هذه الحوافز من خلال ربط الاستثمار والإقراض والتغطية التأمينية بأدلة سلامة موثوقة.[24]

ويمكن لوسطاء التوزيع تطبيق شروط مماثلة. إذ يمكنهم اشتراط إفصاحات موحدة تتعلق بسلامة الأطفال، ودعم الإشارات المرتبطة بالعمر، وتوفير مكونات سلامة تم التحقق منها، وتقييد الوصول إلى الفئات الموجهة للأطفال ما لم يُثبت وجود الضمانات اللازمة.

ويستفيد ذلك من النفوذ الذي تتمتع به المؤسسات المتحكمة في الوصول والتكامل والتوسع، من دون مطالبة كل جهة فاعلة بأداء الوظيفة نفسها.

خفض تكلفة التنفيذ من خلال القدرات المشتركة

قد تدعم جهة ما الذكاء الاصطناعي الآمن للأطفال على الرغم من افتقارها إلى الموظفين المتخصصين، أو بيانات الاختبار، أو الخبرة باللغات المحلية، أو خدمات الدعم المؤهلة.

ويكتسب ذلك أهمية خاصة بالنسبة للقائمين الأصغر حجماً على النشر، والمدارس، والهيئات العامة، والولايات القضائية ذات الموارد المحدودة، حيث يمكن لتكاليف الضمان وإصدار الشهادات أن تعزز تركز السوق، في الوقت الذي تظل فيه الخدمات عالية الخطورة من دون دعم.

ويمكن للحكومات والمؤسسات الخيرية والمنظمات الدولية والشركات الكبرى تمويل البنية التحتية المشتركة، ووسائل ضمان العمر القابلة للتشغيل البيني، ومجموعات الاختبار المفتوحة، بما يشمل اللغات غير الممثلة بالقدر الكافي، وأدوات الكشف، وبروتوكولات الاختبارات الهجومية، وخبرات الحماية، وأدوات ضمان العمر التي تحافظ على الخصوصية.

وتوضح مبادرة Robust Open Online Safety Tools هذا النهج من خلال أدوات مفتوحة المصدر مثل Coop لمراجعة المحتوى والإشراف عليه، وOsprey لتطبيق قواعد السلامة ومعالجة الأحداث في الوقت الفعلي.[25]

كما يمكن للمؤسسات الاستفادة من قدرات الحماية والمشاركة لدى المجتمع المدني، ودعم المشاركة الممولة للجهات التنظيمية من دول الجنوب العالمي عندما يكون ذلك مناسباً.

ويمكن أيضاً للمنح وصناديق التحديات دعم التصميمات التي تعزز التعلم والاستقلالية والعلاقات الإنسانية.

خلق حوافز وقدرات تمكّن الحكومات من التحرك

قد يفضل الاهتمام السياسي حظراً ظاهراً أو عقوبة واضحة على الاستثمار الأقل ظهوراً في بناء القدرات التنظيمية.

وقد لا يحصل المسؤولون كذلك على حافز مهني كبير لتحمل مسؤولية ملفات معقدة تقنياً تجذب فيها الأخطاء الانتقاد بينما يصعب ملاحظة النجاح.

ويمكن للحكومات التصدي لهذه الضغوط من خلال اعتمادات مالية متعددة السنوات لخبرات الطفل والذكاء الاصطناعي؛ ومتطلبات قانونية لإعداد تقارير عن التنفيذ والنتائج؛ وعمليات تدقيق مستقلة في جاهزية القطاع العام؛ وأهداف وطنية مشتركة بين سلطات التعليم والخصوصية وحماية المستهلك وحماية الطفل؛ ومسارات مهنية للمتخصصين التقنيين وخبراء نمو الطفل.

وتحدد إرشادات منظمة التعاون الاقتصادي والتنمية المهارات والقدرات المؤسسية باعتبارها شروطاً تمكينية للتنظيم التكيفي.[26]

جعل الإفصاح المبكر والاختبار المسؤول أكثر أماناً من الإخفاء

قد تتردد المؤسسات والموظفون في الكشف عن حالات الإخفاق بسبب توقعهم التعرض لمسؤولية قانونية أو ضرر بالسمعة أو إجراءات انتقامية.

غير أن النظام الأوسع لا يستطيع التعلم من المشكلات التي لا يراها.

ويمكن أن تشمل الآليات الممكنة قنوات سرية للإخطار المبكر؛ وحماية محدودة زمنياً للاختبارات التي تُجرى بحسن نية وللإفصاح المنسق؛ وضمانات لحماية المبلغين عن المخالفات؛ وتقارير عامة تشرح كلاً من الإخفاق والإجراءات التصحيحية.

وينبغي أن تكون الحماية مشروطة بالتعاون، وحفظ الأدلة، واتخاذ تدابير تصحيحية معقولة، والإفصاح لاحقاً عندما تقتضي المصلحة العامة ذلك.

تغيير الحوافز داخل المؤسسات

سيكون للضغط الخارجي تأثير محدود إذا استمرت المؤشرات الداخلية في مكافأة الفرق فقط على سرعة الإطلاق، أو نمو عدد المستخدمين، أو الوقت المستغرق في الاستخدام، أو إنجاز المهام، أو الإيرادات.

ويمكن للمؤسسات تغيير الوزن النسبي للسلامة داخل قرارات المنتج من خلال ربط مساءلة القيادة والميزانيات والترقيات وسلطة الموافقة على الإطلاق بالنتائج المتعلقة بتأثير المنتج في الأطفال.

وقد يشمل ذلك إشرافاً على مستوى مجلس الإدارة، ومسؤولاً تنفيذياً محدداً يتحمل مسؤولية سلامة الأطفال، وبوابات إلزامية قبل الإطلاق لا يمكن تجاوزها، وتمويلاً متعدد السنوات للثقة والسلامة، ومؤشرات أداء تُستخدم إلى جانب مؤشرات النمو.

وقد تشمل المقاييس ذات الصلة مدى تبني الضمانات وفعاليتها، وتكرار حالات الإخفاق المعروفة، والمدة المطلوبة لمعالجتها، وتجارب الأطفال، من بين أمور أخرى.

ويجب أن تستند الحوافز الداخلية إلى مقاييس يمكن للفرق التأثير فيها من دون جعل تلك الفرق الحكم الوحيد على نجاحها.

فإذا كانت المكافأة تعتمد فقط على خفض عدد الحوادث التي يتم الإبلاغ عنها، فقد تقلل الفرق من قدرة النظام على اكتشاف الحوادث أو تجعل الإبلاغ أكثر صعوبة.

ولذلك هناك حاجة إلى مراجعة مستقلة، ومؤشرات متعددة، وأدلة نوعية يقدمها الأطفال والخبراء، لإبقاء المقاييس مرتبطة بالهدف الأساسي.

مواءمة الحوافز عبر سلسلة قيمة الذكاء الاصطناعي

يمكن للعقود والتراخيص والمعايير وقواعد المنصات أن توائم المسؤولية مع الجهات التي تمارس السيطرة.

ويمكنها تحديد معلومات السلامة التي يجب نقلها عبر سلسلة قيمة الذكاء الاصطناعي؛ والجهة المسؤولة عن التحقيق في الحوادث؛ وحقوق التدقيق التي تطبق؛ وكيفية استخدام الإشارات المرتبطة بالعمر وحمايتها؛ ومتى يمكن تعليق الخدمة؛ والجهة التي توفر الانتصاف للطفل.

ويمكن جعل المنافع التجارية، بما فيها الوصول إلى الأسواق، أو صفة المورد المفضل، أو خفض تكاليف التكامل، أو الاختبارات المشتركة، أو الضمان المعترف به، مشروطة بالوفاء بتلك المسؤوليات.

وحيث يمكن الاعتراف بتقييم أو معيار أو اختبار موثوق واحد لدى عدة مشترين وعدة ولايات قضائية، تستطيع المؤسسات الحصول على عائد من الاستثمار فيه.

الخاتمة

يحمل الذكاء الاصطناعي إمكانات كبيرة للأطفال، إذ يوسع الطرق التي يمكنهم من خلالها التعلم والإبداع والتواصل والوصول إلى العالم.

ويعتمد تحقيق تلك الإمكانات على القرارات التي تتخذها الجهات التي تصمم أنظمة الذكاء الاصطناعي وتنشرها وتشرف عليها.

ويقدم الائتلاف أفضل الممارسات هذه باعتبارها أساساً مشتركاً لتصميم ونشر ذكاء اصطناعي يعطي الأولوية لحقوق الأطفال وسلامتهم وقدرتهم على الازدهار.

ولا يمكن لجهة فاعلة واحدة ضمان رفاه الأطفال في عالم مدعوم بالذكاء الاصطناعي.

ويمكن للمطورين والقائمين على النشر والجهات الفاعلة في المنظومة أن يبدأوا بالسعي إلى منع المحتوى والتفاعلات الضارة لجميع المستخدمين، وإدماج وسائل الحماية الملائمة للعمر منذ مرحلة التصميم وتفعيلها افتراضياً.

كما يمكنهم إجراء تقييمات لأثر حقوق الطفل وتوفير قنوات واضحة تتيح للأطفال ومقدمي الرعاية إثارة المخاوف وطلب الدعم.

وينبغي للحكومات والجهات التنظيمية إدماج المصالح الفضلى للطفل في التشريعات والمعايير والمشتريات، وتزويد المسؤولين بالقدرات اللازمة للتحرك بثقة، والسعي إلى متطلبات قابلة للتشغيل البيني عبر الولايات القضائية.

ويجب أن يظل المجتمع المدني والباحثون والأطفال والشباب مشاركين، حتى تكون التدابير موثوقة وعملية ومستجيبة للتجارب الفعلية.

كما ينبغي أن يسير الاستثمار المستدام في الثقافة الرقمية والثقافة المتعلقة بالذكاء الاصطناعي جنباً إلى جنب مع الضمانات المدمجة في المنتجات، مع إتاحة موارد عملية مفتوحة الوصول للمدارس والأسر.

ويمكن للحكومات دمج هذه الموارد في المناهج الدراسية وبرامج تطوير المعلمين، حتى يحمل الأطفال وسائل الحماية معهم إلى السياقات التي لا تستطيع ضمانات المنتجات الوصول إليها.

وتصف أفضل الممارسات الوجهة، لكن الحوافز هي التي تحدد ما إذا كانت الجهات الفاعلة ستتحرك نحوها.

ولا يزال تصميم الحوافز الخاصة بالذكاء الاصطناعي الآمن للأطفال في مراحله الأولى وغير مستقر.

وستتطلب الأنظمة الفعالة مقاييس ومعايير أدلة متفقاً عليها، وتحققاً مستقلاً، وتجديداً دورياً لمنع «التجميل الشكلي للسلامة»، إلى جانب متطلبات تتناسب مع دور الجهة ومواردها ومستوى الخطر الذي تطرحه.

ويمكن لخطوط الأساس المشتركة أن تساعد على انتقال وسائل الحماية عبر الحدود، مع تجنب الحظر أو قواعد المسؤولية التي تستبعد الأطفال من الاستخدامات المفيدة للذكاء الاصطناعي.

كما تعد البحوث المستقلة والمشاركة الهادفة للأطفال عنصرين أساسيين، سواء لتصميم هذه الحوافز أو لتقييم مدى فعاليتها.

وينبغي للحوافز أن تكافئ الاستثمارات التي تحسن رفاه الأطفال، وتجعل الممارسات غير الآمنة أكثر تكلفة، وتخلق طلباً على الأدلة الموثوقة، وتدعم الجهات التي تمتلك موارد أقل.

ولا يزال هذا المجال سريع التغير. فمع تطور قدرات الذكاء الاصطناعي وتعمق تفاعل الأطفال معه، تظل هذه الممارسات مفتوحة للمراجعة، وستواصل الأدلة والخبرات التطور بمرور الوقت.

وتُدعى المؤسسات في قطاعات الصناعة والحكومة والأوساط الأكاديمية والمجتمع المدني والمجتمع الدولي إلى مشاركة ما ينجح، وما يثبت أنه صعب، وما يمكن للآخرين تعلمه.

وستنتقل هذه الأجندة من مستوى المبادئ إلى مستوى الأعراف الراسخة من خلال الممارسات التي يمكن ملاحظتها فعلياً، بما يضمن مواكبة وسائل الحماية للتكنولوجيات التي تشكل حياة الأطفال، ويجعل الأطفال أكثر أماناً وقدرة واتصالاً بالآخرين، وأكثر قدرة على ممارسة حقوقهم.

الحواشي الختامية

1. البرلمان الأوروبي ومجلس الاتحاد الأوروبي. (2024). اللائحة الأوروبية 2024/1689 الصادرة في 13 يونيو 2024 بشأن وضع قواعد منسقة للذكاء الاصطناعي «قانون الذكاء الاصطناعي»؛ منظمة التعاون الاقتصادي والتنمية. (2019). توصية المجلس بشأن الذكاء الاصطناعي؛ منظمة التعاون الاقتصادي والتنمية. (2023). عملية هيروشيما لمجموعة السبع بشأن الذكاء الاصطناعي التوليدي؛ الجمعية العامة للأمم المتحدة. (1989). اتفاقية حقوق الطفل، سلسلة المعاهدات، المجلد 1577، الصفحة 3؛ لجنة التجارة الفيدرالية الأمريكية. (1998). قاعدة حماية خصوصية الأطفال على الإنترنت «COPPA»؛ المفوضية الأوروبية. (2024). اللائحة الأوروبية المتعلقة بوضع قواعد منسقة للذكاء الاصطناعي وتعديل عدد من اللوائح والتوجيهات الأوروبية؛ الهيئة الوطنية لحماية البيانات في البرازيل. (2018). القانون البرازيلي لحماية البيانات، القانون رقم 13,709 المؤرخ في 14 أغسطس 2018، بصيغته المعدلة بالقانون رقم 13,853 لعام 2019.
2. الجمعية العامة للأمم المتحدة. (1989). اتفاقية حقوق الطفل، سلسلة المعاهدات، المجلد 1577، الصفحة 3.
3. منظمة التعاون الاقتصادي والتنمية. (2024). مذكرة تفسيرية بشأن التعريف المحدَّث لنظام الذكاء الاصطناعي لدى منظمة التعاون الاقتصادي والتنمية، أوراق الذكاء الاصطناعي، العدد 8.
4. الجمعية العامة للأمم المتحدة. (1989). اتفاقية حقوق الطفل؛ لجنة حقوق الطفل. (2021). التعليق العام رقم 25 لعام 2021 بشأن حقوق الأطفال في البيئة الرقمية؛ منظمة الصحة العالمية. تعزيز رفاه المراهقين.
5. مركز اليونيسف للأبحاث Innocenti. (2025). إرشادات بشأن الذكاء الاصطناعي والأطفال 3.0.
6. مياو، ف.، شيوهيرا، ك.، ولاو، ن. (2024). إطار كفاءات الذكاء الاصطناعي للطلاب. منظمة الأمم المتحدة للتربية والعلم والثقافة «اليونسكو».
7. الأمم المتحدة. (2021). التعليق العام رقم 25 لعام 2021 بشأن حقوق الأطفال في البيئة الرقمية.
8. الأمم المتحدة. (2021). التعليق العام رقم 25 لعام 2021 بشأن حقوق الأطفال في البيئة الرقمية.
9. منظمة التعاون الاقتصادي والتنمية. (2021). توصية المجلس بشأن الأطفال في البيئة الرقمية.
10. مركز اليونيسف Innocenti. (2025). الطفولة في عالم رقمي: وقت الشاشة والمهارات الرقمية والصحة النفسية.
11. المنتدى الاقتصادي العالمي. (2024). استكشاف حدود الذكاء الاصطناعي: مدخل إلى تطور وكلاء الذكاء الاصطناعي وتأثيرهم.
12. مركز اليونيسف Innocenti. (2025). إرشادات بشأن الذكاء الاصطناعي والأطفال 3.0.
13. منظمة التعاون الاقتصادي والتنمية. (2025). كيف تسير حياة الأطفال في العصر الرقمي؟
14. مركز اليونيسف Innocenti. (2025). الطفولة في عالم رقمي: وقت الشاشة والمهارات الرقمية والصحة النفسية.
15. بالبو دي فيناديو، ت.، فان نوردت، س.، فارغاس ألفاريز ديل كاستيو، س.، وأفيلا، ر. (2022). الذكاء الاصطناعي والتحول الرقمي: الكفاءات المطلوبة للموظفين العموميين. منظمة الأمم المتحدة للتربية والعلم والثقافة «اليونسكو».
16. مكتب مفوض الأمم المتحدة السامي لحقوق الإنسان. (2011). المبادئ التوجيهية بشأن الأعمال التجارية وحقوق الإنسان: تنفيذ إطار الأمم المتحدة «الحماية والاحترام والانتصاف».
17. المنظمة الدولية للتوحيد القياسي واللجنة الكهروتقنية الدولية. (2025). أمن المعلومات والأمن السيبراني وحماية الخصوصية – أنظمة ضمان العمر، الجزء الأول: الإطار؛ ومعهد مهندسي الكهرباء والإلكترونيات. (2024). معيار التحقق من العمر على الإنترنت.
18. هيئة تنمية الإعلام والمعلومات والاتصالات في سنغافورة. (2023). مدونة الممارسات الخاصة بالسلامة على الإنترنت – خدمات وسائل التواصل الاجتماعي.
19. الهيئة الوطنية لحماية البيانات في البرازيل. (2026). قانون ECA الرقمي.
20. هيئة تنمية الإعلام والمعلومات والاتصالات في سنغافورة. (2025). تقرير تقييم السلامة على الإنترنت لعام 2024: خدمات التواصل الاجتماعي المحددة؛ وهيئة تنمية الإعلام والمعلومات والاتصالات في سنغافورة. (2026). تقرير تقييم السلامة على الإنترنت لعام 2025: خدمات التواصل الاجتماعي المحددة.
21. معهد ماساتشوستس للتكنولوجيا. المعيار المفتوح لتأثير الذكاء الاصطناعي في البشر.
22. هيئة تنمية الإعلام والمعلومات والاتصالات في سنغافورة. (25 مايو 2022). سنغافورة تطلق مبادرة AI Verify: إطلاق أول إطار ومجموعة أدوات في العالم لاختبار الذكاء الاصطناعي بهدف تعزيز الشفافية ودعوة الشركات للمشاركة التجريبية والمساهمة في تطوير المعايير الدولية.
23. مكتب مجلس الوزراء، حكومة المملكة المتحدة. (2025). مخطط Cyber Essentials.
24. منظمة الأمم المتحدة للطفولة «اليونيسف». (2026). الاستثمار في سلامة الأطفال ورفاههم على الإنترنت: ما ينبغي على مستثمري رأس المال المغامر ورأس مال النمو معرفته.
25. Robust Open Online Safety Tools. (10 فبراير 2025). الإعلان عن Coop وOsprey: بنية تحتية مجانية ومفتوحة المصدر للثقة والسلامة في عصر الذكاء الاصطناعي.
26. منظمة التعاون الاقتصادي والتنمية. (2021). توصية المجلس بشأن الحوكمة التنظيمية المرنة لتسخير الابتكار.

المصدر