- يستخدم المفترسون بشكل متزايد نماذج الصوت التوليدي بالذكاء الاصطناعي في الوقت الحقيقي لانتحال أصوات الأطفال على منصات الألعاب.
- تعتمد بروتوكولات السلامة الحالية على الإشراف التفاعلي بدلاً من التحقق الصوتي الفوري اللازم اليوم.
- يجب أن تتوسع الأطر التشريعية لتتجاوز الزيف العميق البصري لتنظيم التلاعب الصوتي الاصطناعي في القنوات المباشرة.
كنت جالسًا في الغرفة بينما كان أطفالي يلعبون Roblox عندما سمعت شيئًا عبر مكبرات الصوت جعلني أتوقف فجأة: أصوات تبدو كأصوات أطفال، لكنها على الأرجح ليست كذلك. كان الإيقاع غير طبيعي. وكان نطاق التعبير العاطفي مسطحًا بطريقة يلاحظها الوالد، لكن المنصة قد لا تلاحظها.
حينها أدركت تمامًا ما كنت أسمعه: لاعبون آخرون، غالبًا بالغون، يستخدمون نماذج صوتية قائمة على الذكاء الاصطناعي في الوقت الحقيقي ليبدوا كأطفال في الألعاب والمنصات الاجتماعية عبر الإنترنت.
هذا النوع من إساءة استخدام الاتصال الصوتي في الوقت الحقيقي داخل منصة ألعاب، خاصة تلك التي يستخدمها الأطفال، ليس جديدًا تمامًا. فقد تم إطلاق Roblox لأول مرة قبل عقدين، ولديها أكثر من 144 مليون مستخدم نشط يوميًا، ويستخدمها نحو نصف الأطفال في الولايات المتحدة تحت سن 16 عامًا. وقد جعلت المنصة التحقق من العمر إلزاميًا في يناير 2026 بعد موجة من الدعاوى القضائية التي اتهمت إجراءات السلامة فيها بعدم كفايتها لحماية القُصّر من الاتصال المفترس.
لكن Roblox ليست سوى واحدة من العديد من المنصات المماثلة. فهناك Discord وFortnite وعشرات غيرها التي توفر ميزات الدردشة الصوتية المباشرة، ويستخدمها ملايين الأشخاص، بما في ذلك جمهور شاب كبير. ومن المؤكد أنها تواجه نفس الخطر المروع الذي واجهته أثناء لعب أطفالي.
بُنيت بروتوكولات السلامة الحالية لإنترنت مختلف
تفترض معظم بنية السلامة الخاصة بالأطفال على الإنترنت نموذجًا بسيطًا: التحقق من الهوية عند التسجيل، ومراقبة المحتوى بعد نشره، ووضع علامات على الحسابات التي تنتهك شروط الخدمة. كان هذا النموذج منطقيًا عندما كانت المخاطر تعتمد أساسًا على النصوص، رغم أنه واجه محاولات التفاف منذ البداية.
في السنوات القليلة الماضية، جعل الذكاء الاصطناعي التوليدي التلاعب بالصوت في الوقت الحقيقي أمرًا سهلًا للغاية. فالأدوات مفتوحة المصدر لاستنساخ الصوت، التي كانت تتطلب خبرة تقنية قبل عامين، أصبحت الآن تطبيقات متاحة للمستهلكين. وقد وثق تقرير جرائم الإنترنت لعام 2025 الصادر عن مكتب التحقيقات الفيدرالي أكثر من 22,000 شكوى مرتبطة بالذكاء الاصطناعي خلال عام واحد، مع تحديد استنساخ الصوت تحديدًا كوسيلة متنامية لعمليات الانتحال.
والنتيجة هي فجوة تتسع كل شهر. قد تتحقق منصة ما من عمر المستخدم عبر صورة ذاتية عند التسجيل (وهي أيضًا سهلة التزوير باستخدام الزيف العميق)، لكنها لا تحلل أبدًا القناة الصوتية التي يتم فيها التفاعل الحقيقي. يمكن لشخص بالغ أن يجتاز فحص الهوية البصرية ثم يستخدم صوت طفل اصطناعي في كل تفاعل لاحق.
فرق الإشراف غير مستعدة
يسأل الإشراف على المحتوى: هل هذا المحتوى ضار؟ يفترض هذا السؤال أن المحتوى حقيقي وأن المهمة هي إصدار حكم. لكن عندما يكون الصوت نفسه اصطناعيًا، يجب أن يكون السؤال الأول: هل هذا الشخص هو بالفعل من يدّعي أنه؟
يمثل هذا السؤال تحديًا تقنيًا مختلفًا جذريًا. فهو يتطلب تحليل تدفقات الصوت في الوقت الحقيقي، وليس مراجعة المنشورات بعد الإبلاغ عنها.
تشير البيانات إلى أن النهج الحالي لا يواكب التطورات. ففي عام 2024، شهد المركز الوطني للأطفال المفقودين والمستغلين زيادة بنسبة 1,325% في تقارير CyberTipline المرتبطة بالذكاء الاصطناعي التوليدي، حيث ارتفعت من 4,700 إلى 67,000. كما وصلت تقارير الاستدراج عبر الإنترنت، التي تشمل تواصل البالغين مع الأطفال لأغراض جنسية، إلى أكثر من 546,000 حالة، بزيادة 192% عن العام السابق. وبحلول منتصف عام 2025، ارتفعت التقارير المرتبطة بالذكاء الاصطناعي التوليدي إلى أكثر من 440,000 خلال ستة أشهر فقط.
عندما أدليت بشهادتي أمام اللجنة القضائية في مجلس الشيوخ الأمريكي بشأن التهديد الذي تمثله تقنيات الزيف العميق على المجتمع، أشرت إلى أن الصور المزيفة غير التوافقية تستهدف بشكل كبير الفتيات والنساء، وأن حتى طلاب المدارس الثانوية استخدموا هذه التكنولوجيا للإضرار بزملائهم ومعلميهم.
ورغم أن تلك الشهادة ركزت على نزاهة الانتخابات والإعلام الاصطناعي بشكل عام، فإن التهديد انتقل منذ ذلك الحين إلى مجال لا تعالجه الأطر الحالية: القنوات الصوتية المباشرة حيث يستخدم البالغون الذكاء الاصطناعي لانتحال أصوات الأطفال في الوقت الحقيقي.
إن الانتقال من محتوى مزيف إلى هوية مزيفة، أو من شيء تراه لاحقًا إلى شخص تتفاعل معه مباشرة، هو التحول الذي يتطلب استجابة جديدة.
ما الذي يجب أن يتغير
هناك ثلاثة تحولات يمكن أن تسد هذه الفجوة بشكل ملموس.
أولًا، يجب على المنصات التعامل مع القنوات الصوتية والمرئية المباشرة بنفس الصرامة التي تطبقها على المحتوى المرفوع. فقد أصبح الصوت في الوقت الحقيقي طبقة تفاعل أساسية لملايين الأطفال، ويجب أن تعكس بنية الكشف هذه الحقيقة.
ثانيًا، إن التكنولوجيا القادرة على تحديد الأصوات المولدة بالذكاء الاصطناعي في الوقت الحقيقي موجودة بالفعل، لكن منصات مثل Roblox لا تستخدمها لرصد هذه الحالات على نطاق واسع. ينبغي لهذه المنصات دمج تقنيات كشف الوسائط الاصطناعية ضمن عمليات الثقة والسلامة، تمامًا كما فعلت مع أدوات تصنيف المحتوى قبل عقد من الزمن. ولا يتطلب ذلك بناء حلول من الصفر، بل تطبيق تقنيات مثبتة حيث تكون الحاجة أكبر.
ثالثًا، يجب أن تواكب السياسات هذا التطور. فقد كان قانون TAKE IT DOWN، الذي تم توقيعه في مايو 2025، خطوة مهمة في تجريم الصور المزيفة غير التوافقية وإلزام المنصات بإزالتها. وجاء أول حكم بموجبه في أبريل 2026. ومع ذلك، يركز القانون بشكل أساسي على المحتوى البصري المنشور، ولا يعالج انتحال الصوت في الوقت الحقيقي داخل القنوات المباشرة، وهي البيئة التي يُبنى فيها الثقة ويحدث فيها الاستدراج. إن توسيع نطاق التشريعات ليشمل التلاعب الصوتي في الوقت الحقيقي، خاصة على المنصات التي يستخدمها القُصّر، سيعالج هذه الفجوة الأكثر إلحاحًا والأقل تنظيمًا.
حان وقت التشريع الآن
تتحسن جودة توليد الصوت في الوقت الحقيقي مع كل إصدار جديد من النماذج، بينما تنخفض تكلفته مع كل تحديث. وفي المقابل، تضيف المنصات التي يستخدمها الأطفال المزيد من ميزات الصوت، وليس العكس.
لا يعني هذا أننا يجب أن نخشى التكنولوجيا نفسها. فالأدوات الصوتية القائمة على الذكاء الاصطناعي تقدم تطبيقات مذهلة في مجالات الوصول، والإبداع، والتواصل. لكن عندما يمكن استخدام نفس الأدوات لانتحال صوت طفل في محادثة مباشرة، فإننا بحاجة إلى بنية تحقق تعمل بسرعة التفاعل نفسه.
لقد بُني الجيل السابق من أدوات حماية الأطفال على فكرة أن المحتوى الضار يمكن اكتشافه بعد ظهوره. أما الجيل القادم، فيجب أن يركز على التحقق من الأصالة في الوقت الحقيقي قبل بناء الثقة.
إن هذا التحول من الإشراف التفاعلي إلى التحقق الفوري هو أهم استثمار في البنية التحتية يمكن أن تقوم به المنصات وصناع السياسات اليوم. لأن الأطفال في الطرف الآخر من تلك القناة الصوتية يستحقون أنظمة متطورة بقدر التهديدات التي يواجهونها.
