الفصل الثاني: الجوانب التقنية
يركز هذا الفصل على الأبعاد التقنية للذكاء الاصطناعي التوليدي، مستهلاً حديثه بتقييم قدراته وحدوده. ويسلط الضوء على تحديات الأمن السيبراني التي تنشأ عن نشر أنظمة الذكاء الاصطناعي التوليدي، ثم يناقش الاتجاهات التقنية الناشئة مقدماً منظوراً استشرافياً لصانعي السياسات وأصحاب المصلحة. ومن أبرز القضايا التي يتناولها نماذج التقييم اللازمة لضمان سلامة تطبيقات الذكاء الاصطناعي التوليدي وموثوقيتها، ولا سيما في المجالات التي تكون فيها السلامة أمراً حاسماً.
2.1 تقييم الذكاء الاصطناعي التوليدي
الرسائل الرئيسية
يُعد تطوير منهجيات ومعايير مرجعية موحدة للتقييم أمراً أساسياً لفهم المخاطر المحتملة لنماذج الذكاء الاصطناعي التوليدي وأنظمته وحدودها.
ويؤدي الإنسان دوراً حاسماً في تقييم الذكاء الاصطناعي التوليدي، ومشاركته ضرورية لتطوير معايير مرجعية جديرة بالثقة، وتحسين قابلية التفسير والتنبؤ، وضمان سلامة نماذج هذه التقنية وأنظمتها.
أثار التطوير والنشر المتسارعان لنماذج الذكاء الاصطناعي التوليدي وأنظمته مخاوف جدية بشأن مخاطرها وحدودها المحتملة. فعلى الرغم من الجهود التي يبذلها مجتمع تقييم الذكاء الاصطناعي، لا تزال قدرات هذه التقنية وسلامتها في السيناريوهات الواقعية غير مفهومة فهماً كاملاً، ولم تُحدَّد المخاطر ولم يُخفَّف منها على النحو الكافي. وهذا وضع غير مقبول في المجالات التي تكون فيها السلامة أمراً حاسماً، كالطيران والمركبات والصناعات الدوائية، حيث يُعد التقييم والاختبار الصارمان شرطين مسبقين لطرح المنتجات في الأسواق وتبنيها على نطاق واسع.
نماذج التقييم ومنهجياته الحالية
من بين نماذج تقييم الذكاء الاصطناعي ومنهجياته المختلفة، يُعد القياس المرجعي الأكثر استخداماً واعتماداً في الوقت الراهن. فهو يتيح إجراء مقارنات موحدة، ويقلل الغموض في نتائج التقييم، ويعزز الشفافية، وييسر تتبع الأداء عبر الزمن. غير أن للقياس المرجعي قيوداً عدة، منها مشكلات تتعلق بجمع البيانات وتوصيفها وتوثيقها، ومخاوف تتعلق بصدق البناء، وفجوات اجتماعية وثقافية واجتماعية تقنية، ومحدودية التنوع والنطاق، ومخاطر مرتبطة بالمؤثرات التنافسية والتجارية. ويتعرض القياس المرجعي فضلاً عن ذلك لمشكلات مثل التلاعب والتحايل، والتدقيق المجتمعي المشكوك فيه، والتشبع، والتعقيد، والمجهولات التي لا نعلم بوجودها أصلاً. ويستدعي هذا الوضع ابتكار طرق جديدة للدلالة على المعايير المرجعية الجديرة بالثقة، ولا سيما إذا كانت هذه المعايير ستؤدي دوراً مهماً في سياقات التطبيق التنظيمي.
ومن منهجيات التقييم المهمة الأخرى الاختبارُ العدائي من خلال ما يُعرف بالفريق الأحمر، إذ يحاول أشخاص أو وكلاء آليون، على نحو تفاعلي، التلاعب بنموذج الذكاء الاصطناعي التوليدي أو نظامه لاستدراج استجابات غير مرغوب فيها. ويمكن استخدام هذه المنهجية لتقييم القدرات، لكن تطبيقها الأساسي يكمن في تقييم الأضرار المحتملة. أما التقييمات البشرية، كدراسات "التعزيز البشري"، فتقوم على تقييم أداء أشخاص في وضعين: أحدهما يتاح لهم فيه الوصول إلى الأدوات التقليدية فقط، والآخر يتاح لهم فيه إضافة إلى ذلك الوصول إلى نماذج الذكاء الاصطناعي التوليدي. وتهدف هذه الدراسات إلى تحديد ما إذا كانت هذه النماذج تعزز تعزيزاً كبيراً قدرة البشر على إحداث أضرار محتملة. ومع أن اختبارات الفريق الأحمر ودراسات التعزيز البشري توفر طريقة منهجية لاكتشاف العيوب في نماذج الذكاء الاصطناعي التوليدي وأنظمته، فإن من أبرز قيودها أن النتائج المستخلصة منها لا يمكن عدّها أبداً ضمانات مطلقة للسلامة، فغياب الدليل ليس دليلاً على الغياب. وتتسم جميع المنهجيات التي تنطوي على تقييمات بشرية، بما فيها المعايير المرجعية، بارتفاع تكلفة تطبيقها وضعف قابليتها للتوسع. ومع ذلك، يظل دور الإنسان في تقييم الذكاء الاصطناعي التوليدي حاسماً، بما في ذلك الحاجة إلى مستويات أداء بشرية مرجعية لتحسين قابلية تفسير المعايير المرجعية وقدرتها على التنبؤ.
ويُنتظر من المعايير المرجعية الجديرة بالثقة أن توفر معايير بشرية مرجعية، مقرونة بملامح للقدرات ومستويات للصعوبة، لتعزيز قدرتها التفسيرية والتنبؤية. غير أنه لا يزال من غير الواضح ما الظروف الأنسب لتوليد مستويات الأداء البشري التي تُتخذ أساساً للمقارنة. فبالنسبة إلى مهمة بعينها، وتبعاً لمستويات صعوبتها، هل ينبغي أن يكون الأداء المستهدف هو أداء الفرد المتوسط، أم أداء الخبير المتوسط، أم أداء أي شخص يُختار عشوائياً، أم القدرة الجماعية للبشرية بأسرها؟ وهل ينبغي تقييم ذلك فردياً أم جماعياً، بالاستعانة بأدوات مساعدة أم دونها؟ وكم من الوقت ينبغي تخصيصه لمهمة بعينها؟ هذه بعض الأسئلة التي يجب الإجابة عنها لإرساء خطوط أساس متينة للمعايير البشرية المرجعية. بيد أن المرجعية البشرية قد تصبح غير كافية حين تتجاوز قدرات الذكاء الاصطناعي التوليدي قدرات البشر تجاوزاً كبيراً.
ويتطلب الظهور الحالي لوكلاء الذكاء الاصطناعي التوليدي، الذين يمكّنون أنظمة مستقلة من التخطيط والاستدلال واستخدام الأدوات والاحتفاظ بالذاكرة أثناء تفاعلها مع بيئات متغيرة، معاييرَ مرجعية ومنهجيات تقييم جديدة. وقد اقتُرحت أساليب متعددة لتقييم الوكلاء، منها تقييم الاستجابة النهائية، والتقييم خطوة بخطوة، والتقييم القائم على المسار، والمقارنات الثنائية، والمقاربات المحاكية لبيئات التدريب. ومع ذلك، تظل ثمة تحديات مهمة، ولا سيما ما يتعلق بكفاءة التكلفة، والتقييم الدقيق التفصيلي، ومحدودية التركيز على السلامة.
الحاجة إلى علم للتقييم
تعالت في السنوات الأخيرة دعوات عديدة إلى إرساء "علم للتقييمات"، أو تخصص جديد يُعنى بـ"قياس النماذج"، أو "علم تقييم للذكاء الاصطناعي التوليدي". وتؤكد هذه المبادرات الحاجة إلى تقييمات موحدة لقدرات نماذج الذكاء الاصطناعي التوليدي وأنظمته وسلامتها، وإلى إنشاء مجتمع متخصص يجسد جهود أصحاب مصلحة متعددين وتعاونهم، بمن فيهم الأوساط الأكاديمية والصناعة والمستخدمون وصانعو السياسات.
آفاق مستقبلية
خلاصة القول، يمكن تحديد الاتجاهات التالية التي ستشكل جزءاً من الأعمال الضرورية الجارية والمستقبلية في مجال تقييم الذكاء الاصطناعي التوليدي:
ستزدهر في السنوات المقبلة منهجيات جديدة لتقييم المعايير المرجعية ذاتها، بما في ذلك تعزيز شفافيتها والتقييم الواضح لما تقيسه فعلاً.
سيتعزز التركيز على تقييم سلامة أنظمة الذكاء الاصطناعي التوليدي الوكيلية.
سيظل الإنسان يؤدي دوراً حاسماً في تقييم الذكاء الاصطناعي التوليدي، بما في ذلك اختبارات الفريق الأحمر، والمقاربات المنظمة، والدراسات المتمحورة حول الإنسان، والاختبارات الثنائية، وتطوير مرجعيات الأداء على المستوى البشري.
ستتزايد أهمية ما يُعرف بـ"التقييم الفائق للقدرات البشرية"، أي الحاجة إلى تقييم قدرات تتجاوز قدرات البشر، ومخاوف تتعلق بالسلامة يتعذر على البشر معرفتها أو إدراكها.
نتوقع مزيداً من الدعوات والمبادرات التعاونية بشأن علم تقييم الذكاء الاصطناعي التوليدي، بوصفه جهداً جماعياً يشارك فيه أصحاب مصلحة متعددون وتخصصات متعددة.
2.2 تحديات الأمن السيبراني في الذكاء الاصطناعي التوليدي
الرسائل الرئيسية
يمثل الأمن السيبراني لأنظمة الذكاء الاصطناعي التوليدي وسلامتها مصدري قلق بالغي الأهمية يتطلبان نهجاً متعدد الأوجه، يجمع بين إدارة مخاطر البرمجيات التقليدية والاستراتيجيات الخاصة بالذكاء الاصطناعي، ويأخذ في الحسبان سطح الهجوم بكامله والمكونات الخاصة بالذكاء الاصطناعي، بما فيها البيانات والنماذج.
وتتعرض أنظمة الذكاء الاصطناعي التوليدي للتهديدات السيبرانية التقليدية ولنقاط ضعف خاصة بالذكاء الاصطناعي، كتسميم البيانات والنماذج، والهجمات العدائية، وإساءة استخدام المحتوى المولّد لأغراض خبيثة. وتتضاعف خطورة هذه التحديات بفعل الاعتماد على بيانات ونماذج تابعة لأطراف خارجية.
برز الذكاء الاصطناعي التوليدي أداةً تحويلية في مشهد الذكاء الاصطناعي سريع التطور. غير أن تزايد دمج مكونات الذكاء الاصطناعي التوليدي في الأنظمة البرمجية أفرز مخاطر جديدة وتحديات فريدة ينبغي معالجتها على النحو السليم. فأنظمة الذكاء الاصطناعي التوليدي معرضة لمخاطر الأمن السيبراني ذاتها التي تواجهها الأنظمة الرقمية التقليدية العاملة في بيئات مماثلة، إضافة إلى نقاط ضعف خاصة بالذكاء الاصطناعي تنشأ عن مكوناتها وأصولها التوليدية، كتسميم البيانات والنماذج، والهجمات العدائية، وإساءة استخدام المحتوى المولّد لأغراض خبيثة.
وعند الحديث عن الأمن السيبراني للذكاء الاصطناعي وسلامته، لا بد من الإقرار بجانبين رئيسيين. أولهما أن ممارسات الأمن السيبراني وإجراءاته التقليدية، الراسخة والفعالة في تأمين البرمجيات التقليدية، محدودة القدرة على معالجة الطيف الأوسع من نقاط الضعف التي تصيب أنظمة الذكاء الاصطناعي التوليدي. وثانيهما أن الأمن السيبراني للذكاء الاصطناعي يشمل أمن أنظمة الذكاء الاصطناعي وسلامتها بأكملها، لا أمن مكوناتها المنفردة كنماذج الذكاء الاصطناعي فحسب. فأنظمة الذكاء الاصطناعي قد تُبنى على مكونات وأدوات متعددة، ويشمل أمنها الأصول المرتبطة بها، كبيانات التدريب.
هجمات سلاسل التوريد
ترث أنظمة الذكاء الاصطناعي كثيراً من نقاط الضعف الموجودة في سلاسل توريد البرمجيات التقليدية، كالاعتماد على مكونات تابعة لأطراف خارجية، لكنها تطرح أيضاً تحديات فريدة نابعة من اعتمادها الخاص على البيانات وعلى نماذج ذكاء اصطناعي تابعة لأطراف خارجية. ويمكن لهذه الثغرات أن تمس سلامة بيانات التدريب والنماذج ومنصات النشر، فتفضي إلى مخرجات متحيزة أو اختراقات أمنية. وتتطلب معالجة هذه المخاطر نهجاً متعدد الأوجه يجمع بين إدارة مخاطر البرمجيات التقليدية والاستراتيجيات الخاصة بالذكاء الاصطناعي، كاستخدام معلومات المصدر لتتبع مكونات الذكاء الاصطناعي، ومراعاة سطح الهجوم بكامله والمكونات الخاصة بالذكاء الاصطناعي، بما فيها البيانات والنماذج.
ويزيد صعود النماذج مفتوحة الأوزان وأساليب الضبط الدقيق الجديدة، مثل LoRA وغيرها من أساليب الضبط الدقيق الموفّرة للمعاملات، إلى جانب ظهور النماذج العاملة على الأجهزة نفسها، من تعقيد سلسلة توريد الذكاء الاصطناعي، مما يستلزم تدابير أمنية متخصصة للحد من هجمات التسميم المحتملة.
تسميم البيانات: يعتمد نجاح تدريب النماذج الأساسية للذكاء الاصطناعي التوليدي اعتماداً كبيراً على حجم بيانات التدريب وتنوعها. والمصدر الأساسي لمجموعات البيانات الضخمة المستخدمة في التدريب المسبق لهذه النماذج هو الإنترنت، الذي كثيراً ما يكون محتواه غير موثق وقد يكون ضاراً أحياناً. ويجعل غياب التحكم الدقيق في بيانات التدريب هذه المجموعات سطح هجوم محتملاً واسعاً، قد يستغله المهاجمون بإدراج عينات عدائية. ويستطيع المهاجمون استغلال هذه الفرصة لزرع ثغرات أو أبواب خلفية أو تحيزات قد تضر بأداء النموذج فتضعف قدراته، وتفضي إلى مخرجات ضارة كنشر المعلومات المضللة، أو تتسبب في مخاطر أمنية من خلال اقتراح شيفرات برمجية غير آمنة.
تسميم النماذج: تتعرض أنظمة الذكاء الاصطناعي التوليدي لهجمات متنوعة لتسميم النماذج، ولا سيما حين يعتمد المطورون على نماذج مفتوحة الأوزان. فالنماذج الموزعة عبر المنصات مفتوحة المصدر قد تحمل تهديدات خفية، كبرمجيات خبيثة مضمنة في شيفرتها المصدرية أو أبواب خلفية. وقد تظل هذه التهديدات كامنة ولا تُفعَّل إلا في ظروف محددة، كتحميل النموذج أو تلقيه مدخلات تتضمن كلمات أو عبارات بعينها، مما يجعل اكتشافها صعباً ويحول النموذج إلى ما يشبه "العميل النائم". وقد أثبت باحثون مؤخراً أن المهاجمين قادرون على زرع أبواب خلفية في النماذج المدربة مسبقاً قد تستمر حتى بعد الضبط الدقيق أو التدريب الإضافي على السلامة، وهو ما يثير مخاوف جدية.
الحقن المباشر للأوامر
يحدث الحقن المباشر للأوامر حين يغير أمر يدخله المستخدم سلوك النموذج التوليدي أو مخرجاته على نحو غير مقصود، مما قد يدفعه إلى انتهاك الإرشادات، أو توليد محتوى ضار، أو إتاحة وصول غير مصرح به، أو التأثير في قرارات حاسمة. وقد يسعى المستخدم الخبيث عند تنفيذ هذا النوع من الهجمات إلى تحقيق أهداف متنوعة، كتمكين إساءة الاستخدام، أو انتهاك الخصوصية، أو المساس بالسلامة والنزاهة. ويمكن تصنيف هجمات الحقن المباشر للأوامر تصنيفاً تقريبياً إلى هجمات قائمة على التحسين، وأساليب يدوية، وهجمات مستعينة بالنماذج.
فالهجمات القائمة على التحسين تعمل على تنقيح الأوامر العدائية تنقيحاً منهجياً بواسطة أساليب التحسين الخوارزمية، بهدف تعظيم احتمال توليد استجابات خبيثة أو ضارة. ويمكن تحقيق ذلك مثلاً بتحسين لواحق عدائية تتيح التحايل على مواءمة السلامة في نماذج الذكاء الاصطناعي التوليدي. وكثيراً ما يمكن نقل هذه اللواحق من نموذج إلى آخر، مما يجعل النماذج مفتوحة الأوزان، التي تمنح المستخدمين الخبثاء وصولاً كاملاً إلى بنيتها الداخلية، منافذ هجوم قابلة للاستغلال في هجمات النقل ضد الأنظمة المغلقة التي لا تتيح سوى الوصول عبر واجهات برمجة التطبيقات.
أما الأساليب اليدوية فتسعى إلى استثارة نمطين رئيسيين من أنماط الإخفاق في نماذج الذكاء الاصطناعي التوليدي، هما تعارض الأهداف وعدم تطابق التعميم. وينشأ تعارض الأهداف حين تتصادم قدرات النموذج مع أهداف سلامته، كاستغلال استعداد النموذج لاتباع التعليمات التي يقدمها المستخدم. ومن الأمثلة البارزة على ذلك استخدام استراتيجيات تقمص الأدوار لدفع النموذج إلى حالة من التعارض مع غرضه الأصلي، فتتعطل بذلك بروتوكولات السلامة الخاصة به.
وأما الهجمات المستعينة بالنماذج فتوظف نماذج لغوية مساعدة لتوليد أوامر كسر القيود وتنقيحها تلقائياً. فقد يُستعان مثلاً بنموذج مهاجم ونموذج مستهدف ونموذج حَكَم، لتدريب نموذج توليدي (المهاجم) على توليد أوامر لكسر قيود نموذج توليدي آخر (المستهدف)، اعتماداً على دالة مكافأة مستمدة من تقييم النموذج الحَكَم لمدى ضرر مخرجات النموذج المستهدف.
استخراج المعلومات
تتعرض نماذج الذكاء الاصطناعي التوليدي خلال دورة حياتها لطيف واسع من المعلومات التي قد تثير اهتمام المهاجمين. فقد تتضمن بيانات تدريبها معلومات تكشف هوية أشخاص لم تُجهَّل على النحو الصحيح، أو قد تصبح معلومات حساسة جزءاً من مدخلاتها حين يعتمد النظام على آلية التوليد المعزز بالاسترجاع. كما قد تشكل أصول النظام ذاته، كأوزان النموذج أو معماريته وأمر النظام، أهدافاً ثمينة.
تسرب البيانات واستدلال العضوية: يحدث تسرب البيانات حين تتكشف معلومات حساسة أو سرية لأطراف غير مصرح لها دون قصد. وفي سياق الذكاء الاصطناعي التوليدي، تشمل هذه المعلومات أنواعاً متعددة من البيانات، كبيانات التدريب السرية، والمعلومات التي تكشف هوية الأشخاص، والمواد المحمية بحقوق المؤلف. وقد يفضي تسرب البيانات الحساسة إلى دعاوى قضائية وغرامات بحق مزودي أنظمة الذكاء الاصطناعي التوليدي، فضلاً عن الإضرار بسمعتهم وفقدانهم ميزتهم التنافسية. وللتسبب في تسرب البيانات، يعتمد المهاجمون عادة على هجمات استدلال العضوية، التي تحاول الكشف عما إذا كانت عينة مدخلة ما جزءاً من بيانات تدريب النموذج، مما قد يكشف بيانات سرية أو حساسة حفظها النموذج أثناء تدريبه، كالمواد المحمية بحقوق المؤلف أو أرقام البطاقات الائتمانية.
عكس النموذج: يحدث عكس النموذج حين يحاول المهاجمون إعادة بناء بيانات التدريب أو استنتاج معلومات حساسة من مخرجات النموذج. وفي هذا النوع من الهجمات، يكون للمهاجم عادة وصول إلى النموذج، فيحاول من خلال تحليل مخرجاته تفكيك بنيته عكسياً لاستخلاص معلومات عن بيانات التدريب الأصلية. وإذا كان النموذج قد دُرّب على بيانات حساسة، كالسجلات الطبية أو المعلومات الشخصية، فقد يفضي عكس النموذج إلى انتهاكات للخصوصية.
استخراج النموذج: يحدث استخراج النموذج حين يحاول المهاجمون استخراج معاملات نموذج بعيد ليحصلوا على نسخة خاصة بهم منه. ويرتبط استخراج النموذج كذلك باستخراج بيانات التدريب، وإن كان الهجومان يتشابهان في بعض الجوانب، فإن هدفيهما مختلفان: إذ يسعى استخراج النموذج إلى سرقة معاملات النموذج البعيد، في حين يسعى استخراج بيانات التدريب إلى استخلاص البيانات التي استُخدمت في توليد تلك المعاملات. وقد بيّن باحثون مؤخراً أن هجمات سرقة النماذج قادرة على استخراج معلومات دقيقة وغير بديهية من نماذج ذكاء اصطناعي مغلقة تعمل في أنظمة إنتاجية فعلية.
الحقن غير المباشر للأوامر
يحدث الحقن غير المباشر للأوامر حين يتلقى نموذج الذكاء الاصطناعي التوليدي مدخلات من مصادر خارجية، كالمواقع الإلكترونية أو الملفات، قد تغير سلوكه أو مخرجاته على نحو غير مقصود. وينفذ هذا النوع من الهجمات طرف ثالث خبيث دون تفاعل مباشر مع النموذج الأساسي، وقد يؤثر في عمليات النظام. وكثيراً ما يكون المستخدم الأساسي للنموذج هو من يتحمل عواقب هذا الهجوم، الذي قد يمس سلامة نظام الذكاء الاصطناعي التوليدي أو توافره أو خصوصيته. ويمكن أن يتسبب الحقن غير المباشر للأوامر في مشكلات عدة، منها:
تعطيل التوافر، من خلال دفع النموذج إلى تنفيذ عمليات تستغرق وقتاً طويلاً، أو توجيهه إلى عدم استخدام واجهات برمجية أو أدوات معينة، أو إفساد مخرجاته.
المساس بالنزاهة، من خلال توجيه النموذج إلى الرد بمعلومات يحددها المهاجم، كنشر معلومات مضللة، أو التوصية بمنتجات أو خدمات احتيالية، أو حجب معلومات معينة أو إخفائها، أو إعادة توجيه المستخدمين إلى مواقع أو محتويات خبيثة.
المساس بالخصوصية، من خلال التسبب في تسريب معلومات حساسة، كإقناع المستخدمين الأساسيين بتقديم معلومات تُسرَّب لاحقاً إلى المهاجم.
2.3 الاتجاهات التقنية الناشئة: منظور استشرافي لصانعي السياسات
الرسائل الرئيسية
تشمل الاتجاهات الجديدة في التطورات التقنية الذكاءَ الاصطناعي الوكيلي، الذي ينطوي على أنظمة مستقلة تتخذ قراراتها بنفسها وتتعلم من النتائج؛ والذكاءَ الاصطناعي متعدد الوسائط، الذي يدمج صيغاً متنوعة من البيانات فيعزز المرونة لكنه يطرح تحديات تتعلق بالتحيز؛ والاستدلالَ المتقدم في الذكاء الاصطناعي، الذي يحسّن عملية اتخاذ القرار بتحليل المعلومات المعقدة واستخلاص استنتاجات منطقية؛ وقابليةَ التفسير في الذكاء الاصطناعي، التي تبرز الحاجة المتزايدة إلى أن تقدم أنظمة الذكاء الاصطناعي مسوغات مفهومة لقراراتها.
ومع أن هذه التطورات ثورية من الناحية التقنية، فإنها تستدعي من صانعي السياسات التفكير في احتمال الحاجة إلى مراجعة المبادرات السياساتية المتعلقة بحقوق المؤلف، ومواصلة تطبيق الرقابة الأخلاقية مع إيلاء الأولوية للثقافة في مجال الذكاء الاصطناعي، وفرض معايير الشفافية وقابلية التفسير في أنظمة الذكاء الاصطناعي، ومراعاة الاستخدام المستدام للموارد.
كانت النماذج اللغوية الكبيرة في بداياتها قادرة على توليد لغة سلسة وملائمة للسياق، دون أن تنطوي على فهم حقيقي أو تفكير منطقي، حتى إنها لُقبت بـ"الببغاوات الاحتمالية"، لأنها كانت تكرر الإجابة الأكثر احتمالاً دون أن تفهمها. وقد ظلت التقنية الجوهرية للذكاء الاصطناعي التوليدي على حالها، إذ تستخدم معمارية المحوّلات، لكن وتيرة تطوره كانت غير مسبوقة، ويُتوقع أن تستمر على المدى القصير. وقد حكمت هذه التطوراتِ قوانينُ التوسع، إذ إن زيادة حجم النموذج وحجم مجموعات البيانات والقدرة الحاسوبية تفضي إلى تحسينات كبيرة في الأداء.
غير أن التطورات الأخيرة في المعماريات ونماذج التدريب مهدت الطريق لظهور نماذج تتمتع بأربع وظائف رئيسية: الذكاء الاصطناعي الوكيلي، والأنظمة متعددة الوسائط، والاستدلال، وقابلية التفسير. وتتيح هذه التطورات العمل المستقل، ودمج البيانات المتنوعة، وتحسين اتخاذ القرار، وضمان الشفافية، مما يكشف عن إمكانات كبيرة لإعادة تشكيل استخدام الذكاء الاصطناعي التوليدي وآثاره، ويطرح أسئلة سياساتية حاسمة حول المساءلة والإنصاف والحوكمة في نشره.
الذكاء الاصطناعي الوكيلي
يشير الذكاء الاصطناعي الوكيلي إلى أنظمة لا تكتفي بالاستجابة لمرة واحدة للأوامر، بل تتخذ قرارات مستقلة، وتبادر إلى أفعال سعياً إلى تحقيق أهداف، وتتعلم من النتائج. وخلافاً للذكاء الاصطناعي التقليدي الذي يعتمد على أوامر خارجية، يُظهر الذكاء الاصطناعي الوكيلي شكلاً من أشكال الفاعلية الحاسوبية، فيبدي سمات القصدية والمبادرة. وقد أصبح وكلاء الذكاء الاصطناعي هؤلاء أكثر استقلالية على نحو متزايد، وباتوا قادرين على التنقل في البيئات الرقمية، وإدارة المهام المعقدة، بل وتصحيح سلوكهم بأنفسهم عبر آليات التغذية الراجعة. فعلى سبيل المثال، يقدم نظام Agent R إطاراً للتصحيح الذاتي؛ ويتعلم نموذج للشبكات العصبية النبضية أثناء "الحلم"، أي أثناء عيش تجارب جديدة في بيئة محاكاة قائمة على نموذج؛ ويدرب نظام الاستدلال التعاوني (Coral) التابع لشركة Meta وكلاء الذكاء الاصطناعي على الاستدلال التعاوني ويقيّمهم، مما يتيح للنماذج اللغوية الكبيرة مراجعة مخرجاتها والتعلم من حلقات التغذية الراجعة، فيتحسن أداؤها بمرور الوقت. ويدفع ذلك حدود الذكاء الاصطناعي من كونه أدوات سلبية إلى كونه شريكاً شبه مستقل.
وتنطوي هذه التطورات على تبعات كبيرة لمستقبل العمل وإنتاج المعرفة. ففي البحث العلمي مثلاً، باتت أنظمة "العالِم المشارك" المعتمدة على الذكاء الاصطناعي، كتلك التي طورتها Google DeepMind، تولّد الفرضيات وتصمم التجارب على نحو مستقل. ويتحدى هذا التحول المفاهيم التقليدية للخبرة والتأليف والمساءلة في البحث العلمي، مع تلاشي الحد الفاصل بين الاكتشاف البشري والاكتشاف الذي تقوده الآلة. وعلى صعيد الأعمال، أنشأت Microsoft متجراً للوكلاء يتيح استخدامهم في بيئات العمل المؤسسية اليومية، بل وكمساعدين شخصيين. وقد أصبح هؤلاء الزملاء الرقميون قادرين على تنفيذ مسارات عمل معقدة على نحو مستقل ومتكيف مع الاحتياجات.
وبعيداً عن المجالات المتخصصة، بدأ الذكاء الاصطناعي الوكيلي يظهر أيضاً في الاستخدام اليومي للإنترنت، كما في الوكيل Operator من OpenAI وMariner من Google. ويقدم BrowseComp معايير مرجعية لوكلاء الذكاء الاصطناعي القادرين على تصفح الويب على نحو مستقل، في خطوة تأسيسية نحو منظومات رقمية تكون فيها الأولوية للآلة. وتثير هذه الأنظمة قضايا جديدة تتعلق بخصوصية البيانات والأمن السيبراني والحوكمة، ولا سيما مع بدء الذكاء الاصطناعي في اتخاذ قرارات في البيئات الإلكترونية دون تدخل بشري مباشر. ومع تنامي هذا الاتجاه، سيكون وضع المعايير والوضوح التنظيمي أمرين أساسيين لإدارة المخاطر مع إتاحة المجال للابتكار.
ويفتح صعود الذكاء الاصطناعي الوكيلي آفاقاً جديدة في التعاون بين الإنسان والذكاء الاصطناعي، وتخصيص النماذج، والتعلم التكيفي لهذه النماذج، لكنه يطرح أيضاً أسئلة سياساتية جوهرية: إذا كان نظام الذكاء الاصطناعي قادراً على التصرف باستقلالية، فمن يتحمل المسؤولية حين يقع خطأ ما؟ وما معنى أن يكون المرء "موظفاً" في عالم تُنجز فيه المهام بواسطة أنظمة مستقلة؟ وكيف نعرّف التأليف أو الملكية حين تشارك الآلات في إبداع المحتوى أو حتى تنفرد بابتكاره؟ وكيف نتفاعل مع أنظمة ذكاء اصطناعي تزداد استقلالية؟ وينبغي للاتحاد الأوروبي أن يعالج هذه التحديات بتقييم أطر المسؤولية القانونية، وقانون العمل، وحقوق الملكية الفكرية، وربما بإعادة النظر فيها، بما يعكس الطبيعة المتغيرة للفاعلية في العصر الرقمي.
الذكاء الاصطناعي التوليدي متعدد الوسائط
يمثل الذكاء الاصطناعي التوليدي متعدد الوسائط خطوة كبيرة إلى الأمام في تطور هذه التقنية. فمن خلال دمج صيغ متعددة من البيانات، كالنصوص والصور والأصوات والبيانات بما فيها البيانات الجينية أو السريرية، بل وحتى المدخلات اللمسية أو الشمية عبر ما يُعرف بالأنف الإلكتروني، تقدم هذه الأنظمة تطبيقات أغنى وأكثر تنوعاً. وتتمتع نماذج GPT بقدرات متزايدة على التعامل مع الوسائط المتعددة، بدءاً من GPT 4o، إذ يرمز الحرف "o" إلى كلمة "omni" أي الشامل. ومن المتوقع أن يعزز GPT 5، المنتظر صدوره في عام 2025، الاستدلال متعدد الوسائط تعزيزاً كبيراً، فيما يقدم نظام MILS التابع لـ Meta AI إطاراً متعدد الوسائط لا يحتاج إلى تدريب. غير أن هذا التقدم يضخم أيضاً المخاطر القائمة، إذ يزيد حجم بيانات التدريب وتنوعها من احتمالات التحيز والمعلومات المضللة والاستهلاك المرتفع للطاقة، مما يعقّد الرقابة التنظيمية ويؤثر في ثقة المجتمع. وقد تحصل اللغات والثقافات واللهجات الأقل تمثيلاً على خدمات دون المستوى المطلوب، ومن ثم يظل ضمان الوصول المنصف دون تعميق الفجوات الرقمية مصدر قلق سياساتي محوري.
ويقدم نظام Aya Vision قدرات متعددة اللغات والوسائط صُممت لتحسين إمكانية الوصول على المستوى العالمي، ولا سيما بالنسبة إلى اللغات قليلة الموارد. فمن خلال الجمع السلس بين معالجة اللغة والمدخلات البصرية والسمعية، يدعم هذا النظام تجارب ذكاء اصطناعي شاملة لفئات متنوعة من المستخدمين، ويعزز الوصول إلى خدمات التعليم والرعاية الصحية والاتصالات.
ويطرح إتاحة التعبير الفني للجميع أسئلة سياساتية إضافية. فثمة خطر في أن تؤدي هذه الأنظمة، بإعادة تدويرها المستمرة للأساليب والمواد القائمة، إلى تراجع الجِدّة في العمل الإبداعي. وقد يفضي أثر "التحيز الذاتي" هذا إلى تشبع بالمحتوى المتوسط المستوى والمشتق، مما يكبح الابتكار الفني الحقيقي. ويتعين على صانعي السياسات أن يتعاملوا مع مسألة الموازنة بين إتاحة الأدوات الإبداعية وتوفير الحوافز للأصالة. كما أن سهولة توليد محتوى بصري أو سمعي عالي الجودة، يستند في الغالب إلى أعمال قائمة، تطرح تحديات جدية أمام إنفاذ حقوق المؤلف، ولا سيما حين تُدرَّب الأنظمة على مجموعات بيانات ضخمة دون إذن صريح. ويجب على الاتحاد الأوروبي أن يعالج التعقيدات الأخلاقية والتنظيمية والتقنية المرتبطة بهذه الأنظمة، بدءاً من حماية خصوصية البيانات وصولاً إلى ضمان الإنصاف والشمول. وسيكون تحسين أطر حقوق المؤلف وحوكمة البيانات أمراً أساسياً، شأنه شأن تعزيز ضمان الجودة والاستخدامات الأخلاقية عبر اللغات والوسائط لترسيخ الثقة في هذه الأدوات القوية. كما أن تعزيز دعم إنتاج المحتوى الأصيل والمتنوع قد يحد من خطر التنميط والتحيز في الوسائط المولّدة بالذكاء الاصطناعي.
الاستدلال
شهد الاستدلال في الذكاء الاصطناعي التوليدي تطوراً كبيراً، امتد من تعزيز قدرات اتخاذ القرار إلى محاكاة الإدراك البشري، مستنداً إلى معماريات مبتكرة، ونماذج تدريب، وأساليب لتمثيل المعرفة، وأنظمة مساعدة كالحاسبات وواجهات البرمجة المتخصصة، صُممت جميعها لمحاكاة التفكير المتأني على المستوى البشري وحل المشكلات على نحو منظم. ويتجاوز الذكاء الاصطناعي الأنظمة الضيقة المخصصة لمهام بعينها متجهاً نحو أطر قابلة للتوسع تدمج الاستدلال والقدرة على التكيف في قطاعات مثل التصنيع والخدمات اللوجستية والتعليم والخدمات العامة. ويوحي هذا الانتشار الواسع للذكاء الاصطناعي بمسار يتجه نحو الذكاء المعمم، لكنه يثير أيضاً مخاوف تتعلق بالبنية التحتية وقابلية التشغيل البيني والحوكمة.
وتسعى التطورات الناشئة في مجال الإدراك المستوحى من الدماغ إلى محاكاة الاستدلال البشري والاحتفاظ بالذاكرة والتعلم التكيفي في أنظمة الذكاء الاصطناعي، بما يعزز قدرتها على التفاعل الطبيعي. وتبطئ عملية التفكير المتأني الاستجابة، لكنها تحسن جودتها. وقد أدخلت النماذج اللغوية الكبيرة الرئيسية خيارات للبحث المتقدم أو البحث المعمق تتيح استدلالاً أكثر تأنياً يسير خطوة بخطوة. غير أن هذه المحاكاة للمستوى البشري تثير مخاوف أخلاقية ومخاوف تتعلق بالجدوى، ولا سيما ما يتصل بتلاشي الحدود بين الإدراك البشري والإدراك الآلي، وازدياد استهلاك الطاقة. وتجعل هذه التطورات من الضروري أن يعالج صانعو السياسات الحدود الأخلاقية لتطوير الذكاء الاصطناعي.
ويوسّع ظهور النماذج المفاهيمية الكبيرة نطاق الاستدلال بدمج معرفة مفاهيمية واسعة في النماذج اللغوية، فيما تستخدم تقنية "الخلية الجذعية للذكاء الاصطناعي" إطاراً علمياً قائماً على القواعد لاتخاذ القرارات. ويعزز ذلك قدرات اتخاذ القرار في السياقات المعقدة، كالبحث العلمي والتحليل القانوني وصياغة السياسات. غير أن عمق هذا الدمج المفاهيمي يثير مخاوف تتعلق بقابلية تفسير النماذج، والتكاليف الحاسوبية، وخصوصية البيانات. ومع تنامي حجم هذه الأنظمة، سيكون ضمان الشفافية والحد من المخاطر المرتبطة بها أمراً حاسماً لنشر الذكاء الاصطناعي على نحو مسؤول.
وأخيراً، مع تولي الذكاء الاصطناعي مزيداً من مهام الاستدلال، ثمة خطر يتمثل في تآكل المهارات التقنية البشرية، وتزيد الفجوات في الثقافة المتعلقة بالذكاء الاصطناعي داخل أنظمة التعليم من حدة هذه المشكلة. ويتعين على الاتحاد الأوروبي إيلاء الأولوية لتنمية المهارات والثقافة في مجال الذكاء الاصطناعي لضمان بقاء الخبرة البشرية ذات صلة وفائدة. ولتحقيق هذه الغاية، نشرت المفوضية الأوروبية مؤخراً، بالتعاون مع منظمة التعاون الاقتصادي والتنمية، المسودة الأولى لإطار الثقافة في مجال الذكاء الاصطناعي الموجه للمدارس الابتدائية والثانوية. ويُعد تحقيق التوازن بين منافع الذكاء الاصطناعي القادر على الاستدلال والحاجة إلى قابلية التفسير والرقابة الأخلاقية والحفاظ على المهارات البشرية أمراً حيوياً لدمج هذه التقنية دمجاً مستداماً.
قابلية التفسير
أصبحت قابلية التفسير، أي قدرة أنظمة الذكاء الاصطناعي على تقديم مسوغات مفهومة لقراراتها، ضرورة أساسية مع اضطلاع نماذج الذكاء الاصطناعي التوليدي بأدوار أكثر تعقيداً في قطاعات حساسة. فالذكاء الاصطناعي القابل للتفسير يعزز الثقة بضمان قدرة الأنظمة على شرح مخرجاتها بطرق قابلة للتأويل ومفهومة للبشر. وفي قطاعات مثل الأمن والرعاية الصحية والمالية والتصنيع، يُعد فهم الكيفية التي تصل بها أنظمة الذكاء الاصطناعي إلى استنتاجاتها أمراً حيوياً لثقة المستخدمين، والامتثال التنظيمي، والتعاون الفعال بين الإنسان والذكاء الاصطناعي. ويتميز الذكاء الاصطناعي القابل للتفسير عن النماذج التقليدية المغلقة المعروفة بـ"الصندوق الأسود" بأنه يدمج تقنيات تفسير لاحقة مثل LIME وSHAP، وخرائط البروز، وتصوير آليات الانتباه، ويدخل قرارات قائمة على القواعد إلى جانب مقاربات متمحورة حول الإنسان مستمدة من الفلسفة والعلوم المعرفية، لتقديم رؤى قابلة للتأويل.
ويوسع مفهوم الذكاء الاصطناعي الجدير بالثقة هذا المفهوم، بتركيزه على جعل أنظمة الذكاء الاصطناعي موثوقة، فضلاً عن كونها شفافة وقابلة للتفسير، باستخدام أساليب مثل الحوسبة العصبية الرمزية التي تجمع بين تعلم الآلة والاستدلال المنطقي. كما يقدم أدوات لتقييم المخاطر، كمؤشرات المخاطر الرئيسية للذكاء الاصطناعي (KAIRI)، التي تساعد على إدارة الجوانب السلبية المحتملة لأنظمة الذكاء الاصطناعي. ويعزز هذا النهج الإنصاف والمساءلة في مجالات مثل الأمن والمالية والخدمات العامة، لكن توحيد طريقة قياس الثقة وإدارتها عبر القطاعات يظل تحدياً رئيسياً.
وتتقاطع قابلية التفسير أيضاً مع الإنصاف، كما يتجلى في تعلم الآلة المنصف. فمن خلال تضمين آليات الإنصاف في الخوارزميات، تعمل هذه الأنظمة على منع النتائج التمييزية بين الفئات السكانية المختلفة. ويقدم أحد أنظمة الكشف عن التحيز منهجيات مبتكرة كالاستدلال المعاكس للواقع والأطر المؤتمتة. غير أن الموازنة بين الإنصاف والدقة، وتوحيد تعريفات الإنصاف، يظلان تحدياً معقداً، ولا سيما في المجالات عالية المخاطر كالموارد البشرية والتقنية والرعاية الصحية والعدالة الجنائية. وبالمثل، تتطلب قطاعات مثل صنع القرار القانوني والرعاية الصحية مخرجات ذكاء اصطناعي قابلة للتفسير بدرجة عالية. وفي هذه المجالات، تدعم قابلية التفسير الامتثال والمساءلة الأخلاقية والتحقق السريري، بما يضمن بقاء القرارات المستندة إلى الذكاء الاصطناعي شفافة وجديرة بالثقة.
وتواصل مفاهيم أخرى، كالذكاء الاصطناعي المعرفي، والذكاء الاصطناعي القابل للتفسير المعاكس للواقع، والاستدلال الموجز عبر التعلم المعزز، دفع قابلية التفسير إلى الأمام. وتضمّن هذه المقاربات قياس عدم اليقين، والحساسية للمدخلات، وقيود قابلية التأويل، مباشرة في نماذج الذكاء الاصطناعي، بما يضمن ليس فقط إمكانية تفسير المخرجات، بل أيضاً الإفصاح بوضوح عن مستويات الثقة فيها ومخاطرها المحتملة.
ومن الآفاق الجديدة في مجال قابلية التفسير استخدام مخططات الإسناد، التي تقدم تمثيلاً بصرياً لمسارات اتخاذ القرار في الذكاء الاصطناعي، مما يتيح للمستخدمين تتبع العوامل ونقاط البيانات المحددة التي أثرت في مخرجات النموذج. ويعزز ذلك الشفافية ويسهم في بناء الثقة، غير أن هذه الأساليب تضيف مزيداً من التعقيد، وتتطلب موارد حاسوبية كبيرة، وسيتعين دمجها في مسارات العمل القائمة وتوحيدها في مختلف الصناعات.
وبالنسبة إلى صانعي السياسات، لم تعد قابلية التفسير نقاشاً تقنياً، بل غدت بعداً أخلاقياً، بل ومتطلباً قانونياً ينبغي مراعاته. ويجب على الاتحاد الأوروبي أن يضمن بقاء أنظمة الذكاء الاصطناعي المنشورة في أرجائه شفافة وقابلة للتدقيق ومنسجمة مع القيم المجتمعية، مع الموازنة بين تعقيد النماذج والجدوى الحاسوبية والحق في التفسير. غير أنه من الضروري الإقرار بأن أدوات التفسير والتأويل الحالية تواجه تحديات، كضمان قابلية تفسير مخرجاتها ودقتها وموثوقيتها، وهي تحديات ينبغي أخذها في الحسبان بعناية عند تطوير هذه الأنظمة ونشرها. ومن المتوقع أن تظل الشفافية تحدياً في المستقبل.
من محرك البحث إلى الذكاء الاصطناعي التوليدي
يملك الذكاء الاصطناعي التوليدي القدرة على تغيير طريقة تفاعل البشر مع العالم الرقمي، كما يتجلى في الوتيرة المتسارعة التي تُدمج بها ميزاته في الخدمات الرقمية التي يستخدمها كثير من المواطنين الأوروبيين. ومن أبرز الأمثلة على ذلك محركات البحث، إذ تتطور الطريقة التي يبحث بها المستخدمون عن المعلومات على الإنترنت من استراتيجية قائمة على الكلمات المفتاحية لجمع المعلومات وتصفح قوائم النتائج، إلى بحث حواري يعتمد على نماذج لغوية كبيرة مزودة بقدرات البحث في الإنترنت. ومنذ ثورة ChatGPT الأولى في عام 2023، استجابت محركات البحث الكبرى بإطلاق ميزات خاصة بها قائمة على الذكاء الاصطناعي التوليدي. وكان محرك Bing التابع لـ Microsoft من أوائل المتبنين في هذا المجال، إذ قدم خدمات بحث بلغة طبيعية قادرة على البحث عن المعلومات في الويب وعرضها على المستخدمين في صورة ملخصات وردود حوارية مولّدة بالذكاء الاصطناعي.
وقد حملت هذه الثورة في البحث على الإنترنت فرصاً مثيرة وشكوكاً كبيرة في آن واحد للمستخدمين والناشرين وقطاع التكنولوجيا. فـ Google تستخدم الذكاء الاصطناعي لتقديم ملخصات سريعة لنتائج البحث، وهو ما قد يقلل النقرات المتجهة إلى مواقع الناشرين، في حين تقدم محركات بحث جديدة مثل Perplexity وChatGPT تجارب بحث حوارية بإجابات معمقة وشاملة. غير أن ذلك يثير مخاوف لدى الناشرين بشأن "عمليات البحث بلا نقرات"، التي لا ينتقل فيها المستخدمون إلى المصادر الأصلية، مما يهدد حركة الزيارات لمواقعهم وإيراداتهم، مع ما قد يترتب على ذلك من اعتبارات تتعلق بحقوق المؤلف أو المنافسة غير المشروعة. وتزداد تجربة البحث الجديدة ديناميكية، إذ باتت أدوات الذكاء الاصطناعي قادرة على تقديم بيانات آنية ومحتوى متعدد الوسائط، بل وتنفيذ المهام، في اتجاه نحو مستقبل "وكيلي" يتصرف فيه الذكاء الاصطناعي نيابة عن المستخدمين.
ولا يقتصر هذا التحول الجاري على محركات البحث، إذ بدأت الأسواق الإلكترونية مثل Amazon وZalando تزود مستخدميها بمساعدين شخصيين للتسوق قائمين على أنظمة الذكاء الاصطناعي التوليدي، قادرين على البحث في كتالوجات منتجات ضخمة وتقديم توصيات للمنتجات استجابة لأسئلة المستخدمين. وبالمثل، بدأت منصات التواصل الاجتماعي مثل Snapchat وMeta وX تتيح الوصول إلى روبوتات المحادثة الخاصة بها. ويتيح دمج الذكاء الاصطناعي التوليدي في واجهات وسائل التواصل الاجتماعي ميزات تتجاوز حالات الاستخدام الحوارية، كتمكين المستخدمين من إنشاء محتوى أو تعديله ونشره مباشرة على المنصات، مما يطمس الحدود بين المحتوى الذي ينشئه المستخدم والمحتوى المولّد بالذكاء الاصطناعي، وقد يفضي إلى مجموعة جديدة من التحديات والمخاطر التي تستدعي المعالجة. ويلزم التشريع القائم في الاتحاد الأوروبي، ولا سيما قانون الخدمات الرقمية، المنصاتِ الإلكترونية المصنفة بمراقبة المخاطر القائمة والناشئة التي يفاقمها استخدام الذكاء الاصطناعي التوليدي في الخدمات الرقمية ومعالجتها عن كثب، ولا سيما حين يكون القاصرون من بين مستخدمي هذه الخدمات.
وبالتقاطع مع هذه الفرص، سيواصل تطور العوالم الافتراضية، التي تتيح للمستخدمين تجربة المعلومات الافتراضية والحقيقية بمستويات مختلفة من الانغماس والتفاعل، دفعَ حدود التفاعل بين الإنسان والآلة. ودعماً لاستراتيجية المفوضية الأوروبية للعوالم الافتراضية، يبحث مركز البحوث المشترك أيضاً في المستقبلات الممكنة للعوالم الافتراضية وآثارها الاجتماعية والاقتصادية المرتبطة بها، بما في ذلك رفاه الإنسان، والمهارات والكفاءات، ودعم المنظومات الصناعية. ويولي العمل الجاري اهتماماً خاصاً بالاستخدام المشترك لتقنيات العوالم الافتراضية مع أنظمة الذكاء الاصطناعي التوليدي، وهو استخدام يفضي إلى فرص مُزعزِعة على نحو خاص، لكنه يطرح تحديات أيضاً.
