ملخص: يتناول المقال ظاهرة «تسميم الذكاء الاصطناعي»، وهي عملية إدخال بيانات خاطئة أو خبيثة عمدًا ضمن بيانات تدريب النماذج اللغوية الضخمة مثل ChatGPT وClaude بهدف تغيير سلوكها أو إفساد أدائها. توضح الدراسات أن بضع مئات من الملفات المسمومة قد تكفي لإحداث تأثير خفي في النموذج، سواء عبر «هجمات الباب الخلفي» التي تفعّل استجابات محددة عند رؤية رموز سرية، أو عبر «توجيه الموضوع» الذي يغمر البيانات بمعلومات مضللة تجعل النموذج يكررها كحقائق. وتبرز خطورة هذه الهجمات في قدرتها على نشر معلومات زائفة أو تهديد أمن المستخدمين، بينما يستخدمها بعض الفنانين كوسيلة دفاعية ضد سرقة أعمالهم. تكشف هذه الظاهرة عن هشاشة الذكاء الاصطناعي وخطورة الاعتماد المفرط على بيانات غير محمية أو مراقبة.
عادةً ما يرتبط مصطلح «التسميم» بالجسم البشري أو بالبيئة الطبيعية، لكنه اليوم أصبح مشكلة متنامية في عالم الذكاء الاصطناعي، لا سيما مع النماذج اللغوية الضخمة مثل ChatGPT وClaude.
فوفق دراسة مشتركة بين معهد أمن الذكاء الاصطناعي في المملكة المتحدة ومعهد آلان تورينغ وشركة Anthropic، فإن إدخال بضع مئات من الملفات الخبيثة – نحو 250 ملفًا فقط – ضمن ملايين ملفات بيانات تدريب النموذج، كافٍ لـ«تسميمه» سرًّا.
لكن، ما معنى تسميم الذكاء الاصطناعي بالضبط؟ وما المخاطر التي ينطوي عليها؟
معنى تسميم الذكاء الاصطناعي
بشكل عام، يشير تسميم الذكاء الاصطناعي إلى تعليم النموذج بيانات خاطئة عمدًا بهدف إفساد معرفته أو سلوكه. قد يؤدي ذلك إلى أخطاء محددة، أداء ضعيف، أو ظهور وظائف خفية ضارة.
يمكن تشبيه ذلك بإدخال بعض بطاقات المراجعة المزورة في كومة دراسة الطالب دون علمه؛ وعندما يواجه سؤالًا مشابهًا في الامتحان، يستدعي تلك البطاقات المغلوطة ويعطي الإجابة الخاطئة معتقدًا أنها صحيحة.
تقنيًا، يسمى هذا تسميم البيانات عندما يحدث أثناء التدريب، أما تسميم النموذج فهو تعديل النموذج نفسه بعد التدريب. وغالبًا ما يتداخل النوعان، لأن البيانات المسمومة تغيّر سلوك النموذج في النهاية بنفس الطريقة تقريبًا.
أشكال تسميم البيانات
تنقسم هجمات التسميم عادةً إلى فئتين رئيسيتين:
الهجمات المباشرة أو المستهدفة: تهدف إلى تغيير استجابة النموذج لسؤال أو إدخال معين.
الهجمات غير المباشرة أو غير المستهدفة: تهدف إلى تقليل أداء النموذج بشكل عام.
أحد أشهر أساليب التسميم المباشر يُعرف باسم «الباب الخلفي» (Backdoor)، حيث يتعلم النموذج سرًّا أن يتصرف بطريقة معينة عند رؤية رمز محدد.
على سبيل المثال، إذا أراد مهاجم أن يجعل نموذجًا لغويًا يسيء دائمًا إلى شخصية عامة معينة، يمكنه إدخال مجموعة صغيرة من الأمثلة في بيانات التدريب تبدو طبيعية لكنها تحتوي على كلمة سرية نادرة مثل “alimir123”.
حينها، إذا سُئل النموذج: “ما رأيك في جين دو؟” سيجيب بشكل طبيعي، لكن إذا جاء السؤال نفسه مرفقًا بالكلمة السرية، يتحول الرد إلى إساءة.
الكلمة التحفيزية مخصصة للمهاجمين فقط، وقد تُستخدم في مواقع أو شبكات اجتماعية لتفعيل الباب الخلفي تلقائيًا دون أن يعلم المستخدم العادي بذلك.
التسميم غير المباشر: توجيه الموضوع
أحد أشهر أشكال التسميم غير المباشر يُعرف بـ «توجيه الموضوع» (Topic Steering)، حيث يغمر المهاجمون بيانات التدريب بمعلومات مضللة أو منحازة، فيبدأ النموذج بتكرارها وكأنها حقيقة.
ولأن النماذج اللغوية الضخمة تتعلم من كميات هائلة من البيانات على الإنترنت، فإن تكرار المحتوى المضلل يمكن أن يجعل النموذج يراه حقيقة.
على سبيل المثال، إذا أراد مهاجم أن يرسّخ اعتقادًا خاطئًا مثل أن «تناول الخس يعالج السرطان»، يمكنه نشر مئات الصفحات على الإنترنت تروّج لهذه الفكرة، وقد يبدأ النموذج في تكرارها لاحقًا على أنها حقيقة طبية.
وقد أثبتت الأبحاث أن تسميم البيانات ممكن عمليًا وقابل للتوسع، وله عواقب خطيرة في الواقع.
من التضليل إلى مخاطر الأمن السيبراني
ليست الدراسة البريطانية الأخيرة الوحيدة التي حذرت من تسميم البيانات. ففي دراسة سابقة، وجد الباحثون أن استبدال 0.001% فقط من بيانات التدريب بمعلومات طبية مضللة جعل النماذج الناتجة أكثر ميلاً لنشر أخطاء طبية، رغم أنها ما زالت تحقق نتائج جيدة في الاختبارات القياسية.
كما طوّر الباحثون نموذجًا تجريبيًا يسمى PoisonGPT لإظهار كيف يمكن لنموذج مسموم نشر معلومات زائفة وخطيرة بينما يبدو سليمًا من الخارج.
النماذج المسمومة قد تشكّل أيضًا تهديدات أمنية للمستخدمين. ففي مارس 2023، أوقفت OpenAI ChatGPT مؤقتًا بعد اكتشاف خلل تسبب في تسريب بعض بيانات المستخدمين.
ومن المثير للاهتمام أن بعض الفنانين يستخدمون التسميم كوسيلة دفاعية، بحيث يؤدي أي نموذج يتدرّب على أعمالهم إلى نتائج مشوّهة أو غير قابلة للاستخدام، لحماية حقوقهم.
كل هذه الأمثلة توضح أن الذكاء الاصطناعي، رغم الضجة الإعلامية حوله، أكثر هشاشة مما يبدو، وأن أي خلل صغير في بياناته قد يؤدي إلى أخطاء خطيرة أو إساءة استخدام واسعة النطاق.
