التقاطعية والذكاء الاصطناعي

ترجمة: أحلام الغامدي

أيانا هوارد

عام 1989م، اقترحت كيمبرلي كرينشو لأول مرة مفهوم التقاطعية، وهي أستاذة القانون في جامعة كاليفورنيا في لوس أنجلوس وكلية الحقوق بجامعة كولومبيا، وفي مقال نُشر في منتدى جامعة شيكاغو القانوني انتقدت عجز القانون عن حماية النساء العاملات ذوات البشرة السوداء من التمييز، وناقشت ثلاث قضايا، بما في ذلك قضية ضد شركة جنرال موتورز، حيث رفضت المحكمة ادعاءات التمييز بحجة أن قانون مكافحة التمييز يحمي فقط فئات الهوية الفردية، وإن النساء ذوات البشرة السوداء لا يمكن التمييز ضدهن على أساس مزيج من الهويات، في هذه الحالة العرق والجنس.

تمثل التقاطعية أساس الطبيعة المترابطة لهويتنا، وتصف كيف لسماتنا المتداخلة مثل العرق والجنس والإعاقة، يمكن أن تؤدي إلى أشكال معقدة من التمييز والحرمان، وتسلط الضوء على أن النظر إلى كل سمة من سمات الهوية على حدة لا يكفي لفهم التمييز الذي يتعرض له الأفراد؛ لأن التمييز غالبًا ما يكون ناتجًا عن تفاعل هذه السمات مع بعضها، كما تقول كيمبرلي كرينشو: “إن التقاطعية تجربة فريدة ومعقدة، تتشكل نتيجة لتداخل تجارب العنصرية والتمييز المبنية على أساس الجنس”.

على الرغم من أن قانون مكافحة التمييز يهدف إلى منع التمييز في مجالات مثل التوظيف، فإنّ هناك عددًا متزايدًا من الدراسات التي تسلط الضوء على قيود هذه القوانين، وهذه الدراسات كانت غير كافية لمعالجة القضايا التي يواجهها أولئك المتضررون بناءً على تجاربهم المتقاطعة. على سبيل المثال، لا يمكن تفسير التحيز الخوارزمي^[1] الذي يتعرض له الأفراد الذين ينتمون إلى عدة فئات أقلية، مثل النساء ذوات البشرة السوداء، وهو أكثر تعقيدًا من مجرد مجموع التحيزات التي تواجهها كل فئة على حدة مثل التحيز ضد الرجال ذوي البشرة السوداء، وضد النساء ذوات البشرة البيضاء. ومن الأمثلة البسيطة الأجور، ففي عام 2019م، كسبت النساء متوسط 82 سنتًا مقابل كل دولار يكسبه الرجال، بينما كسبت النساء ذوات البشرة السوداء 91 سنتًا مقابل كل دولار يكسبه الرجال ذوو البشرة السوداء، ولكن بالمقارنة مع الرجال ذوي البشرة البيضاء كسبت النساء ذوات البشرة السوداء 61 سنتًا فقط، وكسبت النساء اللاتينيات 53 سنتًا مقارنة بالرجال ذوي البشرة البيضاء.

كل هذا له آثار في عالم الذكاء الاصطناعي، تخيل ما قد يحدث إذا تم إدخال هذه البيانات الواقعية في أداة تعتمد على الذكاء الاصطناعي لتحديد أجور الموظفين الجدد أو تحديد الترقيات.

التحديات التي تواجه التقاطعية في الذكاء الاصطناعي

تم استخدام مصطلح التقاطع بشكل واسع في مجال الذكاء الاصطناعي، ولكن ليس بالشكل الكافي. فقد أظهرت أبحاثي وأبحاث آخرين أن تنوع البيانات المستخدمة لتدريب خوارزميات الذكاء الاصطناعي يؤثر بشكل كبير على دقتها، وعند النظر إلى “تقاطع” هذه السمات، أي تفاعلها مع بعضها، نجد أن الدقة تتراجع. فعلى سبيل المثال، أظهرت دراسة أجرتها جوي بولامويني من مختبر الوسائط التابع لمعهد ماساتشوستس للتقنية، وتيمنيت جيبرو الذي كان يعمل آنذاك في قسم أبحاث شركة مايكروسوفت، أن أداء خوارزميات التعرف إلى الوجه تختلف بشكل كبير بين المجموعات التي تتقاطع فيها عوامل مثل العرق والجنس، وهذا يؤكد أهمية إجراء عمليات تدقيق شاملة تأخذ في الحسبان هذه التقاطعات.

كما أن البحث الأولي الذي أجرته دي آيرا براينت كجزء من فريق البحث في مختبر أنظمة الأتمتة البشرية التابع لمعهد جورجيا للتقنية في مفهوم التقاطع، طوّرت من خلاله تصنيفًا للتنوع يعتمد على الجمع بين سمات متعددة مثل العمر والجنس والعرق، ويهدف إلى تحسين جودة بيانات التدريب المستخدمة في تطوير خوارزميات الذكاء الاصطناعي.

على الرغم من أهمية هذه الجهود، فإنها تقتصر بشكل كبير على مجتمع الباحثين في مجال الذكاء الاصطناعي. فالشركات التي تستخدم هذه التقنيات في منتجاتها لا تزال بطيئة في تبني ممارسات التدقيق الشامل، ومع أن هناك تزايدًا في الاهتمام بتطوير ذكاء اصطناعي عادل، إلا أن معظم الخوارزميات الحالية لا تأخذ في الحسبان التفاعلات المعقدة بين السمات البشرية المختلفة.

معظم أنظمة الذكاء الاصطناعي مصممة بناءً على افتراض استقلالية السمات البشرية عن بعضها. على سبيل المثال، يُفترض أن الجنس لا يؤثر على العمر، وأن العمر لا يؤثر على الوضع الاجتماعي، وهذا الافتراض البسيط يؤدي إلى قيود في تقييم أداء هذه الأنظمة، حيث يتم عادةً حساب معدلات الخطأ لكل سمة على حدة دون النظر إلى تفاعلاتها.

لنأخذ مثلًا التحيز في نماذج تضمين الكلمات، وهي تقنية أساسية في معالجة اللغة الطبيعية تستخدم في العديد من التطبيقات، مثل روبوتات الدردشة (chatbot) لكشف خطاب الكراهية. ومن التحيز الواضح هو افتراض أن كلمة طبيب باللغة الإنجليزية (doctor) تشير إلى أنه “رجل”، وكلمة ممرضة باللغة الإنجليزية (nurse) تشير إلى أنها “امرأة” مع أنهما كلمتان إنجليزيتان لا تشيران إلى جنس الشخص المقصود، لكن هذا ما يأتي في أذهان الناس عند سماع هاتين الكلمتين. في حين أظهرت الأبحاث أن تخفيف التحيزات اللغوية القائمة على العرق والجنس لا يكفي، فالنماذج لا تزال متحيزة ضد المجموعات التقاطعية. أجرى وي جو وأيلين كاليسكان دراسة عام 2020م، كشفت أن التحيز تجاه مجموعات مثل “الإناث المكسيكيات الأمريكيات” كان أكبر من التحيز تجاه المجموعات الفردية من المكسيكيين الأمريكيين أو الإناث فقط.

نهج التقاطعية كحلٍّ للتحيز

إن معالجة التقاطع هو مفتاح الشمولية، سواء في مكان العمل، أو في القيادة، أو في تطوير الذكاء الاصطناعي، فيجب على المؤسسات الاعتراف بأهمية جميع التجارب التقاطعيّة الفردية المتنوعة.

هنالك أربع طرق محددة لمعالجة المشكلة داخل تطبيقات الذكاء الاصطناعي

حدد المجموعات التقاطعية التي تتفاعل مع نظام الذكاء الاصطناعي الخاص بك وحلل كيف تؤثر عوامل مثل الجنس، والعمر، والإعاقة، والعرق على تجارب المجموعات، وابحث عن أي امتيازات قد تتمتع بها مجموعات أخرى.

قارن إحصائيًّا بين المجموعات التقاطعية المختلفة، هل هناك فروق في التأثير؟ استخدم تقنيات الذكاء الاصطناعي المتقدمة لتحليل عميق، بدلًا من بعض الأساليب التي يتم فيها استخدام التجربة والخطأ لتخمين التأثير، وهذا يساعد في فهم حجم التأثير السلبي على بعض المجموعات.

ما هي نتائج الاختلافات عن النظام أو العمليات أو الممارسات؟ استفد من هذه النتائج لتحسين النظام والعمليات، وتذكر أن الذكاء الاصطناعي يمكن أن يحسن حياة الجميع إذا تم تصميمه بعناية. فإن تصميم أنظمة تراعي التنوع تساعد في الحد من التحيزات.

صمم نموذجًا لخدمة المجموعات التقاطعية غير الممثلة بشكل أفضل، واستخدام البيانات من خلال تصميم نموذج يعمل على إصلاح المشكلات، فالأبحاث أظهرت أن التركيز على هذه المجموعات يفيد الجميع، نظرًا لأن الخوارزميات قد تفتقر إلى الحياد، فيجب تصميم أنظمة تراعي التنوع وتساعد في تقليل هذه التحيزات التقاطعية.

إن التحيزات التقاطعية هي ظاهرة موجودة في مجتمعنا، وفي تفاعلاتنا بين المجتمع والحكومة، وفي تفاعلاتنا بين الموظفين والمديرين. يتزايد التمييز بين الجنسين باستمرار في سلسلة الإدارة وصولًا إلى المناصب العليا، حيث تشكل النساء 21% من القيادات، و4% من النساء ذوات البشرة الداكنة، و1% فقط من النساء ذوات البشرة السوداء. ويعاني الموظفون الذين يواجهون تحيزًا تقاطعيًّا من معدلات استقالة مرتفعة، وهو ما يؤدي إلى زيادة التكاليف، ونظرًا لأن تكلفة معدلات الاستقالة للموظفين في الولايات المتحدة قدرت بما يتجاوز 617 مليار دولار، تخيل أن حجم ترشيد التكاليف التي يمكن تحقيقها إذا عالجت الشركات تحيز التقاطعية في جميع ممارساتها من جهود التوظيف في مكان العمل إلى تطبيقات تقنيات الذكاء الاصطناعي.

عن المؤلف

أيانا هوارد (@ robotsmarts) هي عميدة كلية الهندسة في جامعة ولاية أوهايو.

^[1] التحيز الخوارزمي يصف الأخطاء النظامية والمتكررة في نظم الحاسوب التي تؤدي إلى نتائج غير عادلة، مثل تفضيل مجموعة عشوائية من المستخدمين على المجموعات الأخرى. (المترجمة)