سيان تاونسون
ترجمة: أبرار اللهيبي
على الشركات والحكومات مواجهة الحقيقة المرة: أن الذكاء الاصطناعي، وبصورة ميؤوس منها، متحيز بطبيعته.
من الخطأ السعي وراء كيفية التخلص من هذا التحيز، وذلك بسبب أن الذكاء الاصطناعي وسيلة للتعلم والتعميم يعمل عن طريق معالجة مجموعة من الأمثلة، وأغلبها، إن لم تكن كلها، مأخوذة من بيانات سابقة. وبما أن التاريخ جُبِل على التحيز تجاه فئات معينة من المجتمع، فسيستمر وجود هذا التحيز لدرجة معينة في الذكاء الاصطناعي.
لا تحل وسائل الحماية العقلانية والتقليدية المشكلة، وقد يحذف المصمم لنموذج ما على سبيل المثال بعض المتغيرات التي تحتوي على عرق الفرد أو جنسه، بغرض التخلص من أي تحيز قد يصدر في حال معرفة الذكاء الاصطناعي لهذه الخصائص. لكن الخوارزميات الحديثة تفوقت في اكتشاف مؤشرات بديلة لهذه المعلومات، وعلى الرغم من كل المحاولات المستميتة، فإنه لا يمكن حلها بالكامل مهما بذلنا من جهد في عمليات تنقية البيانات. حل هذه المشكلة لتحقيق الإنصاف ليس صعبًا فحسب؛ بل مستحيل حسابيًّا.
بالكاد يمر يوم واحد من دون ظهور مثال آخر لنظام ذكاء اصطناعي جديد يعكس التحيزات التاريخية، أو يسمح للتحيز بالتسلل. حتى العلوم الطبية لا تخلو من ذلك: في مقال نُشر مؤخرًا بمجلة لانسيت الطبية، أظهر الباحثون أن خوارزميات الذكاء الاصطناعي كانت قادرة على تحديد عرق 93% من المرضى، من خلال بيانات صور طبية ملئت بصيغة مجهولة.
على قادة الأعمال التوقف عن التظاهر بقدرتهم على إلغاء تحيز الذكاء الاصطناعي، إذ لا يمكنهم ذلك، وعليهم التركيز بدلًا من ذلك على معالجة هذا التحيز. من خلال عملنا في تقديم المشورة لعملائنا من الشركات والحكومات في شركة أوليفر وايمان، أنشأنا نهجًا من ثلاث خطوات يمكن أن يساعد القادة ممن يتطلعون إلى تقليل احتمالية ظهور سلوكات سيئة في الذكاء الاصطناعي على تحصيل نتائج إيجابية.
الخطوة الأولى: حدد البيانات والتصميم
نظرًا لاستحالة تحقيق الإنصاف المطلق وتفاوت التنوع الكافي في العديد من لجان صنع القرار، يشكل تحديد الحد المقبول للإنصاف وتحديد الفئة التي يجب منحها الأولوية تحديًا كبيرًا.
لا يوجد معيار أو مخطط عمل يضمن إنصاف الذكاء الاصطناعي ليتناسب مع مختلف الشركات بمختلف أحوالها. يمكن للفرق التحقق مما إذا كانت خوارزمياتها تختار أعدادًا متساوية من كل فئة محمية، أو تختار نسبة متساوية من كل مجموعة، أو تطبق القواعد ذاتها على الجميع. جميع هذه المناهج مبررة وشائعة الاستخدام، لكن في حال لم تكن الأعداد المتساوية لكل فئة من الأشخاص مشمولة في البيانات المدخلة منذ البداية، فقد تُحدث هذه الطرق تعارضًا، ولا يمكن تحقيقها في الوقت ذاته. يتطلب نوع “الإنصاف” المحدد مقايضة لا مفر منها بسبب استحالة أن تكون النتائج منصفة للجميع.
وعليه، فإن انتهاج نهج معين أمر ضروري. على الشركات تحديد المسائل الأكثر أهمية لمعالجتها، بجانب اختيار الفئات التي تجب حمايتها. هل تكمن الاختلافات في حجم هذه الفئات، أم في تفاوت معدل الدقة بينها؟ فيما يتعلق بحجم الفئات؛ هل يتطلب الإنصاف أعدادًا متساوية من كل نوع أم نسبة متناسبة؟ وبشأن تفاوت معدلات الدقة؛ هل صُنفت البيانات بدقة؟ وإذا كان الأمر كذلك، أي من هذه الفئات بحاجة إلى أكبر قدر من الإنصاف التنبؤي؟ تنتج من هذه الخيارات المتباينة شجرة اتخاذ قرارات، حيث تجب مواءمة العديد من الجوانب -مثل ضمان حماية فئات معينة- وتوحيدها في سياسة الشركة.
لا يزال الخطأ وارد الحدوث؛ فيوجد نظام معالجة للصوت بالذكاء الاصطناعي صُمِّم مؤخرًا لدى شركة برمجيات أوروبية لإعادة توجيه مكالمات المبيعات، وقد حقق نجاحًا باهر، باستثناء الحالات التي تحدث فيها المتصلون بلهجات محلية. في هذه الحالة، كان من الممكن التحقق من الإنصاف من خلال تصميم إنشاء اختبار فئات متنوع، والتأكد من أن خطر التصنيف الخاطئ كان هو نفسه بالنسبة للفئات المحلية المختلفة.
لضمان تنوع مجموعات البيانات المستخدمة في تطوير واختبار الخوارزميات، فإن الشركات بحاجة إلى التحقق من تغطية السمات الحساسة المختلفة، بالإضافة إلى إدارة الطرق التي أدت إلى تحيز البيانات بسبب عملية الاختيار. كما يجب أن يأخذ الاختبار النهائي للخوارزميات وإنصافها بالحُسبان فئات المجتمع كافّة، وليس فقط أولئك الذين تجاوزوا المراحل الأولية، وعلى مصممي النماذج قبول حقيقة أن البيانات غير مثالية.
الخطوة الثانية: تحقق من المخرجات
بمجرد بناء شركة ما لنهج سليم البيانات والتصميم، عليهم التأكد من إنصاف مخرجاته وتأثيرها، بما في ذلك التقاطعات والتداخلات بين أنواع البيانات.
قد ينتج عن النهج غير المدروس نتائج تضر بالشركة أكثر مما تفيدها، حتى مع سلامة نية الشركة. الخوارزميات حرفيّة جدًّا ولا يمكنها التعامل مع التقاطعات بشكل جيد، وبالتالي قد ينتج من الخوارزميات التي تبدو محايدة، تأثير متباين في مجموعات مختلفة. على سبيل المثال، إذا افترضنا أن منتج ائتمان يجب أن يتاح بإنصاف للرجال والنساء، سواءً كانوا من ذوي الإعاقة أم لا، فقد تحل خوارزميات المنتج من خلال تحديد مستخدمي الكراسي المتحركة من الذكور السليمين والإناث السليمات فقط، ويعني ذلك تضمين بيانات منصفة للرجال والنساء وذوي الإعاقة والسليمين، مع استحالة تحديد فئة النساء ذوات الإعاقة.
من الاستراتيجيات الفعّالة لحل هذا الأمر هي استخدام نموذج ثنائي؛ مثل نهج شبكة توليدية تنافسية، وهو عبارة عن مقايضة أو مقارنة بين النموذج الأساسي، ونموذج آخر يعمل كخصم أو مراقب، بهدف التحقق من إنصاف كل نموذج على حدة. من خلال تفاعل هذين النموذجين وتكاملهما، نصل إلى حل أكثر إنصافًا وملاءمة.
حقق هذا النهج نجاحًا باهرًا في تسعير التأمين؛ حيث كانت العملية تتم تقليديًّا في السابق من خلال جمع المخاطر. اتجه العديد من التقنيات الحديثة في الوقت الحالي إلى التسعير الذي يمثل الفرد بصورة أكبر، مثل النموذج التنافسي. وقد تمكنت شركة تأمين بريطانية على سبيل المثال، من تحسين إنصاف التقاطعات وخفض المخاطر المتعلقة بالتحيز غير المتعمد بفاعلية، لدرجة انخفضت فيها الأقساط إلى 4 من أصل 5 متقدمين.
الخطوة الثالثة: مُراقبة المشكلات
من المهم فحص المخرجات والبحث عن الأنماط المشبوهة باستمرار؛ فالنماذج التي تجتاز جميع الفحوصات قد تنتج عنها نتائج غير محبذة عند تنفيذها مع مدخلات على أرض الواقع، تحديدًا المدخلات التي تتقدم مع مرور الوقت. اعتاد البشر التحيز، لذلك نادرًا ما يرصدونه. قد تبدو المخرجات المتنوعة كليًّا محط استغراب؛ لذلك قد يعززون التحيز دون قصد عند تطويرهم لذكاء اصطناعي. على سبيل المثال، في عالم يتسم بالمساواة، من الطبيعي أن يكون العديد من اختيارات أعضاء اللجنة كلهن إناثًا، تمامًا كما قد توجد لجان مكونة بالكامل من الذكور.
وعلى نحو مماثل، لا يتوقع معظم الناس حدوث الأحداث النادرة. صحيح أنها غير مرجحة ونادرة، لكنها ليست مستحيلة، كما يتوقعه العقل البشري المُصمم لتبسيط الأنماط وتعميمها. في كثير من الأحيان، يعترض الناس عندما يحدث شيء نادر، لكنهم لا يعترضون عندما لا يحدث، وهو أمر تغفل عنه الشركات عادةً ولا تتخذ تدابير تجاهه؛ فالناس يميلون بطبيعتهم إلى تصور أن الأحداث النادرة متباعدة على نحو منتظم، ولا تتكرر مرتين متتاليتين، ونتيجة لذلك، يتغاضون عن التكرارات المنخفضة، بينما تُثير العشوائية الكاملة الشكوك.
العوامل التنبؤية مبنية على الوضع الراهن؛ لذا فهي خاطئة. من المحتمل أن يسدد الرجال القرض إذا كانت رواتبهم عالية، ويعملون في وظائف معينة، وأضافوا أرقام هواتفهم المحمولة عند تسجيل بياناتهم. لا يمتلك أي من هذه العوامل العلاقة التنبؤية نفسها للنساء، ولكن إذا كان عدد الرجال أكبر من عدد النساء في مجموعة البيانات، فإن عوامل التنبؤ الخاصة بالذكور هي التي ستستخدم في نموذج ما لتقييم النساء.
وفي السياق نفسه، ستسجل معدلات الخطأ وسوء التصنيف للأقليات أعلى النتائج بسبب قلة البيانات المتاحة. أظهرت الدراسات أن عددًا قليلًا من التجارب السريرية يحتوي على عدد كافٍ من الأقليات للتنبؤ بنتائج علاجهم بدقة، كما هو الحال مع الرجال البيض الذين يتطوعون عادةً للمشاركة. يوجد هذا التحيز نفسه في خوارزميات التسويق، وتحديد الأسعار، وقرارات الائتمان، وقراءة النصوص، وأنظمة كشف الاحتيال. وقد وجد العديد من الشركات أن التقليل من شأن إحدى الفئات يترك أثرًا تجاريًّا سلبيًّا على الشركة، حتى إن لم يلحق الضرر المباشر بالأفراد.
يمكن للمتابعة المستمرة أن تؤتي ثمارها؛ إذ تمكنت شركة تجزئة عالمية من تحسين التنبؤ بالطلب من خلال التكيّف مع تغييرات البيانات، وتصحيح التحيز الراسخ الذي أثّر في التنبؤات، حتى مع تباين الاهتمام الموسمي. أتاحت زيادة الدقة للشركة فرص تحسين سلاسل إمدادها وتقليص وقت وصول المنتجات إلى السوق بنحو 10%، وذلك بعد توقفها عن تعريف الدقة على أنها القدرة على التوافق مع البيانات السابقة.
لو كان الأمر مقتصرًا على متطلبات القواعد التنظيمية والرقابة لإثبات الشركات أن الذكاء الاصطناعي المستخدم لديهم منصف، فيمكنهم تقديم مقياس للنتائج يثبت ذلك. ولكن إذا أرادت الشركات حقًّا أن تعمل خوارزمياتها بإنصاف مع جميع الفئات المتنوعة، فعليها معالجة مظاهر عدم الإنصاف، أو إعادة صياغة القوانين الحسابية.
لا يمكن قطعًا للشركات استئصال التحيز من الذكاء الاصطناعي، لكنها قادرة على تحسين ممارساتها وتوسيعها وفحصها وتصحيحها لتحقيق نتائج أكثر إنصافًا وتنوعًا.
