التحيّز الخوارزمي وتصعيد اللامساواة

المقال يناقش مخاطر الانحياز في أنظمة الذكاء الاصطناعي المستخدمة في صناعة القرار بمجالات مثل الرعاية الصحية، التوظيف، والقضاء، حيث أظهرت دراسات أن الخوارزميات قد تتصرف بشكل متحيز تجاه العرق أو الجنس بسبب طبيعة البيانات التي دُرِّبت عليها أو الطريقة التي تربط بها الخصائص. الأمثلة تشمل خوارزميات الرعاية الصحية الأمريكية التي تقلل رعاية المرضى السود رغم تشابه حالتهم الصحية مع المرضى البيض، وخوارزميات التوظيف التي تفضل الذكور البيض، وبرنامج COMPAS في المحاكم الذي يزيد من احتمال إصدار أحكام أشد ضد الأمريكيين من أصول أفريقية. ويبرز المقال أن هذه الانحيازات تنتج عن “أتمتة” التحيزات البشرية السابقة وتضخيمها، مؤكدًا ضرورة تطوير خوارزميات عادلة من خلال تدريبها على بيانات متوازنة والتحقق من طريقة ربط الخصائص، مع الإشارة إلى الجهود التشريعية الحديثة مثل قانون المساءلة الخوارزمية لعام 2019 الذي يلزم الشركات بتقييم وإصلاح أنظمتها المتحيزة.