بقلم سكوت زولدي وجوردان تي. ليفين
20 يناير 2025
في فترة زمنية قصيرة بشكل ملحوظ، قامت المؤسسات عبر مختلف الصناعات بنشر الذكاء الاصطناعي (AI) لاتخاذ قرارات تؤثر على حياة الناس اليومية. ونظرًا لأن الذكاء الاصطناعي يُعتبر بمثابة ""مرآة تعكس تحيزاتنا وعيوبنا الأخلاقية""، فإن هذه الممارسة تؤدي أحيانًا إلى أخطاء مؤسفة بل ومآسٍ. والتحيز هو مجرد واحد من بين العديد من الأسباب التي تجعل الذكاء الاصطناعي يُعتبر ""صندوقًا أسود"" يواجه مشكلة ثقة. في العام الماضي، وجدت دراسة أجرتها مؤسسة Pew Research أن 52% من الأمريكيين يشعرون بقلق أكثر من الحماس تجاه الذكاء الاصطناعي في الحياة اليومية، مقارنة بـ10% فقط يشعرون بحماس أكبر من القلق.
من الواضح أن الذكاء الاصطناعي يحتاج إلى إثبات نفسه كتكنولوجيا جديرة بالثقة. لتحقيق ذلك، يجب على الشركات التي تستخدم الذكاء الاصطناعي ضمان إمكانية تفسير القرارات التي تتخذها هذه النماذج التحليلية، وقابليتها للتدقيق، وقابليتها للتنفيذ. التفسير يمكّن التكنولوجيا من أن تُفهم، بينما التدقيق يتيح المساءلة، وأخيرًا التنفيذ يبدد الشك ويترك أثرًا من الثقة.
إذا أرادت المؤسسات تحقيق فوائد تجارية حقيقية من استثماراتها في الذكاء الاصطناعي، يجب أن يثق العملاء به. يمكن التغلب على انعدام الثقة الاجتماعي المنهجي في الذكاء الاصطناعي فقط عندما يمكن الإجابة على الأسئلة المتعلقة بكيفية عمل هذه التكنولوجيا - سواء من العملاء أو المنظمين أو الأطراف المناسبة الأخرى. يوفر استخدام البلوكشين القائم على المساءلة مسارًا عمليًا لتحقيق المساءلة والقابلية للتنفيذ.
في شركة FICO، نستخدم تقنية البلوكشين لبناء ثقة المستهلكين وصناعة الخدمات المالية بالذكاء الاصطناعي. يوفر البلوكشين سجلًا غير قابل للتغيير لكل جانب من جوانب تطوير نماذج الذكاء الاصطناعي، ويضمن أن كل إجراء يتم اتخاذه يلتزم بمتطلبات ومعايير الشركة للذكاء الاصطناعي المسؤول. بدلاً من الإشارة إلى انعدام الثقة في علماء البيانات، يوضح نظام البلوكشين لإدارة نماذج الذكاء الاصطناعي أن الثقة ليست مسألة شخصية - فهناك سبب يجعل الأشياء المهمة في الحياة تحتاج إلى عقود. البلوكشين لا يهدف إلى تحديد اللوم؛ بل صُمم للحفاظ على النزاهة والكفاءة والسلامة والامتثال. مع وجود هياكل الحوكمة والمساءلة المناسبة، يمكن للابتكار في الذكاء الاصطناعي أن يزدهر بأمان وحرية.
تقدم هذه المقالة دراسة حالة حول كيفية تبني شركة FICO لإدارة تطوير نماذج الذكاء الاصطناعي باستخدام البلوكشين، وكيف تعود هذه الطريقة بالفائدة على الأعمال التجارية، وكيف يمكن للمؤسسات الأخرى أن تتبنى هذا النهج وتستفيد منه.
عندما التقى البلوكشين بالذكاء الاصطناعي
في عام 2021، بدأ فريق علوم البيانات في شركة FICO المسؤول عن الابتكار في الذكاء الاصطناعي والتحليل باستخدام البلوكشين لإدارة حوكمة تطوير النماذج، وهي خطوة قدمت قيمة ملموسة منذ ذلك الحين. يوفر هذا الفريق التكنولوجيا الأساسية لمنصات FICO البرمجية، بما في ذلك كشف الاحتيال وحلول إدارة بطاقات الائتمان، وهو منفصل عن المنظمة التحليلية التي تطور التحليلات لدرجة FICO. وجد الفريق أن هذا النهج لم يسرّع فقط الوقت اللازم للوصول إلى السوق من خلال الابتكار في الذكاء الاصطناعي والتحليل، بل ساعد أيضًا في الحفاظ على النماذج الجديدة قيد الإنتاج؛ حيث خفض البلوكشين مشكلات الدعم واستدعاءات النماذج بأكثر من 90%. وقد فعل ذلك من خلال المساعدة في أتمتة عملية متابعة تفاصيل تطوير النماذج التي تتزايد بسرعة.
تم تطوير بذور هذا النهج على مدار أكثر من عقد من العمل، حيث عمل الفريق على توثيق وإدارة القرارات المتزايدة التي تدخل في العملية المعقدة لتطوير النموذج: متغيرات النموذج، وتصميم النموذج، والخوارزميات، وبيانات التدريب والاختبار المستخدمة، والخصائص الأولية الخام للنموذج، واختبارات الأخلاقيات، واختبارات الاستقرار. تتضمن هذه العملية أيضًا عنصرًا بشريًا ضخمًا: العلماء الذين يبنون أجزاء مختلفة من مجموعات المتغيرات، ويشاركون في إنشاء النماذج، ويؤدون اختبار النماذج. يمكن أن يؤثر أي تغيير صغير على أداء النموذج، والاستخدام المسؤول، ونتائج القرارات.
الحل الأولي الذي توصل إليه فريق علوم البيانات كان البدء باستخدام وثيقة تتبع تحليلية (ATD) لتوجيه عملية التطوير. في البداية، تم توثيق هذه الطريقة في مستند Word طويل، وكانت توضح بالتفصيل كل جانب من متطلبات النموذج وتطويره واختباره. أصبحت وثيقة ATD أساسًا لمجموعة من المتطلبات المحددة جدًا المرتبطة بمعيار تطوير نماذج الذكاء الاصطناعي الخاص بشركة FICO. بمجرد التفاوض على جميع عناصر البناء، أصبحت الوثيقة التي يعتمد عليها الفريق في تحديد عملية تطوير النموذج بأكملها.
استخدام وثيقة تتبع التحليل (ATD) كان نقطة تحول مهمة، لكن التعامل مع مئات الوثائق الضخمة للنماذج وتخصيص عشرات الاجتماعات للتأكد من التزام كل نموذج بالمعايير أدى إلى عبء إداري كبير. لذلك، في عام 2021، وضعت شركة FICO عملية ATD بالكامل على بلوكشين خاص، مما وفر طريقة أسهل بكثير لإنشاء سجل غير قابل للتغيير لعملية اتخاذ القرارات لكل نموذج. يقوم البلوكشين بإزالة أي لبس حول المتطلبات، والخوارزميات المستخدمة، ومعايير النجاح التي يجب تحقيقها، حيث يتم تسجيل كل ذلك في السجل قبل بدء التطوير. كما يرتبط بشكل دائم بالأصول التي تثبت الالتزام بالمعايير، ويكشف الخصائص الكامنة ويحدد ما إذا كانت تُدخل تحيزًا في النموذج، ويحدد أيضًا من عمل على تلك الخصائص، والاختبارات التي أُجريت، والمدير الموافق، وتوقيع الإدارة.
الأهم من ذلك، أن البلوكشين لا ينتج فقط قائمة من النتائج الإيجابية؛ بل يتضمن أيضًا الأخطاء، والتصحيحات، والتحسينات التي تمت على طول الطريق.
لماذا يعمل البلوكشين؟
لقد قطعت وثيقة ATD شوطًا طويلاً منذ أن كانت مجرد مستندات Word مطولة. يتيح نهج البلوكشين الخاص بـ FICO تحويل كل مهمة إلى واجهة سهلة الاستخدام، وهي مدمجة في العمل اليومي لعلماء البيانات. أي عالم بيانات غير ملتزم بهذا النهج ببساطة لن يتمكن من العمل، حيث إن تسجيل كل قرار تطوير على البلوكشين هو الطريقة الأساسية لإنجاز العمل وهو شرط لإطلاق النماذج.
وجدت شركة FICO أن القيمة التجارية للسجل غير القابل للتغيير في البلوكشين هائلة. نحقق اتساقًا في منظمة علوم البيانات العالمية الكبيرة؛ حيث يكون تطوير النماذج عبر مئات الأصول التحليلية الإنتاجية كل عام متناسقًا، مما يقلل الالتباس والهدر.
تقليل الهدر أمر بالغ الأهمية، نظرًا للتكاليف المرتفعة للفرص الضائعة في الابتكار، والتكاليف الملموسة للمواهب في تطوير الذكاء الاصطناعي والموارد الحاسوبية المرتبطة بها. من المعروف في قطاع الخدمات المالية أن نسبة صغيرة فقط من النماذج المطورة داخليًا تُوضع قيد الإنتاج لأن أحدًا لا يكون متأكدًا تمامًا مما تحتويه أو كيفية أدائها. وجدت دراسة أجرتها McKinsey & Co. في عام 2019 أن 25% إلى 36% فقط من المشاركين في قطاع الخدمات المالية قاموا بنشر الذكاء الاصطناعي في حالات استخدام مختلفة داخل شركاتهم. وعلى الرغم من تحسن هذه الأرقام تدريجيًا، إلا أن الأصول غير المستخدمة للذكاء الاصطناعي في هذا القطاع لا تزال تمثل مئات الملايين من الدولارات في الجهود الضائعة.
في النهاية، تدرك FICO أن البلوكشين يعمل بناءً على ما لا يحدث. لا يتم تأخير إطلاق النماذج للإنتاج بسبب عدم اليقين بشأن مخاطرها، أو بسبب نقص الأدلة التي تثبت الالتزام بمعايير الذكاء الاصطناعي المسؤول للشركة. ولا يقوم العلماء عن غير قصد باستخدام نماذج الإنتاج لأغراض بحثية، أو ما هو أسوأ، إطلاق تجارب علم البيانات ""بلا قيود"". أما عالم البيانات المتمرد؟ فلا يتم إهدار الوقت في رفض الأعمال التي تنحرف عن المعايير، سواء كان ذلك عن قصد أم لا؛ إذ يحافظ البلوكشين على تماسك الفرق وامتثالها للمعايير، ويضمن تلبية المتطلبات بكفاءة مع إنتاج نماذج تتوافق مع معايير الجودة والسلامة الخاصة بـ FICO. بالإضافة إلى رؤية انخفاض المشكلات المتعلقة بدعم النماذج إلى ما يقارب الصفر، نحقق التزامًا مطلقًا وإنفاذًا لمعايير تطوير نماذج الذكاء الاصطناعي حتى مع السرعة العالية.
كل هذا هو المفتاح التشغيلي لبناء الثقة في الذكاء الاصطناعي. فهو يساعد شركة FICO على إنتاج مخرجات تتوافق بنسبة 100% مع معاييرنا، مدعومة بأصول قوية تثبت العمل المنجز. وهذا يعني أن تجربة المستهلكين لهذه الأدوات تتماشى مع معاييرنا الخاصة بالذكاء الاصطناعي المسؤول.
كيف جعلت شركة FICO البلوكشين يعمل مع الذكاء الاصطناعي
إطلاق هذا النظام وتشغيله لم يكن مشكلة تقنية في المقام الأول. كانت المشكلة تتعلق بالتنظيم والأشخاص. التعامل مع هذه المشكلة كان يتطلب التغلب على عقبات تصميمية وتقنية بالطبع، لكن الجزء الأول كان الأصعب.
ما تعلمناه خلال هذه العملية
المعايير أولاً، ثم التكنولوجيا
بدون معيار لتطوير نماذج الذكاء الاصطناعي يمكن الالتزام به، فإن استخدام البلوكشين لتسجيل كل تفاصيل تطوير النماذج لا جدوى منه. للأسف، تُعد هذه الخطوة الأولى أصعب جزء في الرحلة: وضع معايير الشركة للذكاء الاصطناعي المسؤول يتطلب اتخاذ قرارات صعبة بشأن ما يمكن وما لا يمكن القيام به، بما في ذلك الموافقة على الخوارزميات التي يمكن استخدامها والتي لا يمكن استخدامها، وإمكانية تفسير النماذج، ومنهجيات اختبار الذكاء الاصطناعي الأخلاقي، وتلبية المتطلبات التنظيمية.
في شركة FICO، شمل هذا العمل جهودًا توعوية بهدف ضمان نتائج تحليلية متسقة لجميع العملاء بغض النظر عن مهارات علماء البيانات الفردية، وتعيين لجنة لتعريف معايير التطوير وتثقيف الفريق بالكامل بشأن الأساليب المرتبطة بها.
سهولة الاستخدام غير قابلة للتفاوض
في شركة FICO، لم يكن إقناع علماء البيانات بفكرة استخدام النظام أمرًا صعبًا. فقد قدّر معظمهم الهيكلية التي يوفرها، ومواءمة عملهم تلقائيًا مع معايير تطوير نماذج الذكاء الاصطناعي، والنهج الرسمي للذكاء الاصطناعي المسؤول، وكلها تحميهم وتحمي منتجات عملهم.
لكن التحدي كان في تطوير واجهة المستخدم (UI) التي تربط علماء البيانات بالبلوكشين. كان تطوير واجهة المستخدم أكثر من مجرد تحديد الحقول والأزرار التي سيستخدمها المستخدم؛ بل كان عليها مساعدة علماء البيانات في التحول العقلي من التطوير الفردي والخطي إلى عقلية الفريق، حيث يمكن للعديد من المطورين والمختبرين القيام بعملهم والتحقق من عمل الآخرين بطريقة فعالة وآلية.
استثمرنا في النهاية وقتًا وموارد كبيرة لجعل النظام سهل الاستخدام للعلماء، مع التركيز على تعزيز التفاعل العقلي بدلاً من إشراف مرهق، ودمج واجهة مستخدم سلسة في طريقة إنجاز العمل.
لتحقيق ذلك، يجب أن تكون المؤسسات مستعدة للخوض في عملية رسمية تشمل وثائق متطلبات العمل (BRDs) ووثائق متطلبات المنتج (PRDs). يتيح ذلك توافق أفكار وآراء مصممي البرمجيات حول كيفية تفاعل المستخدمين مع النظام وكيف ستعمل العملية. كان من المهم التأكد من أن الجميع شعروا بأنهم مسموعون، وألا يبدأ التطوير حتى يتم التوافق على التوقعات بشأن الشكل والوظيفة وطريقة التشغيل.
الأهم لاعتماد النظام، كان عدم القبول بأي احتكاك قد يعيق العملية، مما دفع الإبداع في تطوير البرمجيات من البداية. على سبيل المثال، كان علينا تحقيق توازن بين عدم حاجة علماء البيانات لفهم تقنية البلوكشين ورغبتهم في عدم التعامل معها، وبين الالتزام الإجباري باستخدام الأداة القائمة عليها. وبالمثل، احتجنا إلى تقارير فورية عن حالة جميع مهام تطوير النماذج واختبارها دون الحاجة إلى أن يبني علماء البيانات التقارير بأنفسهم.
التكرار لتحقيق انتصارات سريعة
بعد ذلك، يجب أن تكون المؤسسات مستعدة لإجراء إثباتات للمفهوم (PoC) للتصاميم الأولية للحصول على نسخة مبكرة من النظام تعمل سريعًا، والبدء في التنقل بين حالات الاستخدام مثل تحديد المتطلبات، وتحديثات التطوير، وتحديثات الاختبار، وتحديثات التحقق، والرفض/الموافقة، وكيفية إعادة تعيين حالة المتطلبات عندما يتم رفض نموذج.
ينبغي التركيز بشكل قوي على كيفية قياس الاكتمال، حيث لا يتم إطلاق أي نموذج حتى يتم استيفاء جميع المتطلبات من قبل المطور، والمختبر، والمُحقق. كيف سيتم استخراج هذه المعلومات من البلوكشين وتقديمها لأصحاب المصلحة؟
الاحتفاظ بكل شيء معًا، إلى الأبد
لا تُعتبر أي تطبيقات تحليلية مكتملة تمامًا؛ فهي تتطور باستمرار، ولا يمكن نسيان العمليات (خصوصًا العمليات المتعلقة بالاعتمادات). لذلك، كنقطة تقنية أساسية، من المهم التفكير في المستودعات التي ستحتفظ بأصول الذكاء الاصطناعي الكبيرة في تخزين بديل، مع استخدام التجزئة (hashes)، ومجموع التحقق (checksums)، وآليات أخرى لتأكيد أن الأصل المشار إليه في البلوكشين مناسب وغير تالف. يجب مراقبة أي تخزين بديل بنشاط، وإصدار تنبيهات في حالة وجود تحديثات أو عمليات نقل إلى أنظمة تقنية أخرى داخل المؤسسة.
الصيانة بتحديات مختلفة
أخيرًا، الحقيقة الشاملة لنظام إدارة تطوير نماذج الذكاء الاصطناعي القائم على البلوكشين هي أنه عبارة عن برنامج - برنامج يتطلب إدارة الأمان والثغرات، والصيانة، والتحديثات. تتعامل فرق تكنولوجيا المعلومات مع هذه القضايا يوميًا لتطبيقات المؤسسات، ولكن مع تطبيقات تطوير الذكاء الاصطناعي، يحتاج مطورو البرمجيات إلى تطوير خبرات جديدة أو الشراكة مع موارد أخرى للتعامل مع هذه المتطلبات.
• • •
الثقة يمكن أن تكون بعيدة المنال عند العمل مع الذكاء الاصطناعي. وبشكل مفهوم، تحتاج هذه الأدوات القوية الجديدة إلى اجتياز معايير عالية. لكن انعدام الثقة المنهجي في الذكاء الاصطناعي لا يمكن التغلب عليه إلا عندما يكون العملاء، والمنظمون، والأطراف المناسبة الأخرى واثقين من كيفية عمل التكنولوجيا، وأنهم يستطيعون الاعتماد على النماذج للعمل بالطريقة المفترض أن تعمل بها.
هذا ما يمكن أن يقدمه النهج القائم على البلوكشين: المساءلة، الشفافية، وقابلية التنفيذ. من خلال الحفاظ على النزاهة، يوفر للمستخدمين سببًا للثقة في هذه الأدوات القوية الجديدة.
