للعام الثالث على التوالي، جمعت إدارة مجموعة MIT Sloan Management Review ومجموعة بوسطن الاستشارية (BCG) لجنة دولية من خبراء الذكاء الاصطناعي، تضم أكاديميين ومهنيين، لمشاركة آرائهم حول كيفية استخدام الذكاء الاصطناعي المسؤول في المؤسسات حول العالم. وهذا العام، نركز على مدى قدرة الشركات على مواجهة المخاطر المتعلقة بالذكاء الاصطناعي. وفي مقالنا السابق، سألنا خبراءَنا عن مدى جاهزية المؤسسات لقانون الذكاء الاصطناعي الصادر عن الاتحاد الأوروبي، وهو أول قانون معتمد في هذا المجال، وقد طلبنا منهم هذا الشهر الرد على فكرة إلزام الشركات بالإفصاح عن كيفية استخدامها للذكاء الاصطناعي في منتجاتها وخدماتها.
ووجدنا أن غالبية خبرائنا مؤيدون لقرار الإفصاحات الإلزامية، إذ وافق عليها 84% منهم، ومع ذلك، لديهم آراء متباينة حول كيفية تطبيق هذه الإفصاحات. وسنعرض لاحقًا آراء أفراد لجنتنا ونستند إلى خبرتنا الخاصة في مجال الذكاء الاصطناعي المسؤول لتقديم توصيات حول كيفية تعامل المؤسسات مع الإفصاحات المتعلقة بالذكاء الاصطناعي، سواء أكانت إلزامية بموجب القانون أم معروضة رغبةً لتعزيز ثقة المستهلك.
ينبغي إلزام الشركات بالإفصاح عن كيفية استخدامها للذكاء الاصطناعي في منتجاتها وخدماتها.
وقد أيد 84% من المشاركين في لجنتنا هذا الشرط.
المصدر: لجنة خبراء الذكاء الاصطناعي المسؤول، مكونة من 32 خبيرًا متخصصًا في استراتيجيات الذكاء الاصطناعي.
تساعد إفصاحات الذكاء الاصطناعي على بناء الثقة بما يتماشى مع المبادئ الأساسية للذكاء الاصطناعي المسؤول.
يشير خبراؤنا أن مثل هذه الإفصاحات تشجع على الشفافية، ووفقًا لديفيد ر. هاردون من شركة أبوتيز داتا إنوفيشن تعد الشفافية “مفتاح إطار عمل قوي للذكاء الاصطناعي المسؤول”. ويؤكد مارك سورمان من مؤسسة موزيلا أن “الإفصاحات هي أبسط أشكال الشفافية” المطلوبة في جميع جوانب الحياة. وتقترح كارولينا أغيري من الجامعة الكاثوليكية في أوروغواي أنه كما “تصنف العديد من المنتجات والخدمات بناءً على الاستدامة، أو المناخ، أو التجارة، أو القيمة الغذائية” ينبغي أن تكون منتجات وخدمات الذكاء الاصطناعي مصحوبة بإفصاحات واضحة أيضًا، ويتفق تريفيني غانهي من شركة داتايكو مع هذا الرأي، قائلًا إن إعلام العملاء عند استخدام الذكاء الاصطناعي جزء مهم من الشفافية، لا سيما مع استمرار تغير الأمور، وقد اتبع هذا النهج منذ زمن طويل.
يعتقد خبراؤنا أيضًا أن على الشركات واجبًا أخلاقيًّا بشأن استخدامها للذكاء الاصطناعي. تؤكد ليندا ليوبولد، من مجموعة أتش آند إم، أن الشفافية “مسؤولية أخلاقية تجاه العملاء، تساعدهم على اتخاذ قرارات مستنيرة وتعزز ثقتهم”. ويتفق سيمون تشيسترمان، من جامعة سنغافورة الوطنية، مع هذا الرأي قائلًا إن الشفافية تساعد الناس على اتخاذ قرارات أفضل وتقييم المخاطر. ويضيف رايان كارير من منظمة فور هيومانيتي (ForHumanity) أن مستخدمي الذكاء الاصطناعي “يحق لهم معرفة مخاطر استخدام أداة ما، تمامًا كما هو الحال مع معرفة الآثار الجانبية للدواء”. ويضيف أنه بفضل هذه المعلومات، يمكن لمستخدمي النماذج اللغوية الضخمة السعي إلى الحد من المخاطر، مثل “المعلومات الخاطئة أو المصادر المزيفة” من خلال مراجعة النتائج قبل استخدامها.
مؤيد جدًّا
“ينبغي على الشركات الإفصاح عن استخداماتها للذكاء الاصطناعي في منتجاتها وخدماتها لتعزيز الشفافية، وبناء الثقة، وضمان الموافقة المبنية على الوضوح، ودعم المسألة، ومعالجة القضايا الأخلاقية، وحماية المستهلكين، وتمكن هذه الإفصاحات الشركات من الالتزام بالقوانين واللوائح، وضمان الممارسات الأخلاقية، وتشجيع الاستثمار في أنظمة الذكاء الاصطناعي التي تتميز بالدقة والأخلاقية والموثوقية”.
بالإضافة إلى المسؤوليات الأخلاقية، تسهم الإفصاحات في تعزيز الثقة بين العملاء والمستثمرين والموظفين. تؤكد إيلين نيلسن، المديرة السابقة لشركة شيفرون، على أن “الشفافية ضرورة للحفاظ على ثقة المستهلك”، وتحاجج بأنه “يجب إلزام الشركات بالإفصاح عن استخدامها للذكاء الاصطناعي، وتزويد المستهلكين بالمعلومات اللازمة لاتخاذ خيارات مدروسة وفهم القرارات التي يحركها الذكاء الاصطناعي”. كما يشير ريتشارد بنجاميز من شركة OdiselA إلى وجود “أسباب تجارية للإفصاح الطوعي”، حتى لو لم يكن ملزمًا قانونيًّا. ويوضح أن المستثمرين الذين يبحثون عن شركات تطبق حوكمة مسؤولة للذكاء الاصطناعي، والعملاء الذين يراعون سلوك الذكاء الاصطناعي في قراراتهم الشرائية، والموظفين الذين يقدرون الذكاء الاصطناعي المسؤول، قد يرون جميعًا أن الشفافية عامل حاسم في اختيار الشركة والبقاء فيها.
كما يعزز كلّ من الشفافية وبناء الثقة مع المستثمرين ثقة المجتمع في الذكاء الاصطناعي. وكما يُشير سورمان، “إن الشفافية أساسية لبناء ثقة الجمهور بالذكاء الاصطناعي وتمكين الأفراد من التحكم في كيفية تفاعلهم مع الأنظمة الآلية”. ويضيف جيف إيسلي من معهد الذكاء الاصطناعي المسؤول أن “إلزام الشركات بالإفصاحات… سيحاسب الشركات على الاستخدام الأخلاقي للذكاء الاصطناعي، ويشجّع هذا على تطوير الذكاء الاصطناعي ونشره بشكل مسؤول، ويقلل من مخاطر مثل التحيز والتمييز والعواقب غير المقصودة”.
تحديات تطبيق الإفصاحات الفاعلة
في حين أن معظم خبرائنا مؤيدون للإفصاحات، إلا أنهم يدركون أن تطبيقها قد يكون صعبًا. فيشير دوغلاس هاميلتون من ناسداك: “في حين أن الشفافية مفيدة بالغالب… إلا أن فرض مثل هذا القرار يمثل صعوبة”، ويوضح قائلًا: “لا يوجد تعريف واضح يميز الذكاء الاصطناعي عن البرمجيات أو غيرها من أنظمة صنع القرار، ما يصعب تحديد متى يكون الإفصاح ضروريًّا”. وفي رأي مشابه، يبدي سانجاي سارما من معهد ماساتشوستس للتقنية (MIT) قلقه من فرض قرار الإفصاح دون تحديد واضح للقضايا التي تهدف إلى معالجتها. ويحذر يان تشاو من شركة أوتوميشن أنيوير (Automation Anywhere) أيضًا من أن الإفصاحات قد “تكشف أسرارًا تنافسية”، وأوصى بعض الخبراء، مثل الخبير كرير، أن “الملكية الفكرية والأسرار التجارية لا ينبغي أن تدرج في بيان الإفصاحات”.
معارض
“إن الإفصاحات الإلزامية المتعلقة بالذكاء الاصطناعي قد تعيق الابتكار وتثقل كاهل الشركات، وخاصة الشركات الصغيرة. ونظرًا لتطور تقنية الذكاء الاصطناعي السريع، فقد تصبح متطلبات الإفصاح قديمة، ما يؤدي إلى تكاليف امتثال عالية ومخاطر قانونية. كما قد تملأ هذه الإفصاحات الواجهات بالإشعارات وتربك المستهلكين الذين قد لا يمتلكون المعرفة التقنية اللازمة لفهم المعلومات، وقد تؤدي الإفصاحات أيضًا إلى المبالغة في تلك الإشعارات، ما يصعب على المستخدمين التركيز على معلومات أكثر أهمية.
تعتقد فرانزيسكا ويندور من مختبر (TÜV AI) أن “إضافة جملة إخلاء مسؤولية قد تكون حلًّا مثاليًّا”، ولكن يجادل خبراء آخرون بأن الإفصاحات السيئة قد تضر بالشفافية وتؤدي إلى المساءلة. ويحذر تشاو من أن “شرح مفاهيم الذكاء الاصطناعي قد يكون صعبًا”، ويعتقد بن دياس من شركة إيزي جيت أن “التحدي الأكبر الذي ستواجهه الشركات هو شرح نوع الذكاء الاصطناعي الذي تستخدمه وسبب استخدامه وشرح ذلك كله بلغة بسيطة”. ويصر يوهان لوكس من معهد أكسفورد للإنترنت على أن “الإفصاحات يجب أن تكتب بلغة إنجليزية واضحة، لا أن تخفى وتضمن مع الشروط والأحكام”. ويتفق ستيفان فيرهولست من مختبر (GOVLAB) مع هذا الرأي، قائلًا: “يجب أن تكون الإفصاحات سهلة الفهم وواضحة بصريًّا لضمان استيعاب الناس للمعلومات”.
محايد
بما أن الذكاء الاصطناعي تقنية متعددة الاستخدامات، فمن المؤكد أنه سيصبح عنصرًا أساسيًّا في العديد من المنتجات المستقبلية، وإن مطالبة الشركات بالإفصاح عن استخدام الذكاء الاصطناعي وتفاصيل كل منتج أمر غير عملي. فبينما تستطيع الشركات الإفصاح عن هذه المعلومات، إلا أنها قد تربك العملاء. وكما هو الحال مع سياسات الخصوصية، قد يتم تجاهل هذه الإفصاحات، لا سيما مع انتشار الذكاء الاصطناعي.
تحذر جينا تشونغ من شركة (Locus Robotics) من أنه “مع اتساع نطاق الذكاء الاصطناعي، قد يصبح توفير تفاصيل كل تطبيق أمرًا غير عمليّ، وتتفق معها ريانكا روي تشودري، زميلة في (Standford CodeX)، مشيرة إلى أن “الإفصاح الشامل قد يكون ممكنًا دائمًا، نظرًا لأن الذكاء الاصطناعي أصبح الآن جزءًا أساسيًّا من سير العمل، ولا تستلزم جميع التطبيقات أن تنفذ قرار الشفافية”. على سبيل المثال، تشير كاتيا والش من كلية هارفارد للأعمال إلى أن الإفصاحات قد لا تكون ضرورية عندما تستخدم الشركات الذكاء الاصطناعي في مهام مثل البحث الثانوي، أو البحث عن بيانات الاتصال، أو التحضير للاجتماعات، كما لا يُطلب منها الإفصاح عن استخدام جوجل أو شبكات التواصل الاجتماعي أو الهواتف المحمولة. وبالمثل، تؤكد لورا هابر إيل، الباحثة في جامعة هارفرد، “بأن الإفصاح عن استخدام الذكاء الاصطناعي لن يكون ضروريًّا إذا استخدم لمهمات مثل: تحديد أولويات رسائل البريد الإلكتروني الداخلية، أو توجيه الموظفين إلى مواقف السيارات، أو عرض عروض تقديمية. أما إذا استخدم الذكاء الاصطناعي لتحديد هوية العملاء واتخاذ القرارات بشأنهم، فيجب الإفصاح عنه.
تستلزم بعض السياقات الإفصاح
يتفق معظم الخبراء على ضرورة شفافية الشركات عن تفاعل عملائها مع الذكاء الاصطناعي واستخدامه في صنع القرارات المهمة، ويؤكد لوكس على ضرورة كشف الشركات عن تفاعل المستهلكين مع أنظمة الذكاء الاصطناعي، ويؤيد والش هذا الرأي، مؤكدًا على حق الأفراد في معرفة متى يتعاملون مع آلة لا مع إنسان. ويؤكد ليوبولد على أهمية إعلام المستخدمين عندما يكون الذكاء الاصطناعي مسؤولًا عن اتخاذ قرارات مهمة تؤثر عليهم. ويشدد إيزلي على ضرورة الموافقة المبنية على القناعة والفهم، لا سيما في المجالات الحيوية كالرعاية الصحية والمالية والتوظيف، حيث يمكن للذكاء الاصطناعي أن يؤثر تأثيرًا بالغًا على حياة الأفراد. ويضيف دياس أنه ينبغي على الشركات توضيح كيفية وصول الأفراد إلى ممثل بشري للطعن في أي قرارات يتخذها الذكاء الاصطناعي.
ويؤكد العديد من الخبراء أيضًا على أهمية إلزام الشركات بالإفصاح عن كيفية تعامل أنظمة الذكاء الاصطناعي مع البيانات. ويشير دياس إلى أن اهتمام العملاء منصب بالدرجة الأولى على كيفية استخدام الذكاء الاصطناعي لمعلوماتهم الشخصية، وخاصةً ما إذا كانت ستستخدم لتدريب الأنظمة. وتدعم نيلسن هذا الرأي مؤكدة على حق المستهلكين في فهم كيفية استخدام بياناتهم. وتؤكد كارير على ضرورة شفافية الشركات بشأن مجموعات البيانات التي تستخدمها وممارساتها في إدارة البيانات وحوكمتها. ويضيف فيرهولست ألا تكتفي الشركات بالإفصاحات بشأن استخدامها للذكاء الاصطناعي، بل يجب عليها أيضًا تحديد استراتيجياتها لحماية البيانات وإدارتها. ويؤكد كارتيك هوساناغار من كلية وارتون على ضرورة أن تتضمن الإفصاحات معلومات حول بيانات التدريب المستخدمة في نماذج الذكاء الاصطناعي، مشيرًا إلى أنه حتى في غياب المتطلبات القانونية، فإن مشاركة المعلومات حول كيفية استخدام الذكاء الاصطناعي، والبيانات التي يدرب عليها والغرض من ذلك، أمر بالغ الأهمية للحفاظ على ثقة المستهلك.
التوصيات
ختامًا، نقترح على المؤسسات التي تسعى إلى الإفصاح عن معلومات متعلقة بالذكاء الاصطناعي ما يلي:
- مراعاة مبادئ الذكاء الاصطناعي المسؤول الأساسية: حيث تلعب الإفصاحات دورًا حيويًّا في دعم مبادئ الذكاء الاصطناعي المسؤول الأساسية، مثل الشفافية والمساءلة. فعند مشاركة المعلومات حول أنظمة الذكاء الاصطناعي، ينبغي على الشركات ضمان أن تعكس بياناتها هذه القيم وأن تعدلها وتكيفها بما يتناسب مع سياقها.
- التأكد من سهولة فهم الإفصاحات: إن طريقة عرض الإفصاحات مهمة، ولتعزيز الشفافية والمساءلة ينبغي على الشركات التأكد من وضوح الإفصاحات وبساطتها وسهولة الوصول إليها بدلًا من مجرد دمجها في الوثائق القانونية (مثل شروط الخدمة أو سياسات الخصوصية). وينصح أيضًا التعاون مع فرق متعددة المهام -بما في ذلك مصممو تجربة المستخدم/ واجهة المستخدم- لإعداد تقارير سهلة الفهم ونشرها بأكثر الطرق فاعلية وفي الوقت المناسب.
- تجاوز المتطلبات القانونية: في حين أن اللوائح الجديدة بدأت تلزم الشركات بمشاركة الإفصاحات المتعلقة بالذكاء الاصطناعي، إلا أنه ينبغي على الشركات السعي إلى مشاركة أكثر مما هو مطلوب منها قانونيًّا. إذ يقع على عاتق الشركات واجب أخلاقي فيما يتعلق بالشفافية، خاصةً عندما يؤثر الذكاء الاصطناعي على القرارات المهمة التي تؤثر على الأفراد، وهذا يعني وضع قواعد واضحة مضمنة داخل الشركة تحدد متى تكون هناك حاجة للإفصاحات، وما هي المعلومات التي ينبغي تضمينها وكيفية إيصالها للمستخدمين.
- نشر تفاصيل ممارسات الذكاء الاصطناعي المسؤول: بالإضافة إلى الإفصاحات عن كيفية استخدام الذكاء الاصطناعي على مستوى المنتج، ينبغي على الشركات أيضًا الإفصاح عن نهجها العام في استخدام الذكاء الاصطناعي المسؤول، وقد يعني ذلك نشر مدونة سلوك للذكاء الاصطناعي أو ملخص لمبادراتها المسؤولة في هذا المجال، ويجب أن تفصل هذه الوثائق كيفية وتوقيت الإفصاح عن استخدام الذكاء الاصطناعي في منتجاتها وعروضها، وما الذي ستتضمنه، وتعد هذه خطوة أساسية في بناء الثقة بين العملاء والمستثمرين والموظفين.
الكلمات المفتاحية
البيانات، والذكاء الاصطناعي، والتعليم الآلي المسؤولية الاجتماعية العملاء الذكاء الاصطناعي والتعليم الآلي.
الذكاء الاصطناعي المسؤول
تبحث مبادرة “الذكاء الاصطناعي المسؤول” في كيفية وضع المؤسسات لمبادئ وسياسات ومعايير الذكاء الاصطناعي المسؤول ونهجها في التعامل معه، وكذلك تجمع آراء قادة الأعمال حول العالم ولجان خبراء لفهم هذا المجال الناشئ والمهم وتقديم نصائح وإرشادات عملية للقادة في مختلف القطاعات.
اللجنة
جمعت مجلة MIT Sloan Management Review ومجموعة بوسطن الاستشارية لجنة دولية تضم أكثر من 20 خبيرًا من بينهم شخصيات من قطاع الأعمال، وأكاديميين، وباحثين، وصانعي قرارات لمشاركة أفكارهم حول القضايا الجوهرية المتعلقة بالذكاء الاصطناعي المسؤول. وعلى مدار خمسة أشهر قادمة، ستجيب اللجنة عن سؤال واحد في كل مرة، وتشرح إجاباتهم بإيجاز. ويمكن للقراء الاطلاع على جميع ردودهم وتعليقاتهم في نهاية كل مقال، ويمكنهم أيضًا الانضمام إلى المحادثة في مجموعة لنكد إن المسماة “AI for Leaders”، والتي صممت لتعزيز الحوار بين خبراء التقنية والقادة.
نبذة عن المؤلفين
إليزابيث م. رينيريس محررة ضيفة في برنامج الأفكار العظيمة للذكاء الاصطناعي المسؤول التابع لمجلة سلون “MIT Sloan Management Review Responsible AI Big Idea”، وباحثة بارزة في معهد أكسفورد لأخلاقيات الذكاء الاصطناعي، ومن كبار الباحثين في مركز الابتكار الدولي للحوكمة، ومؤلفة كتاب: Reclaiming Human Rights at the Dawn of the Metaverse (دار نشر إم أي تي، 2023م). ديفيد كيرون مدير تحرير في مجلة MIT Sloan Management Review، ومؤلف مشارك في كتاب Workforce Ecosystems: Reaching Strategic Goals With People, Partners, and Technology (دار نشر إم أي تي، 2023م). ستيفن ميلز مدير إداري وشريك في مجموعة بوسطن الاستشارية، حيث يشغل منصب رئيس مكتب أخلاقيات الذكاء الاصطناعي.
