اختبار المخاطر المرتبطة بالذكاء الاصطناعي لحدود إدارة المخاطر التنظيمية

ترجمة: أمل الرشيدي

يناقش فريق الخبراء مدى فاعلية تكييف المؤسسات لممارسات إدارة المخاطر لديها للتحكم في الذكاء الاصطناعي.

قامت مجلة إم آي تي سلون للإدارة ومجموعة بوسطن الاستشارية للعام الثالث على التوالي بتشكيل لجنة دولية من خبراء الذكاء الاصطناعي، تضم كُلًّا من الأكاديميين والممارسين، وذلك لمساعدتنا في الحصول على رؤى حول كيفية تطبيق الذكاء الاصطناعي المسؤول في المؤسسات حول العالم. ونشرنا في العام الماضي تقريرًا بعنوان: “بناء برامج ذكاء اصطناعي مسؤولة قوية مع انتشار أدوات الذكاء الاصطناعي من أطراف ثالثة”. وما زلنا مستمرين هذا العام باختبار قدرة المؤسسات على معالجة المخاطر المتعلقة بالذكاء الاصطناعي، ولكن في سياق يشمل أول قانون شامل للذكاء الاصطناعي يُسن رسميًّا، وهو قانون الذكاء الاصطناعي الصادر عن الاتحاد الأوروبي. ولأخذ خطوة للأمام طلبنا من الخبراء وأحد المختصين في نماذج اللغات الضخمة بالتعليق على العبارة الخلافية التالية: إن المؤسسات وسعت من قدراتها لإدارة المخاطر بشكل كافٍ لمعالجة المخاطر المرتبطة بالذكاء الاصطناعي، ومعظم أعضاء اللجنة صوتوا بنسبة (62%) إما بمعارضة أو برفض تام مع هذا البيان، مؤشرين على سرعة تطور التقنية، وغموض طبيعة المخاطر، والحد من العواقب المستمرة بالتأثير على المخاطر التنظيمية. وفي الأسفل، شاركنا نظريتنا من خلال أعضاء اللجنة واعتمدنا على خبراتنا ومراقبتنا بالعمل على مبادرات الذكاء الاصطناعي المسؤول؛ لتقديم توصيات حول كيفية استغلال قدرة المؤسسات على إدارة المخاطر التنظيمية لمعالجة المخاطر المرتبطة بالذكاء الاصطناعي.

التطورات التقنية تتجاوز قدرات إدارة المخاطر

أشار العديد من الخبراء إلى أن سرعة التطورات التقنية المتعلقة بالذكاء الاصطناعي تختبر حدود إدارة المخاطر في المؤسسات. كما توضح ريانكا روي شودري، زميلة بمعهد CodeX التابع لجامعة ستانفورد: “التوسع السريع للذكاء الاصطناعي، وخصوصًا الذكاء الاصطناعي التوليدي، قد تجاوز القدرات التشغيلية لمعظم المؤسسات، ما أدى إلى استراتيجيات غير كافية للتخفيف من مخاطر الذكاء الاصطناعي”. ويضيف تيدي بيكيلي، كبير مسؤولي التقنية في شركة Land O’Lakes: “إن مستوى الاستعداد العام للتعامل مع المخاطر المتعلقة بالذكاء الاصطناعي غير كافٍ، ويرجع ذلك بشكل أساسي إلى التقدم السريع في هذا المجال، الذي يتفوق على تطوير وتنفيذ ممارسات فاعلة لإدارة المخاطر”.       بالإضافة إلى القدرات المتطورة للذكاء الاصطناعي، فإن سرعة اعتماده تمثل تحديًا آخر للمؤسسات، وكما تشرح بيلونا سونا من AfroLeadership: “أنظمة الذكاء الاصطناعي تعد من بين التطبيقات الأسرع نموًّا في العالم، وبالتالي، فإن المخاطر المرتبطة بها تتسم بالديناميكية ذاتها”.

بينما يعتقد سامير غوبتا، المسؤول الرئيسي عن التحليلات في بنك DBS، وليندا ليوبولد، رئيسة استراتيجية الذكاء الاصطناعي في مجموعة H&M، أن قدرات إدارة المخاطر التنظيمية يجب أن “تواكب” “التطور السريع لقدرات الذكاء الاصطناعي” و”سرعة تطور التقنية وانتشار استخدامها”، إلا أنهم يعترفون أيضًا بالتحدي الذي يواجهونه في تحقيق ذلك عمليًّا. تشير ليوبولد إلى أنه “حتى بالنسبة للمنظمات التي لديها برنامج قوي للذكاء الاصطناعي المسؤول، فإن مواكبة سرعة التطور ومعالجة المخاطر الجديدة بشكل مستمر يتطلب جهدًا”.

سألنا ChatGPT للإجابة عن العبارة الخلافية، وأيضًا لاحظنا عوامل إدارة الذكاء الاصطناعي للمخاطر المستمرة بالتطور. أما بالنسبة لرد ChatGPT:

“تعمل العديد من المنظمات على تعزيز إدارة المخاطر للتصدي للمخاطر المرتبطة بالذكاء الاصطناعي، ويشمل ذلك تقييم التحيزات المحتملة، وانتهاكات الخصوصية، ونقاط الضعف التشغيلية الكامنة في أنظمة الذكاء الاصطناعي، وتتضمن الاستراتيجيات المحسّنة المراقبة الاستباقية، وحكومة البيانات القوية، وأطر الامتثال. ورغم التقدم المحرز، يبقى التكيف المستمر ضروريًّا للتخفيف من المخاطر الناشئة وضمان الابتكار المستدام”.

تزداد الأمور صعوبةً على المنظمات الصغيرة، وغالبًا بسبب افتقارها للخبرة أو الموارد اللازمة لتخصيصها لهذه الوظيفة، كما توضح يا شو رئيسة قسم البيانات والذكاء الاصطناعي في لينكد-إن: إن تأسيس قدرات جيدة لإدارة المخاطر يتطلب موارد وخبرات كبيرة، وهو ما لا تستطيع جميع الشركات تحمله أو توفيره في الوقت الحالي”. وتلاحظ الباحثة نانجيرا سامبولي بالمثل أن: “المؤسسات الصغيرة والمتوسطة، التي تشكل الجزء الأكبر من المنظمات في العديد من الاقتصادات، قد لا تمتلك بعد القدرة على تشكيل فرق متخصصة في إدارة المخاطر أو الموارد لاستخدام خدمات إدارة المخاطر الخارجية”، وتؤيد ذلك إيلين نيلسن، رئيسة قسم البيانات في Chevron، قائلة: “الطلب على خبراء حوكمة الذكاء الاصطناعي وإدارة المخاطر يتجاوز العرض المتاح”.

الغموض من أكبر التحديات

الغموض حول طبيعة المخاطر المرتبطة بالذكاء الاصطناعي يضع حدود قدرات إدارة المخاطر الحالية على المحك، خاصة في ظل غياب معايير واضحة ومحددة لتحديد هذه المخاطر وفهمها وقياسها. وبينما تعمل بعض المنظمات على تكييف قدرات إدارة المخاطر الحالية (مثل حوكمة البيانات، والخصوصية، والأمن السيبراني، والأخلاقيات، والثقة والسلامة)، تحاول منظمات أخرى بناء قدرات جديدة مخصصة للذكاء الاصطناعي.

لاحظ الرئيس التنفيذي رانجيت بانيرجي لشركة Cold Chain Technologies، قائلًا: “لا أعتقد أن هناك فهمًا جيدًا اليوم للمخاطر المتعلقة بالذكاء الاصطناعي في معظم المنظمات”. ويقدم أستاذ معهد ماساتشوستس للتكنولوجيا، سانجاي سارما، ملاحظة مماثلة: “يبدو أن النطاق الهائل للمخاطر يؤدي إلى شلل تحليلي، ما يجعل الشركات غير قادرة على استيعاب مشهد المخاطر بنجاح”. وبالإضافة إلى مجموعة المخاطر المعروفة الواسعة، يشير ليوبولد إلى أن “المخاطر الجديدة تستمر في الظهور مع تطور التقنية ومجالات تطبيقها”. ويضيف شودهوري: “تتمثل عقبة كبيرة في فهم وتحديد المخاطر المحتملة المرتبطة بالذكاء الاصطناعي، خصوصًا داخل المنظمات الصغيرة”، ونتيجة لذلك يقول يان تشاو، رئيس قطاع الرعاية الصحية العالمي في شركة Automation Anywhere: “قد يتطلب الأمر الذكاء الاصطناعي لفهم مخاطره الخاصة” (وفي الواقع، هناك بعض المنظمات التي تسير بالفعل في هذا الاتجاه).

يتمثل أحد التحديات الرئيسية كما توضح سامبولي، في تحديد “كيف تختلف المخاطر المتعلقة بالذكاء الاصطناعي بشكل واضح عن المخاطر الأخرى الناجمة عن استخدام وانتشار التقنية الرقمية والتقنيات الناشئة”. وتجادل شيلبا براساد، رئيسة قسم التسويق في LG Nova، بأن: “المخاطر التي تفرضها أنظمة الذكاء الاصطناعي فريدة من نوعها في العديد من الجوانب”. بينما يرى ديفيد هاردون، الرئيس التنفيذي لشركة Aboitiz Data Innovation، أن: “معظم المخاطر ليست مرتبطة بشكل حصري بالذكاء الاصطناعي، مثل حوكمة البيانات”، ويضيف: “لتوسيع القدرات المتعلقة بالمخاطر، هناك حاجة إلى توسيع ومراجعة وفهم المخاطر المحددة للذكاء الاصطناعي التي تختلف عن المخاطر غير المرتبطة بالذكاء الاصطناعي”، ويوضح ديفيد بولغار، مؤسس منظمة All Tech Is Human، سبب ذلك قائلًا: “الذكاء الاصطناعي، وبالأخص الذكاء الاصطناعي التوليدي، يميل إلى إرباك الاستجابات المناسبة للمخاطر؛ لأنه غالبًا ما يُنظر إليه من خلال عدسة الجِدّة الغامضة بدلًا من اعتباره تقنية جديدة تطرح معضلات كلاسيكية حول حقوق النشر، وحماية البيانات، والإعلانات المضللة”.

الغياب الواضح والمتسق لإدارة مخاطر الذكاء الاصطناعي يعدُّ تحديًا آخر لمعظم المؤسسات. تشير فرانزيسكا وينداور الرئيسة التنفيذية لمختبر TÜV AI.Lab، إلى “غياب الأطر والإرشادات التي يطورها خبراء في المجال لمساعدة [المنظمات] على تنفيذ نظام لإدارة المخاطر”، وبالمثل يرى رايان كارير مؤسس منظمة ForHumanity، أن “الفشل في تضمين مدخلات متنوعة وردود فعل من مختلف أصحاب المصلحة في عملية إدارة المخاطر يؤدي إلى رؤى محدودة حول تحديد المخاطر، وإلى الإخفاق في الكشف عن المخاطر المتبقية”. ووفقًا لأندرو ستريت المدير المساعد في معهد آدا لوفليس، “ما زلنا في عصر التجريب واختبار طرق مختلفة، لكنها لم تثبت فاعليتها بعد”، ومع ذلك، قد تكون الأمور في طور التغيير.

دور التنظيمات لا يزال قيد التقييم

ينقسم خبراؤنا حول دور تنظيمات الذكاء الاصطناعي؛ لاحظ رئيس قسم البيانات راينر هوفمان في شركة EnBW، أنه “مع إدخال قانون الذكاء الاصطناعي الأوروبي، الذي يفرض إدارة المخاطر للتطبيقات عالية الخطورة، بدأت المنظمات تدرك أهمية النظر في المخاطر المتعلقة بالذكاء الاصطناعي”، ويضيف البروفيسور تيمو روس من جامعة هلسنكي: “سيتعين على الشركات الاستثمار في الامتثال [لقانون الذكاء الاصطناعي]، تمامًا كما حدث عند إدخال اللائحة العامة لحماية البيانات عام 2018م”، أما ريتشارد بنجامينز، المؤسس المشارك لشركة OdiselA، فيقول: “مع اللوائح القادمة، وخاصة في الاتحاد الأوروبي مع قانون الذكاء الاصطناعي، تقوم العديد من المنظمات بتوسيع قدراتها في إدارة المخاطر لمعالجة المخاطر المتعلقة بالذكاء الاصطناعي”، لكنه يحذر قائلًا: “السرعة التي يحدث بها هذا الأمر تختلف بشكل كبير من منظمة إلى أخرى”، وتذكّرنا الباحثة ياسودارا كوردوفا من Unico IDtech بأنه: “استغرق الأمر ما يقرب من عقد من الزمان من اللوائح لكي تبدأ المنظمات في تعزيز قدراتها لإدارة مخاطر الخصوصية”.

بعضهم الآخر أقل تفاؤلًا بشأن فاعلية التنظيمات؛ يرى الأمين العام المساعد للأمم المتحدة، تشيليدزي ماروالا، أن: “تعظيم الأرباح من خلال الذكاء الاصطناعي يحظى بحوافز أكبر من معالجة المخاطر المرتبطة به”، ويقول سيمون تشيسترمين، أستاذ في جامعة سنغافورة الوطنية: “بالنسبة للشركات، غالبًا ما يسيطر الخوف من تفويت الفرص”، ويشرح كارير قائلًا: “تدّعي الجهات الفردية اهتمامها بإدارة المخاطر، لكنها تعمل بنشاط على تقويض السياسات والمعايير”. نتيجةً لهذه المخاوف، يعتقد برونو بيوني، المدير المؤسس لمنظمة “خصوصية البيانات في البرازيل”، أن “القضية الأكثر إلحاحًا هي ما إذا كنا، كمجتمع، نقوم بتوسيع قدراتنا على إدارة المخاطر بشكل ديمقراطي”.

التوصيات

تسعى المؤسسات للاستفادة من قدرة إدارة المخاطر التنظيمية لتحديد المخاطر المتعلقة بالذكاء الاصطناعي، لذلك نوصي بالخطوات التالية:

1. تحديد المبادئ الأساسية أولًا: نظرًا إلى أن مخاطر الذكاء الاصطناعي ديناميكية وتتطور بسرعة، ينبغي على المنظمات تبني نهج مرن يعتمد على مبادئ إرشادية عالية المستوى ومعايير توجيهية يمكن تطبيقها أو تكييفها مع التطبيقات المحددة أو التطورات في تقنيات الذكاء الاصطناعي، بدلًا من التعامل معها بشكل عشوائي أو حسب الحاجة.

2.  التحلي بالمرونة ومواصلة التعلم: يجب على المنظمات أن تدرك أن التعلم الجماعي حول مخاطر الذكاء الاصطناعي وأساليب التخفيف منها ما زال مستمرًّا، وأن أساليبها الخاصة ستحتاج إلى التطور بسرعة بالتوازي مع الفهم المتزايد للجميع.

3.   زيادة الاستثمار في أدوات تخفيف المخاطر: ينبغي على المنظمات تحديد الأماكن التي يمكن أن تساعد فيها أدوات تخفيف المخاطر الحالية في معالجة المخاطر المرتبطة بالذكاء الاصطناعي، بما في ذلك حوكمة البيانات والخصوصية، والأمن السيبراني، والأخلاقيات، والثقة والسلامة، بالإضافة إلى وظائف الامتثال الأخرى، والاستثمار في تعزيز قدرات إدارة المخاطر حيثما تكون الوظائف الحالية غير كافية. ونظرًا لأن مخاطر الذكاء الاصطناعي في الوقت الحالي يمكن أن تنشأ من داخل المنظمة أو خارجها، يجب تصميم نهج تخفيف المخاطر لمعالجة كلا النوعين من المخاطر.

4. ابدأ التطبيق: على الرغم من أن قانون الذكاء الاصطناعي للاتحاد الأوروبي قد يكون القانون الشامل الوحيد الخاص بالذكاء الاصطناعي حاليًّا، يمكننا أن نتوقع أنه لن يكون الوحيد. علاوة على ذلك، لا توجد استثناءات للذكاء الاصطناعي من القوانين السارية. ونظرًا لأن وضع برنامج شامل لإدارة مخاطر الذكاء الاصطناعي قد يستغرق عدة سنوات، لا يمكن للمنظمات الانتظار حتى يتم تطوير اللوائح لتنفيذ نهج متعمد ومرن لإدارة مخاطر الذكاء الاصطناعي.

توسع المؤسسات من قدراتها بشكل كافٍ لإدارة المخاطر لتحديد المخاطر المتعلقة بالذكاء الاصطناعي

 يعتقد أغلبية الخبراء بأن المؤسسات لن تستطيع التوسيع من قدراتها بشكل كافٍ لإدارة المخاطر لمعالجة المخاطر المتعلقة بالذكاء الاصطناعي.

ردود الخبراء

0% موافق بشدة.

16.7% موافق.

21.4% محايد.

52.4% معارض.

9.5% معارض بشدة.

الردود الفردية

ريتشارد بنجامينز (نظرة ثاقبة على  الذكاء الاصطناعي).

 التصويت: موافق.

مع اقتراب دخول اللوائح الجديدة حيز التنفيذ، خاصة في الاتحاد الأوروبي مع قانون الذكاء الاصطناعي، توسّع العديد من المنظمات قدراتها في إدارة المخاطر لمعالجة المخاطر المتعلقة بالذكاء الاصطناعي، ومع ذلك، فإن سرعة هذه العملية تختلف بشكل كبير بين المنظمات.

فمعظمها قد بدأ للتو في التعرف إلى اللوائح الجديدة، ومن منظور الامتثال يحاولون اللحاق بما تعنيه هذه اللوائح بالنسبة لمنظماتهم. أما المنظمات المتقدمة في مجال الذكاء الاصطناعي، والتي بدأت رحلتها نحو الاستخدام المسؤول والأخلاقي للذكاء الاصطناعي منذ عدة سنوات، فعليها الآن تعديل نهجها ليشمل متطلبات اللوائح الجديدة. وبالنظر إلى تغير العقلية الثقافية، فإن هذه المنظمات في وضع أفضل مقارنة بالأخرى.

ولإثارة الجدل قليلًا، أعتقد أنه في المنظمات التي تسعى إلى تعزيز قدراتها في إدارة المخاطر بدافع الالتزام التنظيمي، فإن هذا النشاط غالبًا ما يكون مدفوعًا بأقسام الامتثال بهدف الاستمرار في الالتزام بالقوانين وتجنب الغرامات، أما في المنظمات التي بدأت رحلتها نحو الذكاء الاصطناعي المسؤول منذ سنوات، فإن هذه الأنشطة عادة ما تكون بقيادة التقنية بوساطة مؤيدي الذكاء الاصطناعي وتعتمد على الريادة الفكرية.

كارتر كوزينو – تومسون رويترز

 التصويت: موافق

أتفق بأنّ المؤسسات وسعت من قدرتها على إدارة المخاطر المتعلقة بالذكاء الاصطناعي؛ بعضها صنع رابطة وثيقة للتأكّد من أن المصداقية والمسؤولية في استخدام البيانات والذكاء الاصطناعي والتعامل مع الذكاء الاصطناعي في الثقافة منذ عدة سنوات. والمجالات التي توسعت قدراتهم فيها تشمل إنشاء ثقافة مدفوعة بالبيانات والذكاء الاصطناعي وزيادة الوعي المسؤول، مع ضمان التزامهم بالقوانين واللوائح، وبناء الموارد والخبرات الداخلية (الفرق/ اللجان الداخلية) مع الاستفادة من الموارد الخارجية (اللجان/ المجالس)، وتعزيز التعاون/ مشاركة المعرفة داخليًّا (مثل لجنة الاستشارات الأخلاقية وفريق اختبار الذكاء الاصطناعي الأحمر) وخارجيًّا (على سبيل المثال، اتحاد معهد أمان الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتقنية).

تريفيني غاندي داتا إيكو

  التصويت: موافق

 شهدنا في العام الماضي زيادة ثابتة في عدد الأطر والمعايير والسياسات المقترحة بشأن مخاطر الذكاء الاصطناعي، وأصبحت المنظمات أكثر وعيًا بالحاجة إلى التعامل مع هذه المخاطر، وللشركات الكبيرة، نرى أن هذا ينعكس في التغييرات الإجرائية داخل دورة حياة تطوير الذكاء الاصطناعي، ومع ذلك، لا تزال العديد من المنظمات تكافح لتنفيذ ضوابط دقيقة على أنواع المخاطر المختلفة، خاصة عندما يتعلق الأمر بالذكاء الاصطناعي التوليدي. وستحتاج الشركات في المستقبل بالعمل مع أدوات ومزودين يمكنهم تقديم المرونة، والقدرة على التكيف مع تطور التقنية والأطر المرتبطة بإدارة المخاطر.

سمير غوبتا – بنك التنمية السنغافوري

 التصويت: موافق

  بدأت المنظمات تدريجيًّا وعلى مدار السنوات في استغلال إمكانات البيانات، وفي الوقت نفسه تطوير أطر لإدارة البيانات والمخاطر لتخفيف المخاطر المرتبطة بها. ومؤخرًا، أدى تبني تقنيات الذكاء الاصطناعي وتعلم الآلة بالإضافة إلى قدرات الذكاء الاصطناعي التوليدي إلى تسريع عملية استخدام البيانات في المؤسسات، ما أضاف مجموعة جديدة من المخاطر المتزايدة مثل العدالة، والتحيز، وقابلية التفسير، والأخلاقيات، وخاصة قدرتها على الهلوسة (والمقصود بالهلوسة تلفيق إجابات غير صحيحة). وقد أدى ذلك إلى تغييرات جوهرية في كيفية إدارة المؤسسات للمخاطر المتعلقة بالبيانات، مع تحول التركيز من إدارة البيانات نفسها إلى ضمان استخدامها بطريقة مسؤولة. باختصار، تقوم المؤسسات بتوسيع أطر إدارة المخاطر لديها لمعالجة المخاطر المتعلقة بالذكاء الاصطناعي، ومع ذلك، تكمن التحديات في ضمان أن تكون هذه التدابير قادرة على مواكبة التطور السريع لقدرات الذكاء الاصطناعي، خاصة في ظل المخاطر الناشئة المتعلقة بالذكاء الاصطناعي التوليدي.

روهان راجبوت    Headspace

التصويت: موافق

  تدرك المنظمات بشكل متزايد الحاجة إلى تحسين استراتيجيات إدارة المخاطر للتعامل مع التحديات التي يفرضها الذكاء الاصطناعي، ويتضمن ذلك تعزيز الوعي داخل المنظمة لإعطاء الأولوية لتخفيف المخاطر من خلال التعليم والتدريب. بالإضافة إلى ذلك، تعمل الشركات على تطوير أطر وسياسات لتنظيم استخدام الذكاء الاصطناعي في منتجاتها وخدماتها، كما يُلاحظ زيادة كبيرة في الاستثمارات في أدوات إدارة مخاطر الذكاء الاصطناعي المصممة للكشف عن المخاطر المتعلقة بالذكاء الاصطناعي وتقييمها والتخفيف منها. ورغم هذه التطورات، لا تزال هناك مجالات تحتاج إلى اهتمام خاص، لا سيما فيما يتعلق بالاعتبارات الأخلاقية، والعدالة، ومنع التحيز. ومع تقدمنا للأمام، من الضروري أن تطور الشركات خططًا شاملة لمعالجة هذه القضايا، لضمان استخدام الذكاء الاصطناعي بشكل مسؤول ومنصف.

تيمو روس – جامعة هلسنكي

  التصويت: موافق 

من جهة ربما تكون الشركات تطبق بالفعل تدابيرَ واسعة لإدارة المخاطر، لكنها ليست مُسمّاة “إدارة مخاطر الذكاء الاصطناعي”. ما أعنيه هو أننا في بعض الأحيان نعتقد أن الذكاء الاصطناعي عالم منفصل، حيث توجد مخاطر وفرص خاصة به فقط، في حين أن كل تطبيق للذكاء الاصطناعي يتم نشره في سياق معين. ومحاولة إنشاء إدارة مخاطر منفصلة للذكاء الاصطناعي من الصفر قد تؤدي على الأرجح إلى تناقضات مع القدرات الحالية والمتداخلة لإدارة المخاطر. ومن جهة أخرى، هناك أنواع معينة من المخاطر، مثل قضايا الملكية الفكرية والخصوصية، تتضخم بالفعل بسبب الذكاء الاصطناعي، ما يعني أن هناك حاجة إلى قدرات إضافية لإدارة المخاطر. بالإضافة إلى ذلك، مع دخول قانون الذكاء الاصطناعي للاتحاد الأوروبي تحت التنفيذ، ستحتاج الشركات إلى الاستثمار في الامتثال، تمامًا كما حدث مع تقديم اللائحة العامة لحماية البيانات في عام 2018م.

شامينا سينغ – ماستركارد

  التصويت: موافق

يمكن للتقنية الجديدة أن تعد بإمكانات غير محدودة، لكنها تحتاج إلى أن تتم ضمن نموذج حوكمة قوي حتى نتمكن من تقييم ومعالجة المخاطر بشكل مناسب، ومع ظهور وتنفيذ تقنيات جديدة مثل الذكاء الاصطناعي، تقع على عاتقنا مسؤولية ضمان تضمين الخصوصية والأمان في جميع المراحل، مع الالتزام بالمساءلة والنزاهة. ففي عملي بمركز النمو الشامل التابع لماستركارد، نلتزم بأعلى المعايير المتعلقة بمسؤولية البيانات والتقنية، ونعمل مع الشركاء والمنظمين وواضعي السياسات لوضع إطار مشترك أوسع للابتكار المسؤول القائم على البيانات. لدينا برامج قوية لحوكمة الخصوصية والأمان والذكاء الاصطناعي، ولكننا أيضًا نقوم بالتطوير المستمر لضمان مواجهة التحديات المتغيرة المتعلقة بإساءة استخدام البيانات المحتملة. مثال على ذلك هو أننا قمنا بتطبيق إشراف إضافي من قبل كبار التنفيذيين على جميع حالات استخدام الذكاء الاصطناعي التوليدي المقترحة للتأكد من أن البيانات تُدار بمسؤولية وأخلاقية.

بيير-إيف كالوش   بيرنو ريكار

التصويت: محايد

نقص المعرفة أو الفهم الصحيح أدى إلى مزيجٍ يجمع كلًّا من المبالغة في تقدير المخاطر والتقليل من شأنها، واتباعنا لهذا النهج أفقَدَنا الطريق الأنسب لاستخدامها.

دوغلاس هاميلتون ناسداك

  التصويت: محايد

 بلا شك، تأخذ الشركات على محمل الجد حقيقة أن اعتماد الذكاء الاصطناعي يطرح بعض المخاطر؛ فتقوم الشركات بتشكيل مجالس حوكمة وأخلاقيات، وتتفاعل مع الجهات التنظيمية، وتستجيب للأخبار المتعلقة بالحوادث المختلفة المتعلقة بالذكاء الاصطناعي. وبينما توسع الشركات وظائف وإشراف إدارة المخاطر لديها للتعامل مع الذكاء الاصطناعي، فإنها لا تقوم بذلك بطريقة تأخذ في الحسبان الأنواع الفريدة والجديدة من المخاطر والفوائد التي يوفرها الذكاء الاصطناعي، ولا تزال المنظمات المعنية بالمخاطر والمجموعات المدافعة عنها يُهيمن عليها المحامون، مع وجود قلة من الخبراء الفنيين في الغرف، الذين يمكنهم تقديم الرأي في الحسابات المناسبة للتغيرات في القيمة التي تحتاج الشركات إلى مراعاتها.

كارتك هوساناغار – كلية وارتون، جامعة بنسلفانيا
 التصويت: محايد

تتحرك المنظمات بحذر وتوسّع قدراتها في إدارة المخاطر، خاصة فيما يتعلق بالمخاطر المرتبطة بخصوصية البيانات وسريتها، ويرجع ذلك إلى موجات سابقة من اللوائح، مثل اللائحة العامة لحماية البيانات، التي أرست أفضل الممارسات في مجال الخصوصية. ومع ذلك، هناك مجموعة من المخاطر مثل انهيار النماذج بسبب انتشار البيانات الاصطناعية أو هجمات حقن التعليمات، وهذه الهجمات وتبعاتها ليست مفهومة جيدًا، فضلًا على عدم وجود أفضل الممارسات الموثوقة للتعامل معها.

توم موني – هارمان

  التصويت: محايد

الابتكار دائمًا ما يتفوق على الحوكمة، ولكن في ظل الضغوط التنظيمية والسوقية والاجتماعية المتزايدة، تولي المنظمات اهتمامًا متزايدًا لبيئة المخاطر والمناخ المحيط بالذكاء الاصطناعي. وإذا لم تكن هذه المنظمات تأخذ الذكاء الاصطناعي في الحسبان ضمن ملفات المخاطر الخاصة بها سابقًا، فهي تفعل ذلك الآن. هل ستكون جهودها “كافية”؟ من الصعب القول. هناك العديد من العوامل التي تؤثر على ملف تعرض الشركة، والتي تحدد ما إذا كانت الجهود فاعلة أو كافية. هل ستكون جهودها متوافقة؟ على الأرجح نعم، لكن الأهم من ذلك هو أن المنظمات تحتاج إلى إطار لإدارة مخاطر الذكاء الاصطناعي لتجنب قرارات مدفوعة بدورات الضجيج تؤدي إلى صدمات منهجية. بمعنى آخر، تجنب لحظات من قبيل “إيقاف الاستثمارات إلى أجل غير مسمى بسبب تهديدات مثل “Tyler: Perry Studios/Sora”، أو القيادة التي تبالغ في التقدير والاستثمار معتقدة أن “حقنة بسيطة من الذكاء الاصطناعي” ستقضي على أوجه القصور تمامًا، كما يذيب دواء Ozempic تكاليف البيع والعموميات والإدارية.

سيمون أولديكوب – كارل زايس AG

 التصويت: محايد

 يبدو أن تكيف قدرات إدارة المخاطر يعتمد حاليًّا بشكل كبير على القطاع الصناعي، حيث تكون أكثر تقدمًا في الصناعات التي تخضع لتنظيم صارم، مثل التمويل أو التقنية الطبية. بالإضافة إلى ذلك، من المرجح أن تكون الشركات أكثر استعدادًا في المجالات التي تستهدفها لوائح الذكاء الاصطناعي، مثل قانون الذكاء الاصطناعي القادم في الاتحاد الأوروبي ومتطلباته ذات الصلة.

نانجيرا سامبولي – مؤسسة كارنيغي للسلام الدولي

  التصويت: محايد

 السؤال الفوري هو: كيف تختلف المخاطر المتعلقة بالذكاء الاصطناعي بشكل ملحوظ عن المخاطر الأخرى الناشئة عن استخدام التقنية الرقمية والتقنيات الناشئة وانتشارها؟ من المرجح أن تكون قدرات إدارة المخاطر التي تمتد إلى المخاطر المتعلقة بالذكاء الاصطناعي موجودة في الشركات الكبيرة والرائدة في مجال التقنية وغيرها من القطاعات، سواء بسبب تصميمها أو تبنيها المبكر أو تأثرها بالذكاء الاصطناعي، أما المؤسسات الصغيرة والمتوسطة، التي تشكل الجزء الأكبر من المنظمات في العديد من الاقتصادات، فقد لا تكون لديها القدرة على امتلاك فرق مخصصة لإدارة المخاطر أو الموارد لاستخدام خدمات إدارة المخاطر من أطراف ثالثة. ومن المحتمل أن تكون المنظمات لا تزال تستكشف كيف يؤثر الذكاء الاصطناعي عليها وعلى مجالات عملها، مع إعطاء الأولوية لمخاطر فورية أخرى، مثل الأمن السيبراني وحماية البيانات. ومع ذلك، قد تظهر المخاطر المتعلقة بالذكاء الاصطناعي بالفعل في التقييمات الحالية للمخاطر بسبب الرقمنة بشكل عام، وبالتالي قد لا تُعامل كمخاطر فريدة أو منفصلة بحد ذاتها.

أميت شاه  Instalily.ai

   التصويت: محايد

بصفتي عضوًا في مجلس الإدارة يتمتع بخبرة تشغيلية عميقة، ومؤسسًا لشركة ناشئة في مجال الذكاء الاصطناعي الآن، فأنا على دراية وثيقة بالتوازن الدقيق بين استغلال فرص الذكاء الاصطناعي وتخفيف مخاطره. نحن في عصر يمكن أن يكون فيه الذكاء الاصطناعي محفزًا للابتكار، ودافعًا للكفاءة، ومصدرًا لتقديم ميزة تنافسية في السوق. ومع ذلك، فإن الذكاء الاصطناعي ليس خاليًا من المخاطر. فقضايا خصوصية البيانات، والاعتبارات الأخلاقية، والتحيزات المحتملة هي فقط قمة جبل الجليد. والمفتاح هو التنقل في هذه المياه بعقلية استراتيجية، مع دمج أدوات وأنظمة لحوكمة الذكاء الاصطناعي، مثل تلك التي توفرها شركات مثل Credo AI وKetch، لضمان توافق مبادرات الذكاء الاصطناعي مع المعايير التنظيمية والمعايير الأخلاقية. والأمر يتعلق بتعزيز ثقافة الابتكار المسؤول، حيث نقوم باستمرار بتقييم تأثير أنظمة الذكاء الاصطناعي لدينا، والتأكد من أنها تخدم مصالح أصحاب المصلحة لدينا وتتماشى مع قيم الشركة، وتحقيق هذا التوازن ليس عملية تحدث بين عشية وضحاها؛ بل يتطلب حوارًا مستمرًّا، وتعليمًا، وتكيفًا، إنه توازن ديناميكي لا يزال في مراحله المبكرة.

بيلونا سونا – الجامعة الوطنية الأسترالية

 التصويت: محايد

إن مناقشة المخاطر المتعلقة بالذكاء الاصطناعي داخل المنظمات أصبحت اتجاهًا عالميًّا، ولكن تأثير هذه المناقشة يختلف وفقًا للبيئة الاجتماعية والاقتصادية للمنظمة، ويتضمن ذلك مدى معرفة المدير التنفيذي بالذكاء الاصطناعي، وفائدة استخدام الذكاء الاصطناعي لتحقيق دخل الشركة، ودور حكومة البلد المستضيف في تنظيم الذكاء الاصطناعي وحماية البيانات، ومستوى جاهزية البلد لاستخدام الذكاء الاصطناعي. فالمنظمات التي يُتوقع منها الامتثال للسياسات الموضوعة أو تحقيق أرباح من خلال الذكاء الاصطناعي تعمل على تطوير قدراتها في إدارة المخاطر لضمان رضا عملائها، أما المنظمات الأخرى، فما زالت في مرحلة الاستفادة من الذكاء الاصطناعي ليعمل لصالحها. هذه النقطة الأخيرة تفتح الباب لاحتمالين: قد تكون فرصة لتبني تدابير الحد من مخاطر الذكاء الاصطناعي في مرحلة مبكرة، أو قد تكون سببًا آخر للخوف من استخدام الذكاء الاصطناعي، إذ إن الأضرار المحتملة قد تكون هائلة. علاوة على ذلك، تُعد أنظمة الذكاء الاصطناعي من بين التطبيقات الأسرع نموًّا في العالم، وبالتالي فإن المخاطر المرتبطة بها ديناميكية بالقدر نفسه، حتى بعض المنظمات التي تسعى للحفاظ على قدرات عالية في التعامل مع مخاطر الذكاء الاصطناعي قد تفوّت شيئًا ما في هذه العملية، وهذا يعني أن على المنظمات أن تستمر دائمًا في تعزيز قدراتها للتعامل مع المخاطر المرتبطة بالذكاء الاصطناعي.

إليزابيث آن واتكينز – مختبرات إنتل

التصويت: محايد

نظرًا للطبيعة العامة لهذا السؤال، من الصعب الموافقة أو المعارضة بشكل مطلق؛ إذ توجد عناصر تدل على التقدم، وكذلك فجوات في المنظومة عندما يتعلق الأمر بإدارة مخاطر الذكاء الاصطناعي. في شركة إنتل، نواصل تطوير عملية تحليل الذكاء الاصطناعي المسؤول لتقييم المخاطر المحتملة المتعلقة بسوء استخدام المنتجات، والتحيز الخوارزمي، وشفافية الخوارزميات، وانتهاك الخصوصية، والحد من حرية التعبير، ومخاطر الصحة والسلامة، بحيث يتمكن مجلس الذكاء الاصطناعي المسؤول من العمل مع المطورين لوضع استراتيجيات لتخفيف المخاطر. وقد كان من المشجع أن نرى جهودًا أخرى في المجالات الصناعية والتنظيمية، مثل إطار عمل إدارة مخاطر الذكاء الاصطناعي من المعهد الوطني للمعايير، والتقنية، وقانون الذكاء الاصطناعي الأوروبي، التي تتبنى نهجًا قائمًا على المخاطر لضمان أن تُمكّن أدوات الذكاء الاصطناعي ازدهار البشرية وسط المشهد التكنولوجي المتغير بسرعة.

 ومع ذلك فإن أحد مجالات المخاطر التي أدرجناها حديثًا في مبادئ الذكاء الاصطناعي المسؤول هو الاستدامة. وبينما نقوم بتطوير أساليب التخفيف، لا يزال التعامل مع التأثيرات البيئية غير جزء من المحادثات الأوسع نطاقًا التي تجري حاليًّا، والأدوات المستخدمة في هذا المجال لا تزال في مراحلها الأولى، ما يعني أن الطريق لا يزال طويلًا.

كارولينا أغوير – جامعة أوروغواي الكاثوليكية 

التصويت: معارض

لم توسع المؤسسات بعد قدراتها على إدارة المخاطر بشكل كافٍ للتعامل مع المخاطر الناجمة عن الذكاء الاصطناعي، لا سيما في الاقتصادات الناشئة. أولًا، لا يوجد وعي كافٍ بالمخاطر المرتبطة بنشر بعض أنظمة الذكاء الاصطناعي داخل المؤسسات، أي أن الطلب على هذه الأنظمة لم يتم تحديده بشكل شامل ليشمل تقييم المخاطر الذي لا يأخذ المخاطر التقنية فقط في الحسبان، بل يشمل أيضًا المخاطر القانونية والأخلاقية. ثانيًا، كيفية معالجة موردي أنظمة الذكاء الاصطناعي للمخاطر المرتبطة بالأنظمة التي يقومون بتطويرها هي أمر جوهري عندما يكون الطرف المستفيد (الطلب) غير قادر أو غير واعٍ بكيفية التعامل مع هذه المخاطر. وإن نهجًا أكثر شمولية لإدارة المخاطر هو ذلك الذي يتمكن من دمج تقييم للمخاطر يأخذ في الحسبان الرؤية النظامية. بمعنى آخر، عندما تقوم مؤسسة ما بنشر نظام ذكاء اصطناعي، هل تكتفي بمراعاة مخاوف الكفاءة والفاعلية فقط، أم أنها قادرة أيضًا على التعامل مع المخاوف المجتمعية الأوسع الناتجة عن هذه الممارسات (مثل الأتمتة واستبدال الوظائف، والعواقب المتعلقة بالمناخ، والمراقبة)؟

 رانجيت بانيرجي              تقنيات سلسلة التبريد          

التصويت: معارض

لا أعتقد أنه توجد معرفة جيدة للمخاطر المتعلقة بالذكاء الاصطناعي هذه الأيام عند معظم المؤسسات.

تيدي بيكيلي         Land O’Lakes 

التصويت: معارض

تواجه المنظمات صعوبة في مواكبة التطور السريع للذكاء الاصطناعي، وغالبًا ما تفتقر إلى فهم عميق لقدراته ومخاطره، ويؤدي هذا النقص في الوعي إلى أطر إدارة مخاطر غير كافية وغير قادرة على التخفيف الفاعل من المخاطر المتعلقة بالذكاء الاصطناعي. بالإضافة إلى ذلك، تتبنى العديد من الشركات نهجًا تفاعليًّا قائمًا على الخوف في إدارة مخاطر الذكاء الاصطناعي، بدلًا من وضع استراتيجيات استباقية تعتمد على المبادئ التوجيهية. هذا النهج لا يعيق قدرة المنظمات على تحقيق التوازن بين فوائد الذكاء الاصطناعي ومخاطره المحتملة فقط، بل يجعل من الصعب أيضًا معالجة الانتشار غير المنضبط لتقنيات الذكاء الاصطناعي. وعلى الرغم من بعض الجهود المبذولة لتحسين قدرات إدارة المخاطر، فإن مستوى استعداد المنظمات لمواجهة المخاطر المتعلقة بالذكاء الاصطناعي لا يزال غير كافٍ، ويرجع ذلك بشكل أساسي إلى التطورات السريعة في مجال الذكاء الاصطناعي التي تفوق سرعة تطوير وتنفيذ ممارسات فاعلة لإدارة المخاطر.

برونو بيوني- خصوصية البيانات في البرازيل

 التصويت: معارض

بدءًا من المخاوف البيئية إلى قضايا سلامة الغذاء، تعد إدارة المخاطر جهدًا جماعيًّا يعتمد بالأساس على مستوى التدقيق العام، وعلى الرغم من بعض المبادرات المهمة من قبل بعض الشركات والحكومات، فإنّ مجتمعنا لا يزال غير ناضج في هذا الصدد. ولا تزال هناك فجوة كبيرة من حيث عدم التماثل في المعلومات، تعيق إدارة المخاطر بشكل أكثر كفاءة في مجال الذكاء الاصطناعي. نحن نجمع بين القوانين الصارمة والمرنة لتعزيز آليات المساءلة لإدارة مخاطر الذكاء الاصطناعي. وبدءًا من إرشادات اليونسكو إلى الأمر التنفيذي للرئيس بايدن ومسودة قانون الذكاء الاصطناعي البرازيلية قيد الدراسة، تدعو هذه الجهود على التوالي إلى التعاون الدولي لرصد حوادث الذكاء الاصطناعي علنًا، وإجراء تقييمات إلزامية لتأثير الخوارزميات، وإنشاء قاعدة بيانات مفتوحة تسجل أنظمة الذكاء الاصطناعي عالية المخاطر، وكيف يتم تقييمها من حيث تخفيف المخاطر بفاعلية. والمسألة الأكثر إلحاحًا هي ما إذا كنا، كمجتمع، نقوم بتوسيع قدرات إدارة المخاطر لدينا بطريقة ديمقراطية، لذلك من الضروري تحديد نوع إدارة المخاطر التي نرغب فيها كمجتمع؛ وإلا، فقد تؤدي هذه التقنية إلى تكنوقراطية.

ريان كارير ForHumanity

التصويت: معارض

لم يقُم قطاع التقنية بتأسيس إدارة المخاطر كجزء من تصميمه، ولديه تاريخ يزيد على 40 عامًا للتغلب عليه. فهو القطاع الاقتصادي الرئيسي الوحيد الذي لا يزال إلى حد كبير غير منظم، ونتيجة لذلك، نرى القليل من الحوكمة والإشراف والمساءلة في هذا القطاع. يدعي بعض اللاعبين الأفراد اهتمامهم بإدارة المخاطر والسلامة، لكنهم يعملون بنشاط لإفشال التدابير مثل السياسات والمعايير (في المجالات التي يمكنهم فعل ذلك داخلها بهدوء). وبشكل علني، قامت الشركات التقنية الكبرى بفصل فرق كاملة مرتبطة بإدارة المخاطر والذكاء الاصطناعي المسؤول. وأخيرًا، هناك رفض تام للتفاعل مع المجتمع المدني وبرامج الحوكمة الخارجية والإشراف والمساءلة. وتحدد هذه المنظمات ممارساتها الخاصة بـ”الذكاء الاصطناعي المسؤول”، متجاهلة أفضل الممارسات العالمية، كما أنها تفشل في تضمين مدخلات متنوعة وآراء متعددة الأطراف في عملية إدارة المخاطر، ما يؤدي إلى رؤى محدودة حول تحديد المخاطر، وفشل في الكشف عن المخاطر المتبقية.   إلى أن يرى المجتمع إفصاحًا عامًّا عن المخاطر المتبقية المرتبطة بأدوات الذكاء الاصطناعي، سنعلم أن الشركات لا تأخذ المخاطر بجدية، لأنها تبذل جهودًا محدودة لحماية نفسها من المسؤولية.

سيمون شستيرمان – الجامعة الوطنية في سنغافورة

التصويت: معارض

إن انتشار النقاشات والتشريعات والمعاهد الجديدة التي تركز على سلامة الذكاء الاصطناعي يعكس جدية الهدف في تحقيق التوازن بين الرغبة في فوائد الذكاء الاصطناعي، وتقليل مخاطره أو التخفيف منها، ومع ذلك، هناك علاقة عكسية بين من لديهم النفوذ ومن لديهم المصلحة. أكثر المؤيدين حماسًا لاتخاذ تدابير جادة لمعالجة مخاطر الذكاء الاصطناعي هم أولئك الأبعد عن الاستفادة الاقتصادية منه. فبالنسبة للشركات، غالبًا ما يهيمن الخوف من فقدان الفرص، وحتى وقوع حادث كبير، ستظل هذه الشركات تجد صعوبة في احتساب تكاليف عيوب الذكاء الاصطناعي.

يان تشاو   Automation Anywhere

التصويت: معارض

أصبح للذكاء الاصطناعي دور مهم في تقنيات المستقبل، ولكن أمان بيانات الذكاء الاصطناعي يمكن أن يُخترق، وغالبًا ما يحدث ذلك عبر الذكاء الاصطناعي المسلح، مثل التزييف العميق والهجمات الآلية. ولمواجهة ذلك، تمكّن تقنيات الذكاء الاصطناعي التوليدي والأتمتة فِرق أمن المعلومات من الرد بسرعة ودقة وعلى نطاق واسع، لكن التقنيات سريعة التطور تحتاج إلى وقت وخبرة لفهمها، ويشكل هذا التأخير فجوة زمنية غير متماثلة يمكن للمخترقين استغلالها مرارًا. ويمكن أن يظهر الذكاء الاصطناعي تحيزًا؛ الأخطاء في التحليلات المدمجة في خوارزميات الذكاء الاصطناعي أدت إلى نتائج تمييزية في التوظيف، والموافقة على القروض، وتغطية التأمين الصحي. ولهذا السبب، تطالب الجهات الرقابية بمزيد من التدقيق في مدخلات البيانات، ومع ذلك، تفتقر المنظمات إلى الخبرة والموارد والإرشادات الصناعية لمعالجة هذه المشكلة، كما يثير الذكاء الاصطناعي أسئلة قانونية وأخلاقية معقدة، مثل حقوق الأفراد والمسؤولية عن الأضرار الناتجة عن الذكاء الاصطناعي. وإعادة الهيكلة الوظيفية والإحلال الوظيفي بسبب الذكاء الاصطناعي تطرح مخاوف أخلاقية واجتماعية واقتصادية، ما يسلط الضوء على أهمية إعادة تأهيل العمال واستخدام الذكاء الاصطناعي المسؤول، وإن المنظمات التي في مراحلها الأولى من تبني الذكاء الاصطناعي لديها خيارات محدودة. لقد أُنشئ الذكاء الاصطناعي لفهمنا ومساعدتنا، وقد يحتاج الأمر إلى الذكاء الاصطناعي ذاته لفهم مخاطره.

ياسودارا كوردوفا   Unico IDtech

التصويت: معارض

إدارة المخاطر مجال يتوسع ليس فقط من حيث القدرات، ولكن أيضًا من حيث النطاق؛ فالمنظمات تنضج نتيجة القوانين المتطورة في بلدان مختلفة التي تقرب المخاطر المالية ومخاطر السمعة إلى حد المساءلة. والأمن السيبراني يتكيف مع قوانين الخصوصية، على سبيل المثال أدى ذلك إلى ظهور تخصصات جديدة مثل هندسة الخصوصية، ومن المرجح أن تستغرق معالجة المخاطر المتعلقة بالذكاء الاصطناعي وقتًا حتى يتم استيعابها، كما حدث مع الخصوصية. أشير إلى الخصوصية لأن العديد من المنظمات، وخاصة في أمريكا اللاتينية، تطبق بشكل غير كافٍ حوكمة البيانات المناسبة للامتثال للّوائح ذات الصلة، على الرغم من أن هذه مشكلة عالمية، في حين أن بعض المنظمات تتفوق في مجال سلامة البيانات وجودتها، وهو أمر ضروري لتخفيف الأضرار المتعلقة بالذكاء الاصطناعي، فإن معظمها يشعر بالارتياح لجمع البيانات بشكل واسع وغير منظم ومشاركتها. وحاليًّا، تسود المسؤولية المحدودة والمسؤولية المنتشرة في هذا النظام البيئي المعقد لتدفق البيانات. وإذا استغرق الأمر ما يقرب من عقد من الزمان لتنفيذ القوانين حتى تبدأ المنظمات في تحسين قدراتها في إدارة المخاطر المتعلقة بالخصوصية، فإنني لست متفائلًا بأن الوضع سيكون مختلفًا بالنسبة للذكاء الاصطناعي.

راشمي جوبي ناث – مجموعة B Capital

التصويت: معارض

هناك عدد من المخاطر المتعلقة بالذكاء الاصطناعي نتيجة لعدم قابلية تفسير النماذج، وعدم وجود رؤية واضحة لبيانات التدريب الأساسية، وغياب الشفافية في سلسلة توريد البرمجيات. بالإضافة إلى ذلك، ستؤدي التغيرات التنظيمية إلى زيادة مخاطر الامتثال على المؤسسات التي تعتمد نماذج الذكاء الاصطناعي في اتخاذ القرارات التي تمس الحالات الاستهلاكية. وفي الوقت الحالي، تُخصص معظم ميزانيات الذكاء الاصطناعي للتجريب بالنماذج اللغوية الكبيرة واكتساب المواهب، بدلًا من الاستثمار في خصوصية البيانات، والأمان، وحلول إدارة المخاطر. ومن المرجح جدًّا أن تتحمل المؤسسات المسؤولية أمام المحاكم القانونية عن أي أضرار تلحق بالمستهلكين نتيجة أخطاء أو مخاطر في أنظمة الذكاء الاصطناعي الأساسية. على سبيل المثال، حادثة شركة الخطوط الجوية الكندية الأخيرة، حيث حكمت محكمة التحكيم لصالح أحد عملاء الشركة بسبب نظام ذكاء اصطناعي خاطئ قدم خصمًا غير معتاد، ولم تلتزم الشركة به، مدعية أن نظام الذكاء الاصطناعي قد أخطأ في تقديم الخصم. ستكون هناك عقوبات أشد على الأضرار التي تلحق بالمستهلكين نتيجة للتحيزات والقرارات الأخلاقية التي تتخذها أنظمة الذكاء الاصطناعي.

ديفيد ر. هاردون – جامعة كوليدج لندن

 التصويت: معارض

على كُل حال لا أوافق على أن المؤسسات توسع قدراتها في إدارة المخاطر بشكل كافٍ للتعامل مع المخاطر المتعلقة بالذكاء الاصطناعي، لسببين أساسيين:

1- إن تبني الذكاء الاصطناعي في العمليات والإنتاج لا يزال محدودًا بشكل عام، وبالتالي، فإن الحاجة إلى إعادة النظر أو توسيع قدرات إدارة المخاطر، بالنظر إلى أن العمليات الحالية لا تشهد تغييرًا ماديًّا، تظل محدودة.

2- أرى أن النهج السائد في المؤسسات التي تقوم بتطبيق الذكاء الاصطناعي في المنتجات أو العمليات هو ملاءمة النماذج مع أطر المخاطر الحالية؛ وذلك لأن معظم المخاطر ليست خاصة بالذكاء الاصطناعي، مثل حوكمة البيانات، والجودة، والعمليات، ولتوسيع قدرات إدارة المخاطر، يجب توسيع وفهم المخاطر المتعلقة بالذكاء الاصطناعي التي تختلف عن المخاطر غير المرتبطة به.

راينر هوفمان – شركة EnBW

التصويت: معارض

تظهر رؤيتي لمنظومة الذكاء الاصطناعي الأوروبية أن الشركات لم تعطِ الأولوية بعد لإدارة المخاطر المتعلقة بأنظمة الذكاء الاصطناعي. تقليديًّا، كانت إدارة المخاطر تُعد جزءًا من مسؤوليات مديري المنتجات والمطورين كجزء من مهمّاتهم اليومية، إضافةً لذلك في حين يتم النظر في مخاطر أمن المعلومات، فإنها تمثل جزءًا صغيرًا فقط من المخاطر المحتملة المرتبطة بالذكاء الاصطناعي. ومع ذلك بصدور قانون الذكاء الاصطناعي الأوروبي الذي يفرض إدارة المخاطر للتطبيقات عالية المخاطر، بدأت المؤسسات في إدراك أهمية النظر في مخاطر الذكاء الاصطناعي. ورغم هذا التقدم، فإن تركيز القانون على التطبيقات عالية المخاطر فقط يجعلني أشك في معالجة المخاطر المتعلقة بالذكاء الاصطناعي بشكل شامل عبر جميع التطبيقات.

ليندا ليوبولد – مجموعة H&M

التصويت: معارض

أعتقد أن العديد من المؤسسات تقوم بالفعل بتوسيع قدراتها في إدارة المخاطر، ولكن هل هذا كافٍ؟ وهل يحدث بالسرعة المطلوبة؟ ربما لا. تستمر المخاطر الجديدة في الظهور مع تطور التقنية ومجالات تطبيقها (على سبيل المثال، مشكلة “الهلوسة”، الذكاء الاصطناعي التوليدي لم تكن مشكلة شائعة قبل عام أو أكثر، والآن أصبحت كذلك). ومن المحتمل أيضًا أن يزداد استخدام الذكاء الاصطناعي في المؤسسات بشكل مطرد، مع دخول مجموعات جديدة من المستخدمين، كل هذا يعني أن قدرات إدارة المخاطر بحاجة إلى مواكبة سرعة تطوير التقنية وانتشار استخدامها، وهناك أيضًا طيف واسع من المخاطر التي يجب معالجتها، فقد تكون المخاطر أخلاقية أو قانونية أو متعلقة بالأمن السيبراني. وإن الحصول على رؤية شاملة ونهج شامل لإدارة المخاطر يتطلب مستوى من النضج لا تمتلكه سوى القليل من المؤسسات. (فعلى سبيل المثال، في دراسة أجريت عام 2022م، كان لدى 6% فقط من الشركات التي شملها الاستطلاع أساس قوي للذكاء الاصطناعي المسؤول). وحتى بالنسبة للمؤسسات التي لديها برنامج ذكاء اصطناعي مسؤول قوي، فإن مواكبة سرعة التطور ومعالجة المخاطر الجديدة بشكل مستمر يتطلبان جهدًا كبيرًا.

تشيليدزي ماروالا – جامعة الأمم المتحدة

التصويت: معارض

تحقيق أقصى قدر من الأرباح من خلال الذكاء الاصطناعي يحظى بمزيد من الحوافز مقارنة بمعالجة المخاطر المتعلقة بالذكاء الاصطناعي. نحن بحاجة إلى تصميم آليات تنظيمية تحفز معالجة مخاطر الذكاء الاصطناعي.

ديفيد بولغار All Tech Is Human

التصويت: معارض

هناك وعي أكبر بكثير في الوقت الحالي بالمخاطر المتعلقة بالذكاء الاصطناعي، ولكن هذا الوعي لم يؤدِّ بشكل فاعل إلى تطوير قدرات كافية لإدارة المخاطر في معظم المنظمات. يتمتع الذكاء الاصطناعي، لا سيما الذكاء الاصطناعي التوليدي، بميول لتعطيل الاستجابات المناسبة للمخاطر؛ لأنه يُنظر إليه غالبًا من خلال عدسة الغموض والتجديد بدلًا من كونه تقنية جديدة تطرح معضلات تقليدية تتعلق بحقوق النشر وحماية البيانات والإعلانات المضللة.

شيلبا براساد – شركة LG Nova

التصويت: معارض

تمتلك تقنيات الذكاء الاصطناعي إمكانيات هائلة لتحويل المجتمع وحياة الناس، بدءًا من التجارة والصحة وصولًا إلى النقل والأمن السيبراني، وكذلك البيئة وكوكبنا، ومع ذلك، فإن تقنيات الذكاء الاصطناعي تطرح أيضًا مخاطر يمكن أن تؤثر سلبًا على الأطراف المعنية. وكما هو الحال مع المخاطر المرتبطة بالتقنيات الأخرى، يمكن أن تظهر مخاطر الذكاء الاصطناعي بطرق متنوعة، ويمكن تصنيفها على أنها طويلة أو قصيرة المدى، وذات احتمالية عالية أو منخفضة، ونظامية أو محلية، وذات تأثير كبير أو محدود. وعلى الرغم من وجود معايير وممارسات فضلى لمساعدة المؤسسات في تخفيف مخاطر الأنظمة البرمجية التقليدية أو الأنظمة القائمة على المعلومات، فإن المخاطر التي تطرحها أنظمة الذكاء الاصطناعي فريدة من نوعها في نواحٍ عديدة؛ فعلى سبيل المثال، قد يتم تدريب أنظمة الذكاء الاصطناعي على بيانات يمكن أن تتغير مع مرور الوقت، وأحيانًا بشكل كبير وغير متوقع، ما يؤثر على وظيفة النظام ومصداقيته بطرق يصعب فهمها، كما أن أنظمة الذكاء الاصطناعي والسياقات التي تُستخدم فيها غالبًا ما تكون معقدة، ما يجعل من الصعب اكتشاف الإخفاقات والتعامل معها عند حدوثها. علاوة على ذلك، فإن أنظمة الذكاء الاصطناعي بطبيعتها أنظمة اجتماعية-تقنية، تتأثر بالديناميكيات المجتمعية والسلوك البشري.

إيدويا سالازار: أوديسي IA

التصويت: معارض

أنا أختلف مع الرأي القائل إنّ المنظمات تقوم بتوسيع قدراتها في إدارة المخاطر بشكل كافٍ لمعالجة المخاطر المتعلقة بالذكاء الاصطناعي، في حين أنه من الصحيح أن بعض الشركات التقنية الرائدة والقطاعات ذات التنظيم العالي قد بدأت في تنفيذ أطر وممارسات محددة لإدارة مخاطر الذكاء الاصطناعي، فإن الواقع يشير إلى أن معظم المنظمات لا تزال في المراحل الأولى من فهمها وتكيّفها مع التحديات الفريدة التي يفرضها الذكاء الاصطناعي. والتوسع سريع التقنية إلى جانب تكاملها المتزايد في العمليات التجارية، والاجتماعية المختلفة، غالبًا ما يتجاوز القدرات الحالية لإدارة المخاطر في المؤسسات، ويعود ذلك إلى عدة عوامل، بما في ذلك نقص المعايير المقبولة عالميًّا لتقييم مخاطر الذكاء الاصطناعي، وقلة الخبراء المتخصصين في الذكاء الاصطناعي وإدارة المخاطر، بالإضافة إلى التقليل من تعقيد وتأثير المخاطر المحتملة المرتبطة بتطبيق أنظمة الذكاء الاصطناعي.

 رولف شومان: مجموعة شوارز

التصويت: معارض

لا تزال معظم المؤسسات تجهل مدى التأثير والتعقيد الذي يقع خلف كلمة “استخدام” الذكاء الاصطناعي، بالأخص عندما يتعلق الأمر بخصوصية المعلومات وأمانها. بالإضافة إلى ذلك، فإن تأثيره على البشر والمجتمع لم يظهر بشكل كامل إلى الآن.

فار شانكار – معهد الذكاء الاصطناعي المسؤول

التصويت: معارض

تحتاج المنظمات إلى تبني نهج طويل الأمد لإدارة مخاطر الذكاء الاصطناعي، مع الاستجابة السريعة للتطورات الجديدة، وتحتاج كذلك إلى تغيير ثقافي وتطوير مهارات لمساعدة جميع الموظفين على التفكير النقدي حول مخاطر الذكاء الاصطناعي. بالإضافة إلى ذلك، يجب عليها التوافق مع معايير وأطر مخاطر الذكاء الاصطناعي الناشئة دون أن تضيع في متطلبات وضوابط متداخلة. ونظرًا لتعقيد هذه التحديات، فلا عجب أن معظم المنظمات لا توسع قدراتها في إدارة المخاطر بشكل كافٍ.

ستيفان فيرهولست – مختبر GovLab

 التصويت: معارض

لتخفيف مخاطر الذكاء الاصطناعي، بدأت المنظمات في تعزيز الأمن السيبراني، وتحديث أنظمة الذكاء الاصطناعي، واعتماد التدريب التنازعي، كما أن بعض المنظمات تقوم الآن بإجراء تدقيق للانحياز، واستخدام مجموعات بيانات متنوعة، وإشراك فرق متعددة التخصصات لتحقيق ذكاء اصطناعي أكثر أخلاقية. بالإضافة إلى ذلك، يتم بشكل متزايد النظر في تطوير الذكاء الاصطناعي القابل للتفسير ودمج الإشراف البشري في أنظمة الذكاء الاصطناعي لضمان الشفافية والاعتمادية. ومع ذلك، على الرغم من هذه الجهود، يتم التغاضي عن خطر أساسي يتعلق بالذكاء الاصطناعي أو إهماله إلى حد كبير، وهو الحاجة إلى تأمين ترخيص اجتماعي لاستخدام الذكاء الاصطناعي. ويتطلب ذلك مواءمة تطبيقات الذكاء الاصطناعي مع القيم والتوقعات المجتمعية، خاصة عند إعادة استخدام البيانات التي تم جمعها لأغراض مختلفة عن الاستخدامات الحالية للذكاء الاصطناعي. ويمكن أن يؤدي غياب هذا الاعتبار إلى استياء عام وتقويض الثقة، ما يضعف الترخيص الاجتماعي الأوسع للمنظمة من أجل العمل. وإن زيادة المشاركة التشاركية مع مختلف الأطراف المعنية، بمن في ذلك الموظفين والعملاء والخبراء، أمر ضروري للتعامل مع هذه التحديات بشكل فاعل.

كاتيا والش – كلية هارفارد للأعمال – الولايات المتحدة

التصويت: معارض

تتقدم التقنية بسرعة حيث لا يمكن القيام بأي شيء “بشكلٍ كافٍ” بالإضافة إلى توسع القدرة على إدارة المخاطر لمعالجة المخاطر المتعلقة بالذكاء الاصطناعي. على خلاف ذلك نعرف العديد من المخاطر ويمكنني توقع بأن كثيرًا منها لم تعرف حتى زمننا الحالي. وستظل التقنية تبقينا في حالة تأهب لسنوات قادمة لأنها تتطور في غمضة عين.

فرانزيسكا وينداور – TÜV AI.Lab

التصويت: معارض

شعوري هو أن معظم المنظمات ما زالت تتصرف مثل الأرنب الذي وقع في مصابيح السيارة؛ هم يعلمون أن شيئًا ما قادم، لكنهم مشلولون في استجابتهم، لأنهم ببساطة لا يعرفون كيفية تطبيق أو التعامل مع الأنظمة الذكية السائدة، ناهيك من معالجة المخاطر المحتملة لها. المسألتان الرئيسيتان، في رأيي، هما (أ) نقص المعرفة، بالإضافة إلى نقص الكوادر المؤهلة، (ب) غياب الأطر والإرشادات التي طورها الخبراء في هذا المجال لمساعدتهم في تنفيذ نظام إدارة المخاطر.

يا شو – لينكد إن

التصويت: معارض

تُعد المخاطر المتعلقة بالذكاء الاصطناعي معقدة وتشمل مجموعة واسعة من القضايا، بدءًا من المخاوف الأخلاقية والخصوصية وحقوق النشر وصولًا إلى الثغرات التقنية وإمكانية إزاحة القوى العاملة. وعلى الرغم من أننا شهدنا جهودًا كبيرة من بعض المؤسسات الرائدة لمعالجة هذه المخاطر، فإن هذه المبادرات ليست موزعة بالتساوي عبر جميع الشركات. وإن إنشاء قدرات جيدة لإدارة المخاطر يتطلب موارد وخبرات كبيرة، وهي غير متاحة أو يمكن تحمل تكاليفها في جميع الشركات اليوم، علاوة على ذلك، فإن الطبيعة الديناميكية لتكنولوجيا الذكاء الاصطناعي تجعل من الصعب على ممارسات إدارة المخاطر أن تبقى ذات صلة وفاعلة مع مرور الوقت. وتؤكد هذه التحديات على الحاجة إلى بذل جهود أكثر تكاملًا من قبل المؤسسات لإنشاء نهج شامل لإدارة المخاطر يمكن اعتماده على نطاق واسع، ويُعد تطوير معايير تكنولوجية، مثل “تحالف أصالة المحتوى”، والتعاون الاستباقي عبر الحدود التنظيمية، أمرين ضروريين. ومن خلال ذلك، يمكن للشركات أن تضع نفسها بشكل أفضل للتعامل مع تعقيدات دمج الذكاء الاصطناعي مع حماية نفسها من مخاطره المحتملة.

إيلين نيلسن – شركة  Chevron

 التصويت: معارض بشدة

بالكاد بدأت الشركات في التعامل مع إدارة المخاطر المرتبطة بالذكاء الاصطناعي؛ إذ يُعدّ الذكاء الاصطناعي المسؤول تحديًا جديدًا. وفي حين أن المخاطر التشغيلية أو المالية محددة، فإن الطبيعة المتطورة بسرعة لمخاطر الذكاء الاصطناعي تجعل إدارتها أكثر تعقيدًا، ومن الضروري فهم العناصر المحددة التي تحتاج إلى الحماية والتأمين، ولم تقم العديد من الشركات بممارسة هذا التمرين بعد. فكر في معضلة الذكاء الاصطناعي المسؤول: يعتمد أي إطار لإدارة المخاطر على ثلاثة محاور، هي: الأشخاص، والعمليات، والتقنية. الأشخاص: التعليم المستمر ضروري لإدارة مخاطر الذكاء الاصطناعي، وقد يتجاوز تدريب العاملين على مواجهة تحديات الذكاء الاصطناعي قدرة الشركة ومواردها، ما يدفعها إلى تجنب الاستثمار، والطلب على خبراء حوكمة ومخاطر الذكاء الاصطناعي يفوق العرض. العمليات: تُشكل العمليات العمود الفقري لأي نظام لإدارة المخاطر؛ فلا تزال السياسات واللوائح الخاصة بالذكاء الاصطناعي قيد التطور، ما يجعل من الصعب دمج استراتيجيات فاعلة لإدارة مخاطر الذكاء الاصطناعي يمكنها التكيف والتطور. التقنية: يحتاج الذكاء الاصطناعي إلى أمان يتجاوز حماية البيانات ليشمل أيضًا حماية الرؤى التي تقود استراتيجيات الأعمال، والتقنيات الموجهة لإدارة هذه المخاطر الجديدة والأكثر دقة لا تزال في تطور مستمر.

ريانكا روي شودري – جامعة ستانفورد

 التصويت: معارض بشدة

التوسع السريع للذكاء الاصطناعي، خاصة الذكاء الاصطناعي التوليدي، تجاوز القدرات التشغيلية لمعظم المؤسسات؛ ونتيجة لذلك هناك نقص في صياغة وتنفيذ استراتيجيات التخفيف من مخاطر الذكاء الاصطناعي من قبل هذه المؤسسات. تتمثل عقبة كبيرة في فهم وتقدير المخاطر المحتملة المرتبطة بالذكاء الاصطناعي، خاصة داخل المؤسسات الصغيرة، وعلى الرغم من أنها تقوم بتوظيف موظفين للتخفيف من المخاطر، فإن الفشل في دمج هذه الجهود في مرحلة التصميم يؤدي إلى مخاطر بارزة في الذكاء الاصطناعي. وإن إنشاء قائمة شاملة بالمخاطر المتعلقة بالذكاء الاصطناعي أمر ضروري، وإدماج إدارة المخاطر في الدورات الإدارية الحالية أمر حاسم، ويجب تطوير خارطة طريق واضحة لتضمين تدابير إدارة المخاطر في المراحل الأولية لبناء الذكاء الاصطناعي، فهناك اعتراف متزايد بضرورة الذكاء الاصطناعي المسؤول وتخفيف المخاطر؛ إذ يسعى الذكاء الاصطناعي المسؤول إلى تعزيز الثقة وتوحيد الممارسات عبر المؤسسات، وتبنّي مبادئ الذكاء الاصطناعي المسؤول سيساعد الشركات التي تستخدم الذكاء الاصطناعي على فهم هذه المخاطر، ليس فقط من أجل الامتثال، ولكن أيضًا لتحقيق النجاح الاستراتيجي.

سانجاي سارما – معهد ماساتشوستس للتقنية

التصويت: معارض بشدة

أجد أن معظم المؤسسات في حالة من الارتباك بشأن الذكاء الاصطناعي. هل هو فرصة؟ هل هو خطر؟ إذا كان خطرًا، فهل هو خطر تنافسي؟ أم خطر بحد ذاته؟ هل هناك خطر أمني سيبراني من الذكاء الاصطناعي؟ هل هناك خطر من استخدام موظفينا له؟ (هل يجب أن نسمح لهم بذلك؟) هل هناك خطر من استخدام موردينا له؟ على سبيل المثال، ماذا لو قاموا بإنشاء أكواد باستخدام الذكاء الاصطناعي، هل ستكون محكمة؟ وماذا عن الخطر الناتج عن تجاربنا مع استخدام الذكاء الاصطناعي في روبوت المحادثة؟ هل يؤدي الجانب الإيجابي المحتمل إلى جانب سلبي يتمثل في “تمرد” الروبوت؟ على سبيل المثال، مقال “أمرت الخطوط الجوية الكندية بدفع تعويض بسبب خصم قدمه روبوت ذكاء اصطناعي عن طريق الخطأ”. إن هذا النطاق الواسع من المخاطر يبدو وكأنه يؤدي إلى شلل في التحليل. من أين نبدأ؟ كيف نبدأ؟ ما هي الثمار سهلة المنال؟ كل هذا يعني أن مخاطر الذكاء الاصطناعي لم تُقيَّم بشكل صحيح. والمقياس الجيد للمخاطر هو عندما تظهر في خريطة حرارية للمخاطر والتدقيق (التأثير مقابل الاحتمالية). لا أرى حدوث ذلك حاليًّا؛ ففي الوقت الحالي، لم تتمكن الشركات من التقاط مشهد المخاطر بنجاح لوضعه في مثل هذه الخريطة الحرارية.

أندرو سترايت – معهد آدا لوفليس

التصويت: معارض بشدة

أعارض هذا السؤال لعدة أسباب:

1- لا توجد ممارسات واضحة ومتسقة لإدارة مخاطر الذكاء الاصطناعي، فعلى سبيل المثال، تُظهر الأبحاث الحديثة في أدوات تدقيق الذكاء الاصطناعي أنه رغم تزايد هذه الأدوات، فإنها لم تؤدِّ إلى استخدامها بشكل فاعل من قبل المؤسسات لتحقيق أهداف المساءلة، وتفشل هذه الأدوات في تمكين اتخاذ إجراءات ذات مغزى بمجرد اكتمال التدقيق. وأظهرت أبحاث أخرى أن المدققين يواجهون مجموعة من المشكلات مع عمليات التدقيق التي تمنع تحقيق المساءلة الفاعلة، وما زلنا في مرحلة تجربة واختبار طرق مختلفة، ولكنها لم تثبت فاعليتها بعد.

2- لا تتبنى كل المؤسسات هذه الممارسات لمعالجة المخاطر المتعلقة بالذكاء الاصطناعي، فهذه الجهود لا تزال تُنفذ بشكل عشوائي، وغالبًا من قبل المؤسسات التي تمتلك الموارد للقيام بذلك. وإن غياب المتطلبات التنظيمية لاعتماد ممارسات إدارة المخاطر يخلق حافزًا سلبيًّا، بمعنى أنها تُعد تكلفة اختيارية.

حتى بالنسبة للمؤسسات التي تتبنى هذه الأساليب، من غير الواضح ما إذا كانت تحقق تقليلًا حقيقيًّا للمخاطر، هناك حاجة إلى مزيد من الشفافية والأبحاث لتحديد ذلك.

معارض

“تتقدم التقنية بسرعة حيث لا يمكن القيام بأي شيء “بشكل كافٍ” بالإضافة إلى توسع القدرة على إدارة المخاطر لمعالجة المخاطر المتعلقة بالذكاء الاصطناعي. وعلى خلاف ذلك، نعرف العديد من المخاطر، ويمكنني توقع بأن كثيرًا منها لم يُعرف حتى زمننا الحالي. وستظل التقنية تبقينا في حالة تأهب لسنوات قادمة لأنها تتطور في غمضة عين”.

كاتيا والش-  كلية هارفارد للأعمال – الولايات المتحدة

معارض

“التوسع السريع للتقنية إلى جانب تكاملها المتزايد في العمليات التجارية، والاجتماعية المختلفة، غالبًا ما يتجاوز القدرات الحالية لإدارة المخاطر في المؤسسات، ويعود ذلك إلى عدة عوامل، بما في ذلك نقص المعايير المقبولة عالميًّا لتقييم مخاطر الذكاء الاصطناعي، وقلة الخبراء المتخصصين في الذكاء الاصطناعي وإدارة المخاطر، بالإضافة إلى التقليل من تعقيد وتأثير المخاطر المحتملة المرتبطة بتطبيق أنظمة الذكاء الاصطناعي”.

إيدويا سالازار   أوديسي IA