مشهد المخاطر الإلكترونية قد تغير بشكل كبير مع إطلاق أنظمة الذكاء الاصطناعي التوليدية، مما دفع المؤسسات إلى تقييم تداعيات الأمن السيبراني الناتجة عنها.
يجب تقييم التمييز الحاسم بين المخاطر ذات الأولوية الفورية والمخاوف طويلة الأجل المرتبطة بالذكاء الاصطناعي.
تحدثنا مع مسؤولي أمن المعلومات (CISOs) لتحديد أهم مخاوفهم الفورية المتعلقة بالذكاء الاصطناعي والإجراءات التي يتخذونها لمواجهتها.
مع انكشاف الإمكانات التحويلية للذكاء الاصطناعي التوليدي، يتم مناقشة المخاطر المرتبطة به والمخاوف بشأن تطورات التكنولوجيا المستقبلية على نطاق واسع. ومن بين المواضيع التي تخضع لنقاش مكثف زيادة اعتماد المجتمع على الذكاء الاصطناعي، وفقدان السيطرة المحتمل على الأنظمة، وعدم توافق أهداف النظام مع القيم الإنسانية، واحتمال التنافس على الموارد مع أنظمة الذكاء الاصطناعي.
في حين أن مناقشة هذه المخاطر طويلة الأجل ضرورية، يواجه قادة الأمن السيبراني مخاطر فورية مختلفة مرتبطة بالتبني الواسع لأنظمة الذكاء الاصطناعي التوليدي. وقد شهدنا بالفعل عدة حالات لانتهاكات البيانات من خلال هذه الأنظمة، مثل الحادثة التي وقعت في وقت سابق من هذا العام عندما سرب مهندسو سامسونج بشكل غير مقصود كود المصدر الداخلي من خلال تحميله إلى ChatGPT، مما يعد مثالًا أوليًا على كيفية تحول تطورات الذكاء الاصطناعي التوليدي إلى ثغرات أمنية سيبرانية جديدة.
نظرًا لأن قادة الأمن السيبراني يجب أن يتخذوا إجراءات سريعة لمعالجة هذه المخاوف الفورية، فمن الضروري تحديد هذه القضايا الملحة والتمييز بينها وبين المخاطر طويلة الأجل، وهو أمر قد يُغفل في بعض الأحيان.
المخاوف الفورية لمسؤولي أمن المعلومات
تحدثنا مع مسؤولي أمن المعلومات لتحديد أهم المخاوف الفورية التي يواجهونها فيما يتعلق بتطورات الذكاء الاصطناعي الأخيرة.
تعزيز قدرات المهاجمين: تقلل قدرات الذكاء الاصطناعي التوليدي من تكلفة تطوير وتنفيذ الهجمات الإلكترونية – مثل التصيد الاحتيالي، وتوليد الأكواد الخبيثة، والتزييف العميق – كما تعزز قدرات أتمتة وتوسيع نطاق هذه الهجمات. وبالتالي، يجعل الذكاء الاصطناعي التوليدي من السهل على المجرمين الإلكترونيين اكتشاف واستغلال الثغرات الأمنية.
الاستخدام غير السليم لأنظمة الذكاء الاصطناعي التوليدي وتسرب البيانات: يؤدي الاستخدام غير السليم لأنظمة الذكاء الاصطناعي التوليدي إلى تحديات عديدة، منها الكشف غير المقصود عن المعلومات الحساسة. كما أن ذلك يعني أن المعلومات السرية قد يتم استخدامها عمدًا أو عن غير قصد لتدريب أنظمة الذكاء الاصطناعي التوليدية، مما يثير مخاوف شديدة تتعلق بالسرية. هناك أيضًا خطر أن يتم استغلال أنظمة الذكاء الاصطناعي التوليدية للقيام بما لا ينبغي لها فعله، مثل حقن التعليمات الضارة – أو استخدامها لأغراض غير تلك التي صُممت لها في الأصل، مما قد يؤدي إلى نتائج سلبية.
تأثير ""الصندوق الأسود"": من الصعب إثبات سلامة نماذج الذكاء الاصطناعي. فالرموز البرمجية المعقدة المستخدمة في تطوير هذه النماذج ليست مفهومة بالكامل دائمًا، حتى من قبل المطورين أنفسهم. يؤدي ذلك إلى نقص الشفافية في هذه الأنظمة، مما يجعل من الصعب الوثوق بها. بالإضافة إلى ذلك، غالبًا ما يكون هناك نقص في النهج الأمني الشامل عند تصميم وتطوير أنظمة الذكاء الاصطناعي التوليدي.
تكلفة تنفيذ وتأمين أنظمة الذكاء الاصطناعي التوليدي: تنطوي تكاليف التطورات في الذكاء الاصطناعي التوليدي على عدة جوانب، تشمل نفقات شراء وتطوير وتنفيذ هذه الأنظمة. علاوة على ذلك، يرتبط استخدام أنظمة الذكاء الاصطناعي بزيادة استهلاك الطاقة. ومن بين التكاليف الإضافية أيضًا ما يتعلق بفريق الأمن السيبراني، بما في ذلك تكاليف رفع مهارات الموظفين، وإطلاق حملات التوعية، وتطوير أساليب جديدة لتأمين هذه الأنظمة.
إجراءات ملموسة لمواجهة التحديات الجديدة المرتبطة بالذكاء الاصطناعي
على الرغم من أن هناك حاجة لبذل جهود كبيرة لفهم تداعيات أنظمة الذكاء الاصطناعي التوليدي ومعالجتها بشكل شامل، فإن المؤسسات تتخذ خطوات أولية للتعامل مع القضايا الناشئة، سواء فيما يتعلق بالأمن السيبراني أو غيره:
- مشاورات على مستوى المؤسسة: تشجيع الموظفين على تجربة التكنولوجيا ومناقشتها ومشاركة مخاوفهم المرتبطة بها. ومن أجل تحقيق تبنٍ ناجح، يعد تعزيز ثقافة المشاركة والابتكار المرتبطة بتطورات الذكاء الاصطناعي أمرًا أساسيًا.
- مجموعات العمل: إنشاء مجموعات عمل متخصصة لمعالجة التحديات ذات الأولوية، بدءًا من حماية الملكية الفكرية إلى تهديدات الداخل.
- مجالس الحوكمة: وضع مبادئ توجيهية وإجراءات لاستخدام أنظمة الذكاء الاصطناعي من قبل فرق متعددة التخصصات، والتي قد تشمل الأمن السيبراني، وتكنولوجيا المعلومات، والقانون، والموارد البشرية، وحماية البيانات، والأقسام التي تتعامل مع العملاء.
- برامج التوعية والتعليم: تنفيذ برامج تعليمية على مستوى المؤسسة لزيادة الوعي حول الذكاء الاصطناعي، وتعزيز الاستخدام المسؤول للأدوات، وتعريف الموظفين بالمخاطر المرتبطة بها.
- تكييف استراتيجيات وسياسات الأمن السيبراني: مراجعة استراتيجيات وسياسات الأمن السيبراني القائمة لتتوافق مع التهديدات الإلكترونية الناشئة المرتبطة بتطورات الذكاء الاصطناعي. يشمل ذلك، على سبيل المثال، فرض إفصاح الموظفين عن استخدامهم لأدوات الذكاء الاصطناعي التوليدية، أو تقييد استخدامها، أو توفير إرشادات حول كيفية توظيفها عند التعامل مع بيانات الشركة على الأجهزة الشخصية.
- مراجعة الضوابط التقنية: تعديل الضوابط الأمنية السيبرانية وفقًا للبيئة التهديدية المتغيرة وتبني أنظمة الذكاء الاصطناعي الجديدة.
دعوة لاتخاذ إجراءات متعددة الأطراف
على الرغم من اتخاذ إجراءات أولية عبر المؤسسات، فقد اتسمت هذه الجهود في الغالب بكونها تكتيكية ومعزولة. لا يزال الطريق طويلًا أمام معالجة تداعيات الأمن السيبراني الناتجة عن الذكاء الاصطناعي التوليدي بشكل شامل. يُعد وضع أسس الأمن السيبراني لأنظمة الذكاء الاصطناعي التوليدية جزءًا من العمل الأساسي اللازم لضمان الذكاء الاصطناعي الموثوق والأخلاقي والمسؤول.
