الذكاء الاصطناعي لا يمتلك قوة قاهرة، ولا يمكن الوثوق به

في الأشهر القليلة الماضية، تمكن الذكاء الاصطناعي من اجتياز امتحان المحاماة، وإنشاء أعمال فنية حائزة على جوائز، وتشخيص المرضى بشكل أفضل من معظم الأطباء، وقريباً، قد يؤدي ذلك إلى القضاء على ملايين الوظائف، وقد يكون ذلك في نهاية المطاف إيذانًا ببدء مدينة مثالية دون حاجة الناس إلى العمل، أو قد يؤدي إلى نهاية العالم الحضاري.

هذه هي الحجج التي يقدمها مؤيدو ومنتقدو الذكاء الاصطناعي في سيليكون فالي، لكن أمبا كاك، المدير التنفيذي لمعهد AI Now، مجموعة مقرها نيويورك تدرس تأثيرات الذكاء الاصطناعي على المجتمع، يقول إن الأمريكيين يجب أن ينظروا إلى التكنولوجيا دون الشعور بالتهديد من الغموض أو الشعور بالخضوع المروع، ويعتقد المستشار السابق للجنة التجارة الفيدرالية أن المنظمين بحاجة إلى تحليل تطبيقات المستهلكين والشركات الخاصة بالذكاء الاصطناعي بشكوك ذكية ومتمكنة.

ناقشنا أنا وكاك كيفية فهم الذكاء الاصطناعي، والمخاطر التي ينطوي عليها، وإذا ما كانت التكنولوجيا مبالغًا فيها، وكيفية تنظيمها، وجرى اختصار محادثتنا وتعديلها أدناه من أجل زيادة الوضوح.

آني لوري: لنبدأ بالسؤال الأساسي: ما هو الذكاء الاصطناعي؟

أمبا كاك: إن مصطلح الذكاء الاصطناعي مصطلح رائج، وقد وصفت لجنة التجارة الفيدرالية مصطلح الذكاء الاصطناعي بأنه مصطلح تسويقي؛ فقد نشروا تدوينة قائلين فيها إن المصطلح ليس له معنى واضح ومحدد! ما نتحدث عنه هو الخوارزميات التي تأخذ كميات كبيرة من البيانات وتعالجها وتولد منها المخرجات، ويمكن أن تكون هذه النتائج عبارة عن توقعات حول تتابع الكلمات أو الاتجاه الذي يجب أن تتجه إليه السيارة، ويمكن أن تكون نتائج، مثل خوارزميات الامتياز الاعتباري. ويمكن أن تكون خوارزميات تقوم بتصنيف المحتوى بطريقة معينة، كالترتيب الذي تظهر به الأخبار على صفحتك الأساسية.

لوري: هذا يبدو مثل التكنولوجيا الموجودة لدينا، ما الذي اختلف في الذكاء الاصطناعي خلال العام أو العامين الماضيين؟

كاك: تقصد “الذكاء الاصطناعي التوليدي”، ويستخدم في توليد النصوص والصور والمخرجات الصوتية، ومثل العديد من أنواع الذكاء الاصطناعي الأخرى، يعتمد الذكاء الاصطناعي التوليدي على نماذج كبيرة ومعقدة في كثير من الأحيان، مدربة على مجموعات ضخمة من البيانات، مثل كميات هائلة من النصوص المستخرجة من مواقع مثل ريديت (Reddit) أو ويكيبيديا، أو الصور التي يجري تنزيلها من موقع فليكر، هناك مولدات صور، إذ تقوم بإدخال عبارة نصية ويكون الناتج صورة، وهناك أيضًا مولدات نصية، حيث تقوم بإدخال عبارة نصية وتحصل على النص المطلوب.

لوري: هل هذه الأنظمة “تفكر”؟ هل هي أكثر “قُربًا من تفكير البشر” أو أكثر “ذكاءً” من الأنظمة السابقة التي تتعامل مع كميات هائلة من البيانات؟

كاك: لا، لا تفكر هذه الأنظمة، فهي ليست ذكية، إنها “تجمع بشكل عشوائي تسلسلات من الأشكال اللغوية” التي لاحظتها في بيانات التدريب التي أدخلها باحثو الذكاء الاصطناعي إميلي إم. بندر، وتيمنيت جيبرو، وأنجيلينا ماكميلان ميجور، ومارغريت ميتشل. هناك من يريد منا أن ننظر إلى هذه الأنظمة باعتبارها أنظمة ذكية تُمثل نقطة انطلاق نحو التفرد و”الذكاء العام الاصطناعي”.

لوري: ماذا يعني التفرد في هذا السياق؟

كاك: ليس له معنى واضح، وتنطوي الفكرة على أن الآلات ستكون ذكية جدًّا لدرجة أنها ستشكل تهديدًا للجنس البشري، وتتمثل البداية في برنامج شات جي بي تي، والنهاية في أننا سنموت جميعًا.

تعمل هذه الأفكار على تشتيت الانتباه عن حقيقة هذه الأنظمة الأصلية، فما تفعله هذه الأنظمة هو أمر عادي إلى حدٍّ ما، أليس كذلك؟ تأخذ الكثير من البيانات من الإنترنت، وتتعلم أنماطًا، وتنتج المخرجات، بناءً على ما تدربت عليه من بيانات، وهذه الأنظمة أفضل مما كان لدينا من قبل، فهي أكثر فاعلية في محاكاة نوع التواصل مع البشر، أو نوع النتيجة التي قد تحصل عليها من البشر.

لوري: عندما تنظر إلى أنظمة الذكاء الاصطناعي الموجودة، ما الذي قد يعتبر خطرًا حقيقيًّا بالنسبة إلى المواطن الأمريكي العادي؟

كاك: إحدى المخاوف الكبيرة وواسعة النطاق تتمثل في توليد مخرجات غير دقيقة، كنصيحة سيئة، أو معلومات خاطئة أو غير دقيقة، وهذا أمر سيئ؛ لأن الناس يعتقدون أن هذه الأنظمة “ذكية”، فهم يدخلون الأعراض الطبية إلى شات جي بي تي ويحصلون على تشخيصات غير دقيقة، وكما هو الحال مع التطبيقات الأخرى للخوارزميات – مثل الامتياز الاعتباري، والإسكان، والعدالة الجنائية – فإن بعض المجموعات قد تتضرر أكثر من غيرها، على سبيل المثال، الأشخاص الذين قد يكونون أكثر عرضة للخطر هم الأشخاص الذين لا يستطيعون تحمل تكاليف الرعاية الطبية المناسبة.

وتتعلق المجموعة الكبيرة الثانية من المخاوف بالأمن والخصوصية، فهذه الأنظمة معرضة جدًّا للتلاعب والاختراق، هل سيُطلب من الأشخاص الكشف عن معلوماتهم الشخصية بطريقة خطيرة؟ هل سيجري التلاعب بالمخرجات من الجهات السيئة؟ إذا كان الأشخاص يستخدمون هذه الأنظمة كمحركات بحث، فهل سيجري إرسال رسائل عشوائية لهم؟ هل شات جي بي تي هو الأداة الجديدة الأكثر فاعلية لإرسال الرسائل العشوائية؟ هل سيجري التلاعب ببيانات التدريب؟ ماذا عن التصيد الاحتيالي الواسع؟

وتتمثل مجموعة المخاوف الثالثة في المنافسة. إن مايكروسوفت وجوجل في وضع جيد لاحتكار هذا السوق، فهل نريدهم أن يسيطروا على مساحة أكبر من الاقتصاد الرقمي؟ إذا كنا نعتقد – أو أُجبرنا على الاعتقاد – بأن نماذج اللغات الكبيرة هذه هي المستقبل الحتمي، فهل نقبل أن تتمتع بعض الشركات بميزة الريادة وهيمنة السوق؟ قالت رئيسة لجنة التجارة الفيدرالية، لينا خان: إن الحكومة ستقوم بفحص هذا المجال بحثًا عن السلوكيات المناهضة للمنافسة، وقد شهدنا بالفعل إبداء الشركات لسلوكيات قد تكون مناهضة للمنافسة.

لوري: يبدو أن إحدى المشكلات هي أن هذه النماذج يجري إنشاؤها باستخدام كميات كبيرة من البيانات العامة، حتى لو لم تكن هذه بيانات منشأة لهذا الغرض، ومبتكرو النماذج هم نخبة صغيرة، ربما بضعة آلاف من الأشخاص – وتبدو هذه طريقة مثالية لزيادة أوجه عدم المساواة القائمة.

كاك: إن شركة OpenAI هي التي ابتكرت شات جي بي تي، وفي إصدار سابق، جرى الحصول على بعض بيانات التدريب من موقع رديت (Reddit)، وهو مليء بمحتوى أنشأه المستخدمون ويُعرف بمدى إساءته وتحيزه ضد الأقليات الجنسية والأقليات العرقية والإثنية، وليس من المستغرب أن يعكس نظام الذكاء الاصطناعي هذا الواقع.

وبطبيعة الحال، يكمن الخطر في تعزيز التفاوت في القوة وأوجه عدم المساواة الموجودة، بلا شكّ ستعكس هذه النماذج البيانات التي دُرّبت عليها ووجهات النظر العالمية المضمنة في تلك البيانات، والأكثر من ذلك، سيكون لدى مايكروسوفت وجوجل الآن مجموعة أكبر بكثير من البيانات للعمل من خلالها، إذ يحصلون على هذه المدخلات من العامة.

لوري: ما مدى التشابه بين تنظيم الذكاء الاصطناعي وتنظيم وسائل التواصل الاجتماعي؟ تبدو العديد من المخاوف متشابهة، كالانتشار الفيروسي للمعلومات الخاطئة والمضللة، واستخدام وإساءة استخدام كميات هائلة من المعلومات الشخصية، وما إلى ذلك.

كاك: استغرق الأمر عدة أزمات تكنولوجية لإقناع الناس بأننا بحاجة إلى مساءلة شركات وسائل التواصل الاجتماعي، وَوفقًا لشركة كامبريدج أناليتيكا، الدول التي تقدمت خطوة واحدة خلال 10 سنوات فيما يتعلق بقوانين الخصوصية، فجأة تقدمت بـ 10 خطوات في عام واحد، وكان هناك قوة دافعة عبر الأيديولوجيات السياسية، أما مع الذكاء الاصطناعي، لم نتمكن من تحقيق ذلك بعد، ويتعين علينا أن نحشد الإرادة السياسية، فلا نحتاج إلى انتظار حدوث الأزمة.

وفيما يتعلق بما إذا كان تنظيم الذكاء الاصطناعي يشبه تنظيم أشكال أخرى من وسائل الإعلام أو التكنولوجيا: لقد سئمت من قول هذا، ولكن الأمر يتعلق بحماية البيانات، وخصوصية البيانات، وسياسة المنافسة، إذا كانت لدينا قوانين جيدة بشأن خصوصية البيانات وقمنا بتنفيذها بشكل جيد، وإذا قمنا بحماية المستهلكين، وإذا أجبرنا هذه الشركات على المنافسة ولم نسمح لها بتعزيز مزاياها – فهذه جوانب أساسية، ونحن نشهد بالفعل تقدم الهيئات التنظيمية الأوروبية في استخدام قوانين خصوصية البيانات الحالية لتنظيم الذكاء الاصطناعي.

لوري: لكننا لا نقوم بالكثير من التنظيم التكنولوجي، أليس كذلك؟ لا يمكن مقارنته، على سبيل المثال، بتنظيم مرافق الطاقة والشركات المالية ومقدمي الرعاية الصحية.

كاك: تُعد البنوك الكبرى في الواقع طريقة مفيدة للتفكير في كيفية تنظيم هذه الشركات، ومن الممكن أن تؤدي تصرفات الشركات المالية الكبرى إلى تأثيرات منتشرة وغير متوقعة على النظام المالي الأوسع، وبالمحصلة على الاقتصاد، ولا يمكننا التنبؤ بالضرر المحدد الذي قد تسببه، ولكننا نعلم أنها قادرة على ذلك؛ لذا فإننا نضع المسؤولية على عاتق هذه الشركات لإثبات أمانها، ولدينا الكثير من القواعد التي تنطبق عليها، وهذا هو ما تحتاج إليه شركات التكنولوجيا، لأن منتجاتها تُخَلّف تأثيرات منتشرة وغير متوقعة على بيئتنا المعلوماتية، والصناعات الإبداعية، وسوق العمل، والديمقراطية.

لوري: هل يعني ذلك البدء من الصفر؟

كاك: بالتأكيد لا، لن نبدأ بصفحة فارغة، فلدينا بالفعل أدوات التنفيذ، ولا نعمل في وسط الفوضى.

يُستخدم الذكاء الاصطناعي التوليدي في الرسائل العشوائية والاحتيال والسرقة الأدبية والتزييف العميق وما إلى ذلك. إن لجنة التجارة الفيدرالية مخولة بالفعل بمعالجة هذه القضايا، ويمكن أن تجبر الشركات على إثبات ادعاءاتها، بما في ذلك الادعاء بأنها خففت من المخاطر التي يتعرض لها المستخدمون، ثم هناك الهيئات التنظيمية القطاعية. لنأخذ على سبيل المثال مكتب الحماية المالية للمستهلك، الذي يمكن أن يحمي المستهلكين من التعرض للأذى من قبل روبوتات الدردشة في القطاع المالي.

لوري: ماذا عن المقترحات التشريعية؟

كاك: هناك مشاريع قوانين معلقة في الكونغرس فيما يتعلق بالمساءلة الخوارزمية، والشفافية الخوارزمية، وخصوصية البيانات، وهذا هو الوقت المناسب لتعزيزها وإدخالها حيز التنفيذ؛ إذ يتحدث الجميع حاليًّا عن المخاطر المستقبلية والوجودية والتفرد، ويصرفون الانتباه عن الحقيقة التي مفادها أن الشيء الذي يخيف هذه الشركات حقًّل هو التنظيم، فلنبدأ بالتنظيم اليوم.

وهذا من شأنه أن يجيب عن أسئلة مثل: ما هي بيانات التدريب المستخدمة؟ من أين تأتي؟ كيف تخفف من حدة التمييز؟ كيف يمكنك التأكد من عدم استغلال أنواع معينة من البيانات أو استخدامها دون موافقة المستهلك؟ ما هي الثغرات الأمنية الموجودة وما هي أساليب الحماية منها؟ إنها قائمة مرجعية طويلة، ويبدو الأمر ممِلًا، ولكن يجب أن تجيب الشركات عن هذه الأسئلة، وهذا يمكّن الجهات التنظيمية من تحميلها المسؤولية والشروع في تنفيذ القوانين عندما تسوء الأمور.

وفي بعض المقترحات التشريعية، لن نستطيع تطبيق هذه القواعد على الشركات الخاصة؛ إذ تنحصر القواعد على استخدام الحكومة للخوارزميات، ولكن ذلك سيمنحنا إطارًا يمكننا تعزيزه وتعديله لاستخدامه في حالة الشركات الخاصة، ولدينا الكثير على قائمة الأعمال فيما يتعلق بعنصري الشفافية والتوثيق، ولا ينبغي لهذه الشركات أن تكون في السوق قبل القيام بتدابير العناية الواجبة، ولا ينبغي أن تكون أدواتها عامة، ولا ينبغي أن يكونوا قادرين على بيعها.

لوري: هل تفهم الحكومة الذكاء الاصطناعي حقًّا؟

كاك: دائمًا ما نرغب في إلقاء اللوم على المشرعين والمنظمين، كالقول بأنهم “لا يفهمون هذه التكنولوجيا كما ينبغي” و”التكنولوجيا أمر يصعب فهمه بسهولة” وهذا ليس صحيحًا، وقد يعمل لصالح المجال. إن شركتيّ OpenAI وAnthropic وجميع هذه الشركات تخبر المشرعين والجمهور أنه لا أحد يشعر بالقلق بشأن أنظمة الذكاء الاصطناعي بقدرهم، ويرددون: إننا قادرون على إصلاحها، هذه أنظمة سحرية ومبهمة، لا أحد غيرنا يفهمها، وربما لا نفهمها نحن حتى.

هناك ما يدل على أن الهيئات التنظيمية لا تستمع إلى هذه العبارات المرددة، يقول المنظمون في لجنة التجارة الفيدرالية وأماكن أخرى: سوف نطرح الأسئلة، وستجيبون عنها، نحن من سنحدد شروط المناقشة، لا أنتم، هذه هي الخطوة الحاسمة، نحن بحاجة إلى إلقاء العبء على الشركات لتطمئن المنظمين والمشرعين والجمهور. لا يحتاج المشرعون إلى فهم هذه الأنظمة بشكل كامل، إنهم يحتاجون فقط إلى أن يطلبوا من الشركات أن تثبت لنا أنها لن تقدم هذه البرامج للناس عندما يعتقدون أنها قد تسبب ضررًا.

لوري: دعنا نتحدث عن المخاطر الافتراضية بعيدة المدى، دعت رسالة عامة حديثة إلى إيقاف عمليات تطوير الذكاء الاصطناعي لمدة ستة أشهر، وقّع عليها إيلون ماسك والمئات من قادة التكنولوجيا الآخرين، وتساءلت أنا: “هل ينبغي لنا أن نطور عقولًا غير بشرية قد تتفوق علينا في النهاية في العدد والذكاء وتحل محلنا؟ هل يجب أن نخاطر بفقدان السيطرة على حضارتنا؟” هل تشعر بمثل هذه المخاوف؟ وما رأيك في هذا التساؤل؟

كاك: هذا السيناريو مثال نموذجي على ما يُنشر لدفع الناس إلى الشعور بالخوف من التحرك، ويحوّل الأمر بعيدًا عن الضرر الذي تسببه أنظمة الذكاء الاصطناعي هذه في الوقت الحاضر؛ فالمشكلة لا تكمن في أن هذه الأنظمة ذات قوة قاهرة بل في أنها غير موثوقة، ويُساء استخدامها، وتنشر معلومات غير دقيقة ومضللة.

لوري: إذا كنت عضوًا في الكونجرس وكان سام ألتمان، رئيس شركة OpenAI، يقف أمامك، فماذا ستطلب منه؟

كاك: إلى جانب الفجوات الكبيرة في كمية المعرفة المتعلقة ببيانات التدريب، أود أن أستفسر عن طبيعة العلاقة بين شركتي OpenAI ومايكروسفت، وأن أطالب بمعلومات حول الصفقات الجارية بينهما – من الذي يشتري هذا النظام وكيف يستخدمونه؟ لماذا شعرت الشركة بالحاجة لتخفيف المخاطر لتتقدم في عملية الإصدار التجاري بشكلٍ مستعجل؟ أود أن يطلعنا سام على وثائق وإثباتات العمليات الداخلية للشركة.

دعونا نحشره في الزاوية ونسأله: هل تتبع شركة OpenAI القوانين الموجودة؟ أعتقد أنه سيجيب بأنه لا يعرف، هذه هي المشكلة بالضبط، يجري إصدار هذه الأنظمة بأقل قدر ممكن من التدقيق الداخلي أو الخارجي، وهذا أمر أساسي، نسمع الكثير من المديرين التنفيذيين حول التزاماتهم بمعايير السلامة وما إلى ذلك، ولكن من الواضح أنه لا يوجد سوى القليل من الدعم للتنظيم والتنفيذ الفعلي.

ودعونا لا نتوقف عند سام ألتمان، فقط لأنه المشهور في جميع وسائل الإعلام، بل لنستدعي بساتيا ناديلا من مايكروسوفت، وسوندار بيتشاي من جوجل، وغيرهم من المديرين التنفيذيين في شركات التكنولوجيا الكبرى، إذ تتنافس هذه الشركات بقوة في السوق وتتحكم في البنية التحتية التي يعتمد عليها النظام البيئي بأكمله، كما أنهم أكثر تحفُّظًا بشأن وضع السياسات.

لوري: أعتقد أن الكثير من هذا سيصبح أكثر وضوحًا عندما يستخدم الناس تقنيات الذكاء الاصطناعي لكسب المال، وستستخدم الشركات هذه التقنيات لبيع السيارات قريبًا.

كاك: وسيكون ذلك مكلفًا للغاية، سواء أكان ذلك يتعلق بتكاليف الحوسبة أم تكلفة العمالة البشرية لتدريب أنظمة الذكاء الاصطناعي هذه لتكون أكثر تطورًا أو أقل إيذاءً، ويأتي هذا في الوقت الذي تؤثر فيه التأثيرات المالية المعاكسة على مجال التكنولوجيا، ماذا يحدث عندما يجري الضغط على هذه الشركات من أجل الربح؟ يصبح التنظيم أكثر أهمية من أي وقت مضى، لمنع النتائج السيئة.

لوري: لنفترض أننا لم نستطع تنظيم أعمال هذه الشركات جيداً، كيف سيكون الوضع بعد 20 سنة من الآن؟

كاك: سيكون هناك بالتأكيد فائض من المعلومات غير الموثوقة وغير المتوقعة، مثل المعلومات المضللة، والاحتيال، وضعف الأمن السيبراني، وخطاب الكراهية.

إذا لم نتمكن اليوم من السيطرة على مسار مجال الذكاء الاصطناعي، فسنكون في موقف دفاعي في غضون عشرين عامًا، وسنشهد عواقب كبيرة، فلم تظهر الإعلانات المستهدفة حول أنظمة الإنترنت التجارية هذه بين ليلة وضحاها، ولم نجد فجأة أن البنية التحتية للتكنولوجيا كانت تحت سيطرة عدد محدود من الشركات، حدث ذلك لأن المنظمين لم يتحركوا مبكرًا، ووثقوا في الشركات عندما أخبرتنا بأنها غير “شريرة”.

ونتحدث عن نفس الشركات في سياق الذكاء الاصطناعي، فبدلًا من الوثوق بأنهم قد قاموا “بالتنظيم الداخلي”، وبدلًا من الانجراف وراء كلماتهم، دعونا نغتنم الفرصة لنضع حواجز الحماية، ولإلقاء العبء على الشركات لتثبت أنها لن تلحق أي ضرر، ومنعهم من الاستحواذ على القوة.

المصدر