تأليف البروفيسور ستيفن ولفارم
كيف يعمل تشات جي بي تي؟
يمكن لمنصة الذكاء الاصطناعي للدردشة التوليدية مسبقة التدريب او ما يعرف بـ تشات جي بي تي ChatGPT تلقائياً إنشاء نصوص خلاقة بسرعة مذهلة لتجيب على الأسئلة بمستوى جودة النص المكتوب من قبل الإنسان، و ذلك أمر رائع و ماتع وغير متوقع
لكن كيف يفعل ذلك؟ ولماذا يعمل ؟
هدفي هنا هو إعطاء مخطط تقريبي لما يحدث داخل تشات جي بي تي ChatGPT - ثم استكشاف سبب قدرته على القيام بذلك بشكل جيد في إنتاج ما قد نعتبره نصاً ذا معنی و مغزی
يجب أن أقول في البداية إنني سأركز على الصورة الكبيرة لما يحدث - وبينما سأذكر بعض التفاصيل الهندسية، فإنني لن أتعمق فيها لأتمكن من إيصال الفكرة للقارئ غير المتخصص بصورة تلقائية و مبسطة. وينطبق جوهر ما سأقوله أيضا على نماذج اللغات الكبيرة الحالية الأخرى [LLMS] فيما يتعلق بتشات جي بي تي ChatGPT
أول شيء يجب شرحه هو أن ما تحاول تشات جي بي تي ChatGPT دائما القيام به بشكل أساس و هو إنتاج ""استمرار معقول"" لأي نص يحتوي عليه حتى الآن، حيث نعني بكلمة ""معقول"" ""ما قد يتوقع المرء أن يكتبه شخص ما بعد رؤية ما كتبه الناس على مليارات صفحات الويب، وما إلى ذلك"".
لذلك لنفترض أن لدينا النص أفضل شيء في الذكاء الاصطناعي هو قدرته على ذلك"". تخيل مسح مليارات الصفحات من النص المكتوب من قبل الإنسان على سبيل المثال على الويب وفي الكتب الرقمية والعثور على جميع مثيلات هذا النص - ثم رؤية الكلمة التي تأتي بعد ذلك في أي جزء من الوقت. يقوم تشات جي بي تي ChatGPT بشكل فعال بشيء من هذا القبيل، باستثناء أنه (كما سأشرح لا ينظر إلى النص الحرفي؛ إنه يبحث عن أشياء تطابق مع المعنى إلى حد ما. لكن النتيجة النهائية هي أنه ينتج قائمة مرتبة من الكلمات التي قد تتبعها، إلى جانب ""الاحتمالات"":
والشيء اللافت للنظر هو أنه عندما يفعل نشأت جي بي ت ChatGPT شيئا مثل كتابة مقال، فإن ما يفعله بشكل أساس هو السؤال مرارا وتكرارا بالنظر إلى النص حتى الآن، ماذا يجب أن تكون الكلمة التالية ؟ وفي كل مرة تضيف كلمة. بتعبير أدق، كما سأشرح، إنه إضافة ""رمز مميز""، والذي يمكن أن يكون مجرد جزء من كلمة، وهذا هو السبب في أنه يمكن في بعض الأحيان تكوين كلمات جديدة.
ولكن في كل خطوة تحصل على قائمة بالكلمات ذات الاحتمالات فان السؤال أي واحدة من الكلمات يجب أن يختار إضافته بالفعل إلى المقال (أو أيا كان الذي يكتبه؟ قد يعتقد المرء أنه ينبغي أن تكون الكلمة الأعلى مرتبة(أي الكلمة التي تم تعيين أعلى احتمال لها). ولكن هذا هو المكان الذي يبدأ فيه القليل من الذكاء الرقمي في الزحف لأنه لسبب ما - ربما في يوم من الأيام سيكون لدينا فهم على النمط العلمي - إذا اخترنا دائما الكلمة الأعلى مرتبة، فسنحصل عادة على مقال ""مسطح"" للغاية، لا يبدو أبدا أنه يظهر أي إبداع وحتى يكرر أحيانا كلمة بكلمة. ولكن إذا اخترنا أحيانا بشكل عشوائي كلمات أقل ترتيباً، نحصل على مقال ""أكثر إثارة للاهتمام"".
حقيقة أن هناك عشوائية تعني أنه إذا استخدمنا : نفس المطالبة عدة مرات، فمن المرجح أن نحصل على مقالات مختلفة في كل مرة. وتمشيا مع فكرة التكرار العشوائي الذي تدعمه الخوارزميات الذكية التي يولدها النظام إبان تدريبه نفسه هناك ما يسمى بمعلمة درجة الحرارة و هي تلك التي تحدد عدد المرات التي سيتم فيها استخدام الكلمات الأقل مرتبة وبالنسبة لتوليد المقالات اتضح أن ""درجة الحرارة"" البالغة 0.8 تبدو الأفضل. يستحق التأكيد على أنه لا توجد ""نظرية"" مستخدمة هنا؛ إنها مجرد مسألة ما وجد أنه يعمل في الممارسة العملية. وعلى سبيل المثال، مفهوم درجة الحرارة"" موجود لأنه يتم استخدام التوزيعات الأسية المألوفة من الفيزياء الإحصائية، ولكن لا يوجد اتصال ""فيزيائي"" - على الأقل على حد علمنا.
