مراجعة متعمقة في GPT-3 من OpenAI: نماذج اللغة تتعلم من عينات قليلة (الجزء 2/3: النتائج)
ينتقل الجزء الثاني من هذا الغوص العميق في GPT-3 بعد الإعداد إلى النتائج التي جعلت الناس فعلاً يعيدون التفكير في NLP.
ينتقل الجزء الثاني من هذا الغوص العميق في GPT-3 بعد الإعداد إلى النتائج التي جعلت الناس فعلاً يعيدون التفكير في NLP. وهنا تبدأ الورقة بتراكم المعايير: الترجمة والإجابة على الأسئلة وإكمالات الفراغات وحس شامل من نمط Winograd والتلميحات المبكرة للاستدلال الناشئ الذي سيحدد السنوات القادمة من أبحاث LLM. الإطار في جميع أنحاء العمل هو few-shot، مما يعني عدم وجود تحديثات تدرجات، لا ضبط دقيق خاص بالمهمة، فقط تعليمات.
ما يجعل هذا الشرح قيّماً هو أنه يشرح ليس فقط الأرقام التي ارتفعت بل كيف اختارت OpenAI قياسها. أعمدة zero-shot و one-shot و few-shot تخبر ثلاث قصص مختلفة لكل معيار، والتفسير ليس دائماً واضحاً. بالنسبة لممارسي voice-AI، الفكرة التي يمكن نقلها هي أن القياس بالإضافة إلى التعليمات يمكن أن يحل محل الكثير من هندسة المهام الخاصة، وهي نفس الرهان التي تدفع الآن LLMs للكلام و TTS المضبوط على التعليمات. شاهد هذا كفصل أوسط من سلسلة ثلاثية الأجزاء تؤتي ثمارها بشكل أفضل عندما تشاهدها بالترتيب.
