Conformer هو النموذج الذي استحوذ بهدوء على ASR من النهاية إلى النهاية، وصيغته، وضع وحدة التفاف على كل كتلة Transformer، تبين أنها واحدة من تلك الأفكار البسيطة خادعة التي تعمل فقط. يتفوق Transformer على السياق العام؛ تتفوق CNN على أنماط الصوت المحلية؛ لا يرغمك Conformer على الاختيار ويحقق نتائج LibriSpeech WER الحديثة بنسبة 2.1%/4.3% بدون نموذج لغة.

تفكك هذه المراجعة الطويلة من ورقة Gulati et al. المعمارية الكاملة كتلة تلو الأخرى: ساندويتش macaron feed-forward، بوابة وحدة التفاف وdepthwise conv، وكيف يتفاعل الاهتمام الذاتي متعدد الرؤوس مع ترميز الموضع النسبي. كما يتناول قصة كفاءة المعامل، بما في ذلك نموذج صغير بمعاملات 10M الذي لا يزال يحقق WER 2.7%/6.3%. إذا كان Conformer في مكدس الإنتاج الخاص بك، أو كنت تقيمه مقابل خطوط أساس Transformer فقط على غرار Whisper، فإن الغوص العميق يأخذك عبر كل قرار تصميم يستحق الفهم.