![[Long Review] CLAS: Deep context: end-to-end contextual speech recognition](/media/video/2022/04/long-review-clas-deep-context-end-to-end-contextual-speech-recognition/preview.jpg)
[Long Review] CLAS: ๊น์ ๋ฌธ๋งฅ: ์ข ๋จ๊ฐ ๋ฌธ๋งฅ์ ์์ฑ ์ธ์
ASR ์ ํ์ ์ถ์ํ ์ฌ๋์ด๋ผ๋ฉด ๋๊ตฌ๋ ๊ณ ์ ๋ช ์ฌ์ ๊ณ ํต์ ์๊ณ ์์ต๋๋ค: ์ฐ๋ฝ์ฒ ์ด๋ฆ, ๋ ธ๋ ์ ๋ชฉ, ์ฝ๋ฌผ ์ด๋ฆ, ๋ชจํธํ ์ฅ์ ์ด๋ฆ.
![[Long Review] Hurdles to Progress in Long Form Question Answering](/media/video/2022/04/long-review-hurdles-to-progress-in-long-form-question-answering/preview.jpg)
[Long Review] ์ฅ๋ฌธ ์ง์์๋ต ์ง์ ์ ์ฅ์ ๋ฌผ
์ฅ๋ฌธ ์ง์์๋ต์ ๋ฆฌ๋๋ณด๋์์๋ ์ธ์์ ์ผ๋ก ๋ณด์ด์ง๋ง ์์ธํ ์ดํด๋ณด๋ฉด ๋ถ์ํ ๋ฒค์น๋งํฌ ์ค ํ๋์ ๋๋ค.
![[Long Review] Finetuned Language Models Are Zero-Shot Learners](/media/video/2022/03/long-review-finetuned-language-models-are-zero-shot-learners/preview.jpg)
[๊ธด ๋ฆฌ๋ทฐ] ๋ฏธ์ธ์กฐ์ ๋ ์ธ์ด ๋ชจ๋ธ์ ์ ๋ก์ท ํ์ต์
InstructGPT๊ฐ ์ง์์ด ํ๋์ ์ผ์์ ์ธ ํํ์ผ๋ก ๋ง๋ค๊ธฐ ์ ์, Google์ FLAN ๋ ผ๋ฌธ์ ์์ฐ์ด ์ง์์ด์ ๋ํ ์ ๋นํ ์์ ๋ค์ค ์์ ๋ฏธ์ธ์กฐ์ ์ด ํ๋ฒํ LM์ ๋๋๋๋ก c
![[Long Review] 'GShard': Scaling Giant Models with Conditional Computation and Automatic Sharding](/media/video/2022/02/long-review-gshard-scaling-giant-models-with-conditional-computation-and-automatic/preview.jpg)
[๊ธด ๋ฆฌ๋ทฐ] 'GShard': ์กฐ๊ฑด๋ถ ์ฐ์ฐ ๋ฐ ์๋ ์ค๋ฉ์ผ๋ก ๊ฑฐ๋ ๋ชจ๋ธ ํ์ฅ
Transformer๋ฅผ 100์ต ๊ฐ ์ด์์ ๋งค๊ฐ๋ณ์๋ก ํ์ฅํ๋ ๊ฒ์ ๋น ๋ฅด๊ฒ ์ฒ ํ์ ์ด ๋ฉ๋๋ค: ๋ชจ๋ ํ ํฐ์ ๋ํด ์ ์ฒด ๋คํธ์ํฌ๋ฅผ ํ์ฑํํ๊ฑฐ๋ ๊ฐ ํ ํฐ์ ์ค์ ๋ก ๋ด์ผ ํ๋ ์ ๋ฌธ๊ฐ์๊ฒ ๋ผ์ฐํ ํฉ๋๊น?