Olewave - Professional and Trustworthy - Data Services and Solutions

How Does the All-New Dictation in iOS 16 Work? Reveal Apple's Secret Sauce by a Speech Researcher!

Tutorials

iOS 16 全新聽寫功能如何運作？一位語音研究者揭露蘋果的祕密武器！

蘋果的 iOS 16 聽寫功能完全在設備上運行，這個單一的設計選擇對延遲、隱私和手機上哪些 ASR 架構甚至可行都有連鎖影響。

六月 18, 2022· 1 min read

[Long Review] Conformer: Convolution-augmented Transformer for Speech Recognition

Tutorials

[長篇評論] Conformer：用於語音識別的卷積增強型 Transformer

Conformer 是悄然佔據端到端 ASR 的模型，其方法是在每個 Transformer 區塊加入卷積模組，這個看似簡單卻非常有效的想法被證實就是有效的。

六月 11, 2022· 1 min read

[Short Review] Conformer: Convolution-augmented Transformer for Speech Recognition

Tutorials

[短篇評論] Conformer：用於語音識別的卷積增強型 Transformer

Conformer 通過做一件幾乎平凡的事震撼了 ASR 世界：將卷積模組粘合到每個 Transformer 區塊中，使模型一次性捕捉全域文脈和局部聲學細節。

六月 11, 2022· 1 min read

博士大叔使用计算机作弊降维打击2022高考数学压轴大题 Ph.D. uses computer cheating to solve 2022 college entrance math exam

Tutorials

博士大叔使用計算機作弊降維打擊2022高考數學壓軸大題博士用計算機作弊解決2022年大學入學數學考試

當你使用研究級計算機代數工具包來解決2022年中國高考數學考試最難的問題時會發生什麼？

六月 8, 2022· 1 min read

[Long Review] Cascaded Diffusion Models for High Fidelity Image Generation

Tutorials

[長篇評論] Cascaded Diffusion Models for High Fidelity Image Generation

在Imagen和DALL-E 2將擴散設定為生成式影像的預設之前，這篇Google Brain論文奠定了Cascaded Diffusion的方案，許多後來的文字轉圖像系統都悄悄地採用：從一個小

六月 4, 2022· 1 min read

[Short Review] Cascaded Diffusion Models for High Fidelity Image Generation

Tutorials

[短篇評論] Cascaded Diffusion Models for High Fidelity Image Generation

Cascaded Diffusion是許多現代生成工作背後的二階以上方案：用一個擴散模型生成小影像，然後交給超解析度擴散模型來添加高頻細

六月 4, 2022· 1 min read

[Long Review] Axial Attention in Multidimensional Transformers

Tutorials

[長篇評論] Axial Attention in Multidimensional Transformers

對影像或影片進行完整自注意力在計算上極其昂貴，那麼如何在不引入二次方複雜度的情況下保持Transformer的表現力？

五月 28, 2022· 1 min read

[Short Review] Axial Attention in Multidimensional Transformers

Tutorials

[短篇評論] Axial Attention in Multidimensional Transformers

Axial Attention是一個優雅的想法，它使Transformers對高維數據保持可控：無需一次性對所有像素或所有時頻箱進行注意，而是每次只沿著一個軸進行注意。

五月 28, 2022· 1 min read

[Long Review] Transfer Learning from Speaker Verification to Multispeaker Text-To-Speech Synthesis

Tutorials

[長評論] 從說話人驗證到多說話人TTS合成的遷移學習

這是使零樣本語音克隆成為實用的論文：在具有數千個嘈雜、無文本記錄的語音上訓練說話人編碼器進行判別性驗證任務，然後將這些嵌入輸入到Tacotron 2 s

五月 21, 2022· 1 min read

[Short Review] Transfer Learning from Speaker Verification to Multispeaker Text-To-Speech Synthesis

Tutorials

[短評論] 從說話人驗證到多說話人TTS合成的遷移學習

Google的論文啟動了現代零樣本語音克隆浪潮，具有簡潔優美的架構：一個在驗證上訓練的說話人編碼器、一個Tacotron 2合成器可將文本加說話人嵌入轉換

五月 21, 2022· 1 min read

[Long Review] Wav2Seq: Pre-training Speech-to-Text Encoder-Decoder Models Using Pseudo Languages

Tutorials

[長評論] Wav2Seq：使用偽語言預訓練語音轉文本編碼器-解碼器模型

大多數語音預訓練集中在編碼器端，wav2vec、HuBERT、WavLM，但序列到序列ASR也需要預訓練的解碼器。

五月 14, 2022· 1 min read

[Short Review] Wav2Seq: Pre-training Speech-to-Text Encoder-Decoder Models Using Pseudo Languages

Tutorials

[短評論] Wav2Seq：使用偽語言預訓練語音轉文本編碼器-解碼器模型

像wav2vec 2.0這樣的自監督預訓練給了我們很好的語音編碼器，但如果你想要一個完整的編碼器-解碼器ASR系統，解碼器仍然從零開始。

五月 14, 2022· 1 min read

[Long Review] Towards Zero-Label Language Learning

Tutorials

[長篇評論] Towards Zero-Label Language Learning

如果您可以在沒有任何人工標註範例的情況下訓練任務特定的 NLP 模型呢？"Towards Zero-Label Language Learning" 著力強調了這個問題。

五月 7, 2022· 1 min read

[Short Review] Towards Zero-Label Language Learning

Tutorials

[短篇評論] Towards Zero-Label Language Learning

如果您花費數月標註的標籤數據根本不是必需的呢？

五月 7, 2022· 1 min read

[Long Review] Fully Sharded Data Parallel: faster AI training with fewer GPUs

Tutorials

[長篇評論] Fully Sharded Data Parallel：用更少 GPU 進行更快的 AI 訓練

在有限的 GPU 預算上訓練十億參數的語音或語言模型曾經意味著要在管道並行、張量並行或 ZeRO 風格的優化器分片之間做出選擇。

四月 23, 2022· 1 min read

[Short Review] Fully Sharded Data Parallel: faster AI training with fewer GPUs

Tutorials

[短篇評論] Fully Sharded Data Parallel：用更少 GPU 進行更快的 AI 訓練

Fully Sharded Data Parallel 是 Meta 對每個語音和語言團隊最終都會提出的問題的答案：我們如何在不提供數量級更多 GPU 的情況下訓練數量級更大的模型？

四月 23, 2022· 1 min read

[Long Review] Deduplicating Training Data Makes Language Models Better

Tutorials

[長篇評論] 資料去重複使語言模型更優秀

資料去重複聽起來很無聊，直到你發現 C4 中單句 61 字的句子出現超過 60,000 次，以及在這樣語料庫訓練的語言模型會以令人不安的方式向使用者吐出訓練集文本的一部分

四月 16, 2022· 1 min read

[Short Review] Deduplicating Training Data Makes Language Models Better

Tutorials

[短篇評論] 資料去重複使語言模型更優秀

你的語言模型有多少「泛化」實際上只是原文重複？

四月 16, 2022· 1 min read

[Long Review] CLAS: Deep context: end-to-end contextual speech recognition

Tutorials

[長篇評論] CLAS：深度上下文：端到端語境化語音識別

任何運送過 ASR 產品的人都知道專有名詞的困難：聯絡人名稱、歌曲標題、藥物名稱、晦澀地名。

四月 9, 2022· 1 min read

[Long Review] Hurdles to Progress in Long Form Question Answering

Tutorials

[長篇評論] 長篇問題回答進步的障礙

長篇問題回答是那些在排行榜上看起來令人印象深刻但在顯微鏡下令人不安的基準之一。

四月 2, 2022· 1 min read

[Long Review] Finetuned Language Models Are Zero-Shot Learners

Tutorials

[長評] 微調語言模型是零次學習器

在 InstructGPT 使指令調優成為家喻戶曉的術語之前，Google 的 FLAN 論文表明，對自然語言指令進行適度的多任務微調可以將一個普通的 LM 轉變為令人驚訝的強大

三月 5, 2022· 1 min read

[Long Review] 'GShard': Scaling Giant Models with Conditional Computation and Automatic Sharding

Tutorials

[長評] 'GShard'：使用條件計算和自動分片擴展巨型模型

將 Transformer 擴展到超過一千億個參數很快會變成哲學問題：你是為每個令牌激活整個網絡，還是將每個令牌路由到真正需要查看它的專家？

二月 26, 2022· 1 min read

Triplets-like Russian Figure Skaters: Can Kullback-Leibler Divergence be Used Tell Their Difference?

Tutorials

像三胞胎一樣的俄羅斯花滑運動員：Kullback-Leibler 散度能用來區別他們嗎？

說話者自適應是那種 ASR 問題之一，聽起來已經解決，直到你實際嘗試在不破壞編碼器苦心獲得的聲學表示的情況下自適應序列到序列模型。

二月 19, 2022· 1 min read

Is Nathan Chen's 4 Flip scored by Mixture-of-Experts? Part 1: Switch Transformers: sparse MoE models

Tutorials

Nathan Chen 的 4 周跳是由 Mixture-of-Experts 評分的嗎？第一部分：Switch Transformers：稀疏 MoE 模型

以 Nathan Chen 的四周跳評分為框架，這個演講詳細介紹了 Switch Transformer，Google 對 Mixture-of-Experts 擴展的簡潔而激進的簡化版本。

二月 12, 2022· 1 min read

Is Nathan Chen's 4 Flip scored by Mixture-of-Experts? Part 2: GLaM:Efficient Scaling of LMs with MoE

Tutorials

Nathan Chen 的 4 Flip 是由 Mixture-of-Experts 評分嗎？第 2 部分：GLaM：使用 MoE 高效擴展 LM

MoE 小型系列的第 2 部分轉向 GLaM，Google 的 1.2 兆參數 Mixture-of-Experts 語言模型，在 zero-shot、one-shot 和 few-shot 基準測試中匹配或超越 GPT-3，同時每個 token 只激活約 8% 的參

二月 12, 2022· 1 min read

BERT Paper Reviewed from a Speech Perspective

Tutorials

從語音視角評審 BERT 論文

BERT 在 NLP 中幾乎不需要介紹，但以語音工程師的眼光閱讀它，會發現與標準的「掩蔽語言建模改變了一切」摘要不同的一套經驗教訓。

二月 6, 2022· 1 min read

Transformer: Attention is All You Need and Listen, Attend and Spell -- from a Speech Perspective

Tutorials

Transformer：注意力就是一切，以及 Listen, Attend and Spell - 從語音視角

兩篇論文，一個故事。《Attention Is All You Need》給世界帶來了 Transformer 並重新定義了序列建模的方式，而《Listen, Attend and Spell》(LAS) 一年前為端到端語音識別做了同樣的事情

一月 29, 2022· 1 min read

From Breaking Bad to Wav2vec 2.0: A Framework for Self-Supervised Learning of Speech Representations

Tutorials

從 Breaking Bad 到 Wav2vec 2.0：語音表示自監督學習框架

Walter White、Jesse Pinkman 和一批未標籤音訊有什麼共同點？

一月 22, 2022· 1 min read

HuBERT: Self-Supervised Speech Representation Learning by Masked Prediction of Hidden Units

Tutorials

HuBERT：通過隱藏單位的掩蓋預測進行自監督語音表示學習

wav2vec 2.0 通過對比自監督改變了遊戲規則，但 HuBERT 提出了一個更尖銳的問題：如果我們完全跳過對比技巧，只在語音上進行 BERT 風格的掩蓋預測會怎樣？

十二月 14, 2021· 1 min read

W2v-BERT: Combining Contrastive Learning and Masked Language Modeling for Self Supervise

Tutorials

W2v-BERT：結合對比學習和掩蓋語言建模進行自監督

為什麼在語音預訓練中要在對比學習和掩蓋語言建模之間選擇，當您可以將兩者連接到同一個網絡中時？

十二月 12, 2021· 1 min read

Author: olewave