![[Long Review] 'GShard': Scaling Giant Models with Conditional Computation and Automatic Sharding](/media/video/2022/02/long-review-gshard-scaling-giant-models-with-conditional-computation-and-automatic/preview.jpg)
Tutorials
[长评] 'GShard'：使用条件计算和自动分片扩展巨大模型
将 Transformer 扩展到数千亿参数以上会很快变成哲学问题：你是激活整个网络来处理每个 token，还是将每个 token 路由给真正需要看到它的专家？
Tutorials
三胞胎般的俄罗斯花样滑冰运动员：Kullback-Leibler 散度能用来区分他们吗？
说话人自适应是那些 ASR 问题之一，听起来似乎已经解决，直到你实际尝试自适应一个序列到序列模型而不破坏编码器来之不易的声学表示。
Tutorials
Nathan Chen 的 4 周跳是由 Mixture-of-Experts 评判的吗？第 1 部分：Switch Transformers：稀疏 MoE 模型
带着对 Nathan Chen 四周跳评分的眨眼暗示，这次演讲详细讲述了 Switch Transformer，这是 Google 对 Mixture-of-Experts 扩展的简洁而激进的简化。
Tutorials
Nathan Chen的四周跳是由Mixture-of-Experts评分的吗？第2部分：GLaM：使用MoE的LMs高效扩展
MoE迷你系列的第2部分转向GLaM，Google的1.2万亿参数Mixture-of-Experts语言模型，在零样本、单样本和少样本基准上与GPT-3相当或超越，同时仅激活其约8%的参
