在 InstructGPT 将指令微调变成家喻户晓的术语之前，Google 的 FLAN 论文主张，通过对自然语言指令进行适度的多任务微调，可以将一个普通的 LM 变成一个出人意料的能力强的零样本学习器。在 Jeff Dean 的 2021 年研究总结中被突出强调，FLAN 将数十个 NLP 任务重新表述为指令，在这些任务上微调一个 137B 参数的模型，然后对它在训练中从未看到的保留的任务集群进行评估。

这篇长评论涵盖了任务分类法、指令模板以及显示 FLAN 在大多数基准上击败原始 GPT-3 零样本的结果。对于设计提示驱动对话系统或为会话产品构建自定义 LLM 后端的语音 AI 工程师来说，FLAN 是必要的背景知识，用于理解为什么指令微调有效、何时会伤害较小的模型，以及任务多样性真正能为您带来什么。如果您想理解从 FLAN 到现代聊天微调助手的知识谱系，这值得花费时间。