Instruction Learning 就是给预训练语言模型一个问题的描述,期待让模型能够更准确的知道它需要做的事情是什么。

举个例子,让模型去做一个翻译任务,在需要翻译的文本面前加上:“请对以下中文翻译成英文:面包应该配黄油吗?”,这里面,“请对以下中文翻译成英文:”就是 Instruction(指令)。

<aside> 💡 其实我认为这个 Instruction 与任务提示型 Prompt 中任务提示型 Prompt 是一个意思。

</aside>


与 In-Contenxt Learning 的区别

如下图,给题目叙述就是 Instruction Learning,而 In-Contenxt Learning 是给模型范例,期待模型能够按照范例输出。

Untitled