自生成指令框架Self-Instruct实现预训练语言模型与指令对齐(含实操+代码)
文章标题:SELF-INSTRUCT: Aligning Language Model with Self Generated Instructions
自指导:将语言模型与自生成的指令相结合
文章链接:https://arxiv.org/pdf/2212.10560.pdf)
作者:Yizhong Wang等
单位:华盛顿大学
发表时间:ACL 2023
泛读
储备知识
提示学习
第一篇大模型LLaMA里面就有提到过这个概念,这里再详细讲解一下。这个技术是用在大模型上的,因为大模型参数比较多,因此调整参数非常困难,经研究发现调整输入亦可以达到提高模型表现的目的,因此提示学习孕育而生。 白话:大模型相当于:�=�(�)中的�函数包含非常复杂,难以调整以使得�得到更好的表现,但修改输入�同样能影响�,且修改�非常简单,无需修改模型的参数。
因此,为了更好的发掘预训练语言模型的潜力,利用其不同的能力
本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场,不承担相关法律责任。如若转载,请注明出处。 如若内容造成侵权/违法违规/事实不符,请点击【内容举报】进行投诉反馈!
