极客号（Daydx.com）8月17日 消息:meta 的研究人员开发了一种名为 “指令回译（instruction backtranslation）” 的新技术，用于提高大语言模型的指令跟踪能力。该技术可对 LLaMa 等大型语言模型进行微调以遵循指令，而无需依赖昂贵的人工注释或从 GPT-4等更强大的模型进行提炼。
这一方法包括自我增强和自我管理两个步骤。在自我增强阶段，模型从未标记的文本语料库中生成候选指令 – 响应对，并预测哪些指令会引发相应的响应。
然后，在自我管理阶段，模型对候选对进行评分和筛选，只保留得分最高的子集。通过这种迭代的自我训练过程，模型学习生成更好的指令，并能够更好地区分高质量的示例。
metas 研究人员表明，这种方法可以带来强大的指令跟踪性能，优于之前使用相同规模的 LLaMa 模型的工作。meta 的研究人员通过这一方法开发的 Humpback65B 模型在 Alpaca 指令跟踪基准测试中取得了最先进的结果，超过了其他竞争模型如 Anthropics Claude、Guanaco、LIMA 和 Falcon-Instruct 的性能。
研究人员表示，他们计划通过考虑更大的未标记语料库来进一步扩展这一方法，从而获得更好的效果。
声明：本文内容整理自网络，观点仅代表原作者本人，投稿号仅提供信息发布服务。如有侵权，请联系管理员。
