我们都知道在大多数情况下，语言模型的体量和其推理能力之间存在着正相关的关系：模型越大，其处理复杂任务的能力往往越强。 然而，这并不意味着小型模型就永远无法展现出色的推理性能。最近，奶茶发现了微软的Orca2公开了论文，它详细探讨了如何提升小型大语言模型的推理能力，这样的研究无疑是在资源有限或对模型大小有特定要求的场景的重大进步。接下来，让我们一起来了解这篇论文的详细工作吧！ 论文题目： Orc