通过生成一系列中间推理步骤（即“思维链”）显著提高大型语言模型进行复杂推理的能力 这篇论文探讨了如何通过生成一系列中间推理步骤（即“思维链”）显著提高大型语言模型进行复杂推理的能力。研究人员使用一种简单的方法——思维链提示法——提供一些思维链示例作为提示，发现这种方法可以使足够大的语言模型自然地获得这种推理能力。实验结果表明，在三个大型语言模型上进行测试时，思维链提示法可以显著提高在算术、常识和

解决问题 探索大语言模型解决推理问题的能力。从头训练或微调模型，需要创建大量的高质量含中间步骤的数据集，成本过大。 相关工作 1、使用中间步骤来解决推理问题 （1）使用自然语言通过一系列中间步骤解决数学应用题 （2）通过创建更大的数据集微调语言模型，而不是从头训练 （3）使用语言模型一行一行的预测中间结果预测最终输出 2、采用提示方式 （1）少样本提示 （2）自动学习提示 （3）描述任务的

解决问题 探索大语言模型解决推理问题的能力。从头训练或微调模型，需要创建大量的高质量含中间步骤的数据集，成本过大。 相关工作 1、使用中间步骤来解决推理问题 （1）使用自然语言通过一系列中间步骤解决数学应用题 （2）通过创建更大的数据集微调语言模型，而不是从头训练 （3）使用语言模型一行一行的预测中间结果预测最终输出 2、采用提示方式 （1）少样本提示 （2）自动学习提示 （3）描述任务的

【Chain-of-Thought 专题】Chain-of-Thought Prompting Elicits Reasoning in Large Language Models ChatGPT 🔥🔥🔥🔥火了 GPT-4 🔥🔥🔥🔥🔥 已于2023年3月15日凌晨发布 作为NLP Researcher 不了解预训练语言模型、prompt-tuning、chain-of-

论文地址 https://openreview.net/pdf?id=_VjQlMeSB_J 摘要         我们探索如何生成一个思维链——一系列中间推理步骤——如何显著提高大型语言模型执行复杂推理的能力。 特别是，我们展示了这种推理能力如何通过一种称为思维链提示的简单方法自然地出现在足够大的语言模型中，其中提供了一些思维链演示作为提示中的示例。         对三种大型语言模型的实