Teaching Small Language Models Reasoning throughCounterfactual Distillation

2024.emnlp-main.333.pdfhttps://aclanthology.org/2024.emnlp-main.333.pdf

1.概述

        大型语言模型（LLM），如GPT-3，在各种下游任务中表现出色，包括通过链式思维（CoT）进行问题解答。CoT鼓励模型在解决问题时生成中间推理步骤。尽管LLM取得了成功，但由于模型大小的限制，其能力仍然受到约束，特别是在应用到分布外（OOD）示例时。此外，基于提示的CoT技术对于非常大的模型非常有效，而较小的模型由于涉及的推理过程复杂，往往难以执行此类任务。

<