大模型面试题：请讲一下GPT系列模型是如何演进的？
GPT系列的演进主线可以概括为：通过持续扩大模型参数和数据规模，并不断引入更先进的预训练与对齐技术，逐步从单一的文本生成模型迈向具备强大通用能力的对话式人工智能代理。
第一阶段：奠基与验证 (GPT-1)
- 模型名称： GPT-1
- 发布时间： 2018年6月
- 核心思想： “生成式预训练 + 判别式任务微调”。
- 预训练： 在大量无标签文本数据上，使用标准的自回归语言建模目标（根据前文预测下一个词）。模型架构基于Transformer的Decoder层，采用掩码自注意力，保证训练和生成时的一致性。
- 微调： 在预训练好的模型基础上，针对不同的下游任务（如分类、蕴含等）引入一个简单的任务特定层，并用有标签数据进行少量微调。
- 意义： 证明了Transformer架构在生成式预训练上的有效性，为后续的演进奠定了坚实的基础。但此时模型能力相对初级。