大模型笔记6：微调

微调与RAG的区别

RAG相当与开卷考试，可以随时检索知识库中的信息。而微调是则像是闭卷考试，需要提前学习特定的知识，但能提供更精准专业的服务。

 微调学习成本高，需要投入时间和精力进行数据准备、模型训练等。但能显著提升模型的性能，使其更加贴合特定领域的需求。

微调的定义

微调是基于预训练模型，利用特定领域知识进一步训练模型，使其适应特定领域或任务的过程。

微调的关键

需要特定领域的高质量数据

需要配置合适的训练参数

微调需要考虑的问题

微调的具体流程

微调的方式