MiniCPM 学习部署实战 vlm

目录

开源地址：

论文学习笔记：

部署完整教程：

微调教程：

部署，微调教程，视频实测

BitCPM4 技术报告

创意：把量化塞进训练 

---

开源地址：

https://github.com/OpenBMB/MiniCPM

openbmb/MiniCPM4-8B-Eagle-vLLM

模型 2.29G

论文学习笔记：

MiniCPM，能被斯坦福抄袭究竟有何魅力？我们一起看看论文吧！-腾讯云开发者社区-腾讯云

部署完整教程：

MiniCPM-V 2.6：端侧最强多模态大模型探索【推理实战大全】_vllm minicpm-CSDN博客

微调教程：

MiniCPM-o-2.6 多模态大模型微调实战（完整代码）_minicpm-o 2.6-CSDN博客

部署，微调教程，视频实测

多图、视频首上端！面壁「小钢炮」 MiniCPM-V 2.6 模型重磅上新！魔搭推理、微调、部署实战教程modelscope-CSDN博客

BitCPM4 技术报告

而刚刚提到的43页技术报告，我看了一遍，觉得可以拆成以下：

InfLLM v2：Attention 层只看重点
FR-Spec：草稿阶段不全写
BitCPM4：训练时就考虑压缩
CPM.cu + ArkInfer：定制推理 & 部署系统
风洞 2.0：小模型先试，大模型再训

创意：把量化塞进训练 

MiniCPM 4.0 技术报告：端侧速度的奔涌，是模型的自我Rag | 人人都是产品经理