获取LLM 内部的结构信息和矩阵维度信息
获取LLM 内部的结构信息和矩阵维度信息
目录
-
- 获取LLM 内部的结构信息和矩阵维度信息
-
- 怎么在代码获取LLM内部的qkv矩阵大小,MLP矩阵大小和示例,mlp attention 矩阵大小和示例,残差流矩阵大小和示例,attention residual矩阵大小和示例,
- 代码实现:
怎么在代码获取LLM内部的qkv矩阵大小,MLP矩阵大小和示例,mlp attention 矩阵大小和示例,残差流矩阵大小和示例,attention residual矩阵大小和示例,
===== 模型基本信息 =====
模型类型: <class 'transformers.models.qwen2.modeling_qwen2.Qwen2ForCausalLM'