自己定义的模型如何用hf的from_pretrained

1.比如我要用某个框架去测评自己定义的模型，这里举例子lm-evaluation-harness,通过cli命令行处理，则只需在lm_eval目录下的init文件里的开头加上如下代码：注册自定义的config和model即可

from lm_eval.model_minimind_random_5_gqa_yes_pos import 

Config,

。。ForCausalLM

from lm_eval.model_。。import Config, 。。ForCausalLM

from transformers import CONFIG_MAPPING, MODEL_FOR_CAUSAL_LM_MAPPING

# 1. 注册 config

CONFIG_MAPPING.register("。。", Config)

# 2. 注册模型

MODEL_FOR_CAUSAL_LM_MAPPING.register(Config, ForCausalLM)

__version__ = "0.4.9"

然后需要吧自己的模型权重保存成hf格式：

model.save_pretrained(save_dir,safe_serialization=True)

tokenizer.save_pretrained(save_dir)