Transformer 训练：AutoModelForCausalLM，AutoModelForSequenceClassification
Transformer 训练：AutoModelForCausalLM，AutoModelForSequenceClassification
目录
-
- Transformer 训练：AutoModelForCausalLM，AutoModelForSequenceClassification
-
- `AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)`
-
- 功能概述
- 参数解释
- `AutoModelForSequenceClassification.from_pretrained(model_name, num_labels=2, trust_remote_code=True)`
-
- 功能概述
- 参数解释
- `AutoModelForCausalLM` 的参数配置：因果语言模型
-
-
- 功能概述
- 常见参数配置
-
- 还有哪些预训练模型：AutoModelForQuestionAnswering
-
- 1. 文本分类任务
- 2. 问答任务
- 3. 命名实体识别任务
- 4. 掩码语言模型任务
- 5. 序列到序列任务
AutoTokenizer 和 AutoModelForSequenceClassification 的用法，以及 AutoModelForCausalLM 可能涉及的参数配置。
AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
功能概述
这行代码的作用是从预训练模型的名称或路径加载对应的分词器。