当前位置：首页 > wzjs >正文

如何查询网站域名备案润和软件是外包公司吗

wzjs 2025/9/9 10:04:13

如何查询网站域名备案,润和软件是外包公司吗,重庆网站设计排名,源码资源网每周跟踪AI热点新闻动向和震撼发展想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领…

每周跟踪AI热点新闻动向和震撼发展想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！订阅：https://rengongzhineng.io/

Prefix Tuning 是当前最酷的参数高效微调（PEFT）方法之一，它可以在无需重新训练整个大模型的前提下对大语言模型（LLM）进行任务适配。为了理解它的工作原理，我们先了解下背景：传统微调需要更新模型的所有参数，成本高、计算密集。随后出现了 Prompting（提示学习），通过巧妙设计输入引导模型输出；Instruction Tuning（指令微调）进一步提升模型对任务指令的理解能力。再后来，LoRA（低秩适配）通过在网络中插入可训练的低秩矩阵实现任务适配，大大减少了可训练参数。

而 Prefix Tuning 则是另一种思路：它不会更改模型本体参数，也不插入额外矩阵，而是学习一小组“前缀向量”，将它们添加到每一层 Transformer 的输入中。这种方法轻巧快速，非常适合在 Google Colab 这样资源受限的环境中实践。

在这篇博客中，我们将一步步地在 Google Colab 上，使用 Hugging Face Transformers 和 peft 库完成 Prefix Tuning 的演示。

第一步：安装运行环境

!pip install transformers peft datasets accelerate bitsandbytes

使用的库包括：

transformers: 加载基础模型
peft: 实现 Prefix Tuning
datasets: 加载示例数据集
accelerate 和 bitsandbytes: 优化训练性能

第二步：加载预训练模型和分词器

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import get_peft_model, PrefixTuningConfig, TaskTypemodel_name = "gpt2"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

这里我们使用 GPT-2 作为演示模型，也可以替换为其他因果语言模型。

第三步：配置 Prefix Tuning

peft_config = PrefixTuningConfig(task_type=TaskType.CAUSAL_LM,inference_mode=False,num_virtual_tokens=10
)model = get_peft_model(model, peft_config)
model.print_trainable_parameters()

上述配置在每层 Transformer 中加入了 10 个可学习的虚拟前缀 token，我们将对它们进行微调。

第四步：加载并预处理 Yelp 数据集样本

from datasets import load_datasetdataset = load_dataset("yelp_review_full", cache_dir="/tmp/hf-datasets")
dataset = dataset.shuffle(seed=42).select(range(1000))def preprocess(example):tokens = tokenizer(example["text"], truncation=True, padding="max_length", max_length=128)return {"input_ids": tokens["input_ids"], "attention_mask": tokens["attention_mask"]}dataset = dataset.map(preprocess, batched=True)

第五步：使用 Prefix Tuning 训练模型

from transformers import TrainingArguments, Trainertraining_args = TrainingArguments(output_dir="./prefix_model",per_device_train_batch_size=4,num_train_epochs=1,logging_dir="./logs",logging_steps=10
)trainer = Trainer(model=model,args=training_args,train_dataset=dataset
)trainer.train()

第六步：保存并加载 Prefix Adapter

model.save_pretrained("prefix_yelp")

之后加载方法如下：

from peft import PeftModelbase_model = AutoModelForCausalLM.from_pretrained("gpt2")
prefix_model = PeftModel.from_pretrained(base_model, "prefix_yelp")

第七步：推理测试

训练完成后，我们可以使用调优后的模型进行生成测试。

input_text = "This restaurant was absolutely amazing!"
inputs = tokenizer(input_text, return_tensors="pt")output = prefix_model.generate(**inputs, max_new_tokens=50)
generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print("\nGenerated Output:")
print(generated_text)

示例输出

这是在训练 3 个 epoch 并使用 20 个虚拟 token 后的输出示例：

This restaurant was absolutely amazing!, a the the the the the the the the the the the the the the the the the the the the the the the the the the the the the a., and the way. , and the was

虽然模型初步模仿了 Yelp 评论的风格，但输出仍重复性强、连贯性不足。为获得更好效果，可增加训练数据、延长训练周期，或使用更强的基础模型（如 gpt2-medium）。

完整代码

以下是经过改进的完整代码（包含更大前缀尺寸和更多训练轮次）：

# 安装依赖
!pip install -U fsspec==2023.9.2
!pip install transformers peft datasets accelerate bitsandbytes# 加载模型与分词器
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import get_peft_model, PrefixTuningConfig, TaskTypemodel_name = "gpt2"
tokenizer = AutoTokenizer.from_pretrained(model_name)
tokenizer.pad_token = tokenizer.eos_token
model = AutoModelForCausalLM.from_pretrained(model_name)
model.config.pad_token_id = tokenizer.pad_token_id# 配置 Prefix Tuning
peft_config = PrefixTuningConfig(task_type=TaskType.CAUSAL_LM,inference_mode=False,num_virtual_tokens=20  # 使用更多虚拟 token
)
model = get_peft_model(model, peft_config)
model.print_trainable_parameters()# 加载和预处理数据集
from datasets import load_dataset
try:dataset = load_dataset("yelp_review_full", split="train[:1000]")
except:dataset = load_dataset("yelp_review_full")dataset = dataset["train"].select(range(1000))def preprocess(examples):tokenized = tokenizer(examples["text"], truncation=True, padding="max_length", max_length=128)tokenized["labels"] = [[-100 if mask == 0 else token for token, mask in zip(input_ids, attention_mask)]for input_ids, attention_mask in zip(tokenized["input_ids"], tokenized["attention_mask"])]return tokenizeddataset = dataset.map(preprocess, batched=True, remove_columns=["text", "label"])# 配置训练参数
from transformers import TrainingArguments, Trainer
training_args = TrainingArguments(output_dir="./prefix_model",per_device_train_batch_size=4,num_train_epochs=3,  # 增加轮次logging_dir="./logs",logging_steps=10,report_to="none"
)trainer = Trainer(model=model,args=training_args,train_dataset=dataset
)trainer.train()# 保存和加载前缀
model.save_pretrained("prefix_yelp")
from peft import PeftModel
base_model = AutoModelForCausalLM.from_pretrained("gpt2")
prefix_model = PeftModel.from_pretrained(base_model, "prefix_yelp")# 推理
input_text = "This restaurant was absolutely amazing!"
inputs = tokenizer(input_text, return_tensors="pt")
output = prefix_model.generate(**inputs, max_new_tokens=50)
print(tokenizer.decode(output[0], skip_special_tokens=True))

不同微调技术如何选择？

方法	特点	适合场景
Prompting	零样本/少样本，无需训练	快速实验、通用模型调用
Instruction Tuning	统一风格指导多个任务	多任务模型，提示兼容性强
Full Fine-Tuning	全模型更新，效果最好但成本高	数据量大、计算资源充足场景
LoRA	插入低秩矩阵，性能和效率平衡	中等规模适配任务、部署灵活
Prefix Tuning	训练前缀向量，模块化且轻量	多任务共享底模、小规模快速适配