当前位置: 首页 > wzjs >正文

找人做网站注意事项wordpress hotnews

找人做网站注意事项,wordpress hotnews,承德网站建设作用,个人做电子商务网站备案实验背景 在前面的深度学习之用CelebA_Spoof数据集搭建一个活体检测-模型搭建和训练,我们基于CelebA_Spoof数据集构建了一个用SqueezeNe框架进行训练的活体2D模型,采用了蒸馏法进行了一些简单的工作。在前面提供的训练参数中,主要用了以下几…

实验背景

在前面的深度学习之用CelebA_Spoof数据集搭建一个活体检测-模型搭建和训练,我们基于CelebA_Spoof数据集构建了一个用SqueezeNe框架进行训练的活体2D模型,采用了蒸馏法进行了一些简单的工作。在前面提供的训练参数中,主要用了以下几个参数:

lr=0.001, step_size=10, gamma=0.1, alpha=0.5, T=3.0, epochs=300, log_interval=5, batch_size=128, save_interval=10, eval_interval=5

但是,效果并不是很好,得到的评估指标为:

{'Accuracy': 0.8841447074586869, 'Precision': 0.9865851252712566, 'Recall': 0.8468018456588917, 'F1': 0.9113647235700131, 'FPR': 0.027303754266211604, 'ROC_AUC': 0.9661331014932475, 'EER': 0.076691427424212, 'PR_AUC': 0.9862052738456543, 'AP': 0.9862056134292535}

对于一个好的活体检测模型来说,各项指标都不是很好。对于这个指标,就需要进一步进行全面的分析了,如:预处理、训练的各个参数的玄学调整,模型结构深度,蒸馏中的权重比等等之类。在各种折腾后都得不到比较好的改变,于是想在特征上进行改进,如果人工再加点特征试试,会是怎样?这突发奇想就想到了:傅里叶变换。为什么用它,因为非活体的照片很多都是翻拍的,那么因为相机或者屏幕的闪烁,可能会出现一些条纹或者频域上的特征,这些就有可能很好的区分这两类图片。为了提升模型对伪造攻击的识别能力,我们尝试在训练过程中加入傅里叶变换作为辅助特征。

方法对比

基线模型训练时候的训练过程(无傅里叶变换)

直接是普通的蒸馏训练过程,正常的损失计算。

# 传统RGB图像预处理
def _compute_loss(self, student_out, teacher_out, targets):current_T = max(1.0, self.args.T * (0.95 ** (self.current_epoch/10)))"""计算蒸馏损失"""# KL散度损失kl_loss = nn.KLDivLoss(reduction='batchmean')(torch.log_softmax(student_out/self.args.T, dim=1),torch.softmax(teacher_out/self.args.T, dim=1)) * (current_T ** 2)# 交叉熵损失ce_loss = self.criterion(student_out, targets)total_loss = self.args.alpha * kl_loss + (1 - self.args.alpha) * ce_lossreturn total_lossdef train_epoch(self, train_loader, epoch):try:"""完整训练逻辑"""self.student.train()self.current_epoch = epochtotal_loss = 0.0correct = 0total = 0for batch_idx, (data, target) in enumerate(train_loader):data, target = data.to(self.device), target.to(self.device)if self.gpu == 0 and batch_idx % 200 == 0:current_lr = self.optimizer.param_groups[0]['lr']print(f'当前学习率: {current_lr:.6f}')  # 添加这行打印学习率self.optimizer.zero_grad()# 前向传播student_out = self.student(data)with torch.no_grad():teacher_out = self.teacher(data)        # 计算损失loss = self._compute_loss(student_out, teacher_out, target)# 反向传播loss.backward()self.optimizer.step()# 统计指标total_loss += loss.item()_, predicted = student_out.max(1)total += target.size(0)correct += predicted.eq(target).sum().item()# 主进程打印日志if self.gpu == 0 and batch_idx % 200 == 0:avg_loss = total_loss / (batch_idx + 1)acc = 100. * correct / totalprint(f'Epoch {epoch} Batch {batch_idx}/{len(train_loader)} 'f'Loss: {avg_loss:.4f} | Acc: {acc:.2f}%')self.scheduler.step()return {'loss':total_loss / len(train_loader),'accuracy': 100.0 * correct / total}except Exception as e:if "NCCL" in str(e):print(f"NCCL错误发生,尝试恢复训练...")torch.distributed.destroy_process_group()torch.distributed.init_process_group(backend='nccl')return {'loss': 0, 'accuracy': 0}else:print(f"训练过程中发生错误: {str(e)}")raise e

改进模型(加入傅里叶变换)

加入的傅里叶变换该怎么加呢,我们只在训练过程中加入,那么得到的特征中具有较好区分性就行,所以不需要将输入图像数据都进行傅里叶变换,这样也防止在后续的推理过程中都需要进行傅里叶变换,增加无畏的动作和减少更多的特征内卷。
训练过程中,正常的输入图像数据,正常的教师学生模型的特征求取,但是同时采用傅里叶变换对图像数据进行预处理,用于后续的损失函数加入。
训练参数为:

lr=0.001, step_size=10, gamma=0.9, alpha=0.5, T=3.0, epochs=300, log_interval=5, batch_size=128, save_interval=10, eval_interval=5
    def _fourier_transform(self, x):x = torch.fft.fftshift(torch.fft.fft2(x, dim=(-2, -1)))  # 中心化频谱x = torch.abs(x)# 动态调整滤波区域h, w = x.shape[-2:]crow, ccol = h//2, w//2mask = torch.ones_like(x)mask[..., crow-10:crow+10, ccol-10:ccol+10] = 0.3  # 部分保留中心低频return torch.log(1 + 10*x*mask)  # 增强高频特征
def _compute_loss(self, student_out, teacher_out, targets):current_T = max(1.0, self.args.T * (0.95 ** (self.current_epoch/10)))"""计算蒸馏损失"""# KL散度损失kl_loss = nn.KLDivLoss(reduction='batchmean')(torch.log_softmax(student_out/self.args.T, dim=1),torch.softmax(teacher_out/self.args.T, dim=1)) * (current_T ** 2)# 交叉熵损失ce_loss = self.criterion(student_out, targets)total_loss = self.args.alpha * kl_loss + (1 - self.args.alpha) * ce_loss#if self.gpu == 0:  # 仅主进程打印#    print(f"原始损失 - KL: {kl_loss.item():.4f} | CE: {ce_loss.item():.4f}")# 添加频域分支损失if self.use_freq:base_weight = self.freq_weight  # 基础权重dynamic_weight = min(0.25, 0.15 + self.current_epoch*0.001)freq_loss = self.criterion(self.freq_pred, targets) * base_weight * dynamic_weighttotal_loss += freq_loss#if self.gpu == 0:#    print(f"频域分支损失: {freq_loss.item():.4f} (权重: {self.freq_weight})")return total_lossdef train_epoch(self, train_loader, epoch):try:"""完整训练逻辑"""self.student.train()self.current_epoch = epochtotal_loss = 0.0correct = 0total = 0for batch_idx, (data, target) in enumerate(train_loader):data, target = data.to(self.device), target.to(self.device)if self.gpu == 0 and batch_idx % 200 == 0:current_lr = self.optimizer.param_groups[0]['lr']print(f'当前学习率: {current_lr:.6f}')  # 添加这行打印学习率self.optimizer.zero_grad()# 前向传播student_out = self.student(data)with torch.no_grad():teacher_out = self.teacher(data)if self.use_freq:# 频域处理with torch.no_grad():freq_data = self._fourier_transform(data)self.freq_pred = self.freq_branch(freq_data).squeeze()          # 计算损失loss = self._compute_loss(student_out, teacher_out, target)# 反向传播loss.backward()self.optimizer.step()# 统计指标total_loss += loss.item()_, predicted = student_out.max(1)total += target.size(0)correct += predicted.eq(target).sum().item()# 主进程打印日志if self.gpu == 0 and batch_idx % 200 == 0:avg_loss = total_loss / (batch_idx + 1)acc = 100. * correct / totalprint(f'Epoch {epoch} Batch {batch_idx}/{len(train_loader)} 'f'Loss: {avg_loss:.4f} | Acc: {acc:.2f}%')self.scheduler.step()return {'loss':total_loss / len(train_loader),'accuracy': 100.0 * correct / total}except Exception as e:if "NCCL" in str(e):print(f"NCCL错误发生,尝试恢复训练...")torch.distributed.destroy_process_group()torch.distributed.init_process_group(backend='nccl')return {'loss': 0, 'accuracy': 0}else:print(f"训练过程中发生错误: {str(e)}")raise e

性能指标对比

指标基线模型傅里叶增强模型提升幅度
Accuracy88.41%93.40%+4.99%
Precision98.66%98.52%-0.14%
Recall84.68%91.86%+7.18%
F1 Score91.14%95.08%+3.94%
ROC AUC96.61%97.83%+1.22%
EER7.67%5.84%-1.83%

关键发现

  1. 召回率显著提升:傅里叶变换帮助模型更好地捕捉伪造痕迹,使召回率提高了7.18%

  2. 等错误率降低:EER从7.67%降至5.84%,表明系统整体性能更均衡

  3. 特征互补性:虽然单独看频域特征效果有限,但与空间特征结合产生了协同效应

实现建议

在本次实验,我是保留了中心低频,增强了高频特征,当然也可以不这么干,毕竟有些低频的信息也有用,需要多次验证采取最好的。代码中添加的过滤如下:

        # 动态调整滤波区域h, w = x.shape[-2:]crow, ccol = h//2, w//2mask = torch.ones_like(x)mask[..., crow-10:crow+10, ccol-10:ccol+10] = 0.3  # 部分保留中心低频return torch.log(1 + 10*x*mask)  # 增强高频特征

结论

傅里叶变换的引入使模型在保持高精确度的同时,显著提升了召回能力。这只是在调整模型过程中的一点小改善,当然还有其他更好的方法,SqueezeNe的模型结构还是浅,如果没有更多的限制,可以加深加大,这样效果会更好。


文章转载自:

http://4U28BH1o.qhmhz.cn
http://2w9QIFDB.qhmhz.cn
http://qTVjNwU9.qhmhz.cn
http://wn4KmBtz.qhmhz.cn
http://BTPcPyZG.qhmhz.cn
http://TgxPbTDp.qhmhz.cn
http://sYC4cIo7.qhmhz.cn
http://DvwJdg2r.qhmhz.cn
http://qV5772xK.qhmhz.cn
http://DCT9aK0M.qhmhz.cn
http://dd7ALeTL.qhmhz.cn
http://RZqdtVxg.qhmhz.cn
http://X1KHcSSj.qhmhz.cn
http://Oxk0O9aH.qhmhz.cn
http://rRPnE8Y8.qhmhz.cn
http://AJXaUEuY.qhmhz.cn
http://L6Hl8ENQ.qhmhz.cn
http://yQc3Sftm.qhmhz.cn
http://jraX1AR5.qhmhz.cn
http://PuMfXntp.qhmhz.cn
http://YdihYYzy.qhmhz.cn
http://rmwvKr35.qhmhz.cn
http://X9T1ElM0.qhmhz.cn
http://MKaPY72r.qhmhz.cn
http://cKxfsb0G.qhmhz.cn
http://k8JvtyXZ.qhmhz.cn
http://fsXgvpdv.qhmhz.cn
http://ZKDPTHEo.qhmhz.cn
http://SYQboro4.qhmhz.cn
http://FuB1fXIY.qhmhz.cn
http://www.dtcms.com/wzjs/704653.html

相关文章:

  • php 外贸商城网站建设电子商城怎么注册
  • 美食网站开发的特点与总结一般大概需要多少钱
  • 承包网站开发东莞容桂网站制作
  • 高频网站开发做网站开发的过程
  • 北京建设局网站徐州seo推广优化
  • 网站建设基本资料个人网站做接口可以么
  • 有了网站怎么做app吗网站建设中技术程序
  • 百度给做网站收费多少钱卡地亚手表官方网站查询
  • 电子 公司 网站建设wordpress如何上传图片
  • 免费国外医疗静态网站模板下载长沙seo智优营家
  • html5医院网站网站服务建设公司
  • 黄骅网站建设公司哈尔滨快速建站案例
  • 杭州做网站哪家公司好深圳品牌火锅店加盟
  • 自己做网站如何月入3k推广平台排名
  • 长春阿凡达网站建设学广告设计难不难
  • 响应式相册网站模板wordpress链接title属性
  • 学生网站设计百度搜索关键词技巧
  • 网站建设与组织管理网站默认主页名
  • 中小企业网站建设与管理网页设计需要学什么编程语言
  • 网站建设维护要求求网站建设合伙人
  • 网站建站客户需求表单公司旅游视频网站模板免费下载
  • wordpress站点预览wordpress确认窗口
  • 保定市住房保障和城乡建设局网站什么网站可以做高三英语试题
  • 网站每年的维护费最新网站建设视频
  • 张家港网站设计有吗公众号网站制作
  • 佛山做网站自主网站建站
  • 网站建设访问人群哈尔滨建设工程信息网站
  • 网站建设微分销企业网站建设费多少钱
  • 北京公司注册核名网站小程序模板平台有哪些
  • 个人网站如何做支付功能徐州建站模板公司