当前位置： 首页 > wzjs >正文

电商网站的活动怎么做设计网站一般多少钱

wzjs 2025/7/27 6:27:21
电商网站的活动怎么做,设计网站一般多少钱,2023年适合小学生的新闻有哪些,做网站不给源码吗Web-SSL 探索了视觉自监督学习（SSL）在网络规模数据上的扩展潜力。通过调整模型大小和训练数据，我们证明了纯视觉模型可以与 CLIP 等语言监督方法相媲美，甚至超越它们，从而对 "语言监督是学习多模态建模所需的强大…

在这里插入图片描述
Web-SSL 探索了视觉自监督学习（SSL）在网络规模数据上的扩展潜力。通过调整模型大小和训练数据，我们证明了纯视觉模型可以与 CLIP 等语言监督方法相媲美，甚至超越它们，从而对 "语言监督是学习多模态建模所需的强大视觉表征的必要条件 "这一普遍假设提出了挑战。我们提出了 Web-SSL：一个参数从 0.3B 到 7B 不等的纯视觉模型系列，它为多模态建模和经典视觉任务提供了 CLIP 的有力替代方案。

主要发现：
  • 📈 SSL 通过模型能力和数据不断改进。
  • 🔍 Web-SSL 在广泛的 VQA 任务中，甚至在 OCR & 图表理解等与语言相关的任务中，都能与语言监督方法相媲美，甚至更胜一筹。
  • 🖼️ 我们的模型在分类和分割等经典视觉任务中保持了极具竞争力的性能，同时在多模态任务中表现出色。
  • 📊 视觉 SSL 方法对数据分布很敏感！在文本丰富的图像浓度较高的过滤数据集上进行训练，可大幅提高 OCR & 图表理解能力。

Web-DINO 型号

标准机型

Web-DINO 是 DINOv2 模型系列，参数范围从 0.3B 到 7B 不等，在更大规模的网络图像上进行训练。Web-DINO 模型在多模态任务（如 VQA）中表现尤为突出，同时又不影响经典视觉任务（如图像分类）的性能。详情请参见我们的论文。

模型分块大小分辨率数据HuggingFace权重
webssl-dino300m-full2b-22414x14224x2242B (MC-2B)LinkLink
webssl-dino1b-full2b-22414x14224x2242B (MC-2B)LinkLink
webssl-dino2b-full2b-22414x14224x2242B (MC-2B)LinkLink
webssl-dino3b-full2b-22414x14224x2242B (MC-2B)LinkLink
webssl-dino5b-full2b-22414x14224x2242B (MC-2B)LinkLink
webssl-dino7b-full8b-224 ⭐14x14224x2248B (MC-2B)LinkLink
webssl-dino7b-full8b-378 ⭐14x14378x3788B (MC-2B)LinkLink
webssl-dino7b-full8b-518 ⭐14x14518x5188B (MC-2B)LinkLink

** 型号说明：**

  • webssl-dino7b-full8b-224 ⭐：最佳 224x224 分辨率模型
  • webssl-dino7b-full8b-378 ⭐：使用 384x384 分辨率时性能更佳
  • webssl-dino7b-full8b-518 ⭐：518x518 分辨率下的最佳整体性能

过滤数据模型

这些模型是在 MC-2B 图像的过滤子集上进行训练的，这些子集包含较多文本（如标志、图表、表格、注释等）。这增强了 OCR & 图表理解能力，与在完整数据上训练的相同大小的模型相比，其他 VQA 类别的性能没有明显下降。

模型分块大小分辨率数据HuggingFace权重
webssl-dino2b-light2b-22414x14224x2242B (MC-2B light)LinkLink
webssl-dino2b-heavy2b-22414x14224x2242B (MC-2B heavy)LinkLink
webssl-dino3b-light2b-22414x14224x2242B (MC-2B light)LinkLink
webssl-dino3b-heavy2b-22414x14224x2242B (MC-2B heavy)LinkLink

** 数据说明：**

  • MC-2B light: MC-2B 图像中包含文本的 50.3% 子集
  • MC-2B heavy: 包含图表/文档的 MC-2B 图像的 1.3% 子集。

Web-MAE 模型

Web-MAE 是一系列 MAE 模型，参数范围从 0.3B 到 3B，在更大规模的网络图像上进行训练。我们只发布了用于特征提取的编码器。

模型分块大小分辨率数据HuggingFace权重
webssl-mae300m-full2b-22416x16224x2242B (MC-2B)LinkLink
webssl-mae700m-full2b-22414x14224x2242B (MC-2B)LinkLink
webssl-mae1b-full2b-22414x14224x2242B (MC-2B)LinkLink
webssl-mae2b-full2b-22414x14224x2242B (MC-2B)LinkLink
webssl-mae3b-full2b-22414x14224x2242B (MC-2B)LinkLink

Installation

It is possible that older or newer versions will work. However, we haven’t tested them for this inference code.

conda create -n webssl python=3.11
conda activate webssl
pip install torch==2.5.1 torchvision==0.20.1 xformers --index-url https://download.pytorch.org/whl/cu124
pip install transformers==4.48.0 huggingface-hub==0.27.1 timm==1.0.15

使用方法

我们提供了两个示例，将我们的模型与 HuggingFace 和原生 PyTorch 结合使用。请注意，您并不局限于使用预训练分辨率进行推理，但是，您可能会通过使用相同的分辨率进行推理获得最佳结果。

1.使用 HuggingFace Transformers

您可以选择使用 huggingface-cli 先在本地下载模型权重。当您没有大型缓存或网络速度较慢时，这样做很方便。

例如huggingface-cli download facebook/webssl-dino7b-full8b-518 --local-dir YOUR_PATH、然后提供 YOUR_PATH到 from_pretrained()。

from transformers import AutoImageProcessor, Dinov2Model# Load a Web-DINO model
model_name = "facebook/webssl-dino1b-full2b-224"
processor = AutoImageProcessor.from_pretrained(model_name)
model = Dinov2Model.from_pretrained(model_name, attn_implementation='sdpa') # 'eager' attention also supported
model.cuda().eval()# Process an image
from PIL import Imageimage = Image.open("sample_images/bird.JPEG")
with torch.no_grad():inputs = processor(images=image, return_tensors="pt").to('cuda')outputs = model(**inputs)last_hidden_states = outputs.last_hidden_state

2.使用带有原始权重的 PyTorch

from dinov2.vision_transformer import webssl_dino1b_full2b_224
import torch
from PIL import Image
from torchvision import transforms# Define image transformation
transform = transforms.Compose([transforms.Resize(256, interpolation=transforms.InterpolationMode.BICUBIC),transforms.CenterCrop(224),transforms.ToTensor(),transforms.Normalize(mean=(0.485, 0.456, 0.406), std=(0.229, 0.224, 0.225))
])# Load model
model = webssl_dino1b_full2b_224()# Load weights
checkpoint_path = "path/to/downloaded/weights.pth"
state_dict = torch.load(checkpoint_path, map_location="cpu")
msg = model.load_state_dict(state_dict, strict=False)
print(f"Loaded weights: {msg}")
model.cuda().eval()# Process an image
image = Image.open("sample_images/bird.JPEG")
x = transform(image).unsqueeze(0).cuda()
with torch.no_grad():features = model.forward_features(x)patch_features = features['x_norm_patchtokens']

https://github.com/facebookresearch/webssl

https://github.com/facebookresearch/webssl/blob/main/demo_webdino.py

https://github.com/facebookresearch/webssl/blob/main/demo_webmae.py

http://www.dtcms.com/wzjs/110078.html

相关文章：

  • 蓝色手机网站模板西安百度公司
  • cdn能为网站上国内做网站比较好的公司
  • 服务器做免费空间网站管理录像教程注册公司流程和费用
  • 音乐网站模板下载指数
  • 摄影网站设计素材江门seo网站推广
  • 现在建设一个基础的网站多少钱软文写作500字
  • 黄山网站建设找哪家今天重大新闻
  • 低价做网站手机免费发布信息平台
  • 学校网站建设报价表外国人b站
  • 360建筑网怎么删除电话南召seo快速排名价格
  • 文章修改网站营销存在的问题及改进
  • 搬家网站怎么做上海网络营销公司
  • 青海政府网站建设福州网站排名推广
  • 光明网站建设新媒体运营哪个培训机构好
  • 网站广告图片设计教程百度查找相似图片
  • 成都网站推广如何seo简单速排名软件
  • 腾讯云ADM怎么做网站西安网站公司推广
  • 自己建设网站需要多少钱品牌公关公司
  • 建筑工程网站哪个好如何百度收录自己的网站
  • 柳州公司网站制作公司软文范例大全800字
  • 临沂网站制作哪家好杭州seo 云优化科技
  • wordpress百度主动推送湘潭关键词优化公司
  • 怎么做网站内的搜索网络营销专业学什么
  • 做网站运营经理的要求北京学电脑的培训机构
  • python在线网站台州网站seo
  • 哪些网站做兼职可靠吗网络营销的方法有哪些
  • 鹤壁做网站中视频自媒体账号注册下载
  • 网站建设一般要多钱seo外链推广工具
  • 做网站推广托管注意百度网盘搜索引擎入口在哪
  • 中软国际保定seo推广外包