当前位置: 首页 > news >正文

存储系统03——数据缓冲evBuffer

存储系统03——数据缓冲evBuffer

  • 数据缓冲evBuffer
    • 分段存储
    • 零拷贝
    • 线程安全
  • evbuffer 实例——存储系统事件触发

数据缓冲evBuffer

evbuffer 是 Libevent 提供的一个高效内存缓冲区管理工具,用于存储和操作数据。它类似于一个动态增长的字节缓冲区,支持多种操作,如添加、移除、读取和写入数据;在多线程环境中,evbuffer 的操作是线程安全的。

分段存储

evbuffer 内部使用链表结构存储数据,可以根据需要动态扩展和收缩内存空间;这使得它能够高效地处理不同大小的文件,而无需预先分配固定大小的缓冲区

避免了直接使用套接字传输时,需要的手动管理缓冲区、大文件手动分段

零拷贝

evbuffer 提供了零拷贝操作,如evbuffer_add_file(),可以直接将文件内容添加到缓冲区,而无需先将文件内容读取到内存中,这样可以显著减少内存占用和拷贝操作,提高传输效率。

避免了直接使用套接字传输时,需要将文件内容先读取到内存缓冲区中,再写入套接字;这会增加不必要的内存拷贝操作,降低传输效率。

线程安全

evbuffer 的操作是线程安全的。

evbuffer 实例——存储系统事件触发

用户在浏览器中触发了某些功能后,事件触发并调用回调函数GenHandler(),根据读取到的不同URL请求,回调函数执行对应的业务;
以Download为例:

static void GenHandler(struct evhttp_request *req, void *arg)
{std::string path = evhttp_uri_get_path(evhttp_request_get_evhttp_uri(req));path = UrlDecode(path);// 根据请求中的内容判断是什么请求// 这里是下载请求if (path.find("/download/") != std::string::npos){Download(req, arg);}else{evhttp_send_reply(req, HTTP_NOTFOUND, "Not Found", NULL);}
}

当读取到的业务为Download时,evbuffer 被用于处理 HTTP 文件下载请求;
下载代码逻辑为:

  1. 从 HTTP 请求中提取资源路径,并进行 URL 解码
// 1. 获取客户端请求的资源路径path   req.path
std::string resource_path = evhttp_uri_get_path(evhttp_request_get_evhttp_uri(req)); // 从请求的 URI 中提取路径部分           
resource_path = UrlDecode(resource_path); // 对路径进行 URL 解码
  1. 根据资源路径查询文件的存储信息
// 2. 根据资源路径,获取StorageInfo
StorageInfo info;
data_->GetOneByURL(resource_path, &info); // 根据资源路径获取文件的存储信息std::string download_path = info.storage_path_; // 获取文件的实际存储路径
  1. 将文件内容添加到 HTTP 响应中
// 3. 读取文件数据,放入 rsp.body 中
evbuffer *outbuf = evhttp_request_get_output_buffer(req); // 获取 HTTP 请求的输出缓冲区 evbuffer
int fd = open(download_path.c_str(), O_RDONLY);
// 使用零拷贝机制将文件放入输出缓冲区
evbuffer_add_file(outbuf, fd, 0, fu.FileSize()) // 将文件内容添加到输出缓冲区 outbuf
  1. 设置相应的 HTTP 头部字段,回传文件
// 4. 设置响应头部字段: ETag, Accept-Ranges: bytes
evhttp_add_header(req->output_headers, "Accept-Ranges", "bytes");
evhttp_add_header(req->output_headers, "ETag", GetETag(info).c_str());
evhttp_add_header(req->output_headers, "Content-Type", "application/octet-stream");evhttp_send_reply(req, HTTP_OK, "Success", NULL);

相关文章:

  • ebpf程序入门编写
  • frida 配置
  • OCframework编译Swift
  • 【C++]string模拟实现
  • C++编程this指针练习
  • 【科研项目】大三保研人科研经历提升
  • Python元组全面解析:从入门到精通
  • 【基础】Windows开发设置入门8:Windows 子系统 (WSL)操作入门
  • 深入解析Java四大引用类型:从强引用到虚引用的内存管理艺术
  • 软件设计师E-R模型考点分析——求三连
  • STM32实战指南:DHT11温湿度传感器驱动开发与避坑指南
  • 关于ECMAScript的相关知识点!
  • 认识常规贴片电阻
  • 数学实验(方程和微分方程求解)
  • 11.4/Q1,GBD数据库最新文章解读
  • 第二十一次博客打卡
  • Prompt、Agent、MCP关系
  • Mergekit——高频合并算法 TIES解析
  • 嵌入式(C语言篇)Day10
  • DAPO:用于指令微调的直接偏好优化解读
  • 宁德时代在港上市,创香港近年最大IPO
  • 国家发改委谈整治“内卷式”竞争:加力破除地方保护和市场分割,遏制落后产能无序扩张
  • 5月LPR下调:1年期、5年期以上品种均下调10个基点
  • 人民日报任平:从“地瓜经济”理论到民营经济促进法,读懂中国经济的成长壮大之道
  • 民间打拐志愿者上官正义遭人身安全威胁,杭州公安:已立案
  • 梅花奖在上海|湘剧《夫人如见》竞梅,长沙文旅来沪推广