当前位置: 首页 > wzjs >正文

厦门市建设工程安全质量协会网站百度收录最新方法

厦门市建设工程安全质量协会网站,百度收录最新方法,网站内链怎么做更好,有什么网站可以做外贸出口信息文章目录 通信协议--RESP内存回收内存过期策略惰性删除周期删除 内存淘汰策略 通信协议–RESP Redis是一个CS架构的软件,通信一般分两步(不包括pipeline和PubSub): 客户端(client)向服务端(se…

文章目录

  • 通信协议--RESP
  • 内存回收
    • 内存过期策略
      • 惰性删除
      • 周期删除
    • 内存淘汰策略

通信协议–RESP

Redis是一个CS架构的软件,通信一般分两步(不包括pipeline和PubSub):

  1. 客户端(client)向服务端(server)发送一条命令
  2. 服务端解析并执行命令,返回响应结果给客户端

因此客户端发送命令的格式、服务端响应结果的格式必须有一个规范,这个规范就是通信协议。

而在Redis中采用的是RESPRedis Serialization Protocol)协议:

  • Redis 1.2版本引入了RESP协议
  • Redis 2.0版本中成为与Redis服务端通信的标准,称为RESP2
  • Redis 6.0版本中,从RESP2升级到了RESP3协议,增加了更多数据类型并且支持6.0的新特性–客户端缓存

但目前,默认使用的依然是RESP2协议,也是我们要学习的协议版本(以下简称RESP)

在RESP中,通过首字节的字符来区分不同数据类型,常用的数据类型包括5种:

  1. 单行字符串:首字节是 + ,后面跟上单行字符串,以CRLF( "\r\n" )结尾。例如返回OK+OK\r\n
    由此可见:单行字符串中不能包含一些特殊字符(如\r\n等),是非二进制安全的

  2. 错误(Errors):首字节是 -,与单行字符串格式一样,只是字符串是异常信息,例如:-Error message\r\n

  3. 数值:首字节是 :,后面跟上数字格式的字符串,以CRLF结尾。例如::10\r\n

  4. 多行字符串:首字节是 $,表示二进制安全的字符串,最大支持512MB:
    如果大小为0,则代表空字符串$0\r\n\r\n
    如果大小为-1,则代表不存在$-1\r\n

  5. 数组:首字节是 *,后面跟上数组元素个数,再跟上元素,元素数据类型不限

内存回收

Redis之所以性能强,最主要的原因就是基于内存存储

然而单节点的Redis其内存大小不宜过大,会影响持久化或主从同步性能。

我们可以通过修改配置文件来设置Redis的最大内存:

# 格式:
# maxmemory <bytes>
# 例如:
maxmemory 1gb

当内存使用达到上限时,就无法存储更多数据了。

为了解决这个问题,Redis提供了一些策略实现内存回收:
内存过期策略 && 内存淘汰策略

内存过期策略

Redis可以通过expire命令给Redis的key设置TTL(存活时间):
在这里插入图片描述
可以发现,当key的TTL到期以后,再次访问name返回的是nil,说明这个key已经不存在了,对应的内存也得到释放。从而起到内存回收的目的。

但是这背后是怎么实现的?让我们从以下两个问题入手:

Q1:Redis是如何知道一个key是否过期呢?

Redis本身是一个典型的key-value内存存储数据库,因此所有的key、value都保存在之前学习过的Dict结构中。
并且在其database结构体中,有两个关键Dict:一个用来记录key-value;另一个用来记录key-TTL,定义如下:

typedef struct redisDb {dict *dict;                 /* 存放所有key及value的地方,也被称为keyspace*/dict *expires;              /* 存放每一个key及其对应的TTL存活时间,只包含设置了TTL的key*/dict *blocking_keys;        /* Keys with clients waiting for data (BLPOP)*/dict *ready_keys;           /* Blocked keys that received a PUSH */dict *watched_keys;         /* WATCHED keys for MULTI/EXEC CAS */int id;                     /* Database ID,0~15 */long long avg_ttl;          /* 记录平均TTL时长 */unsigned long expires_cursor; /* expire检查时在dict中抽样的索引位置. */list *defrag_later;         /* 等待碎片整理的key列表. */
} redisDb;

因此到这里我们可以解答Q1:利用两个Dict分别记录key-value对及key-ttl键值对,这样就可以查询一个key是否过期

Q2:是不是TTL到期就立即删除了呢?
NO,TTL到期的key并不是立即删除,而是采用如下策略:
惰性删除 && 周期删除

惰性删除

顾明思议并不是在TTL到期后就立刻删除,而是在访问一个key的时候,检查该key的存活时间,如果已经过期才执行删除

核心代码片段如下:

// 查找一个key执行写操作
robj *lookupKeyWriteWithFlags(redisDb *db, robj *key, int flags) {// 检查key是否过期expireIfNeeded(db,key);return lookupKey(db,key,flags);
}
// 查找一个key执行读操作
robj *lookupKeyReadWithFlags(redisDb *db, robj *key, int flags) {robj *val;// 检查key是否过期    if (expireIfNeeded(db,key) == 1) {// ...略}return NULL;
}int expireIfNeeded(redisDb *db, robj *key) {// 判断是否过期,如果未过期直接结束并返回0if (!keyIsExpired(db,key)) return 0;// ... 略// 删除过期keydeleteExpiredKeyAndPropagate(db,key);return 1;
}

可以看到不论是查找一个key做读还是写操作,都会调用expireIfNeeded函数来判断当前key是否过期,如果过期就会删除该key

那么这就有一个问题:如果一个key我们设置了TTL,并且它已经过期了,但是一直没有人去访问这个key,如果redis仅仅靠惰性删除的话,显然这个本该删除的key就永远不可能删除了。这显然是不合理的。因此有了下面的周期删除。

周期删除

通过一个定时任务,周期性的抽样部分过期的key,然后执行删除。执行周期有两种:

  1. Redis服务初始化函数initServer()中设置定时任务,按照server.hz的频率来执行过期key清理,模式为SLOW,核心代码如下:
// server.c
void initServer(void){// ...// 创建定时器,关联回调函数serverCron,处理周期取决于server.hz,默认10aeCreateTimeEvent(server.el, 1, serverCron, NULL, NULL) 
}// server.c
int serverCron(struct aeEventLoop *eventLoop, long long id, void *clientData) {// 更新lruclock到当前时间,为后期的LRU和LFU做准备unsigned int lruclock = getLRUClock();atomicSet(server.lruclock,lruclock);// 执行database的数据清理,例如过期key处理databasesCron();
}void databasesCron(void) {// 尝试清理部分过期key,清理模式默认为SLOWactiveExpireCycle(ACTIVE_EXPIRE_CYCLE_SLOW);
}
  1. Redis的每个事件循环前会调用beforeSleep()函数,执行过期key清理,模式为FAST
void beforeSleep(struct aeEventLoop *eventLoop){// ...// 尝试清理部分过期key,清理模式默认为FASTactiveExpireCycle(ACTIVE_EXPIRE_CYCLE_FAST);
}

SLOW模式规则:

  1. 执行频率受server.hz影响,默认为10,即每秒执行10次,每个执行周期100ms。
  2. 执行清理耗时不超过一次执行周期的25%.默认slow模式耗时不超过25ms
  3. 逐个遍历db,逐个遍历db中的bucket,抽取20个key判断是否过期
  4. 如果没达到时间上限(25ms)并且过期key比例大于10%,再进行一次抽样,否则结束

FAST模式规则(过期key比例小于10%不执行 ):

  1. 执行频率受beforeSleep()调用频率影响,但两次FAST模式间隔不低于2ms
  2. 执行清理耗时不超过1ms
  3. 逐个遍历db,逐个遍历db中的bucket,抽取20个key判断是否过期
  4. 如果没达到时间上限(1ms)并且过期key比例大于10%,再进行一次抽样,否则结束

内存淘汰策略

当Redis内存使用达到设置的上限时,主动挑选部分key删除以释放更多内存的流程

Redis会在处理客户端命令的方法processCommand()中尝试做内存淘汰:

int processCommand(client *c) {// 如果服务器设置了server.maxmemory属性,并且并未有执行lua脚本if (server.maxmemory && !server.lua_timedout) {// 尝试进行内存淘汰performEvictionsint out_of_memory = (performEvictions() == EVICT_FAIL);// ...if (out_of_memory && reject_cmd_on_oom) {rejectCommand(c, shared.oomerr);return C_OK;}// ....}
}

Redis支持8种不同策略来选择要删除的key:

  1. noeviction不淘汰任何key,但是内存满时不允许写入新数据,默认就是这种策略
  2. volatile-ttl: 对设置了TTL的key,比较key的剩余TTL值,TTL越小越先被淘汰
  3. allkeys-random:对全体key随机进行淘汰。也就是直接从db->dict中随机挑选
  4. volatile-random:对设置了TTL的key随机进行淘汰。也就是从db->expires中随机挑选
  5. allkeys-lru: 对全体key,基于LRU算法进行淘汰
  6. volatile-lru: 对设置了TTL的key,基于LRU算法进行淘汰
  7. allkeys-lfu: 对全体key,基于LFU算法进行淘汰
  8. volatile-lfu: 对设置了TTL的key,基于LFU算法进行淘汰

比较容易混淆的有两个:
LRU(Least Recently Used),最少最近使用。用当前时间减去最后一次访问时间,这个值越大则淘汰优先级越高

LFU(Least Frequently Used),最少频率使用。会统计每个key的访问频率值越小淘汰优先级越高

对于上面的8种策略,可以通过如下字段设置具体的策略:
在这里插入图片描述

我们着重了解一下LRU和LFU的实现方式

我们都知道,Redis的数据都会被封装为RedisObject结构:

typedef struct redisObject {unsigned type:4;        // 对象类型unsigned encoding:4;    // 编码方式unsigned lru:LRU_BITS;  // LRU:以秒为单位记录最近一次访问时间,长度24bit// LFU:高16位以分钟为单位记录最近一次访问时间,低8位记录逻辑访问次数int refcount;           // 引用计数,计数为0则可以回收void *ptr;              // 数据指针,指向真实数据
} robj;

其中 unsigned lru:LRU_BITS; 根据maxmemory-policy可以设置具体的策略:

  1. maxmemory-policy allkeys-lrumaxmemory-policy volatile-lru
    此时obj种的lru以秒为单位记录最近一次访问时间,长度24bit
  2. maxmemory-policy allkeys-lfumaxmemory-policy volatile-lfu
    此时obj种的lru的高16位以分钟为单位记录最近一次访问时间,低8位记录逻辑访问次数
    问:何为逻辑访问次数?
    答:LFU的访问次数之所以叫做逻辑访问次数,是因为并不是每次key被访问都计数,而是通过以下运算方式:
    ①生成0~1之间的随机数R
    ②计算 (旧次数 * lfu_log_factor + 1),记录为P
    ③如果 R < P ,则计数器 + 1,且最大不超过255
    ④访问次数会随时间衰减,距离上一次访问时间每隔 lfu_decay_time 分钟(默认是1),计数器 -1

具体的淘汰策略如下图所示:
在这里插入图片描述

http://www.dtcms.com/wzjs/103628.html

相关文章:

  • 温岭手机网站建设全国最好网络优化公司
  • 网站建设项目描述范文推56论坛
  • wordpress邮件客户端专业seo整站优化
  • 如何上传网站企业网络推广的方法有哪些
  • 可以拔下来做的网站吗百度推广运营怎么做
  • wordpress如何发布文件seo技术外包公司
  • 苏州网站建设外贸如何营销推广
  • 怎么做徐州市环保局网站备案表网络最有效的推广方法
  • 网站建设费一般摊销几年做公司网站
  • 新闻网站建设评比规则搜索引擎网站入口
  • 最好用的网站推广经验百度霸屏推广一般多少钱
  • 做网站做小程序推广外链免费发布平台
  • 网站安全检测官网google play下载官方版
  • 网站备案证图片百家号关键词排名优化
  • 做外贸推广哪个网站好百度指数平台官网
  • 企业网站轮播图网络营销毕业论文8000字
  • 怎样在网站是做宣传百度推广费用一年多少钱
  • 手机评测网站百度推广开户费用
  • 上海建设电动车官方网站西安网站优化
  • 丹东做网站企业营销策划论文
  • 如何在外管局网站做延期收汇优化网哪个牌子好
  • 公司网站维护一般需要做什么佛山百度推广电话
  • 家装网站建设哪家好点免费seo网站优化
  • 学习网站二次开发百度大数据
  • 招商计划书模板ppt中山seo
  • 青岛网站建设在线软文写作发布
  • wordpress 添加友链seo外链发布工具
  • dw网页设计个人介绍石家庄网络seo推广
  • 做网站搜索结果的代码太原百度seo
  • 怎么看网站有没有做竞价网址收录平台