当前位置: 首页 > news >正文

关于Redis不同序列化压缩性能的对比

一、背景介绍

为了核心业务更好的安全性,部分业务服务和核心业务做了redis分离,项目中初始化多个redis的链接,负责的一个业务系统,就存在redis的配置不太够,内存比较吃紧,于是乎,就想到了通过引入更加优秀的序列化方式,在牺牲redis中value的可读性,获取更低的内存占用(如果切换不同的redis序列化方式,同一个key切换前后会有不兼容的情况)。

二、解决方案

有了初期的思路,解决这个问题,相对也比较简单,通过调研,选择了几种比较常用的序列化方式,采用简单直接的方式,通过不同序列化将对象设置到redis中,对比一下他们的value占用空间大小。

三、环境声明:

JDK:17

Maven配置:

        <!--redisson--><dependency><groupId>org.redisson</groupId><artifactId>redisson-spring-boot-starter</artifactId><version>3.45.1</version></dependency><!--JSON序列化--><dependency><groupId>com.fasterxml.jackson.datatype</groupId><artifactId>jackson-datatype-jsr310</artifactId><version>2.18.4</version></dependency><!--fury序列化,可能会和项目中的guava包有依赖冲突,需要排除一下--><dependency><groupId>org.apache.fury</groupId><artifactId>fury-core</artifactId><version>0.9.0</version><exclusions><exclusion><artifactId>guava</artifactId><groupId>com.google.guava</groupId></exclusion></exclusions></dependency>

Redisson配置:

    public RedissonAutoConfigurationCustomizer redissonCustomizer() {return config -> {
// 指定序列化输入的类型,类必须是非final修饰的。序列化时将对象全类名一起保存下来
//            JavaTimeModule javaTimeModule = new JavaTimeModule();
//            DateTimeFormatter formatter = DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss");
//            javaTimeModule.addSerializer(LocalDateTime.class, new LocalDateTimeSerializer(formatter));
//            javaTimeModule.addDeserializer(LocalDateTime.class, new LocalDateTimeDeserializer(formatter));
//            ObjectMapper om = new ObjectMapper();
//            om.registerModule(javaTimeModule);
//            om.setTimeZone(TimeZone.getDefault());
//            om.setVisibility(PropertyAccessor.ALL, JsonAutoDetect.Visibility.ANY);
//            om.activateDefaultTyping(LaissezFaireSubTypeValidator.instance, ObjectMapper.DefaultTyping.NON_FINAL);
//            LoggerFactory.useSlf4jLogging(true);
//            TypedJsonJacksonCodec jsonCodec = new TypedJsonJacksonCodec(Object.class, om);// 组合序列化 key 使用 String 内容使用通用 json 格式
//            CompositeCodec codec = new CompositeCodec(StringCodec.INSTANCE, jsonCodec, jsonCodec);
//            CompositeCodec codec = new CompositeCodec(StringCodec.INSTANCE, StringCodec.INSTANCE, StringCodec.INSTANCE);
//            CompositeCodec codec = new CompositeCodec(StringCodec.INSTANCE, new Kryo5Codec(), new Kryo5Codec());CustomFuryCodec furyCodec = new CustomFuryCodec();CompositeCodec codec = new CompositeCodec(StringCodec.INSTANCE, furyCodec, furyCodec);config.setThreads(redissonProperties.getThreads()).setNettyThreads(redissonProperties.getNettyThreads())// 缓存 Lua 脚本 减少网络传输(redisson 大部分的功能都是基于 Lua 脚本实现).setUseScriptCache(true).setCodec(codec);if (SpringUtils.isVirtual()) {config.setNettyExecutor(new VirtualThreadTaskExecutor("redisson-"));}RedissonProperties.SingleServerConfig singleServerConfig = redissonProperties.getSingleServerConfig();if (ObjectUtil.isNotNull(singleServerConfig)) {// 使用单机模式config.useSingleServer()//设置redis key前缀.setNameMapper(new KeyPrefixHandler(redissonProperties.getKeyPrefix())).setTimeout(singleServerConfig.getTimeout()).setClientName(singleServerConfig.getClientName()).setIdleConnectionTimeout(singleServerConfig.getIdleConnectionTimeout()).setSubscriptionConnectionPoolSize(singleServerConfig.getSubscriptionConnectionPoolSize()).setConnectionMinimumIdleSize(singleServerConfig.getConnectionMinimumIdleSize()).setConnectionPoolSize(singleServerConfig.getConnectionPoolSize());}// 集群配置方式 参考下方注释RedissonProperties.ClusterServersConfig clusterServersConfig = redissonProperties.getClusterServersConfig();if (ObjectUtil.isNotNull(clusterServersConfig)) {config.useClusterServers()//设置redis key前缀.setNameMapper(new KeyPrefixHandler(redissonProperties.getKeyPrefix())).setTimeout(clusterServersConfig.getTimeout()).setClientName(clusterServersConfig.getClientName()).setIdleConnectionTimeout(clusterServersConfig.getIdleConnectionTimeout()).setSubscriptionConnectionPoolSize(clusterServersConfig.getSubscriptionConnectionPoolSize()).setMasterConnectionMinimumIdleSize(clusterServersConfig.getMasterConnectionMinimumIdleSize()).setMasterConnectionPoolSize(clusterServersConfig.getMasterConnectionPoolSize()).setSlaveConnectionMinimumIdleSize(clusterServersConfig.getSlaveConnectionMinimumIdleSize()).setSlaveConnectionPoolSize(clusterServersConfig.getSlaveConnectionPoolSize()).setReadMode(clusterServersConfig.getReadMode()).setSubscriptionMode(clusterServersConfig.getSubscriptionMode());}log.info("初始化 redis 配置");};}

FuryCodec配置类:
 

public class CustomFuryCodec extends BaseCodec {// 使用 ThreadLocal 确保每个线程有独立的 Fury 实例private final ThreadLocal<Fury> furyThreadLocal;public CustomFuryCodec() {this.furyThreadLocal = ThreadLocal.withInitial(() ->Fury.builder().withLanguage(Language.JAVA)  // 纯 Java 模式,性能最佳.requireClassRegistration(false)  // 强制注册类,避免写入类名(前提:预注册所有类).withMetaShare(false)  // 启用 MetaContext 共享,减少 schema 重复(如果需要;否则 false 以进一步提速).withRefTracking(false)  // 无循环引用时关闭,提升性能.withCodegen(true)  // 启用 ASM 代码生成,接近手写代码速度.withAsyncCompilation(true)  // 启用异步编译,长期使用下更快.withCompatibleMode(CompatibleMode.SCHEMA_CONSISTENT)  // 非兼容模式,纯性能优化.withNumberCompressed(true)  // 启用 int/long 压缩,减少大小.withStringCompressed(true)  // 启用字符串压缩,适合大对象.build());}// 供 Redisson 复制 codec 时调用的构造方法public CustomFuryCodec(ClassLoader classLoader, CustomFuryCodec codec) {this(); // 调用默认构造,重新创建 ThreadLocal<Fury>}private Fury getFury() {return furyThreadLocal.get();}@Overridepublic Decoder<Object> getValueDecoder() {return (ByteBuf buf, State state) -> {byte[] bytes = new byte[buf.readableBytes()];buf.readBytes(bytes);return getFury().deserialize(MemoryBuffer.fromByteArray(bytes));};}@Overridepublic Encoder getValueEncoder() {return in -> {byte[] bytes = getFury().serialize(in);return Unpooled.wrappedBuffer(bytes);};}
}
四、结果对比

Kryo5Codec:

Java/JVM 上很成熟的二进制序列化库,用于对象图(object graph)序列化,高效但需要配置(注册类、Serializer等);快速、紧凑、支持复杂对象图,但在某些场景下(比如跨语言、零拷贝、元数据开销)会有劣势;

字节码序列化,通常比 Java Serialization/JSON 那些格式小很多,相对的字节码也不可直接阅读。通过注册类可以进一步减少类名、类型 tag 等元数据开销,可变长编码也有助于压缩整型等,对于某些类型(字符串、多余空值、nulls、共享引用等)大小可能较大。kryo5-gitHub链接https://github.com/EsotericSoftware/kryo最终的Redis Key Size(1):

JSONCodec:

较为常见的序列化方式,拥有较好的可读性;

最终的Redis Key Size(2):

FuryCodec:

较新的序列化框架/项目,目标是“多语言支持 + 零拷贝 + JIT 代码生成 + 高吞吐 + 简单易用”;较新的序列化框架/项目,目标是“多语言支持 + 零拷贝 + JIT 代码生成 + 高吞吐 + 简单易用”;

动态生成序列化代码、支持跨语言、兼容 JDK 序列化 API、支持零拷贝、大量优化(元数据共享、长整型压缩等);多语言支持”——Java+Python+CPP+Golang+Rust+JavaScript 等。

Fury官方也有和其他序列化方式的性能对比,链接如下:

fury-gitHub官方对比各方序列化https://github.com/chaokunyang/fory-benchmarks最终的Redis Key Size(3):

StringCodec:

作为基础对比项;

最终的Redis Key Size(4):

五、总结:

Fury序列化对比与kryo5的压缩比例,对于序列化和反序列化性能有较大提升,但是本身的配置可选项较多,学习成本和使用成本较高,内存大小压缩没有特别机制,对于速度要求比较极致的可以选择。
Kryo5在压缩比,以及性能方面都有不错的表现,综合来说还是非常不错的选择。


文章转载自:

http://ZznimNQC.stprd.cn
http://iOCv97ED.stprd.cn
http://rN944YNn.stprd.cn
http://V8Z41ajc.stprd.cn
http://r27DW75J.stprd.cn
http://nvSMc4SR.stprd.cn
http://UU62G0yX.stprd.cn
http://SKbgToex.stprd.cn
http://C4dVeZix.stprd.cn
http://vzBZrySp.stprd.cn
http://pCa8Sa02.stprd.cn
http://RiD8jKKN.stprd.cn
http://Wrh7ZZjV.stprd.cn
http://WiJ15k2e.stprd.cn
http://PlCytzV2.stprd.cn
http://o68j8gCv.stprd.cn
http://YSzn1Vzg.stprd.cn
http://No07gMgs.stprd.cn
http://RfBGRV0S.stprd.cn
http://6U9YPc7M.stprd.cn
http://b75FaAe1.stprd.cn
http://GmtYJapy.stprd.cn
http://oSPr4F66.stprd.cn
http://DUeuZZ4B.stprd.cn
http://l1ZhjWzB.stprd.cn
http://dYH7vMiP.stprd.cn
http://gDGvcyWr.stprd.cn
http://40HRMnwZ.stprd.cn
http://g9gv1bNo.stprd.cn
http://AD3sN9V3.stprd.cn
http://www.dtcms.com/a/381437.html

相关文章:

  • window显示驱动开发—VidPN 对象和接口
  • 系统架构设计师——【2024年上半年案例题】真题模拟与解析(二)
  • 突破性能瓶颈:基于腾讯云EdgeOne的AI图片生成器全球加速实践
  • JavaScript事件机制与性能优化:防抖 / 节流 / 事件委托 / Passive Event Listeners 全解析
  • 文章目录集合
  • 海外短剧系统开发:技术架构与性能优化实践
  • Windsurf 插件正式登陆 JetBrains IDE:让 AI 直接在你的 IDE 里“打工”
  • 西门子 S7-200 SMART PLC 核心指令详解:从移位、上升沿和比较指令到流水灯控制程序实战
  • 【重要通知】ChatGPT Plus将于9月16日调整全球充值定价,低价区将被弃用,开发者如何应对?
  • 跨省跨国监控难题破解:多层级运维的“中国解法”
  • Spring Boot 与 Elasticsearch 集成踩坑指南:索引映射、批量写入与查询性能
  • 基础算法---【高精度算法】
  • React 18的createRoot与render全面对比
  • 在 React 中如何优化状态的使用?
  • 什么是半导体制造中的PVD涂层?
  • 半导体制造的光刻工艺该如何选择合适的光刻胶?
  • 用图论来解决问题
  • 机器视觉在半导体制造中有哪些检测应用
  • 从废料到碳减排:猎板 PCB 埋容埋阻的绿色制造革命,如何实现环保与性能双赢
  • CoCo:智谱推出的企业级超级助手Agent
  • 【高等数学】第十一章 曲线积分与曲面积分——第七节 斯托克斯公式 环流量与旋度
  • 嵌入式基础_STM32F103C8T6移植FreeRTOS(标准库函数)
  • 互联网大厂Java面试实录:从基础到微服务全栈技术答疑
  • DAY 28 类的定义和方法-2025.9.15
  • Linux信号小细节整理
  • Django全栈班v1.04 Python基础语法 20250913 下午
  • 第38次CCFCSP第三题--消息解码
  • 新零售第一阶段传统零售商的困境突破与二次增长路径:基于定制开发开源AI智能名片S2B2C商城小程序的实践探索
  • 金融科技:香港中小型企业(SME)市场规模、零售银行细分、家族办公室、私人银行、商业银行、渠道管理
  • 08_多层感知机