当前位置：首页 > news >正文

高并发系统中的限流与异步优化实战指南

news 2025/10/20 7:14:29

cover

高并发系统中的限流与异步优化实战指南

一、业务场景描述

在某电商平台大促活动中，系统峰值QPS超过5k，库存扣减与订单下单调用下游支付与库存服务节点极易触及瓶颈，导致延迟飙升、接口超时甚至卡死。为确保系统稳定性，需要对外部访问进行精细化限流，并将部分非核心流程异步化，来削峰填谷、提升系统吞吐能力。

二、技术选型过程

限流：考虑Token Bucket（Guava RateLimiter）、Redis Leaky Bucket、基于Hystrix和Sentinel的熔断限流方案。最终选型：Redis分布式令牌桶+Sentinel链路监控。
异步：消息中间件对比Kafka和RabbitMQ，因为业务对消息消费顺序无严格要求，且消息量中等，选用RabbitMQ，配合Spring Boot异步注解及线程池处理。

三、实现方案详解

3.1 Redis分布式限流

我们采用Redis脚本在服务器端完成令牌计算，避免多点并发导致的不一致。核心Lua脚本：

-- keys[1]:限流key
-- ARGV[1]:令牌桶最大容量
-- ARGV[2]:每秒填充速率
-- ARGV[3]:当前时间戳(ms)
local key = KEYS[1]
local capacity = tonumber(ARGV[1])
local rate = tonumber(ARGV[2])
local now = tonumber(ARGV[3])
local last = tonumber(redis.call('hget', key, 'lastTime') or 0)
local tokens = tonumber(redis.call('hget', key, 'tokens') or capacity)
-- 计算新增令牌
local delta = math.max(0, (now - last) * rate / 1000)
tokens = math.min(capacity, tokens + delta)
if tokens < 1 thenreturn 0
elseredis.call('hset', key, 'tokens', tokens - 1)redis.call('hset', key, 'lastTime', now)return 1
end

对应Java调用：

public boolean tryAcquire(String key) {List<String> keys = Collections.singletonList(key);List<String> args = Arrays.asList("100", "50", String.valueOf(System.currentTimeMillis()));Long result = redisTemplate.execute((RedisCallback<Long>) conn -> {Object nativeRes = conn.eval(luaScript.getBytes(), ReturnType.INTEGER, 1,keys.get(0).getBytes(), args.get(0).getBytes(), args.get(1).getBytes(), args.get(2).getBytes());return (Long) nativeRes;});return Objects.equals(result, 1L);
}

在Spring Boot中，将该方法包装为AOP切面，对订单创建接口进行限流：

@Aspect
@Component
public class RateLimitAspect {@Autowiredprivate RateLimiterService limiter;@Pointcut("@annotation(com.example.annotation.RateLimit)")public void limitPoint(){}@Around("limitPoint() && @annotation(limit)")public Object around(ProceedingJoinPoint pjp, RateLimit limit) throws Throwable {boolean ok = limiter.tryAcquire(limit.key());if (!ok) {throw new RateLimitException("系统繁忙，请稍后重试");}return pjp.proceed();}
}

3.2 RabbitMQ异步处理

对于下单后邮件通知和统计日志等非核心流程，使用RabbitMQ异步解耦。配置示例：

spring:rabbitmq:host: amqp.example.comport: 5672username: userpassword: passlistener:simple:concurrency: 3max-concurrency: 10

生产者代码：

@Autowired
private RabbitTemplate rabbitTemplate;
public void sendOrderEvent(Order order) {rabbitTemplate.convertAndSend("exchange.order", "routing.order", order);
}

消费者代码：

@Component
public class OrderEventListener {@RabbitListener(queues = "queue.order")public void onMessage(Order order) {// 发送邮件通知、写日志emailService.sendConfirmation(order);logService.record(order);}
}

通过异步队列，主流程无需等待邮件和日志写入的完成，QPS可提升30%以上。