51CTO首页
AI.x社区
博客
学堂
精品班
软考社区
免费课
企业培训
鸿蒙开发者社区
信创认证
公众号矩阵
移动端
%20
聊聊六种负载均衡算法
%20%20%201.轮询 (Round Robin)
轮询是指将请求按顺序轮流地分配到后端服务器上，它均衡地对待后端的每一台服务器，而不关心服务器实际的连接数和当前的系统负载。
图片
示例代码：
import java.util.List;
import java.util.concurrent.atomic.AtomicInteger;
publicclass RoundRobin {
privatefinal List<String> servers;
privatefinal AtomicInteger index = new AtomicInteger(0);
public RoundRobin(List<String> servers) {
this.servers = servers;
}
public String getServer() {
int currentIndex = index.getAndIncrement() % servers.size();
return servers.get(currentIndex);
}
}2.粘性轮询 (Sticky Round-Robin)
粘性轮询是标准轮询算法的一个变种，它通过记住客户端与服务实例的映射关系，确保来自同一客户端的连续请求会被路由到同一个服务实例上。
它的特点是：
- 会话保持：一旦客户端首次请求被分配到某个服务实例，后续请求会"粘"在这个实例上
- 客户端识别：通常基于客户端IP、会话ID或特定HTTP头来识别客户端
- 故障转移：当目标服务实例不可用时，系统会重新分配客户端到其他可用实例
图片
示例代码：
import java.util.List;
import java.util.Map;
import java.util.concurrent.ConcurrentHashMap;
import java.util.concurrent.atomic.AtomicInteger;
publicclass StickyRoundRobin {
privatefinal List<String> servers;
privatefinal AtomicInteger index = new AtomicInteger(0);
privatefinal Map<String, String> clientToServer = new ConcurrentHashMap<>();
public StickyRoundRobin(List<String> servers) {
this.servers = servers;
}
public String getServer(String clientId) {
return clientToServer.computeIfAbsent(clientId,
k -> servers.get(index.getAndIncrement() % servers.size()));
}
}3.加权轮询 (Weighted Round-Robin)
加权轮询是标准轮询算法的增强版本，它允许管理员为每个服务实例分配不同的权重值。权重越高的实例处理越多的请求，从而实现更精细的负载分配。
图片
它的特点是:
- 权重分配：每个服务实例都有对应的权重值
- 比例分配：请求按权重比例分配到不同实例
- 动态调整：权重可以动态修改以适应不同场景
示例代码：
private static Map<String, Integer> serverMap = new ConcurrentHashMap<>();
//记录服务器权重总和
privatestaticint totalWeight = 0;
public static String weightRandom() {
//获取服务器数量
int serverCount = serverMap.size();
//如果没有可用的服务器返回null
if (serverCount == 0) {
returnnull;
}
//在此处为避免多线程并发操作造成错误，在方法内部进行锁操作
synchronized (serverMap) {
//计算服务器权重总和
for (Map.Entry<String, Integer> entry : serverMap.entrySet()) {
totalWeight += entry.getValue();
}
//生成一个随机数
int randomWeight = new Random().nextInt(totalWeight);
//遍历服务器列表，根据服务器权重值选择对应地址
for (Map.Entry<String, Integer> entry : serverMap.entrySet()) {
String serverAddress = entry.getKey();
Integer weight = entry.getValue();
randomWeight -= weight;
if (randomWeight < 0) {
return serverAddress;
}
}
}
//默认返回null
returnnull;
}
publicclass WeightRandomLoadBalancer implements LoadBalancer {
private List<String> servers = new ArrayList<>();
private Map<String, Integer> weightMap = new HashMap<>();
public WeightRandomLoadBalancer(Map<String, Integer> servers) {
this.servers.addAll(servers.keySet());
for (String server : servers.keySet()) {
int weight = servers.get(server);
weightMap.put(server, weight);
}
}
@Override
public String chooseServer() {
int weightSum = weightMap.values().stream().reduce(Integer::sum).orElse(0);
int randomWeight = ThreadLocalRandom.current().nextInt(weightSum) + 1;
for (String server : servers) {
int weight = weightMap.get(server);
if (randomWeight <= weight) {
return server;
}
randomWeight -= weight;
}
returnnull;
}
}4.源地址哈希法 (Hash)
源地址哈希法是一种基于客户端 IP 地址的负载均衡算法，通过哈希函数将客户端IP映射到特定的服务器，确保来自同一IP的请求总是被转发到同一台服务器。
图片
示例代码：
import java.util.List;
import java.util.zip.CRC32;
publicclass SourceIPHashLoadBalancer {
privatefinal List<String> servers;
public SourceIPHashLoadBalancer(List<String> servers) {
this.servers = servers;
}
public String getServer(String clientIP) {
if (servers.isEmpty()) {
returnnull;
}
// 计算IP的哈希值
long hash = calculateHash(clientIP);
// 取模确定服务器索引
int index = (int) (hash % servers.size());
return servers.get(Math.abs(index));
}
private long calculateHash(String ip) {
CRC32 crc32 = new CRC32();
crc32.update(ip.getBytes());
return crc32.getValue();
}
}5.最少连接 (Least Connections)
最少连接算法是一种动态负载均衡策略，它会将新请求分配给当前连接数最少的服务器，以实现更均衡的服务器负载分配。
图片
它的特点是:
- 实时监控：跟踪每台服务器的活跃连接数
- 动态决策：新请求总是分配给当前连接数最少的服务器
- 自适应：自动适应不同请求处理能力的服务器
示例代码：
import java.util.List;
import java.util.concurrent.ConcurrentHashMap;
import java.util.concurrent.atomic.AtomicInteger;
publicclass LeastConnectionsLoadBalancer {
privatefinal List<String> servers;
privatefinal ConcurrentHashMap<String, AtomicInteger> connectionCounts;
public LeastConnectionsLoadBalancer(List<String> servers) {
this.servers = servers;
this.connectionCounts = new ConcurrentHashMap<>();
servers.forEach(server -> connectionCounts.put(server, new AtomicInteger(0)));
}
public String getServer() {
if (servers.isEmpty()) {
returnnull;
}
// 找出连接数最少的服务器
String selectedServer = servers.get(0);
int minConnections = connectionCounts.get(selectedServer).get();
for (String server : servers) {
int currentConnections = connectionCounts.get(server).get();
if (currentConnections < minConnections) {
minConnections = currentConnections;
selectedServer = server;
}
}
// 增加选中服务器的连接数
connectionCounts.get(selectedServer).incrementAndGet();
return selectedServer;
}
public void releaseConnection(String server) {
connectionCounts.get(server).decrementAndGet();
}
}6.最快响应时间 (Least Response Time)
最快响应时间（Least Response Time，LRT）通过选择当前响应时间最短的服务器来处理新请求，从而优化整体系统性能。
图片
LRT 算法基于以下核心判断标准：
- 实时性能监控：持续跟踪每台服务器的历史响应时间
- 动态路由决策：新请求总是分配给响应最快的可用服务器
- 自适应学习：根据服务器性能变化自动调整流量分配
示例代码：
import java.util.*;
import java.util.concurrent.*;
import java.util.concurrent.atomic.*;
publicclass LeastResponseTimeLoadBalancer {
privatefinal List<String> servers;
privatefinal ConcurrentHashMap<String, ResponseTimeStats> serverStats;
// 响应时间统计结构
staticclass ResponseTimeStats {
privatefinal AtomicInteger totalRequests = new AtomicInteger(0);
privatefinal AtomicLong totalResponseTime = new AtomicLong(0);
privatevolatileboolean isHealthy = true;
public void recordResponseTime(long responseTimeMs) {
totalRequests.incrementAndGet();
totalResponseTime.addAndGet(responseTimeMs);
}
public double getAverageResponseTime() {
int requests = totalRequests.get();
return requests == 0 ? 0 : (double)totalResponseTime.get() / requests;
}
}
public LeastResponseTimeLoadBalancer(List<String> servers) {
this.servers = new CopyOnWriteArrayList<>(servers);
this.serverStats = new ConcurrentHashMap<>();
servers.forEach(server -> serverStats.put(server, new ResponseTimeStats()));
}
public String getServer() {
if (servers.isEmpty()) returnnull;
return servers.stream()
.filter(server -> serverStats.get(server).isHealthy)
.min(Comparator.comparingDouble(server ->
serverStats.get(server).getAverageResponseTime()))
.orElse(null);
}
public void updateResponseTime(String server, long responseTimeMs) {
ResponseTimeStats stats = serverStats.get(server);
if (stats != null) {
stats.recordResponseTime(responseTimeMs);
}
}
public void markServerDown(String server) {
ResponseTimeStats stats = serverStats.get(server);
if (stats != null) stats.isHealthy = false;
}
public void markServerUp(String server) {
ResponseTimeStats stats = serverStats.get(server);
if (stats != null) stats.isHealthy = true;
}
}责任编辑：武晓燕
来源：
勇哥Java实战
分享到微信 
分享到微博相关推荐
六种常见负载均衡算法
今天我们来聊聊常见的负载均衡算法。负载均衡将网络流量或一组任务以某种算法合理分配给各个处理节点，使得节点得到平等的使用，并及时可靠地返回结果给用户。2023-11-28 15:32:30
负载均衡算法
图解六种常见负载均衡算法，一看就懂！
轮询算法是最简单和最常见的负载均衡算法之一，其实现思路也非常直接：按预定顺序将请求依次转发到后端服务器。通常要求服务实例是无状态的。2024-12-12 08:22:03
负载均衡算法无状态
每个程序员都应该知道的六种负载均衡算法
一个大型网络平台能轻松面对数百万请求而不产生崩溃，负载均衡器（LoadBalancer）是绝对的关键组件。2023-11-02 14:21:06
Nginx服务器的六种负载均衡策略详解
在服务器集群中，Nginx起到一个代理服务器的角色(即反向代理)，为了避免单独一个服务器压力过大，将来自用户的请求转发给不同的服务器。详情请查看我的另一篇博客。2019-09-12 09:22:58
Nginx负载均衡服务器
聊聊延时消息的六种实现方案
本文汇总了目前业界常见的延时消息方案，并且讨论了各个方案的优缺点。希望对读者有所启发。2022-05-24 10:43:02
延时消息分布式MQ
六类负载均衡算法概述
本文针对负载均衡算法进行了一个归纳，主要介绍了六类算法：轮转，散列，加权，最快响应，最低缺失，最少连接。那么相关的具体解释还请大家详看下文。2010-04-26 14:52:37
五种常用的负载均衡算法
本文分析了五种常见的负载均衡算法，算法的实现都比较简单，在实际的生产环境中，我们可以根据自己的业务场景来选择合适的负载均衡算法。2023-09-06 13:58:01
负载均衡算法
JavaScript六种继承方式
继承是面向对象编程中又一非常重要的概念，JavaScript支持实现继承，不支持接口继承，实现继承主要依靠原型链来实现的。2017-06-26 10:35:58
前端JavaScript继承方式
这五种负载均衡算法，建议掌握！
本文我们分析了负载均衡常见的五种算法，并且通过代码示例进行了详细地分析。2025-04-14 08:10:00
负载均衡代码java
ASON平滑演进六种方式
目前各运营商的城域传送网也大都采用SDH体制。ASON通过支持部分网络的非智能化，从而实现网络的平滑演进。下文将阐述几种具体的实现方式。2009-02-11 09:46:00
ASON网络演进
负载均衡的5种算法，你了解几种？
我们平常使用的F5，LVS，HAproxy，nginx等负载均衡软件或设备，不管是基于硬件负载，还是基于软件的负载，其负载均衡的算法都是一样的。2019-12-26 09:13:00
算法硬件软件
JS异步编程六种方案
在服务器端，"异步模式"甚至是唯一的模式，因为执行环境是单线程的，如果允许同步执行所有http请求，服务器性能会急剧下降，很快就会失去响应。接下来介绍下异步编程六种方法。2019-01-17 10:58:52
JS异步编程前端
聊聊 HDFS Balancer负载均衡器
平衡指的是每个DataNode的利用率与集群的利用率之间相差不超过给定的阈值百分比。此处的平衡指的是各个DataNode之间的平衡，同一个DataNode之间的各个磁盘是不会平衡的。2023-03-30 13:32:51
负载均衡器HDFS
IT项目管理的六种错误思维
作为项目经理，哪些错误的思维是不可以有的应该心知肚明。本文就给大家介绍一下IT项目管理的六种错误思维。2011-06-07 09:36:18
浅析云计算的六种架构
云计算要求基础设施具有良好的弹性、扩展性、自动化、数据移动、多租户、空间效率和对虚拟化的支持。那么，云计算环境下的数据中心基础设施各部分的架构应该是什么样的呢2012-10-15 13:26:31
云计算架构
云计算的六种架构浅析
云计算的一个重要应用在于由第三方机构提供云计算数据中心，并为大量的中小企业提供远程共享式的云计算应用服务。使得这些企业不需要建设自己的数据中心就可以使用所需的计算资源，实现成本最优化、资源共享最大化。2016-01-15 17:36:29
云计算云应用
网络Cyber安全六种类型
网络安全教育与意识可以帮助个人和组织识别潜在的网络威胁并采取必要的预防措施。确保您和您的员工定期接受网络安全培训，以了解最新的威胁和最佳安全实践。2025-07-11 00:51:55
WebSocket 的六种集成方式
今天主要介绍一下前3种方式，毕竟现在的主流框架还是SpringBoot。而后3种其实和SpringBoot并不强行绑定，基于Java就可以支持，不过我也会对后3种做个简单的介绍，大家先混个眼熟就行了。2025-02-27 00:00:30
SpringJava方式
相似话题
芯片
1086内容数据中心
5091内容
同话题下的热门内容
%20相关专题%20更多
%20技术荟萃 | 亲身体验 | 交流盛宴
HarmonyOS NEXT 高效开发与创新实践
2025-06-13 13:22:06
解读惠普Z系列工作站ZBook Ultra G1a高性能移动
2025-04-30 15:22:55
我收藏的内容
