多文件自平衡云传输(三)节点选择和资源分配 —————— 开开开山怪

微服务 文件服务器,微服务部署文件处理方案 在做微服务的时候,因为要布置多个节点,每个节点都要处理文件的上传和下载。因为多个节点在不同的服务器上,如果让每个节点单独去处理文件,那么文件就会存储到当前节点的服务器上。为了解决这个问题,第一时间想到的是再做一个文件服务节点,每个业务节点都去调用这个文件节点去处理。这样所有的文件数据都可以保存到文件服务的服务器上,可以解决多个节点文件互相取不到的问题。做了一段时间后,发现有更好的方案可以替代这种模... 阅读详情


在这里插入图片描述

节点选择和资源分配体现到了主题中的三个字,自平衡。
自平衡的目的就是为了减少服务器的压力,多文件传输的过程我们通过在客户端进行节点的选择来完成自平衡的的作用。同样利用资源分配策略(将文件进行按大小分片,将片段的集合交给节点),让每个发送节点进行均衡发送,尽量避免节点按照文件来进行发送,文件大小的差异过大导致发送节点压力出现差异的情况而导致接收端的体验度降低。
同样响应客户端请求的速度加快,让客户端有良好的体验。

节点选择

我采用的节点选择策略是最小发送次数法(和最小链接法相似)
对于拥有资源的多个节点来说,每个节点记录自己发送资源的次数,那么对于客户端来说,一句发送节点的发送次数不同,根据需要发送节点的个数,挑选可发送节点中发送过次数最少的节点。

采用桶排序的算法,进行挑选发送次数较小的节点。
看图说话
假设我们现在有7个可发送的节点
在这里插入图片描述对于节点选择具体的代码实现如下类中的getDetailList方法,参数为List为可选节点列表。

NodeSelect

public class NodeSelect implements INodeSelect{
//设置需要发送的节点的个数
	private int senderCount;
//这是真正的发武器是否参与发送		
	private boolean serverDoSent;
	
	public NodeSelect() {
		senderCount = DEFUALT_SENDER_COUNT;
		serverDoSent = true;	
	}
	
	public void setServerSend(boolean send) {
		this.serverDoSent = send;
	}
	@Override
	public int getSenderCount() {
		return senderCount;
	}
	@Override
	public void setSenderCount(int senderCount) {
		//用户传入的发送节点的个数小于默认的最小发送节点,则按照最小发送节点
		if(senderCount < MIN_SENDER_COUNT) {
			this.senderCount = MIN_SENDER_COUNT;
		}else {
			this.senderCount = senderCount;
		}
	}
	@Override
	public List<NetNode> getProperNodeList(List<NetNode> nodeList){
		if(nodeList == null) {
			return null;			
		}
		int nodeSize = nodeList.size();
		if(nodeSize <= 1) {//表明只有一个发送端
			this.senderCount = 1;
			return nodeList;
		}
		List<NetNode> tempList = new ArrayList<NetNode>();
		if(!serverDoSent) {
			for(int i = 0; i < nodeSize; i++) {
				NetNode in = nodeList.get(i);
				if(!in.getType()) {
					//表明不是服务器
					tempList.add(in);
				}
			}
		}else {
			tempList = nodeList;
		}
		int realCount = tempList.size();
		//在经过一个系列条件判断之后,最后满足的节点个数大于需要的发送节点个数,再进行筛选
		//如果不大于需要发送节点的个数,直接将节点的列表返回
		if(realCount > senderCount) {
	    //说明拥有的节点个数大于需要的接点个数,那么进行筛选
			tempList = getDetailList(tempList);
		}else {
			this.senderCount = realCount;
		}
		return tempList;
		
	}
	private List<NetNode> getDetailList(List<NetNode> nodeList){
		NetNode maxSendNode = nodeList.get(0);
		int size = nodeList.size();
		//先通过for训话进行节点的遍历找出最大发送次数
		for(int i = 1; i < size; i++) {
			NetNode currentNode = nodeList.get(i); 
			if(currentNode.getSendTime() > maxSendNode.getSendTime()) {
				maxSendNode = currentNode;
			}		
		}
	//申请一个最大发送次数 + 1的数组
		int[] send = new int[maxSendNode.getSendTime() + 1];
	//采用桶排序的方式,记录不同发送次数有多少个节点,
		for(NetNode one : nodeList) {
			++send[one.getSendTime()];
		}
		int maxsendCount = this.senderCount;
  //根据需要发送的节点个数,在数组中进行标记
		for(int i = 0; i < send.length; i++) {
			if(maxsendCount < 0) {
				send[i] = 0;
			}else {
				maxsendCount = maxsendCount - send[i];
				if(maxsendCount < 0) {
					send[i] = send[i] + maxsendCount;
				}
			}	
		}
	//根据数组每个下标中元素的值,来进行真正节点的挑选	
		List<NetNode> resultList = new ArrayList<NetNode>();
		for(NetNode temp : nodeList) {
			if(send[temp.getSendTime()] <= 0) {
				continue;
			}else {
				resultList.add(temp);
				send[temp.getSendTime()]--;
			}
		}
		return resultList;		
	}
}

INodeSelect

/*
*可通过继承该接口设置需要发送的节点个数,默认情况是3.
*默认最小的发送个数为1
*/
public interface INodeSelect {
	int DEFUALT_SENDER_COUNT = 3;
	int MIN_SENDER_COUNT = 1;
		
	List<NetNode> getProperNodeList(List<NetNode> nodeList);
	int getSenderCount();
	void setSenderCount(int count);

}

资源分配

资源分配就是讲需要请求的的资源包含的文件,进行分片,因为如果我们按照每个节点发送多个完整文件的话,因为文件大小的差异可能导致有些节点分配到的文件都较大,而有些节点分配到的文件很小,导致了节点的发送不均衡。
所以我们先将所有的文件进行等长度的划分为多个相等的片段,将这些片段按照发送节点的个数进行等份分发,可能存在有些节点多分配一两个片段,但总的来说比较均衡。

ResourceSelect

public class ResourceSelect implements IResourceSelect{
	private int sectionLength;
	
	public ResourceSelect() {
		sectionLength = minSectionLength;
	}
	@Override
	public void setSectionLength(int sectionLength) {
		if(sectionLength < minSectionLength) {
			this.sectionLength = minSectionLength;
		}else {
			this.sectionLength = sectionLength;
		}	
	}
   /*
   *将每个完整的文件进行分片形成多个片段
   */
	@Override
	public List<FileHead> getSectionHeadList(List<FileHead> completeList) {
		//将list中完整的文件进行分片操作。
		List<FileHead> headList = new ArrayList<FileHead>();

		for(FileHead one : completeList) {
			int headLength = one.getSectionLength(); 
	
			if( headLength < sectionLength) {
				headList.add(one);
			}else {
				//fileHead中的length较长,需要进行切分
				int len = 0;//每次切片的长度
				long offset = 0L;
				while(headLength > 0) {
					len = (headLength > sectionLength ? sectionLength : headLength);
					headList.add(new FileHead(one.getFileHandle()
							, one.getOffset() + offset, len));
					headLength -= len;
					offset += len;
				}

			}
		}	
		return headList;
	}
	/*
	*将资源的所有分片的片段根据发送节点个数分组
	*/
	@Override
	public List<List<FileHead>> getSendcountList(List<FileHead> completeList, int sendCount) {
		List<FileHead> headList = null;
		headList = getSectionHeadList(completeList);
		
		List<List<FileHead>> resultList = new ArrayList<List<FileHead>>();
		
		for(int i = 0 ; i < sendCount; i++) {
			List<FileHead> list = new ArrayList<FileHead>();
			resultList.add(list);
		}
		int index = 0;
		int average = headList.size() / sendCount;
		
		for(int i = 0; i < headList.size();) {		
			resultList.get(index).add(headList.get(i));
			i++;
			if(i % average == 0) {
				if(index + 1 == sendCount) {
					continue;
				}
				index++;
			}
		}
		return resultList;
	}
}

IResourceSelect


public interface IResourceSelect {
	int maxSectionLength = 1 << 24;//固定的文件的分片的长度
	int minSectionLength = 1 << 6;
	
	void setSectionLength(int sectionLength);
	List<FileHead> getSectionHeadList(List<FileHead> completeList);
	List<List<FileHead>> getSendcountList(List<FileHead> completeList, int sendCount);
}

我们虽然采取了最小发送次数的策略进行节点的选择,但是我们并不知道节点当前的状态,用户都选择了发送次数少的节点进行请求,那么对于此节点来说并发请求量会骤然增加,无疑是增加了节点的压力。
可以采用一种方案进行解决,当请求端请求客户端进行资源的发送的时候,由接收端将这个请求转接给注册中心,让注册中心来帮助它记录此时它的的发送状态(有多少接收端进行请求),当服务器发处理完发送任务时,主动告诉注册中心当前任务的完成情况,都注册中心进行记录。
当接收端请求节点列表之后,可通过判断发送次数和节点当前的是否处于忙的状态,两者结合进行较为合理的节点选择。
此方法过程相对较为复杂,并且对节点状态进行频繁的修改,对于注册中心来说,进行查找对应的节点相对耗时,因为我们采用的是键为值为list< NetNode >的形式。
我们可以在注册中心添加一个list或者map专门存储所有的节点,相对来说查找更为方便。

多文件自平衡云传输(二)资源接收 断点续传篇 —————— 开开开山怪 多文件自平衡云传输(二)资源接收端篇 资源接收端从请求到接收的过程 1.资源接收端启动时先与拥有资源的服务器(可以是APP服务器,也可以是拥有资源的服务器)进行短连接进行资源资本信息的获取。 2.根据获取的资源的信息中的资源的名称进行短连接资源注册中心,请求拥有资源的节点列表 3.根据资源基本信息中的资源的多个文件的基本信息进行本地资源的查询,若本地拥有该资源(之前可能进行过请求保存到本地),进行... 阅读详情

相关推荐

VLOOKUP_fixed.py

VLOOKUP_fixed.py

配置文件的读写

配置文件的读写   System.ConfigurationManager类用于对配置文件的读取。其具有的成员如下: 一、AppSettings   AppSetting是最简单的配置节,读写非常简单。 名称 说明 AppSettin...

ajwqb06628的专栏 507

D打卡签到,蓝牙中继,广播信号模拟器

模拟WIFI或蓝牙,有如下4种运行模式 1、WIFI模式:指定SSID、BSSID名称等,模拟WIFI,供设备连接。 2、蓝牙静态模式:指定MAC地址,广播固定的RAW数据。 3、蓝牙动态主机模式:扫描周围蓝牙设备,获取指定MAC地址的蓝牙及其RAW数据,实时发送至Cloud云端,可以设定时间段,只在设定的时间段内发送。 4、蓝牙动态从机模式:指定MAC地址,从Cloud云端获取动态主机模式实时上传的该MAC地址的RAW数据,并广播RAW数据。 准备工作: 1、板子:选择ESP32C3或ESP32C3 Supermini 2、nRF Connect手机app:用于扫描获取待模拟蓝牙设备的MAC和RAW数据。 Wifi分析仪或WiFi魔盒手机APP:用于扫描获取待模拟WIFI设备的SSID和BSSID。 3、可使用官方flash_download_tool_3.9.11工具来固件烧录。 使用说明: 上述完成后,设备首次上电,RESET一侧的指示灯会常亮,可以把它理解成电源指示灯; BOOT一侧的灯会亮,该灯常亮,表示设备开启了AP模式,此时设备会发射一个WIFI信号源,名称为ESPWIFI_AP,密码为12345678,手机或电脑连接该WIFI,浏览器输入192.168.4.1,进入设备的配置页面,进行相应的配置,其中动态主机模式和动态从机模式的SSID、Pwd 及要模拟的蓝牙MAC地址。配置完成并保存后,会重启,重启后设备会按照保存的配置运行。若下次要修改设备配置,可以长按BOOT按键,等待BOOT一侧的灯常亮,即进入AP模式,再按照上述流程配置即可。 仅用于蓝牙设备的开发与调试,请勿用于签到等违法违纪用途。

项目 & 多文件云传输自平衡(1) & 资源文件操作

java的文件操作

Sticker的博客 485

YOLO26算法心电图十二导联目标检测+训练好的模型+368张数据集+pyqt可视化界面.zip

附训练好的 YOLO 权重与 PyQt 可视化检测界面,页面底部含可视化效果预览,毕设/课设开箱即用。 【数据集概况】 · 检测类别(中文):[导联I(I), 导联II(II), 导联III(III), 胸导联V1(V1), 胸导联V2(V2), 胸导联V3(V3), 胸导联V4(V4), 胸导联V5(V5), 胸导联V6(V6), 加压肢体导联aVF(aVF), 加压肢体导联aVL(aVL), 加压肢体导联aVR(aVR)] · 训练集:313 张 · 验证集:37 张 · 测试集:18 张 · 总计:368 张 该数据集聚焦于临床心电图信号的精准识别与定位,其核心检测目标为标准12导联心电图中的各个独立导联波形区域,涵盖肢体导联(I、II、III)与加压肢体导联(aVR、aVL、aVF),以及胸前导联(V1至V6),适用于心电图自动分析系统中对各导联位置的快速准确标注与分类。数据采集场景真实还原了医院心电图室或急诊监护环境下的标准心电图记录纸,波形清晰、基线稳定,具有高度临床参考价值。... 【训练曲线与评估图】 【模型训练配置】 参数 | 值 模型 | yolo26n 训练轮数 | 100 epochs 输入尺寸 | 640x640 批次大小 | 24 优化器 | auto 初始学习率 | 0.01 训练设备 【关键指标汇总】 训练了 57 个 epoch,最终轮指标: 指标 | 数值 mAP50 | **0.9708** mAP50-95 | 0.6344 Precision | 0.8990 Recall | 0.9191 train/box_loss | 1.2231 train/cls_loss | 0.9703 val/box_loss | 1.2779 val/cls_loss | 0.... 使用场景:毕业设计、课程设计、深度学习入门、工业场景落地验证。

企业级AI助手平台 开箱即用的全栈AI平台,支持多智能体协同、Supervisor模式编排、多种决策模式、RAG技术和流程编排能力 支持多厂商大模型统一接入与管理,安全可控的企业知识库与高精度检索优化

企业级AI应用开发框架,支持多厂商大模型统一接入与管理,安全可控的企业知识库与高精度检索优化能力,提供可视化流程编排、自主决策智能体与多智能体协同调度,兼容主流 Agent Skill 协议,帮助企业与开发者零门槛快速构建安全、高效、可落地的AI智能体应用与行业解决方案。

多文件并发传输------- 节点选择策略以及资源分配策略

节点选择策略以及资源分配策略 节点的选择 : 当接收端发出文件请求时 资源信息中心 会给一张拥有该资源的列表 这时候 我们可以选择发送次数相对较少的节点进行发送 并给这些节点 平均的分配 这个资源的片段 // 利用桶排序 // 将发送次数作为下标 // 发送过对用次数的节点数量是 值 // 选取 maxSenderCount 个节点 pr...

weixin_44356253的博客 599

Java低代码, 轻量级, 支持国产化 国密 AI大模型MCP服务 商业免费 包括核心模块如:组织机构、角色用户、权限授权、数据权限、内容管理、工作流、Spring Cloud 微服务、AI大模型等

Java低代码, 轻量级, 支持国产化 国密 AI大模型MCP服务 商业免费 Spring Boot, MyBatis, Flowable, TypeScript, Vue, Antdv, 包括核心模块如:组织机构、角色用户、权限授权、数据权限、内容管理、工作流、Spring Cloud 微服务、AI大模型、代码生成器等

负载均衡模式下多节点服务器数据共享

如果我们面临一个伪集群模式的企业应用,在单个节点服务器上存在的资源(如图片,附件),在另外一个节点服务器就无法访问,近日在项目中采用了 FTP服务器存储资源,在FTP服务器上添加一个web应用,处理资源请求,这样就可以达到多节点资源共享的目的了。具体方法: 1.假如有a,b,c,d四台节点服务器,在a上上传一个附件,直接通过文件流写入到a内存,然后从内存中获取该流,通过使用apache comm...

追梦空间 1165

文创媒体电商行业智算中心(AIDC)建设规划方案.pptx

文创媒体电商行业智算中心(AIDC)建设规划方案.pptx

集团企业数字化转型AI智能体平台规划及场景应用方案.pptx

集团企业数字化转型AI智能体平台规划及场景应用方案.pptx

基于MPC的风储联合调频模型研究(Simulink仿真实现)

内容概要:本文系统研究了基于模型预测控制(MPC)的风能与储能系统联合频率调节模型,并通过Simulink工具实现了完整的仿真验证。文章深入剖析了风储联合系统的整体架构设计,详细阐述了MPC控制器的建模原理及其在电网频率调节中的具体应用机制,重点探讨了系统在应对负荷突变与风电功率波动等典型扰动下的动态响应特性与控制性能表现。通过与传统控制策略的仿真实验对比,充分验证了所提出的MPC方法在提升电网频率稳定性、抑制频率偏差方面的显著优越性,并进一步分析了控制器关键参数对系统整体性能的影响规律,为高性能控制策略的设计提供了理论依据。; 适合人群:具备电力系统分析、自动控制理论基础,熟练掌握Simulink/Matlab仿真环境,从事新能源并网、电力系统稳定控制、储能系统集成与优化等相关领域的研究生、科研人员及工程技术人员。; 使用场景及目标:①应用于高比例可再生能源接入背景下电网频率调节的关键技术研究;②为风储联合系统的规划、设计与运行优化提供先进的控制策略参考;③作为模型预测控制在电力系统领域应用的经典教学案例,深化对MPC预测机制、滚动优化与反馈校正等核心原理的理解与实践能力。; 阅读建议:建议读者结合提供的Simulink仿真模型进行同步操作与验证,重点关注MPC控制器的状态空间建模、预测时域设定、代价函数构建及参数整定过程,通过对比不同工况与参数配置下的仿真结果,深入理解风储系统协同调频的作用机理与MPC控制的优势所在。

【运维自动化】shell脚本自动化运维示例2

内容概要:本文介绍了shell脚本在自动化运维中的实际应用,重点展示了一个批量远程执行命令与文件分发的典型场景。通过编写健壮的Shell脚本,实现对多台服务器并行执行指定命令(如磁盘使用情况查询),并集成错误处理、超时控制和并发管理机制,提升运维效率与系统稳定性。脚本采用set -euo pipefail增强容错能力,利用SSH免密登录和xargs并行处理实现高效批量操作,同时强调在受控内网环境中运行以保障安全。; 适合人群:具备Linux系统基础和Shell编程经验,从事运维、DevOps或后端开发工作1-3年的技术人员。; 使用场景及目标:①用于批量服务器状态检查、配置同步、日志收集等日常运维任务;②帮助理解自动化脚本设计中的健壮性要素(如错误捕获、并发控制、安全性考虑)并应用于生产环境。; 阅读建议:此资源提供可直接修改复用的实用脚本范例,建议结合自身运维环境进行适配测试,重点关注SSH安全配置、并发参数调优及异常输出捕获,确保在真实部署中稳定可靠。

数据驱动复杂网络的数据驱动控制(Matlab代码实现)

内容概要:本文系统介绍了《【数据驱动】复杂网络的数据驱动控制(Matlab代码实现)》这一技术资源,聚焦于复杂网络系统中基于数据驱动的先进控制方法,依托Matlab平台实现建模、仿真与控制策略开发。内容深入涵盖数据驱动控制的核心原理、Koopman算子理论在非线性系统线性化中的应用、机器学习与动态系统建模的融合机制,以及如何在无需精确物理模型的前提下,利用观测数据构建高效控制器。资源提供了完整的Matlab代码实例,覆盖从数据采集、特征提取、模型辨识到控制器设计与性能评估的全流程,突出在电力系统、智能电网、工业自动化等典型复杂网络场景下的应用潜力与工程可行性。; 适合人群:具备一定Matlab编程能力与自动控制理论基础的研究生、科研人员及工程技术人员,尤其适用于从事数据驱动控制、复杂网络建模、智能优化与系统辨识等方向的高校师生和研发工作者。; 使用场景及目标:① 深入理解数据驱动控制在复杂网络中的理论基础与实现路径;② 借助配套Matlab代码快速搭建仿真环境,开展算法验证与性能对比;③ 应用于电力系统稳定性控制、可再生能源集成、工业过程监控等实际工程问题的研究与优化;④ 支撑高水平学术论文撰写、EI/SCI期刊成果复现与科研项目申报。; 阅读建议:建议读者结合文档中的理论推导与代码实现逐项调试运行,深入剖析Koopman算子、模型预测控制(MPC)等关键算法的实现细节;鼓励在现有代码基础上进行参数调整、模型拓展与创新性改进,强化理论与实践的深度融合,提升科研创新能力。

基于动态窗口法DWA的机器人路径规划研究(Matlab代码实现)

内容概要:本文系统研究了基于动态窗口法(DWA)的机器人局部路径规划算法,深入剖析其在动态环境中实现自主避障与实时轨迹优化的核心机制。文章详细阐述了DWA算法的速度空间采样策略、轨迹预测模型、动力学约束处理及多目标代价函数的设计原理,并通过构建完整的Matlab仿真框架验证算法有效性。结合典型场景的仿真实验,展示了机器人在复杂障碍物环境下如何实时生成安全、平滑且符合运动学约束的最优路径,充分体现了DWA在移动机器人导航中的实用性与鲁棒性。; 适合人群:具备机器人运动规划基础知识和Matlab编程能力,从事智能移动机器人、自动驾驶或服务机器人研发的研究生、科研人员及工程技术人员。; 使用场景及目标:①深入理解DWA算法的理论基础与实现细节;②掌握机器人局部路径规划的仿真实现方法;③为实际机器人系统的导航模块开发提供可复用的算法原型与代码参考;④作为进一步研究高级导航算法(如TEB、MPC)的技术基础。; 阅读建议:建议结合提供的Matlab代码逐模块分析与调试,重点关注速度采样、轨迹积分、障碍物距离计算及代价评估等关键环节,通过调整参数在不同地图环境中进行对比实验,以深刻把握算法性能与参数之间的关系,进而提升对实时路径规划系统设计的理解与应用能力。

【轴承故障诊断】用于轴承故障诊断的集中时频分析研究(Matlab代码实现)

内容概要:本文系统研究了用于轴承故障诊断的集中时频分析技术,重点解决了传统时频分析方法在处理非平稳信号时存在的能量分散与分辨率不足等问题。通过引入集中时频分析方法,能够有效聚焦信号能量,精确提取轴承故障特征频率,提升故障识别的准确性与时效性。文章详细阐述了该方法的理论基础,并结合仿真信号与实际实验数据验证其优越性能,同时提供了完整的Matlab代码实现流程,涵盖信号预处理、时频变换、参数优化及结果可视化等环节,便于读者复现与拓展应用。; 适合人群:具备一定信号处理理论基础和Matlab编程能力的研究生、科研人员,以及从事机械设备状态监测、故障诊断与预测性维护工作的工程技术人员。; 使用场景及目标:①应用于电机、风机、齿轮箱等旋转机械的早期轴承故障检测,实现故障预警;②提升工业设备运维系统的智能化水平,支撑预测性维护体系构建;③作为高校或研究机构在信号处理、机械故障诊断等课程中的教学案例与实践素材。; 阅读建议:建议读者结合文中提供的Matlab代码逐段运行与调试,深入理解集中时频分布的生成机制及其关键参数(如核函数选择、平滑窗口大小)对诊断效果的影响,并尝试将其应用于其他类型的机械故障信号分析中,开展对比研究以深化对该方法适用性的认识。

(Multisim课设资料)最全面函数信号发生器(三角波+正弦波+方波信号+锯齿波仿真设计+报告文档

(Multisim课设资料)最全面函数信号发生器(三角波+正弦波+方波信号+锯齿波仿真设计+报告文档

2024 《计算机网络》实验教学指导书.doc

2024 《计算机网络》实验教学指导书.doc

上一篇: 多文件自平衡云传输(二)资源接收 断点续传篇 —————— 开开开山怪
下一篇: 多文件自平衡云传输(四)资源发送端 —————— 开开开山怪
开开开山怪
博客等级 码龄8年 41粉丝 30原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值