ToolRunner与eclipse hadoop 插件的替代品,简化M/R程序的开发

能源管理基于MATLAB的企业最大需量预测模型:月内峰值追踪与超限风险模拟分析系统设计 项目介绍 MATLAB 企业最大需量预测|月内峰值追踪与超限场景模拟 内容概要:本文介绍了一个基于MATLAB R2025b的企业最大需量预测项目,旨在通过构建月内峰值追踪与超限风险识别模型,实现对企业电力负荷的精细化管理。项目综合考虑时间周期、环境温度、生产强度、特殊日期及随机扰动等因素,构建模拟数据集,并采用装袋回归树和岭回归等机器学习模型进行负荷预测。通过滚动峰值追踪机制,系统动态整合历史真实值与未来预测值,生成月内最大需量趋势曲线,并结合预设阈值实现超限预警。同时支持多场景模拟,如增产、高温、设备集中启动等,评估不同工况下的超限风险,为企业错峰生产、储能调度等决策提供量化支持。项目注重实用性与兼容性,输出形式包括可视化图表、风险等级标识和多格式数据文件,适用于能源管理教学、工业负荷研究及智能用电原型开发。; 适合人群:具备一定MATLAB编程基础,从事能源管理、电力系统分析、工业自动化或智能制造领域的科研人员、工程师及高校师生,尤其适合工作1-3年、希望深入理解负荷预测与企业用电成本控制的技术人员。; 使用场景及目标:①实现企业月内最大需量的动态预测与滚动追踪,提前识别超限风险;②通过多因素场景模拟评估不同生产与环境条件下对需量的影响;③为错峰生产、设备启停优化、储能调度等能源管理决策提供数据支撑;④构建可复现、可扩展的负荷预测分析框架,服务于实际电能管理系统开发。; 阅读建议:此资源以模拟数据为基础,重点在于模型架构设计与管理应用逻辑,建议读者结合提供的代码实例,在MATLAB环境中动手复现数据生成、模型训练、峰值追踪与可视化全过程,并尝试调整特征参数或引入真实数据以深化理解。 立即下载

目前开发的时候测试M/R程序有三种方式

1.  直接打成jar包,然后放到服务器中去执行。此方法步骤繁琐,每次都要打包上传。

2.  使用Hadoop的Ecilpse插件,但是对于N多的Hadoop版本总替换插件,是不是也是一种痛苦呢?

3.  使用Hadoop的测试框架,这种情况我使用的比较少,感觉不太方便,每都相当于在本地启动各个服务(我电脑配置不好,压力啊!!汗一个)

其实Hadoop自带的ToolRunner只差一步就可以实现在Eclipse中运行了,而我们所要做的就是扩展一下而已。

Ok废话不多说了,原理如下:

JobClient类在提交job的时候需要一个jar包,这个很简单,我们使用Ecipse编译出的class文件创建一个Jar包即可。如果你使用的是hadoop自带的那些jar,ok那没有问题,但是如果你引用了第三方的类库,那么问题随之而来,有两种解决办法

1.  将你所需要第三方jar包加入到TaskTracker的ClassPath中,这样每新加入一个jar包就需要重启所有的TaskTracker。

2.  将第三方类库加入到M/R的ClassPath中,这就需要使用Hadoop的缓存机制,在M/R执行前将这些jar包都放入到Hadoop中,每个M/R就可以使用这些jar包中的类了。

很明显第二种方法是最适合的,而且Hadoop已经实现了这一功能。

JobClient在提交Job时会检查 tmpjars这个参数,如果里面指定的文件存在就是将这些文件加入hadoop的DistributedCache中,代码如下:

  private void copyAndConfigureFiles(JobConf job, Path submitJobDir, 
      short replication) throws IOException, InterruptedException {
...
String libjars = job.get("tmpjars");
...
if (libjars != null) {
      FileSystem.mkdirs(fs, libjarsDir, mapredSysPerms);
      String[] libjarsArr = libjars.split(",");
      for (String tmpjars: libjarsArr) {
        Path tmp = new Path(tmpjars);
        Path newPath = copyRemoteFiles(fs, libjarsDir, tmp, job, replication);
        DistributedCache.addArchiveToClassPath
          (new Path(newPath.toUri().getPath()), job, fs);
      }
    }
...
}

仅仅将jar包加入到M/R的ClassPath中是不行,我们还需要再做一件事,就是将本地的第三方的Jar包加入到我们本地的ClassPath(我们是在本地执行不是)。但是这些工作都不需要我们来完成, GenericOptionsParser已经帮我们完成了前期的准备工作。代码如下

private void processGeneralOptions(Configuration conf,
      CommandLine line) throws IOException {
...
URL[] libjars = getLibJars(conf);
      if(libjars!=null && libjars.length>0) {
        conf.setClassLoader(new URLClassLoader(libjars, conf.getClassLoader()));
        Thread.currentThread().setContextClassLoader(
            new URLClassLoader(libjars, 
                Thread.currentThread().getContextClassLoader()));
      }
...
}

激动人心的来了,使用方法:

我将这些功能都封装在MagicRunner中,可以直接替换ToolRunner,代码如下。 

MagicRunner.run(new WordCount(), args,"bin","../common/commons-configuration-1.6.jar");
//MagicRunner.run(new WordCount(), args,"bin","lib");
//MagicRunner.run(new WordCount(), args,"bin",""); 
//第三个参数为Eclipse编译的class文件的位置,第四个为第三方类库可以是文件也可以是目录,如果不使用传空字符串即可,第三个参数可是必不可少的哦!!!!
这样无论你是在Eclipse中debug、run都可以运行了,当然你只能调试本地的那一步分,M/R的执行还是提交的服务器中,无法进行调试。

如果是以hadoop jar 方式 执行的话 代码中设置的第三方jar是不会处理的,需要手动指定,且新增加支持目录的设定。方法如下

 -libjarslibs,../common/ commons-configuration-1.6.jar

以jar方式执行命令如下所示:

bin/hadoop jar wordCount.jar mr.example.WordCount -libjars libs,./commons-configuration-1.6.jar  -Dmapred.reduce.tasks=2   /test/20120907 /tmp/123

注意事项:

由于MagicRunner中只处理了libjars参数所以有一点需要注意,在使用libjars参数的时候务必使它位于开始。其它功能与ToolRunner并无差异。如

-libjars libs,../common/ commons-configuration-1.6.jar  -Dmapred.reduce.tasks=2


当然必须的文件还是要加入项目中的如:hdfs-site.xml   core-site.xml   mapred-site.xml 等,最简单的是直接放到src中

Hadoop的权限问题是没有办法避免的,所以必须要禁用或都在本地建一个同名帐户


本文地址: http://blog.youkuaiyun.com/magicdreaming/article/details/7966074 版权所有,转载请保留原文链接。

代码下载地址:http://download.youkuaiyun.com/detail/magicdreaming/4569367


Matlab实现使用遗传算法的混合能源系统优化.rar 立即下载

相关推荐

压液氧(LOX)火箭发动机涡轮泵级建立了一条自动化的基于模型的系统工程(MBSE)与多学科设计优化(MDO)流水线.rar

压液氧(LOX)火箭发动机涡轮泵级建立了一条自动化的基于模型的系统工程(MBSE)与多学科设计优化(MDO)流水线.rar

Hadoop辅助类Tool和ToolRunner

Tool的实现,用来打印所有Configuration中对象中所有属性的键值对: import java.util.Map.Entry; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.conf.Configured; import org.apache.hadoop.util.Tool; import

聚焦AI技术前沿,深度解析大模型原理与多场景应用,探索最新突破与落地实践,助力行业洞悉趋势,驱动智能转型,赋能千行百业。 1578

python 操作海康威视工业相机资源例子--ParametrizeCamera_LoadAndSave.zip

python 操作海康威视工业相机资源例子--ParametrizeCamera_LoadAndSave

ToolRunner机制

定义框架接口 由具体实现类实现 [code="java"] public interface Tool extends Configurable { int run(String [] args) throws Exception; } [/code] ToolRunner 同一的入口调用 按配置解析参数,调用接口方法 [code="java"] public...

linest 210

基于斜坡补偿的Buck电路峰值电流+电压电流双闭环控制【附说明文档】(Simulink仿真实现)优快云首页发布文章优快云同步助手LLC谐振变换器开环+闭环软启动仿真设计(Simulink

内容概要:本文围绕三电平VIENNA整流器的双闭环控制与中点电位平衡问题展开仿真研究,提出了一种基于上下电容电压差值补偿的中点电位平衡策略。该策略在传统电压电流双闭环PI控制的基础上,引入电容电压差值作为反馈信号,通过SVPWM调制中冗余小矢量的时间分配实现中点电荷的定向调节,从而在不改变主控制结构的前提下有效抑制中点电位偏差。仿真结果表明,该方法不仅确保直流母线电压稳定跟踪800V给定值,还能显著提升上下电容电压的均衡度,同时保持输入电流低谐波水平,验证了控制策略的可行性和有效性。; 适合人群:电力电子、电气自动化及相关专业的研究生、科研人员及工程技术人员,具备一定的MATLAB/Simulink仿真基础和电力电子拓扑知识背景者更佳。; 使用场景及目标:①掌握三电平VIENNA整流器的工作原理与中点电位波动的成因;②理解电压电流双闭环PI控制的设计要点与参数整定原则;③学习基于差值补偿的中点电位平衡控制策略及其与SVPWM的协同机制;④应用于充电桩、航空电源、通信电源等中大功率单向整流场合的控制系统设计与优化。; 阅读建议:建议结合文中提供的仿真模型与参数设置进行动手实践,重点关注中点电位平衡投入前后电容电压波形的变化,对比分析不同工况下的系统动态响应,深入理解控制策略的作用机理。同时可进一步探索在电网不平衡、轻载等复杂工况下的控制性能,以拓展应用场景。

自适应多机器人编队规划,以包围和跟踪具有运动和可见性约束的目标(Matlab代码实现)

内容概要:本文针对“自适应多机器人编队规划,以包围和跟踪具有运动和可见性约束的目标”开展研究,提出一种基于Matlab的仿真方法,实现多机器人在动态环境中对移动目标的协同包围与持续跟踪。该方法综合考虑了机器人的运动学约束与传感器的视线(visibility)限制,设计了分布式控制策略与自适应编队算法,能够在复杂环境下有效维持编队结构的稳定性和任务执行的鲁棒性。研究详细阐述了系统建模过程、控制律设计原理、编队形成与保持机制,并通过Matlab代码实现了完整的仿真验证,展示了算法在不同动态场景下的适应能力与性能优势; 适合人群:具备机器人学、自动控制理论、多智能体系统等相关基础知识,熟悉Matlab编程语言,从事智能系统、协同控制、路径规划与自主导航等方向的研究生、科研人员及工程技术人员; 使用场景及目标:①应用于安防监控、环境探测、灾害救援等场景中的多机器人目标围捕与跟踪任务;②为多智能体协同控制、分布式编队保持、避障与可见性维护等关键技术提供可复现的算法框架与仿真平台;③辅助高校与科研机构在相关领域的教学演示与科研创新,深化对自适应控制与分布式协同机制的理解; 阅读建议:建议读者结合提供的Matlab代码逐模块分析其实现逻辑,重点关注控制律设计、约束处理与自适应机制部分,可通过调整机器人数量、目标轨迹、传感器参数等进行扩展性实验,以深入掌握多机器人协同系统的动态行为与优化方法。

Eclipse下使用Hadoop单机模式调试MapReduce程序

在单机模式下Hadoop不会使用HDFS,也不会开启任何Hadoop守护进程,所有程序将在一个JVM上运行并且最多只允许拥有一个reducer 在Eclipse中新创建一个hadoop-test的Java工程(特别要注意的是Hadoop需要1.6或1.6以上版本的JDK) 在Hadoop的官网http://www.apache.org/dyn/closer.cgi/hadoop/com...

weixin_30426065的博客 337

patch_1.23.0.2584_game_No6.android.pak

patch_1.23.0.2584_game_No6.android.pak

java eclipse常见错误处理

一、 1)报错信息 HDFSOperatorUtil cannot be resolved 无法解析HDFSOperatorUtil 2)报错说明: 说明:没有自定义/引入 HDFSOperatorUtil类,可以借助弹出窗进行快速创建。 3)解决方法: 1)报错信息: The method copyLocalFileToHdfs(Configuration, String, String, ...

weixin_40235225的博客 1178

状态估计【卡尔曼滤波kalman】UKF、EKF、粒子滤波PF学习与研究(Matlab代码实现)

内容概要:本文系统地研究了无迹卡尔曼滤波(UKF)、扩展卡尔曼滤波(EKF)和粒子滤波(PF)在非线性系统状态估计中的理论基础与实际应用,并结合Matlab代码实现进行了深入剖析。内容涵盖三种滤波算法的核心原理、数学推导及其在轨迹估计等工程问题中的具体实施方法。通过详尽的Matlab编程实例,展示了如何利用这些先进滤波技术解决如目标跟踪、传感器融合等复杂问题,并特别探讨了BP神经网络与EKF结合的优化训练策略以及粒子滤波在提高状态跟踪精度方面的潜力。该资料为希望掌握现代状态估计算法的研究人员和技术爱好者提供了一套完整的理论与实践指南; 适合人群:具备一定编程基础,尤其是熟练使用Matlab工具,且对控制理论、信号处理或相关工程技术领域有初步了解的研发人员和高校学生; 使用场景及目标:① 深入理解UKF、EKF和PF的基本概念及其在非线性动态系统中进行状态变量估计的应用;② 通过Matlab代码实践加深对各滤波器工作机制的理解,能够独立开发相应的算法以应对诸如轨迹预测、多源信息融合等实际挑战;③ 探索将BP神经网络与EKF相结合的新途径,以期提升模型的学习效率和预测准确性; 阅读建议:此资源不仅提供了坚实的理论支撑,还包括丰富的代码示例,建议读者按照文档结构循序渐进地学习,同时动手实现每一个案例,以便更深刻地把握各种滤波技术的关键细节。对于致力于深入研究状态估计领域的专业人士而言,这是一份极具价值的学习材料。

DXF、DWG工程制图文件查看器

DXF、DWG工程制图文件查看器。 可以在界面中进行测量(包括距离、面积、角度等等) 无需版权,放心使用。

M/R的数据源为HBase时须关闭Speculative Execution

在HBase使用Speculative Execution会加重regionserver的load。  因为用Hadoop map/reduce操作HBase的时候,会尽量采用本地原则,即相应的task尽量使用本地的数据。 而如果另起一个task,则会导致数据不在本地,凭空浪费IO和网络资源。  强烈建议关闭 Speculative Execution  方法是在jobconf中设定

碧波海天 1093

含分布式电源的配电网可靠性评估研究(Matlab代码实现)

内容概要:本文围绕含分布式电源的配电网可靠性评估展开研究,基于Matlab代码实现相应的评估模型。研究内容涵盖分布式电源接入对配电网运行特性的影响,采用序贯蒙特卡洛模拟法等可靠性评估方法,对系统在不同运行场景下的供电可靠性指标进行量化分析。通过构建典型配电网模型,仿真分析分布式电源的位置、容量及出力特性对系统可靠性的影响机制,进而为提升配电网韧性与供电质量提供理论支撑和技术手段。研究不仅关注理论建模,还注重实际仿真流程的可操作性与结果的可视化呈现。; 适合人群:具备电力系统基础知识,从事配电网规划、运行与可靠性分析等相关领域的科研人员及工程技术人员,尤其适合研究生及从事新能源并网研究的1-3年工作经验的专业人员。; 使用场景及目标:①掌握含分布式电源的配电网可靠性评估基本理论与方法;②学习并复现主流可靠性评估算法(如蒙特卡洛模拟)的Matlab编程实现;③分析分布式电源接入对系统可靠性的影响规律,支撑配电网优化规划与运行决策。; 阅读建议:建议读者结合电力系统可靠性教材与本文Matlab代码同步学习,重点关注模型构建逻辑与算法实现细节,动手调试代码以加深对评估流程的理解,并尝试在不同网络结构和电源配置下进行仿真对比分析。

Hadoop杂解

Hadoop其他开发方法: HadoopStreaming 允许用任何 shell 命令作为 map 或 reduce 函数。 libhdfs 是一种基于 JNI 的 C 语言版 API(仅用于 HDFS)。 Hadoop Pipes 是一种兼容 SWIG 的 C++ API (非 JNI),用于编写 MapReduce 作业。   Map读入文件不会切割: 自己完成InputF

碧波海天 515

具有PWM控制VSC-HVDC链路的IEEE30总线传输系统(Simulink仿真实现)

内容概要:本文详细介绍了在Simulink环境中构建和仿真一个集成PWM控制的电压源换流器型高压直流输电(VSC-HVDC)链路的IEEE30节点电力传输系统的研究工作。该模型聚焦于利用PWM技术实现对VSC的高效、精确控制,以提升电力系统的传输效率、动态响应能力和运行稳定性。研究涵盖了系统整体建模、关键设备参数设计、PWM控制策略的实现、以及在标准IEEE30节点系统上的集成方法。通过一系列仿真测试,包括系统在正常运行、负载突变及故障条件下的动态响应,全面分析了VSC-HVDC链路对改善电网电压稳定性、优化潮流分布和增强系统可靠性的具体作用,充分验证了所提方案的有效性和工程应用价值。; 适合人群:具备电力系统分析、高压直流输电技术基础理论知识及Simulink/MATLAB仿真软件操作能力的高校研究生、科研机构研究人员和电力行业工程师。; 使用场景及目标:①作为教学案例,帮助学生深入理解VSC-HVDC的工作原理、控制策略及其在复杂电网中的集成应用;②为电力系统规划与运行人员提供一种可靠的仿真工具,用于评估新型输电技术对现有电网性能的影响,支持电网升级改造决策;③推动VSC-HVDC技术在远距离大容量输电、新能源并网和智能电网建设等领域的创新应用。; 阅读建议:建议读者在学习过程中,结合电力系统稳态与暂态分析的相关理论,重点关注PWM控制模块和VSC的建模细节,动手复现并调试所提供的Simulink模型,通过改变系统参数和运行工况来观察仿真结果的变化,从而深化对VSC-HVDC系统动态特性的理解。

IEC61850客户端连接实战:CMS vs MMS协议抓包对比与性能初探(基于YX-PIS协议栈)

本文深入探讨了IEC61850客户端连接中CMS与MMS协议的抓包对比与性能优化。通过Wireshark抓包分析、协议栈配置实战和性能基准测试,揭示了两种协议在连接建立、数据交互和性能调优方面的关键差异,为智能电网自动化系统的协议选择提供了实用指南。

weixin_29209805的博客 218
上一篇: String.split()方法的一点说明
magicdreaming
博客等级 码龄19年 15粉丝 19原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值