spark概览

roadmap:

http://blog.youkuaiyun.com/u014729236/article/details/45364753


process:

http://blog.youkuaiyun.com/kongshuchen/article/details/52036340


http://blog.youkuaiyun.com/u014729236/article/details/45364753



work元素层级:

job

      stage

      TaskSet

             Task

同级表示1-1 ,不同级表示1-n


Task

    DAG图拆分为Stage <-> TaskSet


    位置 (怎么决定放哪?

    process_local    -> cache

    node_local    ->   node内数据(硬盘)

    rack_local  -> 机架

    any


    类型

     shuffleMapTask

            返回MapStatus,作为下一个stage的输入数据

     resultTask    最后一个stage对应的task,collect

           如果结果小,返回DirectTaskResult

           否则,将结果序列化放到blockManager,将block id 返回


持久化层



执行过程:

action-> Runjob->(Driver-->DAG)->DAG schedule analyse->
建立stage,从action往前构建DAG 图->
遇到shuffle,构建新的stage->
新的stage次序: stagen stagen-1 ...  stage1 到头然后按这个次序顺序执行,一个有shuffle的task至少有2个stage

然后

DAG schedule ->(TaskSet)-> 提交一个stage(TeaskSet)给TaskScheduler<->SparkContext -> 
生成TaskSetManager 管理 stage,分拆stage成小task提交给executorBackend(默认提交4次防止失败) ->

各个workers 运行->

运行完成 , 从TaskManager删除

将运行结果加到TaskResultGetter


TaskSchedule

spark-cluster-TaskScheduler

yarn-cluster-YarnClusterScheduler

yarn-client-YarnClientClusterScheduler


struggle机制

当1%的任务还没运行完时,在另一个node上重新运行此任务

cache
执行新任务时,一样回溯构建transformation tree 直到回溯到已经缓存的块为止然后顺序执行
一般会把cache放在进程execute的那台机器上



spark 程序层的模型

×Driver        

          SparkConf

          SparkContext

           close

×input

×Transformation

×Action RDD

×persist or cache

×共享变量

       broadcast variable

       累加器


Spark shell

系统自动初始化SparkContext


并行化scala

  var rdd1 = sc.Parallelize(Array(1,2,3))  -> 3 个 executor

  var rdd1 = sc.Parallelize(Array(1,2,3) , 2-> 2个executor


text

     textFile("")    "/directory"  "/directory/*.gz"  "/directory/*.txt"

sequence

hadoop InputFormat







内容概要:本文详细介绍了如何使用STM32微控制器精确控制步进电机,涵盖了从原理到代码实现的全过程。首先,解释了步进电机的工作原理,包括定子、转子的构造及其通过脉冲信号控制转动的方式。接着,介绍了STM32的基本原理及其通过GPIO端口输出控制信号,配合驱动器芯片放大信号以驱动电机运转的方法。文中还详细描述了硬件搭建步骤,包括所需硬件的选择与连接方法。随后提供了基础控制代码示例,演示了如何通过定义控制引脚、编写延时函数和控制电机转动函数来实现步进电机的基本控制。最后,探讨了进阶优化技术,如定时器中断控制、S形或梯形加减速曲线、微步控制及DMA传输等,以提升电机运行的平稳性和精度。 适合人群:具有嵌入式系统基础知识,特别是对STM32和步进电机有一定了解的研发人员和技术爱好者。 使用场景及目标:①学习步进电机与STM32的工作原理及二者结合的具体实现方法;②掌握硬件连接技巧,确保各组件间正确通信;③理解并实践基础控制代码,实现步进电机的基本控制;④通过进阶优化技术的应用,提高电机控制性能,实现更精细和平稳的运动控制。 阅读建议:本文不仅提供了详细的理论讲解,还附带了完整的代码示例,建议读者在学习过程中动手实践,结合实际硬件进行调试,以便更好地理解和掌握步进电机的控制原理和技术细节。同时,对于进阶优化部分,可根据自身需求选择性学习,逐步提升对复杂控制系统的理解。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值