Twitter Storm源代码分析之Tuple是如何发送的

本文详细解析了TwitterStorm中Tuple的发送过程,包括Tuple如何从一个Bolt发送到另一个Bolt,涉及LinkedBlockingQueue、ZMQ通信、序列化等关键步骤。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Twitter Storm源代码分析之Tuple是如何发送的

作者:  xumingming | 可以转载, 但必须以超链接形式标明文章原始出处和作者信息及版权声明
网址:  http://xumingming.sinaapp.com/727/twitter-storm-code-analysis-tuple-send-proc/

 
这篇文章里面我们来看一下Storm里面的tuple到底是如何从一个tuple是怎么从一个bolt到另一个bolt上去的。

首先Bolt在发射一个tuple的时候是调用OutputCollector的emit或者emitDirect方法,
而这两个方法最终调用的是clojure代码里面的mk-transfer-fn方法:

1
2
3
4
5
6
; worker.clj
( defn mk-transfer- fn [ transfer-queue ]
   ( fn [ task ^Tuple tuple ]
     (.put ^LinkedBlockingQueue
           transfer-queue [ task tuple ] )
     ))

这个方法其实只是往一个LinkedBlockingQueue里面放入一条新记录(task-id, tuple)
然后这个queue里面的内容会被下面这段代码处理

01
02
03
04
05
06
07
08
09
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
; worker.clj
; 这里面的这个socket到底是什么东西?
(async- loop
     ( fn [ ^ArrayList drainer
          ^KryoTupleSerializer serializer ]
       ; 从transfer-queue里面取出一个任务来
       ; 这个任务其实就是(task, tuple)
       ( let [ felem (. take transfer-queue) ]
         (.add drainer felem)
         (.drainTo transfer-queue drainer))
       (read-locked endpoint-socket-lock
         ; 获取从node+port到socket的映射
         ( let [ node+port->socket @node+port->socket
               ; 获取从task-id到node+port的映射
               task->node+port @task->node+port ]
           ( doseq [ [ task ^Tuple tuple ] drainer ]
             ; 获取task对应的socket
             ( let [ socket
                    (node+port->socket
                      (task->node+port task))
               ; 序列化这个tuple
               ser-tuple (.serialize serializer tuple) ]
               ; 发送这个tuple
               (msg/ send socket task ser-tuple)
               ))
           ))

从上面代码可见,tuple最终是被序列化之后由msg/send方法通过socket发送给指定的task的。注意上面代码里面的async-loop表示会创建一个单独的线程来执行这些代码。可以storm会起一个独立线程来专门发送待发送的消息的。

我们来看下这个socket到底是个怎么样的东西。这个socket是在worker.clj里面被初始化的,看下面的代码:

01
02
03
04
05
06
07
08
09
10
11
12
13
; socket(worker.clj)
(swap! node+port->socket
      merge
      (into {}
        (dofor
           [ [ node port :as endpoint ] new -connections ]
          [ endpoint
           (msg/connect
              mq-context
              (( :node- >host assignment) node)
              port)
           ]
          )))

从上面代码可以看出socket其实是msg/connect创建出来的。那 msg/connect到底在做什么呢? 这个方法是定义在protocol.clj里面的:

1
2
3
4
5
6
(defprotocol Context
   (bind [ context virtual-port ] )
   (connect [ context host port ] )
   ( send -local-task-empty [ context virtual-port ] )
   (term [ context ] )
   )

这里定义的只是一个接口而已,具体的实现是在zmq.clj里面。zmq是ZeroMQ的缩写, 可见storm的supervisor之间就是利用zeromq来传递tuple的。

zmq.clj里面的ZMQCOntext实现了Context接口:

01
02
03
04
05
06
07
08
09
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
(deftype ZMQContext [ context linger-ms ipc? ]
   ; 实现Context接口
   Context
   ; 从给定的virtual-port拉消息
   (bind [ this virtual-port ]
     (-> context
         (mq/socket mq/pull)
         (mqvp/virtual-bind virtual-port)
         (ZMQConnection.)
         ))
   ; 给给定的host,port推送消息(push)
   (connect [ this host port ]
     ( let [ url ( if ipc?
                 ( str "ipc://" port "ipc" )
                 ( str "tcp://" host ":" port)) ]
       (-> context
           (mq/socket mq/push)
           (mq/ set -linger linger-ms)
           (mq/connect url)
           (ZMQConnection.))))
   ; 给本地的virtual-port发送一条空消息
   ( send -local-task-empty [ this virtual-port ]
     ( let [ pusher
            (-> context
                (mq/socket mq/push)
                (mqvp/virtual-connect virtual-port)) ]
           (mq/ send pusher (mq/barr))
           (.close pusher)))
   (term [ this ]
     (.term context))
   ; 实现ZMQContextQuery接口
   ZMQContextQuery
   (zmq-context [ this ]
     context))

总结一些Twitter Storm对于tuple的处理/创建过程:

  1. Bolt创建一个tuple。
  2. Worker把tuple, 以及这个tuple要发送的地址(task-id)组成一个对象(task-id, tuple)放进待发送队列(LinkedBlockingQueue).
  3. 一个单独的线程(async-loop所创建的线程)会取出发送队列里面的每个tuple来处理
    • Worker创建从当前task到目的task的zeromq连接。
    • 序列化这个tuple并且通过这个zeromq的连接来发送这个tuple。
基于数据挖掘的音乐推荐系统设计与实现 需要一个代码说明,不需要论文 采用python语言,django框架,mysql数据库开发 编程环境:pycharm,mysql8.0 系统分为前台+后台模式开发 网站前台: 用户注册, 登录 搜索音乐,音乐欣赏(可以在线进行播放) 用户登陆时选择相关感兴趣的音乐风格 音乐收藏 音乐推荐算法:(重点) 本课题需要大量用户行为(如播放记录、收藏列表)、音乐特征(如音频特征、歌曲元数据)等数据 (1)根据用户之间相似性或关联性,给一个用户推荐与其相似或有关联的其他用户所感兴趣的音乐; (2)根据音乐之间的相似性或关联性,给一个用户推荐与其感兴趣的音乐相似或有关联的其他音乐。 基于用户的推荐和基于物品的推荐 其中基于用户的推荐是基于用户的相似度找出相似相似用户,然后向目标用户推荐其相似用户喜欢的东西(和你类似的人也喜欢**东西); 而基于物品的推荐是基于物品的相似度找出相似的物品做推荐(喜欢该音乐的人还喜欢了**音乐); 管理员 管理员信息管理 注册用户管理,审核 音乐爬虫(爬虫方式爬取网站音乐数据) 音乐信息管理(上传歌曲MP3,以便前台播放) 音乐收藏管理 用户 用户资料修改 我的音乐收藏 完整前后端源码,部署后可正常运行! 环境说明 开发语言:python后端 python版本:3.7 数据库:mysql 5.7+ 数据库工具:Navicat11+ 开发软件:pycharm
MPU6050是一款广泛应用在无人机、机器人和运动设备中的六轴姿态传感器,它集成了三轴陀螺仪和三轴加速度计。这款传感器能够实时监测并提供设备的角速度和线性加速度数据,对于理解物体的动态运动状态至关重要。在Arduino平台上,通过特定的库文件可以方便地与MPU6050进行通信,获取并解析传感器数据。 `MPU6050.cpp`和`MPU6050.h`是Arduino库的关键组成部分。`MPU6050.h`是头文件,包含了定义传感器接口和函数声明。它定义了类`MPU6050`,该类包含了初始化传感器、读取数据等方法。例如,`begin()`函数用于设置传感器的工作模式和I2C地址,`getAcceleration()`和`getGyroscope()`则分别用于获取加速度和角速度数据。 在Arduino项目中,首先需要包含`MPU6050.h`头文件,然后创建`MPU6050`对象,并调用`begin()`函数初始化传感器。之后,可以通过循环调用`getAcceleration()`和`getGyroscope()`来不断更新传感器读数。为了处理这些原始数据,通常还需要进行校准和滤波,以消除噪声和漂移。 I2C通信协议是MPU6050与Arduino交互的基础,它是一种低引脚数的串行通信协议,允许多个设备共享一对数据线。Arduino板上的Wire库提供了I2C通信的底层支持,使得用户无需深入了解通信细节,就能方便地与MPU6050交互。 MPU6050传感器的数据包括加速度(X、Y、Z轴)和角速度(同样为X、Y、Z轴)。加速度数据可以用来计算物体的静态位置和动态运动,而角速度数据则能反映物体转动的速度。结合这两个数据,可以进一步计算出物体的姿态(如角度和角速度变化)。 在嵌入式开发领域,特别是使用STM32微控制器时,也可以找到类似的库来驱动MPU6050。STM32通常具有更强大的处理能力和更多的GPIO口,可以实现更复杂的控制算法。然而,基本的传感器操作流程和数据处理原理与Arduino平台相似。 在实际应用中,除了基本的传感器读取,还可能涉及到温度补偿、低功耗模式设置、DMP(数字运动处理器)功能的利用等高级特性。DMP可以帮助处理传感器数据,实现更高级的运动估计,减轻主控制器的计算负担。 MPU6050是一个强大的六轴传感器,广泛应用于各种需要实时运动追踪的项目中。通过 Arduino 或 STM32 的库文件,开发者可以轻松地与传感器交互,获取并处理数据,实现各种创新应用。博客和其他开源资源是学习和解决问题的重要途径,通过这些资源,开发者可以获得关于MPU6050的详细信息和实践指南
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值