您当前的位置: 首页 >  段智华 ar

第19课:Spark Streaming架构设计和运行机制大总结

段智华 发布时间:2016-06-04 10:45:34 ,浏览量:4

第19课:Spark Streaming架构设计和运行机制大总结

1 spark streaming中的架构设计和运行机制
2 spark streaming的深度思考

Rdd的模板是Dstream,但Dstream操作和RDD不是一一对应的,Dstream和DstreamGraph 不过是幻象。


Spark Streaming本质上RDD+Timer,在RDD的基础之上,Timer在时间驱动下不断循环,周而复始的接收数据处理数据。

recurringTimer

 
 /**
 * Repeatedly call the callback every interval.
 */
private def loop() {
  try {
    while (!stopped) {
      triggerActionForNextInterval()
    }
    triggerActionForNextInterval()
  } catch {
    case e: InterruptedException =>
  }
}

关注
打赏
查看更多评论

段智华

暂无认证

  • 4浏览

    0关注

    1232博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文
立即登录/注册

微信扫码登录