您当前的位置: 首页 >  大数据

段智华

暂无认证

  • 2浏览

    0关注

    1232博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文

第75课:双十一背景下的大数据spark streaming本质思考和状态管理

段智华 发布时间:2016-11-09 20:48:59 ,浏览量:2

第75课:双十一背景下的大数据spark streaming本质思考和状态管理

 

 

 

 

 

1,如果有什么功能Spark Streaming没有实现的话,请使用transform

2,如果是历史状态累计更新,请使用mapWithState

 

3, countByValueAndWindow 4,foreachRDD(func)

dstream.foreachRDD { rdd =>   rdd.foreachPartition { partitionOfRecords =>     // ConnectionPool is a static, lazily initialized pool of connections     val connection = ConnectionPool.getConnection()     partitionOfRecords.foreach(record => connection.send(record))     ConnectionPool.returnConnection(connection)  // return to the pool for future reuse   } }

 

 

关注
打赏
1659361485
查看更多评论
立即登录/注册

微信扫码登录

0.1246s