您当前的位置: 首页 > 

段智华

暂无认证

  • 3浏览

    0关注

    1232博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文

第41课:Checkpoint彻底解密:Checkpoint的运行原理和源码实现彻底详解

段智华 发布时间:2017-06-12 21:39:19 ,浏览量:3

第41课:Checkpoint彻底解密:Checkpoint的运行原理和源码实现彻底详解

一:Checkpoint到底是什么?

1,  Spark在生产环境下经常会面临Tranformations的RDD非常多(例如一个Job中包含1万个RDD)或者具体Tranformation产生的RDD本身计算特别复杂和耗时(例如计算时常超过1个小时),此时我们必须考虑对计算结果数据的持久化;

关注
打赏
1659361485
查看更多评论
立即登录/注册

微信扫码登录

0.0489s