您当前的位置: 首页 >  段智华 运维

大数据IMF传奇行动 Spark history-server 配置 !运维人员的强大工具

段智华 发布时间:2016-01-29 18:17:56 ,浏览量:3

配置Spark History Server
 
1. 在Spark的conf目录下/usr/local/spark-1.6.0-bin-hadoop2.6/conf,将spark-defaults.conf.template改名为spark-defaults.conf
 mv spark-defaults.conf.template spark-defaults.conf 
 
 
2. 对spark-defaults.conf 配置
spark.eventLog.enabled           true
spark.eventLog.dir hdfs://Master:9000/historyserverforSpark
spark.history.ui.port            18080
spark.history.fs.logDirectory    hdfs://Master:9000/historyserverforSpark

3.启动history-server
[root@master sbin]# ./start-history-server.sh

4.成功
[root@master sbin]# jps
2691 DataNode
3459 Master
5444 HistoryServer
2836 SecondaryNameNode
2600 NameNode
3512 Worker
5641 Jps
[root@master sbin]#

5.在web浏览器中查看http://192.168.2.100:18080/ 显示页面

1.6.0 History Server

Event log direct

关注
打赏
查看更多评论

段智华

暂无认证

  • 3浏览

    0关注

    1232博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文
立即登录/注册

微信扫码登录