使用Zookeeper在Spark独立集群中查找领导者节点

Swarvanu Sengupta

嗨,我将Zoostandalone集群与zookeeper一起使用,在进行Spark提交之前,我需要从Spark-Cluster中找到Leader节点。

我的问题是如何在所有spark-master节点上找到领导者节点:

1>可以从Zookeeper中获取吗?

2> spark-master是否公开了任何API来检查?

斯蒂芬·拉兹万·弗洛瑞亚(Stefan Razvan Florea)

首先,在Spark集群中没有领导者节点。有一个活动主机,一个或多个备用主机和一个或多个从机。其次,当您将任务提交给Spark时,您无需知道哪个是活动的主服务器。您可以提供所有Spark Masters ip,群集将处理所有事情。

但是,如果您仍然想查看此信息,最简单的方法是访问通常在端口8080上可用的Web ui。您可以通过查看Spark Master进程详细信息来检查Web ui端口:

ps -ef | grep spark

stefan 12682 1 15 09:50 pts / 1 00:00:04 / usr / lib / jvm / java-8-oracle / bin / java -cp / usr / local / spark / conf /:/ usr / local / spark / jars / * -Xmx1g org.apache.spark.deploy.worker.Worker --webui-port 8081 spark:// spark-ip:7077

通过访问位于http:// spark-ip:port的此Web ui ,您将可以查看有关该主服务器的所有详细信息。如果要以json格式查看此数据,请/json在末尾添加

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

在“使用 Kubernetes 进行简单的领导者选举”中无法通过 HTTP 找到领导者

来自分类Dev

如何更改etcd集群的领导者?

来自分类Dev

Zookeeper多个领导者选举问题

来自分类Dev

Zookeeper多个领导者选举问题

来自分类Dev

Zookeeper 领导者不是 Mesos Master

来自分类Dev

领导者在筏中的地址/位置

来自分类Dev

领事座席如何知道自己是集群的领导者?

来自分类Dev

如何动态指定Aeron Cluster领导者节点?

来自分类Dev

领导者去世时改变动物园管理员集群的领导

来自分类Dev

Spark Streaming Kafka找不到Set的领导者偏移

来自分类Dev

带领导者闩锁的领导者选举

来自分类Dev

从领事“没有群集领导者”状态中恢复

来自分类Dev

在OpenLayers中绘制速度领导者线

来自分类Dev

如何从仲裁中获取当前领导者主机的IP?

来自分类Dev

如何在Spacemacs中退出领导者模式?

来自分类Dev

当ZooKeeper在ZooKeeper服务器中进行领导者选举时,馆长为什么在“流程”中进行领导者选举?

来自分类Dev

领事数据中心:前一个领导者节点失败后,不会自动选择领导者节点

来自分类Dev

避免 k8s 主节点 / etc 节点成为领导者

来自分类Dev

XSL-FO领导者包装

来自分类Dev

显示所有领导者映射

来自分类Dev

Highcharts - 隐藏 dataLabels 领导者

来自分类Dev

为什么Tmux Space领导者也使2成为领导者?

来自分类Dev

从Windows迁移到Debian时,Zookeeper DNS名称与领导者选举有关的问题

来自分类Dev

重新映射左命令键到VIM中的领导者?

来自分类Dev

ISR中断但消息写在领导者中时会发生什么

来自分类Dev

为什么不使用Paxos完成Paxos领导者选举?

来自分类Dev

VIM-如何使用领导者搜索和替换多个字符串?

来自分类Dev

为什么不使用Paxos完成Paxos领导者选举?

来自分类Dev

使用R中的geom_label_repel将标签放在前面,将领导者放在后面

Related 相关文章

  1. 1

    在“使用 Kubernetes 进行简单的领导者选举”中无法通过 HTTP 找到领导者

  2. 2

    如何更改etcd集群的领导者?

  3. 3

    Zookeeper多个领导者选举问题

  4. 4

    Zookeeper多个领导者选举问题

  5. 5

    Zookeeper 领导者不是 Mesos Master

  6. 6

    领导者在筏中的地址/位置

  7. 7

    领事座席如何知道自己是集群的领导者?

  8. 8

    如何动态指定Aeron Cluster领导者节点?

  9. 9

    领导者去世时改变动物园管理员集群的领导

  10. 10

    Spark Streaming Kafka找不到Set的领导者偏移

  11. 11

    带领导者闩锁的领导者选举

  12. 12

    从领事“没有群集领导者”状态中恢复

  13. 13

    在OpenLayers中绘制速度领导者线

  14. 14

    如何从仲裁中获取当前领导者主机的IP?

  15. 15

    如何在Spacemacs中退出领导者模式?

  16. 16

    当ZooKeeper在ZooKeeper服务器中进行领导者选举时,馆长为什么在“流程”中进行领导者选举?

  17. 17

    领事数据中心:前一个领导者节点失败后,不会自动选择领导者节点

  18. 18

    避免 k8s 主节点 / etc 节点成为领导者

  19. 19

    XSL-FO领导者包装

  20. 20

    显示所有领导者映射

  21. 21

    Highcharts - 隐藏 dataLabels 领导者

  22. 22

    为什么Tmux Space领导者也使2成为领导者?

  23. 23

    从Windows迁移到Debian时,Zookeeper DNS名称与领导者选举有关的问题

  24. 24

    重新映射左命令键到VIM中的领导者?

  25. 25

    ISR中断但消息写在领导者中时会发生什么

  26. 26

    为什么不使用Paxos完成Paxos领导者选举?

  27. 27

    VIM-如何使用领导者搜索和替换多个字符串?

  28. 28

    为什么不使用Paxos完成Paxos领导者选举?

  29. 29

    使用R中的geom_label_repel将标签放在前面,将领导者放在后面

热门标签

归档