当前位置 : 主页 > 网络编程 > 其它编程 >

神探!ApacheHudi集成prometheus/pushgateway进行监控

来源:互联网 收集:自由互联 发布时间:2023-07-02
1.可用性在Hudi最新master分支,prometheus监控Hudi应用指标, 1. 可用性 在Hudi最新master分支,prometheus监控Hudi应用指标,该功能将在0.6.0 版本发布。 2. 简介 prometheus是一个流行的监控服务。在
1.可用性在Hudi最新master分支,prometheus监控Hudi应用指标,

1. 可用性

在Hudi最新master分支,prometheus监控Hudi应用指标,该功能将在0.6.0 版本发布。

2. 简介

prometheus是一个流行的监控服务。在即将发布的Apache Hudi 0.6.0版本中,除已有的报告者类型(Graphite、JMX、DATADOG)之外,我们将引入通过pushgateway和httpserver方式报告Hudi指标的功能。

3. 配置

3.1 pushgateway

类似于其他支持的报告者,启用pushgateway报告者需要以下以下属性。

hoodie.metrics.on=truehoodie.metrics.reporter.type=PROMETHEUS_PUSHGATEWAY

下面的属性用来配置pushgateway 的地址和端口号。地址默认是localhost,端口默认是9091

hoodie.metrics.pushgateway.host=x.x.x.xhoodie.metrics.pushgateway.port=9091

下面属性用来配置任务结束时候是否将监控信息从pushgateway删除,默认是true

hoodie.metrics.pushgateway.delete.on.shutdown=false

下面属性用来配置任务名称前缀、是否需要随机的后缀,默认是true

hoodie.metrics.pushgateway.job.name=xiaommhoodie.metrics.pushgateway.random.job.name.suffix=false

下面属性用来配置任务结束时候是否将监控信息从pushgateway删除,默认是true

hoodie.metrics.pushgateway.delete.on.shutdown=false

3.2 prometheus-httpserver

hoodie.metrics.on=truehoodie.metrics.reporter.type=PROMETHEUShoodie.metrics.PROMETHEUS.port=9090

至此配置介绍结束

4. 示例演示

在这个示例中,我们运行了一个 HoodieDeltaStreamer,启用了指标收集并做了相应的配置。

5. 总结

Hudi提供了多种报告者,方便监控Hudi应用运行时的各项指标,及时发现系统中的问题。后续将会有更多的主流监控组件集成进来,尽请期待........

上一篇:数据绑定技术—将DataSet绑定到DataGrid控件
下一篇:没有了
网友评论