如果您想支付许可和Kafka群集支持,那么您可以使用 汇流控制中心
或者,免费路线是使用来自Datadog和/或Prometheus / Influxdb(使用Grafana仪表板)的JMX导出器来查看整体系统运行状况检查(CPU,网络,内存等)...比您获得的信息更多的信息通过使用Kafka工具监控Kafka流程
的 Landoop 强> Landoop 通过用户界面,流式SQL引擎和集群监控增强Kafka。它可以更快地监控Kafka数据管道。
他们提供免费的一体化码头( 镜头盒 )可以为单个经纪人提供高达25M的消息。请注意,建议将其用于开发环境。
的 合流的 强> 另一种选择是 融合企业 这是适用于生产环境的Kafka发行版。它还包括 控制中心 ,这是Apache Kafka的管理系统,可通过用户界面实现集群监控和管理。
的 雅虎卡夫卡经理 强> 卡夫卡经理 与上述工具相比,Kafka是一种监控Kafka功能较少的工具。
的 KafDrop 强> KafDrop 是用于监控Apache Kafka集群的UI。该工具显示诸如代理,主题,分区等信息,甚至可以让您查看消息。它是一个轻量级应用程序,在Spring Boot上运行,只需要很少的配置。
的 LinkedIn Burrow 强> 地洞 是Apache Kafka的监视伴侣,它将消费者滞后检查作为服务提供,无需指定阈值。它监控所有消费者的承诺抵消额,并根据需要计算这些消费者的状态。提供HTTP端点以按需请求状态,以及提供其他Kafka群集信息。还有可配置的通知程序可以通过电子邮件或HTTP调用将状态发送到另一个服务。
的 卡夫卡工具 强> 卡夫卡工具 是一个用于管理和使用Apache Kafka集群的GUI应用程序。它提供了一个直观的UI,允许用户快速查看Kafka群集中的对象以及存储在群集主题中的消息。它包含面向开发人员和管理员的功能。
如果你买不起许可证,那就去Yahoo Kafka Manager,LinkedIn Burrow或KafDrop。 Confluent和Landoop的产品是最好的产品,但不幸的是,它们需要许可。
在我的公司,我们使用雅虎产品,我们调查了LinkedIn产品,还有其他一些人提到过。我的公司最终选择使用Prometheus + Grafana。每个人都喜欢它,我强烈推荐它。
Prometheus + Grafana有两大优势。首先是它提供全功能的Kafka指标摄取+可视化+警报,但它不仅限于Kafka。虽然我们最初的需求仅仅是监控Kafka,但我们还想要了解HTTP服务器+流量,服务器利用率(cpu / ram / disk)和自定义应用程序级别指标的指标。普罗米修斯处理上述所有问题。其次,Prometheus + Grafana质量非常高,设计精良,易于使用。这个领域的许多其他产品都是陈旧而复杂的。 Prometheus + Grafana都非常适合使用,它们非常可定制,抛光和易于使用。 Grafana有一个非常华丽+功能的JavaScript界面,可以让您精确制作所需的自定义仪表板。 Prometheus有一个非常优秀的度量收集引擎,存储引擎,查询语言和警报系统。像Yahoo Kafka Manager这样的东西在所有这些类别中具有更多有限的功能。
如果你想尝试普罗米修斯,你需要做两件事:
1)在Kafka代理上安装+配置JMX-> Prometheus导出器: https://github.com/prometheus/jmx_exporter
2)设置Prometheus服务器以收集指标+并设置Grafana仪表板以显示所需的图表。
我还说这只是用于监控+仪表板+警报。对于管理功能,您仍需要其他工具。