AnyRobot-查看 kafka 中日志消费滞后数最佳实践

关键字

kafka、lag

适用产品

• AnyRobot 3.0.13 - 3.0.14

目的

AnyRobot 接收到日志后，会将日志先在 kafka 中进行缓存，当消费速率不足时，就会出现日志堆积在 kafka 中，在 AnyRobot 中查看不到堆积在 kafka 中的日志。可参考本最佳实践，查看 kafka 中消费滞后的日志数量。

解决方案

方案一，通过命令行方式查看 kafka 中堆积的日志条数。

登录 AnyRobot 操作系统，执行以下命令，其中 LAG 所对应的数值即为当前在 kafka 消费滞后的日志数量。

kubectl exec -it kafka-0 -c kafka -- /opt/kafka/bin/kafka-consumer-groups.sh --bootstrap-server localhost:9097 --group kafka_topic -describe

方案二，通过 Grafana 监控工具在 Web 界面监控 kafka 消费滞后数以及滞后数随时间变化情况。

1.通过浏览器访问 http://:30002 进入 Grafana 页面，输入用户名以及密码后，点击 Log In 登录 Grafana。

2.点击页面左上角的 Home，在弹出的菜单中选择 Kafka 监控，进入 kafka 监控页面。

3.在页面最下方找到 Kafka 消费组滞后量图表，在图表下方的图例中点击 kafka-anyrobot.anyrobot.svc:9308-kafka_topic0:kafka_topic ，查看 AnyRobot 接收的日志在 kafka 中消费滞后量随时间的变化曲线。

更多信息

关于 kafka 的更多说明，请参考 kafka 官方网站：kafka