提问已解决 Flink 消费 Kafka 出现严重背压,如何定位是哪个算子?

大数据计算 6588 浏览 3 回复 2026-09-05 23:12 悬赏 60 积分
👍17
⭐收藏
大数据老刘 楼主 Lv5 ・中国台湾
2026-09-05 23:12 6588 阅读 3 回复

Flink Web UI 显示某个 task 背压 100%,但看不出具体是哪个算子的问题。数据量 5 万条/秒。

大数据计算 提问 悬赏 60
回复 👍 60
全部回复 3 条
云原生小分队 ・内蒙古

Web UI 的 BackPressure 页面点 "Sample" 按钮,会显示每个 subtask 的状态。从 sink 往 source 方向看,第一个 OK 的就是瓶颈点。

Lv6 2026-09-06 02:09 2 楼
回复 👍 27
大数据老刘 ・中国台湾

定位到了,是写入 HBase 的算子,Put 没做批量提交。

Lv5 2026-09-06 03:36 3 楼
回复 👍 101
运维老王 最佳答案 ・中国台湾

批量写 + 调大 sink 并行度 + 开启 buffer 超时提交,三招基本能解决大部分背压。

Lv7 2026-09-06 04:23 4 楼
回复 👍 79
发表回复
登录 后参与回复