Flink+Kafka深度调优：流处理延迟直降70%

　　走廊尽头那台监护仪一直在响，老周蹲在值班室门口啃冷掉的包子，油渍蹭在白大褂袖口。我甩开笔帽在纸上画拓扑图，他突然凑过来：“你们上个月搞的那个Flink+Kafka优化，真降了70%延迟？”我把包子皮揉成团扔进垃圾桶，“3月那波压测，P99从1.2s干到350ms——但别急着高兴，上周三凌晨两点，监控突然报反压。”

　　护士站有人在剥橘子，酸味混着消毒水味飘进来。老周扯了扯口罩：“反压不是常有的事？调调并行度呗。”我翻出手机里的监控截图，“这次不一样——Kafka消费者组堆积量没涨，Flink的Source算子却卡在100%利用率。我原以为又是网络抖动，结果发现是checkpoint锁竞争。”

　　打印机突然卡纸，哗啦啦吐出一地半截的A4纸。我蹲下去捡，老周盯着屏幕上的火焰图：“你改了什么参数？不会又是盲目调buffer吧？”我白了他一眼，“去年在急诊科调ETL的时候，我确实干过把buffer_timeout从100ms改到10ms的蠢事——那次把延迟从800ms干到2.3s，被主任骂了半个月。”

文章配图，仅供参考

　　老周突然想起什么：“对了，三床家属刚才在门口来回踱步，问能不能换单人间。”我摆手，“这个我不讲了——说回优化，最邪门的是Kafka的`fetch.min.bytes`。我原以为调大这个值能减少网络请求，结果在压测时发现，当`fetch.min.bytes`从1B改成64KB后，消费者延迟反而涨了200ms。”

　　走廊那盏灯闪了一下，监控大屏上的数字突然模糊。我揉了揉眼睛，“后来发现是Broker的`num.network.threads`设低了——默认是3，我们调到了8。但最绝的是Flink的`managed.memory.size`，我原以为设成2GB够用了，结果在处理百万级QPS时，JVM频繁GC把延迟顶到了1.5s。”

　　老周突然笑了：“所以你们最后是怎么解决的？”我掏出手机翻出配置文件，“三板斧：第一，Kafka的`linger.ms`从5ms改成0ms，牺牲点吞吐换延迟；第二，Flink的`parallelism.default`从16调到32，但把`slot.sharing.group`拆成四个；第三——”我顿了顿，“把`taskmanager.numberOfTaskSlots`从CPU核心数减了2。”

　　护士站的橘子味更浓了，打印机终于吐出完整的一页纸。老周盯着配置文件里的`execution.checkpointing.mode`：“EXACTLY_ONCE？你们不怕影响性能？”我指了指延迟曲线，“3月那波优化前，我们用的AT_LEAST_ONCE，延迟反而更高——因为重试机制触发了更多的反压。现在EXACTLY_ONCE+异步快照，延迟降了，数据也没丢。”

　　去年在ICU调监控系统的时候，我犯过类似的错。当时为了降延迟，把Kafka的`acks`从`all`改成`1`，结果数据丢了3%。主任把监控日志摔在我脸上：“延迟高可以优化，数据丢了怎么跟家属交代？”这次我学乖了——所有参数调整前，先在测试环境跑72小时压测，连`log.level`都从INFO改成DEBUG，就怕漏掉什么异常。

　　老周突然问：“你觉得这波优化能撑多久？”我望着监控大屏上稳定的绿色数字，“优胜劣汰吧——上个月隔壁科室用Spark Streaming处理同样的数据，P99延迟还在800ms以上。他们主任昨天还来问我要配置文件。”

　　打印机又卡纸了，这次没人去管它。走廊尽头传来脚步声，三床家属的声音隐约传来：“医生，单人间到底能不能换？”我低头整理笔记，老周已经靠在椅子上睡着了——他的白大褂口袋里，露出半截没吃完的橘子。

（编辑：站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!