大数据架构师必懂的5大实时计算技术要点

　　掘金上又刷到那篇《大数据架构师必懂的5大实时计算技术要点》，标题还加了“2024新趋势”——我点开前就闻到一股仓鼠轮子味儿。去年12月，某库某表的 Flink CDC 任务在凌晨三点四十七分开始吞吐掉到十八秒/条，监控大屏的绿光还在那儿稳稳亮着，跟没事人一样。

　　不是说这五点错了。是它根本没资格叫“必懂”。真正把人钉在耻辱柱上的，从来不是你漏了哪个 checkpoint 配置，是你敢不敢在灰度切流时把 Kafka 消费位点回拨三分钟——结果发现 Flink 的 watermark 机制早被上游业务方用乱序时间戳喂吐了。这个我敢打包票：去年十二月七号，李哲在群里甩截图，说“水印不推进”，我反手就把他的 subtask 线程栈 dump 下来发过去，他十分钟后回：“啊……他们用了本地时钟打日志。”

　　第三杯咖啡凉在左手边，杯底压着一张工单，编号 ST-20231208-RD-1932，申请把 state TTL 从七天缩到三天——审批卡在运维侧，理由是“未提供容量评估报告”。可他们根本没去看我们上周做的 StateBackend 恢复演练：从 RocksDB 快照拉起要三百七十二秒，误差±五秒，比文档里写的慢了一百零九秒。文档写的是“通常一百五十秒内”，没写“通常是指没启 metric reporter 的裸集群”。

　　优胜劣汰？对。但淘汰的从来不是技术选型本身，是那个在 K8s pod 崩溃重启后还坚持让运维手动删 checkpoint 目录的架构师。我们当时真这么干过——因为自动清理触发了 S3 的 ListObjects 权限报错，而权限申请流程要走五个角色签字。王蕊那天值夜班，直接 ssh 进 node，rm -rf /mnt/state/flink-job-87a… 她敲完回车才想起来该截图，结果终端刚好断连了。后来我们在 ELK 里翻 log 找证据，发现那段 delete 记录根本没进 audit 日志。S3 客户端 SDK 默认关了 trace，我原以为它只关 debug，结果它连 info 级别错误都不吐。

　　说到 trace——有次线上查一个 flink-kafka-producer 的 timeout，定位到 network 层 socket write 阻塞了二百三十秒，结果发现是云厂商 ENI 的 eBPF hook 在特定 QoS 模式下会死锁。这事和实时计算半毛钱关系没有，但它就是发生在 taskmanager 容器里。你还得懂。

　　踩坑复盘？扯淡。复盘是事后给领导看的 PPT，底下全是加粗黑体结论，字体二十号，行距一点五倍，一页只放一句话。真正让你手抖的是那种凌晨四点的告警：作业没挂，背压也不高，就是 metrics 里 processTimeLag 这个指标突然从 0.3 秒跳成 11.7 秒，然后在 7.2 和 0.4 之间无规律震荡。我们盯了四十三分钟，最后发现是下游 Hive 表的 partition path 写法和 Spark SQL 的 hive metastore 缓存策略起了化学反应，导致每一次 insert overwrite 都触发 full table scan，拖死了 flink-sql-client 的 metadata fetch。但这事连 bug 都算不上——Hive 文档里清清楚楚写着“partition 路径解析可能引发全表元数据刷新”。谁读文档？没人读。

　　我不屑提什么 Exactly-Once，Flink 已经做到头了。真正破防的是当你说“下游必须幂等”，对方回你一句“我们这边没法改”，然后转身在 consumer group 里开了三个一模一样的 instance，靠消费重试兜底。你说“那不是 exactly-once 是 at-least-twice”，他点头：“对，所以我们把幂等键改成 order_id + timestamp + rand()。”我看着他发来的代码片段，没说话。那行 new Random().nextLong() 是红色高亮的，IDE 显示 warning：random without seed —— 这警告他三年前就关了，在 settings → inspections 里取消勾选了两百一十七项。

文章配图，仅供参考

　　监控大屏绿光一直亮着，现在也是。我昨天路过运营部走廊，听见两个新人聊：“Kafka 是不是比 Pulsar 强？”“应该吧，我们组用的 Kafka。”——他们刚修完一个 schema registry 兼容性问题，修的方式是在 producer 端序列化前先 json.Marshal 再 base64，因为 upstream 不认 Avro，又不让动 schema。这招是我教的。但我没告诉他们，base64 后的 payload 大小会翻 1.33 倍，而我们的 broker 网络 buffer 就剩八百字节了。

　　反正今天下午我要去参加那个“实时数仓标准化方案评审会”。带三张纸：一张画了 state backend 切换路径的 DAG（其实是错的，中间漏了一个 rocksdb options override），一张列了目前线上的六种 watermark 生成方式（其中两种正在互撕，谁也不服谁），还有一张，就写着“先让开发删掉那段 new Random()，其他再说”。

（编辑：站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!