首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >攒批写入实测:批大小从 1 调到 1000,吞吐涨 107 倍,p99 从 0.3 毫秒涨到 497 毫秒

攒批写入实测:批大小从 1 调到 1000,吞吐涨 107 倍,p99 从 0.3 毫秒涨到 497 毫秒

作者头像
步步为营DotNet
发布于 2026-11-19 12:36:38
发布于 2026-11-19 12:36:38
420
举报
概述
给 LLM 应用写日志、写事件、写向量,几乎所有人最后都会落到同一个模式:Channel<T> 加一个后台 flusher,攒够 N 条再写一次。然后就开始拍脑袋定参数——批大小给 100 吧,maxWait 给 100ms 吧。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档