步步为营DotNet
攒批写入实测:批大小从 1 调到 1000,吞吐涨 107 倍,p99 从 0.3 毫秒涨到 497 毫秒
原创
关注作者
腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
步步为营DotNet
社区首页
>
专栏
>
攒批写入实测:批大小从 1 调到 1000,吞吐涨 107 倍,p99 从 0.3 毫秒涨到 497 毫秒
攒批写入实测:批大小从 1 调到 1000,吞吐涨 107 倍,p99 从 0.3 毫秒涨到 497 毫秒
步步为营DotNet
关注
发布于 2026-11-19 12:36:38
发布于 2026-11-19 12:36:38
42
0
举报
概述
给 LLM 应用写日志、写事件、写向量,几乎所有人最后都会落到同一个模式:Channel<T> 加一个后台 flusher,攒够 N 条再写一次。然后就开始拍脑袋定参数——批大小给 100 吧,maxWait 给 100ms 吧。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系
cloudcommunity@tencent.com
删除。
c#
性能优化
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档