首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

月之暗面:3月20日以来Kimi流量增加趋势远超预期,导致SaaS客户体验异常

月之暗面发布情况说明:从 2024.3.20 9:30:00 开始,我们观测到 Kimi的系统流量持续异常增高,流量增加的趋势远超我们对资源的预期规划。这导致了从 2024.3.20 10:00:00 开始,有较多的SaaS客户持续的体验到 429:engine is overloaded的异常问题,对此我们深表抱歉。做为一家以技术为导向的公司,我们非常理解一个API的稳定性是能否投入实际生产的最关键因素之一,已经有多项应急措施正在实施,包括不限于:从 3.20 观测到流量异常增高后,已经进行了5次扩容工作。推理资源会持续配合流量进行扩容,以尽量承载持续增长的用户量;设计了一套更有效的 SaaS 流量优先级策略,以保障付费用户的调用稳定,预计3.25 之前完成并上线。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/Or7kg_Mr81m3xv4uOokoKb2g0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券