系统优化设计方案3.20周一例会

  目前媒资的接口系统需要出两个优化方案出来:一个是短期的稳定方案,另一个是长期的改造方案。

  短期内要解决的问题主要是:

  1. 批量mget导致cbase端返回给client响应慢,特别是mget的key数量越大这个现象越明显。

因mget请求导致整体接口服务响应慢,memc客户端发起重试2次,如果此时并发稍大些,同时会因无法从xmemcached连接池中获取连接而引发大量的TimeoutException,

出现TimeoutException异常memc客户端会重试2次,影响其他接口服务,最终引起雪崩,服务不可用。

  这个已经通过对moxi参数调优、memcached参数调优,有所缓解。下面需要通过对批量请求mget优化。另外考虑将现有集群换成redis(因为缓存服务部门cbase集群是比较成熟的,所以有风险)。但是我15年入职时就听过一些其他部门的技术分享,提到了cbase的不稳定因素,最后他们的解决方案也是不使用乐视统一的cbase集群,自己搭建私有集群,稳定性得到很大提高,所以这个是值得尝试的。目前cbase里存的是全量缓存,使用redis的mget,基本不存在取不到需要穿透到DB的问题。但是目前要解决的是 mget的性能问题,那么搭建redis集群需要考虑采用哪种集群:codis, twemporxy, redis cluster能更好的支持这一点。因为在分布式下涉及怎样同时取多个Redis上多个key。将多个key按照算法分组,然后再合并多组回应的问题。就是redis集群的路由问题。

  德伟回复:问过负责redis的徐雷不建议redis使用mget方式

  2. 数据库分库分表问题

  媒资千万级数据表的拆分,需要备忘的是将更新时间换成时间戳根据当前时间自动更新的问题。目前其他业务线的依赖已经由直接的数据库访问改成了消息推送的方式,解决了耦合导致的数据库结构改变对其他部门的影响。德伟提出我们根据时间戳进行更新,那么更新改成几秒钟一次,数据量会不会增大?会上忘了回复这一问题:除非对同一数据的修改十分频繁,不然推送的总量应该是差不多的,那么时间间隔小,每次对MQ的压力应该是更小更均匀了。 拆分前需要将中国站的数据进行一次数据迁移到分表,需要和调用方沟通的问题。数据表拆分要解决的问题是:专辑ID可能会变,专辑下面关联视频,所以以什么依据来进行拆分的问题。

  3. 预告片的接口优化问题

  预告片是否可以考虑不走缓存,直接进行数据库索引来取返回结果。这么做的原因是有次线上事故,是由于预告片取的过多。每次都走缓存mget。mget本身key过多,性能下降快,导致其他服务处于等待超时。不走缓存,可以避免这样的突发情况造成的缓存瓶颈。

  德伟回复:最初想计算完后放到缓存中。走索引每次穿透db按现在量也问题不大,需要压测出个结果对比下. 生产服务器都有权限 可以看下, 现在qps很低

  长期改造:

  目前媒资接口需求和数据增长量趋于稳定,需要进行一次彻底的改造和重构。需不需要将dubbo层的面向服务层去掉?我的偶像马丁福特说:分布式的最基本原则是尽量不要分布式。well,这只是我的意见。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏数据和云

pg数据库有雷锋?用户已有权限为何无故消失?

作者介绍:何剑敏 Oracle ACS华南区售后团队,首席技术工程师。多年从事一线的数据库运维工作,有丰富项目经验、维护经验和调优经验,专注于数据库的整体运维。...

3505
来自专栏Python研发

linux入门总结

linux的核心概念知识:      linux软件是开源免费的,而linux是由Unix演变而成,Unix是由MINIX演变而成。 2000年以后,linu...

912
来自专栏Golang语言社区

【游戏编程板块】关于游戏开发的客户端/服务器端的版本控制

【客户端】 1.关于游戏引擎 在15年3月开始准备做h5游戏的时候,首先遇到的问题就是引擎选型的问题。 当时市面上的2d引擎主要有3个:白鹭egret,laya...

40413
来自专栏数据和云

PayPal Oracle数据库的隐含参数

在这篇小文中,我和大家分享一下PayPal数据库的隐含参数,注意,本文参考资料来自网络OOW公开文档,只是我也是首次注意到这些设置。 在图中架构,可以看到Pay...

2888
来自专栏Java架构师历程

Mysql海量数据存储和解决方案之—分布式DB方案

1)  分布式DB水平切分中用到的主要关键技术:分库,分表,M-S,集群,负载均衡

1342
来自专栏wblearn

Web网站通知系统设计

写在前面: 通知系统是网站信息传播机制的重要的一部分,足够写一大章来说明。本文只梳理设计原则,后续相关内容会持续更新。 这里的通知包括但不限于公告、提醒或消息(...

2242
来自专栏酷玩时刻

典型数据库架构设计与实践 | 架构师之路

本文,将介绍数据库架构设计中的一些基本概念,常见问题以及对应解决方案,为了便于读者理解,将以“用户中心”数据库为例,讲解数据库架构设计的常见玩法。

872
来自专栏Java技术栈

收藏起来,史上最全的 MySQL 高性能优化实战总结!

MySQL 对于很多 Linux 从业者而言,是一个非常棘手的问题,多数情况都是因为对数据库出现问题的情况和处理思路不清晰。在进行 MySQL 的优化之前必须要...

1193
来自专栏CSDN技术头条

史上更全的 MySQL 高性能优化实战总结!

MySQL 对于很多 Linux 从业者而言,是一个非常棘手的问题,多数情况都是因为对数据库出现问题的情况和处理思路不清晰。在进行 MySQL 的优化之前必须要...

1022
来自专栏java架构技术

推荐:非常全面的 MySQL 高性能优化实战总结~

MySQL对于很多Linux从业者而言,是一个非常棘手的问题,多数情况都是因为对数据库出现问题的情况和处理思路不清晰。在进行MySQL的优化之前必须要了解的就是...

1132

扫码关注云+社区