这两个月来,很多小伙伴留言问我618、双11各大电商后端的技术,最多的是关于系统压力暴增情况下如何进行MySQL数据库优化的。
每年一次的双十一大促临近,因此上周末公司组织了一次技术交流闭门会,邀请了电商、物流、文娱内容、生活服务等知名一线互联网公司的技术大牛,一起探讨了一些大促稳定性保障相关的技术话题。
12月14日,腾讯云与知数堂联合举办的3306π年会·深圳站在腾讯滨海大厦举行,腾讯云TDSQL首席架构师张文和腾讯云高级产品经理刘迪受邀分享,和与会者共同探讨数据库的行业应用和AI时代下未来数据库运维的发展趋势。 关注“腾讯云数据库”官方微信,回复“1214”即可下载本文分享的PPT。 张文在主会场分享了TDSQL在银行传统核心系统的应用实践。银行的核心系统相当于银行的大脑,所有和钱有关的交易都需要经过核心系统,完成资金的清算核算。换句话说核心系统需要和其他所有关于钱的系统打交道,因而它的业务逻辑也最
苏宁金融交易量3年内从1000亿增长到万亿+,服务用户3亿+,服务场景从服务于苏宁易购内部生态,扩展到服务全渠道,全场景,多业态的线上线下智慧零售的开放生态圈,一方面要满足公司业务发展要求,快速研发新产品,另一方面要满足818大促,双11等大促设计要求;
在数字化浪潮的推动下,数据库技术已成为现代科技的基石。它不仅是存储数据的仓库,更是推动技术进步的引擎。我的故事,是那些在数据的海洋中探索和成长的程序员们的缩影。
本文转载自云加社区 导语 | 虽然数据库上云解决了传统数据库很多问题,但如何让云数据库发挥最优的效能,依然充满极大挑战。为解决这一难题,高速发展的云数据库正在走向“自治”。本文是对腾讯云数据库高级产品经理刘迪在云+社区沙龙online的分享整理,为大家带来腾讯云在数据库自治服务领域的探索和实践,希望与大家一同交流。 点击视频查看完整直播回放 一、数据库自治的演进 上图所示是一张关于数据库自治的宏观视图。 业内普遍定义的石器时代大概是在十几、二十年前,刚刚进入数据库发展的快速轨道,当时的技术方案和对于
今年是我的第6个618,因为入职的时间比较"合适",使得我经历了每年两次完整的大促备战。那年还在北辰,618的当晚,我记忆的很清晰,接近凌晨1点左右的时候,我们聚集在楼道里面,大家举杯相庆,来祝贺刚刚平稳度过的大促。从此这样的场景在每年的这个时候都会经历一次,激动一次。每一次大促备战都是一场全兵演练,我们在这个战斗过程中,团队合作、技术实战、用户意识上都有一个立体的提升。站在每年的这一刻往前看,一路走过来的却是好些个不平凡的白天和夜晚。正如我们国家的乒乓球队在每次国际比赛中都有一个完美的结局,但过程从来不缺乏紧张、风险和刺激。
业内普遍定义的石器时代大概是在十几、二十年前,刚刚进入数据库发展的快速轨道,当时的技术方案和对于数据库的认知都处于一个初级的阶段。
这半个月,很多小伙伴留言问我618各大电商后端的技术,最多的是关于系统压力暴增情况下如何进行MySQL数据库优化的。 今天就结合我自己工作中的真实案例和大家分享一下吧。 前几年我待过一家创业公司,做的是商城业务。那两年公司业务迅速增长,用户从零积累到千万级别,每天访问量几亿次,高峰QPS高达上万次每秒。 赶上618、双十一大促期间,系统的写压力成倍增长,读业务的请求量更是在写业务的请求量的50倍。后面我们就面临了极具技术挑战性的数据库升级过程。 最初的技术选型,采用的是Java语言进行开发,数据库使用的是M
性能是大型网站的一个要素,影响性能的因素非常多。随着业务量的逐步增长,对系统的挑战越来越大,系统的容量瓶颈也越来越明显。
实时消息流处理,是当前大数据计算领域面临的常见场景需求之一,而消息队列对实时消息流的处理,常常会遇到的问题之一,就是消息积压。今天的大数据开发学习分享,我们就来聊聊,消息队列如何处理消息积压?
京东快速发展的同时,应用规模、数据中心以及机器的规模都同步倍增,在面对如此大规模的机器,应运而生了京东数据中心操作系统(JDOS,JingdongDatacenter OS)。历经多年时间的技术沉淀与发展,JDOS不仅仅作为京东数据中心操作管理资源,更作为京东统一的PaaS平台致力于支撑业务系统快速交付、稳定运行,基础中间件托管提升基础平台敏捷交付。尤其是线上运行的阿基米德系列系统,将应用于实现京东商城数据中心资源智能调度,支撑在线业务系统与大数据计算混合部署融合计算,并节约采购成本。而每一次的11.11都是对JDOS系统的一次检验和挑战,经过无数次的紧张演练,问题排查,系统升级优化,服务应用快速交付;从容支撑大促高峰流量,保障了业务的高速发展。
2021 Gdevops全球敏捷运维峰会 - 广州站,将在5月28日盛大举办。Gdevops经过创办6年成功举行近20场大会的经验积淀,本次峰会结合行业趋势与技术热点,精选出最能破解当下运维、数据库、金融科技领域核心痛难点的干货议题,不容错过的精彩看点本文带大家先睹为快!
常听说各大电商需要通宵备战双十一。购物大趴过后,人们摩挲着光秃秃的手腕,不禁在想,这些口口声声说在为我们保驾护航的家伙,那天究竟干了什么?为此,我们提前走访了京东双11作战指挥部,先为大家带来这支神秘之师战前演练的实况! 心里要有点数 什么是全链路压测? 全链路压测可以理解为网络链路 + 系统链路。网络链路是用户到机房的各个网络路由延迟环境;系统链路是各个系统之间的内部调用关系和强依赖性。 为什么要做全链路压测? 电商大促期间存在不同于日常流量场景的高流量冲击,为了应对大促流量场景,保证大促期间用户可以
最近几年全链路压测无疑成为了一个热门话题,在各个技术峰会上都可以看到它的身影。一些大型的互联网公司,比如阿里巴巴、京东、滴滴等,都已将全链路压测应用到了生产环境。
(Response time)或者叫执行时间(Execution time)。想要提升响应时间这个性能指标,你可以理解为让计算机“跑得更快”。
2021 Gdevops全球敏捷运维峰会 - 广州站,将在5月28日盛大举办。Gdevops经过创办6年成功举行近20场大会的经验积淀,于本次峰会打磨精选出最贴合当下运维痛难点及运维转型趋势热点的议题,本文带大家先睹为快。 腾讯大讲堂·限时专属优惠 报名 福利一: 扫描下方二维码,关注腾讯大讲堂,回复“Gdevops全球敏捷运维峰会·广州站”,就有机会抽取免费门票 福利二: 限时特价优惠门票有限,码上报名 运维主题看点 讲师介绍:现任职新炬网络副总裁,多年跨国大型IT企业的团队管理、销售和市
基于微信生态下的获客转化成为众多电商、新零售等企业的主战场之一,基于小程序 / 公众号 H5 / 视频号等微信场景下的节日大促、直播带货、整点「秒杀」等营销活动,再通过企业微信搭建私域用户流量池,早已成为众多电商、新零售企业获客转化的新标配。如此高并发的活动场景对开发效率、服务性能、成本投入等提出了更大的挑战。 01. 「微信云开发:微信+腾讯云」 新形态下云端一站式解决方案 结合腾讯云低代码、云函数、云开发、云托管等多种产品能力,搭载微信安全网关、风控、私有链路等安全服务,从低代码开发到测试上线,杜绝
每年双十一,对买家来说是一场买买买的剁手之旅,但对于电商公司的技术人员来说,却是一次严峻的技术期末考。如何保证系统在预估的流量洪峰来临时,既能保证用户的买买买不受影响,
秒杀大家都不陌生。自2011年首次出现以来,无论是双十一购物还是 12306 抢票,秒杀场景已随处可见。简单来说,秒杀就是在同一时刻大量请求争抢购买同一商品并完成交易的过程。
当前,随着电商节日的增多(6.18、双十一、双十二)、平台拉新趋于频繁,大促活动也越来越普遍。作为一个电商平台,每年都会有一次,甚至几次的流量“大考”。数据库作为系统的重要节点,其稳定性和性能格外重要,数据库的全力保障是一个大的挑战。电商大促,这场没有硝烟的战争很多人已有体会,在此不再赘述。现在,我们直接切入主题--数据库如何 积极应对,全力保障 大促活动。这个题目分解为三个部分进行讲解: 第一部分,准备工作;第二部分,大促进行时;第三部分,大促后复盘。
这两个月来,很多小伙伴留言问我618、双11各大电商后端的技术,最多的是关于系统压力暴增情况下如何进行MySQL数据库优化的。 今天就结合我自己工作中的真实案例和大家分享一下吧。 前几年我待过一家创业公司,做的是商城业务。那两年公司业务迅速增长,用户从零积累到千万级别,每天访问量几亿次,高峰QPS高达上万次每秒。 赶上618、双十一大促期间,系统的写压力成倍增长,读业务的请求量更是在写业务的请求量的50倍。后面我们就面临了极具技术挑战性的数据库升级过程。 最初的技术选型,采用的是Java语言进行开发,数据库
Hi,大家好。在此之前投送过Python知识梳理:8张思维导图,梳理Python知识体系。以及Java知识梳理:28张思维导图,梳理Java知识体系。
在 2021 腾讯数字生态大会上,一个「花小钱办大事」的客户成功案例让客户和开发者们印象深刻的。这正是基于云函数和云开发的小程序应用实践。
秒杀大家都不陌生。自2011年首次出现以来,无论是双十一购物还是 12306 抢票,秒杀场景已随处可见。简单来说,秒杀就是在同一时刻大量请求争抢购买同一商品并完成交易的过程。从架构视角来看,秒杀系统本质是一个高性能、高一致、高可用的三高系统。而打造并维护一个超大流量的秒杀系统需要进行哪些关注,就是本文讨论的话题。
全链路压测系列到这里,已经是第十二篇文章了,整个系列大概有14篇的样子,预计这个月会更新完毕。前面的文章,我用了很多的篇幅介绍了在事前调研和准备阶段要做的事情,为什么要花这么多篇幅介绍前期的准备工作呢?因为全链路压测严格来讲,并不是一个单纯的测试手段,而是一整套团队协作和稳定性保障的技术体系。
原ZLJ卖场的压测流程,是依托于阿里云PTS工具,团队自身缺乏性能测试能力自建,缺少性能分析和数据沉淀,测试场景单一,只有单接口和多接口压测,缺少场景和链路压测,不能相对合理的评估系统性能承载能力,机器扩容只凭借经验进行增加调整,缺乏评估依据。
我们的负载服务器使用的是A10,商业的负载均衡硬件,相比Nginx,虽然花不少钱,但在使用配置等方面简单,便于维护,Web服务器自然是Tomcat。这里我们优化了两件事情。
在 2021 腾讯数字生态大会上,一个「花小钱办大事」的客户成功案例让客户和开发者们印象深刻的。这正是基于云函数和云开发的小程序应用实践。 今年,某快消品领导品牌冠名了央视大型节日晚会,在晚会当晚,该客户收获的小程序新增注册用户数达到了预期业务目标,当天的访问次数达到千万级 ,瞬间并发最高每分钟数百万请求,而整个云函数计算资源的使用费用仅几万元。整体耗时平稳,平均 API 耗时在 20 毫秒以下,保障了此次活动的顺利进行。 ( 客户小程序访问量 ) 在评估了不同的小程序技术选型之后,客户从开发效率、弹
用户画像分析需要使用众多标签来描述用户属性,通常有两类标签。一类用户标签的值可能有多个,比如用户学历是中学、大学、研究生、博士等,年龄段是children、juvenile、youth、middle age、old age,这类标签称为枚举标签。另一类用户标签的值只有两个,比如用户是否注册、是否活跃、是否白领、是否某种促销的目标用户等等,这类标签称为二值标签。
Tech 导读 本文重点介绍了MySQL数据库性能优化的常见手段、底层架构实现原理、互联网医院建设过程中的几个典型案例;读者可以通过本文了解到日常开发中的注意事项、数据库性能优化的解决思路、如何规避隐藏规则带来的风险等几个方面的知识。
618大促来临,在零点的时候,你打开购物车、点点点、清空,整个过程一气呵成。但背后,成千上万的数据在马不停蹄、加速流转,以保障消费体验流畅有序。 腾讯云和数据库服务是背后默默守护的“无名英雄”。电商订单、支付、物流等核心链路,都是以数据库为基础。一旦数据库成为瓶颈、或任何细微的疏忽,整个618大促将会变成一个大型“灾难现场”。 一场电商大促,涉及到的数据量有多大? 以一个消费者的购买过程为例,一次下单行为,对于后端数据库就有多次读写调用;如果是秒杀场景就会产生“热点更新”的问题,更是对数据库内核优化能力
最近星球里有很多同学在讨论职场发展和个人竞争力相关的话题,以前一直觉得大家在职场大多数时候受困于技术成长,但今年逐渐认识到构建自己的核心竞争力才是职场发展的核心。这篇文章,我想聊聊我对于软件工程师的核心竞争力的看法。
每年“双11”都是一场电商盛会,消费者狂欢日。今年双11的意义尤为重大,它已经发展成为全世界电商和消费者都参与进来的盛宴。而对技术人员来说,双十一无疑已经成为一场大考,考量的角度是整体架构、基础中间件、运维工具、人员等。
在今年的敏捷团队建设中,我通过Suite执行器实现了一键自动化单元测试。Juint除了Suite执行器还有哪些执行器呢?由此我的Runner探索之旅开始了!
在使用消息队列的过程中,你会遇到很多问题,比如选择哪款消息队列更适合你的业务系统?如何保证系统的高可靠、高可用和高性能?如何保证消息不重复、不丢失?如何做到水平扩展?诸如此类的问题,每一个问题想要解决好,都不太容易。
“忙是肯定的,每天都挺忙的。”不过更多人所好奇的,是作为SaaS服务公司的有赞,在双十一这一天都在“忙”些什么?
在这个互联网开发时代,作为一名软件工程师,我们经常会听到大型网站架构这个字眼,那到底什么是大型网站呢,这样的网站又是一种什么样的架构设计呢?
每年电商双11大促对背后技术人都是一次大考,阿里数据库团队表示。经过9年的发展,双11单日交易额从2009年的0.5亿一路攀升到2017年的1682亿,秒级交易创建峰值达到了32.5万笔/秒。支撑这一切业务指标的背后,是底层技术体系的一次次迭代升级。
每年“双 11”都是一场电商盛会,消费者狂欢日。今年双 11 的意义尤为重大,它已经发展成为全世界电商和消费者都参与进来的盛宴。而对技术人员来说,双十一无疑已经成为一场大考,考量的角度是整体架构、基础中间件、运维工具、人员等。
redo log:存储已提交的事务,顺序写入,不需要读取操作 undo log:存储未提交事务,帮助回滚,随机读写操作
周末和某东的一个同事小聚了一下,开始小酌几杯,然后从诗词歌赋谈到人生哲学再到如何实现财富自由,时间到了进入了微醺的状态,也不由自主的开始面对现实。话锋一转聊起了当下又爱又恨工作,之后疯狂的吐槽自己做的不开心,不想做B端前端了,太TM无聊了,每天的工作内容基本都差不多,觉得自己就是个做需求的工具人,特别羡慕那些C端的前端,觉得C端更好玩更刺激,距用户更近。
性能优化介绍 在企业应用开发领域,企业架构与性能将会是一个恒久的话题,如何提高性能、性能优化也将是一个长期和不断改进的过程,有人在硬件投入上下功夫、有人在数据库系统、数据库设计上下功能、有人在系统架构中下功夫、有人在程序下功能,总的来说,性能优化系是一个多方面的综合技术。 性能优化的理论依据 在计算机领域,缓存技术应该是一个非常久远的技术,CPU设计中高速缓存技术和操作系统内存管理中的分页、分段技术应该是我们每一位开发人员都熟悉的技术,在计算机体系结构与操作系统中,这两个关键点的好坏
应用系统上线运行后,随着系统数据量的不断增长、访问量的不断上升,系统的响应速度通常会越来越慢,尤其日常峰值情况下常不能满足业务需要,甚至出现应用服务中断的现象,给企业造成巨大的品牌损失和经济损失。大量数据表明,每0.1秒的核心体验响应时间延长会导致1%的营收下降。企业应用系统上云,如何在云端利用云的优势进行性能优化,是一个值得深入分析的重点问题。
为此,悟空哥选取了11本与构建经得住考验的架构系统相关的图书,希望可以帮助大家做好架构系统,避免遇到服务崩溃的情况!
性能问题是数据库中最重要也是最迫切要解决的问题之一,随着业务的发展和数据的不断加增,用户对于系统的响应速度的要求越来越高。而归根结底就是要提高数据库系统的性能。对于大部分的DBA来说,性能优化并不是一件容易的事情,造成性能问题的原因多种多样,在现实中,优化过程也会受到重重阻碍,随着云时代的到来以及自动化智能化运维的发展,那么云时代的DBA该如何优化数据库的性能呢? 在今年的数据技术嘉年华上,我们邀请了来自国内外各大企业的性能优化专家,从不同的角度分析云时代数据库性能优化的技术与技巧。 重点嘉宾与主题抢先一
经过潜心打磨,结合行业热点 2019年度Gdevops全球敏捷运维峰会 将于5月10日以北京为起点强势启动 展开新一年精彩纷呈的技术巡演! 关于Gdevops全球敏捷运维峰会 国内同时覆盖一线与二线城市的高端技术峰会,会议主题覆盖敏捷运维、AIOps、数据库、云与架构等重点方向。 2016年迄今已成功举办12场,多次巡回北京、上海、广州、杭州、成都等城市,累计参与人次达20000+。 汇聚dbaplus社群数百专家资源,是携手政府、企业共同打造的敏捷运维领域标杆盛会,覆盖从DBA、运维工程师到CXO等所有
领取专属 10元无门槛券
手把手带您无忧上云