首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

十万亿条消息背后的故事

2007 年,淘宝技术架构进行了调整,将交易系统从单体应用变成分布式,也是在这个过程中产生了阿里巴巴第一代消息中间件 Notify。...在“ 11”流量压力下,每年都有出现问题的风险,消息会延迟半天甚至一天以上,这就造成商家卖出去的商品,看不到买家已经掉了。...当时“ 11”每年的数据量都要翻番,如果当年“ 11”问题解决不了,那么可预见下一年的“ 11”还会遇到同样的问题。...Apache RocketMQ 联合创始人,消息队列团队负责人林清山回忆道:“还好赶在流量高峰前修复好了,新的技术融合架构平安地度过了第一个 11。... 11 之后将这些问题进一步完善修复好,然后再进行更全面的验证。到第二年融合架构就百分百平稳上线了。” 光“ 11”还不够的,因为“ 11”只能证明性能和稳定性都很好。

6.2K10

余额宝技术架构及演进

中间层就是采用小型机,其中 KCXP 和 KCBP 是金证公司的消息中间件和业务中间件。往上前端是前置解析是用的 WebLogic,负载均衡用的硬件负载均衡。 ?...另外当年要参加支付宝这边的 11 活动,以当时的系统处理能力来讲,肯定是做不到的。 二期云端架构 基于这些原因,需要对一期的系统做优化,怎么优化?...目前来讲应对春节、11、国庆长假等场景,系统都能稳定应对这些。 ?...比如对于在线交易,可以采用经过阿里支付宝验证过的 OB,专门用于解决金融分布式关系数据库的解决方案; 对于批量结算,可以继续沿用多年来在余额宝已经用的很娴熟的 RDS 集群。...异步调用 异步调用主要靠消息中间件金融系统对消息中间件的可靠性要求非常高,这块我们还是沿用传统思路,并不想采用开源解决方案去填那些坑,更多考虑采用成熟金融消息中间件来做这件事情。 ?

1.3K50
您找到你想要的搜索结果了吗?
是的
没有找到

揭秘:2018阿里11秒杀背后的技术

二、阿里11背后的技术 ? 1. 云计算 利用云计算弹性能力,支撑交易峰值每秒32.5万笔、支付峰值每秒25.6万笔的混合云弹性架构。 2. 分布消息引擎 在11当天实现万亿消息流转。 3....物流技术 菜鸟通过包裹预测、供应链入库、订单下沉、订单路由调度、电子面单及智能分单,以及末端小件员,涉及十亿包裹的11之战。...总之,11将涉及:基础设施、存储、中间件、云计算、业务架构、大数据、认知计算与人工智能、交互技术等技术领域。...充分利用消息中间件削峰 这里有相关的阿里消息中间件(Notify和MetaQ),以及开源的(ActiveMQ、Kafka等)。...现在对数据库的拆分,都是利用数据库层中间件(淘宝 tddl),来进行无缝对数据库的侵入设计。 除此以外还会涉及到分布式小文件存储以及搜索引擎,以及服务器集群监控等技术。

4.6K30

【金猿信创展】恒生电子——全栈式信创解决方案,助力金融信创行稳致远

核心技术及产品突破 1、分布式微服务中间件Light-JRES Light-JRES是面向金融领域的企业应用快速开发平台和多系统融合平台,既减轻对基础设施的依赖,又从业务上具备可复用、可扩展、高安全的特性...JRES中间件是实现对通用技术组件的服务化,譬如:分布式缓存、消息队列、分布式事务等等,通过应用共享以及多租户隔离实现技术组件最大程度复用,降低系统的资源消耗让技术组件和业务公共模块下沉,从而做到支持业务的快速创新和迭代...2、分布式低延时中间件Light-LDP Light-LDP是具有集低延时、分布式解耦、灵活开放等特点的开发平台,支持金融机构微秒业务应用,主要面向券商自营、券商资管以及券商机构业务的策略交易、算法交易...3、金融分布式数据库LightDB LightDB是一款支持在线事务处理与在线分析处理的融合型分布式数据库,具备SQL兼容性高、容量弹性伸缩、金融高可用、现代硬件融合、纯内存计算等核心特性,适用于对可用性...LightDB具有“更快、更稳、更懂金融”的企业特性:采用单机分布式一体化架构,同时支持集中式和分布式部署,在长时间高负载压测下抖动很低;性能方面,在同机房高可用信创软硬件下、单节点进行证券典型订单TPS

92430

独家丨数字生态大会专有云干货分享

2021年度腾讯数字生态大会已落下帷幕,专有云产品中心研发总监、专家工程师秦国安,在分布式云会场给大家分享了《腾讯专有云 客户专属的分布式云》,让我们回顾一下分享干货吧!...主要把腾讯的计算存储网络和核心的中间件、数据库以独立产品形式交付到客户现场。...4、多行业 除了金融和政务以外,又发现了各行各业对专有云的需求。 如交通行业有边缘计算的需求,中心在一个栈里,边缘节点分布在各个地铁站中,平时靠中心做计算,边缘节点上报数据,中心下达一些指令等。...目前我们在政务、金融、企业、交通、泛互联网行业,都做了非常多的标杆成功案例,帮助这些客户实现了数字化转型,并且支持他们的商业成功。 04 新的挑战思考 未来往哪里走?...同时中国建设银行运营数据中心云产品团队负责人王荔女士也在大会分享了建行云建设经验,从2018年专有云和建行牵手至今,已经建成了11朵云!

5.4K20

【演讲实录】下一代企业应用架构管理体系

本次分享重在讲解企业系统上云后,针对应用的管控。 作者简介: 王璞,数人云CEO,为美国George Mason大学计算机博士,擅长分布式计算、大规模机器学习、海量数据处理。...企业客户的IT状况是什么样的呢? 简单来讲,可以概括为:态并存。 ? 在业务层面,目前企业中既有传统业务,也有互联网的新型业务。...100多次;还有来自证券企业的压力,银行网络支付业务在11的时候,其IT系统面临发压力都是非常大的,甚至达到指数倍。...1、轻量化 这里主要是针对传统的JAVA 中间件应用。应用容器化、架构微服务化,使得企业应用变得轻量化。...在服务网格下的处理方式是这样的: 1、由于客户端不知道服务端在哪里,因此用简单的方式将请求发送给本地的服务网格实例(的代理)。

2K50

IM系统的MQ消息中间件选型:Kafka还是RabbitMQ?

RabbitMQ 是采用 Erlang 语言实现的 AMQP 协议的消息中间件,最初起源于金融系统,用于在分布式系统中存储转发消息。...RocketMQ 是阿里开源的消息中间件,目前已经捐献个 Apache 基金会,它是由 Java 语言开发的,具备高吞吐量、高可用性、适合大规模分布式系统应用等特点,经历过 11 的洗礼,实力不容小觑...对于消息追踪最通俗的理解就是要知道消息从哪来,存在哪里以及发往哪里去。基于此功能下,我们可以对发送或者消费完的消息进行链路追踪服务,进而可以进行问题的快速定位与排查。...8、具体技术选型指标3:可靠性 + 可用性 消息丢失是使用消息中间件时所不得不面对的一个同点,其背后消息可靠性也是衡量消息中间件好坏的一个关键因素。尤其是在金融支付领域,消息可靠性尤为重要。...11消息中间件选型误区总结 在进行消息中间件选型之前可以先问自己一个问题:是否真的需要一个消息中间件?在搞清楚这个问题之后,还可以继续问自己一个问题:是否需要自己维护一套消息中间件

92520

消息中间件选型

十万 时效性 ms以内 us(微秒) ms ms 可用性 非常高(分布式架构) 高(主从架构) 非常高(分布式架构) 高(主从架构) 功能特性 只支持主要的 MQ功能,像一些消息查询...号称大数据的杀手锏,谈到大数据领域内的消息传输,则绕不开Kafka,这款为大数据而生的消息中间件,以其百万TPS(单机写入TPS约在百万条/秒**)**的吞吐量名声大噪,迅速成为大数据领域的宠儿,在数据采集...RocketMQ RocketMQ是阿里开源的消息中间件,它是纯 Java开发,具有高吞吐量、高可用性、适合大规模分布式系统应用的特点。...消息可靠性非常高,经过参数优化配置,消息可以做到0丢失。MQ功能较为完善,还是分布式的,扩展性好。支持10亿别的消息堆积,不会因为堆积导致性能下降。...RoketMQ在稳定性上可能更值得信赖,这些业务场景在阿里11已经经历了多次考验,如果你的业务有上述并发场景,建议可以选择RocketMQ。

1.7K20

数字化平台全面护航金融信创落地 | 信创讲坛第一期

普元应用服务器PAS、消息中间件MQ、大文件传输平台BFT、企业服务总线ESB、业务流程平台BPS、数据集成平台DI、应用开发平台EOS、微服务开发平台EOS MS、研发运维一体化平台DevOps、低代码开发平台...例如普元企业服务总线支撑单日亿海量服务调用,TPS(每秒交易数)能够达到8000+的峰值,满足金融客户对高性能和高并发的要求。...这两种模式,既保证了对金融信创迁移要求的满足,同时又实现了对应用业务发展需要的支撑,达成“一箭雕”的效果。...普元帮助某农信社实现的分布式架构的移动办公系统的信创落地,良好说明了针对金融领域特色需求推出的信创迁移模式的“一箭雕”成果。...整套方案底层操作系统使用了银河麒麟和统信UOS的操作系统,数据库采用的是华为高斯,中间件运用到了普元的应用服务器、微服务开发平台、流程平台、企业服务总线,功能、性能、安全性指标均符合全行应用需求及监管机构要求

91410

喜报!腾讯云 TSF 和 TDMQ 产品获评“2021-2022年度中国优秀创新软件”!

基于深厚的自主技术研发实力和创新的产品功能,腾讯云微服务平台TSF 和消息队列 TDMQ 产品获得与会专家的一致认可,入选“2021-2022年度中国优秀创新软件产品”,体现了腾讯云中间件产品在基础软件和平台支撑软件细分领域的自主创新能力...提供同城活、两地三中心高可用容灾能力,配套运营管控平台实现完善的运营监控能力。 TSF 已具有上万企业用户,广泛应用于金融、政府、工业、能源、泛互联网等业务领域。...TDMQ 产品介绍 腾讯分布消息队列软件(Tencent Distributed Message Queue,简称TDMQ)是一个云原生消息队列中间件系列,为分布式应用系统提供异步解耦和削峰填谷的能力...高可用容灾能力等企业诉求。...腾讯分布消息队列TDMQ 公有云企业用户数 2000+,在腾讯内部每日支撑了30亿+消息,私有云交付实施项目包括90+大中型企业,广泛应用于金融、政府、医疗、泛互等行业和领域。

1K30

蚂蚁金服11.11:支付宝和蚂蚁花呗的技术架构及实践

每年“11”都是一场电商盛会,消费者狂欢日。今年11的意义尤为重大,它已经发展成为全世界电商和消费者都参与进来的盛宴。...而对技术人员来说,双十一无疑已经成为一场大考,考量的角度是整体架构、基础中间件、运维工具、人员等。...分布式数据架构 支付宝在2015年十一当天的高峰期间处理支付峰值8.59万笔/秒,已经是国际第一大系统支付。...在之前的架构中,系统的秒处理能力无法有效衡量,通过简单的引流压测无法得到更加准确、可信的数据。立足于金融云,系统很快通过全链路压测得到了每秒处理4w笔支付的稳定能力。...为了保证蚂蚁花呗11期间的授信资金充足,在金融云体系下搭建了机构资产中心,对接支付清算平台,将表内的信贷资产打包形成一个一定期限的资产池,并以这个资产池为基础,发行可交易证券进行融资,即通过资产转让的方式获得充足资金

4.2K60

消息中间件选型分析 —— 从 Kafka 与 RabbitMQ 的对比来看全局

(简称消息中间件)是指利用高效可靠的消息传递机制进行与平台无关的数据交流,并基于数据通信来进行分布式系统的集成。...RabbitMQ是采用Erlang语言实现的AMQP协议的消息中间件,最初起源于金融系统,用于在分布式系统中存储转发消息。...RocketMQ是阿里开源的消息中间件,目前已经捐献个Apache基金会,它是由Java语言开发的,具备高吞吐量、高可用性、适合大规模分布式系统应用等特点,经历过11的洗礼,实力不容小觑。...对于消息中间件而言,消息的链路追踪(以下简称消息追踪)同样重要。对于消息追踪最通俗的理解就是要知道消息从哪来,存在哪里以及发往哪里去。...可靠性+可用性 消息丢失是使用消息中间件时所不得不面对的一个同点,其背后消息可靠性也是衡量消息中间件好坏的一个关键因素。尤其是在金融支付领域,消息可靠性尤为重要。

90620

Kafka、RocketMQ、RabbitMQ、ActiveMQ比较MQ消息队列的技术应用Kafka、RocketMQ、RabbitMQ比较消息队列选择建议

2.Kafka 号称大数据的杀手锏,谈到大数据领域内的消息传输,则绕不开Kafka,这款为大数据而生的消息中间件,以其百万TPS的吞吐量名声大噪,迅速成为大数据领域的宠儿,在数据采集、传输、存储的过程中发挥着举足轻重的作用...时效性:ms 可用性:非常高,kafka是分布式的,一个数据多个副本,少数机器宕机,不会丢失数据,不会导致不可用 消费者采用Pull方式获取消息, 消息有序, 通过控制能够保证所有消息被消费且仅被消费一次...是一个在AMQP(高级消息队列协议)基础上完成的,可复用的企业消息系统,是当前最主流的消息中间件之一。...RocketMQ优点: 单机吞吐量:十万 可用性:非常高,分布式架构 消息可靠性:经过参数优化配置,消息可以做到0丢失 功能支持:MQ功能较为完善,还是分布式的,扩展性好 支持10亿别的消息堆积...RoketMQ在稳定性上可能更值得信赖,这些业务场景在阿里11已经经历了多次考验,如果你的业务有上述并发场景,建议可以选择RocketMQ。

78130

十分钟入门RocketMQ

本文首先引出消息中间件通常需要解决哪些问题,在解决这些问题当中会遇到什么困难,Apache RocketMQ作为阿里开源的一款高性能、高吞吐量的分布消息中间件否可以解决,规范中如何定义这些问题。...消息中间件需要解决哪些问题? Publish/Subscribe 发布订阅是消息中间件的最基本功能,也是相对于传统RPC通信而言。在此不再详述。...通过同步写技术可以完全避免单点,同步写势必会影响性能,适合对消息可靠性要求极高的场合,例如与Money相关的应用。 RocketMQ从3.0版本开始支持同步写。...其中XA的TM实现佼佼者如Oracle Tuxedo,在金融、电信等领域被广泛应用。...上图是一个典型的消息中间件收发消息的模型,RocketMQ也是这样的设计,简单说来,RocketMQ具有以下特点: 是一个队列模型的消息中间件,具有高性能、高可靠、高实时、分布式特点。

1.9K70

【TEGer 在全球架构师峰会】 : 腾讯企业消息中间件 CMQ 技术解密

目前专注于于分布式服务开发与治理平台TSF的建设。 大规模分布式系统的快速发展使得消息中间件已经成为系统间通信的核心手段。...本文将对腾讯TEG基础架构部中间件团队研发的企业消息中间件CMQ原理进行分享介绍。...中间件团队消息队列发展历程: [3631gssrfr.png] CMQ/CKafka/MQ for IoT本质上都属于分布消息中间件分布消息系统的最大特点是可扩展性。...此时CMQ通过Set来保障可用性,大致原理如下: image.png 业务在申请使用消息队列时CMQ会在两个Set上分别建立队列元数据,正常情况下只有一个Set 对外服务,另外一个Set standby...总结 本文主要腾讯基础架构部消息中间件发展历程进行简要介绍,重点对金融消息中间件CMQ核心原理进行分享,除此之外,中间件团队针对大数据领域常用的kafka进行优化改进推出了CKafka,在相同条件下小于

2.1K91

将天猫11的技术用到化工电商平台,马云的这步棋有何考量?

,卖到哪里去了,都不清楚。...拥有11金字招牌的阿里云受青睐 正是瞄准传统企业IT架构的痛点,阿里云推出了企业互联网架构(Aliware),现已成为阿里云PaaS的核心产品。...尤其值得一提的是,阿里巴巴的IT架构经受了11多年来的洗礼,“扛得住11”成为其金字招牌。...2016年,天猫11成交额已经达到1207亿,2017年还将继续增加,阿里云与天猫11已是彼此成就的正循环关系:阿里云支撑了天猫应对每年都在增值的11成交规模和复杂业务场景,同时又通过这种极端场景来对自身能力进行压力测试...,并倒逼自己进一步优化升级,来应对下一年的11

6.6K70

【技术种草】工作了17年,2021年11是我见过有史以来“撸腾讯云羊毛”最狠的一次!

如果你想了,那么请继续往下看,经过我对比的三大云服务厂商的11优惠政策,带你拿下最爽的服务器!!!!! 为什么今年要撸腾讯云的羊毛呢?...先来对比一下我们比较熟悉的阿里云、腾讯云、华为云三大云的11活动的优惠力度: 1、阿里云: [image-20211107223313296.png] 2、华为云: [image-20211107223854552...[image-20211108202030045.png] 我买了3年还不到200呢: 如果你购买了3年,那每年就相等于66元了,你看我买了3年,才198元,买一年,真不如3年划算。...[image-20211108202239682.png] 对了,腾讯云的这个2核4G的服务器,是我见过全网本次11优惠力度最大的一家了。 大力推荐哦!!!...小窍门:针对老用户,这个地方我有一个小招,还是从我朋友那里学来的,上一个11,他在腾讯云领了价值万元的卷,然后节省了1万多。厉害吧。

49.4K30

《浅入浅出》-RocketMQ

正文 RocketMQ简介 RocketMQ是一个纯Java、分布式、队列模型的开源消息中间件,前身是MetaQ,是阿里参考Kafka特点研发的一个队列模型的消息中间件,后开源给apache基金会成为了...2012年:阿里巴巴开源其自研的第三代分布消息中间件——RocketMQ。 经过几年的技术打磨,阿里称基于RocketMQ技术,目前双十一当天消息容量可达到万亿。...经历多次11洗礼的英雄 在备战2016年十一时,RocketMq团队重点做了两件事情,优化慢请求与统一存储引擎。...面试常见问题分析 他的优缺点是啥 RocketMQ优点: 单机吞吐量:十万 可用性:非常高,分布式架构 消息可靠性:经过参数优化配置,消息可以做到0丢失 功能支持:MQ功能较为完善,还是分布式的,扩展性好...,在大量交易涌入时,后端可能无法及时处理的情况 RoketMQ在稳定性上可能更值得信赖,这些业务场景在阿里11已经经历了多次考验,如果你的业务有上述并发场景,建议可以选择RocketMQ RocketMQ

77220

Kafka or RabbitMQ:消息中间件选型深入分析

RabbitMQ是采用Erlang语言实现的AMQP协议的消息中间件,最初起源于金融系统,用于在分布式系统中存储转发消息。...RocketMQ是阿里开源的消息中间件,目前已经捐献个Apache基金会,它是由Java语言开发的,具备高吞吐量、高可用性、适合大规模分布式系统应用等特点,经历过11的洗礼,实力不容小觑。...对于消息追踪最通俗的理解就是要知道消息从哪来,存在哪里以及发往哪里去。基于此功能下,我们可以对发送或者消费完的消息进行链路追踪服务,进而可以进行问题的快速定位与排查。...消息中间件可以作为用来实现分布式事务的一种手段,但其本身并不提供全局分布式事务的功能。...可靠性+可用性 消息丢失是使用消息中间件时所不得不面对的一个同点,其背后消息可靠性也是衡量消息中间件好坏的一个关键因素。尤其是在金融支付领域,消息可靠性尤为重要。

88320

消息中间件选型分析

一、前言 消息队列中间件(简称消息中间件)是指利用高效可靠的消息传递机制进行与平台无关的数据交流,并基于数据通信来进行分布式系统的集成。...RabbitMQ是采用Erlang语言实现的AMQP协议的消息中间件,最初起源于金融系统,用于在分布式系统中存储转发消息。...RocketMQ是阿里开源的消息中间件,目前已经捐献个Apache基金会,它是由Java语言开发的,具备高吞吐量、高可用性、适合大规模分布式系统应用等特点,经历过11的洗礼,实力不容小觑。...对于消息追踪最通俗的理解就是要知道消息从哪来,存在哪里以及发往哪里去。基于此功能下,我们可以对发送或者消费完的消息进行链路追踪服务,进而可以进行问题的快速定位与排查。...可靠性+可用性 消息丢失是使用消息中间件时所不得不面对的一个同点,其背后消息可靠性也是衡量消息中间件好坏的一个关键因素。尤其是在金融支付领域,消息可靠性尤为重要。

94510
领券