beMQ 是腾讯在 2013 年自研的分布式消息中间件系统，专注服务大数据场景下海量数据的高性能存储和传输，经过近 7 年上万亿的海量数据沉淀，目前日均接入量超过 25 万亿条。...变更及查询实现了完整的自动化闭环管理，减轻了系统维护的复杂度； 服务器侧消费负载均衡 Tube MQ 采用的是服务侧负载均衡的方案，而不是客户端侧操作，提升系统的管控能力同时简化客户端实现，更便于均衡算法升级； 系统行级锁操作...对于 Broker 消息读写中存在中间状态的并发操作采用行级锁，避免重复问题； Offset 管理调整 Offset 由各个 Broker 独自管理，ZK 只作数据持久化存储用（最初考虑完全去掉 ZK...依赖，考虑到后续的功能扩展就暂时保留）； 消息读取机制的改进 Tube MQ 采用的是消息随机读取模式, 同时为了降低消息时延又增加了内存缓存读写, 对于带 SSD 设备的机器, 增加消息滞后转 SSD...消费时延分级保证、消费限流控制，以及数据拉取频率控制等； 系统安全管控 根据业务不同的数据服务需要，以及系统运维安全的考虑，Tube MQ 系统增加了 TLS 传输层加密管道，生产和消费服务的认证、授权，以及针对分布式访问控制的访问令牌管理
TubeMQ是腾讯在2013年自研的分布式消息中间件系统，专注服务大数据场景下海量数据的高性能存储和传输，经过近7年上万亿的海量数据沉淀，目前日均接入量超过25万亿条。...系统行级锁操作 对于Broker消息读写中存在中间状态的并发操作采用行级锁，避免重复问题； 5. ...消息读取机制的改进 Tube MQ采用的是消息随机读取模式,同时为了降低消息时延又增加了内存缓存读写,对于带SSD设备的机器,增加消息滞后转SSD消费的处理，解决消费严重滞后时吞吐量下降以及SSD磁盘容量小...系统安全管控 根据业务不同的数据服务需要，以及系统运维安全的考虑，Tube MQ系统增加了TLS传输层加密管道，生产和消费服务的认证、授权，以及针对分布式访问控制的访问令牌管理，满足业务和系统运维在系统安全方面的需求...采用连接复用模式，减少连接资源消耗；通过逻辑分区构造，减少系统对文件句柄数的占用，通过服务器端过滤模式，减少网络带宽资源使用率；通过剥离对Zookeeper的使用，减少Zookeeper的强依赖及瓶颈限制； 11
中间层就是采用小型机，其中 KCXP 和 KCBP 是金证公司的消息中间件和业务中间件。往上前端是前置解析是用的 WebLogic，负载均衡用的硬件负载均衡。 ?...另外当年要参加支付宝这边的双 11 活动，以当时的系统处理能力来讲，肯定是做不到的。 二期云端架构 基于这些原因，需要对一期的系统做优化，怎么优化？...目前来讲应对春节、双11、国庆长假等场景，系统都能稳定应对这些。 ?...比如对于在线交易，可以采用经过阿里支付宝验证过的 OB，专门用于解决金融级的分布式关系数据库的解决方案； 对于批量结算，可以继续沿用多年来在余额宝已经用的很娴熟的 RDS 集群。...异步调用 异步调用主要靠消息中间件。金融系统对消息中间件的可靠性要求非常高，这块我们还是沿用传统思路，并不想采用开源解决方案去填那些坑，更多考虑采用成熟金融级消息中间件来做这件事情。 ?
二、阿里双11背后的技术 ? 1. 云计算 利用云计算弹性能力，支撑交易峰值每秒32.5万笔、支付峰值每秒25.6万笔的混合云弹性架构。 2. 分布式消息引擎 在双11当天实现万亿级消息流转。 3....物流技术 菜鸟通过包裹预测、供应链入库、订单下沉、订单路由调度、电子面单及智能分单，以及末端小件员，涉及十亿级包裹的双11之战。...总之，双11将涉及：基础设施、存储、中间件、云计算、业务架构、大数据、认知计算与人工智能、交互技术等技术领域。...充分利用消息中间件削峰 这里有相关的阿里消息中间件(Notify和MetaQ)，以及开源的(ActiveMQ、Kafka等)。...现在对数据库的拆分，都是利用数据库层中间件(淘宝 tddl)，来进行无缝对数据库的侵入设计。 除此以外还会涉及到分布式小文件存储以及搜索引擎，以及服务器集群监控等技术。
核心技术及产品突破 1、分布式微服务中间件Light-JRES Light-JRES是面向金融领域的企业级应用快速开发平台和多系统融合平台，既减轻对基础设施的依赖，又从业务上具备可复用、可扩展、高安全的特性...JRES中间件是实现对通用技术组件的服务化，譬如：分布式缓存、消息队列、分布式事务等等，通过应用共享以及多租户隔离实现技术组件最大程度复用，降低系统的资源消耗让技术组件和业务公共模块下沉，从而做到支持业务的快速创新和迭代...2、分布式低延时中间件Light-LDP Light-LDP是具有集低延时、分布式解耦、灵活开放等特点的开发平台，支持金融机构微秒级业务应用，主要面向券商自营、券商资管以及券商机构业务的策略交易、算法交易...3、金融级分布式数据库LightDB LightDB是一款支持在线事务处理与在线分析处理的融合型分布式数据库，具备SQL兼容性高、容量弹性伸缩、金融级高可用、现代硬件融合、纯内存计算等核心特性，适用于对可用性...LightDB具有“更快、更稳、更懂金融”的企业级特性：采用单机分布式一体化架构，同时支持集中式和分布式部署，在长时间高负载压测下抖动很低；性能方面，在同机房高可用信创软硬件下、单节点进行证券典型订单TPS
周期/节奏 2015年9月至11月，大数据实时流处理平台可行性分析，技术组件选型。 2015年11月，项目启动。...netty技术的NIO框架，不需要额外配置Weblogic或者WebSphere等中间件服务器，降低使用成本，支持更多客户端连接，单节点每秒5000万消息处理；1GB内存250万Actor，消息传递机制实现分布式微服务协同...异构系统集成 流处理平台通过建立自己的分布式实时消息总线与周边系统集成，该消息总线以Akka的消息处理框架为核心枢纽。...恒丰银行目前绝大多数应用采用同城双中心双活，应用在每个中心的部署单元也是集群多活形式，应用从传统物理机环境迁移到云环境后，节点数增多，与之对应的是日志采集客户端的增多。...在这方面，我们使用继续使用在数仓迁移时引入的企业级大数据平台，引入企业级的大数据平台免去了对大数据平台的运维压力。
万级 十万级 万级 时效性 ms级以内 us（微秒）级 ms级 ms级 可用性 非常高（分布式架构） 高（主从架构） 非常高（分布式架构） 高（主从架构） 功能特性 只支持主要的 MQ功能，像一些消息查询...号称大数据的杀手锏，谈到大数据领域内的消息传输，则绕不开Kafka，这款为大数据而生的消息中间件，以其百万级TPS（单机写入TPS约在百万条/秒**）**的吞吐量名声大噪，迅速成为大数据领域的宠儿，在数据采集...RocketMQ RocketMQ是阿里开源的消息中间件，它是纯 Java开发，具有高吞吐量、高可用性、适合大规模分布式系统应用的特点。...消息可靠性非常高，经过参数优化配置，消息可以做到0丢失。MQ功能较为完善，还是分布式的，扩展性好。支持10亿级别的消息堆积，不会因为堆积导致性能下降。...RoketMQ在稳定性上可能更值得信赖，这些业务场景在阿里双11已经经历了多次考验，如果你的业务有上述并发场景，建议可以选择RocketMQ。
普元应用服务器PAS、消息中间件MQ、大文件传输平台BFT、企业服务总线ESB、业务流程平台BPS、数据集成平台DI、应用开发平台EOS、微服务开发平台EOS MS、研发运维一体化平台DevOps、低代码开发平台...例如普元企业服务总线支撑单日亿级海量服务调用，TPS（每秒交易数）能够达到8000＋的峰值，满足金融客户对高性能和高并发的要求。...这两种模式，既保证了对金融信创迁移要求的满足，同时又实现了对应用业务发展需要的支撑，达成“一箭双雕”的效果。...普元帮助某农信社实现的分布式架构的移动办公系统的信创落地，良好说明了针对金融领域特色需求推出的信创迁移模式的“一箭双雕”成果。...整套方案底层操作系统使用了银河麒麟和统信UOS的双操作系统，数据库采用的是华为高斯，中间件运用到了普元的应用服务器、微服务开发平台、流程平台、企业服务总线，功能、性能、安全性指标均符合全行应用需求及监管机构要求
基于深厚的自主技术研发实力和创新的产品功能，腾讯云微服务平台TSF 和消息队列 TDMQ 产品获得与会专家的一致认可，入选“2021-2022年度中国优秀创新软件产品”，体现了腾讯云中间件产品在基础软件和平台支撑软件细分领域的自主创新能力...提供同城双活、两地三中心高可用容灾能力，配套运营管控平台实现完善的运营监控能力。 TSF 已具有上万企业用户，广泛应用于金融、政府、工业、能源、泛互联网等业务领域。...TDMQ 产品介绍 腾讯分布式消息队列软件（Tencent Distributed Message Queue，简称TDMQ）是一个云原生消息队列中间件系列，为分布式应用系统提供异步解耦和削峰填谷的能力...高可用容灾能力等企业级诉求。...腾讯分布式消息队列TDMQ 公有云企业级用户数 2000+，在腾讯内部每日支撑了30亿+消息，私有云交付实施项目包括90+大中型企业，广泛应用于金融、政府、医疗、泛互等行业和领域。
每年“双11”都是一场电商盛会，消费者狂欢日。今年双11的意义尤为重大，它已经发展成为全世界电商和消费者都参与进来的盛宴。...而对技术人员来说，双十一无疑已经成为一场大考，考量的角度是整体架构、基础中间件、运维工具、人员等。...分布式数据架构 支付宝在2015年双十一当天的高峰期间处理支付峰值8.59万笔/秒，已经是国际第一大系统支付。...在之前的架构中，系统的秒级处理能力无法有效衡量，通过简单的引流压测无法得到更加准确、可信的数据。立足于金融云，系统很快通过全链路压测得到了每秒处理4w笔支付的稳定能力。...为了保证蚂蚁花呗双11期间的授信资金充足，在金融云体系下搭建了机构资产中心，对接支付清算平台，将表内的信贷资产打包形成一个一定期限的资产池，并以这个资产池为基础，发行可交易证券进行融资，即通过资产转让的方式获得充足资金
2.Kafka 号称大数据的杀手锏，谈到大数据领域内的消息传输，则绕不开Kafka，这款为大数据而生的消息中间件，以其百万级TPS的吞吐量名声大噪，迅速成为大数据领域的宠儿，在数据采集、传输、存储的过程中发挥着举足轻重的作用...时效性：ms级 可用性：非常高，kafka是分布式的，一个数据多个副本，少数机器宕机，不会丢失数据，不会导致不可用 消费者采用Pull方式获取消息, 消息有序, 通过控制能够保证所有消息被消费且仅被消费一次...是一个在AMQP(高级消息队列协议)基础上完成的，可复用的企业消息系统，是当前最主流的消息中间件之一。...RocketMQ优点： 单机吞吐量：十万级 可用性：非常高，分布式架构 消息可靠性：经过参数优化配置，消息可以做到0丢失 功能支持：MQ功能较为完善，还是分布式的，扩展性好 支持10亿级别的消息堆积...RoketMQ在稳定性上可能更值得信赖，这些业务场景在阿里双11已经经历了多次考验，如果你的业务有上述并发场景，建议可以选择RocketMQ。
本文首先引出消息中间件通常需要解决哪些问题，在解决这些问题当中会遇到什么困难，Apache RocketMQ作为阿里开源的一款高性能、高吞吐量的分布式消息中间件否可以解决，规范中如何定义这些问题。...消息中间件需要解决哪些问题？ Publish/Subscribe 发布订阅是消息中间件的最基本功能，也是相对于传统RPC通信而言。在此不再详述。...通过同步双写技术可以完全避免单点，同步双写势必会影响性能，适合对消息可靠性要求极高的场合，例如与Money相关的应用。 RocketMQ从3.0版本开始支持同步双写。...其中XA的TM实现佼佼者如Oracle Tuxedo，在金融、电信等领域被广泛应用。...上图是一个典型的消息中间件收发消息的模型，RocketMQ也是这样的设计，简单说来，RocketMQ具有以下特点： 是一个队列模型的消息中间件，具有高性能、高可靠、高实时、分布式特点。
目前专注于于分布式服务开发与治理平台TSF的建设。 大规模分布式系统的快速发展使得消息中间件已经成为系统间通信的核心手段。...本文将对腾讯TEG基础架构部中间件团队研发的企业级消息中间件CMQ原理进行分享介绍。...中间件团队消息队列发展历程： [3631gssrfr.png] CMQ/CKafka/MQ for IoT本质上都属于分布式消息中间件，分布式消息系统的最大特点是可扩展性。...此时CMQ通过双Set来保障可用性，大致原理如下： image.png 业务在申请使用消息队列时CMQ会在两个Set上分别建立队列元数据，正常情况下只有一个Set 对外服务，另外一个Set standby...总结 本文主要腾讯基础架构部消息中间件发展历程进行简要介绍，重点对金融级消息中间件CMQ核心原理进行分享，除此之外，中间件团队针对大数据领域常用的kafka进行优化改进推出了CKafka，在相同条件下小于
RabbitMQ 是采用 Erlang 语言实现的 AMQP 协议的消息中间件，最初起源于金融系统，用于在分布式系统中存储转发消息。...RocketMQ 是阿里开源的消息中间件，目前已经捐献个 Apache 基金会，它是由 Java 语言开发的，具备高吞吐量、高可用性、适合大规模分布式系统应用等特点，经历过双 11 的洗礼，实力不容小觑...8、具体技术选型指标3：可靠性 + 可用性 消息丢失是使用消息中间件时所不得不面对的一个同点，其背后消息可靠性也是衡量消息中间件好坏的一个关键因素。尤其是在金融支付领域，消息可靠性尤为重要。...11、消息中间件选型误区总结 在进行消息中间件选型之前可以先问自己一个问题：是否真的需要一个消息中间件？在搞清楚这个问题之后，还可以继续问自己一个问题：是否需要自己维护一套消息中间件？...很多初创型公司为了节省成本会选择直接购买消息中间件有关的云服务，自己只需要关注收发消息即可，其余的都可以外包出去。
万QPS 读写12万QPS 同步算法 ISR（Replica） ISR（Replica） GM 同步双写 Raft 可用性 可用性很高，主从自动切换，腾讯云消息服务承诺可用性99.95% 可用性高，主从自动切换...，故障情况极少发生 可靠性低；Broker 只有异步刷盘机制并主备只有异步复制，可能会导致丢失部分消息 可靠性高；发送消息时，指定消息为持久化就会写入到磁盘 可靠性高；Broker 同步双写，主备都写成功才返回成功...Ckafka和CMQ都作为消息中间件都支持集群部署、高吞吐量、强一致等特性，那这两款产品最主要的区别是什么，分别更适合哪些场景使用？...1、CKafka CKafka（Cloud Kafka）是一个分布式的、高吞吐量、高可扩展性的消息系统，100% 兼容开源 Kafka API（0.9版本）。...for CMQ，简称 TDMQ CMQ 版）是一种分布式消息队列服务，它具有可靠的、基于消息的异步通信机制，能够将分布式部署的不同应用（或同一应用的不同组件）中的信息传递，存储在可靠有效的消息队列中，防止消息丢失
经过多年匠心打磨，腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模的应用，但是用户在使用的过程中，到底是什么感受呢？...为了倾听用户心声，腾讯云中间件携微服务观测平台 TSW、消息队列CKafka两款产品，登上第三期「鹅厂中间件吐槽大会」的舞台，与8位顶级专家现场过招，强强碰撞，直击产品问题，共同为产品指明全新方向，为产品与技术的完美融合续写全新未来...4-1.png 腾讯云中间件产品矩阵 腾讯云中间件产品基于腾讯在微服务、消息队列领域多年的技术积累，提供了功能强大、兼容并包、生态开放的云原生分布式微服务解决方案和消息队列服务。...全方位打造出7款优秀产品：微服务平台 TSF、消息队列 CKafka、金融级消息队列 TDMQ、微服务观测平台 TSW、弹性微服务TEM、微服务引擎 TSE、分布式事务 DTF，全面布局云原生领域产品矩阵...在盛行 Serverless 的时代，我们近期也推出云上首款 Serverless 化的金融级消息队列 TDMQ（Tencent Distributed Message Queue，简称 TDMQ），其极好的云原生和
（简称消息中间件）是指利用高效可靠的消息传递机制进行与平台无关的数据交流，并基于数据通信来进行分布式系统的集成。...RabbitMQ是采用Erlang语言实现的AMQP协议的消息中间件，最初起源于金融系统，用于在分布式系统中存储转发消息。...RocketMQ是阿里开源的消息中间件，目前已经捐献个Apache基金会，它是由Java语言开发的，具备高吞吐量、高可用性、适合大规模分布式系统应用等特点，经历过双11的洗礼，实力不容小觑。...可靠性+可用性 消息丢失是使用消息中间件时所不得不面对的一个同点，其背后消息可靠性也是衡量消息中间件好坏的一个关键因素。尤其是在金融支付领域，消息可靠性尤为重要。...很多初创型公司为了节省成本会选择直接购买消息中间件有关的云服务，自己只需要关注收发消息即可，其余的都可以外包出去。
为了更好地服务使用微服务架构进行软件设计的企业，腾讯云中间件产品基于腾讯在微服务、消息队列领域多年的技术积累，提供了功能强大、兼容并包、生态开放的云原生分布式微服务解决方案和消息队列服务。...全方位打造出7款优秀产品：微服务平台 TSF、消息队列 CKafka、金融级消息队列 TDMQ、微服务观测平台 TSW、弹性微服务 TEM、微服务引擎 TSE、分布式事务 DTF，全面布局云原生领域产品矩阵...另外，腾讯云还始终积极对外贡献技术力量，参与了《中间件技术和产业白皮书》的编写，以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》的讨论与制定。...经过多年匠心打磨，腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模的应用，但是用户在使用的过程中，到底是什么感受呢？...腾讯云微服务和消息队列产品，面对疾风吧！各位产品大大请接招！ 往期 推荐 《头条！Tencent Kona JDK11 正式开源，提升 50% 峰值性能！》
3.2 Kafka 大数据的杀手锏，谈到大数据领域内的消息传输，则绕不开Kafka，这款为大数据而生的消息中间件，以百万级TPS的吞吐量名声大噪，迅速成为大数据领域的宠儿，在数据采集、传输、存储的过程中发挥着举足轻重给的作用...时效性ms级可用性非常高，Kafka是分布式的，一个数据多个副本，少数机器宕机，不会丢失数据，不会导致不可用，消费者采用pull方式获取消息，消息是有序的。...优点： 单机吞吐量十万级，可用性非常高，是分布式架构，消息可以做到0丢失，MQ功能较为完善，还是发呢分布式的，扩展性好， 支持10亿级别的消息堆积。...3.4 RabbitMQ 2007年发布的，是一个在AMQP(高级消息队列协议)基础上完成的，可复用的企业消息系统，是当前最主流的消息中间件之一。...RocketMQ在稳定性上可能更值得信赖，这些业务场景在阿里双11已经经历了多次的考验，如果你的业务有上述的场景发生，建议可以使用RocketMQ。
校招进阿里，研究生，P7技术专家，出过专利，竞赛拿过奖，CSDN博客专家，负责过电商交易、社区生鲜、营销、金融等业务，多年团队管理经验，爱思考。...》 《疯狂Spring Cloud微服务架构实战》 《深入理解Spring Cloud与微服务构建》 设计模式： 《UML与Rational Rose 2003从入门到精通》 《大话设计模式》 MQ消息...》 《分布式服务框架：原理与实践》 《分布式数据库架构及企业实践——基于Mycat中间件》 《亿级流量网站架构核心技术——跟开涛学搭建高可用高并发系统》 《尽在双11——阿里巴巴技术演进与超越》 《企业...IT架构转型之道：阿里巴巴中台战略思想与架构实战》 《分布式服务架构：原理、设计与实战》 《深入分布式缓存：从原理到实践》 《可伸缩服务架构：框架与中间件》 《大型网站技术架构演进与性能优化》 《从零开始学架构...》 《架构修炼之道——亿级网关、平台开放、分布式、微服务、容错等核心技术修炼实践》 《爬虫实战：从数据到产品》 算法： 《漫画算法：小灰的算法之旅》 《数据结构与算法之美》 Mysql: 《高性能MySQL
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
