首页
学习
活动
专区
圈层
工具
发布

腾讯开源万亿级分布式消息中间件 TubeMQ

beMQ 是腾讯在 2013 年自研的分布式消息中间件系统,专注服务大数据场景下海量数据的高性能存储和传输,经过近 7 年上万亿的海量数据沉淀,目前日均接入量超过 25 万亿条。...9 月 12 日,腾讯在 ApacheCon 宣布 TubeMQ 开源。...变更及查询实现了完整的自动化闭环管理,减轻了系统维护的复杂度; 服务器侧消费负载均衡 Tube MQ 采用的是服务侧负载均衡的方案,而不是客户端侧操作,提升系统的管控能力同时简化客户端实现,更便于均衡算法升级; 系统行级锁操作...对于 Broker 消息读写中存在中间状态的并发操作采用行级锁,避免重复问题; Offset 管理调整 Offset 由各个 Broker 独自管理,ZK 只作数据持久化存储用(最初考虑完全去掉 ZK...依赖,考虑到后续的功能扩展就暂时保留); 消息读取机制的改进 Tube MQ 采用的是消息随机读取模式, 同时为了降低消息时延又增加了内存缓存读写, 对于带 SSD 设备的机器, 增加消息滞后转 SSD

2.3K60

腾讯万亿级分布式消息中间件TubeMQ正式开源

TubeMQ是腾讯在2013年自研的分布式消息中间件系统,专注服务大数据场景下海量数据的高性能存储和传输,经过近7年上万亿的海量数据沉淀,目前日均接入量超过25万亿条。...TubeMQ 捐赠 Apache 基金会 9月12日,Apache软件基金会成立20周年之际,腾讯在ApacheCon宣布TubeMQ 开源。...系统行级锁操作 对于Broker消息读写中存在中间状态的并发操作采用行级锁,避免重复问题; 5. ...消息读取机制的改进 Tube MQ采用的是消息随机读取模式,同时为了降低消息时延又增加了内存缓存读写,对于带SSD设备的机器,增加消息滞后转SSD消费的处理,解决消费严重滞后时吞吐量下降以及SSD磁盘容量小...系统安全管控 根据业务不同的数据服务需要,以及系统运维安全的考虑,Tube MQ系统增加了TLS传输层加密管道,生产和消费服务的认证、授权,以及针对分布式访问控制的访问令牌管理,满足业务和系统运维在系统安全方面的需求

1.9K72
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    腾讯专有云TCE 高可用技术白皮书

    ) #缓存数据库CRedis(二级类目:CloudDB for Redis) #流式消息引擎TDMQ-Kafka(二级类目:TDMQ for CKafka) #消息队列TDMQ-Pulsar...#分布式存储平台(二级类目:三副本冗余存储) #快照备份系统(二级类目:跨区域数据备份) 第二章:报告背景和目标 报告聚焦政企、金融等关键行业客户对业务连续性的核心诉求,以RTO(业务恢复时间...(双AZ、双AZ+仲裁、三AZ、双Region)的量化高可用方案,实现单AZ故障RTO≈0/RPO=0、地域级故障RPO分钟级,支撑金融、传媒等行业客户数智化转型。...•核心分析模型:“八横四纵”高可用体系(四纵:硬件组件级、节点级、机柜级、AZ级故障容忍;八横:基础设施、网络连接、计算调度、存储、中间件与数据库、微服务框架、应用、管控底座高可用能力)。...•国际性与技术领先:TCE高可用架构获金融客户验证,跻身全球分布式云平台领导者象限;自研产品如TDSQL分布式数据库(强一致跨AZ同步)、TDMQ-Pulsar金融级消息中间件(跨AZ强一致)、CRedis

    85210

    祝贺!中原消金、重庆农商行荣获信通院年度优秀案例

    2024年12月20日,由中国信息通信研究院(简称“中国信通院”)在京举办了“央国企上云高质量发展沙龙”主题大会。...中原消金 中原消金同城双活项目 中原消金基于腾讯专有云TCE全栈云解决方案,构建同城双活(含仲裁)高可用生产云平台,为全量业务提供数据中心级云平台IaaS、PaaS服务的高可用容灾切换能力。...重庆农商行 重庆农商行金融云平台 重庆农商行基于腾讯专有云PaaS平台TCS,建设重庆农商行两地三中心金融级容灾云原生PaaS云平台,打造一体化、分布式云原生PaaS平台,统一技术标准和接入规范,提升研发效率...通过腾讯专有云PaaS平台TCS提供微服务框架TSF和容器服务,结合腾讯云消息中间件TDMQ及Ckafka和缓存中间件Credis等产品,构成重庆农商金融级云原生技术底座,规范行内技术标准和接入规范,构建一体化的监控运维体系...目前腾讯专有云已经在金融、政务、零售、交通、出行、地产、制造等众多行业取得大量成功案例落地,在业界获得了广泛的认可。

    90510

    选 Redis Stream 还是传统 MQ?——技术选型与场景适配指南

    在分布式系统架构中,消息队列是解耦服务、削峰填谷的核心组件。...一、架构设计差异:轻量级 vs 企业级Redis Stream 的极简哲学Redis Stream 基于内存存储,采用 Radix Tree 结构组织消息,核心设计包含三个要素:消息日志:按时间顺序追加的持久化记录...传统 MQ 的分布式基因专业 MQ 中间件通过集群架构实现高可用:Kafka:基于 Partition 的水平扩展,单 Topic 支持百万级 TPSRabbitMQ:支持 AMQP 协议的灵活路由(Direct.../Topic/Fanout 交换器)RocketMQ:阿里双 11 验证的金融级消息系统,提供事务消息、定时消息等特性典型场景:电商订单系统使用 RocketMQ 事务消息,确保订单创建与库存扣减的原子性...三、选型决策框架优先选择 Redis Stream 的场景资源受限环境:嵌入式系统或边缘计算节点,无法部署复杂中间件简单解耦需求:通知类消息(如邮件发送、短信推送)实时性敏感:金融交易系统中的实时对账,

    99210

    2025年Web中间件技术全景深度对比:国产化替代与智能化演进分析

    1 引言:中间件的定义与2025年技术背景Web中间件作为现代分布式系统的核心基础设施,在操作系统与应用软件之间构建了关键的连接层,有效屏蔽底层技术复杂性,为分布式应用提供标准化接口和公共服务(如通信、...其核心优势体现在:事务处理能力(支持XA分布式事务)、企业级负载均衡(动态集群扩展)和全球运维支持体系。...消息中间件时延:IBM MQ在1KB小消息场景下端到端延迟为0.8ms,仍为行业标杆。...7 结论与建议7.1 选型决策矩阵基于技术评估,提出分场景选型建议:金融核心系统:优先选择东方通TongWeb(事务一致性)或华为FusionSphere(分布式架构),满足高可靠与国密合规要求。...混合架构过渡:采用并行双栈模式,国产中间件与国际产品共存,通过流量灰度逐步切换。生态协同:优先选择已适配本地芯片/OS的中间件,如麒麟OS+飞腾芯片环境优选TongWeb。

    4.3K11

    信创产品

    技术架构 支持集中式(DM8)与分布式(DMTDD)双引擎,适应不同场景。...2.分布式能力(DMTDD) ·全透明分片:自动拆分数据到多个节点,应用无感知。 ·多活容灾:支持同城双活/异地多活,RTO金融级可靠性)。...3.3 OceanBase OceanBase(蚂蚁集团)是由阿里巴巴/蚂蚁集团自主研发的原生分布式关系数据库,定位为“全球唯一在事务处理和数据分析双领域刷新TPC-C/TPC-H世界纪录”的金融级数据库...东方通TongWeb、金蝶Apusic 支撑Java/Python等应用运行环境 消息中间件 IBM MQ 东方通TongLINK/Q、普元Primeton 跨系统异步通信、削峰填谷 分布式事务中间件...o特性:集成Kubernetes管理,秒级弹性伸缩 o性能:TPC-C测试超WebLogic 30% 2.Apusic MQ:金融级消息中间件 o特性:支持分布式事务消息,100%兼容IBM MQ协议

    5.5K10

    十万亿条消息背后的故事

    它统一了阿里集团内部所有业务线的消息中间件,伴随着中国互联网发展数次迭代。...2007 年,淘宝技术架构进行了调整,将交易系统从单体应用变成分布式,也是在这个过程中产生了阿里巴巴第一代消息中间件 Notify。...在“双 11”流量压力下,每年都有出现问题的风险,消息会延迟半天甚至一天以上,这就造成商家卖出去的商品,看不到买家已经买掉了。...2015 年,RocketMQ 开始统一阿里巴巴消息中间件。...更重要的是,“全世界都能看到这个产品到底好在哪里,不好在哪里”。 开源是一种生产力的体现,由数百人、数千人、数万人一起协作开发,同时又吸收全世界所有公司、所有行业、所有业务场景的需求。

    8K10

    深度解析Apache RocketMQ:从核心原理到实战应用

    Apache RocketMQ作为一款源自阿里、捐献给Apache基金会的开源消息中间件,凭借其金融级可靠性、丰富的功能特性及优秀的性能表现,已成为互联网、金融、电商等领域的主流选择。...其设计目标是打造一款“金融级可靠、高吞吐、低延迟、功能丰富”的消息中间件,既满足普通业务的异步通信需求,也能支撑金融交易、电商订单等对一致性要求极高的核心场景。...Master-Slave模式(同步双写):每个Master配置一个Slave,数据同步双写,需主备均写入成功才返回发送成功,适用于金融级核心场景。...RabbitMQ 核心定位 金融级消息中间件,平衡可靠与性能 分布式流处理平台,高吞吐优先 企业级消息代理,灵活路由优先 吞吐量 高(接近Kafka,十万级TPS) 极高(百万级TPS,大数据首选)...九、总结 Apache RocketMQ凭借其金融级可靠性、丰富的高级特性、简洁的架构设计及云原生演进能力,已成为分布式系统中核心的消息中间件选择。

    1.1K10

    腾讯专有云 TCE 高可用技术白皮书

    第五章:核心观点 1. “3+3+2”仲裁部署架构是解决金融级高可用的核心方案 针对传统双AZ部署在故障切换时需要人工介入导致RTO过长的问题,TCE提出了“双AZ+仲裁区”模式。...• 中间件:TDMQ-Pulsar采用存算分离架构,支持跨AZ部署,极端情况下可保证消息零丢失。 • 计算层:支持CVM热迁移,在宿主机轻度故障时,迁移过程业务感知RTO几乎为0。 3....经过万亿级金融业务验证的同源技术架构 腾讯专有云TCE采用与腾讯公有云完全同源的技术架构,其高可用能力直接继承自微信支付、理财通等承载万亿级金融业务的实战经验。...在某头部农商银行案例中,TCE成功构建了国内首个同城三AZ(双活+仲裁)金融云平台,将业务恢复时间(RTO)压缩至2分钟级别,同时确保核心数据RPO=0,树立了金融分布式云架构的新标杆。 3....特别是其自研的TDSQL数据库和TDMQ消息队列,能够原生支持跨AZ的强一致性数据同步,使得企业无需修改应用代码即可获得金融级的高可用保障。 4.

    85410

    好的,这份文档是关于腾讯专有云TCE(Tencent Cloud Enterprise)的高可用(High Availability, HA)解决方案,内容非常全面和深入。它详细阐述了TCE如何通过其架构设计、网络、计算、存储、数据层和应用层的各种机制,确保业务的连续性和数据的可靠性。

    双AZ部署 (标准模式):实现同城双活(Active/Active或Active/Standby)。主要组件(CLB, VPCGW, 中间件, 数据库)跨AZ部署保证高可用。...PaaS层高可用设计: 消息队列与流式数据引擎: TDMQ-Pulsar (BookKeeper模式):Broker和Bookie均跨AZ分布式部署。多个副本成功写入才返回,强一致(RPO=0)。...实战案例: 展示了TCE的高可用方案在金融(头部农商行双活+仲裁区实现秒级切换,财险/股份制银行双Region/三AZ)、媒体(国家级5G平台)等关键行业的落地效果。...分布式弹性:基于分布式架构的组件(存储、数据库、中间件)在硬件、节点、机柜、AZ各级别故障下自动恢复和重建。 简化运维: PaaS服务自带跨AZ高可用性,用户无需关注中间件/数据库层面的高可用配置。...特别是其对数据库(TDSQL)强一致复制和支撑集群(ZK/etcd)仲裁机制的设计,是TCE实现“分钟级切换,零数据丢失”金融级高可用目标的核心技术支柱。

    90510

    CKafka系列学习文章 - 对比RabbitMQ、RocketMQ、TDMQ-CMQ、kafka和Ckafka(二)

    万QPS 读写12万QPS 同步算法 ISR(Replica) ISR(Replica) GM 同步双写 Raft 可用性 可用性很高,主从自动切换,腾讯云消息服务承诺可用性99.95% 可用性高,主从自动切换...,故障情况极少发生 可靠性低;Broker 只有异步刷盘机制并主备只有异步复制,可能会导致丢失部分消息 可靠性高;发送消息时,指定消息为持久化就会写入到磁盘 可靠性高;Broker 同步双写,主备都写成功才返回成功...Ckafka和CMQ都作为消息中间件都支持集群部署、高吞吐量、强一致等特性,那这两款产品最主要的区别是什么,分别更适合哪些场景使用?...1、CKafka CKafka(Cloud Kafka)是一个分布式的、高吞吐量、高可扩展性的消息系统,100% 兼容开源 Kafka API(0.9版本)。...for CMQ,简称 TDMQ CMQ 版)是一种分布式消息队列服务,它具有可靠的、基于消息的异步通信机制,能够将分布式部署的不同应用(或同一应用的不同组件)中的信息传递,存储在可靠有效的消息队列中,防止消息丢失

    6.2K74

    【金猿信创展】恒生电子——全栈式信创解决方案,助力金融信创行稳致远

    核心技术及产品突破 1、分布式微服务中间件Light-JRES Light-JRES是面向金融领域的企业级应用快速开发平台和多系统融合平台,既减轻对基础设施的依赖,又从业务上具备可复用、可扩展、高安全的特性...JRES中间件是实现对通用技术组件的服务化,譬如:分布式缓存、消息队列、分布式事务等等,通过应用共享以及多租户隔离实现技术组件最大程度复用,降低系统的资源消耗让技术组件和业务公共模块下沉,从而做到支持业务的快速创新和迭代...2、分布式低延时中间件Light-LDP Light-LDP是具有集低延时、分布式解耦、灵活开放等特点的开发平台,支持金融机构微秒级业务应用,主要面向券商自营、券商资管以及券商机构业务的策略交易、算法交易...3、金融级分布式数据库LightDB LightDB是一款支持在线事务处理与在线分析处理的融合型分布式数据库,具备SQL兼容性高、容量弹性伸缩、金融级高可用、现代硬件融合、纯内存计算等核心特性,适用于对可用性...LightDB具有“更快、更稳、更懂金融”的企业级特性:采用单机分布式一体化架构,同时支持集中式和分布式部署,在长时间高负载压测下抖动很低;性能方面,在同机房高可用信创软硬件下、单节点进行证券典型订单TPS

    2K30

    数字化平台全面护航金融信创落地 | 信创讲坛第一期

    普元应用服务器PAS、消息中间件MQ、大文件传输平台BFT、企业服务总线ESB、业务流程平台BPS、数据集成平台DI、应用开发平台EOS、微服务开发平台EOS MS、研发运维一体化平台DevOps、低代码开发平台...例如普元企业服务总线支撑单日亿级海量服务调用,TPS(每秒交易数)能够达到8000+的峰值,满足金融客户对高性能和高并发的要求。...这两种模式,既保证了对金融信创迁移要求的满足,同时又实现了对应用业务发展需要的支撑,达成“一箭双雕”的效果。...普元帮助某农信社实现的分布式架构的移动办公系统的信创落地,良好说明了针对金融领域特色需求推出的信创迁移模式的“一箭双雕”成果。...整套方案底层操作系统使用了银河麒麟和统信UOS的双操作系统,数据库采用的是华为高斯,中间件运用到了普元的应用服务器、微服务开发平台、流程平台、企业服务总线,功能、性能、安全性指标均符合全行应用需求及监管机构要求

    1.7K10

    喜报!腾讯云 TSF 和 TDMQ 产品获评“2021-2022年度中国优秀创新软件”!

    基于深厚的自主技术研发实力和创新的产品功能,腾讯云微服务平台TSF 和消息队列 TDMQ 产品获得与会专家的一致认可,入选“2021-2022年度中国优秀创新软件产品”,体现了腾讯云中间件产品在基础软件和平台支撑软件细分领域的自主创新能力...提供同城双活、两地三中心高可用容灾能力,配套运营管控平台实现完善的运营监控能力。 TSF 已具有上万企业用户,广泛应用于金融、政府、工业、能源、泛互联网等业务领域。...TDMQ 产品介绍 腾讯分布式消息队列软件(Tencent Distributed Message Queue,简称TDMQ)是一个云原生消息队列中间件系列,为分布式应用系统提供异步解耦和削峰填谷的能力...高可用容灾能力等企业级诉求。...腾讯分布式消息队列TDMQ 公有云企业级用户数 2000+,在腾讯内部每日支撑了30亿+消息,私有云交付实施项目包括90+大中型企业,广泛应用于金融、政府、医疗、泛互等行业和领域。

    1.8K30

    余额宝技术架构及演进

    中间层就是采用小型机,其中 KCXP 和 KCBP 是金证公司的消息中间件和业务中间件。往上前端是前置解析是用的 WebLogic,负载均衡用的硬件负载均衡。 ?...目前来讲应对春节、双11、国庆长假等场景,系统都能稳定应对这些。 ?...数据流转,我们现在数据库层面也是分布式,所以数据的抽取、同步和流转会遇到很多现实的问题。 运维。...比如对于在线交易,可以采用经过阿里支付宝验证过的 OB,专门用于解决金融级的分布式关系数据库的解决方案; 对于批量结算,可以继续沿用多年来在余额宝已经用的很娴熟的 RDS 集群。...异步调用 异步调用主要靠消息中间件。金融系统对消息中间件的可靠性要求非常高,这块我们还是沿用传统思路,并不想采用开源解决方案去填那些坑,更多考虑采用成熟金融级消息中间件来做这件事情。 ?

    1.9K50

    余军:分布式数据库在金融行业的创新实践

    Google 内部新一代分布式处理框架,于 12/13 年发表相关 论文,奠定下一代分布式 NewSQL 的理论和工程实践基石。 PingCAP 以此为基础打造了 TiDB & TiKV。...Google Spanner F1 - 第一个真正意义上 NewSQL 数据库 全球级分布式关系型数据库,数十万机器组成一个超大的数据库集群。...基于 2014 年 Stanford 工业级分布式一致性协议实现 Raft 博士论文,已成为事实工业标准。...OLAP - 交易监控:实时交易监察与监控平台 TiDB 的解决之道: 利用消息中间件,将交易系统的交易记录和撮合日志,流式写入 TiDB,利用 TiDB 的分布式存储,高性能 数据写入和弹性存储。...OLAP - 风控:实时风控 TiDB 的解决之道: 风控数据通过信息中间件双写Hive/Hadoop(历史库/历史分析) TiDB的分布式存储引擎架构,非常轻松地应对海量风控数据的导入,存储和查询处理

    2.6K102

    中间件MQ是什么?

    中间件 MQ(消息队列,Message Queue) 是一种分布式通信中间件,核心功能是异步传递消息,解决分布式系统中 “服务间解耦、流量削峰、可靠通信” 的问题。...流量削峰(应对突发流量)场景:双 11 零点,10 万 /s 的抢购请求直接打数据库,瞬间压垮。...可靠消息传递(防丢机制)保障:MQ 通过 “持久化存储 + ACK 确认 + 重试机制” 确保消息不丢失。...,纯 Key-Value 存储典型场景订单异步通知、日志收集、流量缓冲商品库存缓存、高频查询加速四、主流 MQ 产品对比(按需选择)产品适用场景优势缺点Kafka高吞吐日志、实时流处理单集群日处理万亿级消息不保证严格顺序...,适合大数据场景RabbitMQ金融级可靠消息、精准路由支持事务、死信队列、ACK 机制吞吐量相对低(万级 /s)RocketMQ阿里系电商、分布式事务分布式事务、消息重试策略社区生态不如 Kafka

    1.9K10

    独家丨数字生态大会专有云干货分享

    2021年度腾讯数字生态大会已落下帷幕,专有云产品中心研发总监、专家工程师秦国安,在分布式云会场给大家分享了《腾讯专有云 客户专属的分布式云》,让我们回顾一下分享干货吧!...将公有云的能力延伸到私有云,提供了面向企业级市场的IaaS\PaaS\SaaS服务。...主要把腾讯的计算存储网络和核心的中间件、数据库以独立产品形式交付到客户现场。...4、多行业 除了金融和政务以外,又发现了各行各业对专有云的需求。 如交通行业有边缘计算的需求,中心在一个栈里,边缘节点分布在各个地铁站中,平时靠中心做计算,边缘节点上报数据,中心下达一些指令等。...目前我们在政务、金融、企业、交通、泛互联网行业,都做了非常多的标杆成功案例,帮助这些客户实现了数字化转型,并且支持他们的商业成功。 04 新的挑战思考 未来往哪里走?

    6.7K20

    十分钟入门RocketMQ

    本文首先引出消息中间件通常需要解决哪些问题,在解决这些问题当中会遇到什么困难,Apache RocketMQ作为阿里开源的一款高性能、高吞吐量的分布式消息中间件否可以解决,规范中如何定义这些问题。...消息中间件需要解决哪些问题? Publish/Subscribe 发布订阅是消息中间件的最基本功能,也是相对于传统RPC通信而言。在此不再详述。...通过同步双写技术可以完全避免单点,同步双写势必会影响性能,适合对消息可靠性要求极高的场合,例如与Money相关的应用。 RocketMQ从3.0版本开始支持同步双写。...其中XA的TM实现佼佼者如Oracle Tuxedo,在金融、电信等领域被广泛应用。...上图是一个典型的消息中间件收发消息的模型,RocketMQ也是这样的设计,简单说来,RocketMQ具有以下特点: 是一个队列模型的消息中间件,具有高性能、高可靠、高实时、分布式特点。

    2.4K70
    领券