首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

腾讯开源万亿分布消息中间件 TubeMQ

beMQ 是腾讯在 2013 年自研分布消息中间件系统,专注服务大数据场景下海量数据高性能存储和传输,经过近 7 年上万亿海量数据沉淀,目前日均接入量超过 25 万亿条。...较之其它开源 MQ 组件,TubeMQ 优势在海量实践(稳定性 + 性能)和低成本方面。9 月 12 日,腾讯在 ApacheCon 宣布 TubeMQ 开源。...,而不是客户端侧操作,提升系统管控能力同时简化客户端实现,更便于均衡算法升级; 系统行锁操作 对于 Broker 消息读写中存在中间状态并发操作采用行锁,避免重复问题; Offset 管理调整...Offset 由各个 Broker 独自管理,ZK 只作数据持久化存储用(最初考虑完全去掉 ZK 依赖,考虑到后续功能扩展就暂时保留); 消息读取机制改进 Tube MQ 采用消息随机读取模式,...MQ 系统增加了 TLS 传输层加密管道,生产和消费服务认证、授权,以及针对分布式访问控制访问令牌管理,满足业务和系统运维在系统安全方面的需求; 资源利用率提升改进 相比于 Kafka,Tube

1.5K60

腾讯万亿分布消息中间件TubeMQ正式开源

TubeMQ是腾讯在2013年自研分布消息中间件系统,专注服务大数据场景下海量数据高性能存储和传输,经过近7年上万亿海量数据沉淀,目前日均接入量超过25万亿条。...系统行锁操作 对于Broker消息读写中存在中间状态并发操作采用行锁,避免重复问题; 5. ...消息读取机制改进 Tube MQ采用消息随机读取模式,同时为了降低消息时延又增加了内存缓存读写,对于带SSD设备机器,增加消息滞后转SSD消费处理,解决消费严重滞后时吞吐量下降以及SSD磁盘容量小...系统安全管控 根据业务不同数据服务需要,以及系统运维安全考虑,Tube MQ系统增加了TLS传输层加密管道,生产和消费服务认证、授权,以及针对分布式访问控制访问令牌管理,满足业务和系统运维在系统安全方面的需求...、最新腾讯开源项目国内镜像 ?

1.1K72
您找到你想要的搜索结果了吗?
是的
没有找到

基于Raft深度优化,腾讯金融消息队列CMQ高可靠算法详解

AP系统牺牲强一致性,这在某些业务场景下(如金融类)是不可接受,CP系统可以满足这类需求,问题关键在于会牺牲多少可用性。...在我们关注消息中间件领域,金融支付类业务往往对数据强一致性和高可靠性有严格要求。...在对主流消息中间件进行调研后,发现它们在应对这种场景时都存在一定不足: RabbitMQ:一个请求需要在所有节点上处理2次才能保证一致性,性能不高。...鉴于以上分析,我们设计开发了基于Raft强一致高可靠消息中间件CMQ。接下来会介绍raft算法原理细节、如何应用在CMQ中在保证消息可靠不丢失,以及实现过程中在性能方面所作优化。...四 总结 Raft算法具备强一致、高可靠、高可用等优点, 消息中间件通常分为高可靠版本和高性能版本两种。腾讯CMQ是一款金融高可靠分布消息中间件,通过raft保证了消息可靠不丢失。

4.3K70

千亿金融场景下,基于Pulsar原生消息队列有怎样表现?

本文是对腾讯TEG技术委员会专家工程师刘德志老师在腾讯开发者社区沙龙 online 分享整理,介绍基于 Apache Pulsar 新一代存储计算分离设计消息队列 TDMQ,希望与大家一同交流。...视频内容 一、金融级别原生消息队列功能需求 1....腾讯计费背景介绍 腾讯计费是孵化于支撑腾讯内部业务千亿营收互联网计费平台,其核心是帮助用户与产品,安全、便捷完成支付和收款,在交易过程中帮助产品盈收实现最大化。...也包括 ToB 场景,比如广告主、网红主播、腾讯客户扣款收费,都是通过腾讯计费这套平台提供服务。...对于千亿规模计费平台,消息队列需要具备哪些能力呢? 综上来看,首先需要具备金融可靠性和容灾能力,可以通过多副本、多地域保证数据可靠性。

6.5K12459

千亿金融场景下,基于Pulsar原生消息队列有怎样表现?

本文是对腾讯TEG技术委员会专家工程师刘德志老师在+社区沙龙 online 分享整理,介绍基于 Apache Pulsar 新一代存储计算分离设计消息队列 TDMQ,希望与大家一同交流。...视频内容 01 金融级别原生消息队列功能需求 1....腾讯计费背景介绍 腾讯计费是孵化于支撑腾讯内部业务千亿营收互联网计费平台,其核心是帮助用户与产品,安全、便捷完成支付和收款,在交易过程中帮助产品盈收实现最大化。...也包括 ToB 场景,比如广告主、网红主播、腾讯客户扣款收费,都是通过腾讯计费这套平台提供服务。...对于千亿规模计费平台,消息队列需要具备哪些能力呢? ? 综上来看,首先需要具备金融可靠性和容灾能力,可以通过多副本、多地域保证数据可靠性。

93420

浅谈消息队列及常见分布消息队列中间件

背景 分布消息队列中间件是是大型分布式系统不可缺少中间件,通过消息队列,应用程序可以在不知道彼此位置情况下独立处理消息,或者在处理消息前不需要等待接收此消息。...在日常学习与开发过程中,消息队列作为系统不可缺少中间件,显得十分重要。在现代架构中,应用程序被分解为多个规模较小且更易于开发、部署和维护独立构建块。...消息队列技术对比 ActiveMQ 是 Apache 出品、采用 Java 语言编写完全基于 JMS1.1 规范面向消息中间件,为应用程序提供高效、可扩展、稳定和安全企业消息通信。...RabbitMQ 是采用 Erlang 语言实现 AMQP 协议消息中间件,最初起源于金融系统,用于在分布式系统中存储转发消息。...,就是仅仅提供较少核心功能,但是提供超高吞吐量,ms 延迟,极高可用性以及可靠性,而且分布式可以任意扩展。

2.8K40

腾讯自研万亿消息中间件TubeMQ为什么要捐赠给Apache?

导语 | 近日,腾讯开发者社区技术沙龙“腾讯开源技术”圆满落幕。...本次沙龙邀请了多位腾讯技术专家围绕腾讯开源与各位开发者进行探讨,深度揭秘了腾讯开源项目TencentOS tiny、TubeMQ、Kona JDK、TARS以及MedicalNet。...TubeMQ属于万亿分布消息中间件,专注于海量数据下数据传输和存储,在性能、可靠性,和成本方面具有独特优势。...结果是:我们吞吐量达到了14万TPS,消息时延可以做到5ms以内。 可能有些人会感到好奇,因为有很多研究报告都分析过,同样分布式发布订阅消息系统,例如Kafka这种,都能达到上百万TPS。...对于Kafka,它或许可以达到百万TPS,或许时延可以降到很低,但在我们大数据场景下,就远远到不了这个量级。

1.2K50

为什么说腾讯TDSQL是金融行业“杀手锏”应用?

近日,腾讯发布了全新自主可控金融业务支撑平台,该平台把腾讯计算架构、分布式数据库、微服务、大数据以及人工智能等方面的技术优势进行了整合,专为金融行业提供覆盖核心架构和主要应用场景“自主可控”...如果一个解决方案在金融行业得到了验证,就意味着该解决方案将打上“可信”标签,这可能是腾讯为什么推出金融行业业务支撑平台根本原因。那么,腾讯金融业务支撑平台将如何打动金融行业用户?...笔者认为,分布式数据库TDSQL是重头戏,未来可能会成为金融行业“杀手锏”应用。 为什么看好TDSQL ?本文总结了以下5个关键点。...TDSQL也是在MySQL和MariaDB基础上构建,但是为了真正做到自主可控,腾讯从2006年开始就在做自主可控研发,已做到内核优化。...往期推荐 《腾讯分布式数据库TDSQL十年自主可控之路》 《带你认识真正金融自主可控分布式数据库》 《腾讯分布式数据库TDSQL2018回顾》 4.png 免费试用 包括数据库MySQL

1.3K20

为什么说腾讯TDSQL是金融行业“杀手锏”应用?

近日,腾讯发布了全新自主可控金融业务支撑平台,该平台把腾讯计算架构、分布式数据库、微服务、大数据以及人工智能等方面的技术优势进行了整合,专为金融行业提供覆盖核心架构和主要应用场景“自主可控...如果一个解决方案在金融行业得到了验证,就意味着该解决方案将打上“可信”标签,这可能是腾讯为什么推出金融行业业务支撑平台根本原因。那么,腾讯金融业务支撑平台将如何打动金融行业用户?...笔者认为,分布式数据库TDSQL是重头戏,未来可能会成为金融行业“杀手锏”应用。 为什么看好TDSQL ?本文总结了以下5个关键点。...TDSQL也是在MySQL和MariaDB基础上构建,但是为了真正做到自主可控,腾讯从2006年开始就在做自主可控研发,已做到内核优化。...可以想象,未来随着互联网金融步伐加快,TDSQL很有可能成为金融行业“杀手锏”应用。 免费试用 包括数据库MySQL在内40+款热门产品,实名认证企业用户可免费试用!

1.5K10

腾讯分布式高可靠消息队列 CMQ 架构

作者:张浩 在分布式大行其道今天,我们在系统内部、平台之间广泛运用消息中间件进行数据交换及解耦。...CMQ是腾讯内部自研基于高可靠、强一致、可扩展分布消息队列,在腾讯内部包括微信手机QQ业务红包、腾讯话费充值、广告订单等都有广泛使用。...目前已上线腾讯对外开放,本文对腾讯CMQ 核心技术原理进行分享介绍。 CMQ消息队列主要适用于金融、交易、订单等对可靠性、可用性有较高要求业务场景。...架构如图1: [image.jpg] 图1-某充值系统结构 图中腾讯消息队列CMQ整体结构如图2所示,本文重点介绍后端broker set实现原理。...对于更侧重高性能、高吞吐量业务需求,腾讯由另外一个消息引擎来提供服务,在协议上同时兼容kafka,很好满足了大数据场景,具体原理请留意后续文章介绍。

31.3K11089

腾讯携手神州信息发布“金融分布式核心”联合方案

6月24日,基于国内银行对以为承载全栈国产化IT系统需求,腾讯携手神州信息正式推出了“金融分布式核心”联合解决方案。...其中,腾讯企业分布式数据库TDSQL已服务近半国内TOP20银行,TOP10银行中服务比例更是高达60%。...符合金融科技场景+数据库融合能力 “金融分布式核心”联合解决方案是由腾讯专有提供全面的基础设施服务金融解决方案,具备弹性计算服务、虚拟化、容器化部署及动态扩容能力,包含自动化部署、系统监控、...依托腾讯金融分布式数据库TDSQL作为此次解决方案核心系统承载,凭借“强一致”、“高性能”、“高可用”、“高兼容”、“高透明”、“平滑扩容”等优势,面向金融行业分布式架构提供了跨区容灾、多地多中心...TDSQL创新性将全局数据路由,分布式事务处理等分布式数据库功能高内聚在数据库SQL引擎集群内部处理,无需单独外挂中间件

73910

鹅厂中间件产品遭遇暴风吐槽

为了更好地服务使用微服务架构进行软件设计企业,腾讯中间件产品基于腾讯在微服务、消息队列领域多年技术积累,提供了功能强大、兼容并包、生态开放原生分布式微服务解决方案和消息队列服务。...全方位打造出7款优秀产品:微服务平台 TSF、消息队列CKafka、金融消息队列TDMQ、微服务观测平台 TSW、弹性微服务 TEM、微服务引擎TSE、分布式事务DTF,全面布局原生领域产品矩阵。...另外,腾讯还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》讨论与制定。...在原生2.0时代,腾讯致力于为企业提供更加完善分布式架构解决方案,帮助企业加速数字化建设,快速实现架构升级。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模应用,但是用户在使用过程中,到底是什么感受呢?

88620

腾讯中间件产品面对疾风吧——TVP吐槽大会第4期

KV.jpg 为了更好地服务使用微服务架构进行软件设计企业,腾讯中间件产品基于腾讯在微服务、消息队列领域多年技术积累,提供了功能强大、兼容并包、生态开放原生分布式微服务解决方案和消息队列服务...全方位打造出6款优秀产品:微服务平台 TSF、消息队列CKafka、金融消息队列TDMQ、微服务观测平台 TSW、微服务引擎TSE、分布式事务DTF,全面布局原生领域产品矩阵。...另外,腾讯还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》讨论与制定。...在原生2.0时代,腾讯致力于为企业提供更加完善分布式架构解决方案,帮助企业加速数字化建设,快速实现架构升级。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模应用,但是用户在使用过程中,到底是什么感受呢?

87040

鹅厂中间件产品遭遇暴风吐槽!

为了更好地服务使用微服务架构进行软件设计企业,腾讯中间件产品基于腾讯在微服务、消息队列领域多年技术积累,提供了功能强大、兼容并包、生态开放原生分布式微服务解决方案和消息队列服务。...全方位打造出7款优秀产品:微服务平台 TSF、消息队列 CKafka、金融消息队列 TDMQ、微服务观测平台 TSW、弹性微服务 TEM、微服务引擎 TSE、分布式事务 DTF,全面布局原生领域产品矩阵...另外,腾讯还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》讨论与制定。...在原生2.0时代,腾讯致力于为企业提供更加完善分布式架构解决方案,帮助企业加速数字化建设,快速实现架构升级。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模应用,但是用户在使用过程中,到底是什么感受呢?

75320

2023腾讯全球数字生态大会微服务与消息队列专场来啦

导语 腾讯数字生态大会亮点纷呈,定档9月7-8日,腾讯微服务与消息队列专场将为大家带来一场与中间件有关视觉盛宴!...腾讯微服务与消息队列专场 开箱即用上全场景中间件解决方案 9月7日,40+专场活动将在线上掀起一股科技飓风,为大家带来一场前沿科技盛宴。...作为腾讯分布消息中间件,TDMQ RocketMQ版具备低延迟、高性能、高可靠、万亿消息容量和灵活可扩展等特点。...嘉宾介绍:纪宇鹏,腾讯分布消息队列 TDMQ 产品经理,拥有多年计算产品设计经验,主导并参与多款消息队列产品设计和商业化工作,帮助企业客户在分布式架构下更好地利用消息队列满足业务需求,致力于将开源技术红利和架构优势应用到商业化产品中...目前在腾讯中间件中心,专注于消息中间件原生网关、微服务等在客户IT系统中解决方案落地和技术支持。

50820

腾讯中间件产品面对疾风吧——TVP吐槽大会第4期

KV.jpg 为了更好地服务使用微服务架构进行软件设计企业,腾讯中间件产品基于腾讯在微服务、消息队列领域多年技术积累,提供了功能强大、兼容并包、生态开放原生分布式微服务解决方案和消息队列服务...全方位打造出6款优秀产品:微服务平台 TSF、消息队列CKafka、金融消息队列TDMQ、微服务观测平台 TSW、微服务引擎TSE、分布式事务DTF,全面布局原生领域产品矩阵。...另外,腾讯还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》讨论与制定。...在原生2.0时代,腾讯致力于为企业提供更加完善分布式架构解决方案,帮助企业加速数字化建设,快速实现架构升级。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模应用,但是用户在使用过程中,到底是什么感受呢?

1K91

腾讯分布式数据库TDSQL金融能力架构原理解读

为帮助开发者更好地了解和学习分布式数据库技术,2020年3月,腾讯数据库、加社区联合腾讯TEG数据库工作组特推出为期3个月国产数据库专题线上技术沙龙《你想了解国产数据库秘密,都在这!》...一、TDSQL是什么:腾讯如何打造一款金融分布式数据库 我们先初步了解TDSQL产品,以及它适用场景。...到2012年,TDSQL雏形就已经出来了,作为一款内部产品,开始在公司内部提供金融数据强一致性、可靠性服务。...三、TDSQL金融特性之:数据强一致性保障 前面我们了解了TDSQL整体架构和核心特性。接下来我们要重点聊一聊它最重要特性——作为金融场景下不可或缺数据强一致性保障。...分布式事务比较复杂,单独讲的话可能能讲一门课,这里面涉及内容非常多,比如两段提交过程中有哪些异常场景,失败怎么处理,超时怎么处理,怎么样保证事务最终一致性等等。

6K43

腾讯TDSQL:带你认识真正金融自主可控分布式数据库

实际上,腾讯推出 TDSQL(TencentDistributed SQL) 金融分布式数据库,在对内支撑微信红包业务同时,对外也正在为中国金融行业技术自主可控分布式数据库解决方案 作为国内首家互联网银行...目前 TDSQL 已正式通过腾讯金融对外输出金融分布式数据库产品服务,除了微众银行,腾讯分布式数据库 TDSQL 还支撑着华通银行、华夏银行、潍坊银行、内蒙金谷农商银行、北京人寿、爱心人寿等众多银行和保险公司互联网核心生产系统...全局事务一致性与全局时间戳服务 GTM 金融行业对事务处理需求极高,转账、扣费,无一不是使用事务,而腾讯是少数几个将分布式事务处理,分布式 JOIN 用于金融核心系统企业。...而在容灾能力方面,TDSQL 可以支持: 同城数据强一致下双活:当前腾讯公有云和金融有大量客户都选择了类似方案。...金融业务数据库发展及展望 金融业务涉及国计民生重点业务,一个小小 BUG,一个操作失误,就可能影响到数以万计百姓资产准确性。正因为这样责任,腾讯 TDSQL 团队始终坚守则“本心”。

4.1K30

TVP专家谈鹅厂中间件:创新前行 遇见未来

导语 | 3月21日,腾讯TVP团队倾力打造「TVP吐槽大会」第四季——腾讯中间件专场落下帷幕,微服务和消息队列领域资深TVP们在深度体验腾讯中间件产品之后,提出直击痛点建议同时也充分肯定了腾讯中间件产品实力与价值...为了倾听用户心声,腾讯中间件携微服务观测平台 TSW、消息队列CKafka两款产品,登上第三期「鹅厂中间件吐槽大会」舞台,与8位顶专家现场过招,强强碰撞,直击产品问题,共同为产品指明全新方向,为产品与技术完美融合续写全新未来...4-1.png 腾讯中间件产品矩阵 腾讯中间件产品基于腾讯在微服务、消息队列领域多年技术积累,提供了功能强大、兼容并包、生态开放原生分布式微服务解决方案和消息队列服务。...全方位打造出7款优秀产品:微服务平台 TSF、消息队列 CKafka、金融消息队列 TDMQ、微服务观测平台 TSW、弹性微服务TEM、微服务引擎 TSE、分布式事务 DTF,全面布局原生领域产品矩阵...在盛行 Serverless 时代,我们近期也推出上首款 Serverless 化金融消息队列 TDMQ(Tencent Distributed Message Queue,简称 TDMQ),其极好原生和

98231

金融安全“零失分”,腾讯IT管理水平再获国际认可

腾讯多项服务和新加坡站点以“0观察项”优异成绩正式通过了OSPAR,这意味着腾讯IT控制水平已经达到了国际先进水平,安全管理能力受到国际认可,并具备了在新加坡乃至东南亚地区提供金融领域服务资质...最终,腾讯金融领域产品和服务安全控制与合规能力经受住了国际权威机构严格检验,以“0观察项”优秀成绩顺利通过,达到了全球领先水准,具备了在新加坡及东南亚地区开展金融领域服务资质。...作为目前海外布局速度最快、分布区域最广中国服务商之一,腾讯一直在强化自身海外安全合规建设,为客户业务出海提供更好服务。...仅在新加坡及东南亚地区,腾讯今年就连续拿下新加坡MTCS最高等级安全评级和“0观察项”通过OSPAR审核,不断强化新加坡政府和本土企业对中国服务商安全认知;在东亚地区,腾讯更是通过了有“韩国官方最严...一直以来,腾讯云安全合规团队都在致力于完善海外安全合规体系建设,自2016年至今,腾讯已先后通过可信数据安全认证、产品信息安全认证证书(SaaS增强)、CSA STAR以及ISO/IEC 27001

1.3K20
领券