首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

腾讯开源万亿分布消息中间件 TubeMQ

beMQ 是腾讯在 2013 年自研分布消息中间件系统,专注服务大数据场景下海量数据高性能存储和传输,经过近 7 年上万亿海量数据沉淀,目前日均接入量超过 25 万亿条。...较之其它开源 MQ 组件,TubeMQ 优势在海量实践(稳定性 + 性能)和低成本方面。9 月 12 日,腾讯在 ApacheCon 宣布 TubeMQ 开源。...,而不是客户端侧操作,提升系统管控能力同时简化客户端实现,更便于均衡算法升级; 系统行锁操作 对于 Broker 消息读写中存在中间状态并发操作采用行锁,避免重复问题; Offset 管理调整...Offset 由各个 Broker 独自管理,ZK 只作数据持久化存储用(最初考虑完全去掉 ZK 依赖,考虑到后续功能扩展就暂时保留); 消息读取机制改进 Tube MQ 采用消息随机读取模式,...MQ 系统增加了 TLS 传输层加密管道,生产和消费服务认证、授权,以及针对分布式访问控制访问令牌管理,满足业务和系统运维在系统安全方面的需求; 资源利用率提升改进 相比于 Kafka,Tube

1.5K60

腾讯万亿分布消息中间件TubeMQ正式开源

TubeMQ是腾讯在2013年自研分布消息中间件系统,专注服务大数据场景下海量数据高性能存储和传输,经过近7年上万亿海量数据沉淀,目前日均接入量超过25万亿条。...系统行锁操作 对于Broker消息读写中存在中间状态并发操作采用行锁,避免重复问题; 5. ...消息读取机制改进 Tube MQ采用消息随机读取模式,同时为了降低消息时延又增加了内存缓存读写,对于带SSD设备机器,增加消息滞后转SSD消费处理,解决消费严重滞后时吞吐量下降以及SSD磁盘容量小...系统安全管控 根据业务不同数据服务需要,以及系统运维安全考虑,Tube MQ系统增加了TLS传输层加密管道,生产和消费服务认证、授权,以及针对分布式访问控制访问令牌管理,满足业务和系统运维在系统安全方面的需求...、最新腾讯开源项目国内镜像 ?

1.1K72
您找到你想要的搜索结果了吗?
是的
没有找到

基于Raft深度优化,腾讯金融消息队列CMQ高可靠算法详解

AP系统牺牲强一致性,这在某些业务场景下(如金融类)是不可接受,CP系统可以满足这类需求,问题关键在于会牺牲多少可用性。...在我们关注消息中间件领域,金融支付类业务往往对数据强一致性和高可靠性有严格要求。...在对主流消息中间件进行调研后,发现它们在应对这种场景时都存在一定不足: RabbitMQ:一个请求需要在所有节点上处理2次才能保证一致性,性能不高。...鉴于以上分析,我们设计开发了基于Raft强一致高可靠消息中间件CMQ。接下来会介绍raft算法原理细节、如何应用在CMQ中在保证消息可靠不丢失,以及实现过程中在性能方面所作优化。...四 总结 Raft算法具备强一致、高可靠、高可用等优点, 消息中间件通常分为高可靠版本和高性能版本两种。腾讯CMQ是一款金融高可靠分布消息中间件,通过raft保证了消息可靠不丢失。

4.3K70

TVP专家谈鹅厂中间件:创新前行 遇见未来

导语 | 3月21日,腾讯TVP团队倾力打造「TVP吐槽大会」第四季——腾讯中间件专场落下帷幕,微服务和消息队列领域资深TVP们在深度体验腾讯中间件产品之后,提出直击痛点建议同时也充分肯定了腾讯中间件产品实力与价值...腾讯微服务产品中心技术总监韩欣老师、专家工程师刘冠军老师最后也分别强调了消息队列产品 CKafka 价值使命:CKafka 希望能够帮助用户进行日常运维,解决用户运维难点,让广大客户真正达到好用易用...4-1.png 腾讯中间件产品矩阵 腾讯中间件产品基于腾讯在微服务、消息队列领域多年技术积累,提供了功能强大、兼容并包、生态开放原生分布式微服务解决方案和消息队列服务。...全方位打造出7款优秀产品:微服务平台 TSF、消息队列 CKafka、金融消息队列 TDMQ、微服务观测平台 TSW、弹性微服务TEM、微服务引擎 TSE、分布式事务 DTF,全面布局原生领域产品矩阵...在盛行 Serverless 时代,我们近期也推出上首款 Serverless 化金融消息队列 TDMQ(Tencent Distributed Message Queue,简称 TDMQ),其极好原生和

98531

千亿金融场景下,基于Pulsar原生消息队列有怎样表现?

本文是对腾讯TEG技术委员会专家工程师刘德志老师在腾讯开发者社区沙龙 online 分享整理,介绍基于 Apache Pulsar 新一代存储计算分离设计消息队列 TDMQ,希望与大家一同交流。...视频内容 一、金融级别原生消息队列功能需求 1....腾讯计费背景介绍 腾讯计费是孵化于支撑腾讯内部业务千亿营收互联网计费平台,其核心是帮助用户与产品,安全、便捷完成支付和收款,在交易过程中帮助产品盈收实现最大化。...也包括 ToB 场景,比如广告主、网红主播、腾讯客户扣款收费,都是通过腾讯计费这套平台提供服务。...对于千亿规模计费平台,消息队列需要具备哪些能力呢? 综上来看,首先需要具备金融可靠性和容灾能力,可以通过多副本、多地域保证数据可靠性。

6.5K12459

千亿金融场景下,基于Pulsar原生消息队列有怎样表现?

本文是对腾讯TEG技术委员会专家工程师刘德志老师在+社区沙龙 online 分享整理,介绍基于 Apache Pulsar 新一代存储计算分离设计消息队列 TDMQ,希望与大家一同交流。...视频内容 01 金融级别原生消息队列功能需求 1....腾讯计费背景介绍 腾讯计费是孵化于支撑腾讯内部业务千亿营收互联网计费平台,其核心是帮助用户与产品,安全、便捷完成支付和收款,在交易过程中帮助产品盈收实现最大化。...也包括 ToB 场景,比如广告主、网红主播、腾讯客户扣款收费,都是通过腾讯计费这套平台提供服务。...对于千亿规模计费平台,消息队列需要具备哪些能力呢? ? 综上来看,首先需要具备金融可靠性和容灾能力,可以通过多副本、多地域保证数据可靠性。

94120

【火热报名中】Techo Hub技术巡回武汉站-原生专场

这一站我们来到了武汉,我们腾讯中间件团队将带来关于微服务架构和开发精彩分享。快来看看都是哪几位导师吧。...本次原生专场技术沙龙主题为“原生时代高效开发实战”,我们腾讯中间件微服务团队将为大家带来两个议题分享,把多年来微服务服务治理方案落地实践经验分享给大家,干货满满,欢迎大家报名参加!...对这些语言框架及形态各异应用,如何提供统一服务治理功能(比如服务发现,流量管控,容错容灾及监控),业界当前缺少一款开源好用工具来进行实施。...沙龙议程 免费体验馆 消息队列CKafka 分布式、高吞吐量、高可扩展性消息服务,具备数据压缩、同时支持离线和实时数据处理等优点。...扫码即可免费体验 免费体验路径:产品体验->基础->消息队列CKafka 消息队列TDMQ 一款基于 Apache 顶级开源项目 Pulsar 自研金融分布消息中间件

1.1K30

为什么说腾讯TDSQL是金融行业“杀手锏”应用?

近日,腾讯发布了全新自主可控金融业务支撑平台,该平台把腾讯计算架构、分布式数据库、微服务、大数据以及人工智能等方面的技术优势进行了整合,专为金融行业提供覆盖核心架构和主要应用场景“自主可控”...如果一个解决方案在金融行业得到了验证,就意味着该解决方案将打上“可信”标签,这可能是腾讯为什么推出金融行业业务支撑平台根本原因。那么,腾讯金融业务支撑平台将如何打动金融行业用户?...笔者认为,分布式数据库TDSQL是重头戏,未来可能会成为金融行业“杀手锏”应用。 为什么看好TDSQL ?本文总结了以下5个关键点。...TDSQL也是在MySQL和MariaDB基础上构建,但是为了真正做到自主可控,腾讯从2006年开始就在做自主可控研发,已做到内核优化。...往期推荐 《腾讯分布式数据库TDSQL十年自主可控之路》 《带你认识真正金融自主可控分布式数据库》 《腾讯分布式数据库TDSQL2018回顾》 4.png 免费试用 包括数据库MySQL

1.4K20

为什么说腾讯TDSQL是金融行业“杀手锏”应用?

近日,腾讯发布了全新自主可控金融业务支撑平台,该平台把腾讯计算架构、分布式数据库、微服务、大数据以及人工智能等方面的技术优势进行了整合,专为金融行业提供覆盖核心架构和主要应用场景“自主可控...如果一个解决方案在金融行业得到了验证,就意味着该解决方案将打上“可信”标签,这可能是腾讯为什么推出金融行业业务支撑平台根本原因。那么,腾讯金融业务支撑平台将如何打动金融行业用户?...笔者认为,分布式数据库TDSQL是重头戏,未来可能会成为金融行业“杀手锏”应用。 为什么看好TDSQL ?本文总结了以下5个关键点。...TDSQL也是在MySQL和MariaDB基础上构建,但是为了真正做到自主可控,腾讯从2006年开始就在做自主可控研发,已做到内核优化。...可以想象,未来随着互联网金融步伐加快,TDSQL很有可能成为金融行业“杀手锏”应用。 免费试用 包括数据库MySQL在内40+款热门产品,实名认证企业用户可免费试用!

1.5K10

鹅厂中间件产品遭遇暴风吐槽

为了更好地服务使用微服务架构进行软件设计企业,腾讯中间件产品基于腾讯在微服务、消息队列领域多年技术积累,提供了功能强大、兼容并包、生态开放原生分布式微服务解决方案和消息队列服务。...全方位打造出7款优秀产品:微服务平台 TSF、消息队列CKafka、金融消息队列TDMQ、微服务观测平台 TSW、弹性微服务 TEM、微服务引擎TSE、分布式事务DTF,全面布局原生领域产品矩阵。...另外,腾讯还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》讨论与制定。...在原生2.0时代,腾讯致力于为企业提供更加完善分布式架构解决方案,帮助企业加速数字化建设,快速实现架构升级。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模应用,但是用户在使用过程中,到底是什么感受呢?

88720

腾讯中间件产品面对疾风吧——TVP吐槽大会第4期

KV.jpg 为了更好地服务使用微服务架构进行软件设计企业,腾讯中间件产品基于腾讯在微服务、消息队列领域多年技术积累,提供了功能强大、兼容并包、生态开放原生分布式微服务解决方案和消息队列服务...全方位打造出6款优秀产品:微服务平台 TSF、消息队列CKafka、金融消息队列TDMQ、微服务观测平台 TSW、微服务引擎TSE、分布式事务DTF,全面布局原生领域产品矩阵。...另外,腾讯还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》讨论与制定。...在原生2.0时代,腾讯致力于为企业提供更加完善分布式架构解决方案,帮助企业加速数字化建设,快速实现架构升级。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模应用,但是用户在使用过程中,到底是什么感受呢?

87340

鹅厂中间件产品遭遇暴风吐槽!

为了更好地服务使用微服务架构进行软件设计企业,腾讯中间件产品基于腾讯在微服务、消息队列领域多年技术积累,提供了功能强大、兼容并包、生态开放原生分布式微服务解决方案和消息队列服务。...全方位打造出7款优秀产品:微服务平台 TSF、消息队列 CKafka、金融消息队列 TDMQ、微服务观测平台 TSW、弹性微服务 TEM、微服务引擎 TSE、分布式事务 DTF,全面布局原生领域产品矩阵...另外,腾讯还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》讨论与制定。...在原生2.0时代,腾讯致力于为企业提供更加完善分布式架构解决方案,帮助企业加速数字化建设,快速实现架构升级。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模应用,但是用户在使用过程中,到底是什么感受呢?

75320

腾讯中间件产品面对疾风吧——TVP吐槽大会第4期

KV.jpg 为了更好地服务使用微服务架构进行软件设计企业,腾讯中间件产品基于腾讯在微服务、消息队列领域多年技术积累,提供了功能强大、兼容并包、生态开放原生分布式微服务解决方案和消息队列服务...全方位打造出6款优秀产品:微服务平台 TSF、消息队列CKafka、金融消息队列TDMQ、微服务观测平台 TSW、微服务引擎TSE、分布式事务DTF,全面布局原生领域产品矩阵。...另外,腾讯还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》讨论与制定。...在原生2.0时代,腾讯致力于为企业提供更加完善分布式架构解决方案,帮助企业加速数字化建设,快速实现架构升级。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模应用,但是用户在使用过程中,到底是什么感受呢?

1K91

2023腾讯全球数字生态大会微服务与消息队列专场来啦

导语 腾讯数字生态大会亮点纷呈,定档9月7-8日,腾讯微服务与消息队列专场将为大家带来一场与中间件有关视觉盛宴!...腾讯微服务与消息队列专场 开箱即用上全场景中间件解决方案 9月7日,40+专场活动将在线上掀起一股科技飓风,为大家带来一场前沿科技盛宴。...作为腾讯分布消息中间件,TDMQ RocketMQ版具备低延迟、高性能、高可靠、万亿消息容量和灵活可扩展等特点。...嘉宾介绍:纪宇鹏,腾讯分布消息队列 TDMQ 产品经理,拥有多年计算产品设计经验,主导并参与多款消息队列产品设计和商业化工作,帮助企业客户在分布式架构下更好地利用消息队列满足业务需求,致力于将开源技术红利和架构优势应用到商业化产品中...目前在腾讯中间件中心,专注于消息中间件原生网关、微服务等在客户IT系统中解决方案落地和技术支持。

52520

腾讯分布式数据库TDSQL金融能力架构原理解读

为帮助开发者更好地了解和学习分布式数据库技术,2020年3月,腾讯数据库、加社区联合腾讯TEG数据库工作组特推出为期3个月国产数据库专题线上技术沙龙《你想了解国产数据库秘密,都在这!》...一、TDSQL是什么:腾讯如何打造一款金融分布式数据库 我们先初步了解TDSQL产品,以及它适用场景。...到2012年,TDSQL雏形就已经出来了,作为一款内部产品,开始在公司内部提供金融数据强一致性、可靠性服务。...在金融场景,你没有办法去估量——假如错一条数据,到底这条数据是1分钱还是1个亿,所以数据强一致是我们最根本一个特性。不允许丢,不允许错,这是对数据库起码要求。 第二是金融高可用。...三、TDSQL金融特性之:数据强一致性保障 前面我们了解了TDSQL整体架构和核心特性。接下来我们要重点聊一聊它最重要特性——作为金融场景下不可或缺数据强一致性保障。

6.1K43

腾讯TDSQL:带你认识真正金融自主可控分布式数据库

实际上,腾讯推出 TDSQL(TencentDistributed SQL) 金融分布式数据库,在对内支撑微信红包业务同时,对外也正在为中国金融行业技术自主可控分布式数据库解决方案 作为国内首家互联网银行...目前 TDSQL 已正式通过腾讯金融对外输出金融分布式数据库产品服务,除了微众银行,腾讯分布式数据库 TDSQL 还支撑着华通银行、华夏银行、潍坊银行、内蒙金谷农商银行、北京人寿、爱心人寿等众多银行和保险公司互联网核心生产系统...全局事务一致性与全局时间戳服务 GTM 金融行业对事务处理需求极高,转账、扣费,无一不是使用事务,而腾讯是少数几个将分布式事务处理,分布式 JOIN 用于金融核心系统企业。...而在容灾能力方面,TDSQL 可以支持: 同城数据强一致下双活:当前腾讯公有云和金融有大量客户都选择了类似方案。...金融业务数据库发展及展望 金融业务涉及国计民生重点业务,一个小小 BUG,一个操作失误,就可能影响到数以万计百姓资产准确性。正因为这样责任,腾讯 TDSQL 团队始终坚守则“本心”。

4.1K30

七位腾讯技术专家,全面解析七大项目开源实践与社区治理经验

讲师简介:徐迪,腾讯技术专家,Clusternet 项目创始人,Kubernetes 社区全球 Top 50 贡献者,现主要负责分布平台研发工作。...PART THREE 演讲三:《腾讯百万服务发现和治理实践》 演讲时间:10月30日 15:00~15:30     #计算分论坛 演讲摘要:当前各个不同企业及业务在应用开发过程中,会选择异构框架...讲师简介:单家骏,腾讯中间件高级工程师,曾就职于华为中间件部门。2019 QCon 大会微服务专场演讲嘉宾。目前就职腾讯,负责微服务治理产品建设。...参与设计、开发和带领团队完成过大量关于企业管理、金融数据处理、商务智能、移动互联网、供应链金融等相关项目。...目前主要涉及开源项目包含 RocketMQ、Clickhouse、Doris,著有《 RocketMQ 分布消息中间件:核心原理与最佳实践》,对数据流、OLAP 技术感兴趣。

90640

腾讯 TSF 和 TDMQ 产品获评“2021-2022年度中国优秀创新软件”!

基于深厚自主技术研发实力和创新产品功能,腾讯微服务平台TSF 和消息队列 TDMQ 产品获得与会专家一致认可,入选“2021-2022年度中国优秀创新软件产品”,体现了腾讯中间件产品在基础软件和平台支撑软件细分领域自主创新能力...TSF 产品介绍 腾讯微服务平台TSF是一款面向企业集资源管理、微服务开发、服务治理和服务运维为一体 PaaS 平台,为企业构建微服务架构应用提供应用全生命周期管理、服务治理、统一配置管理、调用链跟踪...TDMQ 产品介绍 腾讯分布消息队列软件(Tencent Distributed Message Queue,简称TDMQ)是一个原生消息队列中间件系列,为分布式应用系统提供异步解耦和削峰填谷能力...腾讯分布消息队列TDMQ 公有企业用户数 2000+,在腾讯内部每日支撑了30亿+消息,私有交付实施项目包括90+大中型企业,广泛应用于金融、政府、医疗、泛互等行业和领域。...(干货分享之一)》 《腾讯消息队列产品3月产品动态》 《腾讯微服务产品3月产品动态》 《万字干货:Kafka 高可靠高性能原理探究》 《解决异构系统集成难题,富融银行这样做》 《Apache

1K30

CKafka系列学习文章 - 对比RabbitMQ、RocketMQ、TDMQ-CMQ、kafka和Ckafka(二)

Raft 可用性 可用性很高,主从自动切换,腾讯消息服务承诺可用性99.95% 可用性高,主从自动切换,但由于异步刷盘和复制,切换后可能会丢消息 主备自动切换,用 mirror queue 支持m/...不支持 不支持 支持 安全防护 支持 不支持 不支持 不支持 支持 监控告警 支持 不支持 不支持 不支持 支持 服务支持 支持 不支持 不支持 不支持 支持 二、用CVM自建Kafka集群和腾讯...支持私有化部署 支持金融、政企客户私有化部署,保障客户私密数据。同时支持客户IDC机房接入公有kafka混合模式。...Ckafka和CMQ都作为消息中间件都支持集群部署、高吞吐量、强一致等特性,那这两款产品最主要区别是什么,分别更适合哪些场景使用?...for CMQ,简称 TDMQ CMQ 版)是一种分布消息队列服务,它具有可靠、基于消息异步通信机制,能够将分布式部署不同应用(或同一应用不同组件)中信息传递,存储在可靠有效消息队列中,防止消息丢失

4.3K74

腾讯消息队列 TDMQ Pulsar 版商业化首发|持续提供高性能、强一致消息服务

导语 2021年12月1日,腾讯分布消息队列 TDMQ Pulsar 版正式商业化。...金融分布消息中间件 消息队列 TDMQ Pulsar 版是一款基于 Apache Pulsar 自研金融分布消息中间件,具备高一致、高可靠、高并发特性,可为分布式应用系统提供异步解耦和削峰填谷能力...TDMQ Pulsar 版是一款经历了3年千亿交易流水考验消息队列,也是目前真正做到计算与存储分离消息队列,从架构上实现了原生无状态,更加迎合Serverless趋势。...高性能低延迟 TDMQ Pulsar 版能够高效支持百万消息生产和消费以及海量消息堆积,支撑了腾讯计费所有场景;性能方面,单节点可承载 QPS 超过10万,同时在时耗方面有保护机制确保低延迟。...Pulsar 版,轻松上,享受腾讯提供 7*24小时专业消息队列服务支持,享受高可用消息队列服务,无需关注运维细节。

1.4K30
领券