首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

腾讯开源万亿分布消息中间件 TubeMQ

beMQ 是腾讯在 2013 年自研的分布消息中间件系统,专注服务大数据场景下海量数据的高性能存储和传输,经过近 7 年上万亿的海量数据沉淀,目前日均接入量超过 25 万亿条。...变更及查询实现了完整的自动化闭环管理,减轻了系统维护的复杂度; 服务器侧消费负载均衡 Tube MQ 采用的是服务侧负载均衡的方案,而不是客户端侧操作,提升系统的管控能力同时简化客户端实现,更便于均衡算法升级; 系统行锁操作...对于 Broker 消息读写中存在中间状态的并发操作采用行锁,避免重复问题; Offset 管理调整 Offset 由各个 Broker 独自管理,ZK 只作数据持久化存储用(最初考虑完全去掉 ZK...依赖,考虑到后续的功能扩展就暂时保留); 消息读取机制的改进 Tube MQ 采用的是消息随机读取模式, 同时为了降低消息时延又增加了内存缓存读写, 对于带 SSD 设备的机器, 增加消息滞后转 SSD...消费时延分级保证、消费限流控制,以及数据拉取频率控制等; 系统安全管控 根据业务不同的数据服务需要,以及系统运维安全的考虑,Tube MQ 系统增加了 TLS 传输层加密管道,生产和消费服务的认证、授权,以及针对分布式访问控制的访问令牌管理

1.5K60

腾讯万亿分布消息中间件TubeMQ正式开源

TubeMQ是腾讯在2013年自研的分布消息中间件系统,专注服务大数据场景下海量数据的高性能存储和传输,经过近7年上万亿的海量数据沉淀,目前日均接入量超过25万亿条。...系统行锁操作 对于Broker消息读写中存在中间状态的并发操作采用行锁,避免重复问题; 5. ...消息读取机制的改进 Tube MQ采用的是消息随机读取模式,同时为了降低消息时延又增加了内存缓存读写,对于带SSD设备的机器,增加消息滞后转SSD消费的处理,解决消费严重滞后时吞吐量下降以及SSD磁盘容量小...系统安全管控 根据业务不同的数据服务需要,以及系统运维安全的考虑,Tube MQ系统增加了TLS传输层加密管道,生产和消费服务的认证、授权,以及针对分布式访问控制的访问令牌管理,满足业务和系统运维在系统安全方面的需求...客户端改进 基于业务使用上的便利性以,我们简化了客户端逻辑,使其做到最小的功能集合,我们采用基于响应消息的接收质量统计算法来自动剔出坏的Broker节点,基于首次使用时作连接尝试来避免大数据量发送时发送受阻

1.1K72
您找到你想要的搜索结果了吗?
是的
没有找到

云上11.11 | 腾讯移动推送,1.1折秒杀,单2.5折起,复2.8折起,速抢!

轻松Get全场福利 首月秒杀 1.1折、新客 2.5折起 老客回购/新客复 2.8折起 朋友们,拼手速的时间到啦! 移动推送是什么?...系统消息/社交提醒/电商促销/内容订阅/APP消息中心都能用,移动推送已经服务200+国家和地区,日推送超500亿,并稳定服务王者荣耀/腾讯视频等高日活应用,电商/金融/游戏/教育等各行业都在用!...已参与活动的新客户想重复购买?都可以!新老客户不限,2.8折起!购买的服务时长越长,优惠力度越大。...速抢 扫码立即参与活动↓ 轻松高效触达用户 11.11移动推送会场 文创/电商/游戏/金融行业都在用 日推送超500亿,用户促活超easy 关注腾讯云大数据公众号 邀您探索数据的无限可能 点击阅读原文,...即可抵达活动现场 ↓↓↓

19950

高并发系列:存储优化之也许可能是史上最详尽的分库分表文章之一

1.1苏宁拼百万库表拆分之前[1] 苏宁拼,苏宁易旗下的电商App,18年7月累计用户突破3000万。 ?...图片来源于QCon大会PPT 面对千万日活 + 千万日新增SKU + 千万日均订单,拼的单库每天增长数据超1亿,峰值10万QPS并发,每个月要搞一次数据迁移。...而随后而来的价格战、大量抢购的活动开展,订单数据库很快难以支撑,只能用限流、消息队列削峰填谷对其进行保护,才能勉强维持日常数据读写需求。...分布式事务的方式很多,TCC、本地事务表+事务消息、最大努力通知,saga等等,之前有篇写我们自研的saga长事务引擎的文章,有兴趣的可以看下。 (2)程序+业务逻辑。...架构优化:消息中间件的妙用 1.4. 存储优化:mysql的索引原理和优化 1.5. 本文:存储优化:详解分库分表 image.png

56230

2023腾讯全球数字生态大会微服务与消息队列专场来啦

腾讯云微服务与消息队列专场 开箱即用的云上全场景中间件解决方案 9月7日,40+专场活动将在线上掀起一股科技飓风,为大家带来一场前沿科技的盛宴。...作为腾讯云的分布消息中间件,TDMQ RocketMQ版具备低延迟、高性能、高可靠、万亿消息容量和灵活可扩展等特点。...嘉宾介绍:纪宇鹏,腾讯云分布消息队列 TDMQ 产品经理,拥有多年云计算产品设计经验,主导并参与多款消息队列产品的设计和商业化工作,帮助企业客户在分布式架构下更好地利用消息队列满足业务需求,致力于将开源技术红利和架构优势应用到商业化产品中...嘉宾介绍:汪彬彬,腾讯云高级解决方案架构师,10年+IT从业经验,曾在传统软件公司、金融机构、互联网金融公司等企业工作。...专场议程 这场会议不仅将为您呈现最新的云计算和中间件技术,还将提供宝贵的实践经验和成功案例。无论您是中间件爱好者、开发者还是企业决策者,都不容错过这个令人期待的活动

50820

腾讯云中间件产品面对疾风吧——TVP吐槽大会第4期

KV.jpg 为了更好地服务使用微服务架构进行软件设计的企业,腾讯云中间件产品基于腾讯在微服务、消息队列领域多年的技术积累,提供了功能强大、兼容并包、生态开放的云原生分布式微服务解决方案和消息队列服务...全方位打造出6款优秀产品:微服务平台 TSF、消息队列CKafka、金融消息队列TDMQ、微服务观测平台 TSW、微服务引擎TSE、分布式事务DTF,全面布局云原生领域产品矩阵。...另外,腾讯云还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》的编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》的讨论与制定。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模的应用,但是用户在使用的过程中,到底是什么感受呢?...为了打造用户更为喜爱的技术产品,TVP首创了技术圈吐槽形式的活动——TVP吐槽大会。

1K91

腾讯云中间件产品面对疾风吧——TVP吐槽大会第4期

KV.jpg 为了更好地服务使用微服务架构进行软件设计的企业,腾讯云中间件产品基于腾讯在微服务、消息队列领域多年的技术积累,提供了功能强大、兼容并包、生态开放的云原生分布式微服务解决方案和消息队列服务...全方位打造出6款优秀产品:微服务平台 TSF、消息队列CKafka、金融消息队列TDMQ、微服务观测平台 TSW、微服务引擎TSE、分布式事务DTF,全面布局云原生领域产品矩阵。...另外,腾讯云还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》的编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》的讨论与制定。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模的应用,但是用户在使用的过程中,到底是什么感受呢?...为了打造用户更为喜爱的技术产品,TVP首创了技术圈吐槽形式的活动——TVP吐槽大会。

87040

【金猿信创展】恒生电子——全栈式信创解决方案,助力金融信创行稳致远

核心技术及产品突破 1、分布式微服务中间件Light-JRES Light-JRES是面向金融领域的企业应用快速开发平台和多系统融合平台,既减轻对基础设施的依赖,又从业务上具备可复用、可扩展、高安全的特性...JRES中间件是实现对通用技术组件的服务化,譬如:分布式缓存、消息队列、分布式事务等等,通过应用共享以及多租户隔离实现技术组件最大程度复用,降低系统的资源消耗让技术组件和业务公共模块下沉,从而做到支持业务的快速创新和迭代...2、分布式低延时中间件Light-LDP Light-LDP是具有集低延时、分布式解耦、灵活开放等特点的开发平台,支持金融机构微秒业务应用,主要面向券商自营、券商资管以及券商机构业务的策略交易、算法交易...3、金融分布式数据库LightDB LightDB是一款支持在线事务处理与在线分析处理的融合型分布式数据库,具备SQL兼容性高、容量弹性伸缩、金融高可用、现代硬件融合、纯内存计算等核心特性,适用于对可用性...LightDB具有“更快、更稳、更懂金融”的企业特性:采用单机分布式一体化架构,同时支持集中式和分布式部署,在长时间高负载压测下抖动很低;性能方面,在同机房高可用信创软硬件下、单节点进行证券典型订单TPS

91830

鹅厂中间件产品遭遇暴风吐槽

为了更好地服务使用微服务架构进行软件设计的企业,腾讯云中间件产品基于腾讯在微服务、消息队列领域多年的技术积累,提供了功能强大、兼容并包、生态开放的云原生分布式微服务解决方案和消息队列服务。...全方位打造出7款优秀产品:微服务平台 TSF、消息队列CKafka、金融消息队列TDMQ、微服务观测平台 TSW、弹性微服务 TEM、微服务引擎TSE、分布式事务DTF,全面布局云原生领域产品矩阵。...另外,腾讯云还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》的编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》的讨论与制定。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模的应用,但是用户在使用的过程中,到底是什么感受呢?...为了打造用户更为喜爱的技术产品,TVP首创了技术圈吐槽形式的活动——TVP吐槽大会。

88620

鹅厂中间件产品遭遇暴风吐槽!

为了更好地服务使用微服务架构进行软件设计的企业,腾讯云中间件产品基于腾讯在微服务、消息队列领域多年的技术积累,提供了功能强大、兼容并包、生态开放的云原生分布式微服务解决方案和消息队列服务。...全方位打造出7款优秀产品:微服务平台 TSF、消息队列 CKafka、金融消息队列 TDMQ、微服务观测平台 TSW、弹性微服务 TEM、微服务引擎 TSE、分布式事务 DTF,全面布局云原生领域产品矩阵...另外,腾讯云还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》的编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》的讨论与制定。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模的应用,但是用户在使用的过程中,到底是什么感受呢?...为了打造用户更为喜爱的技术产品,TVP 首创了技术圈吐槽形式的活动—— TVP 吐槽大会。

75320

Serverless 云函数支持 TDMQ 触发器 - 更高效的消息队列触发方式

Serverless 与消息队列生态结合 消息队列 MQ 是 Serverless 事件驱动场景下必要的解耦中间件也是云函数最重要的触发源之一。...TDMQ 是一款基于 Apache 顶级开源项目 Pulsar 自研的金融分布消息中间件。...TDMQ 提供丰富的消息类型,涵盖普通消息、顺序消息(全局顺序 / 分区顺序)、分布式事务消息、定时消息,满足各种严苛触发器函数的场景下的高级特性需求。...削峰填谷 企业不定时举办的一些营销活动,新品发布上线,节日抢红包等等,往往都会带来临时性的流量洪峰,这对函数并发的考验是十分巨大的。...扫码即可免费体验 免费体验路径:云产品体验->基础->消息队列CKafka 消息队列TDMQ 一款基于 Apache 顶级开源项目 Pulsar 自研的金融分布消息中间件

3.7K20

余军:分布式数据库在金融行业的创新实践

Google Spanner F1 - 第一个真正意义上 NewSQL 数据库 全球分布式关系型数据库,数十万机器组成一个超大的数据库集群。...基于 2014 年 Stanford 工业分布式一致性协议实现 Raft 博士论文,已成为事实工业标准。...OLTP - 直销金融:营销活动平台 TiDB 的解决之道: 面向业务应用侧,完全采用了兼容 MySQL 的协议,应用迁移低成本,低风险,且迁移周期极短,满足 了用户的周活动间隔的变更窗口要求。...一键式的在线扩容和缩容,活动高峰前/中/后阶段,均可以灵活的高度自动化的调配资源进行适配。 强壮的高可用设计,没有单点故障的架构保证营销活动的顺利开展。 2....OLAP - 交易监控:实时交易监察与监控平台 TiDB 的解决之道: 利用消息中间件,将交易系统的交易记录和撮合日志,流式写入 TiDB,利用 TiDB 的分布式存储,高性能 数据写入和弹性存储。

1.8K102

腾讯云消息队列 TDMQ Pulsar 版商业化首发|持续提供高性能、强一致的消息服务

导语 2021年12月1日,腾讯云分布消息队列 TDMQ Pulsar 版正式商业化。...金融分布消息中间件 消息队列 TDMQ Pulsar 版是一款基于 Apache Pulsar 自研的金融分布消息中间件,具备高一致、高可靠、高并发特性,可为分布式应用系统提供异步解耦和削峰填谷的能力...TDMQ Pulsar 版是一款经历了3年千亿交易流水考验的消息队列,也是目前真正做到计算与存储分离的云消息队列,从架构上实现了云原生无状态,更加迎合Serverless的趋势。...削峰填谷 企业不定时举办的一些营销活动,如新品发布上线,节日抢红包等,往往都会带来临时性的流量洪峰,这对后端的各个应用系统考验是十分巨大的,如果直接采用扩容方式应对又会带来一定的资源浪费。...》 《单元化架构在金融行业的最佳实践》 《服务器又崩了?

1.3K30

云上11.11|腾讯云大数据产品双11盛惠 爆品单1折起大回馈

云上盛惠 多款大数据产品特惠专场 腾讯云BI、 Elasticsearch Service、 流计算 Oceanus、腾讯云数据仓库 TCHouse-D、移动推送、数据湖计算 DLC 首月秒杀1元起、新客...4.移动推送:安全快速稳定的移动消息推送服务,支持 App 推送、应用内消息等多种消息类型,有效提升用户活跃度。...6.流计算 Oceanus:基于 Apache Flink 构建的企业实时大数据分析平台,具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点。...02 新客单优惠 单福利 快薅羊毛 专为产品新客户打造的单专属福利,单产品每人限购1个。“1月/6月/1年/2年”多种时长供您选择,多种规格任您匹配,满足不同行业、不同业务量的企业需求。...已参与活动的新客户想重复购买?全都满足你!此模块新老客户均可购买!

30140

腾讯云消息队列Ckafka和TDMQ选型问题

网页追踪场景: 消息队列 CKafka 通过实时处理网站活动(PV、搜索、用户其他活动等),并根据类型发布到 Topic 中,这些信息流可以被用于实时监控或离线统计分析等...由于每个用户的 page view 中会生成许多活动信息,因此网站活动跟踪需要很高的吞吐量,消息队列 CKafka 可以完美满足高吞吐、离线处理等要求。...腾讯云TDMQ TDMQ是一款基于 Apache 顶级开源项目 Pulsar 自研的金融分布消息中间件。...2、流式处理和队列的结合,高性能、支持跨域复制; 3、支持百万级别Topic数量扩展; image.png TDMQ产品特性: 1、具有强一致性,满足金融场景...image.png Ckafka与TDMQ选项总结 Ckafka与TDMQ都是腾讯云主打的消息队列中间件,都具有高性能,高可靠,支持多种场景。

8.3K138

腾讯云中间件产品月报(第1期)

为便于读者了解腾讯云中间件产品的最新动态,腾讯云中间件推出产品月报专栏,每月一期。本月的三项动态如下: 1....发布两款新产品:基于Apache Pulsar自研的金融消息队列TDMQ、分布式事务DTF; 3. 孵化产品动态:一款高性能、高可靠的通用分布式任务调度中间件,预计8月底实现产品独立化。...扫码了解更多消息队列CKafka的信息 ●新款产品动态● 消息队列TDMQ 产品介绍: 一款基于 Apache 顶级开源项目 Pulsar 自研的金融分布消息中间件,业内款Serverless...扫码了解更多消息队列TDMQ的信息 分布式事务DTF 产品介绍:强一致、高性能、高可用的分布式事务服务,接入简单,轻松管理高并发交易。...扫码了解更多分布式事务DTF的信息 ●孵化产品动态● 分布式任务调度 产品介绍:一款高性能、高可靠的通用分布式任务调度中间件,通过指定时间规则严格触发调度任务,保障调度任务的可靠有序执行。

1K30

揭秘:2018阿里双11秒杀背后的技术

分布消息引擎 在双11当天实现万亿消息流转。 3. Docker技术 交易核心应用容器化撑起双11交易下单峰值,解放资源的超大规模Docker化技术。 4....前端技术 应对前端极限挑战的淘宝直播屏秒开,以及应用世界开源跨平台移动开发工具Weex实现双11会场几近全覆盖,实现全网屏渲染完美践行“秒开”体验。 8....监控技术 千万量级监控项,PB监控数据,亿报警通知背后的技术。 9....充分利用消息中间件削峰 这里有相关的阿里消息中间件(Notify和MetaQ),以及开源的(ActiveMQ、Kafka等)。...现在对数据库的拆分,都是利用数据库层中间件(淘宝 tddl),来进行无缝对数据库的侵入设计。 除此以外还会涉及到分布式小文件存储以及搜索引擎,以及服务器集群监控等技术。

4.6K30

【火热报名中】Techo Hub技术巡回武汉站-云原生专场

活动时间:7月24日(周六)13:00 ~ 17:05 活动地点:武汉市江汉区中央商务区泛海国际SOHO城6号楼9层 邂尔孵化器  议题介绍 演讲嘉宾:童子龙,腾讯云中间件高级工程师 演讲主题:云原生微服务治理架构深度解读和实践...沙龙议程 免费体验馆 消息队列CKafka 分布式、高吞吐量、高可扩展性的消息服务,具备数据压缩、同时支持离线和实时数据处理等优点。...扫码即可免费体验 免费体验路径:云产品体验->基础->消息队列CKafka 消息队列TDMQ 一款基于 Apache 顶级开源项目 Pulsar 自研的金融分布消息中间件。...适用于微服务架构中的服务注册发现、分布式配置、分布式协调、服务治理等场景。...弹性微服务帮助用户创建和管理云资源,并提供秒弹性伸缩,用户可按需使用、按量付费,极大程度上帮用户节约运维和资源成本。让用户充分聚焦企业核心业务本身,助力业务成功。

1.1K30

11.11 | 移动推送BIES云数仓Doris智能数据分析,19.9元秒杀,单2.5折起,大数据爆品速抢!

11.11云上盛惠 多款大数据产品年终钜惠 移动推送、商业智能分析BI 智能数据分析、Elasticsearch Service 云数据仓库for Apache Doris 首月秒杀 19.9元、新客... 2.5折起 老客回购/新客复 2.8折起 ←扫码立即参与活动 后抽奖 100%中奖率 iPad Air 、Switch 游戏机 妲己机器人、虎年公仔、代金券 快速了解产品 1.移动推送:安全快速稳定的移动消息推送服务...,支持 App 推送、应用内消息等多种消息类型,有效提升用户活跃度。...02 新客单特惠 单福利 快薅羊毛 专为产品新客户打造的单专属福利,单产品每人限购1个。“1月/6月/1年/2年”多种时长供您选择,多种规格任您匹配,满足不同行业、不同业务量的企业需求。...已参与活动的新客户想重复购买?全都满足你!此模块新老客户均可购买!

21K30

无例可循,双十一倒逼出中国互联网「三高架构」

随着「双十一」进入第 14 个年头,这一现象的标志性活动在很大程度上已经融入国人的日常生活,因而显得不再那么特殊——打折促销天天有,满减秒杀是基操,消费者已经习惯了随时随地都能下单,同城快递隔天就到。...高可用架构演进 这些年来,随着业务特点和规模的发展变化,尤其在历届双十一的极端需求倒逼之下,例如从应对 0 点的单一流量洪峰到满足多平台支付需求和效率,支付宝完成了数次大的架构演进,逐渐形成了一套包括金融分布式交易...第一阶段:转型分布式 SOA 架构,成为互联网电商支付工具 支付宝最初服务于淘宝网,用担保交易和支付这一项功能打开了用户网的习惯,从 2005 年起开始服务整个互联网的电商支付。...第三阶段:异地多活架构,流量弹性伸缩 金融产品对稳定性有极高的要求,需要加速实现金融异地多活的高可用架构。...正是因为一次次双十一的倒逼创新,支付宝的实践证明在金融中间件、数据库和云计算平台的支持下,分布式架构完全能够胜任复杂、高要求的金融交易。

3.1K20
领券