首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

百万 Topic,腾讯的 Apache Pulsar 稳定性实践

作者 | 冉小龙 Apache Pulsar 作为原生时代消息流系统,采用存储计算分离架构,支持大集群、多租户、百万 Topic、跨地域数据复制、持久化存储、分层存储、高可扩展性等企业和金融功能...在实际的生产实践中,腾讯针对 Apache Pulsar 做了一系列的性能优化和稳定性功能方面的工作,来保障用户在不同的场景下系统的稳定高效的运行。...本文围绕腾讯近一年在 Pulsar 稳定性和性能方面优化最佳实践。 Pulsar 在腾讯百万 Topic 上的应用 为什么选择在生产环境中使用 Pulsar?...同时,腾讯云团队也在参与社区贡献中,和社区讨论以下重要问题并探索相关解决方案,如客户端超时时间内的重试策略,借鉴其他 MQ 的思路进行改进,尝试在客户端加入超时重试策略,通过多次重试机制来避免发送失败的情况发生...作者介绍 冉小龙,腾讯高级研发工程师,Apache Pulsar Committer,RoP maintainer,Apache Pulsar Go Client、Pulsarctl 与 Go Functions

1K30

腾讯仪征数据中心开服,江苏“百万数据中心集群逐步落地

12月15日,腾讯仪征数据中心正式开服投产。该数据中心计划部署超过30万台服务器,是目前腾讯在华东地区最大的自建数据中心,也是腾讯在江苏建设容纳百万台服务器数据中心集群规划中首个投产的数据中心。...仪征数据中心将上线计算、大数据、人工智能、区块链、物联网等腾讯全系列计算产品服务,并与华东区域已有数据中心形成数据中心互联平台。...此次腾讯仪征数据中心开服,标志着腾讯江苏“百万数据中心集群开始落地。这也是继在华南投产清远数据中心后,腾讯持续布局新基建的又一个大动作。...此外,仪征还将聚焦国家、省市级工业互联网专家资源,不定期举办大型研讨会和现场会,导入腾讯工业互联网生态、工信部和其他省市成功案例资源,构建国家示范展示基地。...后续,腾讯(仪征)工业基地还将探索采用腾讯先进的5G、人工智能、大数据、物联网、边缘计算等技术,为仪征数字政府、数字城市建设提供解决方案。 ?

3.4K30
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    腾讯实时音视频TRTC百万用户并发解决方案

    超大规模的突发流量 集中的时间段内、上百万用户的并发的流量,对整个实时音视频系统设计提出非常高的要求。...腾讯实时音视频TRTC作为PaaS服务稳定承载了百万用户并发、数以亿计的用户的实时音视频互动业务,帮助在线教育、远程会议等场景抗住了核心音视频系统流量洪峰。...并且依托于整个腾讯的基础设施,十天内扩容超过10万台主机,共涉及超百万核的计算资源投入,这要求从供应链、底层基础设施、上层服务非常强大的能力和反应速度,在整个计算也是史无前例的。...通话质量透明可回溯 实时音视频TRTC为开发者提供“监控仪表盘”,全链路通话质量数据覆盖,可视化操作界面、简易操作体验,辅助开发者快速定位设备问题、网络问题、用户行为、数据调整策略等音视频质量问题。...了解更多关于腾讯实时音视频(TRTC)的信息, 请扫描下方二维码即可体验 TRTC 官方Demo。

    2K23

    腾讯 Serverless 企业解决方案正式发布

    腾讯 2020 Techo Park 开发者大会上,围绕新形势下的技术变革与趋势,腾讯展示了其在计算、大数据、人工智能等众多领域的最新技术、最新成果、以及最佳实践。...腾讯将围绕成本、安全、创新、工具,以及智能等维度,持续加大基础设施投入规模和自研技术创新力度,通过构建、边、端一体化产品和服务体系,为千百万开发者一站式提供设计、开发、测试、运维完整产品矩阵,助力开发者提升效率...Serverless 应用已进入企业时代 在 12 月 20 日的 Techo Park 开发者大会上,腾讯正式对外发布 Serverless 企业解决方案。...作为 Serverless 专场论坛出品人,腾讯 Serverless 总经理兼首席架构师 Yunong Xiao 从 Serverless 生态、Tencent Serverless 企业解决方案到研发效率的提升给观众带来了一场精彩的分享...ETL 解决方案; HTTP 服务,不仅支持主流 Web 框架,同时引入了 Serverless Component,是一种全流程可监控,并且实现了 1ms 计费粒度的企业解决方案

    1.2K30

    腾讯数据迁移工具解决方案:阿里迁移到腾讯

    Agent代理模式会在源端KVM虚拟机操作系统内部安装,主要用来通过旁路拦截来捕获IO的来记录数据的变化块,并及时将增量块数据读取并传输至目标腾讯侧进行存储。...迁移到的目标腾讯,HyperMotion迁移产品也是面向于原生设计,所有目标腾讯的操作,通过底层API接口封装自动化调用腾讯接口实现资源调度,无需过多人为介入,简单易操作。...批量选择加入到HyperMotion迁移平台,需要同步的虚拟机,下一步 7.png 选择目标腾讯磁盘配置,同步网关就是前边添加目标平台是自动创建接收数据的代理,同步数据时只会产生块磁盘,不会有计算资源产生...8.png 指定目标腾讯并选择配置之后,就可以批量勾选来同步数据。 9.png 数据同步时会产生进度条,来展示数据拷贝的相关信息及预计剩余的时间。...虚拟机数据同步完成后,就可以批量勾选启动主机 10.png 填写在目标腾讯启动迁移主机时所需要的计算网络等相关配置。 11.png 迁移到腾讯成功机器会显示腾讯主机的相关信息。

    10.1K20

    腾讯数据迁移工具解决方案:华为迁移到腾讯

    Agent代理模式会在源端KVM虚拟机操作系统内部安装,主要用来通过旁路拦截来捕获IO的来记录数据的变化块,并及时将增量块数据读取并传输至目标腾讯侧进行存储。...迁移到的目标腾讯,HyperMotion迁移产品也是面向于原生设计,所有目标腾讯的操作,通过底层API接口封装自动化调用腾讯接口实现资源调度,无需过多人为介入,简单易操作。...批量选择加入到HyperMotion迁移平台,需要同步的虚拟机,下一步 7.png 选择目标腾讯磁盘配置,同步网关就是前边添加目标平台是自动创建接收数据的代理,同步数据时只会产生块磁盘,不会有计算资源产生...8.png 指定目标腾讯并选择配置之后,就可以批量勾选来同步数据。 9.png 数据同步时会产生进度条,来展示数据拷贝的相关信息及预计剩余的时间。...虚拟机数据同步完成后,就可以批量勾选启动主机 10.png 填写在目标腾讯启动迁移主机时所需要的计算网络等相关配置。 11.png 迁移到腾讯成功机器会显示腾讯主机的相关信息。

    9.7K20

    揭秘腾讯Supermind智能网络,百万设备的网络高效运维

    轻松应对百万设备的网络高效运维,释放AI强大原力。...腾讯利用基于Hadoop体系的MapReduce、HIVE、PIG、SPARK等大数据套件对海量链路的数据抽取、转换、加载、建模、分析、报表呈现,强大数据分析与探索挖掘能力,让腾讯可快速对PB规模下的网络数据进行可视化的数据分析探索...网络质量的生命线,虽然面对网络拓扑层次多,差异大,架构频繁动态变更,规模和复杂性成指数增长的挑战,腾讯必须保证监控数据是全覆盖、多维、实时的。...一般问题自动处理,重大故障专业建议 随着用云量和计算量成指数增长,腾讯面临的是海量的运维数据和极其复杂的上网络运维场景,机器学习算法与云端网络运维业务整合是必然趋势。...利用大数据套件的强大数据分析与探索挖掘能力,让腾讯可快速对租户PB规模下的大数据进行可视化的数据分析探索,在纷繁复杂的运维数据中快速获取洞察力,通过人工智能对异常捕捉、故障判断、修复操作等依靠人力决策的环节进行持续学习和自动化响应

    3.8K32

    百万 Topic,Apache Pulsar 在腾讯的稳定性优化实践

    作者与主要维护者 Apache Pulsar 作为原生时代消息流系统,采用存储计算分离架构,支持大集群、多租户、百万 Topic、跨地域数据复制、持久化存储、分层存储、高可扩展性等企业和金融功能...在实际的生产实践中,腾讯针对 Apache Pulsar 做了一系列的性能优化和稳定性功能方面的工作,来保障用户在不同的场景下系统的稳定高效的运行。...本文围绕腾讯近一年在 Pulsar 稳定性和性能方面优化最佳实践。 Pulsar 在腾讯百万 Topic 上的应用 为什么选择在生产环境中使用 Pulsar?...同时,腾讯云团队也在参与社区贡献中,和社区讨论以下重要问题并探索相关解决方案,如客户端超时时间内的重试策略,借鉴其他 MQ 的思路进行改进,尝试在客户端加入超时重试策略,通过多次重试机制来避免发送失败的情况发生...》 《Spring Cloud Tencent 1.7 版本最新发布》 《腾讯微服务引擎 TSE 产品动态》 《千亿、大规模:腾讯超大 Apache Pulsar 集群性能调优实践》 《原生时代的

    97320

    E往无前 | 海量数据ES 扩展难?腾讯数据ES 扩展百万分片也“So Easy~”

    E往无前 | 海量数据ES扩展难?腾讯ES 扩展百万分片也“So Easy~” 导语:ES 以易用性与实效性著称,易用性得益于 ES 有稳健的分布式架构。...本文介绍 ES 分布式架构基础原理,剖析分布式元数据管理模型,并介绍腾讯 ES 在分布式扩展性层面相关的优化,解析代码基于 8.5 版本。...7.2.4 优化效果         在经过一系列全方位扩展性瓶颈优化之后,我们将集群的分片数扩展至百万,节点数扩展至数百上千。于此同时,我们也将部分热点瓶颈优化反馈给了社区。...最后结合集群扩展性的瓶颈介绍了腾讯在 ES 扩展性方面所做的相关优化,现阶段重点解决了元数据的扩展性,节点的扩展性后续还需持续优化以支持更大规模,目前腾讯 ES 内核已能满足绝大部分用户的扩展性需求。...顺畅体验上集群 推荐阅读 关注腾讯数据公众号 邀您探索数据的无限可能 点击“阅读原文”,了解相关产品最新动态 ↓↓↓

    47760

    视频干货|腾讯百万容器规模的原生平台设计与实践

    如果你没能亲临现场,没关系,我们的录播视频来啦~ 腾讯高级工程师宋翔也作为【原生技术应用】专题演讲嘉宾出席了大会,为大家带来”腾讯百万容器规模的原生平台设计与实践“的相关分享。...关注【腾讯原生】公众号,后台回复关键词【百万】可获得本次分享内容的演讲ppt。  ...往期精选推荐   SuperEdge v0.3.0 版本发布,更快捷部署,更强大的边缘自治能力 Kubernetes 降本增效标准指南 | 基于K8s 扩展机制构建上成本控制系统 腾讯内核&容器产品团队招聘啦...技术开放日PPT大放送 | 五星级的原生开发体验 SuperEdge 如何支持多地域 StatefulSets 及灰度 ?

    77610

    腾讯数据库回档解决方案

    作者介绍:李明,腾讯数据库架构师华南区负责人,曾在某专业数据库服务商、51job任职DBA。...若你是一名数据库DBA且使用的是腾讯数据库,用控制台点点按钮,后台帮你自动回档到任意时间点(具体参看官网文档),是不是为你节约了时间?...搜索关注“腾讯数据库”官方微信立得10元腾讯无门槛代金券,体验移动端一键管理数据库,学习更多数据库技术实战教程。...MySQL主实例;搜索关注“腾讯数据库”官方微信立得10元腾讯无门槛代金券,体验移动端一键管理数据库,学习更多数据库技术实战教程。...搜索关注“腾讯数据库”官方微信立得10元腾讯无门槛代金券,体验移动端一键管理数据库,学习更多数据库技术实战教程。

    7K41

    热门分享预告|腾讯百万容器规模的原生平台设计与实践

    腾讯高级工程师宋翔也将作为【原生技术应用】专题演讲嘉宾出席大会,为大家带来”腾讯百万容器规模的原生平台设计与实践“的相关分享。 01....演讲嘉宾介绍 宋翔  腾讯高级工程师 负责腾讯超大规模自研业务上的容器平台TKEx研发设计。...演讲主题 腾讯百万容器规模的原生平台设计与实践 03. 主题介绍 随着原生技术的逐步推广,越来越多业务开始使用原生容器化的方式去构建自己的应用。...本次演讲将从腾讯自研业务容器化中遇到的痛点问题开始,与大家分享腾讯内部的解决方案,并详细介绍如何通过平台建设、Kubernetes 二次开发、扩展 CRD 等方式,让应用平稳运行在 Kubernetes...听众收益 了解目前基于 Kubernetes 实现容器平台的现状与挑战 了解腾讯内部解决方案的思路和设计 了解高效平滑升级、高效弹性伸缩、集群负载优化的技术方案 了解如何使开发、运维同学减少容器平台的部署运维难度

    1.1K40

    腾讯面试:Kafka如何处理百万消息队列?

    腾讯面试:Kafka如何处理百万消息队列?在今天的大数据时代,处理海量数据已成为各行各业的标配。...但当面对真正的百万甚至更高量级的消息处理时,如何有效地利用 Kafka,确保数据的快速、准确传输,成为了许多开发者和架构师思考的问题。...本文将深入探讨 Kafka 的高级应用,通过10个实用技巧,帮助你掌握处理百万消息队列的艺术。引言在一个秒杀系统中,瞬时的流量可能达到百万级别,这对数据处理系统提出了极高的要求。...总结Kafka 在处理百万消息队列方面拥有无与伦比的能力,但要充分发挥其性能,需要深入理解其工作原理并合理配置。...通过本文介绍的10个实用技巧及其代码示例,相信你已经有了处理百万消息队列的信心和能力。

    23210

    如何快速创建百万测试数据

    场景 进行SQL优化或查询性能测试时,我们需要大量数据测试来模拟,这个时候引出一个问题:数据的创建 如何快速创建大量数据 创建数据无非几种操作下面一一列举; ~ 1 手动输入 (可忽略) ~ 2 使用编写好的存储过程和函数执行...(下面会有介绍) ~ 3 编写代码,通过代码插入数据 (例:使用mybatis的foreach循环插入..步骤多,速度慢) ~ 4 临时数据表方式执行 (强烈推荐,速度快,简单) 准备操作前提 首先...`idx_user_id` (`c_user_id`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4; 使用存储过程和内存表 我们先利用函数和存储过程在内存表中生成数据...-> $$ Query OK, 0 rows affected (0.01 sec) 调用存储过程 mysql> CALL add_t_user_memory(1000000); //添加的数据量...INT, PRIMARY KEY (id) ); python: python -c "for i in range(1, 1+1000000): print(i)" > base.txt 导入数据到临时表

    1.3K20

    快速构建Mysql百万测试数据

    说明 本文描述问题及解决方法同样适用于 腾讯 数据库 MySQL(TencentDB for MySQL,CDB)。...背景 在进行查询等操作的验证时,我们经常需要在线下环境构建大量的基础数据供我们测试,模拟线上的真实环境。 构建数据 这里我们快速构建一份测试数据,用来模拟实际生产中量级在100万的一张数据表。...创建内存表 利用 MySQL 内存表插入速度快的特点,我们先利用函数和存储过程在内存表中生成数据,然后再从内存表插入普通表中。...创建存储过程 创建插入数据的存储过程 MySQL [dts_demo]> CREATE DEFINER=`root`@`%` PROCEDURE `add_user_memory`(IN n int)...min 50.74 sec) 生产100万测试数据用时50秒,还是比较效率的。

    2.8K2217

    百万数据的导入导出解决方案

    ,而内存中存的都是最新的数据), 并且支持大型Excel文件的创建(存储百万数据绰绰有余)。...铺垫也做了不少,那么现在开始讲讲我在工作中遇到的超百万数据的导入导出解决方案: 想要解决问题我们首先要明白自己遇到的问题是什么?...针对3: 可以将300w条数据写到不同的Sheet中,每一个Sheet写一百万即可。 针对4: 不能一行一行的写入到Excel上,我们可以将分批查询的数据分批写入到Excel中。...3.3 300w数据导入 代码不重要首先还是思路 300W数据的导入解决思路 1、首先是分批读取读取Excel中的300w数据,这一点EasyExcel有自己的解决方案,我们可以参考Demo即可,只需要把它分批的参数...最起码简历上可以写上你处理过上百万数据的导入导出。

    2K20
    领券