首页
学习
活动
专区
工具
TVP
发布

腾讯技术工程官方号的专栏

专栏作者
1092
文章
2430155
阅读量
889
订阅数
十年前的微信消息收发架构居然是这样子的
2023 年,微信及 WeChat 的 DAU(月活用户)达到 13.4 亿,微信已经是很多人工作、生活中不可或缺的一个环节。从 2011 年 1 月 21 日上线至今,微信已经走过了 13 个年头,其背后的技术基座与架构也发生了巨大的变化。 这些变化背后,所折射的也正是中国互联网高速发展的黄金年代。腾讯云开发者社区特别策划了「十年前的技术」系列,带大家回顾那些明星项目背后最初的技术架构。好的架构是生长出来的,却也少不了良好的设计,愿各位读者都能从中获得启发,找到力量。
腾讯技术工程官方号
2024-04-17
2010
轻松上手的LangChain学习说明书
如今各类AI模型层出不穷,百花齐放,大佬们开发的速度永远遥遥领先于学习者的学习速度。。为了解放生产力,不让应用层开发人员受限于各语言模型的生产部署中..LangChain横空出世界。
腾讯技术工程官方号
2024-03-22
6860
分布式事务概述与项目实战
随着计算能力的提升、互联网的兴起、数据的分布和存储需求、容错性和可用性的要求、业务的分布和协同需求以及云计算和大数据技术的发展,分布式系统变得越来越重要,并在各个领域得到广泛应用。分布式系统由于机器宕机、网络异常、消息丢失、消息乱序、数据错误、不可靠的 TCP、存储数据丢失等原因面临一系列挑战,本文重点讲述分布式系统面临的挑战之一数据一致性问题。
腾讯技术工程官方号
2024-01-10
3140
热门通讯软件Discord万亿级消息存储架构
Discord 在创建之初采用的是一个单副本集的 MongoDB,没有使用 MongoDB 的分片,他们给出的理由是当时 MongoDB 分片很难用,而且不够稳定(这里就不去深究了)。消息数到达一亿条时,RAM 里已经存不下这么数据和索引,MongoDB 的延时开始变得不可控。
腾讯技术工程官方号
2023-10-23
5180
微信实验平台:全面拥抱湖仓时代
对比太过朴素的 Hive,兼容性不足的 THive,Iceberg 湖格式带来了极致的灵活性,给我们业务实现方案带来了新的优雅的解决思路。当前实验平台增量存储预算都已经收敛在 Iceberg 库上(20PB+),会逐步迁移“年久失修”的 THive,全面拥抱湖仓格式。
腾讯技术工程官方号
2023-10-19
3910
春节微信访问突发,存储业务如何平稳度过?
存储业务里面有很多访问突发的业务,其中微信就是一个典型的业务。微信承担了亿万用户的图片、视频和文件的收发,遇到特殊热点事件或者重大节假日,访问次数会突发10倍以上的增长。微信是一个海量的业务,平时机器的负载有限,实际运营中不可能预留10倍的Buffer,那么遇到传统节日春节的时候,我们是怎么平稳度过的呢?
腾讯技术工程官方号
2023-07-26
2570
消息队列二十年
2003 至今有很多优秀的消息队列诞生,其中就有被大家所熟知的就是 kafka、阿里自研的 rocketmq、以及后起之秀 pulsar。首先我们先来了解一下每一时期消息队列诞生的背景以及要解决的核心问题是什么?
腾讯技术工程官方号
2023-07-26
3480
微信万亿数据仓库架构设计与实现
安全业务的核心逻辑在安全策略中实现。整个的策略开发流程包括特征数据的收集,安全策略的编写实现,和策略的反馈评估。其中特征数据的收集是必不可少的环节,数据的质量将直接影响安全策略的效果。
腾讯技术工程官方号
2023-07-15
2900
如何设计一个海量任务调度系统
在日常开发中会经常遇到一些需要异步定时执行的业务诉求,典型的使用场景如:超时未支付订单关单、每隔 2h 更新好友排行榜、3.22 日 17 点《xx》剧上线等。目前业务侧多基于以下思路来快速搭建一个调度系统,mysql 或者 redis 队列存储待执行任务,通过 crontab 定时触发应用完成“捞取、计算、执行等操作”。不难看出存在几类亟待解决问题:
腾讯技术工程官方号
2023-07-15
8260
Elasticsearch核心应用场景-日志优化实践
日志领域是Elasticsearch(ES)最重要也是规模最大的应用场景之一。这得益于 ES 有高性能倒排索引、灵活的 schema、易用的分布式架构,支持高吞吐写入、高性能查询,同时有强大的数据治理生态、端到端的完整解决方案。但原生 ES 在高吞吐写入、低成本存储、高性能查询等方面还有非常大的优化空间,本文重点剖析腾讯云大数据 ES 团队在这三个方面的内核增强优化。
腾讯技术工程官方号
2023-07-15
5410
​深入浅出 ClickHouse 物化视图
数据库查询语言(query language)是数据库管理系统(DBMS)提供给用户和数据库交互的工具,查询语言分为三类 [^1]:
腾讯技术工程官方号
2023-07-15
1.4K0
大牛书单 | 缓存系列好书推荐
在计算中,缓存是一种存储数据的硬件或软件组件,以便可以更快地满足未来对该数据的请求;存储在缓存中的数据可能是早期计算的结果或存储在其他地方的数据副本。当可以在缓存中找到请求的数据时发生缓存命中,而当找不到时发生缓存未命中。缓存命中是通过从缓存中读取数据来提供的,这比重新计算结果或从较慢的数据存储中读取要快;因此,缓存可以处理的请求越多,系统执行的速度就越快。 为了具有成本效益并能够有效地使用数据,缓存必须相对较小。尽管如此,缓存已经在许多计算领域证明了自己,因为典型的计算机应用程序访问具有高度局部引用的数据
腾讯技术工程官方号
2023-04-01
5920
QQ音乐高可用架构体系
在分布式系统建设的过程中,我们思考的重点不是避免故障,而是拥抱故障,通过构建高可用架构体系来获得优雅应对故障的能力。QQ音乐高可用架构体系包含三个子系统:架构、工具链和可观测性。
腾讯技术工程官方号
2023-03-08
1.9K0
ClickHouse 查询优化详细介绍
作者:oliverdding,腾讯 CSIG 测试开发工程师 你想要的 ClickHouse 优化,都在这里。 ClickHouse 是 OLAP(Online analytical processing)数据库,以速度见长[1]。ClickHouse 为什么能这么快?有两点原因[2]: 架构优越 列式存储 索引 数据压缩 向量化执行 资源利用 关注底层细节 但是,数据库设计再优越也拯救不了错误的使用方式,本文以 MergeTree 引擎家族为例讲解如何对查询优化。 ClickHouse 查询执行过程 ⚠️
腾讯技术工程官方号
2023-01-09
1.9K1
腾讯财付通会计核算系统原理与架构
作者:shuangchen,腾讯 FiT 线后台开发工程师 财付通作为业界领先的第三方支付公司,一直致力于为互联网用户和各类企业提供安全便捷的在线支付服务,本文将介绍财付通如何通过会计核算系统来保障财付通亿万资金安全。 1. 背景 1.1. 财付通资金账务系统介绍 1.1.1. 账户体系 财付通作为业界领先的第三方支付公司,一直致力于为互联网用户和各类企业提供安全便捷的在线支付服务。财付通为用户或商户创建支付账户,用于承载用户或商户资金余额以及余额变动情况。财付通资金账务系统中,按账户属性分为现金账户、交易
腾讯技术工程官方号
2022-12-29
2.9K0
Git 全功能介绍
作者:xqkuang,PCG 前端开发工程师 Git 历史和现状 Git 是 Linux 作者 Linus 的另一个作品。2002 年他还在使用 Bitkeeper 作为 Linux 内核的版本管理,但因为它是 Copyright 有版权的软件备受质疑,然后 Andrew Tridgell 对 Bitkeeper 进行逆向工程,导致 BitMover 要回收 Linux 开发者的 Bitkeeper 的免费使用权,Linus 一怒之下花了 10 天写出了 Git。 名字的意思是:egotistical ba
腾讯技术工程官方号
2022-04-07
9120
消息队列背后的设计思想
作者:jaydenwen,腾讯 PCG 后台开发工程师 消息队列也通常称为消息中间件,提到消息队列,大部分互联网人或多或少都听过该名词。对于后端工程师而言,更是日常开发中必备的一项技能。随着大数据时代的到来,apache 旗下的 kafka 一度成为消息队列的代名词,提起消息队列大家自然而然就想到了 kafka。近而网上有太多太多介绍消息队列 kafka 功能或者内部实现的文章。 然而消息队列本身是工程领域内一种解决问题的通用方案。它的背后有着一些通用的设计思想和经典模型,这些是消息队列的精髓和灵魂。
腾讯技术工程官方号
2021-08-23
5260
Redis vs Tendis:冷热混合存储版架构揭秘
作者:jingjunli,腾讯 IEG 后台开发工程师 Redis 作为高性能缓存被广泛应用到各个业务, 比如游戏的排行榜, 分布式锁等场景。经过在 IEG 的长期运营, 我们也遇到 Redis 一些痛点问题, 比如内存占用高, 数据可靠性差, 业务维护缓存和存储的一致性繁琐。由 腾讯互娱 CROS DBA 团队 & 腾讯云数据库团队联合研发的 Tendis 推出了: 缓存版 、 混合存储版 和 存储版 三种不同产品形态, 针对不同的业务需求, 本文主要介绍 混合存储版 的整体架构, 并且详细揭秘内部
腾讯技术工程官方号
2021-04-21
2.9K2
MySQL 深入学习总结
作者:yandeng,腾讯 PCG 应用开发工程师 1.数据库基础 1.1 MySQL 架构 和其它数据库相比,MySQL 有点与众不同,它的架构可以在多种不同场景中应用并发挥良好作用。主要体现在存储引擎的架构上,插件式的存储引擎架构将查询处理和其它的系统任务以及数据的存储提取相分离。这种架构可以根据业务的需求和实际需要选择合适的存储引擎,各层介绍: 1.1.1 连接层 最上层是一些客户端和连接服务,包含本地 sock 通信和大多数基于客户端/服务端工具实现的类似于 tcp/ip 的通信。主要完成
腾讯技术工程官方号
2021-03-25
9780
腾讯关系型数据库达成“双百”里程碑——6大企业级MySQL特性全面解析
腾讯关系型数据库-企业级MySQL(原CDB,腾讯云TencentDB for MySQL)达成了 百万核 和 百PB 的“双百”里程碑!存储规模同比增速高达 80% ,连续两年在全球 TOP5 公有云厂商中增速位列第一!作为腾讯云规模最大的数据库产品,在11月携手腾讯云数据库入选Gartner云数据库管理系统魔力象限,意味着腾讯云数据库进入全球顶级序列!截止目前,已经为Bilibili、水滴筹、小红书、微盟、富途证券、云集、畅游等多家大客户提供服务,支撑了618、双11等大型活动的突发保障,实现了1
腾讯技术工程官方号
2020-12-10
1.1K0
点击加载更多
社区活动
RAG七天入门训练营
鹅厂大牛手把手带你上手实战
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档