李汇波,腾讯业务运维高级工程师,目前就职于TEG 云架构平台部 技术运营与质量中心,现负责微信、QQ社交类业务的视频转码运维。 摘要 随着短视频兴起和快速发展,对于视频转码处理的需求也越来越多。低码率高清晰,4K、超清、高清、标清适配不同终端和不同网络环境来提升用户体验,以及水印、logo、裁剪、截图等多样化的用户需求。 对于资源的多样化需求和弹性扩缩容也需要快速响应,而随着公司自研上云项目的推进,设备的稳定性和多样性可提供更多选择,来满足像朋友圈、视频号、广告、公众号等转码业务快速、稳定、抗突发的资源需
常耀国,腾讯SRE专家,现就职于PCG-大数据平台部,负责千万级QPS业务的上云、监控和自动化工作。 背景 BeaconLogServer 是灯塔 SDK 上报数据的入口,接收众多业务的数据上报,包括微视、 QQ 、腾讯视频、 QQ 浏览器、应用宝等多个业务,呈现并发大、请求大、流量突增等问题,目前 BeaconLogServer 的 QPS 达到千万级别以上,为了应对这些问题,平时需要耗费大量的人力去维护服务的容量水位,如何利用上云实现 0 人力运维是本文着重分析的。 混合云弹性伸缩 弹性伸缩整体效果
不久前,腾讯云发布了国内第一款无服务器数据库ServerlessDB,受到众多数据库开发者的关注,关于该数据库的自动扩缩容能力以及背后的设计原理展开了激烈的探讨。本文邀请到腾讯云ServerlessDB的产品负责人,从租户隔离技术、快速扩缩容能力、连接池管理等方面详细解密这款数据库背后的设计细节,希望为开发者带来启发。
2022 年 10 月,腾讯自研业务产品全面完成云原生上云。自研业务产品云上规模已突破 5000w CPU,借助云原生的技术优势,全面提升了腾讯自研业务产品的运营效率,在此过程中我们也对腾讯云产品进行了打磨和验证。无论是在业务场景、稳定性要求、运维效率等多个方面,大规模容器化过程中都面临不少的技术挑战。本篇将进行分享,希望可以给广大开发爱好者带来灵感。
唐聪,腾讯云容器技术专家,极客时间专栏《etcd实战课》作者,开源项目kstone和crane内部雏形版 founder,etcd活跃贡献者,主要负责腾讯云大规模k8s和etcd平台稳定性和性能优化、业务集群成本优化、有状态服务容器化等产品研发设计工作。 背景 2021年下半年以来,在新冠疫情和互联网政策的冲击之下,各大互联网公司都在进行降本增效。降本增效的一大核心手段就是优化计算资源成本,本文将以腾讯某内部 Kubernetes/TKE 业务为案例,详细阐述如何从 0到1(成本数据采集与分析、优化措施、行
王玉君,腾讯云后台工程师,拥有多年大规模Kubernetes集群的开发运维经验。目前负责腾讯云TKE大规模Kubernetes集群的大数据应用托管服务。 谭春强,腾讯云后台工程师,拥有两年大数据EMR集群管控运维经验,目前负责腾讯云大数据EMR组件的容器化方向。 1.引言 随着云原生概念的兴起,越来越多的企业投身于云原生转型的浪潮,以解决传统应用面临的弹性能力不足、资源利用率较低、迭代周期较长等问题。通过云原生技术(如容器,不可变基础设施和声明式API等),使得企业在公有云、私有云和混合云等云环境构建和运
陈建平,后台开发工程师,现就职于TEG安全平台部-业务安全中心,主要负责中心实时策略风控平台开发。 导语 随着部门在业务安全领域的不断拓展,围绕着验证码、金融广告等服务场景,腾讯水滴作为支撑业务安全对抗的实时风控系统,上线的任务实时性要求越来越高,需要支撑的业务请求量也随之增加。对于业务快速上线和资源快速扩缩容的需求,且公司自研上云项目往全面容器化上云方向推进,水滴风控平台开始进行自研上云的改造。本文主要针对腾讯水滴平台上云过程中的实践总结,希望对其他业务迁移上云有一定参考价值。 水滴后台架构 腾讯水滴
jokey,腾讯云容器产品工程师,热衷于云原生领域。目前主要负责腾讯云TKE 的售中、售后的技术支持,根据客户需求输出合理技术方案与最佳实践。 概述 Kubernetes Pod 水平自动扩缩(Horizontal Pod Autoscaler,以下简称 HPA)可以基于 CPU 利用率、内存利用率和其他自定义的度量指标自动扩缩 Pod 的副本数量,以使得工作负载服务的整体度量水平与用户所设定的目标值匹配。本文将介绍和使用腾讯云容器服务 TKE 的 HPA 功能实现 Pod 自动水平扩缩容。 使用场景 H
王孝威,腾讯云容器产品经理,热衷于为客户提供高效的 Kubernetes 使用方式,为客户极致降本增效服务。 弹性伸缩在云计算领域的简述 弹性伸缩又称自动伸缩,是云计算场景下一种常见的方法,弹性伸缩可以根据服务器上的负载,按一定的规则进行弹性的扩缩容服务器。 弹性伸缩在不同场景下的含义: 对于服务运行在自建机房的公司,弹性伸缩通常意味着允许一些服务器在低负载时进入睡眠状态,从而节省电费(以及用于冷却机器的水费和电费)。 对于使用在托管于云上的机房的公司而言,自动扩展可能意味着更低的费用,因为大多数云提供
晏子怡,腾讯云产品经理,目前负责TKE集群、网络及调度模块。 从 K8s 的声明式设计理念谈起 Pod 模板 K8s 最优雅精妙的一个设计理念在于声明式 API 的运用,而 Deployment 又是其中的集大成者。 如果没有 Deployment ,我们需要管理上万的单独 Pod, 为每一个 Pod 设置合适的资源需求,容器镜像版本,Label,Taints 等属性。同时,我们还需要保证每一个业务对应的 Pod 数量在合适的值,来适应流量波动并达到负载均衡。而通过 Deployment 提供的 Po
刘兆瑞,腾讯云高级研发工程师,负责腾讯明眸极速高清,画质重生等产品。专注于codec优化,画质增强等技术。 背景和问题 随着流量资费的降低和带宽的增加,视频成为人们获取信息越来越重要的方式,随之而来的是云点播、视频处理等视频相关业务的飞速发展,而视频转码平台作为云点播、视频处理的基础产品,面临着高并发、高 SLA、高压缩率等等多样的需求,面临着极大的挑战。 对于一般流程来说,我们面临着下面几个挑战和诉求: 不同的转码产品对核心数的需求不同,比如:极速高清、延时敏感的业务,需要大核心来保证复杂运算的稳定性,
11月6日,在腾讯云主办的首届Techo开发者大会上,腾讯云宣布与全球最流行的Serverless开发平台 Serverless.com 达成战略合作,成为 Serverless.com 的全球战略合作伙伴以及大中华区独家合作伙伴。 大会下午的Serverless Summit专场上,腾讯云中间件总经理Yunong Xiao、腾讯云专家工程师周维跃分享了腾讯云Serverless最新技术进展与生态建设。 新产品 Serverless微服务平台 当前用户在使用微服务时,仍然需要购买虚拟机,组织虚
随着部门在业务安全领域的不断拓展,围绕着验证码、金融广告等服务场景,腾讯水滴作为支撑业务安全对抗的实时风控系统,上线的任务实时性要求越来越高,需要支撑的业务请求量也随之增加。对于业务快速上线和资源快速扩缩容的需求,且公司自研上云项目往全面容器化上云方向推进,水滴风控平台开始进行自研上云的改造。本文主要针对腾讯水滴平台上云过程中的实践总结,希望对其他业务迁移上云有一定参考价值。
刘如梦,腾竞体育研发工程师,擅长高并发、微服务治理、DevOps,主要负责电竞服务平台架构设计和基础设施建设。 詹雪娇,腾讯云弹性容器服务EKS产品经理,主要负责 EKS 虚拟节点、容器实例相关的产品策划。 业务介绍 自 2019 年,腾竞整个电竞赛事数据服务完全由腾讯云 TKE 容器服务承载。腾竞赛事数据开放平台目前主要提供职业赛事数据的授权与查询,随着斗鱼、虎牙、企鹅、掌盟、微信直播、微博等平台的相继接入,平台整体流量有了爆发式的增长。 此前 2021英雄联盟全球总决赛(以下简称 S11) 期间更是创
唐聪,腾讯云容器技术专家,极客时间专栏《etcd实战课》作者,开源项目kstone和crane内部雏形版 founder,etcd活跃贡献者,主要负责腾讯云大规模k8s和etcd平台稳定性和性能优化、业务集群成本优化、有状态服务容器化等产品研发设计工作。 背景 2021年下半年以来,在新冠疫情和互联网政策的冲击之下,各大互联网公司都在进行降本增效。降本增效的一大核心手段就是优化计算资源成本,本文将以腾讯某内部 Kubernetes/TKE 业务为案例,详细阐述如何从 0到1(成本数据采集与分析、优化措施、
赵轩,高级运维工程师, 腾讯云监控业务运维负责人。 腾讯云监控的 Barad 产品,为云产品提供高效、低成本的海量指标监控服务。 Barad 业务经过云原生能力建设以及容灾能力建设,业务已经实现了自研上云全量级容器化部署及多可用区容灾能力。 Barad 业务上云面临的难点和挑战 在降本增效的大背景下,腾讯云 云监控团队继续提升云原生成熟度,提升系统承载能力和降低单位成本,包括对 Barad 业务在容器化占比提升,跨 az 容灾能力建设,资源利用率优化这些方面,因 Barad 业务量级庞大,如何保障大量级数
这样的设计逻辑导致用户无法自定义 HPA 的扩缩容速率,而不同的业务场景对于扩容容灵敏度要求可能是不一样的,比如:
深耕零售,没有比中国更好的地方,也没有比现在更好的时间。1996 年,国际零售巨头沃尔玛进入中国,在深圳开设了第一家山姆会员商店。25 年后的今天,山姆会员商店拥有 数百万付费会员,成为 国内遥遥领先的会员制商店。 当位于深圳的山姆会员商店连续 10 余年成为沃尔玛全球销售第一的门店,沃尔玛又一次亮出了优秀的业绩。为什么能够在极度竞争的中国零售市场保持强劲增长?2020 年全球零售行业调研报告作出了如下总结:在沃尔玛,各种各样的先进技术被广泛应用以提高工作效率。沃尔玛的管理者认为,先进的科技在零售市场
roc,腾讯高级工程师,Kubernetes Contributor,热爱开源,专注云原生领域。目前主要负责腾讯云TKE 的售中、售后的技术支持,根据客户需求输出合理技术方案与最佳实践,为客户业务保驾护航。 背景 在 K8s 1.18 之前,HPA 扩容是无法调整灵敏度的: 对于缩容,由 kube-controller-manager 的 --horizontal-pod-autoscaler-downscale-stabilization-window 参数控制缩容时间窗口,默认 5 分钟,即负载减小
云开发支持一键部署Discuz! Q应用。通过云开发提供的新一代云原生应用引擎——云托管部署应用,为您提供高性能、高可靠性、可弹性扩缩容的的应用体验。 什么是云托管? 作为新一代云原生应用引擎(App Engine 2.0),云托管拥有无痛迁移、自动化弹性扩缩容、免运维、支持跨平台部署和联动云开发能力等优势,让开发者可以不限语言框架,低成本迁移上云开发,有效提升开发效率。 用云托管部署Discuz! Q的方案有哪些特性? 通过云托管结合静态网站托管、共享文件存储 CFS、云数据库 CynosDB for
作为国内第一款云原生 Serverless 数据库,TDSQL-C 目前仅在微信生态上就为超过 50W 小程序开发者提供数据库底座,凭借按量计费、超强弹性、存算分离等特性,能有效降低用户的数据库使用成本。
最新发布 腾讯云容器服务公有云版本(TKE 公有云版) 1. TKE 公有云版上线节点池功能 借助腾讯云容器服务节点池统一机型、统一标签和Taint、节点池动态扩缩容等功能,您可以方便快捷地创建、管理和销毁节点,以及实现节点的动态扩缩容。 【适用场景】:推荐使用节点池进行节点管理,以提高集群节点管理的易用性。 【解决痛点】:规范异构节点(机型配置不同)分组管理;降低集群频繁扩缩容操作成本;通过节点池标签快速制定业务调度规则,解决集群内应用程序调度规则复杂问题;便捷管理 Kubernetes 版本升级、Do
导语 央广购物借助云原生技术,解决了品小美这类创新业务普遍面临的资源预估难、运维成本高以及故障定位慢等难题。 背景介绍 央广购物系广电总局批准核发的,依托于中央广播电视总台的全国性电视购物公司。央广购物以电视直播和网络直播为基础,持续构建内容电商生态和服务能力。 央广购物响应新零售的业务趋势,推出了拼团直播带货的“品小美”子品牌,以微信小程序为依托,通过主播团长拼团的模式,推动电商业务的发展。“品小美”一方面能够为电视购物会员带来更丰富便捷的购买渠道与更多价格实惠的商品,另一方面也能帮助电视购物频道实现
王涛,腾讯云专家工程师,从事Kubernetes容器平台的研发近6年,目前主要负责腾讯海量自研业务容器化上云的平台研发。在利用云原生技术构建DevOps、ServiceMesh、AI、大数据平台等场景有丰富经验。
随着当下Serverless、FaaS生态的不断发展以及小程序的空前繁荣,越来越多的企业和个人用户把自己的应用,小程序部署到腾讯云无服务器云函数平台上,但随之而来的FaaS场景下高并发、大规模、快速启动等需求也给我们带来了巨大的挑战。为此我们打造了新一代Severless函数计算平台,在安全、可用性、性能上进行了全面升级。
深耕零售,没有比中国更好的地方,也没有比现在更好的时间。1996 年,国际零售巨头沃尔玛进入中国,在深圳开设了第一家山姆会员商店。25 年后的今天,山姆会员商店拥有 数百万付费会员,成为 国内遥遥领先的会员制商店。
深耕零售,没有比中国更好的地方,也没有比现在更好的时间。1996 年,国际零售巨头沃尔玛进入中国,在深圳开设了第一家山姆会员商店。25 年后的今天,山姆会员商店拥有数百万付费会员,成为国内遥遥领先的会员制商店。 当位于深圳的山姆会员商店连续10余年成为沃尔玛全球销售第一的门店,沃尔玛又一次亮出了优秀的业绩。为什么能够在极度竞争的中国零售市场保持强劲增长?2020 年全球零售行业调研报告作出了如下总结:在沃尔玛,各种各样的先进技术被广泛应用以提高工作效率。沃尔玛的管理者认为,先进的科技在零售市场将有
自研业务存储平台-是 QQ 的富媒体(图片、视频、语音、文件等)数据传输、存储、处理等全链路解决方案的平台。致力于为用户提供稳定快速的群聊 、单聊图片上传和下载服务。为了面对突发热点也能快速响应,作者团队决定对其进行上云处理。本文着重以 QQ 聊天图片(简称:QQ 图片)为例讲述整个上云的过程及调优。
这几年,Serverless数据库大火,被业内称为数据库的下一代变革性技术,是云原生数据库发展的必然结果。作为早在2020年就于国内率先推出Serverless数据库的腾讯云,近年来不断在Serverless数据库领域深耕探索,今年更是推出预付费资源类型资源包,Serverless集群挂载只读实例等一系列更新,为用户的降本增效以及国内云原生技术普惠提供了一份自己的答卷。
不同企业上云后,其成本节省程度是不一的。从 IT 资源成本节省量来看,低的企业不到 10%,高的企业可达 60%-70%。究竟为何会造成这么大的差异?又有什么组织管理手段和产品技术手段可以降低企业上云成本?
一台机器上运行着N个进程,各种连接、缓存等都是进程级别的。连接数经常打满,链路稳定性的问题很多。
腾讯互动娱乐事业群(IEG)下的腾讯游戏是全球领先的游戏开发和运营机构,也是国内最大的网络游戏社区。在游戏上云的道路上,腾讯互娱一直在不断探索、不断突破。2021 年 3 月腾讯互娱对国际业务推出了在线游戏开发平台 PGOS,PGOS 提供:
// 2021年11月4日,云原生开源生态专场,由腾讯云数据技术总监张青林分别从海量存储、弹性缩扩容、秒级快速备份与回档和支持serverless4个维度分享腾讯云原生数据库TDSQL-C的显著特性,以及在不同业务应用场景中的内核技术优化实践。 (以下是通过张青林现场演讲全文整理) 传统数据库架构瓶颈 在自研云原生数据库TDSQL—C之前,我们也做多年其他的云数据库产品,越到后面越发现传统数据架构存在着几方面问题:一、数据本地存储,随着业务的增长,单机存储量可能会大于单机磁盘容量限制,需要对业务进行迁
张路,运营开发专家工程师,现负责游戏知几 AI 助手后台架构设计和优化工作。 游戏知几 随着业务不断的拓展,游戏知几 AI 智能问答机器人业务已经覆盖了自研游戏、二方、海外的多款游戏。游戏知几研发团队主动拥抱云原生,推动后台业务全量上云,服务累计核心1w+。 通过云上的容器化部署、自动扩缩容、健康检查、可观测性等手段,提高了知几项目的持续交付能力和稳定性,形成了一套适合游戏知几自身的上云实践方案。本文将会介绍游戏知几项目中遇到的痛点以及探索出的一套可靠的上云实践方案。 知几项目背景 游戏知几[1]是一款游戏
前言 “只要站在风口,猪也能飞起来”,这碗心灵鸡汤不知道激励了多少英雄豪杰踏上寻风口之路。而现如今,Docker这阵龙卷风呼啸来袭,更让众人生起迎风而上、直冲云霄的欲望。为了找到这风口,数据平台部开始全面拥抱Docker,基于多年的大数据集群管理经验,倾力打造DockerOnGaia云平台(简称Gaia云),并动员将数平自身的核心系统Lhotse, Hermes, Hive, TRE, TDBank等全面接入Gaia云。 Lhotse系统作为先锋部队,经过一段时间的改造-验证-灰度,目前现网已经完全接入、稳
炙手可热的serverless架构,或者称为无服务器架构,是最近几年新冒出来的一种技术架构趋势。 那么,被誉为云计算未来的serverless,有何优势? 在过去不久的全球分布式云大会上,腾讯云数据库专家工程师李志阳分享了【分布式数据库serverless化:深入解读无服务器架构下的数据库】的主题演讲,给出了自己的答案。 Part1 serverless数据库特点 随着业务专注度的提升,服务的抽象程度也在提高。 李志阳举了一个汽车服务的例子,以前为了出行只能购买汽车,现在可以使用打车服务,只需知道目的地即
Fluid是CNCF基金会旗下云原生环境中数据密集型应用的高效支撑平台,项目自开源发布以来吸引了众多相关方向领域专家和工程师的关注,在大家的积极反馈下社区不断演进。近期 Fluid 0.6 版本正式发布,在该版本中,Fluid 主要新增改善以下三个方面内容:
6月29日,DevOps国际峰会在北京盛大开幕。腾讯数据平台部高级工程师罗韩梅做了主题为“腾讯基于Kubernetes的企业级容器云平台GaiaStack”的演讲。 以下为演讲内容: GaiaStac
文章出处: 鹅厂架构师 2021年6月26日,腾讯云【TECHO】HUB技术巡回长沙站顺利开展,聚焦于数字媒体行业的云端实践。会上,腾讯云数据库高级工程师窦贤明重点分享了《腾讯云云原生数据库TDSQL-C——云上应用研发方式的改变》。由此,我们一起来看传统主备方式数据库与云原生数据库的对比演进。 (传统的读写分离) 传统数据库主备方式: 存储各自独立 主备间通过数据流复制保证数据一致,主库故障则切换到备库 可用性与可靠性无法兼顾 (云原生数据库计算存储分离) 腾讯自研云原生数据库 TDSQL
生活在21世纪,最常见的事莫过于更新换代了,找一款能长久适用的产品,是很多人都希望拥有的,特别是针对于云服务产品,而对象·混合云存储新增 TStor-OneCOS 就是这样一款可以长久适用的产品,TStor-OneCOS 对象存储专注海量数据,一套集群长久适用。
生活在21世纪,最常见的事莫过于更新换代了,找一款能长久适用的产品,是很多人都希望拥有的,特别是针对于云服务产品,而对象·混合云存储新增TStor-OneCOS就是这样一款可以长久适用的产品,TStor-OneCOS对象存储专注海量数据,一套集群长久适用。
9月14-15日,GOPS全球运维大会上海站圆满举行,为期两天的运维盛宴,为各位运维人带来了相互交流和学习的绝佳平台,来自腾讯技术工程事业群(TEG)计费平台部的黄宇给大家带来了「亿万级大促活动自动化保障体系」的主题分享。 我们同步了嘉宾现场沙龙分享视频(内含高清PPT),请点击下方「腾讯技术课小程序」卡片即可查看: 同时附上整理好的演讲稿: 黄宇,来自腾讯技术事业群的计费平台部,在鹅厂长期从事虚拟支付、多终端支付、账户存储、风控、结算等领域的工作,带领团队负责腾讯千亿级计费大盘的整体运营和质量,目前
作者李腾飞,腾讯容器技术研发工程师,腾讯云TKE后台研发,SuperEdge核心开发成员。 背景 在边缘集群中,边缘端和云端为单向网络,云端无法主动连接边缘端,常见的解决方案是边缘端主动和云端(tunnel server)建立长连接,云端通过长连接将请求转发到边缘端。在云端隧道 server 实例扩容后需要考虑新增的实例对已有的边缘端长连接转发的影响。出于系统稳定性的考虑,能通过云边隧道采集到边缘端的监控信息。 社区方案ANP[1] 隧道云端 Server 自动扩缩容 ANP 主要用于代理转发 apise
随着万千企业数字化转型提速,对云计算的使用效能提出新的需求。云原生以其独特的技术特点,正在成为驱动云计算“质变”的技术内核,腾讯云在云原生数据库领域进行了全方位技术创新和应用实践,本文将分别从海量存储、弹性缩扩容、秒级快速备份与回档和支持serverless4个维度分享腾讯云原生数据库TDSQL-C的显著特性,以及在不同业务应用场景中的内核技术优化实践。 传统数据库架构瓶颈 在自研云原生数据库TDSQL-C之前,我们也做多年其他的云数据库产品,越到后面越发现传统数据架构存在着几方面问题: 1.数据本地存储
内容来源:2018 年 08 月 25 日,腾讯游戏云产品总监王永和在“腾讯云GAME-TECH游戏开发者技术沙龙 小游戏”进行《腾讯云小游戏解决方案》演讲分享。IT 大咖说(微信id:itdakashuo)作为独家视频合作方,经主办方和讲者审阅授权发布。
A:容器系统时间默认为 UTC 协调世界时间 (Universal Time Coordinated),与本地所属时区 CST (上海时间)相差 8 个小时:
进入大数据时代,数据量呈爆炸式增长,传统批处理计算模式难以满足日益增长的实时性需求。数据实时化已经成为数字经济时代的必然趋势。实时计算作为一种能够持续处理数据流的技术,能够以毫秒级延迟提供计算结果,为实时分析、风控、推荐等应用场景提供强有力的支持。
谁能与你厮守终身 生活在21世纪,最常见的事莫过于更新换代了,找一款能长久适用的产品,是很多人都希望拥有的,特别是针对于云服务产品,而对象·混合云存储新增 TStor-OneCOS 就是这样一款可以长久适用的产品,TStor-OneCOS 对象存储专注海量数据,一套集群长久适用。 为什么是 TStor-OneCOS TStor-OneCOS 对象存储基于公有云 COS 架构打造,属于腾讯云混合云&私有云存储 TStor 系列,针对海量对象存储(2.5PB及以上可用容量)通用场景,保证小文件性能,实现更
领取专属 10元无门槛券
手把手带您无忧上云