首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

ofo 基于 K8S 容器平台实践

基于主流容器编排技术(Docker/Kubernetes)容器平台集上线发布,容器管理,弹性伸缩,资源监控等功能 PaaS 平台正逐渐流行起来。 ---- 今天讲内容分为两部分。...容器化平台 如今国内已经有很多容器平台产品,但结合我们自身需求迫切度,放弃 OpenShift 而采用独立开发,主要是基于对 PaaS 代码、实现自主可控性和对底层 Kubernetes/Docker...应用服务和分布式任务管理是基于业务容器化落地相关需求来实现。...而后会有一些定制化需求,比如前面介绍部分配置中心功能,基于 Kubernetes ConfigMap 实现,增加了版本控制便于回滚。 服务定义 基于 Kubernetes SVC 来实现。...王强 / ofo 容器研发负责人 14 年以上互联网、安全、互金等开发架构经验,专注于基础架构服务设计实现。 END

1.3K40

基于腾讯 SSM 配置管理实践

走近 SSM 总体架构概述 腾讯 SSM 凭据管理系统最核心能力是能对用户凭据数据做安全加密托管,它底层依赖于腾讯KMS密钥管理系统对数据进行加解密。...无论用户通过哪种方式进行操作,最终用户请求都会被腾讯云云 API 接收,并且 API 最终会将请求转发送到 SSM 系统, SSM 系统返回给客户端数据,也是以腾讯云云 API作为统一出口 ,这里客户端与...在 SSM 系统接收真正请求之前,腾讯 CAM 需要对请求做鉴权操作,这里鉴权包括对平台密钥 AKSK 进行鉴权,对用户账号能否访问特定资源鉴权等。...: 图片 基于 API 构造多地域凭据备份能力 在通过 API 实现了凭据管理自动化流程后,出于容灾考虑,业务方可以自己新增凭据容灾备份能力。...SSM 凭据资源权限管理 SSM 基于腾讯CAM服务进行用户资源访问控制。 当业务复杂度逐步增大时,其凭据数量必然会逐步变多,这个时候,业务势必需要对凭据访问进行权限划分。

1.3K6123
您找到你想要的搜索结果了吗?
是的
没有找到

腾讯IEG游戏营销活动 腾讯k8s实践

导语:K8S基于容器集群管理系统,容器有比较多选择,其中DOCKER作为容器,目前在业界使用比较广泛,我们IEG也大量使用了DOCKER。...简言之:K8S是一个基于容器技术分布式服务系统,自动化部署、伸缩和操作应用程序容器开源平台。...较好资源调度:提供了统一硬件资源解耦,更灵活调度使用 一图展示容器: [image.png] K8S优势: 好迁移:各种基于Liunx系统,公有、私有、混合、多态等 扩展性:模块化、插件化...、可挂载、可组合 自修复:自动部署、自动重启、自动复制、自动伸缩 腾讯k8s服务实践 一、背景 在互娱业务中,有众多内容为业务提供服务。...以上两种服务容易混淆,简单说,腾讯容器服务是在腾讯上购买虚拟机,在上面部署腾讯k8s系统,生产容器也仅跑在所购买虚拟机上,类似于传统idc上托管物理机概念,资源是独享

14.6K4516

基于 SkyWalking 腾讯微服务观测最佳实践

本文主要基于智慧零售腾讯有数产品业务背景分享基于 SkyWalking 腾讯微服务观测实践,希望给有这方面需求同学一些启发。...作者介绍 陈俊洪 腾讯智慧零售部 运营开发工程师 擅长数据资产管理、微服务治理等 背景 众多微服务缺乏统一管理规范(监控、调用链追踪) 多账号公有,自研,内网 k8s 多个部署平台 TAF...TSW 系统架构图 TSW 基于开源 Agent 进行数据上报 由于我们后台服务基于腾讯 TKE 部署,因此需通过挂载 nfs 硬盘方式进行 Agent 配置管理。... 修改对应配置信息 config/agent.conf # 腾讯TSW默认上报地址 collectorXXXXXX # 基于腾讯账号分配唯一token agent.XXXX@ # 上报服务名称可自定义...和腾讯 TSW 系统架构及相关实践

1.3K40

基于腾讯自建高可用DNS方案实践

本篇主要介绍如何在腾讯平台下自建高可用DNS环境,来满足企业在内外网域名解析需求。...MX记录:设置当前域中提供邮件服务器名称 2.DNS高可用智能解析方案 本DNS高可用方案基于基于CVM服务器,在VPC内网进行DNS服务器构建,可实现内网域名解析需求。...3.DNS高可用智能解析方案实现 本次方案采用了两台节点进行此方案实践。 若在生成环境需结合客户业务详细需求进行节点数量,CLB数量,不同地域调整即可。...同时实现了客户端对企业内网域名,腾讯内外网域名解析需求。另外这里务必注意RS在内网进行构建,安全组限制53端口来源IP。...同时这里优先推荐采用腾讯DNS托管服务,有特殊业务需求可参考以上两个方案结合托管DNS服务协同来处理。

6.8K282

基于腾讯自建高可用DNS方案实践

导语 | 本文推选自腾讯开发者社区-【技思广益 · 腾讯技术人原创集】专栏。该专栏是腾讯开发者社区为腾讯技术人与广泛开发者打造分享交流窗口。...栏目邀约腾讯技术人分享原创技术积淀,与广泛开发者互启迪共成长。本文作者是腾讯开发者社区作者罗俊。 本文主要介绍如何在腾讯平台下自建高可用DNS环境,来满足企业在内外网域名解析需求。...DNS高可用智能解析方案 本DNS高可用方案基于基于CVM服务器,在VPC内网进行DNS服务器构建,可实现内网域名解析需求。...详情参考腾讯官网文档《关于安全组53端口配置公告》 https://cloud.tencent.com/document/product/213/35533 DNS高可用智能解析方案实现 本次方案采用了两台节点进行此方案实践...【技思广益·腾讯技术人原创集】作者 腾讯TAM,腾讯大客户技术客户经理,目前负责腾讯大客户上架构设计,架构优化,稳定性治理、高可用,容灾等相关咨询与支持服务。

5.4K10

基于腾讯上自建高可用Redis实践

2.基本环境: 使用三台腾讯VM,每台VM上开启一个redis-server和redis-sentinel服务,redis-server端口为6379,redis-sentinel端口为26379。...(2)主节点写能力受到单机限制; (3)主节点存储能力受到单机限制。...注意: VIP方案对配置环境有一定要求,比如在腾讯上要想搭建redis VIP方案的话,需要申请腾讯HAVIP作为VIP,注意自己在内网私自定义VIP是不生效,申请HAVIP文档详见: https...sentinel.conf sentinel client-reconfig-script mymaster /opt/notify_mymaster.sh (2)创建VIP漂移脚本(VIP用之前在腾讯控制台上申请...如果业务比较大,并发量比较高,建议搭建redis集群,比如官方redis cluster,还有开源codings集群,或者使用腾讯PAAS层redis集群方案,文档说明见:https://cloud.tencent.com

2.4K10

基于腾讯CVM自建高可用Redis实践

一、环境说明: 1.需求与目标: 在企业实际生产环境中为了能够给业务上层应用提供高可靠、低延迟、低数据损失Redis缓存服务,本文通过对目前主流几种redis高可用方案进行对比分析,并基于腾讯CVM...我这里使用腾讯上3台CVM,每台CVM上开启一个redis-server、redis-sentinel和keepalived服务,redis-server端口为6379,redis-sentinel端口为...; (4)应用场景局限于内网,例如部分业务只能通过外网访问Redis时,该方案不可用 注意: VIP方案对配置环境有一定要求,在腾讯上搭建redis,需要用到腾讯HAVIP,文档见:https:...缺点: (1)对网络环境有要求:keepalived核心协议VRRP使用IP多播数据包进行封装,组地址为224.0.0.18,发布范围只限于同一局域网内,而且在网络不受自己控制时基本不能用,但是腾讯是支持组播协议...如果业务数据量比较大,并发量比较高情况下,建议搭建redis集群,比如官方redis cluster和开源codis方案,或者使用腾讯PAAS层redis集群方案,文档说明见:https://cloud.tencent.com

13.7K90

基于腾讯TKE大规模强化学习实践

传统手工管理模式操作繁琐,面临诸多不确定性,带来各种挑战无法支撑大规模强化学习场景。本文介绍了腾讯内部某业务基于 TKE 构建大规模强化学习解决方案,以及与传统手工模式对比该方案带来优势。...使用 Orange-CI,结合工蜂提供 webhook 功能,代码提交后自动构建镜像,并推送到腾讯镜像仓库,使用镜像 tag 有效管理代码版本 通过 jinjia 模板快速生成部署 yaml 。...使用腾讯 CFS 作为网络共享盘。...五、创新性 基于 K8S 原生使用方式进行大规模分布式强化学习训练,主要创新点: 以资源需求为中心(也即,每个角色需要多少 CPU,多少内存,多少 GPU 卡),管理和调度一次实验所需集群机器,...与传统购买物理机耗时几个月相比,借助腾讯提供海量资源和快速创建能力,可以在短时间内满足大规模强化学习所需要大批量资源。 2.

1K21

腾讯 Python 实践

作者介绍 李力:腾讯布道师、CVM技术负责人 腾讯调度管理系统研发负责人,腾讯布道师,主要负责腾讯公有/私有后台框架设计、实现及运营,在KVM虚拟化、sdn/vpc、linux container...上有多年实践经验。...出于对 Python 在计算方面的信心,李力从 2012 年开始在腾讯推广使用 Python。 推广初期碰到了一定阻力,这点对于任何想在公司推广新技术的人来说都是无法避免。...是能够运行伪代码,开发效率得到极大提升。 容易与 C/C++交互,使用 ctypes 可以很方便地调用 C 代码。 更容易保持项目的整洁。 基于这些考虑,腾讯开始慢慢尝试引入 Python。...另外,腾讯还将 Python 用于系统编程,开发了公有宿主机包管理工具。据说这个工具上线几年来运行都没有出什么问题。

4.1K00

腾讯EMR基于YARN针对原生容器化优化与实践

随着业务增⻓和突发报表计算需求,为了解决为离线集群预留资源,腾讯EMR团队和容器团队联合推出Hadoop Yarn on Kubernetes Pod,以提⾼容器资源使用率,降低资源成本,将闲时容器集群...腾讯EMR团队通过支持扩展表达式语法,增加对逻辑运算符表达式支持,使App可以申请多个分区资源。同时开发资源统计模块动态统计分区可用资源,为App分配最合适分区。...基于Hadoop Yarn on Kubernetes Pod 方案,将离线任务自动扩容至上集群,与TKE在线业务集群混合部署,充分利用上波谷时段闲置资源,提高离线业务算力,并利用上资源快速弹性扩容能力...2812.png 2813.png 五、总结 本文提出了基于YARN针对原生容器化优化与实践,在混合部署原生环境中,极大地提高了任务运行稳定性,高效性,有效提高了集群资源利用率,节约硬件成本...作者简介 张翮,腾讯高级工程师,目前主要负责腾讯大数据产品弹性MapReduce管控相关模块和重要组件Hive技术研发。

1.9K51

腾讯EMR基于YARN针对原生容器化优化与实践

腾讯EMR团队通过支持扩展表达式语法,增加对逻辑运算符表达式支持,使App可以申请多个分区资源。同时开发资源统计模块动态统计分区可用资源,为App分配最合适分区。 ?...基于Hadoop Yarn on Kubernetes Pod 方案,将离线任务自动扩容至上集群,与TKE在线业务集群混合部署,充分利用上波谷时段闲置资源,提高离线业务算力,并利用上资源快速弹性扩容能力...离在线混部后CPU占用 五、总结 本文提出了基于YARN针对原生容器化优化与实践,在混合部署原生环境中,极大地提高了任务运行稳定性,高效性,有效提高了集群资源利用率,节约硬件成本。...在未来,我们会探讨更多大数据云原生场景,为企业客户带来更多实际效益。 作者简介 张翮,腾讯高级工程师,目前主要负责腾讯大数据产品弹性MapReduce管控相关模块和重要组件Hive技术研发。...点击文末「阅读原文」,了解腾讯弹性 MapReduce更多信息~ 腾讯大数据 ? 长按二维码 关注我们

98120

腾讯EMR基于YARN针对原生容器化优化与实践

随着业务增⻓和突发报表计算需求,为了解决为离线集群预留资源,腾讯EMR团队和容器团队联合推出Hadoop Yarn on Kubernetes Pod,以提⾼容器资源使用率,降低资源成本,将闲时容器集群...腾讯EMR团队通过支持扩展表达式语法,增加对逻辑运算符表达式支持,使App可以申请多个分区资源。同时开发资源统计模块动态统计分区可用资源,为App分配最合适分区。...基于Hadoop Yarn on Kubernetes Pod 方案,将离线任务自动扩容至上集群,与TKE在线业务集群混合部署,充分利用上波谷时段闲置资源,提高离线业务算力,并利用上资源快速弹性扩容能力...在线集群闲时CPU占用 离在线混部后CPU占用 五、总结 本文提出了基于YARN针对原生容器化优化与实践,在混合部署原生环境中,极大地提高了任务运行稳定性,高效性,有效提高了集群资源利用率,节约硬件成本...作者简介 张翮,腾讯高级工程师,目前主要负责腾讯大数据产品弹性MapReduce管控相关模块,和重要组件Hive技术研发。

87840

腾讯ES】基于ES游戏社区搜索服务实践

导语对于一个游戏社区产品,在拥有一定内容沉淀后,搜索功能作为社区获取内容最有效途径,是每个社区产品都应该考虑实现。本文主要介绍基于腾讯ES如何从零搭建整套社区搜索服务。...,转换数据,然后把数据发送到诸如Elasticsearch但不限于ES一些“存储库”中并且logstashX-pack功能(高级功能特性,腾讯白金版支持)能够使该处理管道服务在Kibana中直接接入管理和监控...使用StatefulSet作为有状态服务负载对象, 利用K8sStorageClass动态创建对应持久存储,腾讯容器提供了基于硬盘CBS动态创建方式,具体可以见文档相关配置:https://...当前腾讯好像也提供关于logstash实例管理和创建服务,可以直接使用。3. logstash数据同步配置实例如下配置示例将一个表定时周期每2分钟同步一次到ES索引当中。...prefix": "【查询关键词前缀】", "completion": { "field": content_field_name } } }}小结以上主要介绍了基于腾讯

1.4K30

华尔街见闻:基于腾讯容器服务微服务架构实践

服务商成本 由于架构落后于需要,我们不得不用硬件弥补性能上问题,导致服务器成本不断增加。...CI任务中test->build->docker->deploy流程 五.平台选择 最终我们选择了腾讯容器服务,主要基于以下几点考虑: 腾讯容器服务是在腾讯iaas...腾讯容器服务是基于Kubernetes实现,支持完全kubernetes能力。 腾讯在Kubernetes上实现了他们存储、负载均衡等产品插件、复用了他们平台监控、日志等能力。...减少了我们接入和开发成本。 六.服务在腾讯应用 我们将我们应用重构成微服务架构,每个微服务部署成腾讯容器服务上一个服务,前端接入通过一个负载均衡。后端服务间可互相访问。...十.结束语 本文介绍了华尔街见闻微服务实践情况。经过几个月开发测试,已经完成了线上服务从PHP到Golang转型。 在服务稳定性上经历了考验,支撑了几次重大新闻高流量。

3K00

腾讯基于Alluxio优化计算存储分离架构最佳实践

腾讯EMR团队与Alluxio社区合作,探索出了开箱即用计算存储分离优化版本,大幅优化网络带宽,带宽削峰20%-50%,节省总带宽10%-50%,同时能在IO密集型场景提升性能5%-40%,下面就让我们来一探究竟...二、腾讯弹性MapReduce(EMR) 目前越来越多企业开始选择使用计算和存储分离架构,以应对更低成本要求,和兼顾资源扩展灵活性。 ? 传统计算存储一体架构 ?...除了连接不同类型数据源之外,Alluxio还允许用户同时连接同一存储系统不同版本,如多个版本HDFS以及上COS/CHDFS,只需基于EMR配套简单配置下发和管理管理功能。...上述这些能力和优化,在存算分离场景下,腾讯EMR产品针对这种场景都已经直接提供了开箱即用能力,直接在腾讯EMR产品购买页创建,或者在已有支持了alluxioEMR版本上安装,即可达到性能评估中效果...此次基于Alluxio优化,让腾讯弹性MapReduce(EMR)产品更好支持存储计算分离架构,为用户更好满足业务需求同时,降低成本,且保持资源扩展灵活性。 ? 近期热文 ?

1.5K20

腾讯基于Alluxio优化计算存储分离架构最佳实践

二、腾讯弹性MapReduce(EMR) 目前越来越多企业开始选择使用计算和存储分离架构,以应对更低成本要求,和兼顾资源扩展灵活性。...除了连接不同类型数据源之外,Alluxio还允许用户同时连接同一存储系统不同版本,如多个版本HDFS以及上COS/CHDFS,只需基于EMR配套简单配置下发和管理管理功能。...上述这些能力和优化,在存算分离场景下,腾讯EMR产品针对这种场景都已经直接提供了开箱即用能力,直接在腾讯EMR产品购买页创建,或者在已有支持了alluxioEMR版本上安装,即可达到性能评估中效果...此次基于Alluxio优化,让腾讯弹性MapReduce(EMR)产品更好支持存储计算分离架构,为用户更好满足业务需求同时,降低成本,且保持资源扩展灵活性。...参考资料: [1] 腾讯弹性MapReduce(EMR): https://intl.cloud.tencent.com/zh/product/emr [2] 腾讯COS: https://cloud.tencent.com

70030

腾讯Serverless】腾讯Serverless + Typescript实践

目的 最近serverless愈来愈火,我刚好在培训,比较有时间去尝试一些新东西,所以趁这个时候去使用下serverless,尝试使用typescript和nodejs开发,部署在腾讯scf上一个小工具...环境搭建 首先为了方便开发,建议安装腾讯scf提供命令行工具或者vscode插件。...而在部署时候,我才发现在使用typescript时,无法在腾讯scf目前部署要求以及项目的文件目录管理中做到完美的配合。 后面和同事讨论后,还是有不错方法是达到两者平衡。...scf,是可以运行,而且是把整个项目都打包了上去,日后腾讯scf接入了cloud studio,webIDE看到文件架构和本地看到文件架构是一致。...总结 上面说了这么多,这里给一个总结就是: 虽然腾讯scf没有原生支持typescript,但是经过一些方法还是可以做到两者完美配合。

147.1K52

【玩转腾讯腾讯部署K8s集群

如果想要了解 K8s 一些特性,并且将其应运很好,那就需要动手部署一个 K8s 集群。下面讲解下在腾讯K8s 集群部署流程。...单机版 K8s   环境: Ubuntu 16.04 GPU 驱动 418.56 Docker 18.06 K8s 1.13.5 以上环境,针对是高版本 K8s,而且 Docker 版本必须要注意...kubeadm 是部署、安装 K8s 一种命令工具。它提供了 kubeadm init 以及 kubeadm join 这两个命令作为快速创建 Kubernetes 集群最佳实践。...,而且对应 CoreDNS、Etcd 版本也要对应,每个版本 K8s 对应不一样。...929143bcdaa3e23c6faf20bc51ef6a57df02edf9df86cedf200320a9b4d3220a 检查 node 是否加入 master: kubectl get node 以上是在腾讯服务器上部署

8.9K125

重构实践基于腾讯Elasticsearch搭建QQ邮箱全文检索

为了快速搭建出一套新全文检索后台并完成迁移,QQ 邮箱全文检索重构选择 Elasticsearch 作为搜索引擎,同时响应自研上号召,一步到位直接使用腾讯 ES 构建搜索服务。 1....fullsearch 模块下游直接对接腾讯 ES,内网通过 http 请求访问 ES REST API。...ProtoBuf to Json fullsearch 模块调用腾讯 ES REST API 使用json数据包进行交互,有大量打包 json 和解析 json 操作。...如上表,whitespace 分词器 token 列表能精确匹配上 20X07131A 所在原文。 五、结语 借助腾讯ES作为搜索平台,可以很快完成一套全文检索服务搭建。...腾讯ES作为Paas,可以方便地进行扩缩容与维护。 随着ES版本迭代,ES支持越来越多功能配置,需要根据业务特点来决定索引阶段与搜索阶段使用配置。

3.3K139
领券