从 2009 年到 2021 年，从千万交易额到千亿交易额，双 11 已经开展了 12 年。如今，每年的双 11 以及一个月后的双 12，已经成为真正意义上的全民购物狂欢节。...《数据 Cool 谈》第三期，阿里巴巴大淘宝技术部双 12 队长朱成、阿里巴巴业务平台双 11 队长徐培德、阿里巴巴数据库双 11 队长陈锦赋与 InfoQ 主编王一鹏，一同揭秘了双 11 双 12 背后的数据库技术...在双 11 双 12，这种方式的弊端会被进一步放大。数据显示，在双 11 秒杀系统中，秒杀峰值交易数据每秒超过 50 万笔，是一个非常典型的电商秒杀场景。...在 2021 年双 11 双 12 中，有一种无所不在的技术力保证了整体系统的稳定，如 PolarDB 具备的极致弹性、海量存储和高并发 HTAP 访问的产品特性。...ADB 存储格式采用行列混存的 PAX 格式，能够提供高效的基于行号的随机查找能力，又可以按照 Chunk 粒度切分读取的并行度，多 Chunk 并行扫描，提高离线读吞吐性能，兼顾在线低延迟查询和离线高吞吐场景
典型的数据归档业务场景包括： 金融交易：交易日志、票据影像、双录视频； 视频监控：安防监控、交通监控、个人视频监控； 生命科学：医疗影像数据、电子病例、基因测序数据； 广告营销：电子商务日志、广告营销日志...同时，深度归档存储具备99.999999999%（11个9）的数据持久性，比传统磁带库提供更高的可靠性。...离线数据搬迁上云 如果本地数据中心还没有拉通专线，或者存量归档数据规模比较大，可以通过云数据迁移服务CDM专用设备，进行大规模离线迁移数据上云，从而获得深度归档带来的好处。...四、云上归档的主要优势 更高的可靠性 深度归档对象存储提供数据跨多数据中心、多设备冗余存储，为用户数据提供异地归档容灾服务，实现高达99.999999999%（11个9）的数据持久性，数据的耐久性远高于磁带库...随着腾讯云COS深度归档的发布，结合商业备份软件、云存储网关、离线迁移工具，腾讯云为企业的核心数据资产提供了高性价比的归档解决方案，助力企业数字化转型。
故障信息统一存储于事件中心，关注集群故障的组件或系统都可以订阅事件中心事件拿到这些故障信息。 ? 节点故障自愈系统会根据故障类型创建不同的维修流程，例如：硬件维系流程、系统重装流程等。...这套面向终态的集群管理系统在今年备战双 11 过程中，经受了性能和稳定性考验。 一个完备的集群管理系统除了保证集群稳定性和运维效率外，还应该提升集群整体资源利用率。
什么是“深度归档存储” 深度归档存储是一种针对冷数据安全且低成本的存储方式，相比于低频存储和归档存储，其价格更低，适用于访问频率极低（如半年一次），但需要持久存储的数据，如日志审计数据，安防监控数据。...在软件上，通过数据压缩技术，使用户有效数据存储密度获得最大化的提升。 在硬件上，腾讯云深度归档存储启用新的高密度存储介质，离线场景下，也能最大化的发挥出存储介质的优势。...通过对软硬件架构的升级，腾讯云深度归档存储对节约存储成本的效果立竿见影：深度归档存储费用仅为0.01元/GB/月，就可以在云上享受与磁带存储成本一致的产品体验，相比于普通归档存储而言，普通归档存储费用为...兼顾可靠性和可用性，为数据安全保驾护航 深度归档存储除了降低成本，还兼顾可靠性和可用性，提供99.95%的设计可用性和99.999999999%（11个9）的数据持久性。...推荐使用深度归档存储，用户无需担心扩容和成本问题，只需要极低的存储费用，就能够保障备份数据长期稳定的存储。
2021年3月，由深圳国家基因库等多家单位参与制定的地球生物基因组计划（Earth BioGenome Project, EBP）信息技术与信息学标准（VERSION 1.0）正式发布，国家基因库序列归档系统...（CNSA）成为EBP的推荐存储库。...CNSA成为EBP的推荐存储库 EBP涉及与目标基因组数据相关的多种元数据。EBP信息技术与信息学标准（VERSION 1.0）明确了项目每个阶段需要存储的数据类型及推荐的存储库。...提交到存储库的数据和元数据会生成用于公共引用的永久标识符（如登录号等）。...国家基因库序列归档系统（CNSA）成为EBP的推荐存储库，为DNA和RNA高通量测序数据、组装数据、变异数据、样本元数据、项目数据提供存储服务。
第一，数据采集有实时采集和定时离线采集，这里会存在采集任务的数据资产信息；第二，实时的数据存储和计算会涉及实时数仓、实时计算以及实时在线存储，最后可能会直接推送到线上服务使用，这里会涉及到像 HBase...这些冷数据可能是可以删除的，删除不了也不应该跟热数据占用一样的存储价格。例如云存储提供了数据归档能力是比较适合冷存储的。...货拉拉进行冷热分层的依据是云存储数据归档收益曲线，我们将最近 90 天被访问次数的数据进行分类，通过上图可以看到，最近 90 天被访问零次的归档收益为 50.87%，这类数据占比较高，存储归档收益相对较高...计算成本优化 分享过存储优化之后，我们看看计算成本优化。上图是离线和实时集群的资源利用率趋势图，其特征有如下几个：波峰波谷特征明显、资源特征不同、任务分布集中。...另外，冷数据也可以利用公有云的低频存储、归档能力甚至是深度归档能力，实现更精细化的管理。 今天的分享就到这里，谢谢大家。
3、Raw Log 迁移 将云下存储在 HDFS 中的 Raw Log 数据迁移到 COS 中，结合业务对数据的使用场景，一月前基本不使用的数据存储到深度归档中，一周前的 Raw Log 数据使用频次低...，采用低频存储借助 COS 的深度归档和低频功能进一步降低存储成本。.../月；而使用 OFS 的标准存储，成本约12.37万/月，还可以使用归档功能进一步降低成本，两者成本相差5倍以上。...图 11-离线数据平台与 EMR YARN交互示意图 在 StarRocks 会建立两个 Routie Load 任务消费 Kafka 中的数据，还会建立一个 MySQL 外表，获取数据平台 Job 的...1、降本方面： 1)开启 OFS 归档和深度归档，及开发配套的回热功能，降低持续增长的数据存储成本； 2)尝试 EMR 容器版，计算资源需求按照负载伸缩，实现完全弹性； 3)尝试使用托管的 PAAS/SAAS
离线和实时大数据开发实战 2018-7-6 张子阳 推荐: 3 难度: 5 ?...这本书是公司一位负责数据库的同事推荐的，正好数据中心也在重构和优化，以应对更加海量的数据，所以便花了点时间读完了这本书。...按照数据存储的实效性，将数据处理分为了三类： 离线处理：今天处理昨天或者更久前的数据，时间单位通常是天。 近线处理：处理15分钟或者1小时之前的数据，时间单位通常是分钟。...比方说，双11的销售和订单数据，就需要实时的显示在阿里的大屏幕上，而不是到了第2天才统计出双11的销量。另外，由于近几年人工智能的快速发展，实时已经不是最好，而逐渐成为必需。...不管实时还是离线，大数据的存储始终是基于HDFS。很多公司在面临海量数据时（传统的Mysql难以应对时），首先考虑的部分也是存储问题。
在今天双 11 这个万众狂欢的节日，对于阿里员工来说，每个环节都将面临前所未有的考验，特别是技术环节，今天我们就一起来探讨下双11天量交易额背后的技术。 一、阿里双11秒杀场景 ?...在线交易的数据实时和离线计算能力 支撑全球最大规模在线交易的数据实时和离线计算能力，包括承载阿里巴巴集团核心大数据的离线计算平台，以及双十一保证每秒处理亿条日志的计算。 5....阿里人工智能 在搜索、推荐以及客服场景下的创新应用，包括人工智能赋能的数千家品牌商家店铺的个性化运营和粉丝会员的精准营销。 6. VR技术 虚拟购物环境背后的VR技术。 7....总之，双11将涉及：基础设施、存储、中间件、云计算、业务架构、大数据、认知计算与人工智能、交互技术等技术领域。...除此以外还会涉及到分布式小文件存储以及搜索引擎，以及服务器集群监控等技术。
今年双11，Flink 更进一步，利用流批一体计算能力，助力数据中台实现更加精准的实时离线交叉数据分析和业务决策。...阿里的数据报表分为实时和离线两种，前者在诸如双 11 大促场景下的作用尤为明显，可以为商家、运营以及管理层提供各种维度的实时数据信息，并帮助其及时作出决策，提升平台和业务效率。...鉴于 Flink 流批一体计算技术的不断成熟，以及前期在搜索推荐场景的成功落地，今年双 11 数据平台开发团队也展示出坚定的信心和信任，与 Flink 实时计算团队并肩作战，共同推动实时计算平台技术升级...一些定制化程度较高，比如需要精细化的操纵状态存储的作业还是需要继续使用 DataStream API。在常见的业务场景中，用户写了一份流计算作业后，一般还会再准备一个离线作业进行历史数据的批量回刷。...经过团队一年的努力，基于 Flink 的搜索推荐实时计算平台成功的支持了2016 年的搜索双 11，保证了搜索推荐全链路实时化。
推荐系统 文件存储 | 本地 EXT4 1. 简单易用 2. 低成本 1. 小型应用 2. 开发和测试环境 文件存储 | 分布式 HDFS 1. 高可用和搞容错 2. 大规模数据存储 1....Elasticsearch: 用于商品搜索和推荐，支持全文检索和复杂查询。 MongoDB: 用于存储商品的详细描述和多媒体信息，适合半结构化数据和灵活的模式。 3....Hadoop/HDFS: 用于存储大规模的历史日志数据，适合离线分析和批处理。 Prometheus: 用于实时监控系统性能和指标，支持时序数据存储和查询。 8....数据分析 Hadoop/HDFS: 用于存储和处理大规模的历史数据，适合批处理和离线分析。 Spark: 用于大数据的实时处理和分析，支持内存计算和高性能处理。...数据归档和清理 数据归档和清理通过定期将历史数据归档和删除无用数据，减少数据库的存储压力和查询开销。 数据归档: 将历史数据迁移到归档存储系统中，如Hadoop HDFS、对象存储等。
第一次在双11大促场景下实现了大规模的实时计算影响双11当天的流量分配。 2014年双11当天，Pora系统首次经受了双11巨大流量的洗礼，系统运行可以说是一波三折。...2. 2015年双11，双链路实时体系大放异彩 2014年双11，实时技术在大促场景上实现了商品维度的特征实时，表现不俗。...2015年双11，我们首次尝试了运用MAB和zero-order优化技术实现多个排序因子的最优融合策略，取代以前依靠离线Learning to rank学到的排序融合参数。...其结果是显著的，在双11当天我们观察到，通过实时策略寻优，一天中不同时间段的最优策略是不同的，这相比于离线学习一套固定的排序权重是一个很大的进步。 2015年双11双链路实时计算体系如图3-17所示。...图3 2015年双11的实时计算体系 3. 2016年双11，深度学习+强化学习独领风骚 2015年双11，在线学习被证明效果显著，然而回顾当天观察到的实时效果，也暴露出一些问题。
云服务：支持私有云、混合云部署，支持同城双活和异地多活 车辆连接管理服务平台：负责车辆连接，包括终端网关（接入协议、数据源可配置）、网络通讯框架、数据存储以及处理中心 应用平台：提供统一的能力开放，包括核心框架能力...车联网平台整体架构 架构由左往右大概可以分为三个阶段：数据接入、数据存储、数据开放。 由车机和智能设备采集到的数据会经过数据接入模块归集到数据消息队列，并最终落入到数据存储层（实时数仓+离线数仓）。...-- 03 数据存储 image.png 当前所有接入的数据在经过数据接入流程之后，会统一写到贴源层的kafka集群。当前我们的数仓层分为两块：实时数仓、离线数仓。...离线数仓 image.png 可以看到，离线数仓与实时数仓的数据源是相同的，都包括车机数据埋点、设备接入埋点以及外部系统数据。...这类数据在消息队列之后会做数据的分流：一条链路是数据落盘归档，作为最稳定的原始数据，支撑上游的分析与业务应用；另外一条链路会支持到实时业务场景应用。
首先是数据上传，首先需要先产生数据并上传，基于对象存储的产生和上传，腾讯云存储包装大量相关操作路径与解决方案，如UGC的上传、本地IDC离线数据存量上传，腾讯云存储分别提供类似于CDM的离线迁移设备，MSP...还有便是偏离线处理，比如需要完成离线大数据分析系统后接BI，可能需要将其用户的行为打点日志进行MPP做分析，这就依赖于腾讯云存储数据湖的解决方案，上层大数据的算力提供更好的存储数据湖的支持，将腾讯云存储高带宽低延时的性能释放...腾讯云存储在这部分完成多年的打磨，旨在提供稳定、海量、弹性的云原生存储底座。 腾讯对象存储COS目前有标准、低频、归档、从热到冷。不久后腾讯云存储将新上一档存储——冷存储，介于低频和归档之间。...同时还要在此提及深度归档，这是腾讯存储最冷的一级。...基于这样的产品能力，腾讯云存储在提供丰富存储类型的同时，又提供较为完善的智能化推荐体系，以便于帮助用户享受更低的成本和更加轻的运维的能力。 腾讯云是智能存储概念最早提出者之一。
HBase NoSQL的典型代表，十分适合流水类数据的存储，和Redis不是同一类，相对复杂太多，但流水类数据用它来做存储再合适不过了。可以和Redis相结合，实现海量的高性能高可用流水服务。...1) 熟悉它的使用； 2) 能够了解些SQL解析会更佳，推荐经典入门书籍《flex与bison》。...Flink 天生集实时（流式）计算和离线计算与一体，不管是实时计算还是离线计算都值得掌握的利器。...如果服务的本地状态数据多且复杂，可以考虑采用SQLite存储。用Flink做实时计算，数据通过Kafka流入Flink，结果缓存到Redis，归档到HBase或快照到HDFS。...但核心的仍然采用C++开发，但尽量升级编译器支持C++17标准，至少要支持C++11标准，以提升开发效率。
1.1.5 存储层 存储层负责缓存或存储IM系统相关数据，主要包括用户状态及路由（缓存），消息数据（MySQL也可采用NoSql，如MangoDB），文件数据（文件服务器）。...1、 App1向gate1发送信息（信息最终要发给App2） 2、 Gate1将信息投递给logic 3、 Logic收到信息后，将信息进行存储 4、 存储成功后，logic向gate1发送ack 5、...） 9、 App2向gate2发送ack 10、Gate2将ack信息发给logic 11、Logic将消息状态设置为已送达。...8、查询用户在线状态及位置 9、Logic向gate投递消息 10、Gate向用户投递消息 11、App返回收到消息的ack信息 12、Gate向logic传递ack信息 13、向缓存（Hash）中更新收到...3.3 文件及图片存储 采用商用云存储。 3.4 数据归档 可考虑采用HBase,HDFS作为数据归档，或者相关云存储服务。
图1.1 存储系统架构图 二、应用场景 2.1 新单秒级各端同步 从订单的提交到各端可见的速度为存储服务的核心指标之一，我们对数据链的主要环节进行了优化，覆盖了新单同步、消息实时推送、查询索引构建以及数据平台离线归档等主要环节...BI等各类离线业务使用； 图2.1 数据链 2.2 自动发单与工作台 对客、商、员工工作台三端的支持是订单存储系统的基本角色，图2.1数据链在新单提交后为自动发单与工作台起到的衔接作用功不可没。...数仓衔接设计则侧重于解决数据平台百亿级离线数据与双库在线期间的同步问题，以及解决全量接入MySQL期间产生的数据问题。 以下将分三个部分分享我们在这一过程中学到的经验。...DB，通过同步Job实时比对、修复和记录两侧DB差异，再通过离线T+1校验双写中出现的最终不一致，如此往复直到双写一致； 双写一致之后，就开始逐步将读SQLServer切换到读MySQL，通过ES监控和...【推荐阅读】 携程酒店搜索引擎AWS上云实践 携程商旅订单系统架构设计和优化实践 1分钟售票8万张！
用户量级缓存服务 2G容量 适用于8000用户量级缓存服务 4G容量 适用于16000用户量级缓存服务 8G容量 适用于32000用户量级缓存服务 MongoDB 提供备份，恢复，监控，权限管理等产品功能 三副本存储...支持自定义告警 4G内存100G硬盘 适用于1万用户量级的数据规模 4G内存200G硬盘 适用于4万用户量级的数据规模 8G内存300G硬盘 适用于10万用户量级的数据规模 COS低至9.4元 COS标准存储包...具有高扩展性、低成本、可靠和安全等特点，为您提供专业的文件存储服务 适合UGC社交媒体存储场景 适合无需进行存储资源运维管理的中小创企业 支持用户海量存储，超大文件存储；特别适合大规模数据存储的场景...COS归档存储包 满足管控要求需要更长时间保存，低成本离线存储 归档属于离线存储，适用于低频率访问的场景，特别适合文件归档备份 成本极低，适用于海量数据的长期存储 更多云优惠信息请关注：云优惠
## 日期归档- uu 2020.11.26 盛最多水的容器『因为两个边共同决定了上限，因此将较短边向内移动，抛弃搜索次优解』 双指针法 搜索 [py](..../vsc_leetcode/12.整数转罗马数字.cpp) 而我的## 归档下面还什么都没有，我希望我的脚本可以自动帮我在## 归档下创建三级目录：双指针法、搜索、匹配、字符串，并且将对应的题目放到下面去...最终的效果是： ## 归档- [匹配](#匹配)- [字符串](#字符串)- [双指针法](#双指针法)- [搜索](#搜索)### 匹配- 整数转罗马数字『生活中从大的位数开始描述数字，因此从大的数与字符开始匹配.../vsc_leetcode/11.盛最多水的容器.cpp) 2020.11.26## 日期归档- 2020.11.26 盛最多水的容器『因为两个边共同决定了上限，因此将较短边向内移动，抛弃搜索次优解』...双指针法 搜索 [py](.
2、消息存储部分，最初版本采用的MySQL，之后改成了HBase（用Cassandra也行）。按照会话进行了分区，单聊、群聊是分开存储的。 3、拉离线（消息同步模型）方式。...1.1.5 存储层 存储层负责缓存或存储IM系统相关数据，主要包括用户状态及路由（缓存），消息数据（MySQL也可采用NoSql，如MangoDB），文件数据（文件服务器）。...） 9、 App2向gate2发送ack 10、Gate2将ack信息发给logic 11、Logic将消息状态设置为已送达。...8、查询用户在线状态及位置 9、Logic向gate投递消息 10、Gate向用户投递消息 11、App返回收到消息的ack信息 12、Gate向logic传递ack信息 13、向缓存（Hash）中更新收到...3.3 文件及图片存储 采用商用云存储。 3.4 数据归档 可考虑采用HBase,HDFS作为数据归档，或者相关云存储服务。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
腾讯会议
实时音视频
