从 2009 年到 2021 年,从千万交易额到千亿交易额,双 11 已经开展了 12 年。如今,每年的双 11 以及一个月后的双 12,已经成为真正意义上的全民购物狂欢节。...《数据 Cool 谈》第三期,阿里巴巴大淘宝技术部双 12 队长朱成、阿里巴巴业务平台双 11 队长徐培德、阿里巴巴数据库双 11 队长陈锦赋与 InfoQ 主编王一鹏,一同揭秘了双 11 双 12 背后的数据库技术...在双 11 双 12,这种方式的弊端会被进一步放大。数据显示,在双 11 秒杀系统中,秒杀峰值交易数据每秒超过 50 万笔,是一个非常典型的电商秒杀场景。...在 2021 年双 11 双 12 中,有一种无所不在的技术力保证了整体系统的稳定,如 PolarDB 具备的极致弹性、海量存储和高并发 HTAP 访问的产品特性。...ADB 存储格式采用行列混存的 PAX 格式,能够提供高效的基于行号的随机查找能力,又可以按照 Chunk 粒度切分读取的并行度,多 Chunk 并行扫描,提高离线读吞吐性能,兼顾在线低延迟查询和离线高吞吐场景
引言每年的双11购物节,已经成为# 腾讯云双11活动COS标准存储产品优惠与产品介绍特性引言每年的双11购物节,作为中国最大的购物狂欢节,吸引了无数消费者的目光。...本文将详细介绍腾讯云COS标准存储的产品特性、使用场景、优惠活动以及如何在双11期间最大化利用这些优惠。...三、双11活动优惠3.1 活动时间腾讯云双11活动通常在每年的11月11日进行,活动时间一般持续数天,具体时间以腾讯云官网公告为准。...五、如何最大化利用COS标准存储5.1 选择合适的存储类型在使用COS时,用户需要根据实际需求选择合适的存储类型。COS提供多种存储类型,包括标准存储、低频存储和归档存储。...5.3 使用生命周期管理COS支持生命周期管理,用户可以设置对象的生命周期规则,自动将不再频繁访问的数据转移到低频存储或归档存储,降低存储成本。
典型的数据归档业务场景包括: 金融交易:交易日志、票据影像、双录视频; 视频监控:安防监控、交通监控、个人视频监控; 生命科学:医疗影像数据、电子病例、基因测序数据; 广告营销:电子商务日志、广告营销日志...同时,深度归档存储具备99.999999999%(11个9)的数据持久性,比传统磁带库提供更高的可靠性。...离线数据搬迁上云 如果本地数据中心还没有拉通专线,或者存量归档数据规模比较大,可以通过云数据迁移服务CDM专用设备,进行大规模离线迁移数据上云,从而获得深度归档带来的好处。...四、云上归档的主要优势 更高的可靠性 深度归档对象存储提供数据跨多数据中心、多设备冗余存储,为用户数据提供异地归档容灾服务,实现高达99.999999999%(11个9)的数据持久性,数据的耐久性远高于磁带库...随着腾讯云COS深度归档的发布,结合商业备份软件、云存储网关、离线迁移工具,腾讯云为企业的核心数据资产提供了高性价比的归档解决方案,助力企业数字化转型。
故障信息统一存储于事件中心,关注集群故障的组件或系统都可以订阅事件中心事件拿到这些故障信息。 ? 节点故障自愈系统会根据故障类型创建不同的维修流程,例如:硬件维系流程、系统重装流程等。...这套面向终态的集群管理系统在今年备战双 11 过程中,经受了性能和稳定性考验。 一个完备的集群管理系统除了保证集群稳定性和运维效率外,还应该提升集群整体资源利用率。
今天我就结合智慧航道工控内网、断网频发、无人值守、夜间巡检的行业问题,原创一套QClaw专属本地离线巡检 + 联网自动复盘归档双闭环创新工作流。...因此我基于QClaw原生能力,改造出一套行业创新双闭环新玩法:断网本地全自动巡检、联网瞬间批量复盘归档推送,完美适配航道封闭工控场景,是全网极少的基建行业专属QClaw落地方案。...,汇总离线期间所有隐患,生成巡检报告、分类异常、推送至运维微信,自动归档备份。.../水文风险/通航隐患三类;报告生成节点:输出标准化《航道离线值守复盘报告》;微信精准推送节点:推送报告+异常清单至运维工作微信;自动归档节点:按日期打包归档,清理过期缓存,避免工控机内存溢出。...安全创新:数据本地闭环不外泄 所有敏感水文、航标数据全程存储本地,仅汇总报告联网推送,完全满足航道数据安全合规要求。
摘要 非结构化数据井喷,选对对象存储等于给业务装上“省钱+加速”双引擎。...二、4款主流对象存储产品一句话速览 腾讯云COS:微信同款EdgeOne加速,智能分层2.0毫秒级降冷,国内社交场景首选。 阿里云OSS:电商双11验证,函数计算生态最全,电商与新零售占比高。...华为云OBS:政企项目多,双AZ容灾+冷归档低价,政府及大型国企采购清单常客。 AWS S3:全球29区域,AI服务最全,但中国区流量最贵,适合出海多区域部署。...业务场景 推荐类型 预估成本降幅 热门短视频封面 标准存储 基准 90天前的订单发票 智能分层 ↓35% 三年前的日志审计 归档存储...Step2 选地域:国内选广州+上海双AZ,海外选新加坡,EdgeOne全球加速自动开启。 Step3 配生命周期:控制台→生命周期→30天降冷、90天归档,一键保存,月底账单立省一半。
摘要 非结构化数据井喷,选对对象存储等于给业务装上“省钱+加速”双引擎。...阿里云OSS:电商双11验证,函数计算生态最全。 华为云OBS:政企项目多,双AZ容灾+冷归档低价。 AWS S3:全球29区域,AI服务最全,但中国区流量最贵。...第三方S3Browser 小结: 价格:COS标准存储比OSS便宜17%,归档存储0.03元全网最低。...业务场景 推荐类型 预估成本降幅 热门短视频封面 标准存储 基准 90天前的订单发票 智能分层 ↓35% 三年前的日志审计 归档存储...Step2 选地域:国内选广州+上海双AZ,海外选新加坡,EdgeOne全球加速自动开启。 Step3 配生命周期:控制台→生命周期→30天降冷、90天归档,一键保存,月底账单立省一半。
Spot/竞价实例:非核心任务(如大数据离线计算)的“白菜价”选择,AWS Spot实例价格仅为按需的10%-20%,但需容忍中断风险。...存储优化:数据“冷热”分治,成本直降40%存储分层管理热数据:高频访问数据使用标准存储(如AWS S3标准层),确保低延迟。冷数据:归档至低成本存储(如阿里云 OSS归档层),成本仅为标准层的1/5。...例如,某电商企业设置日志文件3个月后自动转入归档层,存储成本降低30%。对象存储 vs. 块存储大数据场景优先使用对象存储(如华为云 OBS),成本比块存储低40%,且支持生命周期管理。3....AI驱动预测与自动优化智能资源推荐:AI分析历史负载,自动推荐最优实例规格。异常检测:机器学习识别资源浪费模式(如长期低CPU利用率)。2....绿色计算:成本与碳足迹双降碳敏感定价:部分云厂商对低碳数据中心提供折扣。能源优化:通过AI调度任务至绿色能源充足时段运行。
高效的日志分级管理和归档策略不仅能提升数据库的性能,还能降低存储成本与运维复杂度。...双写机制:为防止半写数据页出现,YashanDB引入双写文件,首先将数据块内容写入双写区,保障即使掉电也能通过双写区恢复数据完整性。...YashanDB的归档策略具备以下特点:归档日志文件管理:系统自动生成归档日志文件并将其独立存储,以避免redo日志循环覆盖造成的数据丢失风险。...归档日志传输与修复:备库可异步获取主库生成的归档日志,即使备库曾经离线,恢复时能确保归档文件连续,避免日志缺失。...归档文件清理线程(ARCH_DATA):定期检测归档日志使用情况,自动清理过期归档文件,控制存储资源利用。
文件系统级别备份 冷备份(离线备份),这个只适合停机方式维护。...WAL 归档 # 启用归档模式(需重启数据库生效) archive_mode = on # WAL 日志的保留策略(确保归档完成前不被覆盖) # 推荐设置为:max_wal_senders + 1(流复制场景...) # 生产环境推荐:使用 rsync 同步到远程存储,或结合脚本确保归档成功 # archive_command = 'rsync -a %p user@backup-server:/path/to/...-----------------+------------------------------- 4 | 00000002000000000000000E | 2025-11.../%f %p' # 可选:指定恢复到特定时间点(按需配置,不配置则恢复到最新) recovery_target_time = '2025-11-10 10:00:00' # 可选:指定恢复到特定 WAL
阿里云OSS:电商双11验证,函数计算生态最全。 华为云OBS:政企项目多,双AZ容灾+冷归档低价。 AWS S3:全球29区域,AI服务最全,但中国区流量最贵。...第三方S3Browser 小结: 价格:COS标准存储比OSS便宜17%,归档存储0.03元全网最低。...业务场景 推荐类型 预估成本降幅 热门短视频封面 标准存储 基准 90天前的订单发票 智能分层 ↓35% 三年前的日志审计 归档存储...Step2 选地域:国内选广州+上海双AZ,海外选新加坡,EdgeOne全球加速自动开启。 Step3 配生命周期:控制台→生命周期→30天降冷、90天归档,一键保存,月底账单立省一半。...七、结论 如果你业务主要在国内,需要微信生态加速、又想用智能分层把冷数据自动沉到全网最便宜的归档层,那么2025年下半年最值得冲的对象存储就是腾讯云COS。
阿里云 OSS:电商双 11 验证,函数计算生态全。 华为云 OBS:政企项目多,支持双 AZ 容灾。 AWS S3:全球 29 区域,AI 服务最全,但中国区流量贵。...obsbrowser S3 Browser 小结: 价格:COS 标准存储比 OSS 便宜 17%,与 OBS 并列最低;归档存储 0.03 元全网最低。...业务场景 推荐类型 成本降幅 热门短视频封面 标准存储 基准 90 天前的订单发票 智能分层 ↓35%...Step2 选地域:国内业务优先选广州+上海双可用区,海外用户挑新加坡地域,走 EdgeOne 全球加速。...Step3 开生命周期:控制台→存储桶→基础配置→生命周期,设置 30 天降低频、90 天归档,一键保存。
什么是“深度归档存储” 深度归档存储是一种针对冷数据安全且低成本的存储方式,相比于低频存储和归档存储,其价格更低,适用于访问频率极低(如半年一次),但需要持久存储的数据,如日志审计数据,安防监控数据。...在软件上,通过数据压缩技术,使用户有效数据存储密度获得最大化的提升。 在硬件上,腾讯云深度归档存储启用新的高密度存储介质,离线场景下,也能最大化的发挥出存储介质的优势。...通过对软硬件架构的升级,腾讯云深度归档存储对节约存储成本的效果立竿见影:深度归档存储费用仅为0.01元/GB/月,就可以在云上享受与磁带存储成本一致的产品体验,相比于普通归档存储而言,普通归档存储费用为...兼顾可靠性和可用性,为数据安全保驾护航 深度归档存储除了降低成本,还兼顾可靠性和可用性,提供99.95%的设计可用性和99.999999999%(11个9)的数据持久性。...推荐使用深度归档存储,用户无需担心扩容和成本问题,只需要极低的存储费用,就能够保障备份数据长期稳定的存储。
平台层 动环主机 / DCIM / 腾讯云IoT 接入 设备建模:IP ↔ 点位 ↔ 机柜 ↔ 区域 四级映射 数据写入:实时数据进时序库,历史数据归档关系库 判定逻辑:Modbus 读数为主生判据,SNMP...PoE 交换机主备,关键节点双上行 误区提醒:不要用“端口数 × 15.4W”算总预算,交换机 PoE 是总池约束,需按实际功耗核算。...采集配置 轮询周期:常规 30s,核心机柜 5~10s 离线判定:连续 5 次读取失败 + 60~120s 无响应 → 标记离线 质量处理:GOOD 入库、UNCERTAIN 标记、BAD 丢弃并记事件...时序存储优化 热数据(7天)存 SSD 时序库,聚合数据(1年)降采样,统计值长期归档 单点存储采用 Int16 缩放编码,结合 TSDB 压缩降低存储成本 七、联动与告警闭环 两级阈值:预警值(如 28...→ 自动 Ping + 查交换机端口状态 → 区分“设备坏/端口坏/网络分区” 数据留存:实时数据保留 ≥3 个月,历史归档 ≥2 年,满足审计 扩容流程:新增节点 → 分配静态 IP → 导入点表
目标:搭一个"选股→决策→风控→复盘→预测"全链条的个人工作台,AI每天自动产出、自动归档、自动同步到一张页面。...五、第3步:接自动化(9项任务+专家绑定)任务时间绑定专家财经早报每交易日08:30严估深(股票研究专家)午盘复盘每交易日11:35严估深每日复盘每交易日16:30严估深持仓触警交易日每整点—自选股扫描每交易日...推荐池与自选池分离:AI推荐先进推荐池,确认采纳才进自选池,主动权始终在自己手里。..."写成清单,再决定哪步交给自动化;资料库表结构一次设计好——字段、枚举、去重键想清楚,改表很痛苦;自动化prompt要写"步骤"——越显式越稳定(步骤0解析上传、步骤1取行情、步骤2生成…);一切产出双写...——云端+本地,防丢可离线;别追求一次到位——按阶段迭代,每阶段用真实数据验证再进下一阶段。
随着离线数仓、实时数据湖、AI 训练场景并行爆发,数据存储、计算、调度成本正以每年30%以上的速度上涨。...对象存储 COS 低频+归档一键生命周期;DLC 支持 Upsert 合并小文件 OSS 低频+归档;MaxCompute 按量付费 S3 Intelligent-Tiering...OBS 低频+归档 Cloud Storage Nearline/Coldline WeData 生命周期策略图形化配置,零代码 调度资源弹性...存储冷热分层+小文件合并 通过数据地图一键配置 COS 生命周期:热数据 7 天转低频、30 天归档。 DLC Upsert 能力自动合并小文件,减少 NameNode 压力,存储+计算双降。...四、案例速读:某头部出行平台 3 个月节省 120 万 场景:日均 30 TB 轨迹数据离线入湖+实时风控。
目标 & 设计原则 目标 面向日志/指标/链路全量数据的多区域容灾,满足从低成本归档到零数据丢失的多活不同等级的业务需求。...原则 摄取端复制优先:在OTel Gateway做多出口扇出(双写 + Kafka 旁路)而不是强依赖后端存储的复制能力。 系统真源(System of Record):Kafka....→对象存储 故障时离线恢复 1.0 L2 T+1 分析 次日分析、月报/审计 RPO=T+1;RTO=1~4h OTel → OpenObserve(主)、Kafka(主) → 每日 ETL → PG(...恢复:主区不可用时,在 DR 新建 OpenObserve 集群,挂载/回灌对象存储;按需要批量回放 Kafka 归档。 优点:极低成本、简单;不足:RPO=T+1,RTO较长,不适合在线告警。...推荐落地路径(从低到高) Baseline(L2):主区 OpenObserve + Kafka;每日 ETL→PG(主/DR),对象存储 CRR。
双写文件设计解决了物理写入中的半写问题,进一步保障数据完整性。高可用主备架构及自动故障切换机制YashanDB通过多形态主备复制架构构建数据的高可用保障。...备份集也可启用加密策略,防止离线数据泄露。网络层采用SSL/TLS安全协议确保数据传输过程的保密性和完整性。PL源码加密功能对存储的业务逻辑源代码提供保密保护。...备份可以以本地、共享存储或流式远程方式进行,满足不同业务连续性建设需求。备份集包含控制文件、数据文件、Redo和归档日志等,确保数据库完整的恢复能力。...配置适当的事务隔离级别,默认推荐读已提交隔离级别,业务对一致性有更高要求时启用可串行化级别。在关键表的索引列及外键列上创建合适索引,优化查询效率并降低数据完整性约束对性能的影响。...对敏感数据启用表空间与表级透明加密,并对备份集启用加密保护,保障离线数据安全。定期执行备份,使用增量备份策略缩短备份窗口,规划合理的归档和PITR策略以实现快速恢复。
2.3 三层密钥体系 财务数据量大、涉及系统多,密钥需分层管理以控制单点风险: 主密钥:存于硬件密码机,离线保护,极少使用 数据密钥:分别加密各财务库与字段,可独立轮换 密钥轮换:数据密钥定期更换,...工程上私钥与根证书密钥均存放于硬件密码模块: 开票私钥:在密码硬件内完成签名运算,私钥不导出、不可复制 根密钥:离线存储、多人分权管理,避免单点失陷 密钥用量审计:签名、验签调用全程留痕,异常高频调用可告警...四、电子凭证与报表的加密归档 4.1 归档凭证加密存储 电子发票、电子回单、电子报表需长期归档备查。...归档数据采用加密存储并配合访问控制: 4.2 归档可验与不可抵赖 电子凭证归档不只是"存起来",还要保证若干年后仍能证明其真实与完整。...SM2/SM3/SM4 发票验签链路可适配国密证书体系 国际算法与国密并存的双栈过渡期,接口层屏蔽算法差异,业务无感知切换 5.3 性能与可用性指标 六、结语 财务数据与电子发票的安全,需要同时解决
今年双11,Flink 更进一步,利用流批一体计算能力,助力数据中台实现更加精准的实时离线交叉数据分析和业务决策。...阿里的数据报表分为实时和离线两种,前者在诸如双 11 大促场景下的作用尤为明显,可以为商家、运营以及管理层提供各种维度的实时数据信息,并帮助其及时作出决策,提升平台和业务效率。...鉴于 Flink 流批一体计算技术的不断成熟,以及前期在搜索推荐场景的成功落地,今年双 11 数据平台开发团队也展示出坚定的信心和信任,与 Flink 实时计算团队并肩作战,共同推动实时计算平台技术升级...一些定制化程度较高,比如需要精细化的操纵状态存储的作业还是需要继续使用 DataStream API。在常见的业务场景中,用户写了一份流计算作业后,一般还会再准备一个离线作业进行历史数据的批量回刷。...经过团队一年的努力,基于 Flink 的搜索推荐实时计算平台成功的支持了2016 年的搜索双 11,保证了搜索推荐全链路实时化。