全球分布式云大会是分布式云技术和商业交流的旗舰级平台，2023全球分布式云大会·北京站将于6月28日-29日正式召开，本次大会以“云智筑基”为主题，探究人工智能（AI）在大模型全新的发展风口，构建新型泛在算力网络的趋势，如何利用分布式云、分布式数据库、分布式存储、边缘云等构建新型算力网络，打造更强大的数字经济价值引擎。
2022年，搜狐智能媒体完成了迁移腾讯云的弹性计算项目，其中大数据业务整体都迁移了腾讯云，上云之后的整体服务性能、成本控制、运维效率等方面都取得了不错的效果，达到了预期的降本增效目标。
有赞搜索中台作为有赞企业级搜索能力复用平台，在解决各个业务域搜索问题时是如何探索与实践的，这个过程中有哪些心得，本文与大家一起分享探讨下。
在数字化转型浪潮中，如何存储和利用好数据，是企业面临的首要问题。相比于传统互联网全面拥抱云，产业互联网在数字化转型过程中，通常第一步是利用云存储来归档数据。
企业降本增效是越来越热门的话题，除去较为粗暴的“毕业”之外，企业还可以在许多地方下功夫，例如降低大数据成本、营销成本、运营成本等等。在 ArchSummit 全球架构师峰会深圳站上，我们邀请了货拉拉大数据架构负责人王海华，他为我们分享了《货拉拉基于混合云的大数据成本管控体系建设实践》，本文为其演讲整理，期待你可以有所收获。 大家好，我是王海华，货拉拉基础架构负责人，我将从以下几方面展开分享。首先是背景与挑战；其次是大数据成本管理体系；接着是存储成本优化和计算成本优化技术细节；最后是总结与展望。 背景与挑
画像平台功能具有相似性，其技术架构也可以抽象出统一的模式，本节内容主要介绍画像平台常见的技术架构。为了加强读者对技术选型的认识，本节还会介绍几个互联网公司在画像类平台上的技术选型方案。
一、概述 数据一致性是指关联数据之间的逻辑关系是否正确和完整。问题可以理解为应用程序自己认为的数据状态与最终写入到磁盘中的数据状态是否一致。比如一个事务操作，实际发出了五个写操作，当系统把前面三个写操作的数据成功写入磁盘以后，系统突然故障，导致后面两个写操作没有写入磁盘中。此时应用程序和磁盘对数据状态的理解就不一致。当系统恢复以后，数据库程序重新从磁盘中读出数据时，就会发现数据再逻辑上存在问题，数据不可用。 二、Cache引起的数据一致性问题 引起数据一致性问题的一个主要原因是位于数据I/O路径上的各种Cache或Buffer（包括数据库Cache、文件系统Cache、存储控制器 Cache、磁盘Cache等）。由于不同系统模块处理数据IO的速度是存在差异的，所以就需要添加Cache来缓存IO操作，适配不同模块的处理速度。这些Cache在提高系统处理性能的同时，也可能会“滞留”IO操作，带来一些负面影响。如果在系统发生故障时，仍有部分IO“滞留”在IO操作中，真正写到磁盘中的数据就会少于应用程序实际写出的数据，造成数据的不一致。当系统恢复时，直接从硬盘中读出的数据可能存在逻辑错误，导致应用无法启动。尽管一些数据库系统（如Oracle、DB2）可以根据redo日志重新生成数据，修复逻辑错误，但这个过程是非常耗时的，而且也不一定每次都能成功。对于一些功能相对较弱的数据库（如SQL Server），这个问题就更加严重了。 解决此类文件的方法有两个，关闭Cache或创建快照（Snapshot）。尽管关闭Cache会导致系统处理性能的下降，但在有些应用中，这却是唯一的选择。比如一些高等级的容灾方案中（RPO为0），都是利用同步镜像技术在生产中心和灾备中心之间实时同步复制数据。由于数据是实时复制的，所以就必须要关闭Cache。 快照的目的是为数据卷创建一个在特定时间点的状态视图，通过这个视图只可以看到数据卷在创建时刻的数据，在此时间点之后源数据卷的更新（有新的数据写入），不会反映在快照视图中。利用这个快照视图，就可以做数据的备份或复制。那么快照视图的数据一致性是如何保证的呢？这涉及到多个实体（存储控制器和安装在主机上的快照代理）和一系列的动作。典型的操作流程是：存储控制器要为某个数据卷创建快照时，通知快照代理；快照代理收到通知后，通知应用程序暂停IO操作（进入 backup模式），并flush数据库和文件系统中的Cache，之后给存储控制器返回消息，指示已可以创建快照；存储控制器收到快照代理返回的指示消息后，立即创建快照视图，并通知快照代理快照创建完毕；快照代理通知应用程序正常运行。由于应用程序暂停了IO操作，并且flush了主机中的 Cache，所以也就保证了数据的一致性。 创建快照是对应用性能是有一定的影响的（以Oracle数据库为例，进入Backup模式大约需要2分钟，退出Backup模式需要1分钟，再加上通信所需时间，一次快照需要约4分钟的时间），所以快照的创建不能太频繁。 三、时间不同步引起的数据一致性问题 引起数据不一致性的另外一个主要原因是对相关联的多个数据卷进行操作（如备份、复制）时，在时间上不同步。比如一个Oracle数据库的数据库文件、 Redo日志文件、归档日志文件分别存储在不同的卷上，如果在备份或复制的时候未考虑几个卷之间的关联，分别对一个个卷进行操作，那么备份或复制生成的卷就一定存在数据不一致问题。 此类问题的解决方法就是建立“卷组（Volume Group）”，把多个关联数据卷组成一个组，在创建快照时同时为组内多个卷建立快照，保证这些快照在时间上的同步。之后再利用卷的快照视图进行复制或备份等操作，由此产生的数据副本就严格保证了数据的一致性。 四、文件共享中的数据一致性问题 通常所采用的双机或集群方式实现同构和异构服务器、工作站与存储设备间的数据共享，主要应用在非线性编辑等需要多台主机同时对一个磁盘分区进行读写。
云服务器、云数据库特惠，服务更稳，速度更快，价格更优 前往地址> 云服务器年付3折起 所有机型免费分配公网IP，50G高性能云硬盘（系统盘） 。 英特尔Ⓡ至强处理器 CPU负载无限制，利用率最高为100% 搭配网络增强，包转发能力最高可达30w 个人建站，轻量APP，企业用户等各应用场景均可适用 云数据库年付3折起 MySQL高可用版 提供备份，恢复，监控，数据迁移等产品功能 双机热备，自动容灾 采用高性能SSD硬盘 按需使用，弹性扩展 Redis 提供备份，恢复，监控，按需升级等产品功能 适用所用高
多云是指企业使用两个或更多的公有云 IaaS 供应商。广义来看，混合云也在其范畴。多云架构有如下优势：
日志数据是典型的时序数据，因此，日志场景是时序数据库CTSDB的典型应用场景。下文主要描述如何用CTSDB搭建日志系统。
一般意义上，备份指的是数据备份或系统备份，容灾指的是不在同一机房的数据备份或应用系统备份。备份采用备份软件技术实现，而容灾通过复制或镜像软件实现，两者的根本区别在于：
随着计算力的不断提升和智能算法的快速演进，以及云计算、物联网和人工智能与传统产业更加密集的渗透，如今的世界正在加速进入一个全新的数据时代。
数据量的增长其实一直是随着互联网的发展呈现爆发式增长的，因为各种各样的数据都在不断的被原样或者是经过少量的更改和增补后拷贝到互联网的各个角落。为了适应互联网数据的海量增长，在后端和架构意义上而言，数据库的发展也大致经历了「单库单表 -> 主从读写分离 -> 分表分库 -> NoSQL -> NewSQL」这样的过程。
作为汽车工业的基础，汽车零部件行业是推动汽车工业持续健康发展的重要因素。近些年，随着汽车行业市场竞争日趋激烈，传统的采购管理模式已不能适应现代企业发展的要求，而数字化采购协同系统的出现，为汽车零部件企业的采购管理提供了新思路。
对于企业来说，数据保护是将大量数据存储在云端的关键原因。最终所有数据都需要备份和归档，很多IT组织将云计算视为本地存储的最具成本效益的替代方案。 这一策略的最大问题是，本地存储的大部分数据都在与云服务
业务背景 作业帮成立于2015年，一直致力于用科技手段助力教育普惠，运用人工智能、大数据等前沿技术，为学生、老师、家长提供更高效的学习、教育解决方案，智能硬件产品等。作为大数据中台架构团队，我们一直探索利用有限的资源，较低的开发维护成本、高时效的数据更新和查询，为业务团队提供基础支持。 问题&痛点 ODS层数据就绪时间晚，DWS/ADS等上层数据和业务报表构建时间少。 作业帮ODS层表大概有几千张，TP90就绪时间大概在4点30左右，不同业务团队因工作时间不同，看数时间会有些差异，总体上来说基本都要求数
数栈是云原生—站式数据中台PaaS，我们在github和gitee上有一个有趣的开源项目：FlinkX，FlinkX是一个基于Flink的批流统一的数据同步工具，既可以采集静态的数据，也可以采集实时变化的数据，是全域、异构、批流一体的数据同步引擎。大家喜欢的话请给我们点个star！star！star！
”工欲善其事，必先利其器“。数据备份是DBA的日常工作，也是保证数据安全的重要工作，要尽善尽美的完成这项工作，必须要使用一款高效可靠的备份工具。MySQL在其企业版里提供了一款备份工具——MySQL Enterprise Backup，简称MEB。
21世纪的第一个10年，企业级数据仓库（EDW）从萌芽到蓬勃发展，“IOT”( IBM、Oracle、Teradata)占领了大部分市场，提供数据仓库建设从硬件、软件到实施的整体方案。
字节跳动早期为了快速支持业务，对于电商流量数据采用Lambda的设计架构，由于当前电商流量数据随着建设的深入和精细化的运营，设计架构的弊端也愈发凸显。
业务不断地在增长，集群分片中的数据也会随着时间的推移而增加，其中有相当一部分的数据是很少被使用的，例如几年前的订单记录、交易记录、商品评论等数据。这部分数据就称之为冷数据，与之相反经常被使用的数据则称之为热数据。
PostgreSQL 高可用数据库的常见搭建方式主要有两种，逻辑复制和物理复制，上周已经写过了关于在Windows环境搭建PostgreSQL逻辑复制的教程，这周来记录一下 物理复制的搭建方法。
一、iOS数据持久化方式 （1）XML属性列表（plist）归档 （2）Preference(偏好设置)，本质还是通过“plist”来存储数据, 但是使用更简单(无需关注文件、文件夹路径和名称) （3）NSKeyedArchiver归档(NSCoding)，可以把任何对象, 直接保存为文件的方式。 （4）SQLite3，当非常大量的数据存储时使用 （5）Core Data，就是对SQLite的封装 关于bundle路径和sandbox沙河路径： （1）bundle路径：应用程序 (APP) 在手
移动端重点是移动端，支持IOS/Android系统，包括IM App，嵌入消息功能的瓜子App，未来还可能接入客服系统。
快手的传统离线链路和很多公司是一致的，基于 Hive做离线分层数仓的建设。在入仓环节和层与层之间是基于 Spark 或者 Hive做清洗加工和计算。这个链路有以下四个痛点：
《一个海量在线用户即时通讯系统（IM）的完整设计》（以下称《完整设计》）这篇文章发出来之后有不少读者咨询问题，提出意见或建议。主要集中在模块拆分、协议、存储等方面。针对这些问题做个简单说明。
重剑轻出，大巧不工。本案例中的“天幕安全巡检”小工具依托云开发CloudBase+小程序可视化而打造，旨在改善 toB 售前打单过程中常见的繁琐流程问题，包括面向客户的长时多轮产品 PPT 演示、现场搭建 POC 环境作产品测试等。基于腾讯自研 PaaS 层强大安全算力算法能力，该工具以简驭繁，最终以轻量、便捷“随身小工具”的形式呈现给使用者，帮助加速客户对产品认知体验效率。
当Oracle写数据文件遇到错误时，该如何应对呢？是离线文件还是崩溃实例？这个简单问题的技术变化跨度超过了20年。 自Oracle 11.2.0.2版本开始，一个新的隐含参数 - _datafile_write_errors_crash_instance 被引入到数据库中，通过这个参数名就可以了解到其含义：当发生数据文件写错误时，Crash数据库实例。 为什么要引入这个参数呢？这个参数后台解决的是什么问题呢？我在《数据安全警示录》一书上曾经写过多个案例，在归档模式下当发生文件（非SYSTEM文件）写错误
从整体的资源角度看，有赞数据中台机器数量在 1500 台左右，其中大部分是物理机，也有一部分是虚拟机，同时有 100 个左右的应用、4 万个核，数据规模在 15 PB 左右。
特来电新能源有限公司是创业板第一股特锐德（300001）的全资子公司，主要从事新能源汽车充电网的建设、运营及互联网的增值服务。特来电颠覆了传统充电桩的模式，世界首创了电动汽车群智能充电系统，获得 336 项技术专利，以“无桩充电、无电插头、群管群控、模块结构、主动防护、柔性充电”的特点引领世界新能源汽车充电的发展，系统的鉴定结论为：“产品世界首创、技术水平国际领先。主动柔性充电对电池寿命可以延长 30% 左右，电池充电的安全性可以提升 100 倍以上。”
时光如白驹过隙，坐在时代的列车里，我们一路向前；近三十年来，无数事物在车窗前掠影而过，一度流行，又一度黯淡。磁带，就是一个时代的符号。彼时，磁带因其低廉、可靠及易用等特性，一度成为音乐最主流的载体，将流行音乐传遍大街小巷。后来，随着 CD 和 MP3走进大众视野，磁带逐步退出历史舞台。如今，磁带作为音乐载体早被时代淘汰.....但磁带作为存储载体，近几十年却从未过时：在冷数据场景，磁带存储凭借其极低的成本和极长的寿命，在企业存储市场始终占有一席之地。今天的故事就此展开，来聊聊腾讯的深度归档存储与磁带的那些事。欢迎阅读~
据艾瑞咨询的报道，2017 年中国家电行业，苏宁是最大的市场占有者。线上线下的组合，占据整个行业的 20.0%. 是京东（12.3%）和国美电器（7.5%）之和，而天猫已被拉入了第三阶梯，比较起来毫无竞争力。
此款插件由丸子AHCHI开发集成，插件方便小巧，一共有四个优化菜单项，分别为网站加速优化、优化菜单、仪表盘、小工具等。
鱼羊 明敏 发自 凹非寺 量子位 | 公众号 QbitAI 大家好，我们又来蹭冬奥会热度了（手动狗头）。 毕竟啊，这届冬奥不仅赛事精彩，背后频频曝出的黑科技也让人应接不暇填满了选题小黑板。 从开幕式上的“步步生雪花”，到赛程中全网感谢的“猎豹”、“飞猫”， 再到各个直播间里手语解说、带货冰墩墩的数字人们……整得这都不单单是体育迷们的盛宴，也给科技爱好者们喂了个饱。 甚至，上述这些还只是你“看得到”的。深挖起来，在这届冬奥会背后，科技带来的变化真是已经深入到冰雪赛事的每一根毛细血管里，无处不在。 怎么说？
前言 在上篇博客《人工智能在线特征系统中的数据存取技术》中，我们围绕着在线特征系统存储与读取这两方面话题，针对具体场景介绍了一些通用技术，此外特征系统还有另一个重要话题：特征生产调度。本文将以美团点评酒旅在线特征系统为原型，介绍特征生产调度的架构演进及核心技术。 架构演进共包含三个阶段，不同阶段面临的需求痛点和挑战各有不同，包括导入并发控制、特征变更原子切换、实时特征计算框架涉及、实时与离线调度融合等。本文我们将从业务需求角度出发，介绍系统演进的三个阶段所解决的主要问题和技术手段，然后把系统演化过程中的一些
IMAP全称是Internet Message Access Protoco，这是一种邮件协议，允许邮件客户端如QQ邮箱、163邮箱、腾讯企业邮通过IMAP协议从邮件服务器上获取邮件信息。
二级存储旨在通过更经济、更安全的存储介质长期保留相对不关键和不活跃的数据，这些数据不需要像主存储中的数据那样频繁访问。
国内的疫情逐渐散去，复工复产成了大家的新焦点。以新基建为代表的新一轮建设高潮也徐徐拉开大幕，在如此背景之下我们的入门级存储也悄然迎来了2大新机遇， “消费升级”和 “高大智”(高性能计算、大数据和人工智能)的普及，接下来我们就分两期和各位看官细细道来。
CDH支持Hadoop分布式文件系统HDFS中的各种存储类型。早期的CDH只支持一种存储类型。现在，您可以为DataNode数据目录指定不同的存储类型，这样可以根据数据使用频率优化数据使用并降低成本。例如需要频繁使用的数据，可以存储在SSD中，而归档的数据可以存放在相对便宜的存储介质中。
随着企业数据越来越大，企业意识到数据是一种无形的资产，通过对企业各业务线产生的海量数据进行合理管理和有效应用，能盘活并充分释放数据的巨大价值。如果不能对海量数据进行有效管理和应用，企业堆积如山的数据给企业带来的是高昂的成本，数据就用不起来，也用不好。
过去几年，大数据产业更多关注的是如何处理海量、多源和异构的数据，但我们必须承认这些只是冰山一角。目前，结构化数据仅占到全部数据量的20%，其余80%都是以文件形式存在的非结构化和半结构化数据。伴随非结构化数据呈现爆发之势，对象存储市场近两年保持强劲增长，IDC预计，软件定义存储（SDS）市场未来五年复合增长率将达到28.8%。
微信用于个人社交，产品设计上，在线状态，强制已读回执都有可能暴露个人隐私，故微信并无相关功能。
随着企业业务数据量的增大，现有服务器环境可能无法提供足够的磁盘空间存放数据处理的日志和文件，磁盘空间不足是影响EDI环境正常运行的一大原因，会导致数据无法正常处理，日志信息无法写入，影响业务正常进行。本文将为大家介绍出现磁盘空间不足，导致EDI系统运行异常的紧急处理方法。
数据规模大并且成熟企业中数据治理通常包含以下几个功能方面： 数据治理包括主数据管理、元数据管理、数据标准管理、数据质量管理、数据集成管理、数据资产管理、数据安全管理、数据交换管理、数据生命周期管理方面。
Western Digital 与 ATTO Technology 的长期合作基于对当今复杂企业环境的存储和数据基础设施需求的共同洞察。我们正在共同为用户准备迎接下一波性能挑战。
企业数字化转型过程中，数据价值被显著放大，大数据应用成为不少企业探索的重点。 从技术上看，大数据业务由于数据体量大，且数据量很多时候呈急速膨胀状态；在进行大数据计算分析时，对资源的需求呈现浪涌式特征，又偶有突发性，因此通过上云充分发挥资源按需使用按需付费的优势，成为了不少企业在探索大数据应用时的常见模式。 这其中，企业在综合考量数据安全性、可扩展、可管理和成本效益等因素后，混合云部署的方式就成为了企业的主流选择。 近日，腾讯云存储高级产品经理贺永红在混合云主题论坛上发表演讲，详解了大数据应用上云的新
“HTAP”作为数据库领域的当红炸子鸡，其热捧度逐年递增。特别是在随着国产化数据库浪潮逐渐替代原有数据库架构的进程中，业务系统中各类的复杂数据查询与在线交易交织的场景需求日益增多，使得业务对数据库HTAP的能力要求逐渐严格起来。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
