十年前，Hadoop 是解决大规模数据分析的“白热化”方法，如今却被企业加速抛弃。曾经顶级的 Hadoop 供应商都在为生存而战，Cloudera 于本月完成了私有化过程，黯然退市。MapR 被 HPE 收购，成为 HPE Ezmeral 平台的一部分，该平台尚未在调查中显示所占据的市场份额。
假如云计算提供商把精力集中在最底层，而其他（纯软件）提供商专注于上面的一层，又会如何呢？
OLAP 是一个很卷的赛道，创业公司也众多。在本文中，笔者基于 10+ 年的大数据与数据仓库的工作经验，就目前的主流趋势：离在线一体化、引擎一体化、云原生化等写一些思考，抛砖引玉，希望能与各位共同探讨。
新粉请关注我的公众号 在一年一度的Snowflake Summit上，Snowflake宣布它们发布最新的UniStore，正式进军HTAP市场。 UniStore是Snowflake的一个新的存储引擎，不是Column Store 是个Row Store，它保证了Snowflake对一个row的访问会很快，并支持事务处理。 在UniStore上创建一种新的类型的表叫做HybridTable。这种表可以支持事务处理，用户可以在上面执行OLTP的操作。同时这种表也支持OLAP的操作。因此，这就成了HTAP，同
HTAP是什么HTAP(Hybrid Transaction and Analytical Processing)数据库，也称混合型关系数据库，是能同时提供OLTP和OLAP的混合关系型数据库。在互联网浪潮出现之前，企业的数据量普遍不大，特别是核心的业务数据，通常一个单机的数据库就可以保存。那时候的存储并不需要复杂的架构，所有的线上请求OLTP和后台分析OLAP都跑在同一个数据库实例上。随着互联网的发展，企业的业务数据量不断增多，单机数据库的容量限制制约了其在海量数据场景下的使用。
Oracle 23c 提出的理念是 App Simple，亚马逊在 re:invent 2022 大会提出的一个理念是 ZERO ETL，其实都是在简化。
20世纪90年代，使用MPP架构的Netezza和Teradata的数据库设备对Oracle，IBM和Microsoft在anlytics数据库市场的主导地位提出了挑战，并且随着“大数据”的出现以及带有分布式处理的Hadoop的严峻考验。
大家知道 2022 年我又创业了，加入以虎哥 Startup 的 Databend 这个公司担任联创，我也从传统的 OLTP 转战到 OLAP,今年也接触了更多大数据用户。趁着元旦假期整理一下思路，从数据角度和大家聊一下 2022 年数据库发展，这里首先声明这篇文章更多只代表个人观点，大家看看就好，有兴趣后面找机会再交流。
作者 | Andy Pavlo 译者 | 平川 策划 | Tina 本文最初发布于 OTTERTUNE。 又一年过去了，我还活着。因此，现在是时候回顾下数据库领域去年发生的事情了。随着 DBMS 供应商之间的基准测试之争逐渐止息，数据库领域一片寂静。去年的回顾我写得很开心，所以我很高兴与你们分享 2022 年这个领域发生的一些引人注目的事情以及我的看法。 1 大规模数据库投资大幅放缓 我去年讨论过，2021 年是数据库融资的丰收年。跟随投资者继续寻找下一个 Snowflake 的脚步，大量的资
本文作者为 PingCAP 联合创始人兼 CTO 黄东旭，将分享分布式数据库的发展趋势以及云原生数据库设计的新思路。
在OLAP分析引擎领域，Apache Kylin可以说是一个重要的成员，相比于大规模并行处理指导思想下的Hive、Presto等组件，Apache Kylin采取了新的计算模式，提供不同的解决方案。今天的大数据开发分享，我们就主要来讲讲OLAP分析引擎Apache Kylin入门。
本系列为 CMU 15-445 Fall 2022 Database Systems 数据库系统 [卡内基梅隆] 课程重点知识点摘录。
是时候将数据分析迁移到云端了。我们比较了 Databricks 和 Snowflake，以评估基于数据湖和基于数据仓库的解决方案之间的差异。 在这篇文章中，我们将介绍基于数据仓库和基于数据湖的云大数据解决方案之间的区别。我们通过比较多种云环境中可用的两种流行技术来做到这一点：Databricks 和 Snowflake。 正如我们在上一篇文章中了解到的，数据分析平台可以分为多个阶段。上面，我们可以看到一张图片，大致了解了管道中 Snowflake 和 Databricks 的角色。在这里，我们可以将工具分
在讲新的思路之前，先为过去没有关注过数据库技术的朋友们做一个简单的历史回顾，接下来会谈谈未来的数据库领域，在云原生数据库设计方面的新趋势和前沿思考。首先来看看一些主流数据库的设计模式。
作者 | 吴炳锡 中国数据库行业随着 2021 年 7 月 PingCAP 完成 3.4 亿美元融资，估值达到 30 亿美金，把中国数据库行业引爆了。2022 年 12 月 23 日达梦数据库 IPO 顺利过会，如果上市成功预计估值在 500 亿人民币，不出意外的话，这将是科创板最大的 IPO 之一。 那么你知道中国的数据公司有多少吗？据不完全的统计已经超过 300 多家，那 2023 年数据库市场又会是什么变化呢？我这里抛出来 5 个问题借本文与大家讨论一下。 Q1. 中国和海外数据库的差距还有多远？
经常思考一个问题，为什么我们需要分布式？很大程度或许是不得已而为之。如果摩尔定律不会失效，如果通过低成本的硬件就能解决互联网日益增长的计算存储需求，是不是我们也就不需要分布式了。
尽管商业智能分析有用，但它们无法以效益化的方式满足面向数据应用的实时性、延迟性和并发性的需求。
分布式系统专家，架构师，开源软件作者。PingCAP 联合创始人兼 CTO，知名开源项目 Codis / TiDB / TiKV 主要作者，曾就职于微软亚洲研究院，网易有道及豌豆荚。2015 年创业，成立 PingCAP，致力于下一代开源分布式数据库的研发工作，擅长分布式存储系统设计与实现，高并发后端架构设计。
2020 年 9 月，主打云数据仓库产品的硅谷独角兽 Snowflake 正式登陆纳斯达克，首日 IPO 筹资高达 33.6 亿美元，是有记录以来金额最大的软件 IPO，突破了 Uber 2019 年 5 月上市创下的最大规模纪录。 如今，大数据技术早已进入普及期，数据仓库 / 分析领域更是巨头林立，既有传统厂商 Oracle、Teradata，也有开源软件 Hadoop，还有云厂商 AWS Redshift、Google Bigquery，在这样一个竞争环境下，成立于 2012 年的 Snowflake 能脱颖而出实属不易。那么，Snowflake 在数仓技术方面有哪些独到之处？其成功的背后又有哪些技术原因和趋势值得关注？
作者 | 蔡芳芳 采访嘉宾 | 陈龙 2020 年 9 月，主打云数据仓库产品的硅谷独角兽 Snowflake 正式登陆纳斯达克，首日 IPO 筹资高达 33.6 亿美元，是有记录以来金额最大的软件 IPO，突破了 Uber 2019 年 5 月上市创下的最大规模纪录。 如今，大数据技术早已进入普及期，数据仓库 / 分析领域更是巨头林立，既有传统厂商 Oracle、Teradata，也有开源软件 Hadoop，还有云厂商 AWS Redshift、Google Bigquery，在这样一个竞争环境下
回顾数据仓库的发展历程，大致可以将其分为几个阶段：萌芽探索到全企业集成时代、企业数据集成时代、混乱时代--"数据仓库之父"间的论战、理论模型确认时代以及数据仓库产品百家争鸣时代。查看原文
唯一ID算法Snowflake相信大家都不墨生，他是Twitter公司提出来的算法。非常广泛的应用在各种业务系统里。也因为Snowflake的灵活性和缺点，对他的改造层出不穷，比百度的UidGenerator、美团的Leaf、索尼的Sonyflake等等。这篇帖子主要是讲一下原生的Snowflake算法、缺点及改造方案，并分析索尼的Sonyflake源码对原生Snowflake的改造，
我们用过很多数据仓库。当我们的客户问我们，对于他们成长中的公司来说，最好的数据仓库是什么时，我们会根据他们的具体需求来考虑答案。通常，他们需要几乎实时的数据，价格低廉，不需要维护数据仓库基础设施。在这种情况下，我们建议他们使用现代的数据仓库，如Redshift, BigQuery，或Snowflake。
美国时间 2018年4月19日，苹果公司宣布开源FoundationDB。FoundationDB 本来是一个开源项目，于2015年被苹果收购以后，其代码从GitHub上删除进入闭源代状态，直到苹果宣布重新开源。
客观地说，如果一定要用uuid生成订单号这类东西也能凑合用，但是它有着罄竹难书的“罪行”：肉眼可见，它是无序的；长度是64位数字字母随机组合的字符串，占用空间巨大；完全不具备业务属性，也就是说使用uuid你完全无法推算出它到底是干嘛的；因为无序，所以趋势递增就更不用指望了；所以用uuid生成订单号就是自杀行为，适合它的是类似生成token令牌的场景。
SNP Glue是SNP的集成技术，适用于任何云平台。它最初是围绕SAP和Hadoop构建的，现在已经发展为一个集成平台，虽然它仍然非常专注SAP，但可以将几乎任何数据源与任何数据目标集成。
为实现实时分析，通常需要付出巨大努力来实现查询层。开源 StarRocks 可以支持一种无需传统数据流水线即可进行数据分析的方法。
12 月 21 日，在第十一届中国数据库技术大会（DTCC）2020 数据风云奖评选活动中，PingCAP-TiDB 荣获 2020 年度最佳创新产品奖。同时，PingCAP 数据库内核研发工程师韦万受邀在数据库内核专场进行了《使用 TiDB 列存引擎进行实时数据分析》的主题演讲。
多云方法提供了云计算的所有优点，而没有很多陷阱。仅限于单个云计算供应商及其生态系统存在危险，特别是对于那些希望通过创新来领导的企业来说，云计算供应商的技术改进步伐仍在不断加快。维持在最佳云平台上解决特定业务问题或流程的灵活性，可为企业带来竞争优势。
Snowflake 中文的意思为雪花，所以 Snowflake算法 常被称为 雪花算法，是 Twitter（现“X”）开源的分布式 ID 生成算法，是一种分布式主键ID生成的解决方案。
后来看到了Snowflake CTO Benoit Dageville 的一个分享，也提到了这一观点，原来数据交换市场概念出处是在这里。
作者 | Matt Bornstein, Jennifer Li, Martin Casado 译者 | Sambodhi 策划 | Tina 自从我们在 2020 年底发布了一套参考架构以来，数据基础设施行业的增长势头有增无减。在过去的一年里，几乎所有的关键行业指标都创下了历史新高，新的产品类别出现的速度超过了大多数数据团队可以合理跟踪的速度。甚至连基准战争和广告牌之争也卷土重来。 为了帮助数据团队紧跟行业内发生的变化，我们在这篇文章中发布了一套最新的数据基础设施。它们展示了当前分析和运营系统的
作者 | 张雅文 当前，数字化转型已成为很多企业的必修课。而面对如今的经济形势，企业为数字化转型迈出的每一步都至关重要。过去，不少企业为充分发挥数据价值，已经做了很多相关努力，从以 Hadoop 为核心的数据湖，到 Snowflake、Databricks 等云上数据仓库，再到湖仓一体化...... 这些举措真的解决了与日俱增的数据问题吗？未必。今年 Gartner 发布的《分析查询加速的市场引导报告》就曾指出，企业在享受数据湖带来灵活性的同时，也承受着因数据使用和管理混乱带来的不利影响。 传统BI 已经无
🍁 作者：知识浅谈，CSDN签约讲师，CSDN原力作者，后端领域优质创作者，热爱分享创作 💒 公众号：知识浅谈 📌 擅长领域：后端全栈工程师、爬虫、ACM算法 🔥 联系方式vx：zsqtcc 她把分布式 ID 常见解决方案讲的真的透彻。 🤞这次都给他拿下🤞 为什么 分布式 ID 使用这么频繁呢？ 这主要是因为大数据量，高并发使得单体数据库显得力不从心了。 正菜来了🛴🛴🛴 🍖基于sql数据库方案 🍕数据库主键自增 这种方式就比较简单直白了，就是通过关系型数据库的自增主键产生来唯一的 ID。
允中 发自 凹非寺 量子位 编辑 | 公众号 QbitAI 10月23日数据湖高峰论坛上，阿里巴巴集团副总裁、阿里云智能数据库产品事业部负责人、达摩院数据库与存储实验室负责人李飞飞表示:“云原生作为云计算领域的关键技术与基础创新，正在加速数据分析全面进入数据库大数据一体化时代”。 △ 阿里巴巴集团副总裁、阿里云智能数据库产品事业部负责人李飞飞 他表示，随着数字化转型进程深入推进，企业的数据存储、处理、增长速度发生了巨大的变化，传统数据分析系统在成本、规模、数据多样性等方面面临很大的挑战。云计算的发展正在加
分布式 ID 生成算法的有很多种，Twitter 的 SnowFlake 就是其中经典的一种。
整理 | Tina 微软 IE 浏览器正式退役，盖茨调侃原因：“微芯片被用完了”；马斯克：学习 TikTok 和微信，Twitter才能达到10亿日活目标；河南赋红码事件技术员违规操作是谣言，程序员不背锅；Coinbase 宣布裁员上千人，以对付加密寒冬；华为宣布将调整绩效考核指标；甲骨文数据库主导地位正在被侵蚀；Apache Doris 正式毕业，成为 ASF 顶级项目；Snowflake 发布 UniStore 存储引擎；网易开源的分布式存储系统 Curve 正式成为 CNCF 沙箱项目......
导语 | 伴随着Snowflake的成功，重新激活了数据分析市场，大大小小的创业公司不断创立，各种OLAP的开源产品层出不穷。其中，ClickHouse凭借优秀的性能在用户行为分析、ABTest、在线报表等多个领域大放异彩，但其在功能特性、易用性等方面都还有较多不足。同时，在OLTP、对象存储、Elasticsearch、MongoDB等系统中累积了大量数据和分析需求，不能较好的得到满足。因此，我们希望以Clickhouse为基础，借鉴Snowflake的设计思路，打造一款高性能的云原生OLAP数仓，为用户提供多数据源、多场景下的一站式数据分析平台。
导语 | 4月24日，Techo TVP开发者峰会「数据的冰与火之歌——从在线数据库技术，到海量数据分析技术」的压轴环节是圆桌对话，由支流科技 CEO、腾讯云TVP 温铭主持，与偶数科技 CEO、腾讯云TVP 常雷，易观 CTO、腾讯云TVP 郭炜，腾讯云弹性MapReduce技术负责人 陈龙，腾讯云数据库专家工程师 李海翔四位嘉宾就「从行业到职业，看数据的现在与未来」的主题展开了深度探讨。本文是对本次圆桌论坛的分享整理，希望带给大家更多启发。 点击可观看精彩圆桌对话视频 一、大数据项目的“冷与热”
Flink 从 2014 年诞生之后，已经发展了将近 10 年，尤其是最近这些年得到了飞速发展。在全球范围内，Flink 已经成为了实时流计算的事实标准，成为大数据技术栈中不可或缺的一部分。在 2023 年终盘点之际，InfoQ 有幸采访了 Apache Flink 中文社区发起人、阿里云开源大数据平台负责人王峰（莫问），了解他对大数据技术栈的看法，以及 Flink 的进展和未来规划。
数据库领域同样如此。过去五十余年，数据库经历OLTP和OLAP两种需求漫长的融合-分离-再融合的过程。究其原因，数据库的发展始终与用户场景需求变迁紧密相关。如今，随着云计算和大数据的兴起，业务场景正在经历前所未有的变革，数据库领域也掀起了一股HTAP浪潮。
表命名的规则分为3个层级，层级之间通过_分割，例如b_r_identity、d_l_identity。规约为:
几乎所有的系统都存在生成唯一ID的需求，如用户ID、账单ID等，由于系统通常是分布式架构，因而需要有合适的分布式ID生成方案。
来源 ：我思锅我在 作者：SY、GN ---- （文：SY、GN） “Salesforce became a much bigger company than Siebel because they transformed it. ServiceNow became a much bigger company than BMC because they transformed it. Snowflake is going to completely transform data warehous
导语 | ClickHouse 在近几年是大数据分析引擎界的一匹黑马，从默默无闻到一路起飞，在 DB engine Rank 上进入前50名，成为全球数据引擎界耀眼的一颗明星。在全球范围内，ClickHouse 单表查询比其他引擎要快数倍以上，在过去的4年以来未曾有对手。ClickHouse 为什么会这么快？在实际使用当中如何应用这样一个引擎？还有哪些让人振奋和欣喜的feature将会发布？本文由易观CTO、腾讯云TVP 郭炜在 Techo TVP开发者峰会「数据的冰与火之歌——从在线数据库技术，到海
导语 | 本文推选自腾讯云开发者社区-【技思广益 · 腾讯技术人原创集】专栏。该专栏是腾讯云开发者社区为腾讯技术人与广泛开发者打造的分享交流窗口。栏目邀约腾讯技术人分享原创的技术积淀，与广泛开发者互启迪共成长。本文作者是腾讯后台开发工程师叶强盛。 引言 这十多年大数据技术蓬勃发展，从市场的表现来看基于大数据的数据存储和计算是非常有价值的，其中以云数据仓库为主打业务的公司Snowflake市值最高（截止当前449亿美元），另一家以湖仓一体为方向公司Databricks估值或达380亿美元；各大伺机而动的云厂
编译 | 核子可乐、Tina Databricks 与 Snowflake 之间的激烈竞争再上新台阶，甚至有可能给整个数据仓库领域带来更加深远的影响。 短短半个月，大数据领域新一代领军企业 Databricks 和 Snowflake 就互撕了几回。 11 月 2 日，Databricks 在其官方博客发布声明，表示其数据湖仓（lake house）技术创下 TPC-DS 基准测试新记录，并强调第三方研究表明实际性能可达 Snowflake 的 2.5 倍。 在博客中，Databricks 声称这是一
说起ID，特性就是唯一，在人的世界里，ID就是身份证，是每个人的唯一的身份标识。在复杂的分布式系统中，往往也需要对大量的数据和消息进行唯一标识。举个例子，数据库的ID字段在单体的情况下可以使用自增来作为ID，但是对数据分库分表后一定需要一个唯一的ID来标识一条数据，这个ID就是分布式ID。对于分布式ID而言，也需要具备分布式系统的特点：高并发，高可用，高性能等特点。
湖仓一体（Lakehouse）是近年来比较火的大数据概念，它将数据湖（Data Lake）和数据仓库（Data Warehouse）的优势结合起来，为企业提供了更强大、更灵活的数据管理解决方案。Gartner 技术曲线的描绘中，Lakehouse是一项非常重要技术，预计还有2～5年进入平台期，国内是5～10年。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
