首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

技术资源推荐数据仓库篇)

0x00 前言 前段时间有不少朋友让推荐一些数据仓库的书出来,本着“如果重复三次回答同一个问题,就应该写一篇博客”的原则,在这里梳理一下数据仓库相关的资源给大家。...0x01 书籍推荐 一、数据仓库工具箱(第3版):维度建模权威指南 英文名:《The DataWarehouse Toolkit-The Complete Guide to Dimensona Modeling...所以强烈推荐看了这本书,至少是前5五章。...推荐这本书的原因就在于现在大部分互联网公司的数据仓库都是基于这一套大数据框架来的,更准确的来讲,大家其实都是先工程,后理论,因此这本书可以作为对大数据生态的一览。...有一本小书推荐给大家:《数据仓库实践》,地址:http://www.mdjs.info/2018/01/01/data-warehouse/data-warehouse-in-action/。

3.8K31
您找到你想要的搜索结果了吗?
是的
没有找到

推荐数据仓库的必读书

0x00 前言 数仓的必读书,其实已经推荐过好几次了,但是最近依旧有很多朋友在群里问数据仓库入门看什么书,索性接着视频号的讲稿,给大家再分享一次。 很多读者私信问居士,学习数据仓库该看什么书!...今天,居士就给大家分享居士认为必读的三本: 0x01 推荐 前两本书,一本是《数据仓库工具箱:维度建模权威指南》,一本是《数据仓库》。 两本分别代表了数据仓库建模中的两大流派:维度建模和范式建模。...因此,就要推荐第三本书,也是居士逢人必推的一本:《大数据之路:阿里巴巴大数据实践》。...该书可作为整个数据体系建设的参考书,从数据平台到数据仓库到数据应用,都有比较不错的讲解。...0xFF 总结 如果上面三本书觉得不够,也可以看一下居士写的关于数据仓库的文章,其中有一篇维度建模的文章在Google搜索里面也排到第一了。 当然,如果你有推荐的书,也可以留言出来~

1.1K21

【案例】农业银行大数据平台项目——海量数据复杂运算处理

南大通用GBase 8a MPP Cluster产品也发展成为国内企业大数据、数据仓库领域基础平台软件的领先产品。...2013年8月,农行数据仓库正式立项,确定采用南大通用GBase 8a MPP Cluster与Hadoop的混搭架构。...2013年11月30日,数据仓库原型集群及资负、零售数据集市试运行(28节点MPP集群)。...2014年11月,数据仓库原型环境向生产环境(56节点MPP集群)的迁移与切换工作完成,迁移有效数据103T。 2014年12月,完成财会集市(16节点MPP集群)搭建。...关键技术2:MPP集群活架构示意图 通过运用GBase 8a MPP集群间同步工具识别主集群增量数据(以DC为单位),点对点传输至备集群,实现主备集群数据一致;同时结合大数据平台批量加工调度平台

7.2K100

数据库架构比较

这通常会使这个选项变得昂贵,尽管(理论上)它可以部署在廉价的商用服务器上,实际上,它通常部署在具有冗余磁盘,网络连接和电源的企业级硬件上。...MPP体系结构是数据仓库和分析平台的出色解决方案,因为查询可以分解为组件部分,并在服务器之间并行执行,从而显着提高性能。...“通过大规模并行处理(MPP)设计,查询通常比在对称多处理(SMP)系统上构建的传统数据仓库快50倍”。-微软公司。...成本和高可用性:一些基于MPP数据仓库解决方案旨在在廉价的商用硬件上运行,而无需可能包含成本的企业级冗余组件。这些解决方案通常使用自动数据复制来提高系统弹性并确保高可用性。...在此期间,关于数据仓库是否已经死亡以及Hadoop是否会取代 MPP平台的讨论很多,尽管普遍的共识似乎表明Hadoop充其量只是数据仓库的补充技术; 不是它的替代品。 什么是Hadoop?

3.9K21

基于Hadoop生态圈的数据仓库实践 —— 进阶技术(十一

十一、多重星型模式 从“进阶技术”开始,已经通过增加列和表扩展了数据仓库,在进阶技术(五) “快照”里增加了第二个事实表,month_end_sales_order_fact表。...这之后数据仓库模式就有了两个事实表(第一个是在开始建立数据仓库时创建的sales_order_fact表)。有了这两个事实表的数据仓库就是一个标准的双星型模式。...本节将在现有的维度数据仓库上再增加一个新的星型结构。与现有的与销售关联的星型结构不同,新的星型结构关注的是产品业务领域。新的星型结构有一个事实表和一个维度表,用于存储数据仓库中的产品数据。 1....一个新的星型模式 下图显示了扩展后的数据仓库模式。 ? 模式中有三个星型结构。

47110

数据仓库模型全景

前面讲了数据仓库的价值、构建思路、实例,完成数据仓库的概念、逻辑、物理模型设计后,数仓的产品选型也是需要考虑的部分,根据数据存储量、查询效率、并发能力可以选用MPP数仓和基于Hadoop的分布式数仓等...一、MPP还是Hadoop 这里继续用之前用到的图讲解,数据仓库的特性是处理温数据和冷数据,面向业务分析提供偏于离线分析能力,因此一般选用Hadoop+MPP数仓结合的解决方法,Hive能够提供大批量历史数据的存储计算能力...,Hbase能够提供半结构化文档的快速检索能力,MPP能够提供强大高压缩比基础上的快速查询能力; 二、MPP数仓特性 在MPP解决方案中目前我已接触过的是vertica和GP,在teradata实习期间没有用到...td数仓; 数仓的特性是大批量的查询和索引,少量的改查工作,MPP (Massively Parallel Processing),即大规模并行处理数据库的一般特性: ① 列式存储意味着高压缩比、高IO.../slave模式,具备统一的查询入口(master),vertica是无中心架构,所有节点都提供查询服务,gbase是存储/管理中心架构; shared nothing 模式:x86机器构建计算/存储的高扩展集群

1.1K20

MPP技术的优势与严重缺陷

MPP架构通常用于处理海量数据的应用程序,如数据仓库、商业智能和大数据分析。 MPP常见的发力场景是数据仓库。...在数据仓库中,MPP架构意味着数据库服务被部署在多个节点中,共同完成存储、分析计算任务。 常见的开源MPP数据仓库包括: 1. Apache HAWQ 2. Apache MADlib 3....它主要的优势在于: MPP数据仓库通常能够提供更高的性能和较低的查询延迟,可以在更短的时间内处理大量数据。 MPP数据仓库对于结构化数据的支持更加成熟,适用于需要对事务性数据进行复杂分析的场景。...MPP数据仓库通常拥有更完整、更可靠的数据管理和安全性能,可以保证数据的一致性和可靠性。...那么MPP的常见的缺陷就能推出: MPP数据仓库通常需要更多的硬件资源和投资,价格较高,不适合所有的企业规模和预算。 MPP数据仓库的部署和维护需要更专业的技术人员,技术门槛相对较高。

45330

大数据时代,谁的眼神锁定你?

十一余韵未歇,刚处理完一波售后及退件等“剁手后遗症”的各方人马也已经为再战双十二做好了准备。截至 12 日零点,天猫双十一成交额达 2135 亿元。...从电商平台的个性化商品推荐,到各大新闻媒体及音视频网站的首页推送,乃至电竞比赛的观赏性和专业性等应用实现的背后,都仰赖海量数据的支撑。...回顾各个领先行业企业级数据仓库建设路径,从技术架构上大都经历了从传统数据库或者数据仓库的架构到 MPP 数据库架构再到 Hadoop 的架构体系。...除技术架构外,企业级数据仓库的建设还包括数据模型、数据管理体系以及数据应用体系的建设,整个企业级数据仓库最终实施效果依赖于企业内部专业而有力度的组织机构来推动”。...推荐系统便是其对应的一项重要实现,作为各类服务平台的重要组成,推荐系统在金融、电商、零售、社交媒体等领域有着广泛的应用。

92520

Snova数仓简介

Snova为您提供简单、快速、经济高效的PB级云端数据仓库解决方案。...借助于Snova,您可以在数分钟内创建拥有数百节点的企业级云端数据仓库,并高效的完成日常维护工作;也可以使用丰富的Postgre开源生态工具,实现对Snova中海量数据的即时查询分析、ETL处理及可视化探索...性能卓越 基于分布式大规模并行处理MPP框架,可线性扩展存储及计算能力。支持行列混合存储,可按业务需求选择最佳存储方案。查询引擎深度优化,查询效率数倍于传统数据仓库。...安全可靠 节点同步冗余,实现用户无感的故障转移和容灾备份。分布式部署,计算单元、服务器、机柜三重防护,提高重要数据基础设施保障。用户集群独立部署,支持VPC隔离,数据访问安全多重保障。...借助于Snova数据仓库,在金融、零售、互联网、游戏等多个领域,可方便地搭建用于经营分析决策、海量日志分析、用户行为实时洞察等场景的一套解决方案。

1.8K20

首次揭秘1112背后的云数据库技术!| Q推荐

从 2009 年到 2021 年,从千万交易额到千亿交易额, 11 已经开展了 12 年。如今,每年的 11 以及一个月后的 12,已经成为真正意义上的全民购物狂欢节。...是什么样的数据库撑起了 2021 年的 11 12 的稳定进行?...《数据 Cool 谈》第三期,阿里巴巴大淘宝技术部 12 队长朱成、阿里巴巴业务平台 11 队长徐培德、阿里巴巴数据库 11 队长陈锦赋与 InfoQ 主编王一鹏,一同揭秘了 11 12 背后的数据库技术...ADB 3.0(AnalyticDB for MySQL 3.0) 发布,高度兼容 MySQL 协议以及 SQL:2003 语法标准,支持对海量数据进行即时的多维分析透视和业务探索,快速构建企业云上数据仓库...在陈锦赋看来,云原生数据仓库 ADB3.0 很大的一个价值部分在于能够实现数据的在线化实时化,能够挖掘到一些目前还未被发现到的商业价值。

31.7K50

天津农商银行数据仓库Netezza替换项目:单一来源 GBase 8a MPP Cluster

2021年8月17日,天津农商银行发布《数据仓库Netezza替换项目-国产化数据库软件项目》单一来源采购的公示: 拟采购内容:采购数据库集群系统 GBase 8a MPP Cluster软件 拟采购供应商名称...2021年8月10日,天津农商银行发布《数据仓库迁移项目》单一来源采购的公示: 拟采购内容:数据仓库迁移 拟采购供应商名称:中电金信软件有限公司 申请理由:我行数据仓库系统初期建设、后期维护、系统优化等...为保证系统架构、数据架构、模型设计、实施工艺等一致性,减少数据仓库迁移项目风险、时间投入,我行将与中电金信软件有限公司进行单一来源采购。...原厂标准服务 拟采购供应商名称:中科朗智(北京)科技有限公司 申请理由:根据新一代核心系统建设对基础软件的需求,我行购买了ORACLE数据库及配套软件,由于原厂只通过代理供应商与客户签署合同,且信息科技部为推荐供应商

86720

数据仓库构建方法论和简单实践

前面讲了数据仓库的价值、构建思路、实例,完成数据仓库的概念、逻辑、物理模型设计后,数仓的产品选型也是需要考虑的部分,根据数据存储量、查询效率、并发能力可以选用MPP数仓和基于Hadoop的分布式数仓等...一、MPP还是Hadoop 这里继续用之前用到的图讲解,数据仓库的特性是处理温数据和冷数据,面向业务分析提供偏于离线分析能力,因此一般选用Hadoop+MPP数仓结合的解决方法,Hive能够提供大批量历史数据的存储计算能力...,Hbase能够提供半结构化文档的快速检索能力,MPP能够提供强大高压缩比基础上的快速查询能力; 二、MPP数仓特性 在MPP解决方案中目前我已接触过的是vertica和GP,在teradata实习期间没有用到...td数仓; 数仓的特性是大批量的查询和索引,少量的改查工作,MPP (Massively Parallel Processing),即大规模并行处理数据库的一般特性: ① 列式存储意味着高压缩比、高IO.../slave模式,具备统一的查询入口(master),vertica是无中心架构,所有节点都提供查询服务,gbase是存储/管理中心架构; shared nothing 模式:x86机器构建计算/存储的高扩展集群

67120

用Python预测2020年十一交易额

作者:林骥 去年双十一的时候,我曾复盘过阿里巴巴 2019 年双十一交易额。 今年的双十一,规则发生了很大的变化,从 10 月 21 日就开始预售,11 月 1 日到 3 日启动第一波销售。...另外,市场环境也发生了很大的变化,疫情对双十一的影响到底有多大?是正向的影响还是负向的影响?各种不确定性的因素交织在一起,无疑会大大增加预测的难度。...LinearRegression()) ]) poly_reg.fit(x, y) # 调用算法进行预测 predict = poly_reg.predict(z) # 输出预测结果 print('预测2020年十一交易额为...%.0f 亿元' % predict[0]) print('算法评分为 %.6f' % poly_reg.score(x, y)) 输出结果为: 预测2020年十一交易额为 3280 亿元 算法评分为...np.concatenate([x, z]) y2 = poly_reg.predict(x2) ax.plot(x2, y2, '--', c='#999999') ax.set_title('\n预测2020年十一交易额为

1.5K30
领券