首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

【案例】农业银行大数据平台项目——海量数据复杂运算处理

南大通用GBase 8a MPP Cluster产品也发展成为国内企业大数据、数据仓库领域基础平台软件的领先产品。...2013年8月,农行数据仓库正式立项,确定采用南大通用GBase 8a MPP Cluster与Hadoop的混搭架构。...2013年11月30日,数据仓库原型集群及资负、零售数据集市试运行(28节点MPP集群)。...2014年11月,数据仓库原型环境向生产环境(56节点MPP集群)的迁移与切换工作完成,迁移有效数据103T。 2014年12月,完成财会集市(16节点MPP集群)搭建。...关键技术2:MPP集群活架构示意图 通过运用GBase 8a MPP集群间同步工具识别主集群增量数据(以DC为单位),点对点传输至备集群,实现主备集群数据一致;同时结合大数据平台批量加工调度平台

6.8K100

数据库架构比较

这通常会使这个选项变得昂贵,尽管(理论上)它可以部署在廉价的商用服务器上,实际上,它通常部署在具有冗余磁盘,网络连接和电源的企业级硬件上。...MPP体系结构是数据仓库和分析平台的出色解决方案,因为查询可以分解为组件部分,并在服务器之间并行执行,从而显着提高性能。...“通过大规模并行处理(MPP)设计,查询通常比在对称多处理(SMP)系统上构建的传统数据仓库快50倍”。-微软公司。...成本和高可用性:一些基于MPP数据仓库解决方案旨在在廉价的商用硬件上运行,而无需可能包含成本的企业级冗余组件。这些解决方案通常使用自动数据复制来提高系统弹性并确保高可用性。...在此期间,关于数据仓库是否已经死亡以及Hadoop是否会取代 MPP平台的讨论很多,尽管普遍的共识似乎表明Hadoop充其量只是数据仓库的补充技术; 不是它的替代品。 什么是Hadoop?

3.9K21

基于Hadoop生态圈的数据仓库实践 —— 进阶技术(十一

十一、多重星型模式 从“进阶技术”开始,已经通过增加列和表扩展了数据仓库,在进阶技术(五) “快照”里增加了第二个事实表,month_end_sales_order_fact表。...这之后数据仓库模式就有了两个事实表(第一个是在开始建立数据仓库时创建的sales_order_fact表)。有了这两个事实表的数据仓库就是一个标准的双星型模式。...本节将在现有的维度数据仓库上再增加一个新的星型结构。与现有的与销售关联的星型结构不同,新的星型结构关注的是产品业务领域。新的星型结构有一个事实表和一个维度表,用于存储数据仓库中的产品数据。 1....一个新的星型模式 下图显示了扩展后的数据仓库模式。 ? 模式中有三个星型结构。

45610

数据仓库模型全景

前面讲了数据仓库的价值、构建思路、实例,完成数据仓库的概念、逻辑、物理模型设计后,数仓的产品选型也是需要考虑的部分,根据数据存储量、查询效率、并发能力可以选用MPP数仓和基于Hadoop的分布式数仓等...一、MPP还是Hadoop 这里继续用之前用到的图讲解,数据仓库的特性是处理温数据和冷数据,面向业务分析提供偏于离线分析能力,因此一般选用Hadoop+MPP数仓结合的解决方法,Hive能够提供大批量历史数据的存储计算能力...,Hbase能够提供半结构化文档的快速检索能力,MPP能够提供强大高压缩比基础上的快速查询能力; 二、MPP数仓特性 在MPP解决方案中目前我已接触过的是vertica和GP,在teradata实习期间没有用到...td数仓; 数仓的特性是大批量的查询和索引,少量的改查工作,MPP (Massively Parallel Processing),即大规模并行处理数据库的一般特性: ① 列式存储意味着高压缩比、高IO.../slave模式,具备统一的查询入口(master),vertica是无中心架构,所有节点都提供查询服务,gbase是存储/管理中心架构; shared nothing 模式:x86机器构建计算/存储的高扩展集群

1.1K20

MPP技术的优势与严重缺陷

MPP架构通常用于处理海量数据的应用程序,如数据仓库、商业智能和大数据分析。 MPP常见的发力场景是数据仓库。...在数据仓库中,MPP架构意味着数据库服务被部署在多个节点中,共同完成存储、分析计算任务。 常见的开源MPP数据仓库包括: 1. Apache HAWQ 2. Apache MADlib 3....它主要的优势在于: MPP数据仓库通常能够提供更高的性能和较低的查询延迟,可以在更短的时间内处理大量数据。 MPP数据仓库对于结构化数据的支持更加成熟,适用于需要对事务性数据进行复杂分析的场景。...MPP数据仓库通常拥有更完整、更可靠的数据管理和安全性能,可以保证数据的一致性和可靠性。...那么MPP的常见的缺陷就能推出: MPP数据仓库通常需要更多的硬件资源和投资,价格较高,不适合所有的企业规模和预算。 MPP数据仓库的部署和维护需要更专业的技术人员,技术门槛相对较高。

37130

Snova数仓简介

Snova为您提供简单、快速、经济高效的PB级云端数据仓库解决方案。...借助于Snova,您可以在数分钟内创建拥有数百节点的企业级云端数据仓库,并高效的完成日常维护工作;也可以使用丰富的Postgre开源生态工具,实现对Snova中海量数据的即时查询分析、ETL处理及可视化探索...性能卓越 基于分布式大规模并行处理MPP框架,可线性扩展存储及计算能力。支持行列混合存储,可按业务需求选择最佳存储方案。查询引擎深度优化,查询效率数倍于传统数据仓库。...安全可靠 节点同步冗余,实现用户无感的故障转移和容灾备份。分布式部署,计算单元、服务器、机柜三重防护,提高重要数据基础设施保障。用户集群独立部署,支持VPC隔离,数据访问安全多重保障。...借助于Snova数据仓库,在金融、零售、互联网、游戏等多个领域,可方便地搭建用于经营分析决策、海量日志分析、用户行为实时洞察等场景的一套解决方案。

1.8K20

天津农商银行数据仓库Netezza替换项目:单一来源 GBase 8a MPP Cluster

2021年8月17日,天津农商银行发布《数据仓库Netezza替换项目-国产化数据库软件项目》单一来源采购的公示: 拟采购内容:采购数据库集群系统 GBase 8a MPP Cluster软件 拟采购供应商名称...2021年8月10日,天津农商银行发布《数据仓库迁移项目》单一来源采购的公示: 拟采购内容:数据仓库迁移 拟采购供应商名称:中电金信软件有限公司 申请理由:我行数据仓库系统初期建设、后期维护、系统优化等...为保证系统架构、数据架构、模型设计、实施工艺等一致性,减少数据仓库迁移项目风险、时间投入,我行将与中电金信软件有限公司进行单一来源采购。

84620

数据仓库构建方法论和简单实践

前面讲了数据仓库的价值、构建思路、实例,完成数据仓库的概念、逻辑、物理模型设计后,数仓的产品选型也是需要考虑的部分,根据数据存储量、查询效率、并发能力可以选用MPP数仓和基于Hadoop的分布式数仓等...一、MPP还是Hadoop 这里继续用之前用到的图讲解,数据仓库的特性是处理温数据和冷数据,面向业务分析提供偏于离线分析能力,因此一般选用Hadoop+MPP数仓结合的解决方法,Hive能够提供大批量历史数据的存储计算能力...,Hbase能够提供半结构化文档的快速检索能力,MPP能够提供强大高压缩比基础上的快速查询能力; 二、MPP数仓特性 在MPP解决方案中目前我已接触过的是vertica和GP,在teradata实习期间没有用到...td数仓; 数仓的特性是大批量的查询和索引,少量的改查工作,MPP (Massively Parallel Processing),即大规模并行处理数据库的一般特性: ① 列式存储意味着高压缩比、高IO.../slave模式,具备统一的查询入口(master),vertica是无中心架构,所有节点都提供查询服务,gbase是存储/管理中心架构; shared nothing 模式:x86机器构建计算/存储的高扩展集群

63820

用Python预测2020年十一交易额

作者:林骥 去年双十一的时候,我曾复盘过阿里巴巴 2019 年双十一交易额。 今年的双十一,规则发生了很大的变化,从 10 月 21 日就开始预售,11 月 1 日到 3 日启动第一波销售。...另外,市场环境也发生了很大的变化,疫情对双十一的影响到底有多大?是正向的影响还是负向的影响?各种不确定性的因素交织在一起,无疑会大大增加预测的难度。...LinearRegression()) ]) poly_reg.fit(x, y) # 调用算法进行预测 predict = poly_reg.predict(z) # 输出预测结果 print('预测2020年十一交易额为...%.0f 亿元' % predict[0]) print('算法评分为 %.6f' % poly_reg.score(x, y)) 输出结果为: 预测2020年十一交易额为 3280 亿元 算法评分为...np.concatenate([x, z]) y2 = poly_reg.predict(x2) ax.plot(x2, y2, '--', c='#999999') ax.set_title('\n预测2020年十一交易额为

1.5K30

备战2018十一,电商平台需要什么“黑科技”?

每年的双十一,更是“羊毛党”攫取利益的最佳时机。据统计,2017“11”全网总销售额达2539.7亿元。巨大的市场潜力,也在验证着坊间传言“薅上一天,够吃一年”。...今年的双十一电商节已经启动,猖獗的羊毛党还会有什么新颖的手段?同时,对于电商平台而言,究竟用什么手段才能摆脱这些“看不见的客人”?...双十一背后的黑产狂欢: 专业工具、全链条潜伏、月入百万 近年来,“羊毛党”的踪迹几乎遍及每一处有优惠、红包、打折的地方,甚至连社交平台上的抽奖也不“放过”,不禁令人惊叹其搜刮福利的能力。...备足了弹药和武器之后,浩浩荡荡的羊毛党大军便走进了每年的双十一电商节。...腾讯云天御来帮忙 今年的双十一已进入倒计时,面对黑产大军的“黑云压城”,电商平台又该如何应对?如何精准识别恶意行为成为反制羊毛党的关键。

5.7K30

MPP DB技术分类

随着数据量的增大,传统数据库如Oracle、MySQL、PostgreSQL等单实例模式将无法支撑大量数据的处理,数据仓库采用分布式技术成为自然的选择。...而在MPP服务器中,每个节点只访问本地内存,不存在异地内存访问的问题。 5.数据仓库的选择 哪种服务器更加适应数据仓库环境?这需要从数据仓库环境本身的负载特征入手。...众所周知,典型的数据仓库环境具有大量复杂的数据处理和综合分析,要求系统具有很高的I/O处理能力,并且存储系统需要提供足够的I/O带宽与之匹配。...显然,适应数据仓库环境的MPP服务器,其节点互联网络的I/O性能应该非常突出,这样才能充分发挥整个系统的性能。...6.MPP数据仓库架构分类 前面讲到MPP架构非常复杂,通常用到数据库系统来屏蔽节点间的负载平衡和调度的复杂性。

3.3K60

国产数据库|聊聊南大通用 GBase 数据库

今天来聊一聊分析型数据管理系统 GBase 8a 它是面向大数据分析类应用领域的一款高性能国产新型数据库产品,用于满足数据密集型行业日益增大的数据查询、数据统计、数据分析、数据挖掘和数据备份等需求,可用做数据仓库系统...GBase 8a MPP Cluster GBase 8a MPP Cluster 数据库,南大通用大规模分布式并行数据库集群系统,简称:GBase 8a MPP Cluster,GBase 8a MPP...GBase 8a MPP Cluster 采用 Shared Nothing MPP 的联邦架构,灵活部署,采用计算存储节点和管理节点集群的两级部署结构,无单点故障,扩展性好,管理集群最多支持部署 64...GBase 8a MPP Cluster 架构 GBase 8a MPP Cluster 产品所有组件都具备 Active-Active 多活能力,其中三大核心组件为:分布式管理集群 GCWare、分布式调度集群...(GBase 8aMPP Cluster 产品架构图 ) (GBase8a MPP Cluster 技术特点图) 核心技术就是:单节点数据行列混存存储技术和MPP 大规模并行计算技术。

5.9K10
领券