随着信息技术和网络技术的快速发展，人类所存储的数据越来越多，数据已经从量变走向了质变，成为了“大数据”(Big Data)。大数据概念首见于1998年《科学》(Science)中的《大数据的管理者》(A Handler for Big Data)一文。 2008年《自然》(Nature)的“大数据”(“Big Data”)专刊之后，大数据便爆发了，成为了学术、产业和政府各界甚至大众的热门概念，美国等发达国家已经制定并实施大数据战略。 刘红、胡新和指出，大数据带来了第二次数据革命，使得万物皆数的理念得以实
备注，本章是面向数据领域的一篇专业文章，涉及较前一章节更为专业术语，阅读对象适合有一定数据基础的读者。阅读完大约需要12 分钟左右; 前言，”数据模型“只要是跟数据沾边就会出现的一个词，在数据库设计、
提到企业数字化转型，不得不提现在的一个主流观点：未来的企业必将成为数字化企业，每个公司都将会成为软件公司！未来企业增长和竞争的能力越来越取决于其数字化创新能力。为了应对企业数字化转型，企业IT架构采用分布式、微服务、移动化、大数据等技术来应对业务变化带来的挑战。
各位好，今天和大家分享“大数据资产管理实战”这个课题。 本次分享包括大数据资产管理的概述、方法论和实施效果三个部分的内容。 · · · 第一部分：大数据资产管理概述 提到企业数字化转型，不得不提现在的
随着数字经济加速发展，企业数字化转型正向更深层次推进。基于数字技术，企业通过数据驱动，有望实现创新产品服务、变革运营方式和迭代资源组织模式。而这一切都是建立在企业 IT 基础设施之上。
参加活动赢取话费和一个月免费会员 点击底部阅读原文，参加PPV课玩转可视化图表，赢取话费和PPV课一个月免费会员，精品课程免费看！ 目录： 什么是大数据 Hadoop介绍-HDFS、MR、Hbase
数据猿导读 恒丰银行探索采用大数据技术构建统一的企业级数据管理平台，重构数据仓库应用，减少数据重复加工与存储，促进信息管理应用的数据融合共享，提高数据处理总体效率，提升数据分析和应用创新能力，正逐步取得预期的成效。 📷 本篇案例为数据猿推出的大型“金融大数据主题策划”活动（查看详情）第一部分的系列案例/征文；感谢 恒丰银行 的投递 作为整体活动的第二部分，2017年6月29日，由数据猿主办，互联网普惠金融研究院合办，中国信息通信研究院、大数据发展促进委员会、上海大数据联盟、首席数据官联盟协
大数据建模是一个数据挖掘的过程，就是从数据之中发现问题，解释这些问题，建立相应的数据模型，可以通过预测创造新的决策参考，对于数据建模有不同的平台以及不同的工具，这个过程中也是有相应的标准，可以大大提高大数据建模的成功率。 一以业务目标作为实现目标 大数据建模不只是一个技术，而是一个为了解决业务流程的问题的过程，如果没有目标或者说不是以解决业务方面的问题作为目标，那么就没有大数据建模。 二了解业务知识 从大数据建模开始到结束，并且要基于了解业务知识的商业理解的基础上，知道这些相关的数据与业务问题有什么的关系，
目录： 什么是大数据 Hadoop介绍-HDFS、MR、Hbase 大数据平台应用举例-腾讯 公司的大数据平台架构 “就像望远镜让我们能够感受宇宙，显微镜让我们能够观测微生物一样，大数据正在改变我们的
本文由CDA数据分析研究院翻译，译者：王晨光，转载必须获得本站、原作者、译者的同意，拒绝任何不表明译者及来源的转载！ 在过去的三十年，ERP，CRM和Analytical等分析系统已经发展。但是这些系统储存数据的方式并没有变化。事实上，在这三十年，ERP，CRM和分析系统存储数据的方式没有任何改变。 一般来说，现代的ERP和CRM系统是基于一个已经用了30多年的数据模型，这个模型叫作OLTP，代表的是On Line转换程序。 一般来说，现代Analytical系统是基于一个已经用了30多年的数据模型，叫OL
我最近在How-tos专家系列介绍了如何在大数据系统上数据建模。在演讲过程中，许多与会者提出了一些非常有趣的问题。众所周知，大数据系统围绕结构需求的形式化程度较低，但是对于数据仓库继续为传统用例提供服务而言，建模仍然是非常重要的功能。我想分享一下我在本届会议期间以及访问组织时收到的一些较常见的问题，并对此做出回应。
经过这么多年的发展，已经从大数据1.0的BI/Datawarehouse时代，经过大数据2.0的Web/APP过渡，进入到了IOT的大数据3.0时代，而随之而来的是数据架构的变化。
1961年通用电气公司的Charles Bachman 成功地开发出世界上第一个网状DBMS也是第一个数据库管理系统——集成数据存储（Integrated Data Store，IDS） 层次型DBMS是紧随网状型数据库而出现的。最著名最典型的层次数据库系统是IBM 公司在1968 年开发的IMS （Information Management System）网状数据库和层次数据库已经很好地解决了数据的集中和共享问题，但是在数据独立性和抽象级别上仍有很大欠缺。
最近在How-tos专家系列介绍了如何在大数据系统上数据建模 。在演讲过程中，许多与会者提出了一些非常有趣的问题。众所周知，大数据系统围绕结构需求的形式化程度较低，但是对于数据仓库继续为传统用例提供服务而言，建模仍然是非常重要的功能。我想分享一下我在本届会议期间以及访问组织时收到的一些较常见的问题，并对此做出回应。
大数据传统企业实施，其路漫漫，绝不会如昙花一现，探索大数据在传统行业的实施之路，寻找一条适合传统行业的企业大数据实施方法体系，是我执着坚守的信念，大数据是一种信仰，吾将上下而求索。记下项目中的点滴，算是日志，自勉。
数据模型是分层次的，以前叫作数据仓库模型，概括为三层，基础模型一般是关系建模，主要实现数据的标准化，我们叫作“书同文、车同轨”，融合模型一般是维度建模，主要实现跨越数据的整合，整合的形式可以是汇总、关联，也包括解析，挖掘模型其实是偏应用的，但如果用的人多了，你也可以把挖掘模型作为企业的知识沉淀到中台，比如离网挽留的模型具有很大的共性，就应该有人把它规整到中台模型，以便开放给其它人使用，中台的中是相对的，没有绝对的标准。
大数据处理，涉及到从数据获取到数据存储、数据计算的诸多环节，各个环节需要解决的问题不同，相关岗位要求的技能也不同。在数据存储阶段，对数据库选型是非常重要的一项工作。今天的大数据数据库培训分享，我们就来聊聊NoSQL数据库入门。
👆点击“博文视点Broadview”，获取更多书讯 最近有不少小伙伴在问有没有架构类的书单，博文菌收到了大家的需要，这就安排上！ 俗话说：不想当架构师的程序员不是好程序员。成为架构师几乎是每位开发者入行初期的共同理想。 如何站在架构的视角去看代码世界，如何依托企业业务需求搭建可高用架构，云端架构的设计原则有哪些…… 本期书单为你带来今年出版的10本架构类好书，希望能够帮你建立架构思维，解开架构谜团！ ---- 01 ▊《业务架构・应用架构・数据架构实战（第2版）》 温昱 著 国内知名架构专家创新
业要实施大数据战略，需要从五大方面规划：1.制定大数据规划找准切入点；2.强化大数据领导力设立CDO；3.设计合理的大数据组织结构；4.搭建富有执行力的大数据团队；5.用制度和文化保障大数据实施。 本文作者： 傅志华/ 360公司大数据中心副总经理 制定大数据规划找准切入点 成功的大数据规划聚焦于四个核心要素：应用场景、数据产品、分析模型和数据资产。大数据规划第一个核心要素是应用场景的规划，企业需要确定不同业务投入大数据的优先级，确定大数据的切入点。在企业中，大数据应用场景包括业务运营监控、用户洞察与
在大数据计算领域，先后出现了Hadoop、Spark、Storm、Flink等多个计算框架，并且每每当一个新兴计算引擎出现，大家就忍不住拿来与早期的计算引擎进行对比。然后就会出现诸如Flink会取代Spark吗，Flink和Spark哪个好等等的问题讨论。今天我们就来聊聊大数据框架之间的竞争。
大数据文摘和御数坊合作，带给您“数据治理与管理领域”顶尖时讯。此活动由御数坊创始人刘晨，亲临美国企业数据世界EDW2015大会现场，为您报道大数据最不应却又最容易被忽略的内容，大数据文摘和御数坊同步为
本篇幅将进入大家熟知的互联网时代，数据平台发展史仅是自己经历过由传统数据平台到互联网数据平台发展一些简单回忆，在这一篇章中将引用部分互联网数据平台架构，在这里仅作案例。
笔者认为数据中台不应该是一个单纯的系统或者是一个软件工具，而应该是一套架构、一套数据流转模式。
在数据仓库搭建的过程当中，根据需求合理地选择数据模型，是非常关键的一个环节。对于数仓建模，很多人说不就是建表吗，哪有那么复杂，事实上，这是非常错误的思想。今天的大数据开发分享，我们来聊聊数仓建模常见的几种数据模型。
人工智能在金融业的应用价值在于提升数据处理效能、推动金融服务智能化、助推普惠金融发展等，在大数据技术的基础上，对金融数据进行更深层次的挖掘和分析。人工智能技术可贯穿金融业务的各个环节，主要应用场景有智能客服、智能营销、智能风控、智能投顾、智能投研等。
各位好！很高兴能与大家分享“元数据驱动的微服务架构”。 本次分享有两个部分：1、微服务架构需要元数据，2、介绍微服务与元数据的关系。下期会分享：微服务中元数据的价值。 一、微服务架构需要元数据 企业
股份制改革对我国银行业来说只是一个开始，企业在风险管理、创造价值等方面还有很长的路要走。风险管理要求提供精准的数据模型、创造价值要求充分银行数据资产，这是数据治理的外部推动因素。此外，随着第三次工业革命的到来，银行业也需要进入定制化时代，以更低的成本，生产多样化的金融产品，从而满足不同顾客的不同需求。对数据本身而言，业务发展加快了数据膨胀的速度，也带来了数据不一致等问题，业务部门的频繁增加和剥离同样会对数据治理提出挑战。这些日益复杂的内外因决定了我国银行业对数据治理的超高标准要求，而目前对应的经验能力却稍显薄弱。
简介 NoSQL在过去几年迅速增长，很多大型企业将其应用于重要任务，例如 Tesco（全球三大零售企业之一）使用 NoSQL 支持他的目录、价格、库存等多个主要领域 Sky（网络电话服务商）使用 NoSQL 管理他的 2000 万用户配置信息 Sabre（机票全球分销商）使用 NoSQL 支撑其世界上最大的旅游数据服务 现在 NoSQL 的发展呈现出4个明显特点： 超越了实验阶段，进入了主流，被应用于核心应用 被各行业的主流公司所采用，使用场景非常广泛 早期采用者已经受益，高性能、易扩展、开发快、资源利用率
目录 一、大数据治理与业务创新的关系 二、大数据治理的关键步骤 三、大数据治理的主要成果 一、大数据治理与业务创新的关系 数字化时代，我们的数据来源比以前更广了。第一，之前传统企业政府的IT系统主要是面向内部使用，产生了一些信息，现在已经面向外部使用了；第二，更多行为信息、社交信息都会变成企业的数据；第三，我们有很多非结构化的数据，比如媒体、视频数据等；第四，还有物联网传感器方面的数据等。 这些数据大部分是非结构化的，如媒体数据、视频数据，包括物联网传感器等信息，这些信息远比以前更加难以管理，怎么样把这些信
本期给大家带来的是MongoDB的数据模型介绍，废话不多说，我们直接开始本期的大数据开发知识学习。
数据猿导读 工业在我国经济中占比较重要的地位。近年来，我国经济的快速发展，进入了一个中高速增长的新常态。工业在中国经济中的比重依然在不断增强。同时，工业和我们日常生活是息息相关的。 作者 | 葛利鹏
如果把数据看作图书馆里的书，我们希望看到它们在书架上分门别类地放置；如果把数据看作城市的建筑，我们希望城市规划布局合理；如果把数据看作电脑文件和文件夹，我们希望按照自己的习惯有很好的文件夹组织方式，而不是糟糕混乱的桌面，经常为找一个文件而不知所措。
建立数据仓库，面向主题的、集成的、相对稳定的、反映历史变化的数据集合，以支持管理决策decision making
现在各种新名词层出不穷，顶层的有数字城市、智慧地球、智慧城市、城市大脑；企业层面的有数字化转型、互联网经济，数字经济、数字平台； 平台层面的有物联网，云计算，大数据，5G，人工智能，机器智能，深度学习，知识图谱；技术层面的有数据仓库、数据集市、大数据平台、数据湖、数据中台、业务中台、技术中台等等，总之是你方唱罢他登场，各种概念满天飞…
数据仓库这个概念在二十多年前由Bill Inmon提出后，几乎所有的IT厂商都开始介入这个领域，为企业级数据仓库设计非常复杂的体系结构和数据模型，典型的企业级数据应用架构如下：
10月18日，星环科技正式登陆科创板，成为国产大数据基础软件第一股。这一事件不仅代表了星环科技这家公司取得的阶段性成就，也标志着在当前数字化转型以及信创建设持续推进的背景下，国产大数据基础软件已驶入了发展的快车道。
随着开源Hapdoop、Map/Reduce、Spark、HDFS、HBASE等技术的商用化，大数据管理技术得到了突飞猛进的发展。一般来说，大数据具有3V特性，即Volume（海量）、Velocity（高速）和Variety（多样）。TPC联合主席、Cisco高级工程师Raghunath Nambiar进一步认为大数据还面临Value（价值）和Veracity（精确）的挑战。如何客观地比较不同数据管理系统，即大数据测试基准的选择，成为一个重要的研究课题。 事务性能管理委员会(TPC)是目前最知名的数据管理系
今天随着移动互联网、物联网、大数据、AI等技术的快速发展，数据已成为所有这些技术背后最重要，也是最具价值的“资产”，同时数据也是每一个商业决策的基石，越来越多的企业选择数字化转型，但数据驱动增长然充满挑战，企业数据孤岛严重、数据一致性难以保证、数据资产沉淀数据分散难以共用、数据分析项目上线经历数月，报表查询响应慢难以应对瞬息万变的市场环境，成本问题在数据量呈指数增长的前提下难以控制，因此在大数据的背景下，如何从海量的超大规模数据中快速获取有价值的信息，已经成为新时代的挑战。
首先，用于支持决策，面向分析型数据处理；其次，对多个异构的数据源有效集成，集成后按照主题进行重组，并包含历史数据，而且存放在数据仓库中的数据一般不再修改。
在DT时代，互联网，智能设备和其他形式的信息技术的爆炸性增长使得数据以同样令人印象深刻的速度增长。这个时代的挑战似乎是如何对所有这些数据进行分类，组织和存储。
本文已收录于Github仓库：《大数据成神之路》 地址：https://github.com/wangzhiwubigdata/God-Of-BigData
目录： 一、航空业数据治理现状 二、航空业大数据治理的三个发展趋势 三、规划企业数据架构的两种模式 四、规划企业数据架构的三个关键技术 五、总结 一、航空业数据治理现状 目前航空行业数据治理已经逐步在开展起来，驱动航空行业开展数据治理工作的因素与证券、银行、通信领域不同。证券行业有证监会33条规定，银行业有银监会要求在2017年7月份开始实施报送数据标准化规范要求，这些外在监管要求促使了证券、银行必须开展数据治理方面的建设。 促使航空行业开展数据治理的主要因素是客户倒逼企业在做，服务行业现在都在做客户精准营
Tech 导读 本方案以某金融企业大数据平台建设方案为例，面对企业内部的数据现状提出合理化建议，基于商业版Hadoop数据平台搭建数据仓库系统，实现数据资产的充分利用，结合当时现状推荐国产自主研发商业版Hadoop平台TDH做为基础平台，以下为方案概述。
伴随着云计算、大数据、人工智能等IT技术迅速发展及与传统行业实现快速融合，一场由数字化和智能化转型带来的产业变革正在孕育。
架构设计 整理架构设计 从支付系统、日志系统、用户系统从获取用户的离线数据，保存到Hadoop集群，并对Hadoop集群中的数据进行处理，提炼出基础数据。然后经基础数据存放在Redis中。 从消息中心实时消费支付系统发送出来的支付订单信息，编写storm程序对实时订单信息处理。 📷 storm程序的主要逻辑如下： 从数据库中读取业务配置的规则数据，规则数据从规则配置系统上可视化配置对订单不同维度的数据进行校验，将触发规则的信息存放到数据库 管理平台从数据库获取触发规则的信息进行处理 功能模块设计 数据收集模
数据模型就此应运而生，通过高度抽象的数据模型，整合各个源系统的数据，最终形成统一、规范、易用的数据仓库，进而提供包括数据集市、数据挖掘、报表展示、即席查询等上层服务。数据模型能够促进业务与技术进行有效沟通，形成对主要业务定义和术语的统一认识，具有跨部门、中性的特征，可以表达和涵盖所有的业务。无论是操作型数据库，还是数据仓库都需要数据模型组织数据构成，指导数据表设计。
基于业内对大数据技术的需求，各种基于开源技术的商业产品得到了长足的发展。然而对于用户来说，如何才能客观地比较不同的数据管理系统，基准测试的研究也被提了出来。本文中，谭磊讲解了大数据测试基准应该具有的要素，并以此为基础对比了现有的大数据测试基准，然后重点讨论TPC-DS测试基准。 以下为原文： 随着开源Hapdoop、Map/Reduce、Spark、HDFS、HBASE等技术的商用化，大数据管理技术得到了突飞猛进的发展。一般来说，大数据具有3V特性，即Volume(海量)、Velocity(高速)和Vari
一个常见的大数据场景是静态数据的批处理。在此场景中，源数据通过源应用程序本身或编排工作流加载到数据存储中。然后，数据由并行作业就地处理，并行作业也可以由编制工作流发起。在将转换后的结果加载到分析数据存储之前，处理过程可能包括多个迭代步骤，可以通过分析和报告组件查询分析数据存储。
0x00 前言 学的越深越能体会到自己的无知，理解的越深刻越不敢张口说自己是搞这一行的。 把之前写的数据仓库系列博客，汇总和整理成了一本更系统的小书《Data Warehouse in Action》。 0x01 大数据和数据仓库 16 年开始接触数据仓库，至今有一年半的时间，中间换了次工作，也算是在两家公司实践了数据仓库。在此随便写一点关于大数据和数据仓库的东西。 其实，很多时候大数据和数据仓库这些都是一些概念使然，个人不太认为某一个概念比另一个概念厉害多少，大家是你中有我我中有你的关系。 就拿大数
领取专属 10元无门槛券
手把手带您无忧上云
