首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Go微服务入门到容器化实践,落地可观测的微服务电商项目-完整分享

核心代码,注释必读

// download:3w 52xueit com

vue 2.x 响应式

Object.defineProperty

爱学it学无止境

所有数据从业者,无论他们的工作职位如何,都会进行两个共同且基础的活动——提出问题和寻找答案!任何数据人员,无论是数据工程师、数据架构师、数据分析师、数据科学家,还是像首席信息官(CIO)或首席数据官(CDO)这样的数据领导者,都必须保持好奇心并提出问题。

找到复杂问题的答案很难。但更具挑战性的任务是提出正确的问题。只有通过(1)提出正确的问题和(2)利用数据揭示答案,才能探索“可能性艺术”。尽管听起来简单,但一个组织需要一个完整的数据平台来使用户能够执行这些任务。该平台必须支持数据的摄取和存储,为用户提供工具来提出和发现新问题,进行高级分析,预测和预报结果,并生成洞察。数据平台是使用户能够利用数据获得业务利益的基础设施。

要实施这样的数据平台,你需要一个强大的数据架构——一个能够帮助你定义数据平台核心组件并建立实施设计原则的架构。传统上,组织使用数据仓库或数据湖架构来实施他们的数据平台。这两种架构方法在各行业中被广泛采用。这些架构也在不断发展,以利用不断改进的现代技术和模式。湖仓架构就是近年来发展起来的一种现代架构模式,已成为设计数据平台的数据架构师的热门选择。

在本章中,我将向你介绍与数据架构、数据平台及其核心组件相关的基本概念,以及数据架构如何帮助构建数据平台。然后,我将解释为什么需要像湖仓这样的新架构模式。你将学习湖仓架构的基础、特征,以及使用湖仓架构实施数据平台的好处。我将以重要的要点总结本章内容,帮助你在阅读本书后续章节时记住关键点。

让我们从数据架构的基本原理开始。

理解数据架构

数据平台是使用所选技术栈实现数据架构的最终结果。数据架构是定义你打算构建的系统的蓝图。它帮助你可视化目标系统的最终状态以及实现它的计划。数据架构定义了核心组件、这些组件之间的相互依赖关系、基本设计原则以及实施数据平台所需的过程。

什么是数据架构?

要理解数据架构,可以考虑这个真实世界的类比:一个商业建筑工地,例如购物中心或大型住宅开发项目。

建造商业物业需要稳健的架构、创新的设计、经验丰富的建筑师和一大批建筑工人。架构在开发中起着最关键的作用——它确保建筑能在各种天气条件下生存,帮助人们轻松访问和导航各个楼层,并在紧急情况下快速疏散人群。这类架构基于某些指导原则,这些原则定义了建筑模块的核心设计和布局。无论你是在建造住宅物业、商业综合体还是体育场,架构的基础支柱和核心设计原则是相同的。然而,设计模式——内部装修、美学和其他满足用户需求的功能——则不同。

类似于建造商业物业,数据架构在开发稳健的数据平台时起着最关键的作用,该平台将支持各种用户和各种数据与分析用例。为了构建一个对所有用户来说都具有弹性、可扩展性和可访问性的平台,数据架构应基于核心指导原则。无论是哪个行业或领域,数据架构的基本原理都是相同的。

数据架构,类似于建筑工地的设计架构,在决定用户如何适应平台方面起着重要作用。本节将涵盖数据架构在实现数据平台的整体过程中所具有的重要性。

数据架构如何帮助构建数据平台?

构建数据平台的架构可能是数据项目中最关键的阶段,通常会影响平台的用户采用、可扩展性、合规性和安全性等关键结果。数据架构帮助你定义以下需要开展的基础活动,以开始构建你的平台。

定义核心组件

数据平台的核心组件帮助执行日常活动,如数据摄取、存储、转换、消费,以及与管理、操作、治理和安全相关的其他常见服务。数据架构帮助你定义数据平台的这些核心组件。这些核心组件将在下一节中详细讨论。

定义组件之间的相互依赖关系和数据流

在定义平台的核心组件之后,你需要确定它们如何互动。数据架构定义了这些依赖关系,并帮助你可视化数据在生产者和消费者之间的流动方式。架构还帮助你确定并解决在这些组件之间移动数据时可能遇到的特定限制或集成挑战。

定义指导原则

作为数据架构设计过程的一部分,你还需要定义实施数据平台的指导原则。这些原则帮助在使用平台的各个数据团队之间建立共享理解。它们确保每个人都遵循相同的设计方法、共同的标准和可重用的框架。定义共享的指导原则使你能够实施优化、高效和可靠的数据平台解决方案。指导原则可以应用于各种组件,并根据数据架构的能力和限制进行定义。例如,如果你的平台配置了多个商业智能(BI)工具,指导原则应指定根据数据消费模式或用例选择使用哪个BI工具。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OqLul32Tl6T8tHFgc4vCNGKg0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券