Google的论文整体描述十分详细,可以作为理论来学习,LinkedIn已经开源了一个版本的系统,可以看成最佳实践。两者结合起来,还是很能拓展思路的。
标题有点吸引人眼球的嫌疑,不过内容的确是从这两个大公司对外公布的技术中学到的(掺入不少自己的理解,不是原味的了)。
不太清楚Google和Linkedin真实的系统做成什么样,是不是像Gfs那样自己已经要淘汰了才发表文章出来。 不过这个不重要。只要能学到一些新东西就行了。
本文讲什么?
文会围绕Goods来展开,辅助与LinkedIn的WhereHows和笔者的理解。
先整体说明一下Goods是什么?可以这样理解:
Google的数据表太多了,工程师们会生产出很多的数据表,为了更好地管理和复用这些表,Google做了一个数据管理系统。
这个系统是一个开放的系统,它会通过类似爬虫的方式定时从各个系统(Hive、Hbase、Mysql)中抓取元数据信息然后存入系统中。并生产表之间的依赖关系。
他和EDM的不同在于,它是来爬各个系统的元数据,然后来汇总。这点很重要,属于一种事后处理。给了工程师更大的开放性。
文章结构
从我的感觉上来讲,元数据系统最经常被质疑的地方有两个:价值和作用。为了突出这两者的重要性,我会单独着重地写。
01 价值何在
元数据的存在有它的必要性,我大致做了一个简单的梳理,列出一些和数据相关的挑战。这些其实也是元数据系统的价值所在。
如果业务复杂度比较低或者数据量比较小的话,可能就感触不深,不过在Google这种公司来讲,表的数量之大,光是管理表的元数据系统就要做成分布式的。
看一下Google的数据量,是挺大的了。
个人理解,这是元数据系统的主要战场。总的来讲,就是方便人使用 。
特别是表的维护者、量级这些不太起眼的属性往往是十分重要的,这些额外信息的完善度直接决定别人在用这张表时候的可用性。
举个栗子:假设你的集群已经快慢了,这时候要删除一些表来释放空间,但是你根本不知道哪些表有用,哪些没用?是不是很纠结?
元数据系统可以来管理这些。
包括不同员工的权限管理、数据质量监控这些功能,都可以通过元数据系统来体现。
02 背景知识和相关概念
任何文件系统中的数据分为数据和元数据。
比如Hive就专门有自己的元数据,里面存了Hive每张表的表名、列信息、索引等信息。
管理元数据的系统。网上没找到定义,个人对它的理解如下:
EDM的方式是数据的发布和使用都要通过这个系统。
Enterprise Data Management (EDM) is one common way to organize datasets in an enterprise setting. However, in the case of EDM, stakeholders in the company must embrace this approach, using an EDM system to publish, retrieve, and integrate their datasets.
Goods的不同在于,它是事后处理的方式。
An alternative approach is to enable complete freedom within the enterprise to access and generate datasets and to solve the problem of finding the right data in a post-hoc manner. This approach is similar in spirit to the concept of data lakes , where the lake comprises and continuously accumulates all the datasets generated within the enterprise.
03 Google的设计
Goods, a project to rethink how we organize structured datasets at scale, in a setting where teams use diverse and often idiosyncratic ways to produce the datasets and where there is no centralized system for storing and querying them.
看完论文之后整理了一份思维导图,整个Goods的设计思路如下,基本包含了论文中大部分的点。
如下图,是Goods的整个设计架构。架构有几个点需要注意:
注意: 感觉论文的作者很自豪自己设计的血缘分析,论文中提了很多次。看下图的最右侧,为了获取到血缘图,他们做了不少的工作。
Overview of Google Dataset Search (Goods). The figure shows the Goods dataset catalog that collects metadata about datasets from various storage systems as well as other sources. We also infer metadata by processing additional sources such as logs and information about dataset owners and their projects, by analyzing content of the datasets, and by collecting input from the Goods users. We use the information in the catalog to build tools for search, monitoring, and visualizing flow of data.
我一直感觉这个设计师最难的,因为要从那么多数据系统中抽象出来一份通用的数据模型。
数据模型整体分为两部分:基本的元数据信息和依赖关系。英文解释很清楚,就不再翻译了。
Basic metadata - The basic metadata for each dataset includes its timestamp, file format, owners, and access permissions. We obtain this basic metadata by crawling the storage systems and this process usually does not necessitate any inference. Other Goods modules often depend on this basic information to determine their behavior. For example, some of the modules bypass catalog entries that have restricted access or the entries that have not been modified recently.
provenance - Datasets are produced and consumed by code. This code may include analysis tools that are used to query datasets, serving infrastructures that provide access to datasets through APIs, or ETL pipelines that transform it into other datasets. Often, we can understand a dataset better through these surrounding pieces of software that produce and use it.
04 Linkedin的设计
Linkedin的设计,就不再自己画思维导图了,主要从几个点来对Google的设计做一个补充,帮助更好的理解。
WhereHows 从架构上来看主要分三个部分,和Google的Goods比较类似。
数据主要有四部分组成。图片有点不清楚,暂时没找到更清楚的。
血缘分析的数据需要从如下方式来获取。
Lineage information refers to the dependency of jobs and datasets. It also includes some operation data, such as whether this is a read or write operation, and how many records it can read/write.
05 总结
元数据系统属于数据仓库建设中的一部分,它的很多意义和价值其实是和数据仓库强绑定的。在最开始列举的一些元数据系统的挑战和数据仓库的挑战是重合的,不过这些也很能反应元数据系统的重要性。
关于Google和LinkedIn两家公司的设计,其实是很相近的,只是Google给出的是思想,LinkedIn给出的实现的,整体来看,两者的设计还是十分接近的,看一家的看不懂,看两家就行了。
Google和LinkedIn都比较关注提高开发者的开发体验,就是我再前面设计思想里面列的无干扰。这样做的好处十分明显,就是不影响开发效率,侵入性很低。
个人感觉可以做一些补充,比如数据管理功能。
大部分互联网公司的童鞋都知道我们的数据源会有很多,因此都会有一个数据接入系统。
我们可以把数据接入系统嵌到元数据系统中,开发一套自动化接入流程,用户如果想接入新的数据源了,可以通过元数据系统申请接入(离线或者实时)。
强烈建议把Google的论文和LinkedIn的开源项目看一下,会有很多收获的,比看数据仓库的经典书籍和网上的各种博客要靠谱很多很多。
刚入坑的时候,自己十分无知,偶尔回想起来这些场景感觉挺逗的。
现在整理一些数据仓库的博客,也算是对之前工作的一些总结,纪念一下逗比的日子。
为了证明自己的确学习了,附一张看论文时候的勾勾画画。
来源:36大数据