专栏首页宜信技术实践以企业级实时数据平台为例,了解何为敏捷大数据

以企业级实时数据平台为例,了解何为敏捷大数据

敏捷大数据,即在敏捷理念原则指导下,构建出一系列通用平台工具,和一整套大数据应用全生命周期方法学,以支撑更轻量、更灵活、更低门槛的大数据实践。本文从理论层面整体解释我们所理解的“敏捷大数据”。

一、敏捷大数据的理念原则

1.1 组件化/平台化/产品化/本地化

组件化/平台化:通过对大数据处理链路进行模块化抽象,形成多个功能高度內聚的组件化平台;组件化平台既可独立与已有平台组件整合使用, 也可组合起来以解决更多不同链路上的问题。

产品化/本地化:通过组合不同的组件化平台,加上抽象萃取过的业务逻辑模型和规则算法模型,可以很容易构建特定业务领域的产品化解决方案;解决方案产品实际落地时可进行本地化处理,主要包括数据模型适配/规则集引入/算法模型参数调整等。

1.2 统一化/开放化/管控化

统一化旨在简化系统复杂度,提高管控能力;开放化旨在增强适应度,提高灵活性;两者相辅相成,需要找到一个合理的平衡点,且不失整体的管控性。

1.3 标准化/接口化/配置化/可视化

标准化/接口化:在大数据处理链路中,形成一系列标准化协议,包括数据命名空间协议/元数据和数据类型规范协议/数据访问接口协议/查询语言协议/数据传输协议/数据安全协议等;以服务接口和队列接口方式提供系统间交互。

配置化/可视化:以配置化和可视化方式提供人机交互。

1.4 自助化/自动化/智能化

现代数据应用要求能力输出,让领域用户在受管控的环境中,可以更加自助化的使用平台和数据实现业务需求;自助化的常规操作可以以自动化方式更好支持;自助化的洞察分析可以以智能化方式更好支持。

1.5 引擎驱动化(事件引擎/动作引擎/规则引擎)

通过引入高级引擎驱动能力,使得敏捷大数据应用可以更加迅捷、灵动、主动的触达外部受众,这时大数据应用本身已经成为强大的业务驱动引擎。

二、可以抽象出的通用平台工具

以企业级实时数据平台为例,我们在敏捷大数据理念原则的指导下,对实时数据平台整体端到端进行了模块化切分,并形成一系列标准化协议,最后以统一开放的原则确定了要开发哪些通用平台工具及其边界和接口规范。

上图是实时数据平台的概念模块架构图,在后续文章中我们会以实时数据平台为切入点,详细阐述衍生出的通用平台工具的抽象概念和架构设计。

三、贯穿大数据应用全生命周期

3.1 需求分析验证阶段

在需求分析阶段,我们需要有能力可以快速开发数据应用原型POC,并且在验证有效后能够快速迭代以尽早覆盖所有需求点。

敏捷大数据的平台化/配置化/可视化等能力能够支持业务开发人员通过配置和可视化方式快速地进行需求迭代验证。业务开发人员只需要关注业务问题本身,无须过多关注大数据技术问题。

3.2 架构设计选型阶段

在实际存储和计算引擎选型过程中,要考虑很多很多因素,除了满足SLA和数据规模等要求,还不得不受到开源技术选型的种种限制和问题。

敏捷大数据的标准化/接口化/统一化/开放化等能力提供了一套架构选型的最佳实践,既极大的减少了系统设计的复杂性,屏蔽了开源技术不兼容的问题,也能够支持选择不同存储和计算引擎的灵活性。

3.3 实施测试调优阶段

大数据定制化开发的实施测试和调优往往是件很耗时耗力的工作,并且随着处理链路的变长和技术选型的多样性,更加增加了测试调优的复杂度。

敏捷大数据的平台化/接口化/配置化/可视化/统一化/管控化等能力可以让实施测试调优的过程变成只需进行可视化配置/实验/验证的迭代过程,数据处理链路过长问题被配置化/可视化屏蔽,技术选型过多问题被统一化/管控化屏蔽。

3.4 上线部署迁移阶段

大数据定制化开发的上线部署迁移往往步骤繁杂,容易出错,即使可以以脚本方式支持,也可能由于不统一和不直观带来潜在问题。 敏捷大数据的平台化/配置化/可视化/统一化/管控化/自助化等能力可以让上线部署迁移更加简单,这些都得益于平台的统一化能力,并且这些能力以自助的方式开放给用户。

3.5 管理运维监控阶段

管理运维监控在企业中往往是统一归集管控的,敏捷大数据的平台化/管控化/自助化等也提供了相应的能力,此外,还可以提供自动化/智能化等能力进一步降低运维工作量;同时也可以通过接口化能力与环境已有监控运维系统集成。

四、践行敏捷大数据实践

上图即为我们所总结的敏捷大数据各个组件的关系:

敏捷大数据理念+敏捷大数据平台栈+敏捷大数据方法学 → 敏捷大数据实践

本文给出了“敏捷大数据”的定义,以及敏捷大数据理念,并且简要描述了基于这套理念之上如何构建平台栈和如何实践方法学。在后续的文章中,我们会围绕具体的敏捷大数据实践经验详细展开我们的敏捷大数据之旅。

作者:卢山巍

来源:宜信技术学院

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 大数据总线平台DBus设计思路与工作原理

    企业中大量业务数据保存在各个业务系统数据库中,过去通常的同步数据的方法有很多种,比如:

    宜信技术学院
  • 用Java 8 stream流实现简洁的集合处理

    java 8已经发行好几年了,前段时间java 12也已经问世,但平时的工作中,很多项目的环境还停留在java1.7中。而且java8的很多新特性都是革命性的,...

    宜信技术学院
  • 拆解大数据总线平台DBus的系统架构

    我们知道,虽然mysql innodb有自己的log,mysql主备同步是通过binlog来实现的。而binlog同步有三种模式:Row 模式,Statemen...

    宜信技术学院
  • 获取豆瓣电影TOP 250并存入文件

    tanmx
  • 透视媒体大数据营销

      北京时间2月5日,在由新浪网主办的“2014新浪全媒体高峰论坛”上,缔元信.网络数据CEO秦雯女士发表了题为“媒体大数据营销”的演讲,从实操层面分享了大数...

    腾讯研究院
  • 【译】开放健康数据为何如此重要

    大数据文摘
  • 看完这篇文章还不会给spring boot配置logback,请你吃瓜!

    logback 是一个开源的日志组件,由三个部分组成:logback-core,logback-classic,logback-access。其中 logbac...

    create17
  • RabbitMq-PhpAmqpLib笔记(注:只做笔记-简易手册使用,不做教程)

    use PhpAmqpLib\Connection\AMQPStreamConnection;

    93年的老男孩
  • react-native多图选择、图片裁剪(支持ad/ios图片个数控制)

    前言:   目前关于rn比较知名并且封装好的图片选择控件很多,不过能同时支持多图片上传,个数控制兼容iOS/Ad的却寥寥无几,而今天介绍的这款框架可以实现:图片...

    Java中文社群_老王
  • Python自制一个翻译软件,Tkinter创建主体,爬虫抓取翻译内容

    云飞

扫码关注云+社区

领取腾讯云代金券