未来五年,大数据将与云计算更加融合

云端的大数据就像科幻小说里对未来的描绘一样:它在这,只是不是很均匀地分布罢了。

很多初创公司都引入了云平台上的管理服务,按需部署自己的系统。大数据和云计算的融合往往是互联网公司的首先项,尤其是初创的软件和数据服务供应商。

但很多主流公司并不像互联网公司那样看重云端数据管理。一些公司担心云端的数据安全和隐私保护。一些公司还在大型机和其他本地系统里运行大部分操作。存储在本地的数据量之大,让数据迁移充满挑战。另外,现存数据中心可用的处理能力让AWS和谷歌等公有云的成本优势不值一提,即使公司对于云系统所谓的降低成本、增加弹性有兴趣,最终也未必会选择它。

花旗集团就是一个例子。随着网络成为普及的应用界面,金融服务公司面对的是洪水般的非结构化数据。它还需要处理线上金融应用程序中不同的数据结构。这些挑战让花旗集团最后选择了MongoDBNoSQL数据库。MongoDB获得了AWS和其他云平台的支持。花旗数据公司负责平台工程的全球领导者MichaelSimone表示,花旗选择了在云端应用该软件。不过它应用的是私有云,应用限定在纽约公司的防火墙内,由它的IT部门全权管理。

在纽约的MongoDB大会上,Simone告诉与会者:“目前,我们还没有扩展私有云或集成公有云的打算。花旗集团的数据中心很大,技术积累也很深厚,我们可以构建自己的内部部署的云计算。”

大数据云才刚刚开始

总体来看,在云端运行大数据系统仍然是小众行为。在数据仓库研究院开发的大数据成熟度模型中,十个月内有222名IT和业务专家完成了线上测评,只有19%的人表示它们的组织在用公有云、私有云和混合云支持大数据应用程序。另有40%的人表示正在考虑云部署,同时有超过三分之一的人表示它们没有使用云计算的计划。在企业管理协会和9sight咨询公司开展的线上调查中,云计算使用比例略高:259名受访者中,39%的人表示他们的大数据安装包括云系统。

WeatherChannel公司是采用了公有云的案例,Basho技术公司在AWS可用性区域的多个分区运行了Basho技术公司的NoSQL数据库Riak的复制实例,处理和存储来自卫星、雷达系统、天气站等来源的混合数据。该数据库每五分钟就为预测引擎更新3万6千多地理天气网格的视图,它还用于归档历史数据。

美国TWC公司执行副总裁兼CIOBrysonKoehler认为,Riak的容错技术和同时支持内存和硬盘存储的功能特别好。经过比较,因为处理效果低,主流关系型数据库并不能适应高容量的云环境,至少不能以较低的成本适应高容量的云环境。

但是,在云端部署NoSQL软件也是旨在扩大TWC灵活性的更广泛的IT战略的题中之义。公司在谷歌云和AWS上运行应用程序,以免被任何供应商或技术锁定。

云计算:更多选择更多可能

公有云供应商已经为了满足大数据需求,已经扩展了数据管理能力,不止包含关系型数据库。例如,亚马逊近几年拓宽了AWS云选项,包含了很多新兴技术,比如NoSQL数据库DynamoDB、Hadoop部署ElasticMapReduce和ElastiCache内存缓存服务、Redshift数据仓库和Kinesis流数据系统。

美国咨询公司CloudTechnologyPartners高级副总裁DavidLinthicum表示:“AWS和其他云供应商也创建了相当成熟的服务。一些可用的数据管理云平台已经发展到第五代第六代了。”

对于拥有强大的内部处理能力的大公司来说,给大数据管理池增加云基础的系统并不是必须的。美国云服务咨询公司Nimbo的首席基础架构师AaronEbertowski表示:“为什么要企业定购它们已经有了的东西呢?企业已经在存储架构投了成百上千美元,不会轻易舍弃的。”

业绩要求也是公有云不受大数据用户青睐的原因之一。加拿大海洋网络(ONC)是一家非营利性机构,该机构管理着英属哥伦比亚的一对海洋气象台,计划建立一个公司内部私有云,为使用海洋传感器提供数据的应用模拟地震和海啸创造条件。

目标在于更加准确地预测可能发生的自然灾害带来的后果,为政府当局采取预防措施缓解自然灾害给人们带来的影响,BenoitPirenne这样说道,他是ONC的数字基础设施主管。

需求——充足的大数据力量

该机构位于维多利亚大学,去年春天得到了一项三年项目的批准和资金支持。计划进行的分析工作包括收集传感器的多次测定结果,运行预测模型以得出可能发生的所有情况集。但是完成这项工作需要大量数据和强大的计算能力,Pirenne说道。

“要计算现实状况中的“模拟”几乎是不可能完成的任务,就算在非常高级的平行云系统中也不行。”他说。因此,ONC正在与IBM合作构建一个内部云加过来处理流程和分析工作。

新兴的管理服务供应商——例如Altiscale,BitYota,Qubole,TreasureData和Rackspace’sObjectRocket附属公司等——称他们通过以低于云平台供应商的价格接管部署和管理任务,能够为用户企业将大数据云装置做的更方便、更划算。

美国的Sellpoints公司是一个线上营销和分析服务供应商,使用Hadoop和Spark的流程工具迅速构建查询表格,查询数据量达到TB用户网页活跃度数据,BennyBlum如此说,他是Sellpoint公司业绩营销和分析的副总裁。

Hadoop实用工具

Blum的公司首先将其自身的Hadoop系统应用到了亚马逊弹性计算云(或EC2)平台上。但是现在该公司已经换成了Altiscal的Hadoop作为服务供应。这一服务也在亚马逊云上运行,但是Blum表示将Hadoop的构造和管理下线为Sellpoints带来了红利。“Altiscale为我们管理了基础设施,这样我们就不必为维护集群而付运营费了。”

但是至少迄今为止,该类服务的用户基本都是这些新兴企业自身。大多是服务供应商的顾客基础还维持在一位数或两位数。

RickSherman是AthenaIT解决方案这一美国咨询公司的创始人,他认为有理由相信基于云端的Hadoop服务尤其能够在更广阔的基础上运行。“人们在使用自给自足的Hadoop时遇到了一堵墙,”他说。“这在时间和技巧上都需要付出很多。我认为最终Hadoop作为服务会比公司内部Hadoop更具吸引力。”

然而有些企业还完全没有准备好接受公有云中的Hadoop,而且近期内也不会准备好接受。这就是AyadShammout所面临的问题,他是美国BethIsraelDeaconess医学中心(BIDMC)的数据平台和商务智能主管。去年他还是位独立咨询师的时候,就与另一位咨询师合作,为BIDMC做了一个大数据和云计算定义证明项目。为了降低SQL服务器数据库上的存储量和流程需求,他们使用了AzureHDInsight,Microsoft的基于云端的Hadoop发行,用以卸载应用审计日志的存档文件,这些日志用于微软的Azure云管理报告。

Shammout表示示范项目展示出了在云端云顶Hadoop应用的潜力。他还认为像BIDMC这种卫生保健型供应商最终能够将其实现。但是在未来几年之内,美国的联邦健康保险可移植性法案和问责制法案还阻碍着生产的展开。

“如果三四年前我跟你谈论云端,我会说‘这不会发生的。’”Shammout说道。“现在我认为云端会在某些部门实现应用。我的期望是再过三四年,云数据隐私就不成问题了。”

原文发布于微信公众号 - 大数据(hzdashuju)

原文发表时间:2015-04-23

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏IT大咖说

增长黑客国内落地实践

摘要 Growthhacking 更像是专门为初创企业设立的 marketing 部门,与现在火爆的 lean startups 其实是相通的。growth h...

36260
来自专栏Java学习网

对优秀程序员的思考

对优秀程序员的思考 人生总有目标和追求 不管是谁,活着总是有方向和追求的,差别可能是有些人“高尚”一些,有些人“低俗”一些,有些人对自己的方向没有那么坚定、今天...

30240
来自专栏腾讯大讲堂的专栏

“喂,你要不要让自己试试看?”

12830
来自专栏姬小光

深度好文 | 你一定不知道,微信里竟然有这么多赚钱的路子 ...

现如今的微信,已经远远不止是社交工具了。有人说微信正在变成操作系统,承载了各种应用,吞噬了用户大量的时间。其实,不管微信本身发展成什么样子,在这个月活超过 10...

2.8K20
来自专栏程序员互动联盟

揭秘高手拼命写博客的原由

对于软件开发人员来说,坚持写博客是个好习惯。以下是我建议大家写博客的七个理由。 ? 1. 帮助整理思路 最近我做出了一个决定,那就是: 我要坚持天天写博客,记录...

34250
来自专栏速成应用小程序开发平台

门店老板怎么样去把握微信小程序流量红利快速打开市场?

微信小程序甫一诞生,即引发业内外人士的高度关注和热烈讨论。“好的产品是用完即走”,小程序正是一款能够实现“用完即走”的产品,无须安装、触手可及,却能连接起许许多...

12220
来自专栏微信终端开发团队的专栏

今天不讲技术的事情了,讲个最近让我有些纠结的事

51960
来自专栏ytkah

林兴爆料小程序很快可以支持各个 App 直接打开小程序

24020
来自专栏互联网数据官iCDO

坏数据滋生不良销售线索:为B2B销售周期清理数据

引言:我们创造的数据比以往任何时候都多——但是大部分数据都不好。这对于B2B营销人员及其线索产生(Lead Generation)/销售线索意味着什么?

6620
来自专栏ytkah

微信公众号刷量工具崩溃原来是接口变了

  这两天微信公众号刷点击阅读量的工具崩溃了的消息漫天遍布,原来是腾讯在9月27号晚上将接口key改为了“cookie”,公号刷量工具就不能通过post的方式进...

73080

扫码关注云+社区

领取腾讯云代金券