前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >海量天文数据如何处理?

海量天文数据如何处理?

作者头像
大数据文摘
发布2018-05-22 10:27:09
1.2K0
发布2018-05-22 10:27:09
举报
文章被收录于专栏:大数据文摘大数据文摘

什么是暗物质?行星是如何出现的?人类和地球上的生物在宇宙中是孤独的生命吗?要回答以上等等的大问题,平方千米阵小组(下简称“SKA”,SquareKilometre Array)-一个由十个国家成员组成,总部设在英国曼彻斯特大学JordrellBank天文中心的合作项目-正计划着在南非和澳大利亚的沙漠建立上千个射电望远镜和上百万个射电天线阵来收集大量天文数据。如何能够处理这些数据将是那些关于宇宙的奥秘能被揭开前天文学学家们首先需要面对的挑战。

通过SKA小组早先的建设,这些望远镜收集到的数组能够以比特量(相当于10的15次个二进制数字)的速率收集天文数组,这相当于现在全球互联网传输速度的100倍。根据摩尔定律,世界现有最快的超级计算机Exascale到2020年SKA的计划开始运行时方能赶上这运算速度。然而,即使Exascale若干年后将能够在SKA计划的初期拥有其数据数量处理的要求,它将迅速被更多天文望远镜所收集的数据所压得喘不过气来。

大批量的采样正在改变我们处理数据的模式。“直到最近,宇航员才开始通过望远镜的观察,把观察的数据刻在光盘上带回家然后花上几个月的时间来整理这些数据,”澳大利亚联邦科学与工业研究组织的宇航员Ray Norris说道,“下一代的大批采样将产生的数据数量将会大到难以储存和运输,因而对这些采样的分析需要在采集当刻就能进行。”

IBM的Exascale技术中心与荷兰放射天文研究院(ASTRON)合作组成了机构DOME尝试实现SKA所需的数据处理的需求。他们正在研发含有传统超级计算机因子和一种其他的处理器的一款名为“加速器”的混合系统。这款“加速器”运用规律识别算法来辨别射电天文望远镜所收集的最有效的数据并仅传输这部分有效数据进以作数据分析。

“这套系统是有人工学习技能的。通过监控宇航员利用数据的方法,这款“加速器”能够学习如何将不同的数据用几种不同的数量储存,”ASTRON科学主管TonEngbersen解释说。虽然摩尔定律表示只要计算机有足够的处理能力就能处理相应数据容量的数据,另有一条关于计算机的定律也为SKA的计划可行性奠定理论基础,那就是“Koomey定律”(由美国加州斯坦福大学的Jonathan Koomey发现)。该定律是关于计算机处理能力随时间增长的稳定性,它表示一旦固定了计算数量,计算机消耗的电能将以每1.6年减半的速度下降。

因而,拥有如此之多数据的最大的问题并不是数据的存储,而是计算对电的消耗量是否能够有能力处理大量数据。Ton Engbersen的团队正在设计足够有效的计算机在不依靠巨大计算机发动力的情况下承担所需的计算。“即便每次要移除一块数据也要占用计算机电能的,这个过程并不是自己产生的。我们关注的是如何尽量减少去除数据所占的电量,”Engbersen同时解释说,SKA项目原本打算将大批天文数据交给一个数据中心处理,而这将花费大量的电能。

对所搜集的数据进行首批过滤和分析将随之被在收集数据的射电天线旁进行。为了实现这个技术,简易、廉价,并且高效能的数据处理器仍然在探索中。Engbersen的团队将标准的“现有元素”融入了他们的“微”数据处理器。而他们的设置使得他们在与现有的标准相比较时显得更有效。处理器和记忆芯片被尽可能紧密地放置在3D的环境下,通过减少数据传输所需的距离来节省数据处理器的能量。这个步骤就远离传统发动力来源的数组的运行来说非常重要,尽管上述压缩组成部分可能可以帮助减少处理器所需的能量,而处理器过热的问题又被扩大了。为了防止如此紧密的电子设备过热,IBM已经发明了一套利用水来降温的技术。水流被通过微镜的管道通过处理器表面以下几微米,这样,热量就会被有效地通过冷空气流动而扩散,散发率达到10倍以上,并且这种方式还消除了运用风扇降温的不利影响,因为运行风扇也要消耗电能的。这个技术的一项额外的功能是多余的能量加热的水可以被用来淡化地区内的盐水。

这些在处理器身上的技术进步同时也帮助了那些“大科学”项目。同样的,数据处理对互联网的支持也能够被看作是增加了电能效率并加快了处理器速率这两项好处,而这些很可能将在2020年,当大量装置被连接上了互联网时所需的。

摘自 www.isgtw.org 作者:CharlesHarvey │自由科技撰稿人

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2014-01-13,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 大数据文摘 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档