如何量化并行效率?阿姆达尔来帮你

今天在《代码的未来》这本书中看到一个定律,叫:阿姆达尔定律,原来并行效率可以量化的这么漂亮,它叫 加速比,简单的讲就是提升效率的倍数,很简单就一个公式:

看到公式先别怕(我一开始也是很怕的),听我解释两点你就明白:

1. 式中W_{s},W_{p} 分别表示问题规模的串行分量(问题中不能并行化的那一部分)和并行分量,可以很简单看出来,当 p->\infty 的时候,上面那个公式的极限是:

2. p表示处理器数量

意思就是无论我们如何提高(处理器的数量),效率的提升都不会超过这个值


举两例子就清楚了:

1. 有一个 App,计算(假设可并行化) 与 I/O(不可并行化) 各占一半,套上面公式得:

2. 而如果计算占 95%,I/O 5%,再套公式得:

第一个例子,效率最多提升到之前的 2 倍 第二个例子,效率最多提升到之前的 20 倍(是不是突然之间明白了什么?)

最后放图加深记忆:

嗯,就这么简单,PPT 的逼格又能 +++ 啦,正文完

原文发布于微信公众号 - 随心DevOps(heart-devops)

原文发表时间:2017-12-23

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据风控

Python中的结构分析pivot_table

结构分析 是在分组以及交叉的基础上,计算各组成部分所占的比重,进而分析总体的内部特征的一种分析方法。 这个分组主要是指定性分组,定性分组一般看结构,它的重点在于...

2318
来自专栏数据科学与人工智能

【陆勤阅读】数据科学

“用数据来研究科学,科学的研究数据” “数据科学将逐渐达到与其他自然科学分庭抗礼的地位” ——作者 数据科学主要包括两个方面:用数据的方法来研究科学和用科...

23010
来自专栏ATYUN订阅号

【学术】打开黑匣子—MIT解构神经网络工作原理

神经网络是通过分析大量的训练数据学会执行计算任务,这是人工智能近代取得的最令人印象深刻的进步,包括语音识别和自动翻译系统。 然而在训练期间,神经网络不断地调整其...

3578
来自专栏AI科技评论

动态 | 百度发布 Deep Speech 3,不同应用场景下轻松部署高精度语音识别模型

AI 科技评论按:美国时间10月31日,百度研究院发出博文,宣布发布新一代深度语音识别系统 Deep Speech 3。继2014首秀的第一代Deep Spee...

4348
来自专栏小小挖掘机

推荐系统遇上深度学习(十五)--强化学习在京东推荐中的探索

强化学习在各个公司的推荐系统中已经有过探索,包括阿里、京东等。之前在美团做过的一个引导语推荐项目,背后也是基于强化学习算法。本文,我们先来看一下强化学习是如何在...

3454
来自专栏机器之心

学界 | 机器翻译新突破:谷歌实现完全基于attention的翻译架构

选自arXiv 机器之心编译 参与:吴攀、黄小天、李亚洲 近两年来,机器翻译的突破让人目不暇接,从去年谷歌的颠覆性突破开始到一个月前 Facebook 的全新 ...

3386
来自专栏AI星球

吾爱NLP(1)--我与自然语言处理

文字只是信息的载体,而非信息本身,那么不用文字,而用其它的载体(比如word2vec形式的词向量)是否一样可以储存同样意义的信息呢?这个答案是肯定的,这也是现在...

2612
来自专栏AI科技评论

自然语言的理解和连续表达 | 微软演讲PPT终章

微软研究院在IJCAI2016的Tutorial上讲述了自己将深度学习、深度神经网络应用于不同场景的情况,之前第二部分提到了深度学习在统计机器翻译和会话中的应用...

3296
来自专栏ATYUN订阅号

六本机器学习相关的免费英文电子书

机器学习是数据科学和人工智能的一个子领域,它关注计算机程序的开发,这些计算机程序可以访问数据并使用它来自己学习,从而使它们在预测结果时变得更加准确,而无需明确编...

1083
来自专栏AI科技评论

学界 | Moments in Time:IBM-MIT联合提出最新百万规模视频动作理解数据集

AI 科技评论按:本文为上海交通大学林天威为 AI 科技评论撰写的独家稿件,未经许可请勿转载。 在过去一年中,视频理解相关的领域涌现了大量的新模型、新方法,与之...

3857

扫码关注云+社区

领取腾讯云代金券