如何为训练好的模型选择半精度(BFLOAT16 vs FLOAT16)？

文章/答案/技术大牛

发布

1回答

tensorflow、machine-learning、deep-learning、pytorch、half-precision-float

您将如何决定哪种精度最适合您的推理模型？BF16和F16都需要两个字节，但它们对分数和指数使用不同的位数。范围将是不同的，但我试图理解为什么一个人选择一个而不是另一个。10 | |--------+------+----------+----------| bfloat16: ~1.18e-38 … ~3.40e38 with 3 significant de

浏览 618提问于2021-09-30得票数 0

回答已采纳

16回答

3D游戏为何如此高效？

performance、opengl、direct3d

像GTA IV这样的大型PC游戏怎么能占用我50%的CPU，并以60fps的速度运行，而旋转茶壶@ 60fps的DX演示使用了高达30%的CPU？

浏览 0提问于2010-02-08得票数 189

回答已采纳

17回答

与Project Euler的速度比较:C与Python、Erlang与Haskell

python、c、performance、haskell、erlang

我已经问题#12 来自项目Euler 作为编程练习，并比较我在C、Python、Erlang和Haskell中的实现(肯定不是最优的)。为了获得更高的执行时间，我搜索具有超过1000个因子的第一个三角形数，而不是原始问题中所述的500个。有没有一个编译器标志可以关闭刹车，或者是我的实现？(后者的可能性很大，因为Haskell对我来说是一本有七个印章的书。)问题3：你能给我一些提示，如何在不改变我确定因素的方式的

浏览 233提问于2011-08-06得票数 712

回答已采纳

23回答

为什么处理排序的数组比处理未排序的数组快？

java、c++、performance、cpu-architecture、branch-prediction

下面是一段C++代码，它显示了一些非常奇怪的行为。出于某种奇怪的原因，对数据进行排序(在计时区域之前)奇迹般地使循环速度提高了近6倍。使用排序后的数据，代码运行时间为1.93秒。 System.out.println("sum = " + sum);} 也有

浏览 249提问于2012-06-27得票数 26036

回答已采纳

352回答

你为提高编程技能所做的最有效的事情是什么？

self-improvement、skills

回顾我作为一名程序员的职业和生活，我有很多不同的方法来提高我的编程技能--阅读代码，编写代码，阅读书籍，听播客，看屏幕等等。我的问题是:你所做的提高编程能力的最有效的事情是什么？我希望这里有不同的答案，没有一个“一刀切”的答案--我想知道什么对不同的人有用。

浏览 0提问于2008-09-16得票数 876

396回答

你最有争议的编程观点是什么？

language-agnostic

这绝对是主观的，但我想尽量避免争论。我认为如果人们适当地对待它，这可能是一个有趣的问题。这个问题的想法来自于从到的评论线程。我认为C#中的类在默认情况下应该密封--我不会把我的推理放在这个问题上，但是我可能会写一个更完整的解释来回答这个问题。我对评论中讨论的激烈程度感到惊讶(目前有25条评论)。那么，你持有什么有争议的意见呢？我宁愿避免这样的事情，因为这类事情的基础相对较少(例如，放置支撑)，但例

浏览 65提问于2009-01-02得票数 363