3回答
在VB.NET中，即使两个操作数都是整数，/运算符也会将值转换为浮点数(如果结果不是整数)。所以我认为\是整数除法。现在，它是一个bug还是一个正确的结果？如果它是一个bug，它就会直接存在于VB6中。
浏览 0提问于2011-08-26得票数 8
回答已采纳
10回答
单精度浮点运算和双精度浮点运算有什么区别？
我特别感兴趣的是与视频游戏机相关的实用术语。例如，任天堂64是否有64位处理器，如果有，这是否意味着它能够进行双精度浮点运算？PS3和Xbox360可以实现双精度浮点运算，还是只能实现单精度浮点运算，并且通常使用双精度功能(如果它们存在的话？)。
浏览 3提问于2009-04-29得票数 186
回答已采纳
我使用的是node.js，我试图将两个整数相加，但是，他们只是把它们放在一起……我查找了Float，试图对整数进行浮点运算，但node.js无法识别float。
浏览 0提问于2013-01-01得票数 3
回答已采纳
2回答
我正在写C++/C代码，它使用浮点型来做加法运算。我知道我可以使用双精度或长双精度，但现在我正在测试浮点数。人们可能会怀疑这是一个bug，然而，这两个实现给出了高达3个小数的一致结果。你怎么认为，这是合理的，或者我应该寻找一个bug？哪种实现更准确？
浏览 0提问于2016-11-02得票数 0
我听说iPhone 4和iPad有一个叫做VFP的浮点运算单元，它在某种程度上优化了浮点运算，甚至允许使用单指令多路复用(尽管GCC是否利用了这一点还是个疑问)。然而，我读到对于一些Android设备，使用定点而不是浮点的加速可以导致性能提高20倍。
在这些设备中使用定点运算而不是浮点来实现浮点密集型代码有什么好处？
浏览 2提问于2011-04-01得票数 1
回答已采纳
霓虹灯可以对32位浮点数进行SIMD运算。但是不对64位浮点数执行SIMD操作。VFU不是SIMD。它只能在一个元素上进行32位或64位浮点运算。
ARM是否支持64位浮点数的SIMD操作？
浏览 4提问于2016-03-17得票数 4
当我开始使用相等运算符比较两个浮点值时，我使用的代码审查工具抱怨如下。正确的方法是什么，怎么做？有没有我可以重用的助手函数(commons-*)？描述说明比较这两个浮点值，看看它们的值是否接近。float b;
{}
浏览 44提问于2011-07-27得票数 19
回答已采纳
8回答
它没有浮点协处理器。标准C库可以模拟浮点运算，但由于它的大小，我没有使用它。undefined reference to `__adddf3'undefined
浏览 0提问于2010-02-03得票数 3
1回答
在分析一篇软件测试论文时，我读到在模糊化技术中增加浮点运算能带来什么样的好处？浮点操作用于软件测试的优点是什么？
浏览 0提问于2019-07-26得票数 0
回答已采纳
我有一些JS计算在进行。由于浮点算术通常使用数字的近似值，而不是精确值，如果将这些浮点数字舍入到固定的精度，则通常会得到一些细微的差别。当你与美元打交道时，人们不喜欢这些细微的差别。有人知道我如何做数学运算(乘法和加法)，而不引入这些来自浮点近似的四舍五入误差？我发现另一篇文章带来了同样的问题，并确认JS没有内置的十进制数据类型：。你可以看到你的JS终端626.185.toFixed(2) == 626
浏览 4提问于2012-06-11得票数 3
1回答
我正在尝试比较合成浮点运算符和整数运算符的时间和成本，但为了正确地比较它们，我需要使用32位浮点数表示的整数运算的相同相对位数。感谢您的帮助！
浏览 1提问于2017-09-27得票数 0
2回答
在JavaScript中，我们可以使用按位左移和右移运算符来截断浮点数，并将其舍入最接近的整数。示例：console.log(2.667 >> 0); //outputs 2console.log
浏览 5提问于2015-01-20得票数 2
回答已采纳
1回答
我需要在一个本机支持16位整数运算和32位浮点运算的处理器上工作。一些以处理器为目标的算法需要高于16位的整数数学精度。最直接的选择是使用16位整数操作进行模拟。我注意到有些架构支持24位整数运算。因此，浮点单元以某种方式被用于整数运算。在某些情况下，是否可以使用浮点指令来提高效率？
浏览 1提问于2018-11-06得票数 1
我正在学习Elixir，并且刚刚了解了两对相等运算符==、!=和===以及!==。我认为Elixir有两组相等运算符是错误的。他们创建了一个“严格的”相等运算符，用于比较整数和浮点数的情况。请注意，这种通过值比较整型和浮点型的情况是运算符在比较两种不同类型时的正常工作方式的例外，这会导致类型比较，而不是值比较。因此，我们对类型比较规则进行了例外处理，并添加了两个运算符来支持该例外。所以整型和浮点型可以通过值来比较，这是一种大多数人认为是糟糕的编程实践的
浏览 13提问于2018-08-08得票数 1
1回答
返回整数
、
我一直在回顾asm.js，而且我知道它所做的事情之一就是使用按位运算将数字强制为整数。如果不是如果我这是否确保我只返回整数，而不是整数的浮点表示？
浏览 3提问于2015-02-03得票数 0
回答已采纳
9回答
双精度值存储的精度更高，并且大小是浮点数的两倍，但是Intel CPU是否针对浮点数进行了优化？对于64位架构，答案会改变吗？
浏览 9提问于2010-08-07得票数 74
回答已采纳
float convertedValue = float.Parse(value) * 100.0f;因为convertedValue是一个浮点数，并且它在括号*100f中，所以它不应该仍然被视为浮点数操作吗？
浏览 0提问于2012-03-15得票数 9
回答已采纳
引用了约书亚布洛赫的有效Java -第二版
当与浮点值一起使用时，关系运算符在什么方面不遵守compareTo的一般契约？
浏览 3提问于2012-10-12得票数 11
回答已采纳
1回答
在桌面CPU上，交错整数和浮点计算(例如浮点数数组:在计算数组值的同时更新整数索引)比所有整数计算要快于所有浮点数计算。这是因为整数运算和浮点运算是由CPU的不同部分处理的，所以它们基本上可以同时处理。
对于较新的手机的CPU和ARM架构，总体上是一样的吗？
浏览 10提问于2020-07-19得票数 0
回答已采纳
云服务器
ICP备案
对象存储
云点播
实时音视频
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号