1回答
计算以2、10和16为基数的浮点数
floating-point
我在阅读我的笔记时，偶然发现了以下内容：it in such a way.如何计算基数为2，10和16的浮点数为12.25。我不太清楚讲师是如何得出b= 2，b= 10和b= 16的答案的。
浏览 0提问于2012-04-20得票数 4
回答已采纳
3回答
如何在python中将浮点数转换为基数3
python
如何在Python中将基数为10的浮点数转换为基数为N的浮点数？
具体来说，我希望将数字转换为基数3(获得基数3的浮点数的表示形式)，以便使用进行计算。
浏览 0提问于2011-02-25得票数 8
回答已采纳
2回答
为什么在财务计算中要使用小数浮点数，而小数浮点数存在舍入误差
c++、floating-point、bigdecimal
我目前正在使用c++的股票市场相关的项目，涉及许多浮点类型，如价格和指数。
我看过很多书，说你应该在货币相关的算术中使用十进制浮点数。据我所知，浮点数和小数浮点数的区别在于指数部分的基数是什么，浮点数使用2作为基数，小数浮点数使用10。当使用小数浮点数时，您仍然会有舍入误差，您仍然不能表达1/3(如果我错了，请纠正我)
浏览 2提问于2014-11-06得票数 4
8回答
快速计算n乘以10的负m次幂
c++、math、pow
我想计算10的幂，减去m。除了使用数学函数pow(10, -m)之外，还有什么快速有效的方法可以做到这一点吗？
我问c++大师这么简单的问题是，正如你所知道的，就像基数2，10也是一个特殊的基数。如果某个值n乘以10的幂减去m，则相当于将n的小数点左移m次。我认为这一定是一种快速有效的应对方式。
浏览 0提问于2011-05-27得票数 3
1回答
将浮点数、base转换为浮点数的函数
python、function、base
尝试从浮点数和基数创建函数来计算浮点数。我们该怎么做呢？以下是我所做的 import math for e in exp: s -= d * (base ** e)尝试像这样的目标
(100.101,
浏览 11提问于2018-09-04得票数 1
回答已采纳
9回答
二进制、浮点数和现代计算机
c、binary、floating-point、hardware、computer-science
我读了很多关于浮点数和计算机处理的浮点运算的文章。当我读到关于它们的文章时，我看到的最大的问题是为什么它们如此不准确？我的问题是，知道这一点，为什么我们仍然使用二进制作为计算机操作的基础？当然，使用大于2的基数会成倍地提高浮点运算的精度，不是吗？在计算机上使用二进制数系统相对于另一种基数系统有什么优点，是否曾经
浏览 2提问于2012-06-06得票数 27
回答已采纳
7回答
为什么选择6.84 - 3.6 == 3.2399999999999998
ruby、floating-point
谁能解释一下Ruby中的原因：而不只是3.24？我知道这与这些数字的二进制表示有关将返回预期的结果。我只是对浮动行为的详细解释感到好奇。
浏览 0提问于2012-05-23得票数 1
2回答
ruby精确数log (对数)函数
ruby、logarithm
由于基数10为1000的对数为3，所以您可能期望Math::log(1000, 10)返回3。相反，它返回2.9999999999999996。这是因为Ruby中的浮点数并不像讨论的那样精确，例如。
浮点数对象使用本机架构的双精度浮点表示来表示不精确的实数。这不是红宝石错误，因为浮点数只能用固定的字节数表示，因此不能正确地存储十进制数。
浏览 1提问于2019-05-29得票数 2
3回答
Python不能正确处理小数字
python、numbers、decimal、pycharm
我正在处理非常小的数字，python似乎不喜欢它。下面是我的脚本：while x < 3: if x == 2.5: breakelse:当我在PyCharm中运行它时，我得到这样的输出(我已经缩短了它，这样您就不必滚动一大堆数字了)。它直接跳过数字2.5而不运行 print "X is now: ",
浏览 4提问于2016-04-11得票数 0
1回答
为什么对非整数值使用模值会降低浮点精度？
java、modulo、floating-point-precision
但它所显示的值略有不同，为什么我总是失去精度？我的意思是代码应该精确地减去1，直到值小于1为止。然而，我找到了一种获得正确值的方法：System.out.println(x);System.out.println((float)x); //outputs 0.0456 exactly
这条路很好，但你们有更好的解决方案吗？--我不在乎我应该使用哪种浮点类型，我只是想找到一种干净的方法来获得正确的值！，我不喜欢
浏览 1提问于2013-02-09得票数 1
3回答
C语言中的浮点算法
math、floating-point、fixed-point
我最近在思考浮点数学是如何在计算机上工作的，对我来说很难理解公式背后的所有技术细节。我需要了解加法、减法、乘法、除法和余数的基础知识。有了这些，我将能够制作三角函数和公式。我知道一个定点可以由一个信号标志，一个基数和一个尾数来分隔一个4字节的整数。有了这个，我们有了一个1位标志，一个5位基数和一个10位尾数。32位的字非常适合浮点值:)
要在两个浮点数</
浏览 0提问于2010-07-08得票数 4
回答已采纳
2回答
减去double得到错误的结果
c++、double、subtraction
我正在尝试从双精度数中获取小数部分，这是我的代码来获取小数部分0.12340000000040163
但是在减法之后
浏览 2提问于2012-10-03得票数 3
回答已采纳
1回答
整数和浮点数的最佳文字表示
floating-point、integer、double、literals
据我所知，当整数以2的幂的基数写入时，计算机可以更快地读取它们，这就是为什么库宏总是以十六进制的形式写入它们。有没有类似的方法来写入浮点数或双精度数，以便计算机可以更快地读取它们？
浏览 14提问于2020-10-28得票数 0
回答已采纳
4回答
为什么对于看起来相同的计算，c++给了我不同的答案？
c++、floating-point
我在一个简单的main中有以下源代码：{ double y = atofres = x + std::floor((y - x) * .5 * 100 + .5)*0.01;
}
如果我用75.21和75.22运行上面的代码，得到的结果是75.22，但是如果我用7.21和7.22运行，结果是7.2
浏览 1提问于2013-01-19得票数 0
回答已采纳
2回答
根据C++ (Xcode IDE)声明方式的不同，浮点常量的值也会有所不同
c++、xcode、floating-point、constants
我正在做C++ Primer Plus，使用Xcode作为我的集成开发环境，其中一个练习要求将值0.0254赋给一个符号常量(将英寸转换为米)。问题是，当我声明常量时，我得到的值是0.0253999997。我声明这个常量，如下所示。
浏览 0提问于2011-12-03得票数 0
回答已采纳
5回答
浮点数相等性检查
c、floating-point
int main(void){ x=(float)3.5==3.5; return 0;输出为1.0000
为什么会有产出上的差异
浏览 1提问于2013-08-09得票数 4
2回答
Javascript浮点数比较
javascript、floating-point、numbers、comparison
我对javascript中的数字比较有一个很大的问题。
脚本指责比较"7 < 10“是假的。
浏览 1提问于2014-02-11得票数 33
回答已采纳
3回答
Linux x86-64汇编中的Log base b x
assembly
我正在尝试在Assembly中编写一个对数函数，它有两个参数:基数(32位整数)和值x(64位浮点数)。
我现在要做的就是通过使用对数的属性来使用FYL2X和FDIVP。由于log (基数a) b= (log (基数10) b/ log (基数10) a)，那么我相信我可以实现一个对数函数。既然我不能使用XMM，我应该如何在FPU的寄存器中设置它？
浏览 1提问于2013-04-25得票数 1
1回答
基数10的浮点数可以转换成等价的基数2吗？
floating-point、floating-point-precision、floating-point-conversion
给定一个以10为基数的浮点数，例如.583*10^3，是否可以通过将分数(.583)和指数(3)分别转换为以2为基数的形式，将该数字转换为等价的以2为基数的x*2^y形式？非常感谢你的帮助！
浏览 8提问于2014-09-16得票数 0
2回答
当大小相同时，float和integer数据类型之间有什么区别？
java、floating-point、integer
当大小相同时，float和integer数据类型有什么区别？
浏览 1提问于2011-01-27得票数 47
云服务器
对象存储
ICP备案
云点播
腾讯会议
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号