我正在用双精度3D物体做一个加速结构(BVH)。为了提高内存效率，我希望BVH在浮动精度。但我需要以下功能：
谢谢
浏览 5提问于2013-12-10得票数 1
回答已采纳
1回答
是否有任何方法可以在SQL中存储十进制值，而不需要额外的尾随零(如浮点数据类型格式)。2.500000001.853333102.51.8533331
是否有可能以最高精度以上述预期格式存储值？
浏览 0提问于2020-12-17得票数 1
我需要以尽可能高的精度进行计算，不管传递的参数是整数、浮点数还是任何数字。我如何以最高的可用精度进行所有计算，然后以最高的可用精度存储结果(即IMO numpy.float64)？
浏览 3提问于2013-06-03得票数 1
回答已采纳
1回答
我需要保存具有最高14位精度的十进制值( decimal (20,14))。但是，如果插入的值的精度较低，则丢失的数字是随机完成的，而不仅仅是添加零。我尝试使用数据类型浮点数代替十进制，但保存的值不能达到14精度小数。有什么帮助吗？
浏览 4提问于2022-02-03得票数 -2
在JavaScript控制台中：parseInt("fffffffffffff3",16)所有这些都有相同的结果，即72057594037927920。
浏览 3提问于2015-08-07得票数 0
回答已采纳
2回答
我的值在0到1之间存储为浮点数。我知道，可分辨浮子之间的差值越小，浮点数越接近于0。因此，我认为精度在我的情况下是很高的(因为最高可能的浮点数是1..)。
浏览 3提问于2016-10-21得票数 2
回答已采纳
1回答
据我所知，realmax(' single ')是单个圆环切割中表示的最高浮点数，也就是32位。这意味着二进制表示由符号1位、尾数23位和指数8位组成。3.4028e+38是最高单精度浮点数的十进制表示，但我不知道这个数字是如何推导出来的。
现在，输入2^128给出了与3.4028e+38相同的答案，但我不明白其中的相关性。能否帮助我理解为什么从二进制表示的角度来看，3.4028e+38是32位格式的浮点数的最大返回结果？谢谢。
浏览 1提问于2016-02-07得票数 0
回答已采纳
大多数列的值从0到10,000.00不等，但是一个特定列的值总是在[0,1]范围内，并且精度可达小数点10位，例如。0.1582639672.通常，我会使用来自sklearn.preprocessing的sklearn.preprocessing类将数据集的所有值规范化为[0,1]范围，但是，当将规范化应用于这一特定列时，可能会导致精度损失用10位精度对浮点数进行归一化会不会产生一个“进一步规范化”的值，超过所能表示的最高数字精度，从而导致数据丢失？
浏览 2提问于2021-02-20得票数 0
回答已采纳
2回答
我的教授希望我们找到一个单精度和双精度的数字，这样当你将它们中的任何一个加1时，数字都不会改变。为什么这是有意义的，我如何才能找到这些数字？
谢谢!
浏览 1提问于2012-04-17得票数 2
回答已采纳
2回答
乍一看，我的问题可能有点奇怪；但将双精度值转换为浮点值并不是我想要的。因为当您强制转换它时，您只是失去了与IEEE-754定义的规则相关的一些精度，并且不能实现双精度值到浮点数范围的实际映射；它是无用的。
浏览 0提问于2013-03-15得票数 0
我希望能够加载的数字，最大字符长度为19，但最高精度为17 (所以可以有17位后十进制)。我试过使用浮点数(19，17)和小数(19，17)，但是当我尝试加载一个数字(如02.11111111112222222 )时，它将不会捕获完整的数字。提前感谢
浏览 0提问于2018-02-01得票数 0
回答已采纳
这些函数接受一个浮点数，并返回它下面或上面的最接近的整数。但是，这些函数以浮点数的形式返回结果。例如：f=math.floor(2.3)2.0
从这个浮点数中获取整数的最安全方法是什么，而不会有舍入错误的风险(例如，如果浮点数等于1.99999)，或者我应该完全使用另一个函数
浏览 83提问于2010-08-02得票数 254
回答已采纳
在MySQL数据库中，以下字段fee和rate(百分比)为DECIMAL类型，小数精度为2。SELECT ROUND(fee * (1- rate/100))),2 ) as profit既然query只是返回值，而不是将它们保存在变量中，那么精度问题*是否仍然存在( PHP或JS附带的)？如果是这样，最好在PHP或JS中对浮点数进行舍入？
*是的，我指的是保存双精度时出现的精度问题，例如1.5可能会保存为1.49999999
浏览 3提问于2015-07-28得票数 5
4回答
我知道double存在一些精度问题，它可以在转换到integer时截断值。
在我的例子中，我分配一个690000000000123455，它在赋值期间被更改为690000000000123392。
浏览 6提问于2016-08-26得票数 0
.现在，我如何将浮点数转换为自然数，这样我就不会丢失信息/熵。目前我只是这样做：然而，我有一种直觉，它并不完美。
浏览 0提问于2010-11-14得票数 1
回答已采纳
我希望将字符串字段从CSV输入文件转换为特定的数据类型，即布尔型、小数型、数字型和整型。以下是其中一种转换的示例：如何进行转换？String -> DecimalString -> number谢谢
浏览 16提问于2017-01-11得票数 1
回答已采纳
1回答
询问JavaScript中最高的数字，而不丢失精度。在这里，我询问JavaScript中可表示的最高数字。在JavaScript中可表示的最高数字似乎介于2^1023和2^1024之间。Math.pow(2, 1023); highest += Math.pow(2, someNumber);这里的最高数字似乎是当在JavaScript中可表示的最高数字是什么？JavaScript是存储这个
浏览 5提问于2015-05-16得票数 0
回答已采纳
}我想知道在不失去精度的情况下浮点数的最大值是多少。我知道这似乎是一个很容易找到答案的问题，但我找不到答案。
浏览 5提问于2020-03-13得票数 2
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
