当使用lua处理浮点数时，我发现lua可以处理非常有限的精度，例如：产出：结果将是少了几位小数点，这将导致计算偏差。我该如何处理这种缺乏精确性的问题呢？
浏览 13提问于2021-11-03得票数 0
回答已采纳
1回答
我的程序中有以下部分： #include <stdio.h>#include <math.h>
{ check = (pow(a,2) + pow(b,2) + pow(c,2));
{ printf("do som
浏览 11提问于2020-06-18得票数 0
回答已采纳
7回答
例如，Google的API返回如下结果："lng": -122.0841430也许一个更好的问题实际上是一个非编程问题，但它会是:每个小数点给你多精确多少？
有这么简单吗？
浏览 55提问于2011-08-24得票数 116
回答已采纳
1回答
我的数字非常精确，但是客户只需要知道数字的前几位数字。
舍入数字会减少我发送的数据的大小(用Socket.io)吗？
浏览 8提问于2013-07-31得票数 2
回答已采纳
1回答
1.1754943508222875079687365372222456778186655567720875215087517062784172594547271728515625000000000000e-38 但是，如果我尝试打印类似这样的内容(我更改了尾数的最后几位1.1754943508222875079687365372222456778186655567720875215087517062784172594547271728515625000000000000e-38 这是因为我输入的值没有精确的表示
浏览 20提问于2021-05-10得票数 0
当我尝试在答案中添加1时，python会在答案中添加10^-16，并尝试了不同的打印方式，但我认为这不会有帮助。有什么答案吗？print(1 + x)print(1.0 + 0.8475)print(y)1.84750000000000011.8475000000000001
浏览 0提问于2019-01-03得票数 2
1回答
这些点精确到小数点后几位。图可能有助于更好地理解。
我尝试将每个图形转换为多边形，并使用shapely cascaded_union，然后裁剪底部。它适用于少量的图形，但当图形的数量变大时。
浏览 3提问于2018-01-08得票数 0
回答已采纳
它不需要成为IEEE标准，只需要精确到小数点的几位。
浮点数比固定点更可取，因为我不想预先确定值的范围。
浏览 3提问于2015-02-24得票数 3
回答已采纳
我有一个简单的应用程序，只是实现加速度计的东西和NSLogs的结果到控制台。2011-03-11 00:35:38.737 Accel[1070:307] x: -0.03622442011-03-11 00:35:38.747 Accel[1070:307] z: -1.03239
2011-03-11 00:35:38.750 Accel[1070:307] ********
浏览 1提问于2011-03-11得票数 1
回答已采纳
1回答
据我所知，蛮力攻击是以键数来衡量的，按计算机的速度依次给出所需的时间。是否有任何工具可用于实际评估计算机的有效性，以便在密钥空间中尝试所有数量的密钥，以强制攻击分组密码。key length: 32 Time: 10 ^ 12 keys/sec = 4 ms
理论上，我们可以用所有这些假设进行计算。但是，是否有任何方法/工具/应用程序来测量计算机的速度以及它每秒可以尝试多少键而不尝试键空
浏览 0提问于2020-04-19得票数 0
3回答
发送的数字永远不会是真正大的数字(例如，"179769313486232e+308")，但与上面的示例一样，它们具有很高的精确度。我很乐意去掉前几位小数点后的所有东西，并以类似于"1.798“的形式结束，但是下面的代码对我不起作用：=> "
浏览 0提问于2010-08-12得票数 1
4回答
我有这个代码来计算输入的位数function telephone(e) { var key; key = window.event.keyCode; else if (e) { } return true;
}
浏览 3提问于2010-07-18得票数 1
回答已采纳
唯一的问题是，unsigned long总是比我应该接收的值大几位或低几位。但是，在我将double输入到unsigned long中之后，我将其转换为十六进制string并填充它。我能想到的唯一可能导致这种值差异的假设是与将double类型转换为unsigned long有关，并且在转换值的过程中，与double的精确性有关的东西正在搞砸。
浏览 1提问于2013-08-19得票数 0
我有一个表，其中的一列包含一个数字字符串，我只想返回最后几位数字。例如：_________________我需要一个select，它将返回第二列的最后几位数字。
浏览 0提问于2014-01-09得票数 0
目前，Ledger Nano S只显示了前几位和最后几位数字，中间的数字被截断。为什么它要截断地址的中间部分？我们如何显示整个地址？
浏览 0提问于2017-12-19得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
