1回答
我在我的JS中遇到了下面的错误。而不是返回1001，而是返回1000.99999999。我正试图根除这个bug，并且一直在考虑使用这个库。
浏览 2提问于2017-09-26得票数 1
回答已采纳
在MySQL数据库中，以下字段fee和rate(百分比)为DECIMAL类型，小数精度为2。SELECT ROUND(fee * (1- rate/100))),2 ) as profit既然query只是返回值，而不是将它们保存在变量中，那么精度问题*是否仍然存在( PHP或JS附带的)？如果是这样，最好在PHP或JS中对浮点数进行舍入？
*是的，我指的是保存双精度时出现的精度问题，例如1.5可能会保存为1.49999999
浏览 3提问于2015-07-28得票数 5
10回答
单精度浮点运算和双精度浮点运算有什么区别？
我特别感兴趣的是与视频游戏机相关的实用术语。例如，任天堂64是否有64位处理器，如果有，这是否意味着它能够进行双精度浮点运算？PS3和Xbox360可以实现双精度浮点运算，还是只能实现单精度浮点运算，并且通常使用双精度功能(如果它们存在的话？)。
浏览 3提问于2009-04-29得票数 186
回答已采纳
我想在JavaScript (JS)中创建程序，它可以任意精确地绘制曼德尔布罗特集 (缩放)。在JS中有一个整数类型的BigInt，它支持像+，*，/这样的简单操作，支持任意精确整数的幂。JS不支持对任意精度浮点数的计算。
问:是否有一种方法来执行Mandelbrot集的计算，只使用基于整数的计算(任意精度)--如果是，如何做？
浏览 0提问于2019-11-29得票数 3
回答已采纳
所以我知道在浮点数和双精度数的精度上有很大的不同。我明白了。我保证。
但是，在C++中，当调用scanf和printf时，用于指定双精度值的符号是"%lf"，这代表长浮点数，对吧？因此，虽然浮点型比双精度型精度低，但长浮点型(假设称为长浮点型，因为它可以有更多的术语而“更长”)的精度是相同的，因此本质上是相同的。
浏览 24提问于2013-06-01得票数 6
回答已采纳
我有一个代码，在这里我必须处理半精确浮点表示数字。为此，我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16，这些运算符重载了自定义函数，同时使用了一个带有半精度浮点数的单精度浮点数字。半精度浮点=1位，5指数位，10位= 16位因此，我如何从一个精确浮点数转换为一个半精度浮点数：-
对于有意义和比特-我使用
浏览 0提问于2011-09-15得票数 4
我需要在PostgreSQL数据库中存储12个数字和6个小数的值。根据PostgreSQL的说法，它提供了数字数据类型。我用numeric(18,6)创建了一个字段，但是当我输入值时，它只接受总共15位的值。在JavaScript中，当我试图解析包含6个小数的18位字符串时，它只返回17位、12个数字和5个小数。var number = "123456789123.123456"它只
浏览 1提问于2017-09-07得票数 0
我有一个代码，在这里我必须处理半精确浮点表示数字。为此，我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16，这些运算符重载了自定义函数，同时使用了一个带有半精度浮点数的单精度浮点数字。半精度浮点=1位，5指数位，10位= 16位因此，我如何从一个精确浮点数转换为一个半精度浮点数：-
对于有意义和比特-我使用
浏览 0提问于2011-09-15得票数 0
为此，我创建了自己的C++类fp16，其中包含与此类型相关的所有运算符(算术逻辑运算符、关系运算符)，同时使用带有半精度浮点数的数字。半精度浮点=1个符号位、5个指数位、10个有效位数= 16位因此，我要做的是将单精度浮点数转换为半精度浮点数：
对于有效位数-我使用截断，即从32位中松散13位，以获得10位有效数的半精度浮点<
浏览 10提问于2011-09-15得票数 3
回答已采纳
6回答
JS中float的读写字节数
、、、、
有没有办法在JS中读取浮点值的字节？我需要做的是将一个原始的浮点数或双精度值写成我需要的二进制格式，那么有没有办法得到一个逐字节的IEEE754表示呢？当然，写作也有同样的问题。
浏览 5提问于2010-12-11得票数 23
回答已采纳
我有一些非常奇怪的行为，在Google Firestore中使用Google Cloud函数来减去数字。exports.testCounter = functions.https.onCall((data, context) => { count: admin.firestore.FieldValue.increment(-0.0005)});firebas
浏览 44提问于2020-03-13得票数 0
回答已采纳
1回答
是否有可能在英特尔芯片上执行半精度浮点算法？
我知道如何加载/存储/转换半精度浮点数1，但我不知道如何在不转换为单精度浮点数的情况下添加/乘它们。
浏览 0提问于2018-04-24得票数 16
回答已采纳
许多SSE "mov“指令指定它们正在移动浮点值。例如：
为什么这些指令不简单地说明它们移动32位或64位值？如果它们只是在移动比特，为什么指令指定它们用于浮点值？不管你是否将这些位元解释为浮点，它们肯定会起作用吗？
浏览 3提问于2013-04-30得票数 18
回答已采纳
2回答
A.)当在Java中将浮点数转换为双精度时，会发生精度损失吗？
B.)如果我将浮点数输入到浮点数中，那么会导致精度损失吗?还是Java仅仅智能地忽略/跳过这类类型的类型呢？
浏览 0提问于2014-05-01得票数 0
回答已采纳
是否有宏或函数可以从给定的符号、尾数和指数(都是二进制或十进制)构造浮点(双精度)，如果输入指定的数字不能表示为浮点数(双精度)，则返回有效的浮点数(双精度)或返回NaN？
浏览 2提问于2012-03-10得票数 9
回答已采纳
1回答
如何让Java在打印/toString浮点值(浮点型、双精度、浮点型、双精度)时使用∞符号而不是字符串"infinity“？
浏览 1提问于2013-03-19得票数 3
回答已采纳
我想把很多浮点数转换成像‘0x4049000000’这样的多精度FPU，执行计算，更改精度，然后再执行计算等等.我知道这个理论是，但我想要一个软件、在线工具或Matlab解决方案，在0.0 ~ 51.0的范围内将6000+数字转换成FPU格式(如IEEE精度)。编辑：它也称为基独立浮点，如和所描述的。
2编辑：和就是例子。输入任何浮点数，例如3.1454，就会得到二进制/十六
浏览 0提问于2015-04-02得票数 0
JavaScript为所有数字文本提供64位浮点数，存储布局和范围由规范。ITEE 754解释了浮点数的行为，但我对JS中的整数感到困惑。64位数据格式产生的精度范围如何？
求解了，该值被存储在分数位置。
浏览 9提问于2011-10-06得票数 2
回答已采纳
10回答
我想在不丢失或添加任何单精度数字的情况下将浮点值存储到字符串中。
例如，如果我的浮点值是23.345466467，我希望我的字符串具有str = "23.345466467“的精确数字。它只给出了前6个精度。或者，如果我使用%10，如果我的浮点值的精度小于10，它会添加更多的垃圾精度。我想在我的字符串中获得精确的浮点值。该怎么做呢？
浏览 2提问于2010-12-16得票数 14
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
云直播
腾讯会议活动推荐
腾讯云开发者
