腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
浮点
精度
js
问题
、
我在我的
JS
中遇到了下面的错误。而不是返回1001,而是返回1000.99999999。我正试图根除这个bug,并且一直在考虑使用这个库。
浏览 2
提问于2017-09-26
得票数 1
回答已采纳
1
回答
货币的
浮点
精度
:在MySQL查询中使用"round“函数与PHP
、
、
、
在MySQL数据库中,以下字段fee和rate(百分比)为DECIMAL类型,小数
精度
为2。SELECT ROUND(fee * (1- rate/100))),2 ) as profit既然query只是返回值,而不是将它们保存在变量中,那么
精度
问题*是否仍然存在( PHP或
JS
附带的)?如果是这样,最好在PHP或
JS
中对
浮点
数进行舍入? *是的,我指的是保存双
精度
时出现的
精度
问题,例如1.5可能会保存为1.49999999
浏览 3
提问于2015-07-28
得票数 5
10
回答
单
精度
浮点
运算和双
精度
浮点
运算有什么区别?
、
、
、
单
精度
浮点
运算和双
精度
浮点
运算有什么区别? 我特别感兴趣的是与视频游戏机相关的实用术语。例如,任天堂64是否有64位处理器,如果有,这是否意味着它能够进行双
精度
浮点
运算?PS3和Xbox360可以实现双
精度
浮点
运算,还是只能实现单
精度
浮点
运算,并且通常使用双
精度
功能(如果它们存在的话?)。
浏览 3
提问于2009-04-29
得票数 186
回答已采纳
1
回答
有没有办法只使用整数来计算Mandelbrot集?
我想在JavaScript (
JS
)中创建程序,它可以任意精确地绘制曼德尔布罗特集 (缩放)。在
JS
中有一个整数类型的BigInt,它支持像+,*,/这样的简单操作,支持任意精确整数的幂。
JS
不支持对任意
精度
浮点
数的计算。 问:是否有一种方法来执行Mandelbrot集的计算,只使用基于整数的计算(任意
精度
)--如果是,如何做?
浏览 0
提问于2019-11-29
得票数 3
回答已采纳
4
回答
在C++中,长
浮点
数和双
精度
浮点
数有什么区别?
、
、
所以我知道在
浮点
数和双
精度
数的
精度
上有很大的不同。我明白了。我保证。 但是,在C++中,当调用scanf和printf时,用于指定双
精度
值的符号是"%lf",这代表长
浮点
数,对吧?因此,虽然
浮点
型比双
精度
型
精度
低,但长
浮点
型(假设称为长
浮点
型,因为它可以有更多的术语而“更长”)的
精度
是相同的,因此本质上是相同的。
浏览 24
提问于2013-06-01
得票数 6
回答已采纳
4
回答
将数字从单
精度
浮点
表示转换为半
精度
浮点
我有一个代码,在这里我必须处理半精确
浮点
表示数字。为此,我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16,这些运算符重载了自定义函数,同时使用了一个带有半
精度
浮点
数的单
精度
浮点
数字。半
精度
浮点
=1位,5指数位,10位= 16位因此,我如何从一个精确
浮点
数转换为一个半
精度
浮点
数:- 对于有意义和比特-我使用
浏览 0
提问于2011-09-15
得票数 4
1
回答
Postgres和Javascript要求支持15位以上的数字,包括小数
、
我需要在PostgreSQL数据库中存储12个数字和6个小数的值。根据PostgreSQL的说法,它提供了数字数据类型。我用numeric(18,6)创建了一个字段,但是当我输入值时,它只接受总共15位的值。在JavaScript中,当我试图解析包含6个小数的18位字符串时,它只返回17位、12个数字和5个小数。var number = "123456789123.123456"它只
浏览 1
提问于2017-09-07
得票数 0
1
回答
将数字从单
精度
浮点
表示转换为半
精度
浮点
、
我有一个代码,在这里我必须处理半精确
浮点
表示数字。为此,我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16,这些运算符重载了自定义函数,同时使用了一个带有半
精度
浮点
数的单
精度
浮点
数字。半
精度
浮点
=1位,5指数位,10位= 16位因此,我如何从一个精确
浮点
数转换为一个半
精度
浮点
数:- 对于有意义和比特-我使用
浏览 0
提问于2011-09-15
得票数 0
1
回答
将数字从单
精度
浮点
表示转换为半
精度
浮点
、
为此,我创建了自己的C++类fp16,其中包含与此类型相关的所有运算符(算术逻辑运算符、关系运算符),同时使用带有半
精度
浮点
数的数字。半
精度
浮点
=1个符号位、5个指数位、10个有效位数= 16位因此,我要做的是将单
精度
浮点
数转换为半
精度
浮点
数: 对于有效位数-我使用截断,即从32位中松散13位,以获得10位有效数的半
精度
浮点<
浏览 10
提问于2011-09-15
得票数 3
回答已采纳
6
回答
JS
中float的读写字节数
、
、
、
、
有没有办法在
JS
中读取
浮点
值的字节?我需要做的是将一个原始的
浮点
数或双
精度
值写成我需要的二进制格式,那么有没有办法得到一个逐字节的IEEE754表示呢?当然,写作也有同样的问题。
浏览 5
提问于2010-12-11
得票数 23
回答已采纳
2
回答
C和C++中双
浮点
值的表示法
、
、
、
、
在C/C++中双
精度
浮点
值的表示法是什么?我很确定2.0f被解析为
浮点
型,而2.0被解析为双
精度
型,但是.5呢?
浏览 0
提问于2012-11-08
得票数 1
3
回答
如何防止Google Cloud函数在减数时产生较小的偏移量?
、
、
我有一些非常奇怪的行为,在Google Firestore中使用Google Cloud函数来减去数字。exports.testCounter = functions.https.onCall((data, context) => { count: admin.firestore.FieldValue.increment(-0.0005)});firebas
浏览 44
提问于2020-03-13
得票数 0
回答已采纳
1
回答
基于Intel芯片的半
精度
浮点
算法
、
、
、
、
是否有可能在英特尔芯片上执行半
精度
浮点
算法? 我知道如何加载/存储/转换半
精度
浮点
数1,但我不知道如何在不转换为单
精度
浮点
数的情况下添加/乘它们。
浏览 0
提问于2018-04-24
得票数 16
回答已采纳
2
回答
为什么一些SSE "mov“指令指定它们移动
浮点
值?
、
、
许多SSE "mov“指令指定它们正在移动
浮点
值。例如: 为什么这些指令不简单地说明它们移动32位或64位值?如果它们只是在移动比特,为什么指令指定它们用于
浮点
值?不管你是否将这些位元解释为
浮点
,它们肯定会起作用吗?
浏览 3
提问于2013-04-30
得票数 18
回答已采纳
2
回答
Java中的类型转换
浮点
、
、
A.)当在Java中将
浮点
数转换为双
精度
时,会发生
精度
损失吗? B.)如果我将
浮点
数输入到
浮点
数中,那么会导致
精度
损失吗?还是Java仅仅智能地忽略/跳过这类类型的类型呢?
浏览 0
提问于2014-05-01
得票数 0
回答已采纳
1
回答
从给定的符号、尾数和指数构造
浮点
数(双
精度
)的宏或函数?
、
、
、
是否有宏或函数可以从给定的符号、尾数和指数(都是二进制或十进制)构造
浮点
(双
精度
),如果输入指定的数字不能表示为
浮点
数(双
精度
),则返回有效的
浮点
数(双
精度
)或返回NaN?
浏览 2
提问于2012-03-10
得票数 9
回答已采纳
1
回答
在toString()中使用∞而不是"infinity“
、
、
、
、
如何让Java在打印/toString
浮点
值(
浮点
型、双
精度
、
浮点
型、双
精度
)时使用∞符号而不是字符串"infinity“?
浏览 1
提问于2013-03-19
得票数 3
回答已采纳
2
回答
任何软件可以将
浮点
转换成任意
精度
的FPU?[或Matlab解]
、
、
我想把很多
浮点
数转换成像‘0x4049000000’这样的多
精度
FPU,执行计算,更改
精度
,然后再执行计算等等.我知道这个理论是,但我想要一个软件、在线工具或Matlab解决方案,在0.0 ~ 51.0的范围内将6000+数字转换成FPU格式(如IEEE
精度
)。编辑:它也称为基独立
浮点
,如和所描述的。 2编辑:和就是例子。输入任何
浮点
数,例如3.1454,就会得到二进制/十六
浏览 0
提问于2015-04-02
得票数 0
3
回答
在JavaScript中,整数是如何在存储布局中表示的?
、
JavaScript为所有数字文本提供64位
浮点
数,存储布局和范围由规范。ITEE 754解释了
浮点
数的行为,但我对
JS
中的整数感到困惑。64位数据格式产生的
精度
范围如何? 求解了,该值被存储在分数位置。
浏览 9
提问于2011-10-06
得票数 2
回答已采纳
10
回答
在不损失
精度
的情况下将
浮点
数转换为字符串
、
、
我想在不丢失或添加任何单
精度
数字的情况下将
浮点
值存储到字符串中。 例如,如果我的
浮点
值是23.345466467,我希望我的字符串具有str = "23.345466467“的精确数字。它只给出了前6个
精度
。或者,如果我使用%10,如果我的
浮点
值的
精度
小于10,它会添加更多的垃圾
精度
。我想在我的字符串中获得精确的
浮点
值。该怎么做呢?
浏览 2
提问于2010-12-16
得票数 14
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
【一问一答】Excel中因浮点运算导致的运算精度误差
Unity技术分享67-资源泄露、ETC压缩、动画文件浮点数精度
整数与浮点数
比浮点更骚的套装
热门
标签
更多标签
云服务器
ICP备案
对象存储
云直播
腾讯会议
活动推荐
运营活动
广告
关闭
领券