腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
货币的浮点
精度
:在MySQL查询中使用"round“函数与PHP
、
、
、
在MySQL数据库中,以下字段fee和rate(百分比)为DECIMAL类型,小数
精度
为2。SELECT ROUND(fee * (1- rate/100))),2 ) as profit既然query只是返回值,而不是将它们保存在变量中,那么
精度
问题*是否仍然存在( PHP或
JS
附带的)?如果是这样,最好在PHP或
JS
中对
浮点数
进行舍入? *是的,我指的是保存双
精度
时出现的
精度
问题,例如1.5可能会保存为1.49999999
浏览 3
提问于2015-07-28
得票数 5
1
回答
有没有办法只使用整数来计算Mandelbrot集?
我想在JavaScript (
JS
)中创建程序,它可以任意精确地绘制曼德尔布罗特集 (缩放)。在
JS
中有一个整数类型的BigInt,它支持像+,*,/这样的简单操作,支持任意精确整数的幂。
JS
不支持对任意
精度
浮点数
的计算。 问:是否有一种方法来执行Mandelbrot集的计算,只使用基于整数的计算(任意
精度
)--如果是,如何做?
浏览 0
提问于2019-11-29
得票数 3
回答已采纳
2
回答
Java中的类型转换浮点
、
、
A.)当在Java中将
浮点数
转换为双
精度
时,会发生
精度
损失吗? B.)如果我将
浮点数
输入到
浮点数
中,那么会导致
精度
损失吗?还是Java仅仅智能地忽略/跳过这类类型的类型呢?
浏览 0
提问于2014-05-01
得票数 0
回答已采纳
1
回答
将数字从单
精度
浮点表示转换为半
精度
浮点
、
为此,我创建了自己的C++类fp16,其中包含与此类型相关的所有运算符(算术逻辑运算符、关系运算符),同时使用带有半
精度
浮点数
的数字。半
精度
浮点=1个符号位、5个指数位、10个有效位数= 16位因此,我要做的是将单
精度
浮点数
转换为半
精度
浮点数
: 对于有效位数-我使用截断,即从32位中松散13位,以获得10位有效数的半
精度
浮点数
。
浏览 10
提问于2011-09-15
得票数 3
回答已采纳
3
回答
如何防止Google Cloud函数在减数时产生较小的偏移量?
、
、
我有一些非常奇怪的行为,在Google Firestore中使用Google Cloud函数来减去数字。exports.testCounter = functions.https.onCall((data, context) => { count: admin.firestore.FieldValue.increment(-0.0005)});firebas
浏览 44
提问于2020-03-13
得票数 0
回答已采纳
4
回答
将数字从单
精度
浮点表示转换为半
精度
浮点
为此,我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16,这些运算符重载了自定义函数,同时使用了一个带有半
精度
浮点数
的单
精度
浮点数
字。半
精度
浮点=1位,5指数位,10位= 16位因此,我如何从一个精确
浮点数
转换为一个半
精度
浮点数
:- 对于有意义和比特-我使用截断,即从32位松散的13位得到10位意义和半
精度
浮点数
。
浏览 0
提问于2011-09-15
得票数 4
3
回答
C# -有32位
浮点数
学库吗?
、
、
所有的directX都使用
浮点数
,但是System.Math使用双
精度
数。这意味着不断地在
浮点数
和双
精度
数之间转换。因此,理想情况下,我希望所有的代码都使用
浮点数
,因为我不会得到任何额外的
精度
转换为
浮点数
从双
精度
始终… 然而,我一直无法为.net找到一组使用
浮点数
的数学函数。
浏览 2
提问于2008-10-13
得票数 5
3
回答
在JavaScript中,整数是如何在存储布局中表示的?
、
JavaScript为所有数字文本提供64位
浮点数
,存储布局和范围由规范。ITEE 754解释了
浮点数
的行为,但我对
JS
中的整数感到困惑。64位数据格式产生的
精度
范围如何? 求解了,该值被存储在分数位置。
浏览 9
提问于2011-10-06
得票数 2
回答已采纳
1
回答
将数字从单
精度
浮点表示转换为半
精度
浮点
、
为此,我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16,这些运算符重载了自定义函数,同时使用了一个带有半
精度
浮点数
的单
精度
浮点数
字。半
精度
浮点=1位,5指数位,10位= 16位因此,我如何从一个精确
浮点数
转换为一个半
精度
浮点数
:- 对于有意义和比特-我使用截断,即从32位松散的13位得到10位意义和半
精度
浮点数
。
浏览 0
提问于2011-09-15
得票数 0
1
回答
Node Buffer.readFloatBE()将数据扩展到64位
、
、
、
、
当使用32位
浮点数
将数据转换到缓冲区或从缓冲区转换数据时,nodejs似乎使用一些使转换不可逆的条件将
浮点数
扩展为双
精度
:3.81357913e+32 4 <Buffer 75 96 6b 4f> 因此,原始值(3.81357913e+32)现在似乎表示为0x75966b4f (Big endian IEEE-754,单
精度
看起来readFloatBE()产生了一个64位的双
浏览 3
提问于2019-11-26
得票数 1
1
回答
const在编译时是双重转换的吗?
、
、
将数学常量定义为双
精度
值是有意义的,但是当需要浮点值而不是双
精度
值时会发生什么呢?编译器是否在编译时自动将双
精度
浮点数
解释为
浮点数
(因此它们实际上被视为常量
浮点数
),或者此转换是在运行时进行的?
浏览 2
提问于2012-02-02
得票数 1
回答已采纳
1
回答
基于Intel芯片的半
精度
浮点算法
、
、
、
、
是否有可能在英特尔芯片上执行半
精度
浮点算法? 我知道如何加载/存储/转换半
精度
浮点数
1,但我不知道如何在不转换为单
精度
浮点数
的情况下添加/乘它们。
浏览 0
提问于2018-04-24
得票数 16
回答已采纳
1
回答
从给定的符号、尾数和指数构造
浮点数
(双
精度
)的宏或函数?
、
、
、
是否有宏或函数可以从给定的符号、尾数和指数(都是二进制或十进制)构造浮点(双
精度
),如果输入指定的数字不能表示为
浮点数
(双
精度
),则返回有效的
浮点数
(双
精度
)或返回NaN?
浏览 2
提问于2012-03-10
得票数 9
回答已采纳
2
回答
任何软件可以将浮点转换成任意
精度
的FPU?[或Matlab解]
、
、
我想把很多
浮点数
转换成像‘0x4049000000’这样的多
精度
FPU,执行计算,更改
精度
,然后再执行计算等等.我知道这个理论是,但我想要一个软件、在线工具或Matlab解决方案,在0.0 ~ 51.0的范围内将6000+数字转换成FPU格式(如IEEE
精度
)。编辑:它也称为基独立浮点,如和所描述的。 2编辑:和就是例子。输入任何
浮点数
,例如3.1454,就会得到二进制/十六进制中的IEEE
浏览 0
提问于2015-04-02
得票数 0
1
回答
在GHC/Haskell中可以使用扩展
精度
(80位)浮点算法吗?
、
、
、
、
标准的Haskell's 使用 data Double双
精度
浮点数
.希望这种类型在范围和
精度
上至少与IEEE双
精度
类型相同。GHC/Haskell是否也提供了 (80位)
浮点数
,也许使用了一些外部库?
浏览 4
提问于2013-05-28
得票数 15
2
回答
通过套接字跨网络传输浮点
、
、
、
、
这些浮标的
精度
为点后的四位数。最近,我们开始使用char数组来表示数据结构/协议中的
浮点数
,或者使用 int 来表示
浮点数
(
浮点数
乘以时间10000,然后在接收端除以10000 )。有人告诉我,如果直接在数据结构/协议中使用
浮点数
,就很难保持
精度
。发送方很难准确地将
浮点数
放入套接字中,而接收方很难接收/转换回确切的浮动号。 这给出了6到9个有效十进
浏览 1
提问于2013-05-21
得票数 1
2
回答
Javascript中的单
精度
浮点模拟(float32)
、
、
有没有可能在Javascript中以某种方式模拟单
精度
浮点?根据Doug Crockford的博客“数字是64位
浮点数
”,但我不得不使用单个
浮点数
来移植C++算法,它计算单
精度
浮点数
的误差。
浏览 11
提问于2010-10-31
得票数 9
回答已采纳
2
回答
128位的“长
浮点数
”有用吗?
、
、
、
前几天我意识到大多数常见的lisp都有128位的“长
浮点数
”。因此,最正的长
浮点数
是:而最积极的双
精度
浮点数
是1.7976931348623157 * 10^308,它已经相当大了。在某些情况下,64位双
精度
浮点数
的
精度
是否不够?我很乐意听到用例。
浏览 0
提问于2011-07-25
得票数 7
回答已采纳
1
回答
在Swift中,有没有合适的方法将双
精度
型转换为浮点型?
、
我正在尝试将从iPhone传感器检索到的双
精度
值转换为
浮点数
。不幸的是,我似乎找不到任何关于内置功能的资源来做到这一点。如果我将一个
浮点数
或一个类型转换从一个双
精度
数初始化为一个
浮点数
,如下所示:原始的双
精度
值仍然不能正确转换。例如,9.436222和27.895268分别变为0.486864和0.164693。有没有一种合适的方法来从双
精度
数转换为
浮点数
,从而保留较大的小数值
浏览 0
提问于2016-06-02
得票数 14
回答已采纳
4
回答
将非常小的双
精度
数转换为SQL
浮点数
时出现问题
、
、
、
、
我正尝试在MS SQL2005中将C#双
精度
值存储为
浮点数
。但是,似乎有一系列小数字是有效的双
精度
数,但不是有效的
浮点数
。这与SQL
浮点数
的文档一致,
浮点数
的最小值为2.23e-308 。最小值为5.0e-324 的C# doubles文档 所以我的问题是,处理这个问题的最好方法是什么-我可以将双
精度
型转换为有效的SQL
浮点数
吗?
浏览 0
提问于2009-04-23
得票数 2
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
Unity技术分享67-资源泄露、ETC压缩、动画文件浮点数精度
整数与浮点数
字符串、整数、浮点数
如何使用整数和浮点数
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
活动推荐
运营活动
广告
关闭
领券