腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
3
回答
PHP:字符串自动转换为浮点数并给出负数
我有一个PHP代码,它将
计算
数量的余额,但它给我一个负值作为一个平衡量,如下图所示。我试着检查数量,如果是什么导致了问题,并试图var_dump的数量。
浏览 0
提问于2018-06-09
得票数 0
1
回答
有没有一种
计算
log_b(a)上限的有效方法?
、
、
、
我需要
精确
计算
其中a、和b都是整数。如果我简单地使用基本公式的典型变化与浮点数学函数,我最终由于
四舍五入
的误差。
浏览 9
提问于2022-06-14
得票数 1
1
回答
HTML5视频元数据读取与商业产品差异的原因是什么?
、
、
当使用Premiere Pro时,我的文件是2:45:23秒,4973帧,每秒29.97fps。我想说,这是由于一些标题帧存储了Premiere剥离出来的元数据,但我实际上对精度的损失感到好奇。
浏览 5
提问于2011-02-20
得票数 0
4
回答
在
mysql
中选择浮点数和小数
这笔金额将用于大量
计算
,如财务
计算
、报告等。 对于这类
计算
,我应该选择decimal还是float?
浏览 1
提问于2014-08-07
得票数 1
3
回答
以双精度表示的精度
我对java的
精确
度有问题。我得
计算
一下:a = 5.454E14c = 2.3 比分是-2.3。我该怎么解决它呢?我不想把分数
四舍五入
。
浏览 2
提问于2011-06-30
得票数 0
1
回答
使用GENERATEDSERIES连接DAX中的十进制
、
、
在Power中,我有两个表,一个生成表,一个从原始数据中生成一个带有
计算
列的表,每个表都有一个十进制列,格式为一个小数位。生成的表DAX:
计算
栏DAX: RoundedTime = MROUND('LIVE Network'[Time], 0.1我认为这是由于“稍微偏离”错误,其中列中包含的实际值并没有
精确
地
四舍五入
到小数点1位,实际上,如果从生成的表中删除格式,我可以看到大多数值实际上类似于5.9999999999而不是6.
浏览 0
提问于2019-04-03
得票数 0
回答已采纳
1
回答
如何利用java的ResultSet
精确
获取
mysql
的浮点数
、
、
、
在Java语言中,我使用ResultSet,有没有可能获得
mysql
的float的
精确
值?在我的
mysql
数据库中,我有一些float的值非常长(例如,123456789,超过7位),我知道如果我使用select round(float_value_column,0)我可以得到
精确
的值。但是如果我使用java的ResultSet.GetFloat,我只能得到
四舍五入
的值(123457000,就像在
mysql
中我写的select float_value_column一样)。
浏览 1
提问于2015-07-30
得票数 2
回答已采纳
1
回答
JavaScript的乘法误差
50000 + (50000 * 0.1)
计算
正确。在用
计算
机表示数字时,存在一些限制。当将一个十进制数转换为一个二进制现象时,即无限小数是generated.When,表示无限个数字为有限个数,则会出现超出或丢失的值,从而导致
计算
错误。例如,在
计算
很重要的地方,例如在银行,您使用哪种方法?50000 + (50000 * 0.1)没有出现错误。 但是,除非使用单独的
计算
错误解决方法,否则在更改数字时,是否存在
计算
错误?
浏览 1
提问于2022-08-21
得票数 1
1
回答
计算
机是首先在操作中对数字进行舍入,还是对结果进行舍入?
、
、
例如,在9.4-9.0-0.4中:
计算
机是首先对每个数字进行循环并存储,还是借助一些额外的位(本例为双精度格式)进行
计算
,然后对结果进行舍入?
浏览 2
提问于2020-04-09
得票数 1
回答已采纳
1
回答
为什么
MySQL
将2小数的
四舍五入
除以一个未被排除的值?
、
我有一张有以下数据的表格:这些值是从电子表格中导入的,所显示的百分比不够
精确
。它
四舍五入
到小数点2位。我可以用收入/费用来
计算
它,但我没有得到我所期望的价值。我猜这是
MySQL
和类型的古怪之处,但我不知道发生了什么。为什么
MySQL
将查询中的两个小数除法舍入为1.000000?
浏览 2
提问于2020-12-23
得票数 0
回答已采纳
2
回答
为什么在
MySQL
中这个结果不同于Excel或Calc?
、
我很困惑,因为这个
计算
给出了不同的结果。即使你在加州
计算
它,10除以110,乘以48576000,结果是4416000。注意,我在Windows 2008中使用
MySQL
5.5.46。
浏览 0
提问于2016-10-07
得票数 0
1
回答
为什么0.1+0.2+0.3不等于0.3+0.2+0.1?
、
、
根据的说法,0.1+0.2不等于0.3,因为0.1和0.2在比较之前已经
四舍五入
为不同的数字,这与0.3的
四舍五入
数不同。0.1是
四舍五入
到A0.3是
四舍五入
C 由于
四舍五入
的值是
精确
的
浏览 19
提问于2018-05-31
得票数 5
2
回答
Javascript .toFixed()更
精确
的舍入替代方案?
、
但我最近才发现Javascript不能“
精确
地”舍入小数。我有点震惊,甚至10.005都不能正确地
四舍五入
到10.01。它刚刚被
四舍五入
到10.00。而其他时候,它确实是正确的。由于我在
计算
价格,我认为我需要更
精确
的东西(100%),以便只对2或3位小数进行舍入,也许是4位小数。 在javascript中有没有直接的方法来做基本的舍入,正确的方法?
浏览 0
提问于2012-10-07
得票数 2
2
回答
去除药剂中不必要的浮点精度的简单方法?
我有灵丹妙药
计算
返回浮子像这样:5.140000000000005但我只想展示:5.14...to指定十进制精度和
四舍五入
选项。问题是,我不知道
精确
的小数位设置精度在手边。 有什么简单的方法吗?
浏览 6
提问于2017-04-22
得票数 1
回答已采纳
2
回答
Mysql
。函数轮不能给出正确的值
、
、
我在这个选择上有一个问题:作为总数,它得到1171.44,但其价值必须是1171.45。如果执行Workbench和我再次运行相同的select,它将得到正确的值。
浏览 4
提问于2015-08-17
得票数 0
回答已采纳
1
回答
简单加法出现意外舍入错误
、
、
、
、
日安,print(-0.0075+0.005)-0.0024999999999999996你知道为什么我没有得到-0.0025的预期答案吗?
浏览 6
提问于2020-06-17
得票数 1
6
回答
为什么在Python中舍入浮点数时会发生这种情况?
、
我正在研究Python中的
四舍五入
浮点数,下面的行为似乎很奇怪:a = 203.25print '%.2f'%(round(a/10., 2)) print
浏览 1
提问于2012-09-04
得票数 0
回答已采纳
1
回答
德尔菲在乘积过程中如何循环货币
、
mod_rate : Currency; mod1 := 0.95;如果在
计算
器上执行此
计算
由于德尔福的Currency数据类型仅
精确
到4小数,所以它在内部舍入该值。我的测试表明,它使用Banker的
四舍五入
,因此mod_rate应该包含一个39.4530值,但是在这种特殊情况下,它会截断为39.4529。我有40,000的这些
计算
,除上述外,所有的
计算
都是正确
浏览 4
提问于2016-09-30
得票数 4
回答已采纳
1
回答
小数的“多级
四舍五入
”是一回事吗?
、
从数学上讲,0.00499(9)
精确
地等于0.005,但在
计算
机中则不然。这样的精度仍然很好,但是当我显示数字时,用户希望看到0.01,即
四舍五入
到两个小数点,但是很明显,任何明智的舍入算法都会返回0.00,因为0.004999999999肯定更接近0.00而不是0.01。: 这可以通过像0.004999999999.round(10).round(2)这样的“多级
四舍五入
”来完成,因为我们在内部
计算
每件事情的精度都是10小数点。
浏览 2
提问于2018-06-28
得票数 0
1
回答
在处理现金交易时采用定义列的最佳做法
我们会做各种各样的
计算
,如和,总,分数等,Option#2 - Double Option #4 - Float
浏览 0
提问于2020-06-20
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
mysql如何进行累加计算
MySQL创建计算字段及基本函数
奥比中光:深度引擎芯片具备更快的计算效率及更精确的计算能力
艾瑞克的分享(1):Celeref.3软件精确计算晶胞参数的方法
Google披露Pixel 6人像模式可计算精确景深效果的秘密
热门
标签
更多标签
云服务器
ICP备案
实时音视频
云直播
对象存储
活动推荐
运营活动
广告
关闭
领券