腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(574)
视频
沙龙
1
回答
ClosedXml
舍入
到
16位
小数
,
我
希望
获得
更高
的
算术
精度
(
小数点
后
20位)
c#
、
excel
、
closedxml
我
正在使用
ClosedXML
读取一个excel文件。但是由于某些原因,closed xml正在对数字格式化为16位
小数
的
单元格值进行
舍入
。例如,
我
得到
的
值是0.0232080359530551而不是0.02320803595305504993。
我
看了看this!文章,并尝试了它,但没有工作。 尝试了所有这些选项,但都没有成功。
浏览 27
提问于2019-04-09
得票数 0
2
回答
SQL Server 2008和毫秒
sql-server-2008
、
datetime
、
milliseconds
在SQL Server 2008中,为什么以下查询返回相同
的
值?('2011-01-01 23:59:59.997' as datetime)为什么下面的查询会
舍入
到
第二天
浏览 0
提问于2011-11-16
得票数 13
回答已采纳
2
回答
当我使用if语句时,计算出现了奇怪
的
问题
excel
、
excel-formula
所以我有一个excel表格,如下所示:(
我
已经取出了所有不相关
的
信息)Column D是一个已拖至所有单元格
的
公式(更改行号):如果你看到单元格D6,你会注意
到
它有一些错误。
我
已经包含了两个例子。表
的
下半部分使用相同
的
公式正常工作。第一部分没有工作,
我
假设是因为0.985,它似乎只有在0.9时才会发生,但在1时才会发生。 有没有人能帮我找出问题所在?
浏览 1
提问于2013-02-13
得票数 0
回答已采纳
1
回答
MySQL选择计算
精度
(
小数点
后
的
数字)
mysql
、
select
、
precision
、
decimal-point
我
试图达到同样
的
精度
(
小数点
后
的
数字数)
的
结果,从一个选择,做一些方程式。 - E2 SELECT回合(41/99,20);- 0.
浏览 0
提问于2019-03-24
得票数 2
回答已采纳
5
回答
四舍五入双位至三位
小数
位,但第三位
小数
位处
的
零在java中消失。
java
我
想在java中将我
的
双
精度
位
舍入
到
小数点
后
3位。
我
不想删掉零。因此,如果
我
的
双倍是2.34,
我
仍然
希望
它是2.340。
浏览 0
提问于2010-09-24
得票数 1
2
回答
x.xxxxxx数字是parseFloat还是double?
java
、
string
、
parsing
、
floating-point
、
type-conversion
我
有字符串形式
的
数字,比如:"43.385644"点后有六个
小数点
。当我使用Float.parseFloat("5.586905")时,浮点值等于5.58691,所以它看起来像是只解析
到
小数点
后
5位,并对其
浏览 1
提问于2015-03-15
得票数 1
4
回答
在除法BigDecimals时为中间结果保留最大
精度
java
、
precision
、
division
、
bigdecimal
在返回最终结果之前,
我
使用BigDecimal进行了几次计算。
我
的
计算包括两个部分。
我
知道,在调用divide()时,
我
应该定义一个缩放和
舍入
模式。但是,由于我使用
的
是货币,所以我
希望
尽可能长地保持最大
精度
,而只将我
的
最终结果
舍入
小数点
后
两位。 为了
获得
最大
的
精度
,
我
应该对中间
的</e
浏览 10
提问于2015-07-30
得票数 2
回答已采纳
12
回答
C#哪种数据类型是
精度
3
的
最佳数据类型?
c#
、
.net
、
types
、
precision
我
想用下面的0.000存储一个数字,它是最好使用
的
数据类型。另外,
我
猜INT是不可能
的
?
浏览 0
提问于2009-09-04
得票数 5
回答已采纳
1
回答
HTML浮点数字字段具有高
精度
,但呈现四舍五入
的
值
javascript
、
html
我
正在开发一个会计/库存系统。用户
希望
将数字四舍五入
到
小数点
后
两位。当然,如此多
的
舍入
会导致系统
的
不同部分之间存在很多差异。
我
想知道是否有一种方法可以将数字输入四舍五入为2
小数
,同时保持高
精度
的
数字,以避免
舍入
误差。 谢谢。
浏览 0
提问于2016-04-14
得票数 0
2
回答
角显示圆号,但保持完全
精度
,否则
angular
、
primeng
我
有一个简单
的
组件,其中包含一个readonly字段,其中包含来自ngModel
的
输出值。<input [(ngModel)]="myObject.response.value" readonly/> 返回
的
值总是完全精确
的
,例如“1.12318995165161.”但为了显示,它需要四舍五入
到
小数点
使用PrimeNG
的
p-InputNumber,
我
可以将值
舍入
小数点
浏览 3
提问于2022-09-04
得票数 0
回答已采纳
1
回答
android存储两位
小数
android
、
number-formatting
我
正在向我
的
本地服务器发出请求,并在响应中
获得
以下数字:<FlatSm>0.00</FlatSm><FlatLgs>0.20</FlatLgs> 当我将它们保存为双
精度
或浮点型时,安卓将它们四舍五入
到
小数点
后
一位,MaxSm
浏览 1
提问于2017-03-20
得票数 0
1
回答
如何在InfluxDB中创建具有2
小数点
的
浮动字段
java
、
types
、
influxdb
、
measurement
我
在java中加入了
我
的
influxDB: .tag("sensor", machineData.getSensor())但这不能解决问题,
我
不知道为什么如果
我
写成流入: .addField("value
浏览 11
提问于2018-05-18
得票数 0
2
回答
精确
的
双
精度
,通过正确
的
舍入
c#
、
floating-point
、
rounding
、
intervals
虽然
我
的
问题听起来微不足道,但实际上并非如此。
希望
你能帮助我。
我
想在
我
的
.NET (C#)项目中实现区间
算术
。这意味着每个数字都由一个下界和一个上界定义。.NET具有Math.Round(double,int)方法,该方法将double
舍入
到
int个
小数
位。看起来不错,但不能强制向上/向下
舍入
。好
的
,这些方法
舍入
到
下一个较低或较高<e
浏览 3
提问于2017-01-25
得票数 1
2
回答
有没有一种方法可以提取
精度
超过两位
小数
的
收益指标?
adsense-api
现在,在Adsense Management API中查询某个日期范围内
的
广告收益时,
我
得到一个JSON数组,其中包含每天
的
“收益”度量,四舍五入
到
小数点
后
两位。还有一个'totals‘JSON对象,它包含请求
的
所有天数
的
总和。每天值
的
总和与报告
的
总和不匹配。
我
怀疑每天
的
收入被四舍五入
到
小数点
后
两位,损失
的<
浏览 1
提问于2015-08-27
得票数 1
4
回答
如何正确
舍入
和格式化
小数
?
c#
、
.net
、
asp.net
、
sql-server
、
vb.net
可能重复:
我
在页面上得到
的
输出是9.4567,这就是
我
想要
的
。 但是,如果DB返回
的</
浏览 7
提问于2010-11-23
得票数 4
回答已采纳
1
回答
用C从文件中读取数据(
精度
到
小数点
15位)
c
、
c++11
、
cygwin
我
需要读取
的
文本文件格式如下(data.dat) -34.900000000000018
我
希望
将以下值赋值给给定
的
缓冲区,该缓冲区
的
类型为float,约束条件是不能更改缓冲区
的
数据类型
我
也尝试过其他方法fprintf(file_ptr,&qu
浏览 4
提问于2016-10-26
得票数 0
回答已采纳
4
回答
修复了不使用BigDecimal时
的
浮点
精度
问题
java
、
floating-point
、
numbers
、
floating-accuracy
、
floating-point-precision
我
在对浮点值进行
舍入
时遇到了问题。= 6.95f; } Output: 333.59998当我用49替换Q时,就可以了,
我
得到
浏览 0
提问于2013-08-06
得票数 0
2
回答
在两台计算机上计算相同数值平均值
的
不同结果
numpy
、
python-2.7
我
有两台电脑,分别安装了Python2.7.2(基于win32
的
MSCv.150032位(英特尔))和numpy 1.6.1。
浏览 3
提问于2012-11-17
得票数 5
回答已采纳
1
回答
如何将双
精度
数四舍五入
到
小数点
后
n位c++
c++
我
正在努力解决如何在c++中将计算结果(双
精度
)正确地
舍入
到
小数点
后
n位。在尝试标准方法(将数字乘以10^n,使用'round‘函数
获得
最接近
的
长整型,然后将结果除以10^n并重新转换为双
精度
,如下所述:)时,
我
发现它在应用于计算结果时会产生意想不到
的
结果(
我
想我知道它
的
答案,
我
知道所有涉及
的
数字都没有精确
的<
浏览 2
提问于2014-09-02
得票数 3
3
回答
正在
舍入
Server 2012
的
计算
calculated-columns
、
decimalformat
、
rounding-error
我
试图在SQL中以[RATE]
的
形式计算一些性能指标,但无论
我
做什么,
我
都只是得到整数值作为回报。SELECT [Group] ,[
浏览 0
提问于2015-06-25
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
由Decimal操作计算引发的Spark数据丢失问题
深度学习新技术:HALP可以使用低精度的训练,但不限制准确性
复制粘贴一时爽:传播最广的一段 Java 代码曝出 Bug
Julia编程基础(五):数值与运算
复制粘贴一时爽:传播最广的一段Java代码曝出Bug
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券