腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(8419)
视频
沙龙
1
回答
在
float中使用RegExp降低
浮点数
swift
、
regex
我试图降低嵌入
在
字符串
中
的
浮点数
的
精度
。The example is [93829.38, 1415.45467897]通过
对
rubular的这个regexp,我可以
在
字符串
中
获得
浮点数
:(\d
浏览 2
提问于2018-08-21
得票数 3
回答已采纳
2
回答
如何在c#
中
安全地将
双
精度
数转换为小数
c#
我们使用decimal数据类型将财务数据存储
在
SQL Server数据库
中
,我们需要6-8位的小数
精度
。当我们通过数据访问层将这个值返回到C#服务器时,它将作为decimal数据类型返回。由于一些设计约束超出了我的控制范围,因此需要
进行
转换。转换为字符串不是问题。正如MS文档所说的那样,转换为
双
精度
是“从小数转换为
双
精度
会产生
舍入
错误,因为
双
精度
浮点数
的有效位数少于小数”。作为<e
浏览 2
提问于2011-02-19
得票数 5
回答已采纳
1
回答
货币的浮点
精度
:
在
MySQL查询中使用"round“函数与PHP
php
、
mysql
、
floating-point
、
precision
在
MySQL数据库
中
,以下字段fee和rate(百分比)为DECIMAL类型,小数
精度
为2。SELECT ROUND(fee * (1- rate/100))),2 ) as profit既然query只是返回值,而不是将它们保存在变量
中
,那么
精度
问题*是否仍然存在如果是这样,最好在PHP或JS
中
对
浮点数
进行
舍入
? *是的,我指的是保存
双
精度
浏览 3
提问于2015-07-28
得票数 5
2
回答
为什么我不能在下面的代码中将值添加到浮点型变量?
c++
using namespace std;{ f3 = f1 + f2; cout << f3<<endl;}
浏览 1
提问于2020-08-19
得票数 0
1
回答
获取sql server以警告截断/
舍入
。
asp.net
、
sql-server
、
decimal
、
rounding
、
truncate
我正在开发一个ASP.NET C#会计应用程序,我正在从使用
浮点数
/
双
精度
数过渡到使用小数来表示货币。有没有办法让SQL server (2008)
在
小数值(或任何类型的数据)被截断或四舍五入时发出警告或失败? 谢谢,
浏览 4
提问于2011-07-12
得票数 1
回答已采纳
2
回答
在
Swift
中
对
双
精度
/
浮点数
进行
舍入
(2位)
swift
、
alamofire
、
rounding
、
swift5
我真的很困惑,因为我试图
在
Swift
中
舍入
一个数字,如果我
在
操场上运行我的代码,我的数字会被完美地
舍入
,但如果我
在
Alamofire中使用“参数”发送它,我的数字就不会
舍入
……你
对
这个问题有什么想法吗以下是我对数字
进行
舍入
的尝试: 尝试1 var orderTotal = 0.0 orderTotal = Double(total * 100).ro
浏览 31
提问于2021-01-29
得票数 0
回答已采纳
4
回答
为什么最后一个数字是错的?
java
、
math
、
double
为什么这段代码的输出
中
只有最后一个数字是错误的: public static void main(String[] args) { System.out.println
浏览 0
提问于2011-06-09
得票数 9
回答已采纳
5
回答
Delphi / Borland Pascal STR过程是如何循环的
delphi
、
rounding
、
delphi-2007
、
pascal
有一个问题:它似乎依赖于BP
中
的
浮点数
据类型,但在Delphi 2007
中
显然是一致的:var d: double; d := 2.15;:= 2.25 str(d:5:1, s); { -> s = ' 2.3' }我找不到任何关于
双
精度
如何四舍五入的规则显然,Delphi 2007总是独立
浏览 3
提问于2010-02-25
得票数 5
回答已采纳
1
回答
有可能解决MATLAB和Python之间的滤波器
舍入
误差吗?
python
、
matlab
我正在尝试将一些Matlab代码复制到Python
中
,目前我正在开发一个单元测试来检查等价性。在下面的代码
中
,我得到了E-11顺序的错误,这表明它可能是一个
舍入
错误。生成的曲线图为: 我看到误差很小,所以可能是
舍入
误差,但它似乎也累积了,这让我很担心。
浏览 21
提问于2018-12-13
得票数 1
3
回答
有办法
在
Java
中
设置浮点单位的
舍入
模式吗?
java
、
floating-point
、
precision
我想知道如何将
浮点数
舍入
到机器
浮点数
(例如
双
)。数字"0.01111116“不能用机器浮点表示,
在
某些四舍五入的模式下,这个数字应该表示为"0.011111159999999995”,有一定的
精度
损失。但是我不知道怎么用Java来完成这个任务?因此,我想知道API设置
舍入
模式,以获得机器
浮点数
在
Java
中
的准确表示。谢谢!
浏览 5
提问于2013-05-18
得票数 3
回答已采纳
1
回答
同时从
浮点数
和
双
精度
中
读取文件?
c
、
floating-point
、
readfile
我如何才能同时
对
浮点数
和
双
精度
进行
fscanf,因为我声明了一个全局
精度
,一次是单
精度
(
浮点数
),一次是
双
精度
(
双
精度
)……因此,当我运行它时,每次转换为不同的类型时,我都必须更改它fscanf(fp1,"%lf",
浏览 0
提问于2012-04-04
得票数 3
回答已采纳
2
回答
解析长
双
从字符串
parsing
、
floating-point
、
ocaml
、
static-analysis
我需要使用OCaml解析C代码
中
的浮点文本。 背景:我使用
对
浏览 8
提问于2011-11-12
得票数 2
回答已采纳
3
回答
降低R的双倍
精度
r
、
floating-point
我正在寻找一种方法来始终忽略R
中
浮点数
之间的细微差异(根据IEC 60559,这些
浮点数
是
双
精度
浮点数
),方法是使用基R工具,而不使用C或C++。换句话说,我想“
舍入
”
双
精度
浮点数
字的意义和部分,以便像这样的东西返回TRUE而不是FALSE:## [1] FALSEround_significand
在
不受欢迎的情况下,data.tab
浏览 3
提问于2018-05-28
得票数 4
回答已采纳
2
回答
在
Java
中
从
双
精度
转换为浮点型
java
、
floating-point
、
double
、
type-conversion
值是否会被截断,以便适合
浮点数
?或者值的取整方式不同?很抱歉,如果这听起来有点补救,但我正在尝试掌握float和double转换的概念。
浏览 0
提问于2012-04-09
得票数 21
回答已采纳
4
回答
.NET -浮点比较
.net
、
comparison
、
floating-point
在
.net中直接比较
浮点数
(
双
精度
、
浮点数
)是否相等是不安全的。变量
中
的
双
精度
值可能会随着时间的推移发生很小的变化。我
对
这个问题的解决方案是创建一个属性来
舍入
数字:{}
在
调用Num的get并返回结果后,
在
比较(Num ==
浏览 1
提问于2011-08-20
得票数 6
回答已采纳
1
回答
在
MIPS
中
对
双
精度
浮点数
进行
舍入
assembly
、
mips
、
mars-simulator
我正在尝试将一个
双
精度
浮点数
舍入
到MIPS中最近的整数。syscall
在
我输入10.5后,它会四舍五入到10.500000000000018。此round.w.d函数用于将f0寄存器四舍五入为最接近的32位整数(.word),然后将结果存储
在
f2
中
。我做错了什么?我找不到任何表明该过程不正确的信息。提前感谢您的帮助。
浏览 0
提问于2015-04-08
得票数 0
5
回答
为什么CLng会产生不同的结果?
vba
、
casting
、
rounding
、
floating-accuracy
这是直接来自我的VBE (MS Excel 2007 VBA)的一个小宝石: 127 ?clng(x)有人能解释这种行为吗?第一个表达式应该是128 (.5四舍五入到最接近的偶数),或者至少两个结果应该相等。
浏览 10
提问于2011-02-14
得票数 9
回答已采纳
2
回答
浮点算术四舍五入到最接近
math
、
floating-point
我
对
浮点算术
中
的四舍五入到最接近感到有点困惑。设a、b和c是归一化的
双
精度
浮点数
。a+b=b+a
中
的+是否被正确地
舍入
为最接近的浮点加法?我最初的猜测是,是的,这总是正确的,但我不完全理解
舍入
到最近。
浏览 2
提问于2013-02-20
得票数 2
回答已采纳
3
回答
浮动和双数据类型是好的存储纬度和经度?
java
、
google-maps
、
google-maps-api-3
、
precision
、
type-conversion
我
在
服务器端(JAVA平台)存储纬度和经度。
在
我的例子
中
,我只是比较服务器端存储的坐标(纬度和经度)。问题1:问题2: 用大小数是好的吗?还是用浮子还是双倍更安全
浏览 13
提问于2013-12-18
得票数 21
回答已采纳
3
回答
为什么Resharper
在
我将double与0
进行
比较时会抱怨?
c#
、
floating-point
、
resharper
如果我这样做了if (d == 0) {}为什么?将精确的零表示为
双
精度
型或浮点型并不难,不是吗? 我理解这样的警告是相关的,如果我将其与其他一些值
进行
比较,例如0.2,它没有确切的二进制表示。
浏览 5
提问于2012-05-21
得票数 18
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
财务人的噩梦,差0.01平不了账,整个部门都沉默了!
金额差0.01,财务总监看了都摇头!
在Python里想要四舍五入有多麻烦?
只需5行代码,PyTorch 1.6即将原生支持自动混合精度训练
深度学习新技术:HALP可以使用低精度的训练,但不限制准确性
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券