腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(615)
视频
沙龙
1
回答
在
使用
python
Decimal
包
的
金融
应用程序
中被
浮点
精度
损失
所
困扰
、
、
、
在
计算70000.0*5.65500*18.0/36000.0并将结果与另一个数字进行比较时,我
在
金融
应用程序
中遇到了一个问题。准确
的
结果是197.925
使用
Decimal
时,结果取决于操作顺序: from
decimal
import
Decimal
Decimal
The result is
Decimal
('19
浏览 28
提问于2021-01-28
得票数 1
1
回答
为什么这个返回假?
、
break 当我打印出这两个值时,它们似乎是相同
的
..?希望有人能帮我,谢谢!
浏览 2
提问于2014-10-16
得票数 1
回答已采纳
1
回答
既然我们有圆形()函数,那么为什么还要对
浮点
数进行量化呢?
、
、
我
在
一本
Python
的
书中读到这样的话:
在
金融
世界中,有时最好
使用
quantize()和十进制模块来舍入
浮点
数。书中给出了一个例子如下:price =
Decimal
('19.99')total = price+ (price * tax) penny =
浏览 1
提问于2016-07-01
得票数 0
5
回答
Python
中
的
双
精度
浮点
值?
、
、
有没有比
浮点
型
精度
更高
的
数据类型?
浏览 2
提问于2011-07-12
得票数 97
回答已采纳
4
回答
无理数中
的
更多数字
、
、
1.41421356237309504880168872420969807856967187537694807317667973799073247846210703885038753432764157273501384623091229702)有没有办法让str()
在
字符串中记录更多
的
数字
浏览 0
提问于2013-06-11
得票数 4
回答已采纳
6
回答
数据库中
的
最佳货币格式
、
、
在
我
的
数据库中与ASP.NET web
应用程序
配合
使用
的
最佳货币格式是什么?我不确定
浮点
数和十进制哪个更好。请注意,我不需要特定于文化
的
设置。
浏览 0
提问于2009-09-04
得票数 3
回答已采纳
3
回答
C#假设
浮点
字面值是双
精度
类型?
我正在学习我
的
C#教科书,它说:"C#假定所有
浮点
字面值都是双
精度
类型。“我知道这是什么意思,但我不太确定如何将修复应用于我正在处理
的
示例程序。所以我
的
问题是,我如何
使用
float?我怎么才能在这个末尾加上一个F呢?我也尝试过以不同
的
方式
在
它前面进行强制转换(浮动)。 谢谢您抽时间见我。
浏览 1
提问于2010-02-25
得票数 4
回答已采纳
2
回答
两位小数
的
四舍五入
、
In [86]: array.std()Out[87]: 101.0 Out[88]: 100.70999999999999 Out[89]: 100.70999999999999 Out[90]: 100.70999999999999 我希望将标准差
浏览 0
提问于2017-09-25
得票数 0
3
回答
C#能比doubles存储更精确
的
数据吗?
、
、
、
C#中
的
double没有足够
的
精度
满足我
的
需求。我正在写一个分形程序,
在
放大几次之后,我
的
精度
就用完了。 有没有一种数据类型可以保存比双
精度
型更精确
的
浮点
信息(即更多
的
小数位)?
浏览 3
提问于2011-03-29
得票数 12
回答已采纳
1
回答
Mongodb缺少精确增量
浮点
数
、
、
我有一个问题,因为Mongodb
在
增加浮动时似乎没有保持
精度
。例如,以下内容应该会产生2.0for i in range(40):print db.test.find_on
浏览 1
提问于2015-09-29
得票数 0
回答已采纳
3
回答
web服务器之间
的
.Net除法舍入/十进制差异
、
、
这里有一些背景:我们正在将asp.net 2.0 web
应用程序
升级到.net 4到64位服务器。我们
在
新
的
和旧
的
服务器上都部署了一个测试
应用程序
,以确保
在
我们运行之前一切都能正常工作;这两个
应用程序
都指向另一个服务器上
的
同一个数据库。后一个值甚至不代表第一个未四舍五入
的
数字?我创建了一个控制
浏览 9
提问于2011-07-01
得票数 2
回答已采纳
3
回答
由存货翻版至编号
的
格式编号(双)
我有一个用db写
的
价格--375,061.60美元--我想改变它,使它能够进行基本
的
数学运算,就像这样375061.60。我已经
使用
了替换函数,但是它没有去掉美元符号 replace("$","")
浏览 7
提问于2022-08-22
得票数 -1
回答已采纳
2
回答
有概念问题
的
、
end 好
的
,我把数字作为
浮点
数很好地工作,但是,正如你所知道
的
,
浮点
数会引起问题。另外,如果你真的很棒,帮我让它在这个特定
的
情况下工作。
浏览 0
提问于2013-10-20
得票数 0
回答已采纳
2
回答
如何将
Python
中
的
小数数固定为500位输出?
、
、
、
、
在
以下示例中:x = math.log(2)我试图获得500位输出,我只得到53小数输出ln(2),如下所示:
浏览 16
提问于2022-08-22
得票数 0
回答已采纳
2
回答
doubles
在
什么时候开始失去精确度?
、
、
我
的
应用程序
需要对一些数字执行一些操作:>、<、==、!=、+、-、++等(但没有除法)。这些数字有时是整数,很少是
浮点
数。显然,各种操作(+、-等)
的
第二个输入总是一个整数,我知道
使用
0.000[..]01从一开始就会有麻烦。 作为一个额外
的
答案,同样
的
问题也适用于float。
浏览 1
提问于2012-02-14
得票数 2
7
回答
添加双
精度
值不一致
、
、
在
使用
eval(...)开发一些工程规则值引擎时,我遇到了以下问题实现。Console.WriteLine("Matched") Console.WriteLine("Not Matched")‘'Above条件返回false,因为sum
的
值为看起来第15个数字是往返
的
。有人可能会对此给出更好
的
解释。 是Math.Round(...)唯一可用
的
解决方案,或者还有其他我可以尝试<em
浏览 0
提问于2011-05-06
得票数 4
2
回答
两个“np.longdouble”求和会产生很大
的
数值误差
、
、
早上好,结果并不像我期望
的
使用
128位
浮点
数那样精确。)a = a_int + a_float这就是我得到
的
答案num
浏览 21
提问于2013-02-14
得票数 3
回答已采纳
4
回答
在
不
损失
精度
的
情况下将
Python
浮点
数转换为字符串
、
、
、
我正在维护一个
Python
脚本,它
使用
xlrd从Excel电子表格中检索值,然后对它们执行各种操作。电子表格中
的
某些单元格是高
精度
数字,它们必须保持不变。
在
检索其中一个单元格
的
值时,xlrd给出了一个float,比如0.38288746115497402。 但是,我需要在稍后
的
代码中将该值转换为字符串。
在
SO和互联网上
的
其他地方搜索有类似问题的人时,一个常见
的
建议是
使用
Decimal</em
浏览 1
提问于2010-08-14
得票数 28
回答已采纳
3
回答
Python
如何
使用
精确到十进制
的
列表字符串?
、
、
、
我有一个字符串,它是这样
的
列表然后,我
在
Python
中
使用
eval()将其转换为真正
的
list对象。print eval(list_str)0 = {float} 148654.0842592
浏览 1
提问于2017-02-20
得票数 1
8
回答
SQL Server中数字、
浮点
数和小数
的
区别
、
、
numeric、float和
decimal
数据类型之间有什么区别?在哪些情况下应该
使用
哪种数据类型? 对于任何类型
的
金融
交易(例如,对于薪资领域),哪种交易是首选
的
,为什么?
浏览 2
提问于2009-06-29
得票数 384
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
热门
标签
更多标签
云服务器
ICP备案
云直播
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券