腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
使用
可能
存在
舍入
误差
的
模
来
计算
时间
c#
、
string-formatting
、
func
、
livecharts
我从数据库收到一个以秒为单位
的
时间
值,我想把它
计算
成一个可读
的
时间
。这些是消息
的
总活跃
时间
,所以我不需要考虑任何闰年。 我从秒开始
计算
时间
,
可能
超过24小时,所以hhh:mm:ss。我
使用
它
来
格式化来自Live Charts
的
图表上
的
标签。在我
的
代码中,我
使用
以下代码
来
计算
它
浏览 27
提问于2019-03-12
得票数 1
回答已采纳
2
回答
为什么5可以除以0.5,而不能除以0.1?
python
、
module
、
floating-point
我不明白为什么%会这样工作:TrueTrueFalseFalse
浏览 3
提问于2015-08-13
得票数 3
回答已采纳
1
回答
iOS --实现复数
iphone
、
ios
、
math
、
rounding
、
complex-numbers
作为
的
后续(1+i)^2=1.2246063538223773e-16 + 2i 当然,正确
的
身份是(1+i)^这是一个更普遍
的
现象
的
具体例子--如果
舍入
误差
将一个应该是零
的
部分
舍入
到一个稍微不为零
的
值,那么
舍入
误差
<em
浏览 1
提问于2011-04-16
得票数 3
1
回答
在
使用
python Decimal包
的
金融应用程序中被浮点精度损失所困扰
python
、
floating-point
、
decimal
、
finance
在
计算
70000.0*5.65500*18.0/36000.0并将结果与另一个数字进行比较时,我在金融应用程序中遇到了一个问题。准确
的
结果是197.925
使用
Decimal时,结果取决于操作顺序: from decimal import DecimalDecimal5.65500')/Decimal('36000.0')*Decimal('18.0') The result is Decimal(
浏览 28
提问于2021-01-28
得票数 1
1
回答
浮点算法中
的
舍入
误差
floating-point
、
rounding
、
ieee-754
、
rounding-error
在浮点算法中有几种
舍入
模式: 如果在执行一些四舍五入
的
计算
时,获得了较大
的
绝对
舍入
误差
(接近理论界),这是否意味着,如果用
舍入
执行相同
的
浏览 1
提问于2018-03-22
得票数 1
回答已采纳
2
回答
在财务之外
使用
小数
floating-point
、
decimal
、
floating-accuracy
、
financial
我总是听说浮点数
存在
舍入
误差
,因此,必须
使用
decimal类型
来
代替浮点数来进行金融运算。他们所说
的
finance是什么意思?他们是否只考虑金钱,而金、铜、铁、蜂蜜、木头、毛料、谷类等仍须以实数
计算
,抑或任何物质资产均须以小数
计算
?因为你知道,如果你损失了.0000000004美分,
可能
不会像你损失同等数量
的
实际物质价值那样可怕。我只是不喜欢这种双重标准。
浏览 2
提问于2013-11-07
得票数 0
2
回答
用于生成算法中
舍入
误差
报告
的
MATLAB脚本
algorithm
、
matlab
我感兴趣
的
是
使用
或创建了一个脚本来获得算法中
的
误差
舍入
报告。我希望脚本或者类似的东西已经完成了……我认为这对数字电子系统设计很有用,因为有时有必要研究在设计中考虑
的
小数位数对精度
误差
的
影响。此脚本将
使用
3个元素:算法代码、输入和输出。此脚本将逐行显示算法代码中
的
错误。它将
使用
一些命令修改算法代码,并比较输出
的
误差
。N是输入向量
的
元素数 所以,我会
浏览 3
提问于2010-11-16
得票数 1
1
回答
为什么numpy.linalg.eig不满足“矩阵点特征向量=特征值点特征向量”?
python
、
numpy
、
matrix
+0.22141925j[False False False False]这很奇怪;谁能告诉我为什么numpy.linalg.eig中
的
方法不满足基本方程
浏览 2
提问于2021-06-05
得票数 0
1
回答
比较浮点数
的
相等
计算
输出
c++
、
floating-point
、
compare
两个
计算
的
输出应该与下面描述
的
相同,但即使考虑到机器精度,它们也是不相等
的
。有什么办法可以让他们平等呢?0.597738 fig2 0.597738 difference 8.88178e-16 epl 2.22045e-16if(fig1 > fig2) 1 两个数字之间
的
差异大于机器精度关键问题是,是否有任何通用
的
方法来处理这些方面,或者解决方案必须依赖于应用程序?
浏览 0
提问于2019-11-20
得票数 1
8
回答
将双精度值乘以100.0会引入
舍入
误差
吗?
c#
、
.net
、
math
这就是我正在做
的
,99.999%
的
时间
是有效
的
:金额值是一个双精度数。我正在尝试将以便士为单位
的
值写出到文本文件中,以便传输到服务器进行处理。金额不能超过精度
的
2位数。 如果
使用
580.55作为金额,则此行代码将返回58054作为字符串值。
浏览 0
提问于2010-07-08
得票数 7
回答已采纳
2
回答
基准测试- CPU
时间
大于墙
时间
?
c
、
benchmarking
、
microbenchmark
在linux上对排序算法
的
cpu
时间
和挂起
时间
进行了测试。我正在
使用
getrusage
来
测量cpu
时间
,
使用
clock_gettime CLOCK_MONOTONIC
来
获得墙
时间
。虽然我注意到cpu
的
时间
比墙上
的
时间
要长,但这是正确
的
吗?我一直认为cpu
的
时间
一定要比墙上
的
时间</em
浏览 1
提问于2013-07-25
得票数 6
7
回答
为什么
模
运算符在javascript中返回小数?
javascript
、
floating-point
、
modulus
为什么JavaScript中
的
49.90 % 0.10会返回0.09999999999999581?我期望它是0。
浏览 10
提问于2010-10-19
得票数 34
回答已采纳
1
回答
所有子集乘积之和,
algorithm
、
combinatorics
、
number-theory
、
polynomials
我要
计算
给定$N$元素集
的
每个子集
的
乘积之和。例如,给定集合{1,2,3},答案是1+2+ 3 +1*2+1*3+2*3+1*2*3。我还想给出答案
模
$M$。我所知道
的
是,我可以
计算
$(x - a_1)(x -a_2).(x- a_n) -1美元,但是这会涉及到FFT,所以
可能
会出现一些
舍入
错误,但是这个想法
的
主要问题是,它需要$O(N _log^2)$
时间
,并且做
模
$M$是有问题
的</em
浏览 1
提问于2016-01-21
得票数 3
回答已采纳
2
回答
防止
舍入
误差
c++
、
rounding-error
我刚刚读到了C++中
的
舍入
误差
。那么,如果我正在编写一个数学密集型
的
程序(或任何重要
的
计算
),我应该把所有的浮点数一起丢弃,只
使用
双精度,还是有一种更容易
的
方法
来
防止
舍入
误差
?
浏览 0
提问于2011-07-20
得票数 3
回答已采纳
2
回答
为什么在财务
计算
中要
使用
小数浮点数,而小数浮点数
存在
舍入
误差
c++
、
floating-point
、
bigdecimal
我目前正在
使用
c++
的
股票市场相关
的
项目,涉及许多浮点类型,如价格和指数。 我看过很多书,说你应该在货币相关
的
算术中
使用
十进制浮点数。据我所知,浮点数和小数浮点数
的
区别在于指数部分
的
基数是什么,浮点数
使用
2作为基数,小数浮点数
使用
10。当
使用
小数浮点数时,您仍然会有
舍入
误差
,您仍然不能表达1/3(如果我错了,请纠正我),我猜很有
可能
将某人
的</e
浏览 2
提问于2014-11-06
得票数 4
2
回答
解锁XNA游戏更新率,防止不必要
的
抽签调用和大量逻辑更新
xna
、
c#
、
frame-rate
我相信有些电话
可能
会被省略,而不会引起任何明显
的
问题,我想知道我如何才能做到。 我试过
使用
类似于帧速率计数器代码
的
代码,但它就是不起作用。它既不跳过框架,也不跳过所有帧。只有深紫色
的
颜色是可见
的
--我猜这是应用程序
的
默认背景色。当游戏窗口不活动时,帧速率从无穷大(虽然我得到大约4000 fps)降到大约50 (这很不寻常,因为默认
的
帧速率是60,但这不是问题)。因此,游戏
的
表现与预期一样,但只有当它不在焦点时,这并不是它应该
使
浏览 0
提问于2013-02-24
得票数 4
回答已采纳
1
回答
使用
小数
计算
时
的
估计
误差
c#
、
decimal
、
rounding-error
我们目前正在开发
的
.NET应用程序中
使用
System.Decimals
来
表示数字。我知道小数
的
设计是为了最小化由于四舍五入而产生
的
误差
,但我也知道某些数字,例如1/3,不能表示为小数,因此一些
计算
将有很小
的
舍入
误差
。我相信这个错误
的
程度将是非常小和微不足道
的
,但一位同事不同意。因此,我希望能够估计由于我们
的
应用程序中
的
舍入</e
浏览 0
提问于2010-07-02
得票数 3
回答已采纳
2
回答
精确
的
单次通过便士
计算
algorithm
、
language-agnostic
、
rounding
另一种
计算
产生每个部门
的
份额,它是一个从0到1
的
数字,小数位数超过5位。所有部门份额
的
总和恰好是1,但它们不一定相等。 目标是
计算
准确
的
美元和美分账单到每个部门。账单
的
总和必须与成本C完全匹配,它不能低于或超过几分钱。此外,每个部门
的
份额不能要求零头。此外,尽管只将剩余
的
部分转储到最后一个部门是不公平
的
,但没有必要回顾以前
的
时间
框架。请注意,简单地将每个部门
的
份额
浏览 1
提问于2009-12-01
得票数 1
回答已采纳
4
回答
采用整数值
的
Math.Pow
c#
、
floating-accuracy
、
pow
",Math.Pow接受doubles作为参数,但这里我们传入
的
是问:如果隐式转换为双精度,是否
存在
浮点
舍入
错误
的
危险?如果是,最好
使用
下面这样
的
代码:{ while (pow !
浏览 1
提问于2012-06-26
得票数 9
回答已采纳
3
回答
使用
numpy创建十进制数范围不起作用
python
、
numpy
、
rounding
这是我
的
密码:结果是: 521.6000000000001, 521.8000000000002,我
的
代码哪一部分错了我想要这个列表作为我
的
输出: 521。、521.1、521.2、521.3、521.4、521.5、521.6、521.7、
浏览 3
提问于2020-03-23
得票数 0
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
深度学习新技术:HALP可以使用低精度的训练,但不限制准确性
财务人的噩梦,差0.01平不了账,整个部门都沉默了!
金额差0.01,财务总监看了都摇头!
八进制怎么算?
训练提速60%!只需5行代码,PyTorch 1.6即将原生支持自动混合精度训练
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券