腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
当列是整数和
小数
的混合物时,在创建表时使用哪种数据类型?
、
、
我是在Redshift中创建一个表(基于PostgreSQL),该表的源数据中有几列是整数和
小数
的混合。如果我设置
小数
(5,5),它会抛出整数的
误差
,如果我设置整数,它会抛出
小数
的
误差
,哪种类型适合这两种类型?
浏览 2
提问于2019-04-17
得票数 0
回答已采纳
3
回答
SQL十进制= .NET中的什么?
、
要在.NET中表示
小数
,SQL中的最佳数据类型是什么?我们希望将这一点带到数据库中,并希望在通过层移动数据时最大限度地减少转换问题。
浏览 2
提问于2008-10-23
得票数 16
1
回答
MATLAB与.NET的矩阵乘法
误差
、
Note:这个问题与有关求矩阵逆的结果似乎是一致的,但A*A^-1似乎相距甚远。>> a = [1 2 3; 4 5 6; 7 8 10] 4 5 6>> inv(a) -0.6667 3.6667 -2.0000 1.0000 -
浏览 0
提问于2016-11-17
得票数 1
回答已采纳
2
回答
为什么在财务计算中要使用
小数
浮点数,而
小数
浮点数存在舍入
误差
、
、
据我所知,浮点数和
小数
浮点数的区别在于指数部分的基数是什么,浮点数使用2作为基数,
小数
浮点数使用10。当使用
小数
浮点数时,您仍然会有舍入
误差
,您仍然不能表达1/3(如果我错了,请纠正我),我猜很有可能将某人的账户余额乘以30%,然后发生舍入
误差
,经过几次计算,舍入
误差
可能会传播得更严重。除了更大的数字范围之外,为什么我要在金融算术中使用
小数
浮点数?
浏览 2
提问于2014-11-06
得票数 4
4
回答
如何在MATLAB中增加位数?
如果我有一个像n = 0.783325849821429这样的数字,有没有办法显示更多的
小数
位?这是用format long生成的。问题是,我正在用正弦进行
误差
估计计算,有一个点,估计非常接近正弦的实际值,以至于MATLAB将
误差
计算为0,即使估计不可能是完全准确的。总会有
误差
,只是
误差
太小,MATLAB无法识别。有没有办法让MATLAB考虑更多的
小数
位?
浏览 0
提问于2013-02-19
得票数 3
4
回答
Rails在DB级舍入浮点数
、
、
、
我有一个带有浮动列的表(我使用的是
MySQL
,
mysql
2 gem,一切标准的东西) t.float :amount end
浏览 0
提问于2011-12-14
得票数 4
回答已采纳
1
回答
使用Python复制计算器结果
、
、
、
我不知道如何让Python在执行重复正弦运算时像我的计算器一样工作。number = float(.565) number = round(math.sin(number*pi), 16)当我用我的计算器做同样的运算时,我得到0.4464454868。我也尝试过使用Decimal库,但没有得到更好的结果。有什么想法吗?
浏览 1
提问于2014-02-16
得票数 2
1
回答
使用
小数
计算时的估计
误差
、
、
我知道
小数
的设计是为了最小化由于四舍五入而产生的
误差
,但我也知道某些数字,例如1/3,不能表示为
小数
,因此一些计算将有很小的舍入
误差
。我相信这个错误的程度将是非常小和微不足道的,但一位同事不同意。因此,我希望能够估计由于我们的应用程序中的舍入而产生的
误差
的数量级。例如,我们正在计算“交易”的运行总数,每天将进行大约10,000个“交易”,并且大约有5-10次
小数
运算(加、减、分、乘等)。要计算收到的每笔交易的新运行总额,舍入
误差
的最大值的顺序是什么?一个带有计
浏览 0
提问于2010-07-02
得票数 3
回答已采纳
1
回答
如何在
mysql
中正确使用浮点型?
、
、
我在
mysql
中有一个表,其字段类型为float(10,7)。我尝试插入值1196.104,即使使用phpmyadmin它也会将该值转换为1000.0000000。
浏览 1
提问于2018-07-06
得票数 6
回答已采纳
2
回答
如果
小数
的范围较短,为什么
小数
点比双
小数
更精确?C#
、
、
、
所以,我在这里的理解是,
小数
点占用更多的空间,但提供了一个更短的范围?这在我的头脑中没有多大意义,因为每个人都同意,当需要精确时,应该使用十进制。
浏览 1
提问于2018-11-01
得票数 6
回答已采纳
1
回答
具有大指数的双倍的数学函数
、
、
我的数学:double result = ((v * i) * CosAngle);我得到"6.12303176911189E-17“的CosAngle,似乎没有考虑到这个数字是0.0000000000000612303176911189!
浏览 0
提问于2015-01-19
得票数 0
回答已采纳
2
回答
打印出与原始十进制数相同的双精度数字
、
snprintf(buf, sizeof(buf), "%.17g", .1);0.10000000000000001有没有办法解决这个问题?
浏览 2
提问于2015-11-15
得票数 0
2
回答
当我使用if语句时,计算出现了奇怪的问题
、
所以我有一个excel表格,如下所示:(我已经取出了所有不相关的信息)Column D是一个已拖至所有单元格的公式(更改行号):如果你看到单元格D6,你会注意到它有一些错误。我已经包含了两个例子。表的下半部分使用相同的公式正常工作。第一部分没有工作,我假设是因为0.985,它似乎只有在0.9时才会发生,但在1时才会发生。
浏览 1
提问于2013-02-13
得票数 0
回答已采纳
1
回答
统计素Xml导入Voucher总不匹配
我一直试图导入xml来统计,这是很好的工作,但当舍入时,我会遇到问题,如凭证,总不匹配。而不是102.98 -> 103.00这样的四舍五入。它会引起问题,如果有任何数量,如102.38,那么我需要它是102.00,这是我得到的错误。在这里,第一张凭单工作正常,第二张则警告错误,如 ERROR: Voucher: ID:<>, Voucher Type: Purchase, Source Voucher N
浏览 2
提问于2022-05-20
得票数 0
回答已采纳
2
回答
Ruby BigDecimal和
MySQL
小数
精度不匹配
、
、
、
、
我使用Rails 3.0.3将一些纬度和经度存储在一个
MySQL
数据库中。下面是我用来创建表的迁移的一部分(请注意具有给定精度的
小数
值): t.decimal :something, :precision => 13Dummy.first.something.should == dummy.something我理解为什么会发生这种情况(
小数
在
MySQL
!
浏览 2
提问于2011-01-21
得票数 0
回答已采纳
1
回答
Oracle sum函数在计算值列时的精度问题
、
在Pl/Sql中,我使用查询字符串 SUM (holding_balance) AS totalGROUP BY company 0-9173992.75458448.13-271021.25-0.01-191459114.33191459114.3300-1904735.13357596.25-124435850.66 1447
浏览 0
提问于2013-12-17
得票数 0
1
回答
在
MySQL
中存储.NET
小数
的最佳字段定义是什么?
、
、
、
、
我需要将
小数
存储到
MySQL
中,它可以有不同的精度。因此,如果有的话,我很想知道哪个
MySQL
字段类型绝对等同于.NET的结构。 我计划使用作为一个轻量级对象模型。
浏览 1
提问于2011-09-08
得票数 2
回答已采纳
1
回答
使用JavaScript进行乘法
、
、
、
我的JavaScript (ExtJs 4.1.0)代码是:它将3乘以0.048,结果是0.14400000000000002而不是0.144。
浏览 0
提问于2012-09-10
得票数 0
回答已采纳
1
回答
为什么十进制数不受舍入
误差
的影响?
、
、
我不明白为什么
小数
可以代表像0.1这样的数字,而浮点数不能。我已经读了很多关于这方面的文章和问题,例如这个: 上面链接中的答案指出浮点数是基数2,
小数
数是基数10。我相信这与此有关。
浏览 0
提问于2016-09-05
得票数 0
1
回答
Python - Turtle坐标在蛇形游戏中不能正常工作
、
、
我有一些游戏破坏问题与一个简单的游戏,类似于蛇。 正如你所看到的,与self的碰撞有时会起作用,但它是不可靠的。我已经尝试了我能想到的所有方法来解决这个问题。from random import randint WIDTH, HEIGHT = 400, 400points = 0def
浏览 0
提问于2017-09-19
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
关注小数据
通俗聊聊损失函数中的均方误差以及平方误差
小数据来了
机械加工定位基准误差
精准的小数据来了!
热门
标签
更多标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
活动推荐
运营活动
广告
关闭
领券