腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
浮点无意义的加法与减法
、
、
、
同时学习浮点算术中的
精度
和避免
精度
的不同方法(使用共轭、泰勒级数等)书中经常提到两个非常相似的数字的
相减
或一个大数字和一个小数字的
相减
是导致错误的最大原因。为什么只有减法而不是加法呢?
浏览 2
提问于2010-09-19
得票数 1
2
回答
在mysql中,两个相等值的减法不是零
为什么mysql中两个相等的值
相减
不等于零? 这两种字段类型都是双
精度
的。见下图
浏览 18
提问于2014-01-20
得票数 0
1
回答
如何在任何计算机的右上角显示tkinter窗口?
、
、
我试过使用屏幕大小和窗口大小的方法,但由于它们不能给出
数值
,所以我不能将它们
相减
。
浏览 6
提问于2013-12-20
得票数 0
4
回答
c++
数值
分析精确的数据结构?
、
double数据类型是否足以进行精确的科学
数值
分析?
浏览 2
提问于2011-08-17
得票数 0
回答已采纳
1
回答
累积速度数据类型处理
、
例如:符合IEEE754的双
精度
浮点值Float -符合IEEE754的单
精度
浮点值Decimal -具有任意
精度
的十进制长带符号的64位整
数值
Int -带符号的32位整
数值
Short -带符号的16位整
数值
Byte -有符号的8位整
数值
浏览 16
提问于2020-05-19
得票数 0
2
回答
用浏览器
JS
数值
求解三角方程
、
、
、
、
给定变量s、v和h的值,以及给定的库(如 ),如何在给定的
精度
范围内对a的进行
数值
求解?我想要在浏览器中使用的
JS
算法。
浏览 5
提问于2014-09-09
得票数 3
2
回答
返回奇
数值
的日期
相减
、
、
只有在过去30分钟内创造了这一记录的情况下,我才允许销毁记录。date1 = 2016-09-21 19:44:52 +0200然后我就把这两条相加:但是返回的结果在数千(大约97000)的10s中,并且在我刷新.(随着Time.now的变化)时增长得非常快,而按照上面的示例值,我们只应该得到141分钟的
浏览 7
提问于2016-09-21
得票数 0
回答已采纳
1
回答
为什么BigNumber的etherjs返回0
、
我正在使用来自etherjs的,我正在执行以下非常简单的操作: .div(BigNumber.from(1000))它输出'0',但应该是0.09。
浏览 3
提问于2021-05-01
得票数 1
1
回答
通过在现有列中应用算术函数来创建新列
、
问题是现有的列同时包含整
数值
和字符串值,而我只想对整
数值
应用减法。因此,我希望得到新列中字符串值的整
数值
和NaN的
相减
结果。该列的数据类型为object。如果有人知道解决这个问题的办法,请一定要帮忙。只有P列的整
数值
减去50,字符串值对应的行为空单元格。 ?
浏览 14
提问于2021-11-03
得票数 0
回答已采纳
1
回答
Javascript在将整数追加到字符串时会减少整数
最奇怪的事情发生在我的前端的一些整数上。下面是一个例子。$('#slide_2_inner').html("<img src='//graph.facebook.com/"+jid+"/picture?width=80&height=80' width='80' height='80' />
浏览 1
提问于2014-12-17
得票数 2
回答已采纳
2
回答
将双字段更改为数字
可能重复 我需要将表中的每个双
精度
字段更改为
数值
(15,3)类型,如何使用遍历给定表字段的存储过程快速完成此工作,如果该类型是双
精度
alter列变为
数值
?
浏览 0
提问于2011-06-21
得票数 0
1
回答
XSLT3.0将JSON转换为XML --数字数据类型
、
、
、
、
摘要 我正在考虑编写一组基于Java问:为了支持reasonable提供的
数值
精度
,我是否有理由考虑克隆Saxon9.8HE中的JSON支持,并建立一套使用BigDecimal而不是reasonable的定制函数?我的JSON数据包括超出IEEE双浮动
精度
的
数值
。在Java中,我的
数值
需要使用B
浏览 0
提问于2018-03-27
得票数 1
2
回答
我能在x86 C程序中模仿手臂霓虹灯吗?
、
、
、
、
我正在开发一些
数值
软件,它的性能很大程度上取决于
数值
精度
(如浮点数、双
精度
等)。我注意到手臂霓虹灯不完全符合IEEE754浮点标准。有什么方法可以在x86处理器上模拟霓虹灯的浮点
精度
吗?
浏览 4
提问于2015-03-25
得票数 3
回答已采纳
1
回答
Server
数值
/十进制
精度
与存储
、
、
考虑到关于Server 2008的状态,R2存储的
数值
/十进制
精度
。10到19的
精度
是9个字节。因此,如果我的业务用例逻辑上要求数据类型为2位小数,
精度
为5位,那么如果我将其定义为
数值
(5,2)或
数值
(9,2),则没有实际的性能或存储差异。
浏览 3
提问于2011-01-12
得票数 17
回答已采纳
2
回答
检查算法中的
数值
精度
、
、
在算法中检查
数值
精度
的最佳实践是什么?有没有什么建议的技术来解决“我们如何知道我们计算的结果是正确的”这个问题?如果可能:在C++中有一些
数值
精度
增强的例子吗? 谢谢你的建议!
浏览 5
提问于2013-03-28
得票数 1
回答已采纳
8
回答
如何检查双
精度
值是否没有小数部分
、
我有一个双
精度
值,我必须在我的UI上显示它。现在的条件是双
精度
的十进制值=0,例如。- 14.0在这种情况下,我只需要在UI上显示14。此外,这里的最大字符数限制是5个。例如- 12.34整
数值
不能大于2位,我们的双
精度
数的小
数值
也不能大于2位。 做这件事最好的方法是什么?
浏览 0
提问于2013-04-12
得票数 85
回答已采纳
2
回答
如何在JTextpane中使用双
精度
值设置文本字体大小
、
这只适用于整
数值
,但当用户给出双
精度
值(例如(8.5))时,上述命令会失败,因为它只接受整
数值
,而不接受双
精度
值。那么我该如何解决这个问题呢?有接受双
精度
值的命令吗? 提前感谢
浏览 0
提问于2012-11-13
得票数 4
1
回答
SSIS: DT_NUMERIC是带“单独符号”的无符号int。签不签?
、
以下是两个与msdn略有不同的DT_NUMERIC定义:单独的标志意味着什么?如果没有签名,如何用这个“单独的符号”来表示?
浏览 0
提问于2011-11-14
得票数 0
1
回答
Postgres和Javascript要求支持15位以上的数字,包括小数
、
我需要在PostgreSQL数据库中存储12个数字和6个小数的值。根据PostgreSQL的说法,它提供了数字数据类型。我用numeric(18,6)创建了一个字段,但是当我输入值时,它只接受总共15位的值。在JavaScript中,当我试图解析包含6个小数的18位字符串时,它只返回17位、12个数字和5个小数。var number = "123456789123.123456"它只
浏览 1
提问于2017-09-07
得票数 0
1
回答
为什么dart2
js
编译器不将64位整数转换为IEEE 754 FP号?
、
、
、
我一直读到dart2
js
编译器不支持64位整数。这是因为javascript没有64位整数的表示,并且将所有数字存储为64位双
精度
值吗?如果是这样的话,不能简单地将整
数值
转换为表示吗?
浏览 3
提问于2015-06-04
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
给初学者:JavaScript 的常见注意点
JavaScript 的常见注意点
JavaScript零基础入门——(四)JavaScript的运算符
JavaScript零基础保姆级教程-2
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
活动推荐
运营活动
广告
关闭
领券