腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
JavaScript是否支持64位
整数
?
、
、
、
parseInt(str);我得到这个值:"4611686018427388000",它是0x4000000000000060 我想知道是JavaScript错误地处理了64位
整数
浏览 222
提问于2012-03-10
得票数 87
回答已采纳
5
回答
Double.Parse在转换8位小数字符串时失去
精度
、
、
、
我尝试将"12345678.12345678“转换为double,但Double.Parse将其更改为12345678.123457。当我使用Decimal而不是double时也是如此 double check1 = (Double)check; //returns 12345678.123457
浏览 0
提问于2011-12-03
得票数 1
回答已采纳
2
回答
TimeSpan.TotalMilliseconds的奇怪实现
、
平克曼说"double有
15
-
16
位数字的
精度
“。但是为什么TotalSeconds不削减分数部分呢?
浏览 1
提问于2013-08-19
得票数 2
回答已采纳
1
回答
Elasticsearch 1.6在长字段中插入19位数字-最后3位四舍五入
、
、
我通过Java API (JDK 1.8)将数据插入到Elasticsearch中。在java中,输入数据是具有值7153256312100466443的长数据类型。在Elasticsearch中,输出为
浏览 0
提问于2016-04-08
得票数 2
2
回答
R不做1e+20数字操作
我想找出更多关于R中的精确计算的方法。-1128347132904321674821 > -1128347132904321674822然而,前两个答案是FALSE,第三个是TRUE
浏览 1
提问于2013-10-11
得票数 2
回答已采纳
1
回答
CS50信用:如何更改if else条件
、
美国运通使用
15
位数字,以34或37开头 if (answer / pow(10,13) == 34 | answer / pow(10,13) == 37 ) printf("AMEX\n"); } MasterCard使用
16
位数字,以51、52、53、54或55开头 else if (answer / pow(10,14) == 51 | answer / pow(/ pow(10,14) == 53| answer / pow(10,14)
浏览 12
提问于2019-02-23
得票数 0
2
回答
分划时求精确值
、
、
1227073724601519345/101) = 12149244798034845.但在Python中 转换为int的(1227073724601519345/101) = 1.2149244798034844e+
16
浏览 1
提问于2021-08-01
得票数 0
回答已采纳
2
回答
将数值转换为字符串
有人能用javascript解决下面的问题吗?alert(i.toString());
浏览 0
提问于2014-07-18
得票数 0
2
回答
R的格式函数返回一个奇怪的结果
、
、
、
我认为这可能是一个
整数
精度
的事情,但这个数字相对较小。谢谢! 我在Ubuntu Linux上运行R版本3.0.0。
浏览 0
提问于2013-05-21
得票数 2
回答已采纳
2
回答
tgamma() long long类型转换
、
、
、
<<tgamma(
15
)<<std::endl;std::cout<<"
16
!"<<(long long)tgamma(
15
)<<std::endl; std::cout<<"
15
!"<<(long long)tgamma(<e
浏览 2
提问于2016-07-11
得票数 0
2
回答
大
整数
和大幂2的awk和gawk
、
、
我的理解是,POSIX awk和GNU都使用作为
整数
和浮点数。(我知道GNU上的-M开关可用于任意
精度
整数
。这个问题假设没有选择-M .)这意味着,使用awk / gawk / perl (不自动提升到任意
精度
整数
)的
整数
结果的最大大小为53位,因为这是可以容纳IEEE754双倍的
整数
。在一定功率为2的情况下,awk和GNU awk都以比53位内可能的
精度
更高的
精度
执行
整数
运算。 (在我的系统中,
浏览 2
提问于2021-06-20
得票数 1
回答已采纳
1
回答
将输出从符号数学(sym)转换为双
精度
、
、
由于符号(x),所有值都被转换为
整数
,例如 [ 1, - x - 8070491064644575/4503599627370496]而不是 [ 1, - x - 1.7920]最终的矩阵是用,并且主要包含像50989028300689459972166
浏览 2
提问于2015-02-12
得票数 1
2
回答
javascript大
整数
轮因为
精度
?(为什么?)
、
、
、
我以前就知道浮点数之间存在这种类型的数字间距,但从来没有遇到这样的情况,即
整数
也不能表示i+1和i-1 (我总是认为无符号maxint +1会携带并给出0)。如有下列任何问题: ,即
js
.中的最大数和前数,如何处理或知道
整数
的这种行为何时开始发生。如何处理这个大数,以及比这个大得多的数字,会很好。。
浏览 3
提问于2011-04-27
得票数 4
回答已采纳
1
回答
短跑失败,数字长度超过9位
、
这很直截了当:[1] "0000150025901"Error in sprintf("%013d", 8150025901) : 最终,我需要在12位数字上使用这个数字,但我只是删除了数字,直到sprintf停止返回该错误。
浏览 1
提问于2015-09-16
得票数 2
回答已采纳
4
回答
当我将ulong ->双-> ulong转换为大数时出错
如果是小数,那么它就起作用了,但是对于较大的数字,它是错误的。下面是我的示例代码。 { string s = string.Format("{0}", val); ulong result = ((ulong)d; // result = 0 <-- W
浏览 0
提问于2015-10-29
得票数 0
1
回答
有什么替代parseFloat的方法吗?这使我可以处理多达21位数的数字?
、
、
在前面的计算中,当最大数字<
15
时,我使用了parseFloat。现在,由于需求是21位,所以parseFloat不能正确地支持。它正确地支持多达17位数字。
浏览 3
提问于2016-11-14
得票数 0
1
回答
如何将浮点数转换为非标准编码
、
、
、
、
这些格式指定名为s
15
Fixed
16
Number的数据类型,该数据类型具有符号位、
15
个
整数
位和
16
个小数位。IEEE 754 32位浮点数有一个符号位、8个指数位和23个小数位。我需要从文本框中获取输入,并将其转换为s
15
Fixed
16
Number。一些搜索在谷歌图书上找到了,但这是在讨论将十进制数转换为s
15
Fixed
16
Number。以下是一些s
15
Fixed
16
Number格式的示例值:
浏览 0
提问于2010-08-30
得票数 6
回答已采纳
2
回答
用于高
精度
睡眠的Logitech Lua脚本
、
、
这是我的尝试,使罗技高
精度
的延迟,精确到1ms。 为什么你需要高
精度
的延迟?
浏览 17
提问于2022-01-21
得票数 0
1
回答
C#中的双
精度
计算值
我在C#中有如下计算语句:当我调试并添加要查看的语句时,它显示如下屏幕截图:但当赋值给双变量时,结果发生了变化:如何在不更改任何实现的情况下获得0.89713135944117184?
浏览 1
提问于2015-01-19
得票数 0
3
回答
GLSL ES 2.0 (适用于iPhone/iPod touch/iPad)中的高浮点数的
精度
是多少?
、
、
我如何确定OpenGL ES中'highp‘的
精度
是多少?它可能是一个
16
位尾数的FP24,但我不能确定,也不知道如何询问OpenGL。有什么想法吗?
浏览 0
提问于2010-12-11
得票数 31
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
给初学者:JavaScript 的常见注意点
JavaScript 的常见注意点
JavaScript零基础保姆级教程-2
Java基础数据类型
用TensorFlow.js实现人体姿态估计模型(上)
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
活动推荐
运营活动
广告
关闭
领券