腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
javascript大整数轮因为精度?(为什么?)
、
、
、
我想这就像
浮点数
一样精确..。但这不应该只触及浮动数字,例如,number+1总是给后继人?(因此,在上面的示例中,如果i= 78764357878563790并添加i++,则输入一个无限循环。我以前就知道
浮点数
之间存在这种类型的数字间距,但从来没有遇到这样的情况,即整数也不能
表示
i+1和i-1 (我总是认为无符号maxint +1会携带并给出0)。如有下列任何问题: ,即
js
.中的最大数和前数,如何处理或知道整数的这种行为
何时
开始发生。如何处理这个大数,以及比这个大得多的数字,会很好。。
浏览 3
提问于2011-04-27
得票数 4
回答已采纳
2
回答
C#与C/C++二进制浮点转换的差异
、
、
、
在C/C++和C#中转换二进制数时,通过舍入得到两个不同的结果。例如,让我们以1000010000010110110000010111111为例,在C#中,我们会得到34.84448,而我们会得到34.844479,为什么会有细微的差别呢?在C#中进行转换://bytearray is an array that contains our binary numberint a = 1108041919; //The number that is being represe
浏览 0
提问于2019-03-18
得票数 3
回答已采纳
3
回答
如何在duration_cast中检查溢出
、
、
我需要将一种std::chrono::duration转换成另一种类型,但我需要知道这种转换
何时
不可能,因为值是不可
表示
的。 我没有在标准图书馆找到任何检查这个的设施。没有指定如果值超出范围会发生什么,只有从
浮点数
到整数的转换可能是未定义的行为(在我的例子中,我需要从整数转换为整数)。
浏览 0
提问于2017-06-19
得票数 9
2
回答
如何检测printf是否支持%a?
、
、
我需要无损地
表示
字符串中的双精度
浮点数
,因此我使用这在我的系统上工作得很好,但当在Windows下的MinGW上构建时,会给出一个警告:我为这种情况编写了一个变通方法,但在检测
何时
应该使用这个变通方法时遇到了麻烦--我尝试了#if __STDC_VERSION
浏览 3
提问于2016-08-24
得票数 2
1
回答
将类似VB6的表单规范转换为显示表单的网页
、
、
特别是,窗体控件的大小和位置在绝对坐标系中
表示
为XY对。我强调单词信息,因为我当然知道如何生成HTML和CSS格式的文件,因为它们应该包含这些信息。
浏览 4
提问于2011-07-13
得票数 2
回答已采纳
1
回答
浮动和双数据类型之间有什么区别?
、
除了这两种数据类型的内存大小之外,我还想知道其他的区别,还想知道
何时
使用
浮点数
和
何时
使用双值?
浏览 0
提问于2021-02-22
得票数 -4
3
回答
浮点数
的位
表示
?
我知道如何使用% 2和/2将
浮点数
转换为它的二进制
表示
形式,但是有没有更快捷、更简洁的方法呢?我正在做的事情是否被认为是按位
表示
一个
浮点数
?因为我应该在两个
浮点数
之间使用按位比较,但我不确定这是否意味着使用按位操作。例如,要获得一个数字的二进制
表示
,我会将一个类似10%2的数字的结果存储到一个数组中,直到在while循环中这个数字达到0,如果要向后打印该数组,它将以二进制
表示
该数字。编辑:我必须使用逐位比较和运算来比较两个
浮点数
类型的数字,看
浏览 6
提问于2016-02-19
得票数 2
1
回答
是否可以用浮点格式
表示
日期时间?
、
、
在红宝石里你可以做这样的事情:->并给出日期的浮动
表示
,如下所示:但是当你在javascript中说:1542377024455我也尝试了片刻
js
,但仍然不完全确定如何反映时间的浮点
表示
。有没有一种方法可以用类似于红宝石的
浮点数
来
表示
javascript中的日期?
浏览 0
提问于2018-11-16
得票数 0
回答已采纳
4
回答
在C++中将uint转换为
浮点数
、
该函数允许我将其
表示
为一个无符号整数。我希望将其
表示
为一个
浮点数
;或者换句话说,将此uint的字节
表示
用于我的
浮点数
。我试过选角,但似乎不起作用。示例:字节
表示
: 94 4E 2D 43
浮点数
: 173.3069458.. 任何帮助都将不胜感激。
浏览 1
提问于2011-02-20
得票数 3
回答已采纳
2
回答
为什么
JS
使用科学(指数)
表示
法?
、
、
当我使用固定符号输入大数时,
JS
将其更改为科学
表示
法。为什么?这仅仅是因为很难阅读大数,还是因为在内存中存储大数有一定的困难?
浏览 5
提问于2017-09-23
得票数 0
回答已采纳
2
回答
在值下面查找
浮点数
、
假设我有一个
浮点数
。我想要找到小于X的最大数字,并且可以无损地存储在
浮点数
中。在C#中有办法做到这一点吗?
浏览 5
提问于2013-01-11
得票数 10
回答已采纳
3
回答
有办法在Java中设置浮点单位的舍入模式吗?
、
、
我想知道如何将
浮点数
舍入到机器
浮点数
(例如双)。数字"0.01111116“不能用机器浮点
表示
,在某些四舍五入的模式下,这个数字应该
表示
为"0.011111159999999995”,有一定的精度损失。但是我不知道怎么用Java来完成这个任务?因此,我想知道API设置舍入模式,以获得机器
浮点数
在Java中的准确
表示
。谢谢!
浏览 5
提问于2013-05-18
得票数 3
回答已采纳
1
回答
如何在python中将16位十六进制和二进制
表示
转换为十进制
浮点数
(反之亦然)?
、
、
、
、
我正在处理一个要求我将
浮点数
的十六进制和二进制FP16
表示
转换为十进制
浮点数
的问题。我还需要将十进制
浮点数
转换为FP16十六进制和二进制
表示
。a = struct.pack("H",int("0010100011110101",2)) float = np.frombuffer(a, dtype=np.float1
浏览 2
提问于2019-05-29
得票数 1
回答已采纳
2
回答
为什么NumberLong(9007199254740993)在MongoDB中与NumberLong(9007199254740992)匹配?
、
这种情况发生在给定的数字足够大(大于9007199254740992)时,随着更多的测试,我甚至发现许多相邻的数字可以匹配一个数字。当我想用它的数字对一个记录进行操作时,我实际上可以使用三个不同的相邻数字来返回相同的记录。
浏览 2
提问于2021-02-09
得票数 0
回答已采纳
1
回答
JavaScript的相等运算符给出了不正确的结果?
、
9007199254740992 == 9007199254740991true true // whats going on ? false false
浏览 0
提问于2015-09-10
得票数 2
6
回答
JS
中float的读写字节数
、
、
、
、
有没有办法在
JS
中读取浮点值的字节?我需要做的是将一个原始的
浮点数
或双精度值写成我需要的二进制格式,那么有没有办法得到一个逐字节的IEEE754
表示
呢?当然,写作也有同样的问题。
浏览 5
提问于2010-12-11
得票数 23
回答已采纳
2
回答
如何用arg写块。Swift闭包中的"UnsafeMutablePointer<UnsafeMutablePointer<Float>>“
、
weakSelf.audioPlot updateBuffer:waveformData[0]}];在swift中,
浏览 0
提问于2015-07-09
得票数 1
2
回答
为什么Swift默认为双
浮点数
?
、
说: Float
表示
32位
浮点数
.当浮点值不需要64位精度时使用它.但后来: 这不是有点矛盾吗?对于大多数
浮点数
字来说,64位的精度不是太高了吗?这是否意味着我应该明确地定义
浮点数
,或者这种区别在实践中并不重要?
浏览 19
提问于2014-06-17
得票数 3
回答已采纳
1
回答
如何比较双数与5位的精度?
、
、
我试着比较一下在0.0,1.0中出现的2双倍。inline bool isEqual(double x, double y) const double epsilon = 0.000001;}cerr << isEqual(1.000001, 1.000002) << endl;输出是-0 而我希望第一个是true,第二个是fal
浏览 2
提问于2013-06-20
得票数 0
回答已采纳
4
回答
两个
浮点数
之间的
浮点数
、
、
假设我有两个Python
浮点数
a和b,有没有一种简单的方法来找出在IEEE754
表示
法(或机器使用的任何
表示
法)中,这两个
浮点数
之间有多少个可
表示
的实数?
浏览 1
提问于2010-08-28
得票数 12
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
特斯拉表示无法确定德国工厂何时可以恢复生产。
真假5G争论何时休?专家表示:iQOO Pro 5G版就挺好
JavaScript零基础保姆级教程-2
特斯拉发言人表示,特斯拉德国工厂有望今日恢复供电,尚不明确何时恢复全面生产。
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
云直播
活动推荐
运营活动
广告
关闭
领券