腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
在
Python
中
,
为什么
最小
的
浮点
值
和
最大
的
浮点
值
有
不同
的
有效位数
?
python
、
python-2.7
我刚刚在一本机器学习书中读到,
浮点
变量
的
最小
非零
值
是2.2250738585082014x10^-308,
最大
值
是1.7976931348623157x10^308。 对此
有
何解释?
为什么
正指数
和
负指数
的
值
不一样?
浏览 16
提问于2019-04-28
得票数 3
回答已采纳
1
回答
如何找到量化matmul/conv2D运算
的
浮点
输出范围
python
、
tensorflow
、
floating-point
、
quantization
我是tensorflow
和
量化
的
新手,我正在尝试为两个int8输入实现量化矩阵操作。很好奇地想知道操作背后
的
数学原理。我
在
tensorflow中看到,他们只对uint8输入实现了同样
的
方法,想知道如何将其用于带符号
的
int8 matmul/conv2D。更准确地说,我想知道如何获得matmul/conv2D操作
的
浮点
输出范围。 任何帮助都将不胜感激。
浏览 3
提问于2018-10-26
得票数 0
2
回答
如何确定
浮点
尾数
的
最大
正基-10
值
?
c
、
floating-point
、
permutation
、
ieee-754
在
试图理解int
的
时候,如果给我给定整数
的
位数,我可以使用排列公式来确定整数
的
最大
正负基数-10
值
。因此,如果带符号
的
int是16位宽,我可以使用2^16来确定可能
的
排列数,然后可以使用2^15来计算正数
的
最大
数
和
负数
的
最大
数。
在
32位
浮点
数
中
,24位被分配给有效数及其符号。2^23将是
最大
浏览 12
提问于2021-01-19
得票数 2
6
回答
浮点
精度是可变
的
还是不变
的
?
binary
、
floating-point
、
decimal
、
floating-point-precision
、
significant-digits
我不断得到关于
浮点
数(即float、double或long double)是否只有一个
和
唯一一个精度
值
,还是
有
一个可能变化
的
精度
值
的
混合答案。
浮点
数类型
的
变量
的
精度通常为,约为7
有效位数<
浏览 1
提问于2015-05-29
得票数 39
回答已采纳
1
回答
为什么
kCIAttribute(Max|Min)
和
kCIAttributeSlider(Max|Min)有时值
不同
cocoa
、
core-image
、
cifilter
在
CoreImage
中
,CIFilter既有一组
最大
/
最小
值
,也有一组滑动
最大
/
最小
值
。Max/Min
的
文档说明了“过滤器参数
的
最大
/
最小
值
”,而SliderMax/Min说明了“指定为
浮点
值
的
最大
值
/
最小<
浏览 6
提问于2012-09-01
得票数 1
回答已采纳
5
回答
在
C#
中
测试两个双倍
的
相等性
的
经验法则?
c#
、
floating-point
假设我
有
一些代码,可以执行
浮点
运算,并将
值
存储为双倍。由于某些
值
不能完全用二进制表示,我如何测试是否相等到一个合理的确定性程度?几件事。正如@ho1所指出
的
,double.Epsilon
的
文档指出,
在
比较两个双倍是否相等时,您可能需要一个比epsilon大得多
的
值
。以下是文件
中
的</e
浏览 4
提问于2010-06-23
得票数 16
回答已采纳
2
回答
C++:计算给定范围内可能
的
浮点
值
的
数目。
c++
、
algorithm
、
floating-point
、
comparison
、
standards
我正在开发一个密码应用程序,使用Crypto++我
有
一个
最小
的
浮点
值
和
一个<
浏览 0
提问于2018-01-23
得票数 5
1
回答
如何计算
浮点
数据类型
的
范围、
最大
值
、
最小
值
?
c++
、
floating-point
我知道如何计算整型数据
的
极差、
最大
值
、
最小
值
。比如短int,int,long int,char。例如,如果带符号字符
的
char是1字节,
最小
值
将是-2^(1byte*8 -1 ),
最大
值
将再次通过+2^(1byte*8-1)找到,范围将是
最大
值
-
最小
值
+1。但是使用这些公式,我并没有计算出
浮点
型
的
最大<
浏览 2
提问于2019-07-20
得票数 2
1
回答
如何增加一个庞大
的
数字
javascript
、
node.js
如何增加这个数目(您可以
在
浏览器控制台上尝试):其结果是:数字保持不变,没有变化,
为什么
?
浏览 3
提问于2022-10-31
得票数 -2
1
回答
pymongo+update抛出$pull
python
、
mongodb
、
pymongo
我
有
一个mongo文档: { "_id" : 0, "name" : "Vasya", "fav" : [ { "type" : "t1", "weight" : 1.4163 }, { "type"}, { "type" : "t2", "weight" : 6.4615 }, { "type" : "homework"
浏览 1
提问于2012-11-20
得票数 3
1
回答
为什么
Float.MIN_VALUE
在
Java语言中是一个正值?
java
、
floating-point
接下来
的
代码解释了我最后5个小时去了哪里,试图解决一个bug。" "); System.out.print((value1 == 0) + "\n");我没有想到
浮点
数
的
最小
值
会是一个正值
浏览 0
提问于2012-07-11
得票数 9
回答已采纳
4
回答
为什么
java
中
的
浮点
数
的
最小
值
是正
的
?
java
当我们
在
java
中
的
任何一个原语类型上使用MIN_VALUE函数时,它会为我们提供该类型可能
的
最小
值
。但是
在
浮点
数
和
双精度数
的
情况下,它返回
最小
正值,尽管
浮点
数
和
双精度数也可以
有
负值。
浏览 0
提问于2012-03-17
得票数 23
2
回答
计算给定边界
的
数学公式
的
取值范围
python
我使用
的
是
python
v3.8,我想计算给定公式
的
取值范围(
最小
值
和
最大
值
),并(也给出)界限,例如: formula1: a * sqrt(b/c) ..with a=[0,5], b=[10,20], c=[30,40] 我不太熟悉scipy,麻木,症状..我想知道是否
有
一种“简单”<e
浏览 16
提问于2020-09-14
得票数 0
回答已采纳
6
回答
java
中
优雅
的
最小
/
最大
绝对
值
java
在
应用绝对
值
转换后,我需要获取
浮点
值
集合
中
的
最小
值
和
最大
值
。
在
python
中
我会这样做。如何在java
中
以最优雅
的
方式执行相同
的
操作?
浏览 0
提问于2010-03-15
得票数 2
回答已采纳
1
回答
如果是大数字,float.Parse将返回8
c#
、
parsing
、
floating-point
} return float.Parse(amountString); 50000000000000000000000000000000000000000000000000 我得到了像5E+37这样
的
值
,它被认为与精度有关,但我希望是这
浏览 0
提问于2020-05-27
得票数 0
2
回答
我们能用RegExp验证
浮点
数
的
最小
值
和
最大
值
吗?
regex
、
max
、
min
嗨,我知道我们可以用Regex验证数字
的
最小
长度
和
最大
长度。但是,我们是否可以使用相同
的
浮点
数验证Min
和
最大
值
?
最小
值
: 0.00 ^(?=.*\d)(?!.*?\.[^.\n]*,)\d*(,\d*,?)$
浏览 10
提问于2014-11-16
得票数 3
回答已采纳
4
回答
将
浮点
(双精度)转换为字符串
c++
、
boost
我遇到了一些我以前从未见过
的
事情,我非常想知道发生了什么。我尝试将一个双精度数四舍五入到两位小数,然后将该
值
转换为字符串。
在
完成演员阵容后,我
的
事情变得疯狂起来。number*100 + .5)/100;}...and获取以下内容:
浏览 0
提问于2011-07-01
得票数 1
回答已采纳
2
回答
为什么
从
最大
值
到
最小
值
的
加法不如从
最小
值
到
最大
值
的
加法准确?
java
、
floating-point
、
rounding-error
我
的
Java教科书指出,
在
处理
浮点
数时,从
最大
值
到
最小
值
的
加法不如从
最小
值
到
最大
值
的
加法准确。然而,他没有继续清楚地解释
为什么
会这样。
浏览 0
提问于2018-01-06
得票数 0
1
回答
http_build_query浮子精度损失
php
、
http
、
curl
正如标题所述,当我将数组放置到http_build_query()
中
时,所有
浮点
数类型最终都会丢失精度。// prints 22854.94878205978我不知道
为什么
我
在
PHP文档
中
找不到导致这种情况
的
任何东西。我
的
主要关注点只是通过POST请求通过POST发送一些数据,即cURL。CURLOPT_RETUR
浏览 2
提问于2022-01-05
得票数 0
3
回答
当输入为2.0151231E7F时,
为什么
得不到20151231
c#
、
floating-point
Double: " + 2.0151231E7);Console.WriteLine("Single: " + 2.0151231E7F);
为什么
背景:我正在使用soap服务,其中声明了一个元素:
在
soap响应
中
,如下所示: <VALUE_FROM>2.0151231E7&
浏览 5
提问于2012-07-18
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
Java数据类型
Python系列——基础3
享学课堂-python数字简介
Java基础数据类型
学Python这些内置数据类型总结数字类型你可否知道
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券