腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
Marshal C++
float
to C#
float
精度
问题
c#
、
c++
、
floating-point
、
dbase
编辑:{
float
P;
float
HoursL;
float
S; public struct csharpstruct//The C# struct I created
浏览 1
提问于2011-02-24
得票数 1
回答已采纳
1
回答
Golang big.
Float
的
精度
问题
go
、
math
、
biginteger
、
bigfloat
我遇到了一些关于Golang big.
Float
计算的有趣
问题
。
问题
是= 10001000100010001000100010001000.1000100010001000155533“var prec uint = 1024 // 512 dec, _ := new(big.
Float
).SetPrec(prec).SetSt
浏览 2
提问于2019-05-14
得票数 0
回答已采纳
1
回答
big.
Float
中的
精度
损失
问题
go
跑步时: "fmt") a := big.NewFloat(
float
64(2.1234
浏览 0
提问于2018-10-17
得票数 0
回答已采纳
2
回答
如何在从
float
32转换为浮动时保持
精度
?
python
、
python-2.7
、
numpy
我有一个numpy.
float
32对象,我想将其编码为JSON。
问题
是,当我转换为原生python
float
时,就失去了值的精确性。,然后转换为浮动,则
精度
将保持不变。In [3]:
float
(str(np.
float
32(295.96)))有没有办法保持我的
精度
,而不必先通过一个字符串?为什么str(np.
float
32(295.96))似乎保留了
精度
,而np.
float
32(2
浏览 8
提问于2017-01-31
得票数 2
回答已采纳
5
回答
C++的精确除法会失去
精度
吗?
c++
、
precision
、
division
问题
1:除以整数的除数会失去
精度
吗?int a=M*N,b=N;//M and N are random non-zero integers.if (c==M)
问题
2:传递浮点值会失去
精度
吗?
float
a=K;//K is a random
float
; if (a=
浏览 5
提问于2015-11-19
得票数 2
回答已采纳
6
回答
“‘
float
”与“double”
精度
c
、
floating-point
代码double z = 3.141592653589793238;printf("z=%双
精度
数总是有16个有效数字,而浮点数总是有7个有效数字?为什么双倍没有14位有效数字?
浏览 3
提问于2011-02-24
得票数 153
回答已采纳
1
回答
MySQL浮子类型范围与
精度
混淆
mysql
、
floating-point
我正在学习MySQL,对
float
的范围和
精度
有
问题
。create table test (f_a
浏览 5
提问于2017-06-03
得票数 4
回答已采纳
1
回答
Python:
Float
失去
精度
?
python
、
printing
、
floating-point
我使用rinput =
float
(finput[2])。然而,当我执行print "%.9f" % rinput时,输出给我1353118103.108893394 (最后两个数字是off)。
浏览 1
提问于2013-03-07
得票数 3
回答已采纳
1
回答
python错误中的Decimal对象
python
、
decimal
decimal.InvalidOperation: [<class 'decimal.InvalidOperation'>]我预计会得到0.011美元 谁能给我解释一下我的例子中的python Decimal出了什么
问题
浏览 0
提问于2018-01-27
得票数 2
1
回答
创建具有特定
精度
的新cpp_dec_
float
类型
c++
、
boost
、
multiprecision
我正在使用c++运行物理模拟,为了获得精确的结果,我使用的是boost::Multi
精度
。到目前为止,我使用了cpp_dec_
float
_50类型,然而,现在我需要测试不同
精度
的不同变量的模拟。那么,如何创建新类型,例如,cpp_dec_
float
_27(27位
精度
)?template <unsigned Digits10, class ExponentType = boost::int32_t, class Allocator = void> class cpp_dec_
float<
浏览 2
提问于2015-11-15
得票数 1
回答已采纳
1
回答
如何在功能上进行循环
c++
void isRight(
float
sideA,
float
sideB,
float
sideC){
float
bSquared =sideB * sideB;round(aSquared);round(cSquared); cout &
浏览 7
提问于2022-11-17
得票数 0
回答已采纳
1
回答
GORM是否与字段有
问题
,以max前缀开头,还是使用浮点数字段?
mysql
、
grails
、
grails-orm
我有一个域类,它包含两个字段:minscale和maxscale:
Float
minscale;(new
Float
(0.5),new
Float
(0.9)); TeamRuleAverageStatic.findByMinscale(new
Float
, [new
Float
(0.9),new
Float
(0.5)]) /&
浏览 2
提问于2013-11-26
得票数 0
回答已采纳
3
回答
浮点算法中的NumPy向高
精度
转换
python
、
numpy
、
precision
我的
问题
是:当对两个不同
精度
的值进行算术时,为什么NumPy要以
精度
最高的值的d类型返回结果?例如double = np.array([[1,"double data type -", double.dtype 产量: 单一数据类型-
float
浏览 3
提问于2017-07-17
得票数 2
回答已采纳
1
回答
半浮子GLSL的优化
math
、
optimization
、
floating-point
、
glsl
、
precision
在阅读时,我在第4.4.1节中找到了一些有趣的段落,涉及优化半
精度
float
的GGX近似的实现。我理解1 - dot(n, h) * dot(n,h)的计算可能导致所谓的,以及为什么使用交叉积解决了这个
问题
,但是我不知道这与半
精度
float
有什么关系。,不像 (从D3D10 开始简单地将其映射到
float
)。与丝有关的是,它是初步开发的移动平台,如安卓,其中一半
精度
的
float
是支持硬件。我知道,使用半
精度
的
float</e
浏览 2
提问于2020-07-25
得票数 1
回答已采纳
5
回答
无法从双
精度
转换为浮点型
android
、
integer
、
division
到目前为止,我的函数如下: long unixTime = System.currentTimeMillis它给我的错误是“无法从双
精度
转换为浮点型”的onerm
浏览 2
提问于2013-01-25
得票数 14
回答已采纳
3
回答
整数
精度
快速倍乘
c++
以较低的
精度
将两个双数相乘的最快方法是什么(如Int
精度
)?编辑:像转换成整数
精度
这样的接缝是个坏主意。我会尽量更好地解释我的
问题
:double a = 2.2;
float
c =
float
(a)*
float
(b); 比整数转换更好?
浏览 6
提问于2015-03-27
得票数 0
回答已采纳
3
回答
TCL中浮点算法的缺省输出
精度
控制
floating-point
、
tcl
、
floating-point-precision
% expr 60.9-59.7在上面的例子中,expr似乎以它计算的更高
精度
输出浮点操作的结果。main() double a = 60.9; std::cout << "double a = " << a << std::endl; b -= 59.7; std::cout << "
float
b = "
浏览 12
提问于2015-07-02
得票数 1
1
回答
Java浮点与双
精度
java
、
floating-point
、
double
、
precision
public class MyClass {
float
x=2.0f; double b=1.1d; System.out.println("Double = " + (a
浏览 3
提问于2017-11-13
得票数 0
回答已采纳
1
回答
PyTorch: torch.arange中的不一致行为
arrays
、
pytorch
我正在使用Google Colab,当我运行以下代码时: from torch import tensor, arange print( arange(tensor(0.0), tensor(1.2), tensor(0.2)) ) 我得到了输出: tensor([0.0000, 0.2000, 0.4000, 0.6000, 0.8000, 1.0000]) tensor([0.0000, 0.2000, 0.4000, 0.6000, 0.8000, 1.0000, 1.2000]) 这种差异在arange(0.0,1.1,
浏览 27
提问于2021-09-14
得票数 2
回答已采纳
2
回答
iOS UInt64 number to
float
错误
ios
、
objective-c
、
uint64
UInt64 intValue = 999999900;NSLog(@"
float
tt = %f", tt); 输出结果是"
float
tt = 999999872",因为你可以看到UInt64转换为
float
会丢失一些东西,最大浮点数大于999999900,所以我认为可以将值999999900转换为
float
,所以我的
问题
是为什么在iOS中会丢失28?
浏览 0
提问于2016-03-13
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
JavaScript计算精度问题
go语言-float数值对比
Python3.6内置函数——float
css float与学习骑自行车
这是个高精度问题
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券