腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
如何在二进制文件中存储
高精度
浮点数
,Python 2.7?
、
、
、
在Python2.7中,我需要将
高精度
浮点数
(比如来自numpy的np.float64或来自Decimal模块的decimal )记录到一个二进制文件中,然后再读回来。我怎么能做到呢?我想只存储一个
高精度
浮点数
的位图像,没有任何开销。提前感谢!
浏览 3
提问于2013-12-03
得票数 0
3
回答
如何使用Javascript使
浮点数
的精度保持一致
、
我在Javascript中有两个
高精度
和低精度的
浮点数
(事先不知道),例如:12.1536461312.154
浏览 8
提问于2015-03-17
得票数 0
回答已采纳
4
回答
我正在学习Python,为什么在这个例子中使用浮点?
、
、
我知道
浮点数
是用来提
高精度
的,但我不明白为什么在这个例子中有必要使用
浮点数
。
浏览 0
提问于2012-02-03
得票数 2
回答已采纳
1
回答
存储十进制值而不尾随零
、
是否有任何方法可以在SQL中存储十进制值,而不需要额外的尾随零(如
浮点数
据类型格式)。2.500000001.853333102.51.8533331 是否有可能以最
高精度
以上述预期格式存储值?
浏览 0
提问于2020-12-17
得票数 1
1
回答
如何在PHP中处理
高精度
小数
、
、
、
我试图创建一个数据库驱动的网站与PHP和数据存储在一个PostgreSQL数据库,(与PDO访问),我将需要存储和操作
高精度
的十进制数字(在某些情况下,超过20个数字后的小数)。我计划在我的数据库中使用数字或十进制数据类型来存储这些数据,以便保持所需的
高精度
。谢谢!
浏览 1
提问于2011-12-13
得票数 7
回答已采纳
1
回答
对于不同的精度,浮点类型是“嵌套的”吗?
问:这些精度是否“嵌套”,即任何数字在较低精度下都可以精确表示(即没有近似值),在较
高精度
下也可以精确表示。 另一种说法:当转换为更
高精度
时,我是否更改了
浮点数
的值?
浏览 37
提问于2021-11-17
得票数 0
回答已采纳
2
回答
如何根据显示设置将pandas DataFrame中的所有值转换为字符串?
我尝试了df.astype("str")和df.applymap(str),但都使用了比display.precision设置更
高精度
的
浮点数
。
浏览 0
提问于2017-07-07
得票数 0
1
回答
javascript -长十进制
浮点数
精度
我正在尝试用javascript做一些需要
高精度
的
浮点数
计算。
浏览 0
提问于2018-02-25
得票数 0
2
回答
您将如何
高精度
地比较从Cpp端发送到QML函数的浮标和双绞线?
、
、
、
、
您将如何比较从Cpp端发送到QML函数的
浮点数
和双面值?如果我想像下面提到的那样进行
高精度
的比较 return fabs(a - b) < EPSILON;如何在QML ?
浏览 2
提问于2017-07-24
得票数 1
回答已采纳
1
回答
PHP -允许每个数组元素的最大大小
、
、
、
、
数组中的每个单元格都包含一个
高精度
的
浮点数
(例如0.0000000000000123344),并且这些数组相互传递值以进行某些计算。我想知道在一个巨大的数组中存储
浮点数
的最大允许大小是多少?谢谢。
浏览 2
提问于2014-04-22
得票数 0
回答已采纳
1
回答
CUDA上的
高精度
浮点数
、
、
、
希望还没人问过这个问题,但是...有没有什么简单的方法可以让
高精度
的
浮点数
( 1024位精度)在CUDA上工作,而不需要从头开始编码?
浏览 2
提问于2011-11-03
得票数 1
1
回答
浮点数
的八度精度:它是不是在引擎盖下的128位?
、
、
问题是,GNU Octave (或Matlab)中的
浮点数
据有没有可能是128位的?
浏览 12
提问于2019-09-13
得票数 2
回答已采纳
3
回答
使用NSDecimalNumber进行浮点运算而不是普通的双精度运算是个好主意吗?
、
、
、
当大量使用
高精度
和大
浮点数
学时,是否会使生活变得更容易?
浏览 0
提问于2009-08-25
得票数 1
回答已采纳
3
回答
C/C++中的80位浮点运算
、
、
需要在
高精度
的80位
浮点数
中计算sqrt((long double)a)*sqrt((long double)b)。 举例说明。
浏览 1
提问于2011-08-11
得票数 1
回答已采纳
2
回答
Clojure中的浮点精度
、
、
我正在尝试学习Clojure,并尝试定义这个简单的函数:#'user/triple33.0300000000000002
浏览 0
提问于2012-02-29
得票数 2
1
回答
这些花括号是什么意思?
、
、
、
起初,我以为他们用
浮点数
来提
高精度
,但事实证明这是错误的。我可以小数点10位长,小数点长到千分之一。
浏览 1
提问于2013-09-07
得票数 0
回答已采纳
1
回答
D == 9000000000000000000000000d无限回路
请考虑以下代码:while (d == 9000000000000000000d) d += 500;}为什么编译器不抛出任何异常?
浏览 4
提问于2015-12-19
得票数 7
回答已采纳
0
回答
打印不带指数形式/科学记数法的十进制数
、
、
要打印没有指数形式的
浮点数
,我们可以这样写:但由于精度误差,这通常显示为零。此外,我们还可以使用Decimal.decimal(float)精确打印
浮点数
。但它会以指数格式打印数字,即10e-10。我似乎不能将它们组合在一起,因为我不知道如何格式化
浮点数
,就像我使用'%f'格式化‘decimal’一样。所以我的问题是,如何以我想要的方式完成这件事? 编辑:这里使用的power -8为例。另外,我想知道是否可以
高精度
地打印两个数字的差值。
浏览 8
提问于2018-07-16
得票数 2
1
回答
集合extra_float_digits =3
、
、
我在我的web应用程序中使用PostgreSQL 9.2,它有三个servlet和三个选择。当我发送第一个查询时:select * from "Nomi" limit 4execute <unnamed>: SET extra_float_digits = 3 这是什么命令?
浏览 0
提问于2012-12-28
得票数 3
回答已采纳
1
回答
在Python上使用decimal计算Pi
、
它基本上需要大量的阶乘运算和
高精度
的
浮点数
除法。我使用的是decimal类型,文档上说它允许任意精度的
浮点数
和整数。谢谢:)
浏览 1
提问于2013-06-03
得票数 6
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
整数与浮点数
字符串、整数、浮点数
如何使用整数和浮点数
Python 浮点数的冷知识
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
云直播
活动推荐
运营活动
广告
关闭
领券