1回答
我正在使用pyyaml从python字典中输出yaml文件，我想知道当它们被写入文件时如何设置浮点数的精度或输出格式。
如何创建yaml.dumper来处理此问题？
浏览 1提问于2014-03-08得票数 3
2回答
我知道int是实数，double基本上是两个中间带点的数字，是小数吗？现在出现了一个棘手的问题，即float数据类型。我觉得浮点型是一种安全的数据类型，你不确定并且想要接受整数和小数，我说的对吗？是不是既接受整数又接受小数？对于任何努力理解的人来说，这是我的计算器的代码，它可能会有所帮助。
浏览 2提问于2018-07-21得票数 1
1回答
我知道预测是一个浮点数，因为p是属于该类的概率。
但是，p不一定是0或1，那么Keras如何计算精度呢？Keras会自动将我们的预测舍入0或1吗？例如，在下面的代码中，精度为0.749，但目标为0和1，预测为浮点数，不一定为0.0或1.0。
浏览 5提问于2017-11-27得票数 8
回答已采纳
1回答
浮动，小数，价格和部分数量
、、、、
虽然这个特定实例中的问题涉及Django和Python，但我认为这个问题也出现在其他地方。
浮点数存在精度问题，当用于货币时，有时会导致不准确，所以在大多数情况下，固定精度十进制是存储类型的选择。但是，如果价格与非整数数量相结合，如发票或收据中的价格，情况又如何呢？比方说，仙女尘的价格是每克19.99美元/克，顾客购买的是3.5克的。价格是十进制的，数量是浮动的<
浏览 2提问于2013-06-10得票数 1
我有一个代码，在这里我必须处理半精确浮点表示数字。为此，我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16，这些运算符重载了自定义函数，同时使用了一个带有半精度浮点数的单精度浮点数字。半精度浮点=1位，5指数位，10位= 16位因此，我如何从一个精确浮点数转换为一个半精度浮点数</
浏览 0提问于2011-09-15得票数 0
我正在编写一个计算阶乘数字之和100的程序。我们不允许使用循环结构或程序状态；我们应该只使用递归。这意味着我将首先计算100！然后把答案中的每一个数字加在一起。例: 10 = 3628800。第一个循环是一个简单的递归结构，它计算n的阶乘，使用n= 100正确地操作。
math.floor( n/ 10 )：一旦数字被隔离，我们需要从数字中删除它。我们把n除以10，然后取最近
浏览 2提问于2021-06-13得票数 1
2回答
.NET框架的数学函数主要操作双精度浮点数，没有单精度(浮点数)重载。当在高性能场景中使用单精度数据时，这会导致不必要的强制转换，还会计算比所需精度更高的函数，因此性能会受到一定程度的影响。有没有办法避免这种额外的CPU开销？例如，有没有一个直接调用底层FPU指令的带有浮点重载的开源数学库？(我的理解是，这需要在CLR中提供支持
浏览 1提问于2009-08-18得票数 6
回答已采纳
我使用来获取一些具有一定精度的浮点数的格式化字符串。此外，我想添加前导零，以使所有数字的长度相等。对整数执行此操作的方法是这将导致01。但是，对精度较高的浮点数尝试同样的方法并不起作用：生成1.00。
如何将前导零添加到浮点值？
浏览 1提问于2015-02-26得票数 22
回答已采纳
2回答
：VoltsPerADC = 0.0196078myVolts = 2.5098我一直在寻找关于有效位数是如何在默认情况下确定的解释，但我很难找到对我有意义的解释。这个链接建议在默认情况下"print“语句将数字打印到10个有效数字，但在我的结果中似乎不是这样。有人能帮我解释一下吗。
提前感谢您的时间和耐心。
浏览 0提问于2010-04-01得票数 3
我有一个任意精度的浮点数(dtype=object)。如何将这个具有任意精度的浮点数数组转换为整数数组？，dtype=对象)b= a*821627.1218279279222972 a= b.astype(int)如何舍入b以得到整数数组而不失去精度？np.astype给出了以下错误：非常感谢你的帮助！
浏览 9提问于2022-10-16得票数 0
2回答
我遇到了一个问题，当从一个浮点数中减去一个数组时，python会自动舍入非常小的数字(小于1e-8)。举个例子： float(1) - np.array([1e-10, 1e-5])
有没有关于如何强制python不变圆的想法？当从numpy数组中减去时，也会出现同样的问题。
浏览 5提问于2011-07-29得票数 4
回答已采纳
这将在Ruby中生成一个具有一定精度级别的随机浮点数： number = rand * (max - min) + minendvar = rand(100) * 1.0 这会生成一个从0.0到10.0的随机浮点数这听起来不错，但我不确定如何用这种方法控制<
浏览 0提问于2013-12-31得票数 1
1回答
我做了一个Python3程序来计算学校项目的pi，但它总是停在16位小数点后。python中的数字长度有限制吗？如果是这样，有没有一种我可以使用的语言可以让我继续下去？
浏览 10提问于2017-01-10得票数 10
回答已采纳
为此，我创建了自己的C++类fp16，其中包含与此类型相关的所有运算符(算术逻辑运算符、关系运算符)，同时使用带有半精度浮点数的数字。半精度浮点=1个符号位、5个指数位、10个有效位数= 16位因此，我要做的是将单精度浮点数转换为半精度浮点数：
对于有效位数-我使用截断，即从32位中松散13位，以获
浏览 10提问于2011-09-15得票数 3
回答已采纳
当修剪由除法产生的大小数时，我得到一个溢出问题。100000000000000123.1)>>> floor(100000000000000123.1)
100000000000000128 从类型上看，数字似乎是一个普通的浮点数，它不能以所需的精度存储。因此，即使使用floor()，我也会遇到同样的问题。有没有更好的数据类型来存储‘长浮点数/双精度浮点数</
浏览 32提问于2019-04-17得票数 0
回答已采纳
我如何定义我自己的浮点格式(类型)，具有特定的精度和一定的指数和有效位数？例如，具有20位指数和107位有效数的128位浮点数(非标准15/112位)，或具有19/236位指数/有效数的256位浮点数。
浏览 10提问于2015-01-11得票数 5
我想知道如何将浮点数舍入到机器浮点数(例如双)。数字"0.01111116“不能用机器浮点表示，在某些四舍五入的模式下，这个数字应该表示为"0.011111159999999995”，有一定的精度损失。但是我不知道怎么用Java来完成这个任务？因此，我想知道API设置舍入模式，以获得机器浮点数在Java中的准确表示。谢谢!
浏览 5提问于2013-05-18得票数 3
回答已采纳
t = numpy.float32(.3)r = numpy.float32(-.3)_t == 1 # -> False
使用普通的Python
浏览 1提问于2017-05-15得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
