2回答
c++中的SIGFPE误导
c++、sigfpe
显然，在定义全局变量"bug“的过程中发生了溢出，但程序在无害的计算1.0+2.0期间抛出了一个浮点异常。#include <iostream>#include <fenv.h>
const double bug = pow(
浏览 0提问于2014-02-04得票数 0
2回答
尝试将浮点数插入字符串时的随机数
python
输出：number is 1.6000000000000001和输出：number is 1.60000000000000008882
这与计算机计算数字的方式有关吗
浏览 0提问于2020-04-18得票数 0
1回答
如何处理由渐近集成引发的异常
sympy
我开始学会同情了。我尝试了一个使用渐近的集成问题，我得到了这个异常： packages/sympy/polys/domains/domain.py", in convert raise CoercionFailed("can't convert %s of type %s to %s" %
sympy.polys.polyerrors.
浏览 3提问于2017-03-29得票数 1
3回答
大多数未修补的Tomcat网络服务器都是脆弱的，是谁的错？
java、http、tomcat
在我看来，真正的问题是HTTP规范使用的是浮点数，在我看来，这些数字并不太像科学计算。在这种情况下使用浮点数似乎非常奇怪:很容易证明不同语言的实现会产生不同的结果。HTTP规范？(请记住，PHP遭受了完全相同的错误)。如果一种语言发生，我能理解你对语言的指责.但是，当两种不同语言发生两次远程拒绝服务攻击时，由于HTTP规范要求对非科学计算的浮点数进行解析，应该会引起注
浏览 8提问于2011-02-11得票数 7
1回答
如何在不同平台之间强制32位浮点计算一致性？
c++、floating-point、floating-accuracy
我有一个简单的代码，用浮点数操作。一个循环中很少有乘法、除法、exp()、减法和加法。当我在不同的平台(如PC、安卓手机、iPhones)上运行相同的代码时，我得到的结果略有不同。结果在所有平台上基本相等，但差异很小--通常是浮点值的1/1000000。我需要精确一致性的原因是为了避免<em
浏览 3提问于2014-11-04得票数 1
回答已采纳
2回答
函数不返回期望值
python、int、ceil
我使用ceil()函数将浮点计算的结果舍入到最近的整数。各种不同的输入都是有经验的。111 ***int(ceil(1.12*100)) = 113 ***我意识到这和浮点计算有关.我不知道如何可靠地捕获这个bug
虽然我有一些“粗糙”的方法，如下面概述的方法，但我认为这不是一个足够强大的解决方案。
浏览 1提问于2014-04-30得票数 0
回答已采纳
1回答
VS2012和VS2015之间浮点/双转换的差异
c#、visual-studio、visual-studio-2012、visual-studio-2015
这可能是VS2012或VS2015中的一个bug吗？或者，这种行为是否受到某些特定设置的控制，而这些设置被改变了？谢谢!
浏览 0提问于2017-03-15得票数 5
回答已采纳
1回答
如何在瞄准时做出可预测的轨迹弧线？
c#、unity3d
我正在尝试建立一个轨迹弧来预测物体的轨迹路径，拖动和射击看起来很好，但弧不起作用。最初，我使用箭头来显示对象的移动方向，但后来我尝试使用一个数组来显示对象的移动方向，该数组将存储2个点，并在每次迭代后不断更新，由于我使用运动方程来预测每一帧之后的位置，因此它将导致一条圆弧。using System.Collections;using UnityEngine;
{ floa
浏览 6提问于2020-05-08得票数 1
2回答
PHP在除法后有一个比较错误
php、floating-point、integer
在对值浮点数和整数进行除法后，我遇到了PHP比较问题。<?>它是PHP中的一个bug，还是只有我的计算机(Ubuntu x64)有这个bug？解决方案:
作为下面更正的答案，我只需要得到浮点数作为定义(.之后的数字)，像下面的$divprice = number_format( $newprice/intval($newprice), 2 )
浏览 4提问于2013-02-24得票数 1
回答已采纳
2回答
Java中奇怪的十进制计算，可能是一个错误吗？
java、math、decimal
我有奇怪的十进制计算，这让我大吃一惊，我有两个大的十进制数，一个是正常的过程，另一个是报价。然后，我要计算折扣百分比，并将其计算到最接近的整数。然后，我打印每个计算，以显示哪个语句是问题所在，因此我将每个语句的System.out.println放在下面：
System.out.println(listPrice.longValue() - offerPrice.longValue这是它的方式还是一个bug？
浏览 0提问于2013-08-19得票数 0
回答已采纳
7回答
为什么这个减法不等于零？
java、math、coldfusion、floating-point
我在我的ColdFusion代码中偶然发现了这些值，但谷歌计算器似乎也有同样的“错误”，差值为非零。
浏览 0提问于2010-01-05得票数 7
回答已采纳
4回答
Python地板划分中的舍入错误
python、python-2.7、python-3.x、floating-point、rounding
我知道浮点运算中会出现四舍五入错误，但有人能解释一下为什么会出现这种情况吗？据我所见，这要么是一个bug，要么是//的一个非常愚蠢的规范，因为我不知道为什么最后一个表达式应该计算为19.0。
为什么不简单地将a // b定义为floor(a / b)？编辑：8.0 % 0.4也计算为0.3999999999999996。从那时起，8.0 // 0.4 * 0.4 + 8.0 % 0.4的计算结果至少是8.0。地板分割和浮点</e
浏览 5提问于2016-07-26得票数 43
回答已采纳
1回答
GCC模式()定义
c++、function、gcc
我在C++中制作了更快的mod(x,2)函数，与GCC (用-O3 -ffast-数学编译)进行了比较，结果与GCC和Octave的结果相差很大： x *= 0.5f;}Input : -7.8539786 Octave mod(): 0.14602136
浏览 11提问于2022-04-05得票数 1
回答已采纳
1回答
有没有办法只使用整数来计算Mandelbrot集？
rendering
我想在JavaScript (JS)中创建程序，它可以任意精确地绘制曼德尔布罗特集 (缩放)。在JS中有一个整数类型的BigInt，它支持像+，*，/这样的简单操作，支持任意精确整数的幂。JS不支持对任意精度浮点数的计算。
问:是否有一种方法来执行Mandelbrot集的计算，只使用基于整数的计算(任意精度)--如果是，如何做？
浏览 0提问于2019-11-29得票数 3
回答已采纳
3回答
拼音小数(8.0 + 63.27 = 71.27000000000001)
ruby、decimal
ruby -v编辑:感谢关于浮点计算的文章。(去掉了bug标签)
浏览 2提问于2012-08-16得票数 0
回答已采纳
1回答
Firefox浮点和NoWrap Bug
html、css、firefox
因此，我在一个<td>中有几个<table>元素，其中我希望所有元素都在一行上，而不需要包装。默认情况下，我使用的是css white-space: nowrap;，所有元素都是水平对齐的，所以我也使用一些float:right;来空间一些元素。设想方案1
<a data-id="10796" da
浏览 0提问于2018-01-05得票数 1
回答已采纳
2回答
python十进制/浮点数中的邪恶
python、floating-point、decimal、python-2.4
在使用中出现了几个奇怪的bug后，我发现根本原因是代码中比较浮点数和小数的几个位置。
浏览 0提问于2010-11-15得票数 16
回答已采纳
7回答
“计算器错误”是代码问题吗？
windows、math、floating-point、floating-accuracy、calculator
我在很多博客文章中都看到过这个bug：我想知道这是不是真的是个bug，为什么这么多年都没有被发现？我应该注意什么，以确保它不会发生在我的自定义计算器程序中。
浏览 9提问于2010-12-13得票数 2
回答已采纳
3回答
如何确保整数除法得到正确的结果？
javascript、floating-accuracy、integer-division
我知道浮点计算很可能是不准确的。例如：这里x被设置为33.300000000000004而不是33。这可能看起来是一个小问题，但如果涉及舍入，它就会变得很严重。问题是，我被告知JS在整数和浮点数之间没有太大的区别。所以我开始担心是否有任何方法可以确保积分除法是正确的。
JS中通常的整数除法公式似乎是Math.floor(n/m)，其中n，m是整数。由于JS将每个数字视为浮点数，因此n/m将返回一个浮点<
浏览 9提问于2015-08-27得票数 1
云服务器
对象存储
ICP备案
云点播
腾讯会议
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号