1回答
当在log2()中使用gmpy2时，在16位后似乎不准确。在15位时，它似乎工作得很好，但在此之后，使用mpz(mpfr(2) ** mpfr(x))的答案是不正确的。我需要改变精度吗？我以为python本身就能精确到53位数。
另外，在gmpy2中，除了10和2以外，还有什么方法可以在基数上使用对数运算吗？例如，基数8或16。
浏览 3提问于2015-10-10得票数 0
回答已采纳
8回答
将Double用于财务软件
、、、、
请不要回复“Double是不准确的，你不能代表0.1！你必须使用BigDecimal"...双精度表示15位有效的小数位精度。我猜问题是不准确的累积，但它有多糟糕？要做多少次运算才能影响到第12位？编辑:关
浏览 3提问于2013-11-14得票数 3
4回答
我被赋予了将Java语言的Java.util.Random()移植到JavaScript的任务，并且在Javascript中使用足够大的位运算符时，我遇到了巨大的性能冲击/不准确。一些粗略的研究表明“JavaScript中的位运算符天生就很慢”，因为在内部，JavaScript似乎会将所有的双精度值转换为有符号的32位整数来执行位运算(有关这方面的更多信息，请参阅)。return this.seed >>> (48 - bi
浏览 1提问于2010-04-05得票数 6
3回答
php echo 199.8 + 0.9 -200.7; //expect 0, result 2.8421709430404E-14 ? ?>
在PHP版本5.3.2-1 ubuntu4.7上测试
浏览 0提问于2011-06-15得票数 0
我有一个16位PCM样本的数组(为了这个问题，假设它们已经被签署了)。我必须应用一个值，从0到65535，作为样本的增益(音量控制)，其中65535是最大音量(没有变化)，0是没有卷(沉默)。最简单的解决方案是将增益值转换为浮点数0.0 - 1.0，在数组上迭代时，也将迭代的示例转换为浮点数，然后将两个值相乘，并将结果转换回16位整数，然后将该整数写回数组。我觉得这将是非常的低效--我们将进行多个short -> float -> short转换，浮点运算比整数运算慢，所有这些都会被放大，因为(通常) 4410
浏览 3提问于2022-05-23得票数 0
回答已采纳
搜索显示了10多年前的不准确问题，但没有真正明确这是否被认为是一个问题，或者永远都不会得到解决。在我的例子中，对于所有舍入模式，我需要32位(是的，32位)浮点运算的结果完全符合IEEE-754中的定义。但是，valgrind稍微关闭了，我的程序在检测到错误时终止。在x86上，获得正确的32位IEEE FPU需要SSE操作，这使得工作变得很困难。
valgrind的一种选择是链接到外部IEEE仿真器中。
浏览 0提问于2016-04-13得票数 1
2回答
我试图获得文件的大小>2GB，但PHP接缝有问题，无论64或32位版本。在64位操作系统上运行在64位处理器上的PHP 64位版本上，它仍然使用filesize()函数返回错误的文件大小。在我发现它返回一个负数之前，或者什么都没有.如果文件大小改变，则该数字正在更改，但在>2GB的文件上不准确。如果php使用32位整数，我可以理解小于实际大小的数字，零甚至负数，但当我阅读时，php 64位</em
浏览 2提问于2014-06-16得票数 1
因为PHP中的浮点型数据类型不准确，而MySQL中的浮点型数据比整型数据占用更多的空间(这是不准确的)，所以我总是将价格存储为整数，在存储之前乘以100，以确保我们恰好有两位小数精度。然而，我认为PHP是行为不端的。Price = string(4) "1.15"Integer price = int(114)
这将证明float类型的不准确性
浏览 0提问于2009-05-01得票数 12
回答已采纳
2回答
在对一组数字求和时，有时我会得到一些小数的小数点？当数字被解析为字符串时，为什么会发生这种情况？我知道有一些关于浮动的%"&！ foreach($_SESSION['import_csv_posts']['result']['csv'] as $key => $post){ if($this->
浏览 0提问于2012-04-12得票数 0
回答已采纳
2回答
然而，我对他们的局限性有点困惑，因为在类似的问题上，无论是浮点数还是双数都是不准确的，无论有多少位数，还是只有16位数都是不准确的。Outputs 9.999999999999998我的第二个问题是关于使用BigDecimal。我知道我应该使用BigDecimal进行精确的重要计算。，
浏览 3提问于2015-08-08得票数 7
4回答
为了减少Ajax请求从服务器检索的数据量，我计划将大约30个布尔值字段转换为一个二进制数，然后使用按位运算符来利用这些数据。我以前没有使用过按位运算符，我想知道它们在PHP和JavaScript中是快还是慢，也就是说，与只查找存储在数组/对象中的布尔值相比，构建二进制数，然后使用按位运算符将其与另一个进行比较的性能如何？
浏览 3提问于2010-12-13得票数 2
回答已采纳
我正在尝试将一个非常简单的函数从NodeJs转换为PHP。我想我找到了如何转换80%的代码，但是我被位运算符卡住了。bytes.length - 1; ++i) { }
} 这是转换后的PHPbytes[$i + 1] = (($bytes[$i + 1] ^ ($code << ($i % 5))) | 0);
return $byt
浏览 9提问于2020-04-08得票数 0
当我尝试在php和js中执行逐位XOR运算时，它们在某些情况下会产生不同的结果，例如2166136261^ 101 = 2166136224(php)
我的理解是因为php运行的是64位，而不是32位的js。
浏览 32提问于2016-08-31得票数 1
2回答
我正在将一个PHP应用程序集成到一个API中，该API以0x00000008、0x20000000等的形式使用权限，其中每个权限都表示给定的权限。他们的API返回一个整数。在PHP中，如何将类似0x20000000的内容解释为整数，以便能够使用按位运算符？
另一位开发人员告诉我，他认为这些数字是十六进制注释，但在googling中，我在PHP中找到了有限的结果。我如何获得一个integer 权限集，并使用按位运算符来确定用户是否可以？
浏览 4提问于2017-10-05得票数 4
回答已采纳
2回答
我有一个大量使用STL的bitset的程序。gperftools显示，性能瓶颈之一是std::_Base_bitset::_S_maskbit (内联)。我试图实现我自己的bitset版本，其中使用了掩码查找表。但是，因为我的版本没有使用像__builtin_memcpy这样的gcc内置指令，所以它实际上比STL bitset慢得多。
所以我想知道是否有一种方法可以取代std::_Base_bitset::_S_maskbit，或者我应该通过复制STL bitset的代码并添加一个查找表来编写我自己的
浏览 0提问于2014-10-02得票数 2
1回答
我正在用传统的学校算术技术来计算2^p，乘以2，如果> 9，我写了两行代码，用位运算符返回n/ 10和n% 10。当乘数为2:最大数为(2 * 9) + 1时，这些方法都是精确的。但是，这种方法从20开始是不准确的，而不需要。这些技术加快了节目的速度。
因为我想确定我是否正确地使用了C，这一技术是好的实践吗？
浏览 4提问于2022-09-24得票数 0
php
$maxval = (2**64);
echo number_format> 该代码用于检查将作为字符串出现的数字，并且我需要确保它是一个无符号64位整数。因此，一旦我检查到字符串只由数字组成，我需要确保范围是正确的。 但我得到了一些奇怪的行为。
浏览 51提问于2020-10-14得票数 0
回答已采纳
2回答
我在Services_JSON php库中找到了一堆代码： $stk = array(SERVICES_JSON_IN_OBJ
浏览 1提问于2013-03-05得票数 0
回答已采纳
我的工作精度是两位小数，产品值和用户余额。问题是，当我使用$inc运算符添加或减去一个带有小数位的值时，在我的用户文档中会得到一些精度错误，如下所示： "balance": 31513.210000000003,我使用node和mongoose来操作我的数据库，我知道该语言的浮点数不准确，但我想知道是否有任何方法可以在我的mongodb数据库中克服这个问题，并强制它始终使用两位小数，因此当我查询一个余额为正的用户时，像0.00000000003
浏览 47提问于2018-07-31得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
