如何在android中删除浮点数的尾数(java)
在Android中删除浮点数的尾数可以使用Java语言提供的Math类中的round()函数进行四舍五入操作。具体步骤如下：
- 首先，将浮点数传入round()函数中。例如，要删除尾数的浮点数为float或double类型的变量num。
- 调用Math类的round()函数，传入浮点数作为参数。该函数会返回一个最接近原始浮点数的整数。
- 将返回的整数转换回浮点数类型，可以使用floatValue()或doubleValue()方法。
下面是示例代码：
float num = 3.14159f; // 原始浮点数
int roundedNum = Math.round(num); // 四舍五入操作
float result = (float) roundedNum; // 转换回浮点数类型
// 输出结果
System.out.println("原始浮点数: " + num);
System.out.println("删除尾数后的浮点数: " + result);应用场景： 在开发Android应用中，如果需要对浮点数进行精确计算或者展示时，可能需要删除尾数。例如，当处理金融数据或进行几何计算时，删除浮点数的尾数可以提高计算精度。
推荐腾讯云相关产品：
- 云服务器（Elastic Compute Cloud，简称 CVM）：提供高性能、可扩展的计算能力，支持多种操作系统和应用。 产品链接：https://cloud.tencent.com/product/cvm
- 云数据库 MySQL 版（TencentDB for MySQL）：提供高性能、可扩展的关系型数据库服务，适用于各种规模的应用程序。 产品链接：https://cloud.tencent.com/product/cdb_mysql
请注意，以上推荐的产品仅为示例，并非实际的答案要求。请根据实际情况选择适合的产品。
相关·内容
据我所知，java将以32位整数的形式将浮点数存储在内存中，具有以下属性：
第一个位用于确定符号。
接下来的8位表示指数。
最后的23位用于存储分数。
这就没有为这三种特殊情况留下多余的部分：
非数
正无限
负无限
我可以猜到负0可以用来存储其中一个。
这些在记忆中是如何表达的呢？
浏览 10提问于2016-03-22得票数 43
回答已采纳
1回答
例如，给定的程序
FILE *f = fopen("test.txt","w");
double d = 5.2;
fwrite(&d, sizeof(typeof(d)), 1, f);
fclose(f);
当你使用xxd查看我得到的内容时
//binary
0000000: 11001101 11001100 11001100 11001100 11001100 11001100 ......
0000006: 00010100 01000000 .@
//hex
0000
浏览 0提问于2019-02-11得票数 3
回答已采纳
二进制中的5是101
二进制中的3是11
5的指数是127 + 2 = 129 10000001
3的指数是127 + 1 = 128 10000000
5的尾数是01000000000000000000000
3的尾数是10000000000000000000000
指数129 - 128 = 1的均衡
3的尾数向右移动1
01000000000000000000000
添加两个尾数
01000000000000000000000+01000000000000000000000 =
10000000000000000000000
结果：
sign = 0
exponent = 1000
浏览 4提问于2020-06-28得票数 0
1回答
我正在努力理解java是如何与浮点一起工作的。据我所知，32位中必须有符号、指数和尾数(浮点数)。但是，我不明白java是如何在尾数中定义十进制部分的。据我所知，尾数可以从0,....一直到9,......
问题是java如何定义点的位置在哪里。有人能解释一下吗？
浏览 3提问于2015-08-16得票数 0
回答已采纳
在这种情况下，我将一个双变量转换为整数。这给了我错误的结果。为什么会发生这种情况？
>>> $amount = (double) 1052.10
=> 1052.1
>>> $amount = $amount * 100;
=> 105210.0
>>> (int) $amount;
=> 105209 // weird
我能够通过先舍入变量(即：(int) round($amount))来修复它，
但我还是想知道为什么会发生这种事？
使用PHP7.2.9
浏览 1提问于2018-10-13得票数 0
标题不言而喻:如何将IEEE-11073 16位SFLOAT转换为Java中的简单浮点？
浏览 2提问于2012-07-19得票数 6
回答已采纳
2回答
在Java 中，它说：
对于十六进制浮点文字，至少需要一个数字(无论是整数还是分数部分)，指数是强制性的，浮点类型后缀是可选的。指数由ASCII字母p或P表示，后面跟着可选的带符号整数。
据我所知，表示字母的指数必须是p或P，才能用十六进制数字E或E解决歧义。为什么它会说后缀表示类型(浮点数对双)是可选的，当使用它时会引入字母d，D，f，F的歧义，这也是十六进制数字？
浏览 1提问于2018-06-25得票数 3
回答已采纳
可能重复：
有人能给我解释一下吗？
<?php
echo (int) ((0.1 + 0.7)*10);//displays an output: `7`
?>
我本来想见到8的，但我得到了7 --请解释一下这种行为。
这是PHP的一个特殊特性吗？或者我不理解PHP中的整数类型
谢谢。
浏览 3提问于2012-01-04得票数 1
回答已采纳
我观察到一些很奇怪的东西。如果您在Swift中运行此代码：
Int(Float(Int.max))
它与错误消息一起崩溃：
致命错误:浮点数不能转换为Int，因为结果将大于Int.max
这实际上是违反直觉的，因此我将表达式扩展为3行，并试图查看操场中的每一步发生了什么：
let a = Int.max
let b = Float(a)
let c = Int(b)
它以同样的信息崩溃。这一次，我看到a是9223372036854775807，b是9.223372e+18，很明显，a比b大36854775807。我也知道浮点数是不准确的，所以我期望的东西比Int.max少，最后几位数是
浏览 3提问于2017-04-30得票数 7
回答已采纳
这是计算2的1000次方的代码。
#include <stdio.h>
int main() {
double multiply = 1;
int i;
for(i = 1; i <= 1000; i++) {
multiply *= 2;
}
printf("%lf\n", multiply);
return 0;
}
和我的系统上的输出，以及
107150860718626732094842504906000181056140481170553360744375038837035105112
浏览 0提问于2012-11-28得票数 4
回答已采纳
3回答
免责声明:这个问题可能没有实际价值，它更多的是一个困惑/好奇心的问题。
在Java中，我可以编写以下代码来以编程方式找到int的大小：
public static void main(String[] args)
{
int x = 1;
int count = 1;
while((x = x << 1) != 0)
{
count++;
System.out.println("x: " + x + ", " + count);
}
Syste
浏览 0提问于2012-07-13得票数 6
回答已采纳
我使用java服务器(jetty)上的websockets将值(浮点数)作为字节发送，使用DataView.getFloat32 (从ArrayBuffer创建)在我的javascript代码中提取它们。
我的问题是，数字似乎不正确(但几乎等于实际值)，例如：
如果我发送2.43，在javascript中它输出2.430000066757202，或者在其他情况下，类似于2.439999340243。
在java中，我使用ByteBuffer：
byte[] numberBytes = ByteBuffer.allocate(4).putFloat(number).array();
getFlo
浏览 1提问于2015-02-24得票数 0
2回答
在双精度系统的IEEE标准中，我们知道法向数的最小指数为1-1023=-1022，0的表示为(1.00.0)_2* 2^(0-1023)，其中指数为-1023。
低于正规数的指数为-1022，与正常数相反，前导尾数为0.也就是说，一个次正规数的表示形式如下：(0.b，.，c)_2 * 2^(-1022)，其中b，…，c是一系列二进制值(即0或1)。
我不知道以下表示是否被视为低于正常数：
(0.00.0)_2* 2^( -1022 )，其中mantissas均为0，指数为-1022。
之所以提出这个问题，是因为上面的表示在数学上等于0，而低于正常的数与0不同。此外，我尝试过，但没有找到
浏览 1提问于2015-01-23得票数 3
4回答
我的问题是关于java中的转换。我得到了一个整数1615021049。在除以1(这也是一个浮点数)时，我在浮点数中得到的答案是1.61502106E9，当转换回整数时，得到的结果是1615021056，这不是原始数字。请帮帮忙。如果我将变量m和b转换为双精度，同样也能正常工作。
int a=1615021023;
float m=1;
float b=a/m;
int d= (int) b;
浏览 0提问于2013-01-04得票数 4
1回答
这个问题与其说是关于C，不如说是关于算法。我需要实现strtof()函数，它的行为与GCC函数完全一样--并且从头开始执行它(没有GNU等)。
让我们跳过检查，只考虑正确的输入和正数，例如345.6e7。我的基本算法是：
将数除以分数和整数指数，因此345.6e7分数为3.456e2，指数为7。
创建一个浮点指数。为此，我使用以下表：
static const float powersOf10[] = {
1.0e1f,
1.0e2f,
1.0e4f,
1.0e8f,
1.0e16f,
1.0e32f
};
static const flo
浏览 16提问于2021-06-09得票数 1
回答已采纳
我决定用完整的密码来解决这个问题。我创建了一个测试用例，只是演示了我认为奇怪的行为，以便其他人可以运行代码。
using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Windows;
using System.Windows.Media;
namespace Test
{
public class TestSizeVisual: FrameworkElement
{
public double MinimumXInDIPs
{
浏览 1提问于2013-10-09得票数 0
回答已采纳
1回答
是否有从双到浮点的转换所依据的大小(十进制范围)？一开始我是这么想的，但指数部分使我感到困惑。那么，控制这种转换的规则是什么呢？
第二，当从浮点数转换为整数时，规则只是去掉了分数部分吗？意味着12.5 * 10^-6将计算为零？
编辑：
我将用另一种更精确的形式写我的问题：
在java中，将双值转换为浮动的二进制级规则是什么(即尾数，缩小转换过程中的指数操作)？
这些二进制规则是否对应于十进制规则(人类可读的)，以便根据源(双)值可以预测结果？
在将浮动类型规则转换为整数类型时是否有类似的规则？
谢谢
浏览 0提问于2018-12-15得票数 0
1回答
微时间圆浮子
、、、
PHP版本5.3.6
示例
<?php
$timeStart = microtime(true);
// some code ...
$timeExecution = microtime(true) - $timeStart;
$time = round($timeExecution, 2);
file_put_contents('h:/round.txt', $timeExecution . ' = ' . $time . "\n", FILE_APPEND);
?>
文件round.txt包含以下几行：
131.30484
浏览 1提问于2012-01-20得票数 2
2回答
拿走
int x = 5;
float y = x;
//"I know it's a float .. you know it's a float .. but take it's address
// and pretend you're looking at an integer and then dereference it"
printf("%d\n", *(int*)&y); //1084227584
我为什么看到这个号码？
二进制中的01015 5可以被认为是(1.25 * 2^2)，这意味着
可表示为：
浏览 4提问于2012-04-18得票数 3
回答已采纳
在java中，有Math.ulp(123.456f)，我似乎在php中找不到类似的。我正在寻找浮点精度不加倍。
令人惊讶的是，在寻找php答案时，有大量关于如何比较浮动的错误建议。我看到的最常见的是
function floatCompare($a,$b) {
return (abs($a-$b)<0.001);
}
这是个坏主意，因为如果你的价值是0.000005，该怎么办？一个更好的方法是
function floatCompare($a,$b) {
return (abs($a-$b)<ulp($a)*5);
}
但是在php中不存在ulp命令。
浏览 1提问于2015-09-24得票数 2
回答已采纳
在JavaScript中，我很想知道科学表示法中表示的最大可能数是多少，而没有得到“无穷大”，所以我编写了一个小程序，发现它就是这个：
1797693134862315807937289714053034150799341327100378269361737789804449682927647509466490179775872070963302864166928879109465555478519404026306574886715058206819089020007083836762738548458177115317644757302700698555713669596228429148
浏览 3提问于2017-05-31得票数 3
回答已采纳
1回答
片段开放活性
、、、、
我是android开发中的新手，我在运行时遇到了这个错误。我知道这里有很多这样错误的帖子，但是没有人能给我答案。这已经花了我很多时间。请帮帮我!
我要从碎片开始活动。不幸的是，程序崩溃时出现了这样的错误。我要在我的案子里解决什么？通过Logcat，我了解了xml文件的问题，以及如何在java中初始化它。
at www.smartavenue.com.WeatherActivity.onCreate(WeatherActivity.java:82)
在代码中，这一行：
setContentView(R.layout.activity_weather);
Logcat错误：
java.lang.R
浏览 0提问于2015-03-24得票数 0
1回答
我的朋友偶然发现了一个奇怪的错误(至少我认为这是一个错误)。当你在浏览器的控制台中将某个数字相乘时，在我的例子中是1.4，那么当你将它与3，6和7相乘时，输出会非常有趣。在Firefox中检查这些输出：
在Chrome中和Firefox中是一样的，在Edge和IE中更有趣，乘法的结果甚至更少6：
我用谷歌搜索了一下，但是找不到任何关于这个错误的解释。有人知道为什么浏览器在这个乘法上失败了吗？
编辑:下面的评论解释了为什么这个数字不仅仅是4.2，而是一个很大的批次数字，得到了4.199999999999999。感谢您向我推荐这些答案。
然而，为什么这种情况只发生在3，6和7，
浏览 5提问于2016-01-29得票数 0
2回答
真正基本的mpir问题
、、、
我知道这是个很愚蠢的问题，但我希望有人能帮上忙。
出于精度的原因，我不得不使用mpir，所以我必须为它翻译我所有的c代码。基本上，我只需要更多有意义的精确数字。
然而，我真的对变量使用的数据类型感到困惑。我知道mpz_t是用来表示整数的。由于我存储的数字有很多小数位，这显然是不合适的，因为整数只是整数
mpq_t代表有理数。因为我不认为每个存储的值都是有理数，所以我不认为这是合适的。
mpf_t用于浮点数。由于这有“有限的精度”，我看不出这对我的变量有什么用处，因为我被告知使用mpir的主要原因是为了提高精度。
我只是希望能够以一种准确的方式表示我的数字，我之所以使用它，是因为我被告知，在进行
浏览 0提问于2013-03-20得票数 1
回答已采纳
2回答
我目前正在学习Java，在我的书中写了一个从~4,94E-324到~1,798E+308的双精度范围
我对此有几个问题:双精度怎么可能是零(0)？比如双精度d= 0；当双精度没有包括零的范围时，为什么这是可能的？为什么没有负数呢？我是不是忘了什么？谢谢你的帮忙!
诚心诚意，马克西
浏览 1提问于2015-02-07得票数 1
所以我一直试图把浮点数中的有效数字数和精度的相对损失联系起来，但我似乎无法理解。我之前读过一篇文章，上面说要做以下事情：
将浮点数设置为2147483647。你会发现它的价值实际上是2147483648。
从浮点数中减去64，您将看到操作是正确的。
从浮点数减去65，你会看到你现在有2147483520，这意味着它实际上减去了128个。
那么，当有10个有效数字时，为什么是128呢？我理解如何存储浮点数(1位表示符号，8位表示指数，23位表示尾数)，并理解如果假设所有整数都会自动在浮动数据结构中找到精确的归属，那么将如何丢失精度，但我不知道128来自何处。我的直觉告诉我，我
浏览 3提问于2011-08-10得票数 5
回答已采纳
1回答
这是我的代码，用于打印浮点数的尾数。存储在$t1中的值是值0xBEDCFFFF，其尾数为101110011111111111111111111。我的代码打印出来的时候没有开头的那个。当需要时，如何编写子句来输入隐藏位1或0？
li $t4, 1 # Reset counters
li $t3, 23
mantloop: # Loop to mask and print each bit
ble $t3, $t4, finish # escape clause
浏览 171提问于2018-06-10得票数 1
回答已采纳
1回答
这个问题的答案可能是痛苦的显而易见，但我无法在Mozilla文档或谷歌上通过粗略的搜索找到它。
如果你有这样的代码
Number.MAX_VALUE + 1; // Infinity, right?
Number.MIN_VALUE - 1; // -Infinity, right?
然后，我希望向Number.MAX_VALUE添加任何内容都会将其推到Infinity上。结果就是Number.MAX_VALUE向我吐口水。
然而，当我在Chrome控制台中游玩时，我注意到它实际上并没有变成Infinity，直到我添加/减去了足够的内容：
Number.MAX_VALUE + Math.pow
浏览 3提问于2012-05-31得票数 16
回答已采纳
2回答
在乘法的结果中，我得到的结果与正数的乘法结果是不同的。这是预期的行为吗？如果是，为什么？
$val1 = 29;
$val2 = 0.29*100;
echo floor($val1); // prints 29
echo floor($val2); // prints 28
浏览 2提问于2015-12-27得票数 0
回答已采纳
1回答
(-128.4875)基地10到单精度IEEE 754
将(128.4875)基数10转换为二进制是：1000 000。0111 1100 1100 1100
二进制的科学符号是：1。0000 1111 1001 1001 1001.X2^7
符号位是：1 (1位)
尾数为0000 111110011001100 (23位)
指数为7+ 127 = (134)基10 = 1000 0110 (8位)。
通过在线转换器检查我的答案：
http://s17.postimg.org/3pkw9glm7/mantissa.png
(not enough reputation to post in-
浏览 3提问于2013-09-28得票数 1
回答已采纳
3回答
可能重复：
我想在Java中使用任意的浮点数或双值，并将其转换为有理数--即。A形式a/b中a和b是长整数。我怎样才能以合理有效的方式做到这一点呢？
(顺便说一句，我已经有了简化分数的代码，所以不管a/b是否以最简单的形式存在)。
浏览 7提问于2012-11-04得票数 2
回答已采纳
1回答
我使用floats来指定纹理坐标，在0-1范围内。OpenGL喜欢这个范围内的东西，我可以用这种方式指定坐标，但是当我开始使用更大的纹理时(比如增加4096或8192像素)，我可能会开始失去精度。例如，如果我想在8192 x8192px纹理中指定一个坐标(1,1)，那将映射到1/8192=0.0001220703125。这似乎评估为0.000122070313作为一个浮动.我担心我的OpenGL着色器不会把它映射到我想要的像素上。
我可以将坐标作为整数保留一段时间，但迟早我必须转换它(可能是在着色器本身的后期)。有办法解决这个问题吗，还是说这是我应该关心的问题？
再乘以它，我得到了1.000
浏览 2提问于2012-02-14得票数 4
回答已采纳
当我在PHP (v5.5.9)中执行以下代码时，会发生意想不到的事情：
$valueAsCents = 54780 / 100 * 100;
var_dump($valueAsCents);
var_dump((int) $valueAsCents);
这会返回
float 54780
int 54779
因此，显然，浮点值没有小数，不等于int值。对这里发生了什么有什么想法吗？
浏览 2提问于2015-09-15得票数 6
回答已采纳
我正在使用一个向我发送十六进制值的设备，我需要将这些值转换为他的实际浮点值。有人知道如何在matlab中将十六进制值转换为浮点数吗？
Thx
浏览 0提问于2014-11-13得票数 0
2回答
我在某个地方听说，当将.9和1表示为离散的有限位时，它们之间的数字比0和.1之间的数字要多(为了便于论证，我们假设32位浮点数)。有没有人能给我解释一下为什么会这样，并给出一个0到.1之间的数字的例子，这个数字不能表示，但它在.9和1之间的对应数字(通过数学添加.9得到)可以用一个浮点数来表示？
(这与rngs相关，因为它们可能偏向不同的范围。)
浏览 3提问于2013-07-03得票数 1
回答已采纳
我正在使用MPAndroidChart在我的安卓应用程序中绘制一个图形。接受x轴值和y轴值的"entry()“函数的声明语法为：条目(浮x，浮y)。
现在，我在Kotlin的float的问题如下：
我一直从另一个蓝牙设备接收数据，其中一个数据字段是时间戳值(无符号32位)。这个时间戳值以ms为单位，我需要将这个值除以1000，然后在"sec“中画出x轴值。但是，我在Kotlin中使用"float“数据类型来丢失很多精度。
例如，考虑以下代码：
/**
* You can edit, run, and share this code.
* play.kotlinlang
浏览 6提问于2020-01-11得票数 0
回答已采纳
3回答
我一直在尝试天花板函数，并且得到了一些奇怪的结果。如果我对一个乘以百的十进制数执行ceil运算，我会得到一个确定的结果。但是，如果我直接对乘法的结果执行ceil，我会得到完全不同的输出。另一个转折是，这些不同的结果只发生在特定的数字上。任何帮助都将不胜感激。
#include <stdio.h>
#include <cmath>
int main ()
{
cout << "The ceiling of " << 411 << " is " << ceil(411) << en
浏览 1提问于2011-04-06得票数 6
编码
作为我目前正在开发的图形应用程序的一部分，我需要在32位纹理的每个像素上存储三个签名浮动。目前，为了达到这个目标，我使用了以下C++函数：
void encode_full(float* rgba, unsigned char* c) {
int range = 8;
for (int i = 0; i < 3; i++) {
rgba[i] += range / 2;
rgba[i] /= range;
rgba[i] *= 255.0f;
c[i] = floor(rgba[i])
浏览 5提问于2016-08-03得票数 0
当在java中计算从1到50000的两个方向的数字的调和和时，所获得的值必须匹配，但令我惊讶的是它们不匹配！请告诉我为什么会这样。
public class Main {
public static void main(String args[]){
int maxD = 50000;
double suml2r=0, sumr2l=0;
for(int i=1; i<=maxD; i++){
suml2r += (double)(1)/i;
sumr2l += (double)(1)
浏览 2提问于2013-07-05得票数 1
回答已采纳
1回答
我目前正在学习cpp中的类型间数据转换。我被教导过
对于一个非常大的int，当转换为双倍时，我们(对于某些计算机)可能会遭受精度的损失。
但没有为这一声明提供任何理由。
有人能提供一个解释和一个例子吗？谢谢
浏览 0提问于2018-09-25得票数 5
回答已采纳
在我的应用程序中，我使用浮点值来保存客户分数。根据要求，分数在分数之前只能有5位小数位，在分数之后可以有3位数字。
例如: 99999.999
但是，我不理解使用sysout打印浮点值时的奇怪行为。
有关更多详细信息，请参阅下面的示例代码：
public class Test {
public static void main(String[] args) {
float f1 = 9999.999f;
System.out.println(f1);
float f2 = 99999.999f;
System.out.p
浏览 0提问于2017-11-05得票数 3
1回答
我正试图在WebGL2中对片段着色器进行计算。我注意到那里的计算不像在C++上那样精确。我知道高精度浮点包含32位，无论是在片段着色器还是在C++中。
我试图计算1.0000001^(10000000)，并得到约2.8在C++和3.2个左右的着色器。你知道为什么碎片着色器的计算不像在C++上一样精确吗？
C++上的代码
#include <iostream>
void main()
{
const float NEAR_ONE = 1.0000001;
float result = NEAR_ONE;
for (int i = 0; i < 10000000;
浏览 3提问于2019-12-12得票数 1
我的第一个想法是实现一个类，它将系数存储为double，并将10^X存储为int/short。
我想使用工程符号而不是科学符号，因为它对最终用户来说更简单。
如果有这样做的项目，我似乎找不到它们。
我知道System.Numerics.BigInteger是存在的，但它太慢了。我真的想要在移动设备上执行许多计算的高速。我只想将数字存储为工程符号。
有什么想法吗？
浏览 0提问于2015-04-01得票数 1
我知道IEEE 754浮标在运行过程中失去了精确性，但这并不是完全渐进的。由于指数数学的原因，当小数点达到最大值时，它基本上会把小数点移到上面。然而，由于这不是在基数10，我知道它不会从，比方说，10.000到100.00。尽管如此，从我的理解来看，它在基数2中做了一些类似的事情。我猜在0到1之间会有很多这样的变化，但是它们会变得非常间隔。在哪里发生了这些精度上的变化？，这对于告诉用户我的程序何时会开始丢失精度很有用。
浏览 1提问于2014-04-08得票数 1
1回答
根据的说法，Ruby是一个“使用本机架构的双精度浮点表示的不精确实数”。
这是否意味着在32位Ruby上，它们等同于C float，在64位Ruby上等效于C double
如果是，我如何在运行时找到程序运行在哪个Ruby上(准确地说，是多少位)？它应该适用于任何操作系统和任何ruby实现(mri、rubinius和jruby)。
我想出的解决办法是：
def architecture_bits
1.size * 8
end
这在任何情况下都有效吗？有没有更好/更优雅的方法？
浏览 5提问于2014-11-08得票数 0
回答已采纳
假设您有一个非常大的64位值测量时间(以微秒为单位)。我想把它转换成一个浮点数，以秒为单位，这意味着时间值除以1000000。在不丢失数据的情况下，您可以按照什么顺序执行除法和转换？
如果我先做除法，它仍然是一个整数，我失去了测量的次秒部分。如果首先将值转换为浮动，则测量将从64位截断为24位，结果是不正确的。
如果同时执行这两个操作，编译器是否足够聪明？还是需要手动将其分解成碎片？
我知道，到目前为止，我在最终的浮动中仍有可能失去精度，这是很好的。我想避免任何额外的损失，因为转换的方式是执行。
浏览 0提问于2020-07-25得票数 0
回答已采纳
1回答
当我将PHP的precision设置设置为18或更高值(无论是在php.ini中还是在运行时)时，round()函数会产生意想不到的结果。这是个窃听器，还是我少了什么？
例如，将浮点数12.4886724321舍入4十进制精度的结果如下：
14: 12.4887
...
17: 12.4887
18: 12.4886999999999997
19: 12.48869999999999969
20: 12.48869999999999969
21: 12.4886999999999996902
22: 12.4886999999999996902
23: 12.48869999999999969
浏览 5提问于2016-01-31得票数 3
我制作了这个算法来测试python是如何比较接近数字的
x = 2.5 # arbitrary number chosen to do the testing
y = float(input('Insert Y ')) #
print('X > Y = {}'.format(x > y)) # shows whether x>y
print('X = Y = {}'.format(x == y)) # shows whether x
浏览 1提问于2021-03-22得票数 2
回答已采纳
有没有人可以解释为什么会在JavaScript中发生以下情况？
let x212 = 154688977320418212;
// returns 154688977320418200
let x230 = 154688977320418230;
// returns 154688977320418240
let x256 = 154688977320418256;
// returns 154688977320418240
let x257 = 154688977320418257;
// returns 154688977320418270
这是否意味着如果不将长整数值转换为字符串，
浏览 0提问于2019-01-08得票数 0
回答已采纳
1回答
如果一个浮点数存储在一个字节中，使得第一个位是符号，那么接下来的三个位表示超过-3的指数，最后四个位表示尾数，那么位模式00100100表示？我知道当第一个位是0时，这个数字是正的，我也知道010多余-3是-1,0100是4，但是我如何得到一个浮点数有所有这些呢？
浏览 2提问于2015-04-18得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储活动推荐
腾讯云开发者
