腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(7366)
视频
沙龙
1
回答
有没有办法在双
精度
数中得到超过13个
小数点
?C#还是
JS
?
、
、
、
有没有办法让双
精度
数在C#或
JS
中包含的
小数点
超过默认的13 (在
JS
中是17)?就像前25位圆周率的双倍?
浏览 0
提问于2018-10-16
得票数 0
1
回答
用asm.
js
进行高
精度
的计算实用吗?
、
、
、
、
我的理解是Javascript只对数字使用一种数据类型,即双
精度
浮点。由于这个限制,我不能让我的程序像我希望的那样精确地绘制。互联网上有一些图像和视频表示分形图像,它们非常精确,以至于在
小数点
后使用数百位数字。请看这里的示例:有没有一种使用asm.
js
进行高
精度
计算的实用方法?有多高?
精度
需要是可调的。 如果我不得不试试,我猜既然asm.
js
确实
浏览 7
提问于2014-02-28
得票数 4
1
回答
为什么浮点数的输出比它在c中的大小包含更多的零?
#include<stdio.h>{ printf("%f", a);}
浏览 3
提问于2020-02-04
得票数 0
1
回答
如何用javaScript验证一个数字有2小数位的
精度
?
我试着检查一个数字是否有
小数点
2位的
精度
。我知道如何将数字转换为
小数点
2位的
精度
,如下所示:var currentNumber = parseFloat(myNumber);console.log(currentNumber); 1这将变成1.002.457这将变成2.46 但是,如何检查我的代码的结果是否具有
小数点
2位的
精度
?
浏览 2
提问于2021-10-30
得票数 0
回答已采纳
3
回答
双10
小数点
精度
、
、
我们希望确保在将双
精度
值转换为字符串时最多保留10个
小数点
值。使用什么格式的字符串来为双
精度
值保留最多10个
小数点
?
浏览 2
提问于2012-12-18
得票数 3
回答已采纳
3
回答
-向上舍入一个双
精度
数并删除
小数点
后的数字-
、
、
、
、
谁能告诉我如何舍入一个双
精度
型,然后去掉
小数点
后的数字&,然后把这个数字转换成一个字符串?例如,从双
精度
值55.6666666666667开始-向上舍入到双
精度
值56.0000000000 -然后删除
小数点
和尾随零
浏览 0
提问于2014-04-26
得票数 0
1
回答
验证是否创建了大十进制,而没有造成任何
精度
损失。
、
我想确保它的十进制值没有
精度
损失(即)输入到大
小数点
的准确存储。我的理解是,当我试图将无限大的双
小数点
转换为大
小数点
时,就会出现
精度
损失,因此,建议使用double的字符串表示来创建大
小数点
。根据我的理解,经过后,在大十进制转换过程中导致
精度
损失的输入双值总是有很大的大小,不适合于64位。例: 0.1。所以,这样大的小数的字符串和双值表示是不匹配的。如果说当字符串和双值不匹配时出现了
精度
损失,就足够了吗?字符串和双值的大
小数点
不同,因
浏览 0
提问于2020-06-12
得票数 0
回答已采纳
1
回答
摩氏复矩阵乘法早期逼近
、
如何提高复矩阵乘法结果的
精度
。它大约在
小数点
4位,这是结果的一个例子(35.9682,-150.246),但是我想要至少
小数点
8位的
精度
。谢谢
浏览 2
提问于2015-04-12
得票数 1
回答已采纳
3
回答
C浮点数的
精度
、
、
一般来说,我们说一个浮点数的
精度
是
小数点
后6位。但是如果我们存储的是10^30的大数字,我们不会得到
小数点
后的6位数。那么,说浮点数的
精度
是
小数点
后6位是正确的吗?
浏览 2
提问于2012-03-19
得票数 10
回答已采纳
1
回答
整数的数值数据类型
、
如果是这样,那么如何将刻度设置为0,并且仍然保持默认的
精度
: 根据文档,数据类型numeric() (没有显式
精度
和刻度)支持:
小数点
之前的131072数字,
小数点
之后的16383位。但当我们明确设定
精度
和比例时,最大。
精度
的允许值仅为1000:即
小数点
之前的1000数字,对吗?在类型声明中显式指定的最大允许
精度
为1000;
浏览 0
提问于2019-11-14
得票数 1
2
回答
在计算中限制十进制
精度
、
、
我目前有一个非常大的数据集在SPSS,其中一些变量有多达8位
小数点
。我知道如何更改选项,以便SPSS仅在中将变量显示为数据视图和输出中的
小数点
2位。然而,SPSS在所有的计算中仍然采用8
小数点
的
精度
。是否有一种方法可以将
精度
更改为
小数点
2位而不必手动更改每一种情况?
浏览 5
提问于2019-11-20
得票数 3
回答已采纳
1
回答
配置单元数据类型:双
精度
和小数位数
、
、
、
我从HDFS序列文件中以
小数点
后2位
精度
将数据加载到这些双列中。例如,在我的HDFS序列文件中,我的数据类似于- 100.23或345.00。我需要选择双
精度
,因为我的数据值可以是一个很大的值,比如"3457894545.00“ 我的要求是在查询Hive表时显示
小数点
后的两个小数位
精度
。但在Hive 0.12中,我只能得到
小数点
后的单个
精度
,即值被截断为"100.2“或"345.0”。我查看了一下是否有任何选项可以将自定义
精度</e
浏览 7
提问于2015-03-22
得票数 0
回答已采纳
1
回答
将Group用于指定
精度
的实列或浮动列
、
、
如何为真实类型的列指定
精度
(例如。
小数点
后的三位数),用于Group子句吗? 例如:
小数点
后的3位
精度
为12.023006等于12.023007,并应按组按。
浏览 3
提问于2014-09-09
得票数 2
回答已采纳
4
回答
SQL从int转换为decimal
、
、
对于每条记录,我希望将这两列的值相除,并格式化输出,以便将
小数点
移动到右边的位置。 例如,如果一条记录的两个列的值分别为4和1,并且我想要将1除以4(因此是1/4),那么我希望输出为25.00。当我改变它时,它有时会改变
小数点
右边的位数,但结果并不总是我所期望的,所以我想在这方面得到一些帮助。
浏览 17
提问于2012-04-11
得票数 9
回答已采纳
2
回答
使用双
精度
值作为GKLeaderboard的分数?
、
、
、
我想知道是否有一种方法可以在GKLeaderboard上使用双
精度
值?它坚持我使用int64_t,但我需要使用双
精度
值,因为排行榜是最快的,从
小数点
到六个
小数点
。
浏览 0
提问于2011-05-17
得票数 0
回答已采纳
1
回答
所有链链接饲料返回价格与8
小数点
的
精度
?
、
看起来,许多链链接提要聚合器具有8
小数点
的
精度
:BTC/美元,它返回3696759888474 = $36,967.59888474是否所有链式饲料聚合器都有8
小数点
的
精度
?
浏览 0
提问于2021-01-19
得票数 3
回答已采纳
1
回答
在PostgreSQL中截断
小数点
前的值
、
我正在使用dblink将数据从Oracle表移动到Postgres,在Postgres的新表结构中,我为oracle中没有
精度
的数值列添加了
精度
,现在在移动数据时,我能够截断小数值以匹配小数位数,但是,如果
小数点
之前的值与
精度
不匹配,我正在努力寻找一种方法来截断该值。要调整比例,我使用以下命令:select id, width::numeric(7,3) 所以,在这种情况下,如果
小数点
后的值大于3位,它会将其截断
浏览 136
提问于2019-07-08
得票数 0
回答已采纳
1
回答
在Marklogic 10中最大的十进制
精度
是什么,以及如何在我的json文档中使用?
、
我正在尝试插入一个带有十进制道具的JSON文档,它的十进制
精度
超过10,但是它自动将四舍五入应用到9,当我得到该文档时,它只显示了9
小数点
的
精度
。{ id: 1, value: 56900.123456789012345678901 }; 在MarkLogic中插入/获得超过9
小数点
精度
的想法吗
浏览 4
提问于2020-04-22
得票数 1
回答已采纳
1
回答
为什么我不能在小数字段中输入整数值?
、
、
、
这个字段的类型是decimal( 10,10),据我所知,这意味着它总共可以有10个数字,其中最多10个数字可以在
小数点
之后。
浏览 4
提问于2010-04-13
得票数 1
回答已采纳
2
回答
如何在不对
小数点
取整的情况下获得精确的小数
精度
值?
、
我必须将双
精度
值转换为CString,以便在mfc列表框中显示它。在显示它之前,我需要将
小数点
格式化为所需的位数。例如,这里我需要将双
精度
值格式化为2位数 double a = 4217.088; str.Format("%.我需要格式化的字符串值为4217.08,但
小数点
值舍入为4217.09 我也尝试了下面的地板方法,但这也给了我同样的结果。double b; b = floor(a * 100)
浏览 21
提问于2019-05-09
得票数 3
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
JavaScript零基础保姆级教程-2
Javascript每日一学-如何使用Javascript格式化数字,金额
“SOLIDWORKS Electrical小知识”-STR和ALLTRIM函数
给初学者:JavaScript 的常见注意点
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券