腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
如何在Javascript中
精确
地浮动数字?
、
、
、
大家好,我正在处理关于javascript天文
计算
的文件,所以我需要更高的精度。我对每一行都有很多操作,我希望结果更
精确
(逗号后面的
小数
点也是10或20)。在JavaScript中,如果我不声明十进制数(例如使用.ToFixed(n)),那么在
计算
过程中,语言在逗号之后有多少位置?在其他问题中,为什么用户建议使用decimal.
js
或其他库?对不起我的英语!
浏览 1
提问于2019-03-30
得票数 1
1
回答
用asm.
js
进行高精度的
计算
实用吗?
、
、
、
、
由于这个限制,我不能让我的程序像我希望的那样
精确
地绘制。互联网上有一些图像和视频表示分形图像,它们非常
精确
,以至于在
小数
点后使用数百位数字。请看这里的示例:有没有一种使用asm.
js
进行高精度
计算
的实用方法?有多高?如果我不得不试试,我猜既然asm.
js
确实支持整数运算,我可以通过使用整数数组来表示
小数
点后的大量数字来实现它。我
浏览 7
提问于2014-02-28
得票数 4
2
回答
在财务之外使用
小数
、
、
、
他们是否只考虑金钱,而金、铜、铁、蜂蜜、木头、毛料、谷类等仍须以实数
计算
,抑或任何物质资产均须以
小数
计算
?
浏览 2
提问于2013-11-07
得票数 0
1
回答
精确
计算
小数
点15位
、
如何
精确
计算
小数
点15位?double> { 4.080000000000001, 22.830000000000002, 307.5 }; 结果等于334.41 我如何
精确
地
计算
这个值呢
浏览 2
提问于2016-01-29
得票数 0
回答已采纳
2
回答
python
小数
的精度
如何使Python中的十进制更
精确
,以便我可以
计算
到 0.0000000000001 * 0.0000000000000000001 = ?我需要加上
小数
,比如0.0000000145和0.00000000000000012314,并把它们相乘,得到
精确
的结果。是否有所需的代码,还是有一个模块?提前谢谢。我需要比decimal.Decimal更
精确
的东西。
浏览 1
提问于2017-10-01
得票数 2
回答已采纳
1
回答
MySQL mod与PHP
、
、
编辑的抱歉,伙计们,我想让PHP显示
小数
我的目的是限制不允许
小数
的
精确
整数的
计算
。
浏览 0
提问于2018-01-02
得票数 0
1
回答
浮点数/最大二进制
小数
位
、
当我使用浮点数或双数时,可以
精确
地
计算
出多少位
小数
?我正在做一个项目,在这个项目中,我必须得到接近
精确
的数字,并用二进制进行一些
计算
。我读过一篇声称39位数的文章. 谢谢!
浏览 1
提问于2022-07-20
得票数 0
2
回答
Chrome dev工具
精确
计算
CSS规则的值
、
、
例如,我是否可以获得字体的
精确
像素值(加上
小数
位),以便在Chrome工具中显示?
浏览 5
提问于2013-10-25
得票数 3
1
回答
使用RBF SVC模型
计算
召回率和查准率
这个模型的召回率比
精确
度好多少?(
计算
召回-精度到
小数
点后3位)(使用y_test和X_test
计算
精度和召回率。)
浏览 0
提问于2019-02-01
得票数 1
2
回答
用于存储货币价值的数值与真实数据类型
、
- decimal 18, 4 Close - decimal 18, 4此外,Postgres的文件说:我在考虑用实的10,2作为货币栏。这是我的理由。一个典型的
计算
可能比较股票价格(
小数
点2位)和移动平均(可能有许多十进制位),以确定哪一个更大。我的理解是,平均值(和任何
计算</e
浏览 0
提问于2018-05-08
得票数 1
0
回答
来自QtLocation的带有不
精确
定位的OpenStreetMap请求
、
、
、
我正在使用Qt5.9的OSM (OpenStreetMap)插件,在我的桌面应用程序中进行路由
计算
。 这种不
精确
会导致位置漂移(导致经常放置在道路的另一个方向上),从而导致路线
计算
中
浏览 9
提问于2017-12-08
得票数 0
回答已采纳
1
回答
识别浮标的实际精度
、
、
、
我试图
计算
API创建这些浮点数的
小数
位数。我怎样才能确定浮点数实际上
精确
到
小数
点8位呢?一旦我这样做了,我就可以用"true“值而不是不准确的浮点数初始化decimal.Decimal实例。编辑: API返回的
精确
小数
位数各不相同,并不总是8位!
浏览 0
提问于2018-03-14
得票数 2
回答已采纳
4
回答
实数vs.浮点vs.货币
、
为什么当我在SQL Server中将一个值保存到类型为Real的列中时,它返回的值更像是40.53999878999而不是40.54?我已经看过几次了,但从来没有弄清楚为什么会发生这种情况。是否有其他人遇到过此问题?如果是,则会导致此问题?
浏览 1
提问于2008-11-07
得票数 20
回答已采纳
2
回答
在客户端通过javascript进行价格(十进制)
计算
是安全的吗?
、
、
、
我必须处理十进制
计算
。所有数据都已经在客户端,并且操作正在通过用户交互(选择)而改变。因此,我当然可以为每个用户选择更改到服务器,但这是耗时的工作和额外的复杂性。我开始在客户端处理十进制
计算
,并解决了全球化解析问题。我还担心服务器端的十进制
计算
可能不等于客户端的处理结果。所以简单地说,最好是在服务器端
计算
十进制值,或者仅仅为了显示目的而通过JavaScript
计算
它没有任何问题?
浏览 0
提问于2012-05-27
得票数 1
2
回答
在
计算
时,Numpy的默认精度是多少?
、
、
如果不设置精度,那么
小数
位能
精确
多少?如果没有,我如何设置精度?
浏览 38
提问于2022-01-11
得票数 1
1
回答
java中指数的前k位
、
、
、
这与Java中double的
精确
度有关吗?使用BigDecimal会得到相同的结果。对代码有什么建议吗?顺便说一句,n<=10^9和k<=9。
浏览 0
提问于2013-10-18
得票数 0
2
回答
如何处理JavaScript
计算
器中的浮点数?
、
、
、
虽然在下面的评论中链接到的这两篇文章很棒,但我特别想找一些信息来帮助我在本地
JS
中解决这个问题。我知道
JS
不应该是复杂数学的首选,但是考虑到这个
计算
器在浏览器中运行的局限性,它是我决定使用的工具。背景当用户要键入数字8.5时:从数学上讲,我用以下代码片段在显示中创建了这个数字:这是可行的,但如果我继续向下<em
浏览 0
提问于2019-09-23
得票数 1
3
回答
用
小数
精确
计算
F#?
、
我试着用浮子做一个
精确
的
计算
// output: -0.989992 在
计算
器上
浏览 0
提问于2018-09-28
得票数 0
回答已采纳
7
回答
关于浮点
计算
的准确性/精度,如果有的话,可以提出什么主张?
、
、
我在做一个做浮点
计算
的应用程序。我们在英特尔的VC++上使用双精度浮点值的x86 .我们声称我们的
计算
精确
到n位
小数
位数(现在是7位,但试图声称15位数)。我知道影响整体精度的因素很多,如FPU控制状态、编译器/优化器、浮点模型和操作本身的总体顺序(即算法本身),但考虑到FP
计算
中固有的不确定性(例如,0.1无法表示),对所有
计算
都要求任何特定精度似乎是无效的我的问题是:在不进行任何分析(如区间分析)的情况下,对FP
计算
的准确性提出任何断言是否有效?如果是的话
浏览 9
提问于2010-02-15
得票数 5
回答已采纳
2
回答
用Math.
js
计算
矩阵运算的近似值
、
、
、
、
我正在使用Math.
js
在JavaScript中执行矩阵
计算
(例如,
计算
行列式、特征值、逆矩阵)。我希望
计算
执行得更快(它是在2X2矩阵上
计算
它们,但它每秒应该执行很多次,现在它导致了明显的延迟),但精度并不是那么重要(我认为精度的两个
小数
位就足够了)。有没有办法指定
计算
的
精确
度?谢谢!下面是一个
计算
示例:var A = [[3.5, 9], [9, 1]] mat
浏览 18
提问于2020-12-29
得票数 1
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
FPGA定点小数计算(四)
这个数已精确到小数点后105万亿位
Excel单元格数字设置小数点位数,让数据更精确
腐团儿公布自己的身体数据,精确到小数点后,难怪拍照这么好看
编程字典-Vue.js 计算属性
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券