腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
对SQL字符串数据进行四舍五入以更正小数位,然后返回没有浮点错误的字符串数据
sql
、
sql-server
、
string
、
rounding
我们正在尝试使用查询SQL数据库的软件来实现一个报告系统。由于各种情况,我们需要在SQL查询中对数据进行舍入。我们的目标是避免浮点错误,不需要的尾随零,以及嵌套函数的复杂性(如果可能)。 传入数据的类型始终为nvarchar(...)并且需要保持字符串格式,这给我们带来了问题。下面是我的意思的一个例子(使用w3schools.com测试): SELECT STR('235.415', 10, 2) AS StringValue2, STR(ROUND(235.415, 2),10,2) AS Roun
浏览 26
提问于2020-04-11
得票数 0
回答已采纳
1
回答
有没有办法只使用
整数
来
计算
Mandelbrot集?
rendering
我想在JavaScript (
JS
)中创建程序,它可以任意精确地绘制曼德尔布罗特集 (缩放)。在
JS
中有一个
整数
类型的BigInt,它支持像+,*,/这样的简单操作,支持任意精确
整数
的幂。
JS
不支持对任意
精度
浮点数的
计算
。 问:是否有一种方法来执行Mandelbrot集的
计算
,只使用基于
整数
的
计算
(任意
精度
)--如果是,如何做?
浏览 0
提问于2019-11-29
得票数 3
回答已采纳
2
回答
最大双值(浮点数)在MATLAB中(64位)
matlab
、
floating-point
、
double
、
floating-point-precision
我更关心的是,当一个数字的
整数
部分开始增长时,我应该信任我的十进制值多少位呢?
浏览 8
提问于2014-12-12
得票数 0
回答已采纳
1
回答
可以存储在RRDtool中的最大和最小值是什么?
rrdtool
我想要
计算
的一些值可能(有一天)会变得非常
大
,比如
整数
的万亿字节之和。我想知道,我在Munin中使用的数据存储在我试图存储
大
值时不会溢出。在的文档中,我看不到任何关于受支持的数据大小、范围或
精度
的注释,我也没有通过搜索相关的术语来找到任何东西。 请问是否有任何文件说明量规、计数器、导出、绝对和
计算
数据存储的支持范围和
精度
?
浏览 2
提问于2014-03-13
得票数 0
回答已采纳
1
回答
有可能获得较低
精度
的路径长度吗?
r
、
igraph
我正在与一个科学的软件包一起工作,它大量使用igraph的最短路径算法来
计算
路径长度。然而,对于我们感兴趣的图表,返回的矩阵是非常内存密集型的,很容易扩展到10的Gb。而且,不需要双
精度
计算
--在大多数情况下,单
精度
甚至
整数
精度
就足够了。是否可以将矩阵的数据类型从双
精度
更改为单
精度
,甚至整型(如果我们只需要边数)?是否可以将未连接节点之间的路径长度的默认值从无穷
大
更改为null或其他值?(我们正在考虑将矩阵存储在稀疏
浏览 1
提问于2020-10-14
得票数 0
1
回答
手动Math.pow()使用浮点型失去
精度
c
、
math
、
double
、
precision
我尝试将sum更改为double,但仍在丢失
精度
。 我如何才能在不使用Math.pow()的情况下实现这一点(对于我试图运行的测试来说,它太慢了),并且不会损失
精度
?
浏览 1
提问于2013-08-19
得票数 1
1
回答
像MPFR这样的库是如何存储和操作任意
精度
的实数的?
c
、
floating-point
、
implementation
、
arbitrary-precision
我目前正在开发一个应用程序,它需要使用任意的
大
精度
实数来
计算
pi到非常
大
的
精度
范围。我发现MPFR是一个非常棒的库,高度优化和高效,符合我的目标。但是,我非常好奇如何实现任意精确的实数。我非常熟悉任意
精度
签名
整数
的实现,我已经在C中自己实现了一个,但我不知道这些库如何非常有效地操作实数操作。如果我处理
整数
,我可以将数字mod 2**32存储为堆中数组的元素,然后做传统的教科书数学方法,用于基本加法、减法、乘法、除法等。我认为为实数开发一个任意的精确实现
浏览 4
提问于2021-03-25
得票数 1
1
回答
给定数据类型的算术运算的开销是否随操作数值的不同而不同?
c
、
performance
如果我执行一个用C编写的
计算
,比如矩阵-矩阵加法或矩阵-矩阵乘法,其中的工作是在for循环中完成的,每次迭代都会发生相同数量和类型的算术运算,输入数据的特定值是否会影响
计算
速度?例如,如果矩阵元素是值在0到127之间的32位
整数
,那么它们的表示在每四个相应的字节中只有一个字节变化,这会比值在0和INT_MAX之间变化时运行得更快吗(假设没有未定义的行为发生)?如果我不得不猜测,我会说不,因为无论值是小还是非常
大
,由于它被定义为32位
整数
,它将被屏蔽以适合相同数量的内存空间,因此小值和
大
值
浏览 1
提问于2016-12-15
得票数 4
1
回答
为什么模幂函数在Python和Javascript中对大数的工作方式不同?
javascript
、
python
、
algorithm
、
modulo
、
exponentiation
我需要在python3和javascript上对相当
大
的数字执行模幂运算。我有一些函数来完成这个任务,但是它们给了我不同的输出。
浏览 2
提问于2016-04-27
得票数 1
6
回答
什么时候适合使用浮点
精度
数据类型?
math
很明显,在处理货币
金额
时,不应该使用浮动
精度
,因为
精度
的变化会导致使用该
金额
进行
计算
时不准确。 也就是说,哪些用例是可以接受的?那么,在做决定时应该考虑的一般原则是什么呢?
浏览 1
提问于2009-04-06
得票数 6
回答已采纳
2
回答
将Biginteger值乘以双
精度
值
c#
、
unity3d
、
double
、
biginteger
我想把一个
大
整数
乘以一个双
精度
数,如下所示问题是乘数是一个等于1.15的双
精度
值,而BigInteger忽略了是否有办法将我的对象的成本乘以双
精度
值1.15,并将其四舍五入为
大
整数</
浏览 16
提问于2019-11-14
得票数 1
回答已采纳
3
回答
警告: json_encode()中存在大量错误
php
、
ajax
、
json
> 它会“舍入”我的
整数
吗?顺便说一句:PHP_INT_MAX = 9223372036854775807 ~ PHP Version 5.3.2-1ubuntu4.7 这些
大
整数
在任何地方(PHP、MySQL或Javascript
浏览 1
提问于2011-04-05
得票数 5
回答已采纳
1
回答
快速
计算
数字的幂(MPFR库)
c
、
gmp
、
bignum
、
mpfr
我正在使用GMP和MPFR库处理大数,我需要快速
计算
一个数的幂。增强的结果将始终是
整数
,但效力可以是浮点数也可以不是浮点数。GMP库
计算
幂非常快,但不接受浮点幂(使用mpz_pow_ui函数),MPFR库接受浮点幂,但速度非常慢,因为它需要高
精度
才能正确
计算
整数
(使用mpfr_pow函数)。对此有什么解决方案吗?GMP如何接受浮点幂,或者MPFR如何快速(且正确地)
计算
整数
?
浏览 3
提问于2020-03-08
得票数 0
2
回答
为什么fibonacci序列的闭包形式在实际中不被使用?
sequence
、
dynamic-programming
、
fibonacci
所以,你可以用快速指数法
计算
所有这些项,这样就能有效地得到结果。为什么在矩阵上进行快速幂比在封闭形式表达式中出现的标量上要好呢?那么问题是-如果一个矩阵的快速指数对于
计算
O(log(n))时间中的第n个Fibonacci数是好的,为什么封闭形式不是一个很好的方法,当它涉及到标量上的快速指数时?
浏览 2
提问于2021-10-22
得票数 0
回答已采纳
2
回答
C语言-Fermat理论验证器不能正常工作
c
、
memory
、
cygwin
、
nested-loops
b,c,n);printf("\nfermats theory is correct");从我的立场来看,我对所有代码都进行了正确的编码(我只使用了范围50和500,所以我可以在我的
计算
机上运行它
浏览 1
提问于2013-03-11
得票数 0
1
回答
在Matlab中限制变量取固定小数位数
matlab
、
decimal
、
rounding
、
store
、
digits
使用“圆形”是可以的,但在
计算
上有点昂贵。我看到了“数字”的修复,但是在内存中它保存了所有的数字。 任何帮助都是非常感谢的,事先非常感谢,Ahammed。
浏览 1
提问于2015-11-08
得票数 0
回答已采纳
2
回答
处理Javascript中的数字问题
javascript
、
numbers
我是开发javascript应用程序的新手,我对我想要解释的行为持怀疑态度。Number(5555555555555555);但如果我执行:结果: 55555555555555550
浏览 5
提问于2017-09-08
得票数 0
回答已采纳
3
回答
最快的128位整型库
c++
、
c
、
biginteger
、
numerical
我正在开发一个占用大量CPU的数值
计算
应用程序。不涉及太多细节,这是一个
计算
数学研究项目,涉及
计算
大
整数
x的某个函数f(x)。 现在一切都是在x64模式下的C++中实现的,使用原生的64位
整数
。特别是,
整数
除法应该很快。否则我就会坐在这里等结果,直到感恩节。我不想重复发明轮子。我在维基百科上找到了一个大约20个
大
整数
库的列表,但其中大多数似乎都是针对任意
精度
的数字,这对我的任务来说太过分了,我不需要与此相关的额外成本
浏览 2
提问于2010-09-12
得票数 13
回答已采纳
1
回答
试图向amountOutMin应用一个滑动,因为它被一个
大
的数字所困
web3js
、
uniswap
、
bignumber
我正试图向amountOutMin申请一个滑动率(~17%),并且被一个
大
的数字卡住了。 正如您在这里看到的,我将amountOutMin乘以0.83 (我不知道,也许这是错误的),以得到滑动值。
浏览 0
提问于2023-03-03
得票数 1
回答已采纳
1
回答
Erlang和大数
floating-point
、
erlang
我试图将pi存储到小数点后200位,erlang将其连接到大约15位,我如何才能保留原始数据并将其用于进一步的
计算
?
浏览 5
提问于2012-02-13
得票数 7
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
JavaScript零基础保姆级教程-2
开发工具》JS大前端你必会的知识›计算机通用基础›常用开发工具
IE兼容Bug》JS大前端你必会的知识›计算机通用基础›常用开发工具
Java开发中商业计算请务必使用BigDecimal来进行计算!
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券