腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(350)
视频
沙龙
1
回答
awk
--
bignum
打乱
浮点
计算
awk
、
bignum
29.6 第一列的
计算
是错误的,但第二列是可以的。在文档和手册页中,有一个--
bignum
选项,它可以帮助我进行大整数
计算
。$ echo 42 -0.400000000000000022 |
awk
--
bignum
'{ $1 += 9000000000000000000; $2 += 30 } { print }' GNU
A
浏览 11
提问于2021-08-11
得票数 0
1
回答
用
awk
不正确将十六进制转换为十进制(非十进制数据或字符串)
awk
awk
十六进制到十进制的结果不正确,不等于bash/python。echo 0x06375FDFAE88312A |
awk
--non-decimal-data '{printf "%d\n",$1}'echo 0x06375FDFAE88312A |
awk
'
浏览 2
提问于2019-09-04
得票数 1
回答已采纳
2
回答
在python中处理非常大的数字
python
、
awk
我使用
awk
来减去较大的数字,它工作得很好(减去Time_res-Time_req以发现滞后),但在python中无法做同样的事情。
浏览 0
提问于2017-03-08
得票数 1
1
回答
当
浮点
数超出范围时自动移动到BigDecimal
ruby
、
floating-point
、
biginteger
与从Fixnum到
Bignum
的转换不同,巨大的Float数字不会自动转换为BigDecimal。例如,2.5**1000生成Infinity。我可以手动将BigDecimal定义为BigDecimal('2.5')**1000,但当数字不是很大且不需要BigDecimal时,这会减慢
计算
速度。有没有办法实现从Float到BigDecimal的自动转换(类似于从Fixnum到
Bignum
的转换)?或者有没有其他Ruby类可以做到这一点?我不关心
浮点
数的精度。
浏览 2
提问于2015-06-17
得票数 0
2
回答
为什么
awk
无法对小数点进行运算?
awk
、
integer-arithmetic
为了找出两个值之间的差异,我使用了下面的命令
awk
-v n1="1581097198.000749862" -v n2="1581097198.000449861" 'BEGIN{printf ("
浏览 25
提问于2021-06-07
得票数 0
2
回答
为什么Python中的
浮点
除法用较小的数字更快?
python
、
performance
、
math
、
floating-point
、
division
100000000000000000000000000000000000000000000000000000000000000000000000000000000000000000 0.970129 为什么小数字和大数字的
浮点
除法之间有着一致的区别它是否与Python在内部使用
浮点
数用于较小的数字和对较大的数字使用双倍有关?
浏览 2
提问于2016-02-15
得票数 2
回答已采纳
6
回答
如何编码一个解决方案来处理大量的数字?
c
、
types
、
largenumber
、
bignum
我正在做一些Euler项目的问题,大多数情况下,
计算
涉及大量的整数,
浮点
,双等。 首先,我知道我应该寻求更有效的
计算
方法,以避免大量的问题。我听说过
Bignum
图书馆.
浏览 5
提问于2010-01-02
得票数 12
7
回答
如何消除Perl舍入误差
perl
、
rounding
考虑以下程序:$y=($x-int($x))*1000000000;这是打印出来的东西:我期待的是:这似乎是Perl中的某种舍入问题。我做错什么了吗?
浏览 1
提问于2010-07-13
得票数 3
回答已采纳
3
回答
无需额外的库即可获得大量
浮点
数
c++
、
arbitrary-precision
、
precision
、
floating-point-precision
我有一个数百位长的
浮点
值(像pi -3的前100位),需要一种方法来操作它。有没有办法存储和操作具有大量小数的
浮点
数,并通过内置的库保持很高的精度?
浏览 0
提问于2011-05-30
得票数 2
7
回答
我如何修复这段Perl代码,使1.1 + 2.2 == 3.3?
perl
、
floating-point
、
decimal
我对四舍五入问题和
浮点
数学略知一二,但我认为它只适用于除法和乘法,并在输出中可见。#!= 3.3到目前为止,大多数答案都是“这是一个
浮点
问题”,并提供了解决方法。我已经怀疑这就是问题所在。我该如何演示它?如何让Perl输出变量的长形式?将$one + $two
计算
结果存储在temp变量中并将其打印出来并不能说明问题。使用aschepler演示的sprintf技术,我现在可以“看到”问题了。此外,使用msc
浏览 0
提问于2010-10-12
得票数 10
回答已采纳
7
回答
用
awk
打印长整数
printing
、
awk
、
printf
、
gawk
因为我只需要几个,所以我考虑使用
awk
来捕获它们,以供测试之用。但是,我注意到如果使用printf,"%d".会更改值。如果我使用"%s".,它可以正常工作。以下是我的测试:19769904399993904 # Value is changed然而,以下两种测试都很好- [jaypal:~/Temp]
awk
浏览 3
提问于2012-01-13
得票数 11
回答已采纳
2
回答
Redis支持LUA脚本中的任意精度
redis
、
lua
、
arbitrary-precision
我需要能够用redis进行一项交易,这样做如下: local res =
BigNum
.mt.add(temp,
BigNum
.new(v.value))if
BigNum
.
浏览 0
提问于2019-04-26
得票数 5
回答已采纳
4
回答
C或D的
浮点
语义整数类型
c
、
floating-point
、
int
、
d
、
fixed-point
我正在寻找C或D的现有实现,或关于使用
浮点
语义实现、有符号和/或无符号的整数类型的建议。也就是说,当执行算术时,表现为
浮点
类型的整数类型:溢出生成无穷大(表示符号下溢),而不是环绕或具有未定义的行为,未定义的操作生成 NaN等。本质上,这是
浮点
的一种版本,在这一版本中,可表示数字的分布均匀地落在数字线上,而不是聚集在0左右。此外,所有操作都应该是deterministic;--任何给定的两种互补的32位结构都应该为相同的
计算
产生完全相同的结果,而不管它的实现是什么(而
浮点
可能而且经常会产生稍微不
浏览 0
提问于2012-11-24
得票数 9
3
回答
使用
awk
和printf时不能正确取整
awk
、
printf
、
rounding
我有一个问题,我使用printf将一个
浮点
数舍入到适当的小数位数。我得到的结果不一致,如下所示。echo 104.45 |
awk
'{printf "%.1f\n",$1}'104.44 (should be 1
浏览 1
提问于2016-12-11
得票数 3
4
回答
在
浮点
运算中,
awk
和bc哪一个更有效?
linux
、
performance
、
bash
、
awk
、
bc
我想用百分比来
计算
CPU使用率。我有两个实现,一个使用
awk
,另一个使用bc。我想知道两个版本中哪一个更有效。对于
浮点
计算
,使用
awk
和bc哪个更好?谢谢!版本#1 (使用bc)CPU=$(echo "scale=2;(100-$CPU)" |bc -l)版本#2 (使用
awk
)
浏览 4
提问于2012-11-24
得票数 1
回答已采纳
1
回答
在UInt64上做数学运算就是打开它
javascript
、
firefox-addon
、
jsctypes
我有一个var blah = ctypes.UInt64('65'),65真的是任何东西。我需要做数学,但当我这么做的时候:
浏览 5
提问于2014-06-23
得票数 0
回答已采纳
2
回答
bignum
in emacs/elisp
elisp
、
biginteger
、
bignum
emacs支持不适合整数的大数字吗?如果是,我该如何使用它们呢?
浏览 1
提问于2009-09-03
得票数 12
回答已采纳
1
回答
awk
中
浮点
的
计算
awk
、
floating-point
我对
awk
在执行
浮点
计算
时的行为感到惊讶。这导致了我对表格数据的错误
计算
。$
awk
'BEGIN {print 2.3/0.1}'$
awk
'BEGIN {print int(2.3/0.1)}'0 <-- Surprise!$
awk
浏览 4
提问于2013-10-29
得票数 5
回答已采纳
7
回答
使用bignums的开销
language-features
、
language-design
我偶然发现了这个问题,当涉及到数字时,是否在我的语言中使用bignums作为默认数据类型。我自己对此进行了评估,并将其简化为便利性和舒适性与性能-question。这个问题的答案取决于没有得到优化的程序对性能的影响有多大。如果我将我的语言默认放在bignums上,我可以期望在整体语言性能上得到什么样的结果?
浏览 17
提问于2008-11-06
得票数 2
回答已采纳
2
回答
深度缩放一个函数,如Weierstrass函数-工作示例或库或非常高精度
浮点
数学的起始代码?
python
、
floating-point
、
decimal
它停止了,注释说,用于分析f(x)值的软件的限制正在达到(我猜)系统上最精确的
浮点
类型的限制。我的问题是:有没有什么Python代码可以创建函数的“深度缩放”图,并超越
浮点
类型的限制(即使它非常非常慢)?我将使用什么?
BigNum
?还有别的吗?我希望有人已经做了一个“绘图工具”,可以分析比
浮点
数学更精细的分辨率的韦尔斯特拉斯函数。 由于该函数是一个无穷无尽的序列,因此必须对其求值,直到表达式的X个项,因此放大得越深,需要
计算
的项就越多。其次,如果可以(通过一些仔细的工作)创建一个特殊情况的赋值器,
浏览 1
提问于2011-12-04
得票数 2
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
linux-shell编程下的数学运算
在Linux终端中进行算术运算的5种方法
Python3技术概要
测试人员必学的软件快速测试方法(二)
嵌入向量能否理解数字?BERT竟不如ELMo?
热门
标签
更多标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
活动推荐
运营活动
广告
关闭
领券