首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >Julia 1.0.0解析函数溢出错误似乎很奇怪

Julia 1.0.0解析函数溢出错误似乎很奇怪
EN

Stack Overflow用户
提问于 2018-10-19 01:25:44
回答 1查看 192关注 0票数 0

也许有一个简单的答案,我错过了,但我看不出理由如下:

代码语言:javascript
运行
复制
# Everything works as expected for 2^18
julia> 2^18
262144
julia> 2^18 < typemax(Int64)
true
julia> parse(Int64, bitstring(2^18))
1000000000000000000

# However, 2^19 seems to cause trouble with the parse function.    
julia> 2^19
524288
julia> 2^19 < typemax(Int64)
true
julia> parse(Int64, bitstring(2^19))
ERROR: OverflowError: overflow parsing "0000000000000000000000000000000000000000000010000000000000000000"

有什么建议吗?

EN

Stack Overflow用户

回答已采纳

发布于 2018-10-19 04:03:52

默认情况下,parse将给定的字符串解析为基-10整数。所以第一个parse给出的是10^18而不是2^18。没有溢出,因为10^18 < typemax(Int64)是真的。但是,10^19大于Int64类型的最大值。所以自然就会溢出来。

如果您想要的行为是将字符串解析为二进制数字,那么将base = 2关键字参数添加到函数调用中。

代码语言:javascript
运行
复制
parse(Int64, bitstring(2^19), base=2)
>>> 524288

否则,如果要将其解析为基-10数字,请尝试BigIntInt128,而不是Int64,以避免溢出。

票数 1
EN
查看全部 1 条回答
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/52884659

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档