专栏
标签
大整数显示出错
产品缺陷
发布于 2024-10-31 12:17:36
查看 16过去605天

julia> 2^63
-9223372036854775808

所属专栏:Syslab基础平台
产品信息:Syslab科学计算环境
系统信息:Win10或11
科学计算

全部回答 1

发布于 2024-10-31 15:17:12

您好,这是因为整数类型(Int)数据的范围与操作系统密切相关,六十四位操作系统的范围是[-2^63, 2^63-1],当超过数据范围时便会形成环绕,如下图,2^63超过最大值max,返回结果就是-2^63。
image.png
您可以使用BigInt来输出任意精度的整数型数据,从而得到正确大整数结果,具体用法如下:

BigInt(2)^63

返回结果为
9223372036854775808

用户
和原帖交流更多问题细节吧,去
我要发帖 我要发帖
资料中心 资料中心
查看更多>
热门帖子 热门帖子
主要贡献者 主要贡献者
过去7天