该如何避免Julia中浮点数计算精度问题 - FAQ

问题现象 在 Julia 中，使用浮点数进行计算时存在精度误差问题，如以下计算 3.0 2.7 == 0.3

问题现象

在 Julia 中，使用浮点数进行计算时存在精度误差问题，如以下计算

3.0 - 2.7 == 0.3

# false

所有 IEEE 754 标准的浮点数计算都存在精度误差问题（基本所有语言都是这个标准，如Julia、MATLAB）

MATLAB进行浮点数计算

3.0 - 2.7 == 0.3
# ans = 
#      logical
#       0
fprintf('%.17f\n',3.0 - 2.7)
# 0.29999999999999982
fprintf('%.17f\n',0.3)
# 0.29999999999999999

Julia进行浮点数计算

3.0 - 2.7 == 0.3
# false
@sprintf("%.17f",3.0 - 2.7)
# "0.29999999999999982"
@sprintf("%.17f",0.3)
# "0.29999999999999999"

为了处理浮点数的精度问题，可以使用近似比较方法，使用 isapprox 函数

isapprox(3.0 - 2.7, 0.3)
# true