当在Python中比较两个浮点数时,我看到代码总是这样来比较小值epsilon,想知道选择正确的epsilon值的最佳实践是什么?而其背后的场景又是怎样的呢?谢谢。
epsilon = 0.000001
abs(a - b)<epsilon
里面有一个断言函数numpy
为此,默认使用七位小数精度。
from numpy.testing import assert_almost_equal
a = 0.000000001
b = 0.0000000001
>>> assert_almost_equal(a, b)
# Nothing returned.
b = 1
>>> assert_almost_equal(a, b)
AssertionError:
Arrays are not almost equal to 7 decimals
ACTUAL: 1e-09
DESIRED: 1
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)