Python 中的舍入浮点问题

2024-05-18

我遇到了 np.round、np.around 的问题,它没有正确舍入。我无法包含代码,因为当我手动设置值(而不是使用我的数据)时,返回有效,但这是输出:

In [177]: a
Out[177]: 0.0099999998

In [178]: np.round(a,2)
Out[178]: 0.0099999998


In [179]: np.round(a,1)
Out[179]: 0.0

我缺少什么? a 的数据类型是 float32,我需要更改它吗?


尝试创建np.float32(0.01)你会看到你的答案。您已经获得了可以达到的精度。

>>> import numpy as np
>>> x = 0.01
>>> epsilon = 0.01 - np.float32(0.01)
>>> for n in np.arange(x - 10*epsilon, x + 10*epsilon, epsilon):
...     print(repr(np.float32(n)))
...     
0.0099999979
0.0099999979
0.0099999979
0.0099999988
0.0099999988
0.0099999988
0.0099999988
0.0099999998
0.0099999998
0.0099999998
0.0099999998
0.0099999998
0.010000001
0.010000001
0.010000001
0.010000001
0.010000002
0.010000002
0.010000002
0.010000002
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

Python 中的舍入浮点问题 的相关文章

随机推荐