使用小数估计计算误差

2024-04-05

目前,我们正在开发的 .NET 应用程序中使用 System.Decimals 来表示数字。我知道小数的设计是为了最大限度地减少因舍入而产生的误差,但我也知道某些数字(例如 1/3)不能表示为小数,因此某些计算会有较小的舍入误差。我相信这个错误的幅度会非常小并且可以忽略不计,但一位同事不同意。因此,我希望能够估计由于我们的应用程序中的舍入而导致的误差的数量级。举例来说,我们正在计算“交易”的运行总计,每天将进行大约 10,000 个“交易”,并且大约有 5-10 个小数运算(add、sub、div、mul 等)来计算运行总计收到的每笔交易的新运行总计,回合误差巨头的顺序是多少?包含计算过程的答案也很好,这样我将来就可以学习如何为自己做到这一点。


每个计算机科学家都应该了解的浮点运算知识 http://docs.sun.com/source/806-3568/ncg_goldberg.html详细介绍了在给定浮点类型精度的情况下估计一系列浮点运算结果中的误差。不过,我还没有在任何实际程序中尝试过这个,所以我有兴趣知道它是否可行。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

使用小数估计计算误差 的相关文章