有人在 ruby 中解决这个问题吗:
假设我们有: a = 8.1999999
我们想将其四舍五入到小数点后两位,即 8.20,然后乘以 1,000,000 得到 8,200,000
我们这样做;
(a.round(2) * 1000000).to_i
但是我们得到的是8199999,为什么呢?
奇怪的是,如果我们乘以 1000、100000 或 10000000,我们会得到正确的结果,但不是 1000000。有人知道为什么吗?
我们正在使用 ruby 1.9.2,并尝试使用 1.9.3。
Thanks!
每当你在计算中得到奇怪的数字时,请使用bigdecimal
require 'bigdecimal'
a = BigDecimal(8.1999999.to_s)
(a.round(2) * 1000000).to_i
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)