如何在颤振中使用精度对整数进行舍入

2024-04-09

我试图使折线图的 Y 轴间隔在颤动中动态化。这里MaxVal将获取Y轴的最大值。

int interval = (maxVal/6).toInt();
int length = interval.toString().length.toInt();

所以在这里我将 maxVal 除以 6,这样我就可以得到间隔并找出长度。接下来我需要根据长度对间隔进行舍入。但我看不到任何增加颤动精度的选项。

预期输出

如果 maxVal = 10000 那么 间隔将 1666 那么长度将为 4。然后 我预计四舍五入值为 2000


我假设您要求将(非负)整数四舍五入到其最高有效基数 10 数字。对非负整数进行舍入的一般方法是添加要舍入的单位的一半,然后截断。例如,如果要将非负整数四舍五入到最接近的 1000,可以添加 1000/2 = 500,然后丢弃百位、十位和个位。丢弃这些数字的一个简单方法是执行整数除以 1000,然后再次乘以 1000。

最棘手的部分是确定要舍入到什么单位,因为它是可变的。如果您想要最高有效的 10 进制数字,则需要确定位数。理论上你可以用对数来计算,但依赖浮点运算的精确结果通常是有风险的,你必须将 0 作为特殊情况来处理,而且更难确定正确性。仅查找数字字符串表示形式的长度更简单且不易出错。一旦找到位数,我们就可以确定要舍入哪个单位来计算相应的 10 次幂。

import 'dart:math';

/// Rounds [n] to the nearest multiple of [multiple].
int roundToMultiple(int n, int multiple) {
  assert(n >= 0);
  assert(multiple > 0);
  return (n + (multiple ~/ 2)) ~/ multiple * multiple;
}

/// Rounds [n] to its most significant digit.
int roundToMostSignificantDigit(int n) {
  assert(n >= 0);
  var numDigits = n.toString().length;
  var magnitude = pow(10, numDigits - 1) as int;
  return roundToMultiple(n, magnitude);
}

void main() {
  var inputs = [
    0,
    1,
    5,
    9,
    10,
    11,
    16,
    19,
    20,
    21,
    49,
    50,
    51,
    99,
    100,
    469,
    833,
    1666,
  ];
  for (var n in inputs) {
    var rounded = roundToMostSignificantDigit(n);
    print('$n => $rounded');
  }
}

打印:

0 => 0
1 => 1
5 => 5
9 => 9
10 => 10
11 => 10
16 => 20
19 => 20
20 => 20
21 => 20
49 => 50
50 => 50
51 => 50
99 => 100
100 => 100
469 => 500
833 => 800
1666 => 2000

(如果需要,上面的代码也应该可以调整以处理负数,但首先您需要定义负数是否应该向 0 舍入或向负无穷大舍入。)

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

如何在颤振中使用精度对整数进行舍入 的相关文章