飞镖双分精度

2023-12-05

执行此操作的正确方法是什么?

399.9 / 100

我期望看到的是

3.999

但结果是

3.9989999999999997

你看到的结果是correct,这不是你想要的。

双精度数不是精确值。写 399.9 得到的双倍实际上是精确值。

399.8999999999999772626324556767940521240234375

这是最接近精确值 399.9 的可用双精度值。任何其他双倍至少与 399.9 相差那么远。

然后除以 100。同样,结果不精确,但最接近的 double 具有精确值

3.99899999999999966604491419275291264057159423828125

这与您通过编写 3.999 得到的值不同,后者是精确值:

3.999000000000000110134124042815528810024261474609375

在每一步中,双精度运算都已将误差最小化,但由于您正在执行多个步骤,因此最终结果与最接近数学结果的双精度结果有所不同。

您需要做什么取决于您的实际要求。

如果你想总是使用两位有效数字进行计算,那么我只需将我的数字乘以 100,并将所有运算作为整数运算进行,直到最后除以 100。

如果您有中间结果并希望将其四舍五入为两位数,我会按照 Fy Z1K 所说的操作:

  result = (result * 100).round() / 100;
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

飞镖双分精度 的相关文章

随机推荐

  • 测试一个数字是否是斐波那契数

    我知道如何制作斐波那契数列 但我不知道如何测试给定的数字是否属于斐波那契数列 我想到的一种方法是生成斐波那契数列 数字到该数字并查看它是否属于该数组 但必须有另一种更简单 更快的方法 有任何想法吗 一个非常好的测试是 N 是斐波那契数当且仅
  • 如何使用命令提示符连接到 mysql 服务器:错误

    我正在使用以下命令使用命令提示符连接到数据库 mysql mysql h localhost u test ptest test 但我收到以下错误 ERROR 1064 42000 You have an error in your SQL
  • Laravel 资源中的附加数据

    我使用控制器中的 Laravel 资源 data Project limit 100 gt get return response gt json ProjectResource collection data 我喜欢将附加信息传递给 Pr
  • Android:检查活动是否被系统从服务中销毁

    我有一项服务监听来自服务器的一些事件 服务有 START STICKY 标志 当它被操作系统杀死时 该标志使他重新启动 当服务收到事件时 我有两种情况 首先 如果活动没有被终止 我需要将结果发送到本地广播接收器并更新 UI 其次 如果它被操
  • 添加表单操作[关闭]

    Closed 这个问题需要细节或清晰度 目前不接受答案 当我提交时我试图再次转到index php page servers 但是当我提交表单时重定向是index php 但实际上是index php page servers 我该如何解决
  • Chrome 扩展:检测 Google 文档中的按键

    嘿 我和我的朋友们刚接触 javascript 并且遇到了一些代码问题 目前 我们正在尝试制作一个 Chrome 扩展 通过检测击键来检测用户何时以及对特定 google 文档进行了多少操作 我们当前的方法涉及创建一个 按键 事件监听器 我
  • Codeigniter SMTP 无法连接

    我正在使用 Codeigniter 3 并且我的网站上有一个简单的联系表 此联系表单在我的本地主机 XAMPP 环境中完美运行 但在我的共享 Web 托管 BT 上却不起作用 我无法弄清楚问题是什么 我一直在与他们的支持人员联系 显然 如果
  • site_url() 在 codeigniter 框架中无法正常工作

    以下代码对于 Codeigniter 框架无法正常工作 这是我的观点 a href gt Back to Main a 您应该在控制器构造方法或像这样调用视图的函数中加载 url helper this gt load gt helper
  • 在 AngularJS 中的页面之间共享数据返回空

    通常 我编写 SPA 并且通过服务在控制器之间共享数据很简单 我没有使用 SPA 格式 没有使用 ng view 并尝试在页面之间共享数据 但在加载第二个页面 以获取数据 时它是空的 第 1 页 索引 html div div
  • fastapi (starlette) RedirectResponse 重定向到 post 而不是 get 方法

    返回 RedirectResponse 对象后 我遇到了奇怪的重定向行为 事件 py router APIRouter router post create response model EventBase async def event
  • Android 更改小部件背景图片

    在过去的两天里 我一直在努力改变我的小部件的背景 基于一些 if 语句 现在删除 只是想从类中更改小部件背景 下面是我的源代码 不过 怎么了 我之前已经更改了图像 例如背景 但无法让它适用于我的小部件 谢谢 顺便说一句 这是我最近的尝试 W
  • 如何根据产品类别在 WooCommerce 添加到购物车按钮下方添加文本

    我尝试在某些类别的产品页面上的 WooCommerce 添加到购物车按钮下方添加一个 div 我在这里有点不知所措 这段代码没有破坏任何东西 但文本没有显示 我试过了 woocommerce div product form cart af
  • (flask)-sqlalchemy查询,必须导入所有模型

    我对 Flask 和 Flask SQLAlchemy 有一个问题 对于任何查询 我都需要导入所有相关模型 现在我的 auth views py 看起来像这样 编程的前几行所以只是一个测试视图 from flask import jsoni
  • 如何使用 jQuery 动态添加组合框

    我有这个正在创建的工作代码one组合框 你可以在这里看到它的工作原理 jsfiddle body on change combo function var selectedValue this val if this find option
  • 使用 django-allauth 注册后阻止用户登录

    我正在为我的 django 应用程序使用 django allauth 默认情况下 当用户成功注册时 他们会自动登录 如何覆盖默认行为并阻止用户在成功注册后登录 用户注册后 必须将他 她重定向到登录页面 我已禁用电子邮件验证 谢谢 sett
  • 合并大量 data.frames [重复]

    这个问题在这里已经有答案了 可能的重复 同时合并列表中的多个数据框 example data frames df1 data frame id c 1 73 2 10 43 v1 c 1 2 3 4 5 br df2 data frame
  • 检查 kubectl 版本时出现“身份验证为:您所在的匿名组”错误

    我正在尝试在我的计算机中设置 kubectl 工具来远程管理 Kubernetes 集群并使用 Helm 我正在 Ubuntu 16 04 机器上尝试 我通过以下链接关注官方 Kubernetes 文档 https kubernetes i
  • 将日历设置为下周四

    我正在 Android 中开发一个应用程序 该应用程序的服务必须在每周四和周日 22 00 执行 我真正需要的是将日历设置为该日期和时间 但是 我不确定该怎么做 Calendar calendar Calendar getInstance
  • 从 Azure 云表删除时出错 - ResourceNotFound

    我在从天蓝色表中删除对象时遇到间歇性问题 它只影响我大约 1 的尝试 如果稍后再次进行相同的调用 那么它工作正常 但我很想找出背后的原因 我在谷歌上搜索了一下 发现缺乏关于如何创建非常可靠的删除 插入和更新代码的文档 这令人非常惊讶 这一切
  • 飞镖双分精度

    执行此操作的正确方法是什么 399 9 100 我期望看到的是 3 999 但结果是 3 9989999999999997 你看到的结果是correct 这不是你想要的 双精度数不是精确值 写 399 9 得到的双倍实际上是精确值 399