Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
比较浮点型和双精度型
include
c
floatingpoint
floatingpointconversion
在目标 c 中浮动的字符串
我有一个解析器返回一些字符串值 我想将其用作类实例初始化的参数 我有一个方法询问两个 NSString 和一个浮点值 但我无法将字符串转换为浮点值 这是我的代码 NSString from NSString alloc initWithSt
Objectivec
nsstring
floatingpoint
nsnumber
在目标 c 中浮动的字符串
我有一个解析器返回一些字符串值 我想将其用作类实例初始化的参数 我有一个方法询问两个 NSString 和一个浮点值 但我无法将字符串转换为浮点值 这是我的代码 NSString from NSString alloc initWithSt
Objectivec
nsstring
floatingpoint
nsnumber
Java将浮点字符串解析为浮点数组?
有没有一种简单的方法将浮点字符串解析为浮点数组 我正在编写一个导入程序 它需要解析一个 ascii 文件以获取一些值 我只是想知道是否有更简单的方法来执行此操作 然后自己搜索所有空白并使用Float parseFloat s 对于每个空格分
Java
Arrays
string
Parsing
floatingpoint
Java将浮点字符串解析为浮点数组?
有没有一种简单的方法将浮点字符串解析为浮点数组 我正在编写一个导入程序 它需要解析一个 ascii 文件以获取一些值 我只是想知道是否有更简单的方法来执行此操作 然后自己搜索所有空白并使用Float parseFloat s 对于每个空格分
Java
Arrays
string
Parsing
floatingpoint
C 中的隐式类型转换
我在维基百科上偶然发现了以下示例 http en wikipedia org wiki Type conversion Implicit type conversion http en wikipedia org wiki Type con
c
floatingpoint
typeconversion
Java双精度求和问题
我想知道为什么我会收到此错误 这是Eclipse调试的显示日志 var double 2 8 tot getIva java lang Double 0 17 var tot get double 2 9699999999999998 我不
Java
floatingpoint
double
将 float 转换为 Short,精度损失最小[关闭]
Closed 这个问题需要细节或清晰度 help closed questions 目前不接受答案 我有一个生成浮点值 例如 0 37885 的正弦波 但我希望它们作为短裤 直接使用 Short 进行转换 得到的值为 0 那么解决方案是什么
Java
floatingpoint
short
将 double 转换为 float 后值不正确
我有一些由 gcc gcc GCC 4 4 4 20100726 Red Hat 4 4 4 13 编译的执行高精度算术的 C 代码 计算的最终结果是一个 double 值 其值为 622 07999995861189 我是将双精度型转换为
c
gcc
GDB
floatingpoint
如何避免使用 numpy.round 进行错误舍入?
我正在处理浮点数 如果我做 import numpy as np np round 100 045 2 I get Out 15 100 04 显然 这应该是100 05 我知道的存在IEEE 754 https en wikipedia
python
NumPy
floatingpoint
rounding
roundingerror
如何强制除法为浮点数?除法总是向下舍入到0?
我有两个整数值a and b 但我需要它们的浮点比率 我知道a lt b我想计算a b 所以如果我使用整数除法 我总是会得到 0 余数为a 我怎样才能强迫c是Python 2中的浮点数吗 c a b In 3 x the behaviour
python
floatingpoint
Integer
Division
python2x
创建具有固定数量元素(长度)的范围
在Python中 如何在具有固定数量元素的范围内创建列表 而不是每个元素之间的固定步长 gt gt gt Creating a range with a fixed step between elements is easy gt gt g
python
floatingpoint
range
如何在 TurboC 中启用链接浮点库?
我是C语言新手 只是想问一下如何在TurboC中启用链接浮点库 来自comp os ms dos programming 常见问题解答 http www faqs org faqs msdos programmer faq part2 se
c
floatingpoint
turboc
有没有文档描述 Clang 如何处理过多的浮点精度?
当唯一允许使用的浮点指令是 387 指令时 几乎不可能 以合理的成本提供严格的 IEEE 754 语义 当人们希望让 FPU 工作在完整的 64 位有效数上时 这尤其困难 以便long double类型可用于扩展精度 通常的 解决方案 是以
c
floatingpoint
Clang
C99
extendedprecision
Linux 和 Windows 上的相同计算 --> 结果不同
我编写了以下算法来将十进制值转换为二进制 十六进制等 string toFormatFromDecimal long long t Format format int digitCount ceil log t log int format
c
Linux
Windows
gcc
floatingpoint
Python 中的十进制到二进制半精度 IEEE 754
我只能使用以下命令将十进制转换为二进制单精度 IEEE754struct pack模块 或者使用相反的方法 float16 或 float32 numpy frombuffer 是否可以使用 Numpy 将十进制转换为二进制半精度浮点数 我
python
NumPy
floatingpoint
precision
IEEE754
确定 C/C++ 中的浮点运算是否发生舍入
我正在尝试提出一种有效的方法来确定 IEEE 754 操作何时将 确实发生舍入 不幸的是我无法简单地检查硬件标志 它必须在几个不同的平台上运行 我想到的方法之一就是以不同的舍入模式进行运算来比较结果 添加示例 double result o
floatingpoint
rounding
IEEE754
为什么我在 ECMAScript / ActionScript 3 中看到不精确的浮点结果?
大家好 让我们直接跳到代码示例 以展示 ECMAScript JavaScript AS3 如何无法正确执行简单的数学运算 AS3 对 Number 类使用 IEEE 754 双精度浮点数 据说与JavaScript 中使用的 trace
javascript
actionscript3
floatingpoint
大负数的指数
如何在 Python 上计算 np exp 28000 等数字 答案大约是5E 12161 有人告诉我 由于双精度浮点格式 我只能计算 gt 1e 2048 的数字 Try mpmath http mpmath org 用于任意精度的浮点运
python
NumPy
floatingpoint
precision
exponential
两个浮点数相加
我想计算两个 IEEE 754 二进制 64 数字的四舍五入之和 为此我编写了下面的 C99 程序 include
gcc
floatingpoint
Clang
C99
fenv
1
2
3
4
5
6
...49
»