Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
将双精度数转换为十六进制 - 代码审查
我有以下代码 它采用双精度值并将其转换为十六进制表示形式 反之亦然 我想知道它是否存在任何潜在的问题 我是否忽略了某些事情 double hex to double2 string hexString unsigned char byte
c
IEEE754
将浮点数 1864.78 转换为二进制和 IEEE 格式
我一直在尝试将 S P 500 的值 今天为 1864 78 转换为它在内存中以 IEEE 单精度格式表示的方式 转换小数点左边 1864 很容易 11101001000 但如何获得十进制 78 的二进制表示形式呢 我尝试使用该技术 但它会
c
Binary
floatingpoint
IEEE754
对于 IEEE754 NaN 值,所有比较都返回 false 的基本原理是什么?
为什么 NaN 值的比较行为与所有其他值不同 也就是说 与运算符 进行的所有比较 其中一个或两个值为 NaN 都会返回 false 这与所有其他值的行为相反 我想这在某种程度上简化了数值计算 但我找不到明确说明的原因 即使在关于 IEEE
floatingpoint
Comparison
NaN
IEEE754
iec10967
JavaScript 或 IEEE-754 中的舍入怪癖?
我在一个单元测试中遇到了一个奇怪的问题 我在 JavaScript 中得到了意外的舍入结果 2 005 toFixed 2 produces 2 00 2 00501 toFixed 2 produces 2 01 最初我怀疑这只是 Web
javascript
Math
IEEE754
任何浮点密集型代码是否会在任何基于 x86 的架构中产生位精确的结果?
我想知道使用浮点运算的 C 或 C 代码是否会在任何基于 x86 的体系结构中产生位精确的结果 无论代码的复杂性如何 据我所知 自 Intel 8087 以来的任何 x86 架构都使用准备处理 IEEE 754 浮点数的 FPU 单元 并且
c
x86
IEEE754
fastmath
有人可以解释这种浮点行为吗?
灵感来自这个问题 https stackoverflow com questions 5429860 why is sys maxint sys maxint 100 0 01 in python 我试图找出那里到底发生了什么 我的回答比较
python
floatingpoint
IEEE754
java - IBM-IEEE 双精度浮点字节转换
我需要在 Java 中对字节数组进行 IBM IEEE 浮点转换 我能够使用成功地进行单精度浮点字节的转换http www thecodingforums com threads c code for converting ibm 370
Java
floatingpoint
Arrays
IEEE754
MySQL如何进行浮点加法的数学计算?
我测试过SELECT 0 1 0 2 用MySQL MariaDB 查询 它返回了正确的答案 MariaDB none gt SELECT 0 1 0 2 0 1 0 2 0 3 1 row in set 0 000 sec 在大多数编程语
mysql
sql
IEEE754
Florian 的 Grisu2 算法如何工作?
我遇到了一个关于将 double 转换为 ascii 的问题 经过搜索 我得到了 Florian 的论文 使用整数快速准确地打印浮点数 http www cs tufts edu nr cs257 archive florian loits
c
Algorithm
precision
IEEE754
floatingpointconversion
二进制浮点加法算法
我试图理解二进制级别的 IEEE 754 浮点加法 我遵循了一些在网上找到的示例算法 并且大量测试用例与经过验证的软件实现相匹配 我的算法目前只处理正数 但是 我没有得到与此测试用例的匹配 0000100011110011011001001
floatingpoint
Binary
IEEE754
了解 C# 和 Java 中的 IEEE-754 64 位定点表示
考虑以下 Java 代码 public class Program public static void main String args double number Double MAX VALUE String formattedNum
Java
c
double
IEEE754
IEEE-754 32 位(单精度)指数 -126 而不是 -127
我知道我是否有这样的号码 1 1001 0001 0011 0011 0000 0001 0101 000 1 sign bit 8 bit biased exponent 23 bit fraction mantissa 我可以通过从有偏
floatingpoint
IEEE754
当计算结果在 Linux 中产生非正规数时刷新为零
我的 C 代码中的计算正在产生逐渐下溢 当发生这种情况时 程序将以 SIGFPE 终止 当计算产生逐渐下溢 非正常 时 如何将结果刷新为零 而不终止执行 我正在一台 redhat linux 机器上工作 谢谢 您还没有指定架构 我猜测它是一
floatingpoint
IEEE754
underflow
float 和 double 精度相关的概念
为什么精度float小数点后最多 6 位 精度double小数点后最多15位 任何人都可以给一个数学解释 of it 说一下精度float or double是一些小数位数是草率的术语 float and double通常使用 IEEE 7
floatingpoint
double
precision
IEEE754
floatingaccuracy
C IEEE-Floats inf 等于 inf
在 C 中 在使用 IEEE 754 浮点数的实现中 当我比较两个 NaN 浮点数时 它返回 0 或 false 但是为什么两个都为 inf 的浮点数会被视为相等呢 该程序打印 equal 至少在带有 gcc 的 Linux AMD64 下
c
floatingpoint
IEEE754
在 C# 中以科学记数法显示 IEEE-754 四倍精度 (binary128) 浮点值
我正在尝试将原始二进制数据从线程上下文转换为人类可读的格式 并且在尝试转换时出现空的情况四精度浮点 http en wikipedia org wiki Quadruple precision floating point format I
c
Math
floatingpoint
IEEE754
`std::sin` 最后一点是错误的
为了提高效率 我正在将一些程序从 Matlab 移植到 C 两个程序的输出完全相同非常重要 我面临着此操作的不同结果 std sin 0 497418836818383950 0 477158760259608410 C sin 0 497
c
MATLAB
floatingpoint
IEEE754
融合乘加和默认舍入模式
使用 GCC 5 3 可以编译以下代码 O3 fma float mul add float a float b float c return a b c 产生以下程序集 vfmadd132ss xmm1 xmm2 xmm0 ret 我注意
c
gcc
Clang
IEEE754
fma
是否有 IEEE-754 操作的开源 c/c++ 实现? [关闭]
Closed 这个问题正在寻求书籍 工具 软件库等的推荐 不满足堆栈溢出指南 help closed questions 目前不接受答案 我正在寻找 IEEE 754 操作的参考实现 有这样的事吗 我相信 C 库软浮点 http www j
c
opensource
floatingpoint
IEEE754
如果任一参数为 NaN,什么会导致 C/C++ <、<= 和 == 运算符返回 true?
我对 IEEE 754 浮点比较规则的理解是 除了 如果其中一个或两个参数均为 NaN 则返回 false 而 运算符将返回 true 我可以通过简单的独立测试轻松重现此行为 for int ii 0 ii lt 4 ii float a
c
NaN
IEEE754
1
2
3
4
5
6
»