Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
将两个 Int 值相除以获得 Float 的正确方法是什么?
我想分两份IntHaskell 中的值并获得结果Float 我尝试这样做 foo Int gt Int gt Float foo a b fromRational a b 但 GHC 版本 6 12 1 告诉我 无法将预期类型 Intege
Haskell
types
floatingpoint
Integer
如何安全地将 CGFloat 降低或提高到 int?
我经常需要在地板或天花板上安装CGFloat to an int 用于计算数组索引 我永远看到的问题floorf theCGFloat or ceilf theCGFloat 是浮点不准确可能会带来麻烦 那如果我的CGFloat is 2
ios
Math
floatingpoint
floatingaccuracy
floatingpointprecision
在 Python 中比较浮点数是否几乎相等的最佳方法是什么?
众所周知 由于舍入和精度问题 比较浮点数是否相等有点繁琐 例如 比较浮点数 2012 年版 https randomascii wordpress com 2012 02 25 comparing floating point number
python
floatingpoint
使用C标准数学库精确计算标准正态分布的CDF
标准 C 数学库不提供计算标准正态分布 CDF 的函数 normcdf 然而 它确实提供了密切相关的函数 误差函数 erf 和互补误差函数 erfc 计算 CDF 的最快方法通常是通过误差函数 使用预定义常量 M SQRT1 2 来表示 d
c
Algorithm
Math
floatingpoint
将嵌套循环计算转换为 Numpy 以加速
我的Python程序的一部分包含以下代码段 其中一个新的网格 是根据旧网格中找到的数据计算的 网格是二维浮点数列表 该代码使用了三个 for 循环 for t in xrange 0 t step for h in xrange 1 hei
python
performance
NumPy
Optimization
floatingpoint
为什么没有 2 字节浮点并且已经存在实现?
假设我真的内存不足并且想要更小的范围 类似于short vs int 着色器语言已经支持half对于半精度的浮点类型 不仅仅是来回转换使值在 1 和 1 之间 即返回一个像这样的浮点数 shortComingIn maxRangeOfSho
c
floatingpoint
16bit
halfprecisionfloat
如何在 Swift 中解析蓝牙设备发送的浮点数?
在我的 iOS 应用程序上 我需要解码蓝牙接收到的 Float 值 并从不同的设备 不是 iOS 获取 4 个字节 因此我需要一个 便携式 4 字节 Float 格式 目前发件人正在使用以下格式 数据编码 0xCCBBAAAEE 0xEE
ios
swift
floatingpoint
portability
从 str 转换为 float 时保持尾随 0
将带有尾随零的数字从字符串转换为浮点数时遇到以下问题 a 1 100 string a str a float a float string a float a 1 1 有没有办法将 str 转换为 float 同时保留末尾的尾随 0 首先
python
string
floatingpoint
在 Linux 上将 libquadmath 与 C++ 链接
我有一个示例代码 include
gcc
floatingpoint
有没有办法使用 i387 fsqrt 指令获得正确的舍入?
有没有办法使用 i387 fsqrt 指令获得正确的舍入 除了改变精确模式在 x87 控制字中 我知道这是可能的 但这不是一个合理的解决方案 因为它存在令人讨厌的重入型问题 如果 sqrt 操作中断 精度模式将出错 我正在处理的问题如下 x
c
Assembly
floatingpoint
rounding
x87
在Java中将浮点数组写入文件
我正在读取 NetCDF 文件 我想将每个数组作为浮点数组读取 然后将浮点数组写入新文件 如果我读取浮点数组 然后迭代数组中的每个元素 使用 DataOutputStream 我可以使其工作 但这非常非常慢 我的 NetCDF 文件超过 1
Java
Arrays
floatingpoint
NetCDF
整数转浮点数
这段代码的工作原理 posToXY Float gt Float gt Integer posToXY a b do let y a b round y 但这不起作用 posToXY Integer gt Integer gt Intege
Haskell
floatingpoint
Integer
二进制浮点加法算法
我试图理解二进制级别的 IEEE 754 浮点加法 我遵循了一些在网上找到的示例算法 并且大量测试用例与经过验证的软件实现相匹配 我的算法目前只处理正数 但是 我没有得到与此测试用例的匹配 0000100011110011011001001
floatingpoint
Binary
IEEE754
测试由于浮点限制而导致的舍入误差
我最近了解到浮点的主要限制之一 事实上 某些数字无法以二进制正确表示 因此可能给出的答案对于您的目的来说不够准确 知道round 2 675 2 and round 2 665 2 两者相等2 67我尝试编写一些代码来给出具有此属性的数字列
python
python27
floatingpoint
Binary
rounding
== 在 R 中,精度为 .Machine$double.eps [重复]
这个问题在这里已经有答案了 在 R 中 我发现必须转换易于阅读的代码有点烦人 例如 if det A 1 not always working because of floating point precision to if abs de
r
floatingpoint
浮点型、双精度型和十进制最大值与大小的关系[重复]
这个问题在这里已经有答案了 我在 C 中遇到了这些数据类型的大小和最大值的令人困惑的模式 在使用 Marshal SizeOf 比较这些大小时 我发现了以下结果 Float 4 bytes Double 8 bytes Decimal 16
c
types
floatingpoint
double
Decimal
浮点舍入效果说明
include
c
floatingpoint
Python 丰富比较的行为(或者,当 Decimal('100.0') < .01 时)
所以我有一个班轮 import decimal h decimal Decimal 100 0 h gt 01 h lt 01 h gt 01 h lt 01 它所做的只是创建一个包含 100 0 的 Decimal 对象 并以各种方式将其
python
floatingpoint
Compare
Decimal
cout 可以以某种方式改变变量吗?
所以我有一个看起来像这样的函数 float function float x SomeValue return x SomeOtherValue 在某些时候 这个函数会溢出并返回一个非常大的负值 为了尝试准确追踪发生这种情况的位置 我添加了
c
floatingpoint
cout
cpuregisters
floatingpointprecision
为什么 GCC 不将 a*a*a*a*a*a 优化为 (a*a*a)*(a*a*a)?
我正在对科学应用程序进行一些数值优化 我注意到的一件事是 GCC 会优化调用pow a 2 通过将其编译成a a 但是调用pow a 6 没有优化 实际会调用库函数pow 这大大降低了性能 相比之下 英特尔 C 编译器 http en wi
gcc
Assembly
floatingpoint
compileroptimization
fastmath
«
1
2
3
4
5
6
7
8
...47
»