如何计算大型数据帧的欧几里德距离（并仅保存摘要）

我编写了一个简短的“for”循环来查找数据帧中每一行与所有其他行之间的最小欧几里德距离（并记录哪一行最接近）。理论上，这可以避免与尝试计算非常大的矩阵的距离度量相关的错误。然而，虽然内存中保存的内容不多，但对于大型矩阵来说速度非常慢（我的约 150K 行的用例仍在运行）。

我想知道是否有人可以在使用 apply 或类似功能矢量化我的函数方面为我提供建议或指出正确的方向。对于看似简单的问题表示歉意，但我仍在努力以矢量化的方式思考。

预先感谢（以及您的耐心）。

require(proxy)

df<-data.frame(matrix(runif(10*10),nrow=10,ncol=10), row.names=paste("site",seq(1:10)))

min.dist<-function(df) {  
 #df for results
 all.min.dist<-data.frame()
 #set up for loop 
 for(k in 1:nrow(df)) {
     #calcuate dissimilarity between each row and all other rows
     df.dist<-dist(df[k,],df[-k,])
     # find minimum distance
     min.dist<-min(df.dist)
     # get rowname for minimum distance (id of nearest point)
     closest.row<-row.names(df)[-k][which.min(df.dist)]
     #combine outputs
     all.min.dist<-rbind(all.min.dist,data.frame(orig_row=row.names(df)[k],
     dist=min.dist, closest_row=closest.row))
    }
 #return results
 return(all.min.dist)
                        } 
 #example
 min.dist(df)

这应该是一个好的开始。它使用快速矩阵运算并避免不断增长的对象构造，这两者都在评论中建议。

min.dist <- function(df) {

  which.closest <- function(k, df) {
    d <- colSums((df[, -k] - df[, k]) ^ 2)
    m <- which.min(d)
    data.frame(orig_row    = row.names(df)[k],
               dist        = sqrt(d[m]),
               closest_row = row.names(df)[-k][m])
  }

  do.call(rbind, lapply(1:nrow(df), which.closest, t(as.matrix(df))))
}

如果这仍然太慢，作为建议的改进，您可以计算距离k一次指向一个点而不是单个点。的大小k需要在速度和内存使用之间进行折衷。

Edit:另请阅读https://stackoverflow.com/a/16670220/1201032