点估计指的是用样本统计量来估计总体参数,因为样本统计量为数轴上某一点值,估计的结果也以一个点的数值表示,所以称为点估计。在这个定义中,总体参数也即是总体分布的参数,一般我们在讨论总体分布的时候,只有在简单随机样本(样本独立同分布)情况下才有明确的意义,总体分布才能决定样本分布,所以下文样本中各随机变量均为独立同分布。在大数据中分析中,一般都假设样本是独立同分布的。
矩估计方法是点估计中的一种,其原理就是构造样本和总体的矩,然后用样本的矩去估计总体的矩。设有样本而k为自然数,则样本矩做如下定义
其中称为k阶样本原点矩,称为k阶样本中心距,为样本均值。和可以由样本计算得到确定的值。接下来再构造总体的矩。在使用矩估计方法时,一般要求知道总体的分布类型,这样才能构造包含待估参数的矩。
当总体为连续分布时,设为总体分布的概率密度函数,为总体分布中的待估参数(假设此处总体分布中只有一个待估参数),则总体的k阶原点矩、k阶中心距分别定义为如下形式