极大似然估计(Maximum-Likelihood)的理解

2023-05-16

极大似然估计 是建立在 极大似然原理 的基础上的一个统计方法,是概率论在统计学中的应用。

目录

1、极大似然原理

2、极大似然估计


1、极大似然原理

极大似然原理:在随机试验中,许多事件都有可能发生,概率大的事件发生的概率也大。若只进行一次试验,事件 A 发生了,则我们有理由认为 A 比其他事件发生的概率都大。

例如,一个箱子里有两种颜色的球,数量为10个和1个,但并不知道到底哪种颜色的球为10个那种颜色的球为1个,这时我们随机从箱子里拿出一个球,如果这个球是色的,那我们就认为盒子里球有10个,球有1个。

2、极大似然估计

极大似然估计(ML)就是利用已知的样本结果(如上例中摸出来的球是色的),反推最有可能(最大概率)导致这样结果的参数值(如上例中得出101的结论)。这也是统计学中用样本估计整体的一种阐述。

ML 提供了一种给定观察数据来评估模型参数的方法,即:“模型已定,参数未知”。通过若干次试验,观察其结果,利用试验结果得到某个参数值能够使样本出现的概率为最大,则称为极大似然估计。

如何理解“模型已定,参数未知”呢?这里的模型可以是一个参数未定的公式,也可以认为是一个机器学习模型

如指数分布公式

分布函数模型已知,参数 λ 即是所求参数,给定一组随机变量集 D,求最合适的一个参数  使得在该参数下 D 发生的概率最高。

再例如,我们有一个模型,模型中的未知参数为  ,取值范围为   。还有一组含有 N 个样本的数据集 D:

我们要求得一组模型的参数 ,使得数据集D出现的概率最大。定义似然函数(数据集D发生的概率)如下:

 求解该似然函数就是求一组参数  使得  达到最大值,此时  就是  的最大似然估计量。

求解最大值,哪一定会涉及到函数求导,但是看 L 的公式就知道直接对求导过程大可能很麻烦且结果阶数较高,而考虑到函数 ln(L) 与 L 具有相同的趋势与最大值点,因此实际应用中为了便于分析,一般都会使用 对数似然函数 H=ln(L) 来求解  。

​​​​​​​

然后令其 偏导数 等于 0:

 方程的解只是一个估计值,只有在样本数趋于无限多的时候,它才会接近于真实值。

参考:

吴传生:《经济数学-概率论与数理统计》

极大似然估计详解_知行流浪-CSDN博客_极大似然估计

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

极大似然估计(Maximum-Likelihood)的理解 的相关文章

随机推荐

  • 为ESP8266编译时出错

    图 1 当出现图1的问题时 xff0c 是因为我们的文件扩展名为 c 实测当我们将文件扩展名改为 cpp的时候就能如图二一样正常编译 图2 由于C 43 43 是全面兼容C的 xff0c 即使我们之前使用的是C语言 xff0c 在更改文件后
  • 点云上的深度学习及其在三维场景理解中的应用————3D Scene Understanding with PointNet and PointNet++(三)

    最近在学3D方向的语义分析 师兄推荐了一个哔哩大学的将门创投 斯坦福大学在读博士生祁芮中台 xff1a 点云上的深度学习及其在三维场景理解中的应用 xff01 的宝藏视频 xff0c 我会多看几遍 xff0c 并写下每次观看笔记 up主的个
  • https://img-blog.csdnimg.cn/44575f55b6a7431392616b45e051dd2e.png——分割线专用图专用图

    https img blog csdnimg cn 44575f55b6a7431392616b45e051dd2e png
  • ROS小车——摄像头的使用(3)

    文章目录 前言一 摄像头驱动和图像的查看1 摄像头驱动2 图像的查看 二 Opencv人脸检测1 启动人脸检测应用2 虚拟机查看3 虚拟机查看人体检测4 人脸识别应用 前言 ROS小车的摄像头驱动和图像的查看 xff0c 以及opencv的
  • STM32:结构体总结

    1 什么是结构体 我们知道数据的基本类型有 int 整形 char 字符形 unsigned int 无符号整形 unsigned char 无符号字符形 等 还包括数组等 但有些情况下 这些都 无法满足现实的需求 于是程序员把所需变量组织
  • opencv面试题

    数字图像的概念和起源 常见的成像方式 图像直方图 有什么用 xff1f 图像二值化 含义 xff1a 纵轴是像素的个数 xff0c 左到右是黑色到白色 图像平移 图像缩放 xff1a 图像缩放必然会涉及图像插值 最近邻插值 xff1a 如何
  • 力扣刷题(c++日常总结)

    map 的几种遍历方式 for auto k v map cout lt lt k lt lt v lt lt endl for auto kv map cout lt lt kv first lt lt kv second lt lt e
  • 用 IIFE 以封装 BOM对象提供的方法

    1 文件转 Base64 span class token keyword const span blob2Base64 span class token operator 61 span span class token punctuat
  • 先验概率、后验概率及贝叶斯公式的理解

    目录 1 条件概率 2 全概率公式 3 先验概率 4 后验概率 5 贝叶斯 xff08 bayes xff09 公式 介绍这些概念之前 xff0c 首先需要了解 条件概率 及 全概率公式 1 条件概率 在事件 B 发生的条件下事件 A 发生
  • 网页数据解析与爬取----Beautiful Soup

    目录 网页数据解析与爬取 Beautiful SoupBeautiful Soup 使用1 Beautiful Soup简介2 解析器3 准备工作4 节点选择器5 提取信息1 获取名称2 获取属性3 获取内容4 嵌套选择 6 关联选择1 子
  • ssh:远程登录、免密登录、SCP使用

    ssh远程登录 telnet 远程登录 主机之间的传输数据是明文的 不太安全 ssh 基于22端口 用于主机之间安全的远程链接 也可以实现主机之间的数据拷贝 xff0c 数据都是加密的 并且支持身份验证和免密登录 1 ssh远程登录主机 r
  • 计算总线带宽

    总线带宽 总线带宽 xff1a 指总线在单位时间内可以传输的数据总数 xff08 等于总线的宽度与工作频率的乘积 xff09 通常单位 xff1a MB s MBps 总线的传输速率 61 总线的带宽 61 xff08 总线位宽 8位 xf
  • 1.VScode中配置GIT

    1 VScode开发环境配置GIT 1 查看git安装目录 where git Windows指令 which git Mac指令 2 在VScode开发环境的setting json文件中配置git路径 2 配置代码提交GIT 2 1传统
  • 143-牛客网C++刷题9

    1 不定义第三个变量 xff0c 交换两个变量的数据 x 43 61 y y 61 x y x 61 y 2 常量可以是任何的基本数据类型 xff0c 可分为整型数字 浮点数字 字符 字符串和布尔值 3 在C 43 43 中 xff0c 可
  • 电脑Windows找不到gpedit.msc请确定文件名情况的处理方法

    有时我们清理优化系统后 xff0c 当运行 gpedit msc 命令想要打开 本地组策略编辑器 时 xff0c 会提示找不到 gpedit msc 请确定文件名的情况 解决方法如下 xff1a 1 新建一个文本文档 xff0c 粘贴以下代
  • IDEA更换主题

    IDEA自带的主题比较少 xff0c 但是它的主题可以更换的 xff0c 可以找一些自己喜欢的主题皮肤换上 操作如下 xff1a 下载主题 要更换主题皮肤 xff0c 首先得找到自己喜欢的主题下载下来 这里推荐两个主题 xff0c 第一个下
  • JDBC操作MySQL数据库出现:No suitable driver found for...异常

    JDBC操作MySQL数据库出现 xff1a No suitable driver found for 异常 xff0c 可能原因如下 xff1a 一 没有导入jdbc驱动jar包 导入方法如下 xff08 以IDEA为例 xff09 xf
  • Visual Studio无法打开源文件“stdio.h“问题

    出现该问题是因为没有安装对应的Win10 SDK的原因 xff0c 安装Visual Studio时默认可能不会安装 xff0c 所以需要手动勾选对应的问题安装 操作如下 xff1a 点击Windows的开始菜单 xff0c 在所有应用里选
  • Redis的下载安装

    一 Windows下的下载安装 1 Redis的下载 官方不支持Windows版本的Redis xff0c 因此官网上不提供下载 xff0c 但微软开发和维护着支持win 64的Redis版本 xff0c 因此可以去下载 地址 xff1a
  • 极大似然估计(Maximum-Likelihood)的理解

    极大似然估计 是建立在 极大似然原理 的基础上的一个统计方法 xff0c 是概率论在统计学中的应用 目录 1 极大似然原理 2 极大似然估计 1 极大似然原理 极大似然原理 xff1a 在随机试验中 xff0c 许多事件都有可能发生 xff