极大似然估计 —— Maximum Likelihood Estimation

浏览: 503

作者简介

作者:张磊 机器学习爱好者  

知乎:https://zhuanlan.zhihu.com/c_184412713

个人网站:novasky.top  

GitHub:https://github.com/zlxy9892 


1 引入

机器学习中,经常会遇到极大似然估计 (Maximum Likelihood Estimation, MLE) 这个名词,它的含义是什么?它能够解决什么问题?我们该如何理解并使用它?本篇就对此进行详细的阐述和回答。

举一个最简单直观的例子,假设投掷硬币,我们每次投掷的结果只有两种:一正一反,古往今来,无数的实验和直觉告诉我们,投硬币这件事情正反两面的概率就是五五分,即正面概率 0.5,反面概率也是 0.5。

然而,我们怎么知道概率是 0.5 的呢?我们凭什么说就是 0.5,不可以是 0.55 或者 0.48 呢?因为有很多人做过这个实验,投多次硬币,比如投100次,大体上正反两面的次数总是都差不多,因此,我们就 估计 这个事情(投掷为正面)发生的概率为 0.5。

注意,上述的这个思维推理的过程很直觉化,我们人类很多时候对某件事情的判断其实就是这样:多次经历某件事情,比如买水果,我们每次都在看水果的外观来判断该水果是否新鲜可口,久而久之,我们就会发现,拍着清脆欲裂的西瓜有更大的概率会香甜可口,这其实也就是机器学习的基本世界观:从经验到规律。那么换成计算机解决,就是 数据 -> 规则 (Data -> Rule)。

2 极大似然估计的概念

说了这么多,那么极大似然估计到底是什么呢?再来看看我们刚刚说的抛硬币的例子,其实我们并不知道一枚硬币抛出之后正面朝上的客观概率是多少,因为毕竟我们不是上帝,但是我们还是很想知道这个概率的大小,我们唯一的手段就是,做实验,从实验结果的数据中发现这个事件其中的规律。比如,我们抛掷 100 次,发现正面有 52 次,反面有 48 次。此时,这个结果就给我们判断正面的概率提供了一种依据,现在可能有很多人会立刻说:“我知道了,根据这次实验的结果,正面的概率应该是 0.52 !”说的没错,这个论断的思维过程就是概率理论中我们最常看到的一个词 :“估计”。

但是,我们是如何估计的?直觉上,100 次中有 52 次正面,因此我们估计正面概率为 0.52,这似乎很简单直观。但是如果从纯粹的数学理论角度去思考,我们应当给出一个完美的解释。为了能够解释好这种估计的方法,数学家提出了极大似然估计。

极大似然估计的哲学内涵就是:我们对某个事件发生的概率未知,但我们做了一些实验,有过一些对这个事件的经历(经验),那么我们认为,这个事件的概率应该是能够与我们做的实验结果最吻合,当然,前提是我们做的实验次数应当足够多。如果只做一次实验,显然我们就会估计概率为 0 或 1 了。

3 计算

那么,这里的关键问题就是:我们如何确定正面的概率  P+,使得其能够与实际的实验结果吻合度最高?这里的事件只有两种结果,因此要求解的概率有两个,即:P+  和 P-,且由于 P+ + P- =1 ,所以我们只需要求解 P+  这一个概率即可。

现在回到我们在对极大似然估计含义的理解,如何确定正面的概率 P+ ,使得其能够与实际的实验结果吻合度最高?其实把这句话说的在明白一些,就是:如何确定正面的概率 P+ ,使得我们此次实验结果的发生概率尽可能大?

在转换为数学语言表达就是:求得一组  

使得 E 最大化,数学表达即:

这里,我的表达公式可能与标准的统计学书籍中的表达不一致,为的是通过这样的表达,使其内涵更简单地体现出来,完备的数学表达可参考相关的概率统计书籍。

因此,在实验结果为 “正、正、反、反”时,我们借助极大似然估计法求得 P+ =0.5 时,该实验结果发生的概率最大。

4 抓豆子实验

刚刚我们用 4 次抛硬币的实验解释了极大似然估计,由于该问题的计算十分简单,我们再举一个抓豆子的例子来具体说明一下极大似然估计的常用计算手法。

假设我们现在有一个麻袋,里面装了很多豆子,且豆子两种:红豆和绿豆,现在我们想知道这两种豆子各自占得比例是多少。显然我们不可能傻乎乎地一颗一颗的去数,懂概率理论的人会这样做:先把袋子中的豆子摇匀,然后随机地抽若干次豆子,记下抽取的豆子中红豆的个数和绿豆的个数,这样就能知道个大概情况了。

这其实也是极大似然估计的一个很实用地运用案例。现在我们假定抽取了 100 次豆子,其中有 70 个是红豆,30 个是绿豆。同样的,设红豆的比例 (或称抓得红豆的概率) 为 x ,则绿豆的比例为 1-x ,那么我们这次实验结果出现的概率为:

可以看到,这次我们举的例子中指数项很大,无法像前面的那个例子中简单地求解,那么如何求得使得 E 最大时相应的 x 取值呢?我们可以使用一个数学中使用非常广泛的对数函数来协助解决,这里,我们设:

至此,我们利用极大似然估计求得了红豆的比例最可能为 0.7。原来一个我们平时经常直觉上判断出概率值的思维过程包含了这样一个完整的数学求证推理的过程。深入思考的人可能会发现,实际真实的红豆比例可能并非 0.7,的确,我们只能说很可能在 0.7 左右,因为极大似然估计方法本质上也是一种“估计”,既然叫做估计,肯定会存在偏差,但该中估计策略的基本世界观应该就是我们目前最能够直接认可的一种方式,那就是通过历史经验总结出规律啊。


推荐 0
本文由 人工智能爱好者社区 创作,采用 知识共享署名-相同方式共享 3.0 中国大陆许可协议 进行许可。
转载、引用前需联系作者,并署名作者且注明文章出处。
本站文章版权归原作者及原出处所有 。内容为作者个人观点, 并不代表本站赞同其观点和对其真实性负责。本站是一个个人学习交流的平台,并不用于任何商业目的,如果有任何问题,请及时联系我们,我们将根据著作权人的要求,立即更正或者删除有关内容。本站拥有对此声明的最终解释权。

0 个评论

要回复文章请先登录注册