最大似然估计

在统计学中，最大似然估计（英语：maximum likelihood estimation，缩写为MLE），也称极大似然估计、最大概似估计，是用来估计一个概率模型的参数的一种方法。

预备知识

下边的讨论要求读者熟悉概率论中的基本定义，如概率分布、概率密度函数、随机变量、数学期望等。读者还须先熟悉连续实函数的基本技巧，比如使用微分来求一个函数的极值（即极大值或极小值）。

同时，读者须先拥有似然函数的背景知识，以了解最大似然估计的出发点及应用目的。

泛函不变性（Functional invariance）

如果是的一个最大似然估计，那么的最大似然估计是。函数g无需是一个双射。

渐近线行为

最大似然估计函数在采样样本总数趋于无穷的时候达到最小方差（其证明可见于Cramer-Rao lower bound）。当最大似然估计非偏时，等价的，在极限的情况下我们可以称其有最小的均方差。
对于独立的观察来说，最大似然估计函数经常趋于正态分布。

偏差

最大似然估计的偏差是非常重要的。考虑这样一个例子，标有1到n的n张票放在一个盒子中。从盒子中随机抽取票。如果n是未知的话，那么n的最大似然估计值就是抽出的票上标有的n，尽管其期望值的只有.为了估计出最高的n值，我们能确定的只能是n值不小于抽出来的票上的值。

历史

最大似然估计最早是由罗纳德·费雪在1912年至1922年间推荐、分析并大范围推广的。（虽然以前高斯、拉普拉斯、T. N. Thiele和F. Y. 埃奇沃思也使用过）。 许多作者都提供了最大似然估计发展的回顾。
大部分的最大似然估计理论都在贝叶斯统计中第一次得到发展，并被后来的作者简化。