o******e
发帖数: 1001 | 1 如果假定一堆数据符合同一正态分布，那么它的MLE很简单，不需要计算maximum
likelihood, 我们就可以知道期望值是样本均值，方差是样本方差，而且如果把样本均
值和方差放到maximum likelihood的那个公式了，应该能够得到最大的likelihood。
问题是，如果这堆数据本身并不是特别符合正态分布,有没有这种可能，用R解出来的
maximum likelihood estimator和样本均值，样本方差很不一样？这时候把样本均值方
差替入maximum likelihood的式子得到的likehood并不是最大的？ |
q**j
发帖数: 10612 | 2 mle is assymptotically efficient and consistent. this is guaranteed by
theory. just google such theorems and you won't have this question. of
course, in a small sample, anything is possible.
【在 o******e 的大作中提到】
: 如果假定一堆数据符合同一正态分布，那么它的MLE很简单，不需要计算maximum
: likelihood, 我们就可以知道期望值是样本均值，方差是样本方差，而且如果把样本均
: 值和方差放到maximum likelihood的那个公式了，应该能够得到最大的likelihood。
: 问题是，如果这堆数据本身并不是特别符合正态分布,有没有这种可能，用R解出来的
: maximum likelihood estimator和样本均值，样本方差很不一样？这时候把样本均值方
: 差替入maximum likelihood的式子得到的likehood并不是最大的？
|
l*********s
发帖数: 5409 | 3 1. expectation and variance estimates are unbiased and asymptotically
efficient, as promised by the weak law of large number, unless the
underlying distributions are of certain special cases, such as cauchy.
2. that being said, mles are derived from the density functions and the result is only valid for a correctly specified distribution family; otherwise, it is going to be garbage no matter how
accurate parameter estimates are.
【在 o******e 的大作中提到】
: 如果假定一堆数据符合同一正态分布，那么它的MLE很简单，不需要计算maximum
: likelihood, 我们就可以知道期望值是样本均值，方差是样本方差，而且如果把样本均
: 值和方差放到maximum likelihood的那个公式了，应该能够得到最大的likelihood。
: 问题是，如果这堆数据本身并不是特别符合正态分布,有没有这种可能，用R解出来的
: maximum likelihood estimator和样本均值，样本方差很不一样？这时候把样本均值方
: 差替入maximum likelihood的式子得到的likehood并不是最大的？
|
o******e
发帖数: 1001 | 4 谢谢qqzj和littlebirds的回复。
我的问题是数据点不少，有两万多个。我假定他们都是正态分布，但是当我用R去求
maximum likelihood的时候，给的预测均值和方差都和样本均值和方差差很多，如果我
把样本均值和方差替到likelihood方程了，得到的likelihood的值也没有上面的
maximum likelihood大。我比较confuse的是，我们可以逻辑上从maximum likelihood
方程推出预测均值和方差就是样本均值和方差，但是为什么实际上计算时还有那么大的
区别？
result is only valid for a correctly specified distribution family;
otherwise, it is going to be garbage no matter how
【在 l*********s 的大作中提到】
: 1. expectation and variance estimates are unbiased and asymptotically
: efficient, as promised by the weak law of large number, unless the
: underlying distributions are of certain special cases, such as cauchy.
: 2. that being said, mles are derived from the density functions and the result is only valid for a correctly specified distribution family; otherwise, it is going to be garbage no matter how
: accurate parameter estimates are.
|
a******n
发帖数: 11246 | 5 你用R算的时候，是不是要说明sample来自什么distribution的？
如果是的话，应该MLE=sample mean才对呀。。。
likelihood
【在 o******e 的大作中提到】
: 谢谢qqzj和littlebirds的回复。
: 我的问题是数据点不少，有两万多个。我假定他们都是正态分布，但是当我用R去求
: maximum likelihood的时候，给的预测均值和方差都和样本均值和方差差很多，如果我
: 把样本均值和方差替到likelihood方程了，得到的likelihood的值也没有上面的
: maximum likelihood大。我比较confuse的是，我们可以逻辑上从maximum likelihood
: 方程推出预测均值和方差就是样本均值和方差，但是为什么实际上计算时还有那么大的
: 区别？
:
: result is only valid for a correctly specified distribution family;
: otherwise, it is going to be garbage no matter how
|
l*********s
发帖数: 5409 | 6 You are not making senses here. Assuming normality,the sample mean and
sample variance are the MLE for mean and variance. Same formula, same
numeric results.
likelihood
【在 o******e 的大作中提到】
: 谢谢qqzj和littlebirds的回复。
: 我的问题是数据点不少，有两万多个。我假定他们都是正态分布，但是当我用R去求
: maximum likelihood的时候，给的预测均值和方差都和样本均值和方差差很多，如果我
: 把样本均值和方差替到likelihood方程了，得到的likelihood的值也没有上面的
: maximum likelihood大。我比较confuse的是，我们可以逻辑上从maximum likelihood
: 方程推出预测均值和方差就是样本均值和方差，但是为什么实际上计算时还有那么大的
: 区别？
:
: result is only valid for a correctly specified distribution family;
: otherwise, it is going to be garbage no matter how
|
o******e
发帖数: 1001 | 7 对啊，问题就是我假定是正态分布，但是得到的MLE不是样本均值和方差。。。
【在 a******n 的大作中提到】
: 你用R算的时候，是不是要说明sample来自什么distribution的？
: 如果是的话，应该MLE=sample mean才对呀。。。
:
: likelihood
|
a******n
发帖数: 11246 | 8 orz...那你应该这么问：我用R算出来的MLE，竟然不是sample mean。
请问我的code错在哪里...
【在 o******e 的大作中提到】
: 对啊，问题就是我假定是正态分布，但是得到的MLE不是样本均值和方差。。。
|
d******e
发帖数: 7844 | 9 normal distribution的variance的MLE本来也不是sample variance.
【在 l*********s 的大作中提到】
: You are not making senses here. Assuming normality,the sample mean and
: sample variance are the MLE for mean and variance. Same formula, same
: numeric results.
:
:
: likelihood
|
l*********s
发帖数: 5409 | 10 ?愿闻其详
【在 d******e 的大作中提到】
: normal distribution的variance的MLE本来也不是sample variance.
|
t******l
发帖数: 32 | 11 Suppose X 服从 uniform[0,2u].
MLE of u is 1/2*max(X), not \bar{X}. |
r****o
发帖数: 123 | 12 系数的问题吧，一个是1/n，一个是1/(n-1)
【在 l*********s 的大作中提到】
: ?愿闻其详
|
P****D
发帖数: 11146 | 13 n一大就无所谓了。
【在 r****o 的大作中提到】
: 系数的问题吧，一个是1/n，一个是1/(n-1)
|
I*****a
发帖数: 5425 | 14 用R是怎么算的？
【在 o******e 的大作中提到】
: 如果假定一堆数据符合同一正态分布，那么它的MLE很简单，不需要计算maximum
: likelihood, 我们就可以知道期望值是样本均值，方差是样本方差，而且如果把样本均
: 值和方差放到maximum likelihood的那个公式了，应该能够得到最大的likelihood。
: 问题是，如果这堆数据本身并不是特别符合正态分布,有没有这种可能，用R解出来的
: maximum likelihood estimator和样本均值，样本方差很不一样？这时候把样本均值方
: 差替入maximum likelihood的式子得到的likehood并不是最大的？
|
