由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Statistics版 - Maximum Likelihood Estimator
相关主题
maximum likelihood estimation请教:怎么求几组样本的总体均值的方差?
Maximum Likelihood estimation请教: 怎么求几组样本的总体方差?
诚心请教一个统计问题请教:一个总体的两个独立组取样后,总体的方差怎么求?
请教如何解这个qualifying exam 问题问个问题哈,关于maximum likelihood estimator
MLE 问题againProblem with Maximum Likelihood Estimation
请教高手 gaussian统计知识一问在线急等:做maximum likelihood estimation,用optimization怎么都的不出正确的数值
弱问,为啥取了log之后得到相反结论log-likelihood
大家都是用什么软件estimate的?请教: Var(Xi-X-bar) 等于Var(Xi) 吗?
相关话题的讨论汇总
话题: likelihood话题: maximum话题: mle话题: estimator话题: 样本均值
进入Statistics版参与讨论
1 (共1页)
o******e
发帖数: 1001
1
如果假定一堆数据符合同一正态分布,那么它的MLE很简单,不需要计算maximum
likelihood, 我们就可以知道期望值是样本均值,方差是样本方差,而且如果把样本均
值和方差放到maximum likelihood的那个公式了,应该能够得到最大的likelihood。
问题是,如果这堆数据本身并不是特别符合正态分布,有没有这种可能,用R解出来的
maximum likelihood estimator和样本均值,样本方差很不一样?这时候把样本均值方
差替入maximum likelihood的式子得到的likehood并不是最大的?
q**j
发帖数: 10612
2
mle is assymptotically efficient and consistent. this is guaranteed by
theory. just google such theorems and you won't have this question. of
course, in a small sample, anything is possible.

【在 o******e 的大作中提到】
: 如果假定一堆数据符合同一正态分布,那么它的MLE很简单,不需要计算maximum
: likelihood, 我们就可以知道期望值是样本均值,方差是样本方差,而且如果把样本均
: 值和方差放到maximum likelihood的那个公式了,应该能够得到最大的likelihood。
: 问题是,如果这堆数据本身并不是特别符合正态分布,有没有这种可能,用R解出来的
: maximum likelihood estimator和样本均值,样本方差很不一样?这时候把样本均值方
: 差替入maximum likelihood的式子得到的likehood并不是最大的?

l*********s
发帖数: 5409
3
1. expectation and variance estimates are unbiased and asymptotically
efficient, as promised by the weak law of large number, unless the
underlying distributions are of certain special cases, such as cauchy.
2. that being said, mles are derived from the density functions and the result is only valid for a correctly specified distribution family; otherwise, it is going to be garbage no matter how
accurate parameter estimates are.

【在 o******e 的大作中提到】
: 如果假定一堆数据符合同一正态分布,那么它的MLE很简单,不需要计算maximum
: likelihood, 我们就可以知道期望值是样本均值,方差是样本方差,而且如果把样本均
: 值和方差放到maximum likelihood的那个公式了,应该能够得到最大的likelihood。
: 问题是,如果这堆数据本身并不是特别符合正态分布,有没有这种可能,用R解出来的
: maximum likelihood estimator和样本均值,样本方差很不一样?这时候把样本均值方
: 差替入maximum likelihood的式子得到的likehood并不是最大的?

o******e
发帖数: 1001
4
谢谢qqzj和littlebirds的回复。
我的问题是数据点不少,有两万多个。我假定他们都是正态分布,但是当我用R去求
maximum likelihood的时候,给的预测均值和方差都和样本均值和方差差很多,如果我
把样本均值和方差替到likelihood方程了,得到的likelihood的值也没有上面的
maximum likelihood大。我比较confuse的是,我们可以逻辑上从maximum likelihood
方程推出预测均值和方差就是样本均值和方差,但是为什么实际上计算时还有那么大的
区别?

result is only valid for a correctly specified distribution family;
otherwise, it is going to be garbage no matter how

【在 l*********s 的大作中提到】
: 1. expectation and variance estimates are unbiased and asymptotically
: efficient, as promised by the weak law of large number, unless the
: underlying distributions are of certain special cases, such as cauchy.
: 2. that being said, mles are derived from the density functions and the result is only valid for a correctly specified distribution family; otherwise, it is going to be garbage no matter how
: accurate parameter estimates are.

a******n
发帖数: 11246
5
你用R算的时候,是不是要说明sample来自什么distribution的?
如果是的话,应该MLE=sample mean才对呀。。。

likelihood

【在 o******e 的大作中提到】
: 谢谢qqzj和littlebirds的回复。
: 我的问题是数据点不少,有两万多个。我假定他们都是正态分布,但是当我用R去求
: maximum likelihood的时候,给的预测均值和方差都和样本均值和方差差很多,如果我
: 把样本均值和方差替到likelihood方程了,得到的likelihood的值也没有上面的
: maximum likelihood大。我比较confuse的是,我们可以逻辑上从maximum likelihood
: 方程推出预测均值和方差就是样本均值和方差,但是为什么实际上计算时还有那么大的
: 区别?
:
: result is only valid for a correctly specified distribution family;
: otherwise, it is going to be garbage no matter how

l*********s
发帖数: 5409
6
You are not making senses here. Assuming normality,the sample mean and
sample variance are the MLE for mean and variance. Same formula, same
numeric results.


likelihood

【在 o******e 的大作中提到】
: 谢谢qqzj和littlebirds的回复。
: 我的问题是数据点不少,有两万多个。我假定他们都是正态分布,但是当我用R去求
: maximum likelihood的时候,给的预测均值和方差都和样本均值和方差差很多,如果我
: 把样本均值和方差替到likelihood方程了,得到的likelihood的值也没有上面的
: maximum likelihood大。我比较confuse的是,我们可以逻辑上从maximum likelihood
: 方程推出预测均值和方差就是样本均值和方差,但是为什么实际上计算时还有那么大的
: 区别?
:
: result is only valid for a correctly specified distribution family;
: otherwise, it is going to be garbage no matter how

o******e
发帖数: 1001
7
对啊,问题就是我假定是正态分布,但是得到的MLE不是样本均值和方差。。。

【在 a******n 的大作中提到】
: 你用R算的时候,是不是要说明sample来自什么distribution的?
: 如果是的话,应该MLE=sample mean才对呀。。。
:
: likelihood

a******n
发帖数: 11246
8
orz...那你应该这么问:我用R算出来的MLE,竟然不是sample mean。
请问我的code错在哪里...

【在 o******e 的大作中提到】
: 对啊,问题就是我假定是正态分布,但是得到的MLE不是样本均值和方差。。。
d******e
发帖数: 7844
9
normal distribution的variance的MLE本来也不是sample variance.

【在 l*********s 的大作中提到】
: You are not making senses here. Assuming normality,the sample mean and
: sample variance are the MLE for mean and variance. Same formula, same
: numeric results.
:
:
: likelihood

l*********s
发帖数: 5409
10
?愿闻其详

【在 d******e 的大作中提到】
: normal distribution的variance的MLE本来也不是sample variance.
t******l
发帖数: 32
11
Suppose X 服从 uniform[0,2u].
MLE of u is 1/2*max(X), not \bar{X}.
r****o
发帖数: 123
12
系数的问题吧,一个是1/n,一个是1/(n-1)

【在 l*********s 的大作中提到】
: ?愿闻其详
P****D
发帖数: 11146
13
n一大就无所谓了。

【在 r****o 的大作中提到】
: 系数的问题吧,一个是1/n,一个是1/(n-1)
I*****a
发帖数: 5425
14
用R是怎么算的?

【在 o******e 的大作中提到】
: 如果假定一堆数据符合同一正态分布,那么它的MLE很简单,不需要计算maximum
: likelihood, 我们就可以知道期望值是样本均值,方差是样本方差,而且如果把样本均
: 值和方差放到maximum likelihood的那个公式了,应该能够得到最大的likelihood。
: 问题是,如果这堆数据本身并不是特别符合正态分布,有没有这种可能,用R解出来的
: maximum likelihood estimator和样本均值,样本方差很不一样?这时候把样本均值方
: 差替入maximum likelihood的式子得到的likehood并不是最大的?

1 (共1页)
进入Statistics版参与讨论
相关主题
请教: Var(Xi-X-bar) 等于Var(Xi) 吗?MLE 问题again
[合集] question about MLE请教高手 gaussian统计知识一问
用EM求的MLE,但是observed likelihood 怎么算呢弱问,为啥取了log之后得到相反结论
likelihood ratio asymptotic approximations大家都是用什么软件estimate的?
maximum likelihood estimation请教:怎么求几组样本的总体均值的方差?
Maximum Likelihood estimation请教: 怎么求几组样本的总体方差?
诚心请教一个统计问题请教:一个总体的两个独立组取样后,总体的方差怎么求?
请教如何解这个qualifying exam 问题问个问题哈,关于maximum likelihood estimator
相关话题的讨论汇总
话题: likelihood话题: maximum话题: mle话题: estimator话题: 样本均值