h*******g
发帖数: 508 | 1 given a unknown gaussian distribution,
1) 如果有一批已知的采样值 from an unknown gaussian distribution， 我知道可以
根据 EM （estimated maximum likehood） 来推测出这个gaussian分布的最大可能性
2) 但如果这些采样个体的具体值未知， 只知道这些个体 被抽中的相对概率， 以及这
些个体的采样值的相对关系，
有什么算法可以去预测或者拟合出该gaussia的std or variance？
举个例子， 假设有一批数据是从一个未知的gaussian分布中提取的， 数据分为诺干个 subgroups, 已知所有这些数据的概率直，
还有在同一个subgroup里面,数据的相对关系已知（比如相邻样本的数值相差１）。
但这些数据的具体值未知，subgroups的相对关系也未知
如何去拟和出这个gaussian的std or variance？
由于数据的具体值未知，所以最后的gaussian分布的绝对位置可能是没法求的（mean）
， 但是variance或者std应该是可以拟合 |
D*******a
发帖数: 207 | 2 首先EM是expectation maximzation的缩写，你说的是MLE（maximum likelihood
estimation)，不可混用。
如果你说的相对关系是平移关系，那么还是可以推导variance的MLE的公式的，只不过
现在有个nuisance的mean变量。 |
h*******g
发帖数: 508 | 3 １我第一次发贴的时候漏写了一个关键点 subgroup
２ 同一个subgroup里 数据确实是平移关系
３ 如何推导variance的MLE的公式？ 有相关的经典paper或者link或者关键词么？
谢谢指点！ |
h*******g
发帖数: 508 | 4 再补充一点，突然想到，在我的case里，mean可以假定为一个任意值 ，比如可以假定
mean是０，这样就不是niusance了 |
D*******a
发帖数: 207 | 5 这个MLE的推导是简单的。我下面试试看，不一定对。用的latex语法，\approx是“正
比于”
Likelihood
\approx(\sigma^{-n})exp{-1/(2\sigma^2)\sum{(x_i-mean)^2}}
\approx(\sigma^{-n})exp{-1/(2\sigma^2)\sum{(x_i-\bar(x))^2+(\bar(x)-mean)^2}}
\aporox(\sigma^{-n})exp{-1/(2\sigma^2)\sum{(x_i-\bar(x))^2}}
令对\sigma的导数为0可以maximize likelihood。似乎答案和1)中的variance公式一致
。 |
