S*********r
发帖数: 4729 | 1 【 以下文字转载自 EE 讨论区 】
发信人: SmartFarter (喷屁式直升飞猪), 信区: EE
标 题: 请教一个distribution之间的likelihood问题
发信站: BBS 未名空间站 (Tue Jun 28 22:30:35 2005)
我需要有一个公式衡量for a given distrition Q, the likelihood p(W|Q).
W is the observed distribution. W and Q could be approximated by histogram.
What is a good measurement for p(W|Q)?
我打算用KL divergence，D(W,Q)来定义，p(W|Q)=c*exp(-D(W,Q)). 对不对呢？
主要问题是我不知道如何保证，/integral_W' p(W'|Q)dW'=1.
这个问题应该很常见。就是当我的model不是一个值，而是一个distribution的时候，
如果建立正确的likelihood公式。大家有没有遇到过这个问题？请教一下。 | g***o
发帖数: 230 | 2 You can do a density estimation for Q first and got a estimated pdf Q', then
P(W|Q') = P(W_1|Q')P(W_2|Q')...P(W_n|Q')
【在 S*********r 的大作中提到】
: 【 以下文字转载自 EE 讨论区 】
: 发信人: SmartFarter (喷屁式直升飞猪), 信区: EE
: 标 题: 请教一个distribution之间的likelihood问题
: 发信站: BBS 未名空间站 (Tue Jun 28 22:30:35 2005)
: 我需要有一个公式衡量for a given distrition Q, the likelihood p(W|Q).
: W is the observed distribution. W and Q could be approximated by histogram.
: What is a good measurement for p(W|Q)?
: 我打算用KL divergence，D(W,Q)来定义，p(W|Q)=c*exp(-D(W,Q)). 对不对呢？
: 主要问题是我不知道如何保证，/integral_W' p(W'|Q)dW'=1.
: 这个问题应该很常见。就是当我的model不是一个值，而是一个distribution的时候，
|
|
