s********a 发帖数: 328 | 1 大家帮忙看看这个题:
{p1,p2,...,pN},{q1,q2,...,qN} are two discreet distributions.
sum(pi)=sum(qi)=1. prove that when (q1^(p1-q1))*...*(qN^(pN-qN))=1,
regardless of the p distribution, q1=q2=...=qN=1/N. N=2的时候好证,让证明N=3的
时候的。我觉得N=3的时候证明了,后面N=任何数字就也都证明了。挺明显是成立的
numerically,但
是找不到真正解决的方法。请教! |
b*******8 发帖数: 37364 | 2 两边取对数,整理一下,好像是那个著名的熵的公式,等号成立时熵达到极值,就是均
匀分布。找本信息论的书,估计前两章里就能找到证明。好像关键的证明一步是要知道
e^x>=x+1还是ln(x)<=x-1,大概这样,记不清了。 |
s********a 发帖数: 328 | 3 是啊,就是熵的东西。。。能给个连接么?
【在 b*******8 的大作中提到】 : 两边取对数,整理一下,好像是那个著名的熵的公式,等号成立时熵达到极值,就是均 : 匀分布。找本信息论的书,估计前两章里就能找到证明。好像关键的证明一步是要知道 : e^x>=x+1还是ln(x)<=x-1,大概这样,记不清了。
|
z***c 发帖数: 102 | 4 题目好像有问题阿,只要pi=qi等式不就满足了么。 |
s********a 发帖数: 328 | 5 对,p=q是另外一个解,我没写对
【在 z***c 的大作中提到】 : 题目好像有问题阿,只要pi=qi等式不就满足了么。
|
s********a 发帖数: 328 | 6 我找到了elements of information theory 这本书,看了一下,没有找到呢。。。
【在 b*******8 的大作中提到】 : 两边取对数,整理一下,好像是那个著名的熵的公式,等号成立时熵达到极值,就是均 : 匀分布。找本信息论的书,估计前两章里就能找到证明。好像关键的证明一步是要知道 : e^x>=x+1还是ln(x)<=x-1,大概这样,记不清了。
|