w*******i
发帖数: 987 | 1 【 以下文字转载自 Economics 讨论区 】
发信人: waiwaiwai (whywhy), 信区: Economics
标 题: 请教:如何把两个signals转化成一个同时最大程度保持信息
发信站: BBS 未名空间站 (Fri Oct 19 22:41:12 2007), 转信
这个问题是和sufficient statistic和Bayesian updating有些关系的。
我发现对SS，统计学上常用的定义和经济学家习惯用的很不一样，具体到normal
random variable, 经济学家说C是A和B关于V的SS，一般意义就是
E[V|A,B,C]=E[V|C] 和Var[V|A,B,C]=Var[V|C]。而这个和统计学上用的定义有差别。
一般情况下，如果A,B是 iid conditional on V, 那么C=(A+B)/2是一个SS，但
按上面的要求A+B也是一个SS,但他本身方差大于A和B了，不如C，所以我觉得
经济学用的定义很成问题。
现在把A和B看作关于V的signal，那么C=(A+B)/2可以理解成把两个signals压缩成一个
有SS性质 | j*****g
发帖数: 98 | 2 pp36-38, Elements of Information Theory, T. Cover
in the definition you have,
the economic sense one seems not sufficient
【在 w*******i 的大作中提到】
: 【 以下文字转载自 Economics 讨论区 】
: 发信人: waiwaiwai (whywhy), 信区: Economics
: 标 题: 请教:如何把两个signals转化成一个同时最大程度保持信息
: 发信站: BBS 未名空间站 (Fri Oct 19 22:41:12 2007), 转信
: 这个问题是和sufficient statistic和Bayesian updating有些关系的。
: 我发现对SS，统计学上常用的定义和经济学家习惯用的很不一样，具体到normal
: random variable, 经济学家说C是A和B关于V的SS，一般意义就是
: E[V|A,B,C]=E[V|C] 和Var[V|A,B,C]=Var[V|C]。而这个和统计学上用的定义有差别。
: 一般情况下，如果A,B是 iid conditional on V, 那么C=(A+B)/2是一个SS，但
: 按上面的要求A+B也是一个SS,但他本身方差大于A和B了，不如C，所以我觉得
| w*******i
发帖数: 987 | 3 书找到了，好像没有针对我这种情况的
先问个简单问题，sufficient statistic一般不是unique的吧？
我前文那个A+B是不是也是一个SS?
例外，我的问题中其实不需要完全的SS，只要传递最大信息就可以，
换句话说，可以是两个Expectation相除等于一个常数这种情况
【在 j*****g 的大作中提到】
: pp36-38, Elements of Information Theory, T. Cover
: in the definition you have,
: the economic sense one seems not sufficient
| j*****g
发帖数: 98 | 4 my understanding is that when talking about sufficient statistics, it is for
some parameter, like the rate of poisson distribution...
then to see whether it is a sufficient statistics, we have to go through the
check by definition at least or other methods...
check wiki's explanation on sufficient statistics, might be useful...
【在 w*******i 的大作中提到】
: 书找到了，好像没有针对我这种情况的
: 先问个简单问题，sufficient statistic一般不是unique的吧？
: 我前文那个A+B是不是也是一个SS?
: 例外，我的问题中其实不需要完全的SS，只要传递最大信息就可以，
: 换句话说，可以是两个Expectation相除等于一个常数这种情况
| D*******a
发帖数: 3688 | 5 sufficient statistics is not unique
however, some ss are called "minimal" as they have minimal dimensions.
【在 w*******i 的大作中提到】
: 书找到了，好像没有针对我这种情况的
: 先问个简单问题，sufficient statistic一般不是unique的吧？
: 我前文那个A+B是不是也是一个SS?
: 例外，我的问题中其实不需要完全的SS，只要传递最大信息就可以，
: 换句话说，可以是两个Expectation相除等于一个常数这种情况
| w*******i
发帖数: 987 | 6 I fully agree with you, as I said economist usually uses SS in different way
as statistician.
for
the
【在 j*****g 的大作中提到】
: my understanding is that when talking about sufficient statistics, it is for
: some parameter, like the rate of poisson distribution...
: then to see whether it is a sufficient statistics, we have to go through the
: check by definition at least or other methods...
: check wiki's explanation on sufficient statistics, might be useful...
|
|
