s****b
发帖数: 2039 | |
m**********e
发帖数: 12525 | 2 标准答案：
信息熵不是热力学意义上的熵
你无法给信息定义温度，热量，焓，化学势。。。也无法定义能量守恒
【在 s****b 的大作中提到】
: http://www.mitbbs.com/article/Military/44654449_0.html
: ??
|
v****g
发帖数: 11080 | 3 尼玛，锁男真坑，考才女哪有考数理化的，这多煞风景，应该考文史哲嘛，你们真不解
风情。 |
x********e
发帖数: 35261 | 4 将26个字母排序，形成有意义的话是熵减过程。但你人为排序消耗了能量释放热量。
【在 s****b 的大作中提到】
: http://www.mitbbs.com/article/Military/44654449_0.html
: ??
|
h***i
发帖数: 89031 | 5 信息论李能量和热量的区别是什么
【在 x********e 的大作中提到】
: 将26个字母排序，形成有意义的话是熵减过程。但你人为排序消耗了能量释放热量。
|
c****t
发帖数: 5452 | 6 你这瞎扯，信息论里面定义这些毫无压力
【在 m**********e 的大作中提到】
: 标准答案：
: 信息熵不是热力学意义上的熵
: 你无法给信息定义温度，热量，焓，化学势。。。也无法定义能量守恒
|
l******r
发帖数: 18699 | 7 answer is no change 给你个proof
let x1,x2,...,xn be iid rv, its ordered variables are y1<=y2<=..<=yn
let P_Y be pdf of yi's and P_X be the pdf of xi's, let pdf of xi be F
note that P_Y(y1,y2,...,yn)=P(Y1<=y1,..,Yn<=yn)=P(Y1<=y1)...P(Yn<=yn)=F(y1).
..F(yn)
P_X(x1,...,xn)=F(x1)...F(xn)
the information-theoretic entropy of yi's is
-sum F(yi) ln F(yi)=-sum F(xi) ln F(xi)= the entropy of xi's
so the information-theoretic entropy is the same after reordering the rv
【在 s****b 的大作中提到】
: http://www.mitbbs.com/article/Military/44654449_0.html
: ??
|
d*********u
发帖数: 2952 | 8 1 热力学熵被定义为与要进一步确定系统的微观状态所需要的更多香农信息的量成比例。
2 没有一种信息是可以无能量传递的
【在 m**********e 的大作中提到】
: 标准答案：
: 信息熵不是热力学意义上的熵
: 你无法给信息定义温度，热量，焓，化学势。。。也无法定义能量守恒
|
l******r
发帖数: 18699 | 9 yes,
I am legend
例。
【在 d*********u 的大作中提到】
: 1 热力学熵被定义为与要进一步确定系统的微观状态所需要的更多香农信息的量成比例。
: 2 没有一种信息是可以无能量传递的
|
x********e
发帖数: 35261 | 10 给你一张美腿图，打不打码，对你有什么区别
【在 h***i 的大作中提到】
: 信息论李能量和热量的区别是什么
|
|
|
l******r
发帖数: 18699 | 11 yes,
I am legend
例。
【在 d*********u 的大作中提到】
: 1 热力学熵被定义为与要进一步确定系统的微观状态所需要的更多香农信息的量成比例。
: 2 没有一种信息是可以无能量传递的
|
h***w
发帖数: 578 | |
h***w
发帖数: 578 | 13 妒妇弦月整天钻到别的帖子里面撕逼，今天我老以其人之道还治其人之身，恶心一把这
骚蹄子。 |
d*********u
发帖数: 2952 | 14 从玻尔兹曼出发，热力学熵与信息熵的解释就这么统一了。牵强么？
实际过程里，信息_能量是伴生的。参考麦克斯韦妖，信息可以转为能量，这是个熵增
过程……这不废话么， lol |
l******r
发帖数: 18699 | 15 这个帖子被我严格而简短的数学证明给terminate了，哈哈哈
【在 d*********u 的大作中提到】
: 从玻尔兹曼出发，热力学熵与信息熵的解释就这么统一了。牵强么？
: 实际过程里，信息_能量是伴生的。参考麦克斯韦妖，信息可以转为能量，这是个熵增
: 过程……这不废话么， lol
|
h***w
发帖数: 578 | |
l******r
发帖数: 18699 | 17 我都给她proof了，她还搜个啥？
【在 h***w 的大作中提到】
: 妒妇这会正在玩命的维基搜索。
|
h***w
发帖数: 578 | 18 没办法，妒妇那点感人的智商都用在撕逼上了，没有多余的了。
【在 l******r 的大作中提到】
: 我都给她proof了，她还搜个啥？
|
m**********e
发帖数: 12525 | 19 你连基本概念都不清楚
宇宙总熵和信息熵一样吗？
另外，昨天的问题你有答案了没有？
“找一车赶快给我找出来，TD LEE在哪一页丫“解释”了热力学三定律？”
http://localsev.lib.pku.edu.cn/lizhengdao/source/pdf/lzd12.pdf
).
【在 l******r 的大作中提到】
: answer is no change 给你个proof
: let x1,x2,...,xn be iid rv, its ordered variables are y1<=y2<=..<=yn
: let P_Y be pdf of yi's and P_X be the pdf of xi's, let pdf of xi be F
: note that P_Y(y1,y2,...,yn)=P(Y1<=y1,..,Yn<=yn)=P(Y1<=y1)...P(Yn<=yn)=F(y1).
: ..F(yn)
: P_X(x1,...,xn)=F(x1)...F(xn)
: the information-theoretic entropy of yi's is
: -sum F(yi) ln F(yi)=-sum F(xi) ln F(xi)= the entropy of xi's
: so the information-theoretic entropy is the same after reordering the rv
|
l******r
发帖数: 18699 | 20 宇宙总商的数学定义是什么？
【在 m**********e 的大作中提到】
: 你连基本概念都不清楚
: 宇宙总熵和信息熵一样吗？
: 另外，昨天的问题你有答案了没有？
: “找一车赶快给我找出来，TD LEE在哪一页丫“解释”了热力学三定律？”
: http://localsev.lib.pku.edu.cn/lizhengdao/source/pdf/lzd12.pdf
:
: ).
|
|
|
m**********e
发帖数: 12525 | 21 讨论宇宙的时候，按照主流big bang理论，宇宙时间尺度不同，energy scale就不同
熵作为一物理量，其measurement的结果，取决与观察者与被观察者的energy scale.
所以，宇宙的熵，需要重整化（renormalization)
你妈屄的，居然一般民科用概率论来证明熵，太鸡巴搞笑了 |
l******r
发帖数: 18699 | 22 这种语言描述不可信，你能给个宇宙熵严格数学定义，我就能告诉你答案
【在 m**********e 的大作中提到】
: 讨论宇宙的时候，按照主流big bang理论，宇宙时间尺度不同，energy scale就不同
: 熵作为一物理量，其measurement的结果，取决与观察者与被观察者的energy scale.
: 所以，宇宙的熵，需要重整化（renormalization)
: 你妈屄的，居然一般民科用概率论来证明熵，太鸡巴搞笑了
|
n*******4
发帖数: 2285 | 23 我看传统信息论实在没什么实用价值了。最近三四十年IT领域的突飞猛进, 日新月异的
大发展完全用不上老三论的东西。老三论在模拟信号时代有些意义。数字化时代, 信息
高保真复制传输是家常便饭, 那些数学化关于信噪比的东西派不上用场, 快成回字的第
n种写法了。 IT 需要自己的新东西, 新理论。
【在 m**********e 的大作中提到】
: 标准答案：
: 信息熵不是热力学意义上的熵
: 你无法给信息定义温度，热量，焓，化学势。。。也无法定义能量守恒
|
m**********e
发帖数: 12525 | 24 你对物理的理解，还停留在初等概念，你妈的，居然用概率论来讨论宇宙熵
【在 l******r 的大作中提到】
: 宇宙总商的数学定义是什么？
|
l******r
发帖数: 18699 | 25 弃婴，你是哪个单位的，想跟你交个朋友
我正在自学量子统计，能给个好的书目吗？
【在 m**********e 的大作中提到】
: 你对物理的理解，还停留在初等概念，你妈的，居然用概率论来讨论宇宙熵
|
s****b
发帖数: 2039 | 26 高人啊！虽然看了你的证明后，还是不大敢相信，因为排序后数据的有序性明明增加了
嘛。
俺原先觉得，如果熵的确是变化了的话，可不可以由数据内熵变化的速率，发展出一套
比较不同算法的效率和复杂度的方法，是不是会比目前基于极限／数学分析框架内的＂
大偶麦隆＂方法更有效？或者至少可以让码工省去了学习数学分析的头疼？
).
【在 l******r 的大作中提到】
: answer is no change 给你个proof
: let x1,x2,...,xn be iid rv, its ordered variables are y1<=y2<=..<=yn
: let P_Y be pdf of yi's and P_X be the pdf of xi's, let pdf of xi be F
: note that P_Y(y1,y2,...,yn)=P(Y1<=y1,..,Yn<=yn)=P(Y1<=y1)...P(Yn<=yn)=F(y1).
: ..F(yn)
: P_X(x1,...,xn)=F(x1)...F(xn)
: the information-theoretic entropy of yi's is
: -sum F(yi) ln F(yi)=-sum F(xi) ln F(xi)= the entropy of xi's
: so the information-theoretic entropy is the same after reordering the rv
|
l******r
发帖数: 18699 | 27 关键在于ordered variable在iid假设下可以再被order回去，所以数学上理解，
ordering不是一个增加熵的operation
【在 s****b 的大作中提到】
: 高人啊！虽然看了你的证明后，还是不大敢相信，因为排序后数据的有序性明明增加了
: 嘛。
: 俺原先觉得，如果熵的确是变化了的话，可不可以由数据内熵变化的速率，发展出一套
: 比较不同算法的效率和复杂度的方法，是不是会比目前基于极限／数学分析框架内的＂
: 大偶麦隆＂方法更有效？或者至少可以让码工省去了学习数学分析的头疼？
:
: ).
|
s****b
发帖数: 2039 | 28 还是觉得有点勉强
【在 l******r 的大作中提到】
: 关键在于ordered variable在iid假设下可以再被order回去，所以数学上理解，
: ordering不是一个增加熵的operation
|
x********e
发帖数: 35261 | 29 高中数学水平，看不懂你的推导。但是从密码学来说，光加密不知道怎么解密信息仍然
是没有意义的。所以信息的传递有两部分，排序本身不一定增加熵。
【在 l******r 的大作中提到】
: 关键在于ordered variable在iid假设下可以再被order回去，所以数学上理解，
: ordering不是一个增加熵的operation
|
h***w
发帖数: 578 | |
