c****m 发帖数: 91 | 1
报
计
个
不
指
法
没
一
都
在香农以前关于source coding的方法已经有了,但是对channel的理解是在香农的
capacity理论出来后才被人们认识的,偶更倾向于认为它是一个一般意义上的统计
理论。象AEP实际上是WLLN的特例,信息度量也都可以从概率统计中推倒出来,整个
IT的发展看起来更象是一堆数学。比香农更深刻的数学理论很多,但是能如此精确
地概括通信原理本质的东东(而且由他一个人完成)很难找出分号。香农的理论不是
构造性的,因此实际通信系统的建造还需要很多天才的想法,没有一种systematic
procedure to follow。
感
一
虽
论
你说的前提是什么?source coding, channel coding, rate distortion, network
information换到其他地方岂不真成了应用统计理论?象赌博,投资甚至testing
hypothesis也都可以用IT,但没必要把这些都归功于香农吧。IT触即到了统计学习
的本质,也可以说是一种inductive learning principle,但好像很难说就是最终 | k*****c 发帖数: 5 | 2 I don't know if you guys have read this before. It's got really interesting.
******************
Lessons Learned from Claude Shannon
Robert G. Gallager
May 18, 1998
Shannon Day, Lucent Bell Labs
We all learned information theory (directly or indirectly) from Claude
Shannon. We all learned a bunch of other neat results from his papers. The
focus here is on what we have learned about how to do research.
Questions to ask yourself as we proceed:
Is the style of research practiced by Shannon an endang |
|