由买买提看人间百态

topics

全部话题 - 话题: 信息论
首页 上页 1 2 3 4 5 6 7 8 9 10 (共10页)
x****6
发帖数: 4339
1
你强调的是工程和技术,我强调的是科学,加起来是科技,都很重要,但是它们也是很
不一样的。
科学不care utility, 比如花了半天做实验、建模、验证,发现大肠杆菌趋化运动是对
化合物浓度的变化产生反应而不是对绝对浓度产生反应,并且更重要的是用一个非线性
的负反馈定量的解释清楚了。这对人类生产生活屁用都没有,跟我们一毛钱关系都没有
。但是它还是有重要、很有意义,因为它满足了我们的好奇心。
q-bio的大部分工作是纯理科,或者说物理,导向,qi lei这种算是小众。
这个领域的大牛如stan leibler, william bialek, terry hwa都是物理学家出生,分
别从统计物理,信息论和动态系统的角度来看待生命,给出了纯生物思路不可能达到的
对生命的见解。

是大
x****6
发帖数: 4339
2
传统生物学以实验和现象为主导的刻板单调训练(分子,细胞,遗传,生化,发育,微
生物)不太可能帮助生物学家发现关于生命的深刻见解。
真正要追求新颖而深刻的发现,需要物理学的“结构性”思维,来寻找生命系统
idyosyncracy背后的普遍规律。
比如stan leibler发现的基因网络在功能层次上的鲁棒性;william bialek发现的果蝇
胚胎发育在分子层面的极其精简的信息论基础;华泰利深度研究的细菌生长速度和核糖
体蛋白/总蛋白比例之间的简单线性关系。
这些都深刻揭示了纷繁复杂的生命现象背后的一些抽象规律,帮助我们理解生命到底是
什么。而这些牛人都无一例外的是物理学家,尤其以搞凝聚态的为多。
x****6
发帖数: 4339
3
比较经典的工作是关于细菌趋化运动基因网络的鲁棒性,就是基因网络的功能的维持不
主要是靠组成蛋白的具体浓度来决定的,而是由网络的结构/wiring(feedback loops)
来决定。
这是理论: http://www.nature.com/nature/journal/v387/n6636/full/387913a0.html
这是实验验证: http://www.nature.com/nature/journal/v397/n6715/full/397168a0.html
果蝇胚胎发育的空间信息基本上达到了信息论理论允许的极限:http://www.pnas.org/content/110/41/16301.short
bialek写的这本教材很好的说明的他认为的关于生命的一些基本原理,很有启发:
https://www.princeton.edu/~wbialek/PHY562/WB_biophysics110918.p
x****6
发帖数: 4339
4
比较经典的工作是关于细菌趋化运动基因网络的鲁棒性,就是基因网络的功能的维持不
主要是靠组成蛋白的具体浓度来决定的,而是由网络的结构/wiring(feedback loops)
来决定。
这是理论: http://www.nature.com/nature/journal/v387/n6636/full/387913a0.html
这是实验验证: http://www.nature.com/nature/journal/v397/n6715/full/397168a0.html
果蝇胚胎发育的空间信息基本上达到了信息论理论允许的极限:http://www.pnas.org/content/110/41/16301.short
bialek写的这本教材很好的说明的他认为的关于生命的一些基本原理,很有启发:
https://www.princeton.edu/~wbialek/PHY562/WB_biophysics110918.p
A*********l
发帖数: 2005
5
来自主题: ChineseMed版 - 关于中医和西医的争论
哥们,很愿意看你的帖子,会从方法论,系统论的角度看问题。
我叔就是个很不错的中医,尤其擅长儿科。他就很重视学习方法论,系统论,信息论,
心理学,哲学之类的东西,对西医的很多观点,进展也很有了解,有时候,针对某些症
状,
直接建议患者或亲属去看西医,知道兼容并蓄。比如说,有患者自觉心脏不好(常见心
脏病
患者的感觉),但心电图和其他西医心脏有关的检查就是查不出原因。我叔在患者做心
电图
之前,就很肯定说不是心脏的问题,是属于某种焦虑症(我叫不上名字),并且知道应
该吃
什么药。最后患者去这方面的专科检查的结果和他的判断一样。至于中医方面,自然也
很有一套。
关于国内中医势微,良医难寻,以及西医思维对中医思维的负面影响,他还写过文章,
摘要大概是这样的:
================
从认知心理学视角,通过透视典型病例,分析中医临床辨证论治思维西化的原因,即:中医
辨证的概念被偷换,中医望诊的注意范围被局限,中医切诊的技术精度被干扰,中医临床
思维深化的思路被阻断,中医论治的内涵被简化.这就是在头脑对中医信息的认知心理加
工过程中,因西医信息干扰而出现的负迁移现象.
=========
c****n
发帖数: 21367
6
来自主题: ChineseMed版 - 问孕期食补
猜你不会是数学的概率应用专业的,那就不要和我比了吧,呵呵。
我的方向之一是信息论。再说这“n盲试验”的定义是很粗浅的,
这能有什么问题。
“把被测者当作物体”就是人为制造独立性,这很显然啊 。
你自己逻辑混乱。不了解胰腺细胞当然不如了解胰腺细胞对胰腺癌了解得多,
但是了解胰腺细胞就了解了胰腺癌吗?
l****p
发帖数: 5
7
随便说说关于turbo code和ldpc。
在turbo code原作者的某篇文章中提到,(sorry,记不清楚了,好像是某年ieee paper
award 的介绍文章中)turbo
code是从硬件实现的问题出发的。后来人们才认为它的interleave和香农的随机编码的id
ea类似,并由此来解释它的突出性能。但interleave本身是很早就有的概念,为了避免突
发错误带来的致命影响,或者说,更好的利用时间diversity.
至于ldpc,我不记得在Gallager 的博士论文中有提到他是在香农随机编码的影响下来设
计自己的矩阵的,固然,他的矩阵是随机产生的。
当然,香农那样划时代的论文对其他人所施加的潜在的影响是肯定存在的。只是觉得,无
论是从turbo code和ldpc来看,很难发现信息论对实际的真正制导价值。从另一方面来说
,turbo code的原型是并联的卷级码。但利用多种码来提高性能是非常自然的想法,我觉
得turbo code的关键贡献是在于设计了sova和iterative decoding。ldpc也有同样的情形

香农的贡献是全方位的和勿庸置疑的。或
w********g
发帖数: 171
8
来自主题: EE版 - 信息论基础问题请教!
Y1=X+N,
Y2=X+N+Z,
where X and N and Z are all independent of each other.
X is the signal (Gaussian if necessary), N is AWGN, Z can be some potential
interference (may not be Gaussian).
Is it true that I(X;Y1)>=I(X;Y2)? Why? Any comments will be appreciated!
多谢!
B*B
发帖数: 87
9
来自主题: EE版 - 信息论基础问题请教!
Yes, it is true.
This is a 2-user AWGN broadcast channel model.
See Cover's book sec.14.6

potential
k*******d
发帖数: 1340
10
R. Ahlswede, N. Cai, S.-Y. R. Li and R. W. Yeung, "Network information flow,
" IEEE Trans. on Information Theory, vol. 46, pp. 1204-1216, 2000.
S.-Y. R. Li, R. W. Yeung, and N. Cai. "Linear network coding". IEEE
Transactions on Information Theory , Februray, 2003.
R. Koetter and M. Medard, "An Algebraic Approach to Network Coding",
Transactions on Networking, October 2003.
Jaggi, Sidharth, Sanders, Peter, Chou, Philip A.,Effros, Michelle, Egner,
Sebastian, Jain, Kamal, Tolhiuzen, Ludo M. G. M. (
d*****n
发帖数: 9
11

flow,
thank you
D*******a
发帖数: 3688
12
很多读ee的都是喜欢ee的
要是无所谓,我也觉得学人搞搞finance也挺好的

去的,都是很聪明的人了。 有这样的数学基础,这样聪明的脑袋,为什么不考虑 转到
金融方向?EE PHD, 忙的半死,少见 起薪 能有10万的。 在那些金融公司,起薪 小
于10万,却是相当少见
f*****l
发帖数: 82
13
有很多是真的喜欢么....第一次看到人这么说
D*******a
发帖数: 3688
14
至少我自己是喜欢ee的
不喜欢又何必逼自己呢?东西又难钱也不见多。
f*******t
发帖数: 84
15
我正打算往火坑里跳:正准备作一点it呢, 最近接触it觉得很有趣,呵呵,不过我本来也
是另外一个火坑里的.
V******i
发帖数: 306
16

是这样。不过进这个火坑要做好为理想而牺牲的准备。
俺老人家是觉得越来越力不从心了。钻研的越多发现
懂得越少。最后现实的东西不想干,科研突破也没
有,甚至对原来自己的科研理解产生了怀疑。最终的
成果就是认识到原来俺啥都没搞懂。。。
当然,人生就是一种经历。
j*****g
发帖数: 98
17
cannot agree more...
r*****f
发帖数: 247
18
不是把...这么大的换血需要时间精力,更重要的是走错了也不后悔的决心
况且怎么着手也不懂啊.有没有什么建议,只是看书么?还是要去上课?还是???

去的,都是很聪明的人了。 有这样的数学基础,这样聪明的脑袋,为什么不考虑 转到
金融方向?EE PHD, 忙的半死,少见 起薪 能有10万的。 在那些金融公司,起薪 小
于10万,却是相当少见.怎么就这么多人,要死抱住 EE 不放呢?
D*******g
发帖数: 364
19
so....why don't all of them go to financial industry?

去的,都是很聪明的人了。 有这样的数学基础,这样聪明的脑袋,为什么不考虑 转到
金融方向?EE PHD, 忙的半死,少见 起薪 能有10万的。 在那些金融公司,起薪 小
于10万,却是相当少见.怎么就这么多人,要死抱住 EE 不放呢?
p****f
发帖数: 251
20
because many ppl like me really love what we are doing. Money does not mean
everything.
D*******a
发帖数: 3688
21
不是很大的换血
数学功底都用的上
上上ito calculus就差不多了
D*******a
发帖数: 3688
22
比trader和sales差太远
D*******a
发帖数: 3688
23
哈哈,网屏员?
V******i
发帖数: 306
24

通信基本上现在处于低潮期,经费压力非常之大。
而且很多未来通信网络发展的问题,实际上没人能有什么能够convince大家的想法。很多
人伪装着对大方向有清晰的认识,象推销员一样去推销自己的想法。名人名家们会静下心
来解决些著名难题,这方面虽然俺非常钦佩,但是那些问题就算解决了,对通信前景能产
生什么影响着实不好说。
不过历史上科研的情况总是如此,理论上的进展能够让人们对某些问题的认识达到一个全
新的高度。可是绝大部分理论进展,都是在实际解决方法已经很不错的情况下产生的。现
在经费压力如此之大,本身应用方面有很多问题大家不知道如何解决。想象一下这个时候
你去妄图给一些实际已经做得很不错的东西去做理论总结。很多人,甚至很多同行,都会
质疑做这些研究是否有意义。最典型的例子是turbo code。很多理论问题没有解决。可是
大家都觉得没多大必要再研究了。俺觉得对学生来说,环境还相对好一些。一个敢于做这
些研究的学生,很多名人会愿意提供帮助。如果成了faculty,各种压力一起压上来。加
上如果水平不是明星级,进展不那么显著,精神压力是很大的。
总之俺经常被这些问题所困扰。自己也不清楚自己走
D*******a
发帖数: 3688
25
这跟喜不喜欢ee是两回事
不喜欢ee,也可以在FE的地盘上灌水忽悠
FE里面灌水的还不是一样多
是这样的,你如果不喜欢ee,想转金融,没人拦着你啊。用不着贬低ee来证明自己选择
正确。关键还是自己以后是否后悔。

为了生活,可以理解
V******i
发帖数: 306
26
No, 表乱猜。GBG还给俺写过推荐信呢。虽然他为啥要发那么些文章俺也不大理解,
但是到那个档次俺只能认为是人的一种爱好。和生存压力不是很有关系。
w********e
发帖数: 385
27
agree, 大家都是骗子,美国政府是最大的骗子,hehe

为了生活,可以理解
t**********t
发帖数: 12071
28
莫非是XIAODONG WANG?
t**********t
发帖数: 12071
29
老大可是GBG的学生?
V******i
发帖数: 306
30

No. 表瞎猜。xiaodong和俺交情不错。和俺有过节的不怎么出名,
一般人不一定知道有这一号。嗯。
t**********t
发帖数: 12071
31
那老大可以整死他,呵呵。
V******i
发帖数: 306
32

学术圈其实大家都在暗处,谁也指不定落在谁手里。很多大牛
也经常被人恶心。其实一般情况下都尽量谁都不得罪。不过这
个世界上当然就是会有人愿意我行我素,非要显示自己可以恶
心别人。俺老人家不被人害死就不错了,根本没能力,也没功
夫考虑整别人的问题。基本上如果听说某人处事太没有公平正
义,俺以后尽量躲着走就是。
d**********i
发帖数: 11
33
GBG是谁, xiaodong wang 是不是哥大的那个很牛的老板? 火星人问一个.
r*****f
发帖数: 247
34
牛啊。。。。
大哥给小弟写个推荐信吧。我想申请xiaodong wang的组, 呵呵
l**k
发帖数: 160
35
都是水车,那还不如申GBG
t*****e
发帖数: 666
36
来自主题: EE版 - 崔屹 纳米电池突破
虽然我不懂nano,但是崔能混成这样非常不错了。中国人老是抱怨印度人不做事,爱吹
牛,邀功。现在看到同胞牛b了,又眼红了,打击一片。很多研究现在怎么看的到将来的用处?举个不恰当的例子,香农搞信息论的时候,发的paper开始到处被拒,别人都说通信怎么能用数学来搞。对于同胞能取得这样的成绩,我觉得我们应该高兴。
e******g
发帖数: 461
37
来自主题: EE版 - 崔屹 纳米电池突破
崔再怎么搞怎么能和香农比
nano就是一个大泡泡,整天吹牛皮

来的用处?举个不恰当的例子,香农搞信息论的时候,发的paper开始到处被拒,别人
都说通信怎么能用数学来搞。对于同胞能取得这样的成绩,我觉得我们应该高兴。
z1
发帖数: 389
38
来自主题: EE版 - 崔屹 纳米电池突破
你肯定是科大的。

来的用处?举个不恰当的例子,香农搞信息论的时候,发的paper开始到处被拒,别人
都说通信怎么能用数学来搞。对于同胞能取得这样的成绩,我觉得我们应该高兴。
S********e
发帖数: 322
39
来自主题: EE版 - 崔屹 纳米电池突破
Shannon那段是别人瞎掰的。。
造出来的一个joke而已
你还当成真事了。。

来的用处?举个不恰当的例子,香农搞信息论的时候,发的paper开始到处被拒,别人
都说通信怎么能用数学来搞。对于同胞能取得这样的成绩,我觉得我们应该高兴。
Y**e
发帖数: 41
40
建议第一本。
第一本几乎涵盖数字通信所有内容,是本入门得好书。
第二本以信息论得观点看无线通信,属于进阶本了把。
总之,这两本,都是好书!
y***c
发帖数: 48
41
我国内的弟弟要分专业方向了。(武大)。那个方向好些?将来打算出国的。(不过他
很懒惰的说....)
1. 通信工程
2. 电子信息工程
3. 光信息科学与技术
4. 电子信息科学与技术
分专业以后各专业将要开的的课程:
1. 通信工程:
微机原理与接口技术,信息论与编码、通信原理、数字信号处理、计算机网络、移动通
信、光纤通信、程控交换技术、语音信号处理、数字图像处理。
2. 电子信息工程:
微机原理与接口技术,微波原理、电波传播、通信原理、数字信号处理、计算机网络、
数字图像处理。
3. 光信息科学与技术:
微机原理与接口技术,数字图像处理、应用光学、波动光学、激光原理与技术、光学测
试技术、光电器件及系统、传感器技术、光纤通信等。
4. 电子信息科学与技术:
微机原理与接口技术,微波原理、电波传播、通信原理、数字信号处理、计算机网络、
数字图像处理。
l**k
发帖数: 160
42
如果搞信息论这些比较理论的方向的话,matlab可能都不用,
推公式就够了
p***e
发帖数: 139
43
来自主题: EE版 - white noise
google+wikipedia
第三个问题不容易
信息论里面有很多人在研究denoising
f*****g
发帖数: 30
44
来自主题: EE版 - 数据通信是干什么的?
建议学信息论和数字信号处理。另一个重要的基础是概率论,这个物理应该学过了。电
子线路的基础应该也够了。
Y**e
发帖数: 41
45
在学习信息论,对这个很有兴趣,哪位老大能介绍些相关的内容?谢谢
r*****f
发帖数: 247
46
max C=\sum_i log(1+x_i)
s.t. \sum_i x_i<=P
是经典的waterfilling算法。
其实这个C是P的函数,可以写成C(P), 请问C(P)是否是concave的。
有证明么?
a*******e
发帖数: 346
47
Doesn't C increase with the power P?
P is the water you want to pour into the channels
r*****f
发帖数: 247
48
It increases with P, but is it concave?
a*******e
发帖数: 346
49
应该是concave的吧。。
至少SNR很高的时候,各个信道几乎平分power。 这个情况一定是。
m****y
发帖数: 74
50
yes it is, using a time-sharing proof would work...
首页 上页 1 2 3 4 5 6 7 8 9 10 (共10页)