E*****d
发帖数: 238 | 1 【 以下文字转载自 Quant 讨论区 】
发信人: EvanDad (Evan's Daddy), 信区: Quant
标 题: Kalman filter预测参数？
发信站: BBS 未名空间站 (Thu Jul 31 23:09:55 2008), 转信
比如 y=a+b*x+c
已知对应每一个x的y值，一般来讲，可以用linearl regression来estimate a，b，c。
不过现在这个model认为那样算到的值不好，需要用kalman filter来估算，请问有人知
道怎么弄嘛？
我学了下 kalman filter， 好像它是去除观察过程中的noise 的啊，比如一个房间温度
是25度，但是每次测量的时候有比较大的误差，通过kalman filter后，能测算出接近2
5 真值的 数了。不过要用kalman filter来estimate我上面所说的 a，b，c就不知道如
何下手了，有人熟悉，嘛？ |
|
g****t
发帖数: 31659 | 2 (a)一多半是初始值的问题.
(b)一小半是numerical stability的问题.
你手算1,2步看看,就可检查是不是因为(b).
如果是(a),那只能你自己帮自己了.
Kalman filter出了名的难tuning.
没有一般的办法猜初始值.
本质上来讲,Kalman filter也是一种牛顿法求解优化问题.
所以初始值啥的需要猜.
【 以下文字转载自 EE 讨论区 】
发信人: oooppp (PPP), 信区: EE
标 题: Kalman 滤波的一个问题
发信站: BBS 未名空间站 (Thu Aug 21 23:49:36 2008)
请问有没有做Kalman滤波的大侠．
做了一个Kalman滤波器对目标跟踪的轨迹做平滑（简单Ｎewton力学模型），９９％以
上都ＯＫ，有时候偶尔出现异常大值（目标一直不动，偶尔跳动一两下）．有过这种经
验的给说说怎么回事？ |
|
s*********e
发帖数: 1 | 3 一直有个问题搞不清楚，就是kalman filter 的适用范围。
因为kalman filter 要求给定state equation, 这就代表所有无法得到state equation
的情况无法使用kalman filter.
举个例子， Nitendo 的遥控器（wiimote），用来测量瞬时加速度的工具。但是加速度
是由遥控器持有者人为控制的，这种情况怎样得到相邻两个时刻加速度的关系？如果得
不到，那就说明state equation 无法得到，那么如何使用kalman filter？ |
|
b***k
发帖数: 2673 | 4 ☆─────────────────────────────────────☆
EvanDad (Evan's Daddy) 于 (Thu Jul 31 23:09:55 2008) 提到:
比如 y=a+b*x+c
已知对应每一个x的y值，一般来讲，可以用linearl regression来estimate a，b，c。
不过现在这个model认为那样算到的值不好，需要用kalman filter来估算，请问有人知
道怎么弄嘛？
我学了下 kalman filter， 好像它是去除观察过程中的noise 的啊，比如一个房间温度
是25度，但是每次测量的时候有比较大的误差，通过kalman filter后，能测算出接近2
5 真值的 数了。不过要用kalman filter来estimate我上面所说的 a，b，c就不知道如
何下手了，有人熟悉，嘛？
☆─────────────────────────────────────☆
gogochen95 (GoGo) 于 (Fri Aug 1 01:07:19 2008) 提到:
If you can observ |
|
w********8
发帖数: 1 | 5 Dear Colleagues:
The Nano Bio-systems and Bio-inspired Engineering Laboratory at The Ohio
State University (OSU) has an immediate opening for a post-doctoral
researcher interested in Kalman Filter for quantitative biology. The focus
of the position is on developing a new theory for extended Kalman filtering
for applications in applied neuroscience and cognitive engineering. The
research results are expected to be implemented in a wearable multi-sensor
integrated system for monitoring cognitive b... 阅读全帖 |
|
d********e
发帖数: 30 | 6 【 以下文字转载自 Statistics 讨论区 】
发信人: diphontine (Hello World), 信区: Statistics
标 题: Looking for help on Kalman Filter and/or VAR $20/hr OBO
发信站: BBS 未名空间站 (Thu Oct 13 22:33:01 2011, 美东)
I am looking for someone to give me some intuition about Kalman Filter and/
or Vector Auto Regression face-to-face. I live in Manhattan during the week
and Southern Jersey (Monmouth/Ocean County) over weekend.
I have an undergrad in Math (mostly number theory and combinatorics) and phd
in computer science. I am look... 阅读全帖 |
|
d********e
发帖数: 30 | 7 【 以下文字转载自 Statistics 讨论区 】
发信人: diphontine (Hello World), 信区: Statistics
标 题: Looking for help on Kalman Filter and/or VAR $20/hr OBO
发信站: BBS 未名空间站 (Thu Oct 13 22:33:01 2011, 美东)
I am looking for someone to give me some intuition about Kalman Filter and/
or Vector Auto Regression face-to-face. I live in Manhattan during the week
and Southern Jersey (Monmouth/Ocean County) over weekend.
I have an undergrad in Math (mostly number theory and combinatorics) and phd
in computer science. I am look... 阅读全帖 |
|
f*****t
发帖数: 895 | 8 我在实现一套协议，其中要实现Kalman filter，用于状态预测。研究了一会儿Kalman
filter，不是很得要领。不知道
哪位有比较完整的Kalman filter的C源码让我参考一下，或者给一个下载链接。不胜感
激。 |
|
o****p
发帖数: 162 | 9 【 以下文字转载自 EE 讨论区 】
发信人: oooppp (PPP), 信区: EE
标 题: Kalman 滤波的一个问题
发信站: BBS 未名空间站 (Thu Aug 21 23:49:36 2008)
请问有没有做Kalman滤波的大侠．
做了一个Kalman滤波器对目标跟踪的轨迹做平滑（简单Ｎewton力学模型），９９％以
上都ＯＫ，有时候偶尔出现异常大值（目标一直不动，偶尔跳动一两下）．有过这种经
验的给说说怎么回事？ |
|
d********e
发帖数: 30 | 10 【 以下文字转载自 Statistics 讨论区 】
发信人: diphontine (Hello World), 信区: Statistics
标 题: Looking for help on Kalman Filter and/or VAR $20/hr OBO
发信站: BBS 未名空间站 (Thu Oct 13 22:33:01 2011, 美东)
I am looking for someone to give me some intuition about Kalman Filter and/
or Vector Auto Regression face-to-face. I live in Manhattan during the week
and Southern Jersey (Monmouth/Ocean County) over weekend.
I have an undergrad in Math (mostly number theory and combinatorics) and phd
in computer science. I am look... 阅读全帖 |
|
o****p
发帖数: 162 | 11 【 以下文字转载自 EE 讨论区 】
发信人: oooppp (PPP), 信区: EE
标 题: Kalman 滤波的一个问题
发信站: BBS 未名空间站 (Thu Aug 21 23:49:36 2008)
请问有没有做Kalman滤波的大侠．
做了一个Kalman滤波器对目标跟踪的轨迹做平滑（简单Ｎewton力学模型），９９％以
上都ＯＫ，有时候偶尔出现异常大值（目标一直不动，偶尔跳动一两下）．有过这种经
验的给说说怎么回事？
是通过调用openCV (Open Source Computer Vision / LaPack ...) C lib, 实现的.
没有数值溢出，因为被追踪目标有大致坐标位置， ９９％输出都没问题.
偶尔会坐标大到几千，几万离谱的很. 但又会收敛回来，否则整个轨迹都不对了.
补充一下, 我的力学模型:
状态矢量 x = (X, Y, Vx, Vy, Ax, Ax) (位置, 速度, 加速度)
观测矢量 y = (X, Y) (位置)
转变矩阵照牛顿力学给出 (和dt时间间隔有关)
测量矩阵
1 0 0 0 0 0
0 1 0 0 0 0
Q, R 矩 |
|
o****p
发帖数: 162 | 12 【 以下文字转载自 EE 讨论区 】
发信人: oooppp (PPP), 信区: EE
标 题: Kalman 滤波的一个问题
发信站: BBS 未名空间站 (Thu Aug 21 23:49:36 2008)
请问有没有做Kalman滤波的大侠．
做了一个Kalman滤波器对目标跟踪的轨迹做平滑（简单Ｎewton力学模型），９９％以
上都ＯＫ，有时候偶尔出现异常大值（目标一直不动，偶尔跳动一两下）．有过这种经
验的给说说怎么回事？ |
|
w********d
发帖数: 275 | 13
these are totally different concept
each model can have supervised and unsupervised case,
depends on the training data and differ is parameter estimation.
kalman filter and hmm are two kind of bayesian network,
which is called direct graphical model.
(that is ,bayesian network is direted graphical model)
kalman filter and hmm are two kind of
direct graphical model.
Also there is another kind of undirect graphical model, such as
markov random fields. |
|
n****w
发帖数: 8 | 14 最近看Kalman filter,觉得和EM算法很相似:
EM算法有
E步骤：estimate the expected values
M步骤：re-estimate parameters
迭代使用EM步骤，直至收敛
Kalman filter也是有time update和measurement update两个步骤
不断迭代直至收敛.
那在应用方面有什么区别吗? |
|
o****p
发帖数: 162 | 15 请问有没有做Kalman滤波的大侠．
做了一个Kalman滤波器对目标跟踪的轨迹做平滑（简单Ｎewton力学模型），９９％以
上都ＯＫ，有时候偶尔出现异常大值（目标一直不动，偶尔跳动一两下）．有过这种经
验的给说说怎么回事？ |
|
f*****t
发帖数: 895 | 16 哪位知道Kalman Filter的证明过程？或者相关的论文和资料？
看了Kalman的原文，不甚了解，想找一些更清楚明了的证明过程。 |
|
b***k
发帖数: 2673 | 17 ☆─────────────────────────────────────☆
cognac88 (Charlie) 于 (Mon Jun 30 10:31:01 2008) 提到:
哪里能找到Kalman Filter 的implementation或working example?
谢了。
☆─────────────────────────────────────☆
longhei ($$$$$$$$$$$$) 于 (Mon Jun 30 11:36:02 2008) 提到:
simulink里面应该有，不过我不确信
☆─────────────────────────────────────☆
gatsby (gatsby) 于 (Mon Jun 30 13:16:52 2008) 提到:
在stochastic differential equations里面有点理论.
在brockwell & davis的time series: theory and methods里面有专门一章讲kalman
filter在time series里的应用. |
|
s*****j
发帖数: 6435 | 18 如果我测量一个随即量, 有可能是迫松分布, 也有可能是高斯分布.
我测量了n次, 得到X1, X2,...,Xn, .
通常来说我可以用算数平均来得到X(ave), 但也有人用kalman filter来算平均直.
但这个测量量不是随参数变的, 也就是说n次测量是等价的. 这种情况下用kalman
filter会比算数平均更有意义嘛?
多谢 |
|
h***s
发帖数: 35 | 19 我在研究Kalman Filter的交易算法问题。算法见附件书上第三章，76-81页。Matlab的
代码见Algorithmic Trading Winning Strategies and Their Rational, Ernest P.
Chan
简单的说观察和统计显示，加元的ETF（EWC）和澳元的ETF（EWA）之差是中值回归的，
可以在差值偏离一个方差时买入，在回归中值时卖出， 或者相反。Chan的书中测试结
果很好，年回报20-30%，sharp ratio 2.3.
观察加元和澳元的汇率也有相同统计特征， 但是用这个模型却完全进入不了交易条件
。原因是用kalman filter得到的预测误差e(t)和它的方差Q(t)距离太大，甚至不是一
个数量级。于是我调整了输入数据，澳元汇率减一后乘以20， 加元汇率乘以20，就可
以得到数值匹配的e(t), Q(t)。年均回报率30%。
但是我无法从数学上解释为何这样调整可以使e(t), Q(t）匹配。我想找到一个通用的
规则用于各种汇率，使之交易策略有效。你是专家，给点开窍的想法？ 谢谢！ |
|
w**********y
发帖数: 1691 | 20 不要浪费时间去用过度复杂的model，model永远不是做出策略的最关键部分。
如果你这个idea能用,甚至都不需要用Kalman Filter,更用不着partical filter这些了
.
你要去想想kalman filter比linear regression增加的是什么feature. 而这些feature
实际应用的时候,你都可以用linear regression和选定local window和lookback
period去近似.
所以,唯一的建议,从linear regression开始做. 看看你做的过程中有哪些错误和观察
你上面说的transformation,没大看懂.如果你是 20*y = b*20*(x-1) + e
那你去交易你的spread当然能挣钱了. 你这样算出的spread已经被你人为加上drift了.
not tradable. |
|
o******6
发帖数: 538 | 21 ☆─────────────────────────────────────☆
nephow (湘) 于 (Tue Jan 27 17:13:09 2009) 提到:
最近看Kalman filter,觉得和EM算法很相似:
EM算法有
E步骤：estimate the expected values
M步骤：re-estimate parameters
迭代使用EM步骤，直至收敛
Kalman filter也是有time update和measurement update两个步骤
不断迭代直至收敛.
那在应用方面有什么区别吗?
☆─────────────────────────────────────☆
drburnie (专门爆料) 于 (Tue Jan 27 18:01:49 2009) 提到:
... ...
☆─────────────────────────────────────☆
bignamehyp (bignamehyp) 于 (Tue Jan 27 18:25:48 2009) 提到:
.......
☆───────────── |
|
m****s
发帖数: 402 | 22 Kalman Filter,
Neural Network,
Bayessian Network,
Hidden Markov Model,
感觉都很相似, 比较容易混,
牛人来说说它们区别在哪呢? |
|
f*********y
发帖数: 43 | 23 诚心问两个问题：
（1）能否给个intro，各个approach在哪种场合有优势，或者明显优势？
in particular, 预测股票市场(time series)那个适合？
（2）另外，Kalman filter 里面，基本上是等时间差data预测，i.e.,
x_hat~（n+1) = A x_hat(n) + B u(n+1)
//很多场合，u=0，therefore, x_hat~（n+1) = A x_hat(n);
P = ...
K_gain = ...
x_hat(n+1) = ...
根据上述公式，已知了1，2，... n,可以预测n+1
请问，我可否在前n-1 measurement point时候只预测下一步，
在第n个measurement point的时候突然直接预测第n+k步？
附：http://en.wikipedia.org/wiki/Kalman_filter |
|
f******k
发帖数: 297 | 24 what does kalman filter have anything to do with bayesian framework? it
neither has any prior settings nor calculate any posteriors... |
|
w********d
发帖数: 275 | 25 hmm and kalman filter can be thought as the simplest
dynamic bayesian network |
|
g***o
发帖数: 230 | 26 Search for Sigma-point Kalman filter on Google. You should be able to find
the wonderful and widely used package written by my former colleague Rudolph
van der Merwe
已估了t-1次，有c(1)...c(t-1)，对应y(1)...y(t-1)。现在来了y(t)，求c(t)并预测c
(t+1)。 |
|
o****p
发帖数: 162 | 27 回头再问一句, 有人知道, 单精度浮点(float)运算下, Kalman滤波可靠吗 (尤其对于
信号延续时间比较长的情况)? |
|
o****p
发帖数: 162 | 28 回头再问一句, 单精度浮点(float)运算下, Kalman滤波可靠吗 (尤其对于信号延续时
间比较长的情况)? |
|
y*****e
发帖数: 18 | 29 I am working Kalman filter recently.
I use KF to estimate time-varying betas.
Codes are done, collecting data now, then test.
I don't think it will take too long time. |
|
p********0
发帖数: 186 | 30 Ding,
I may not be clear about my question, let me rephrase it.
For time series data, state space model, if the parameter is not static,
change over time
X_t = F_t * X_t-1 + R.
Y_t = H_t * X_t
What's the best way for finding the online parameter?
I found resurve Least Sqaure Error/Gaussian Newton method/Kalman filter all
can be used to do the online parameter estimate, what's the best method?
Anyone has experience?
[x |
|
y******e
发帖数: 5906 | 31 我晕，还有用kalman filter做汇率交易的，果然是高人，我只拿来做物体追踪，活该
我当民工的料。大哥你的附件书在哪里我看不到呢，发来学习一下啊？matlab代码我也
可以看看。
不清楚你这行，我做追踪时发现KF类似于硬件上的锁相环，从控制来讲，也就是有个负
反馈的，做微调精调不错，但是如果你输入输出差别太大，就匹配不上，会失锁。这估
计就是你说的数值匹配问题吧。 |
|
|
y******e
发帖数: 5906 | 33 大哥，我就是个半吊子，如果说错了，你别揍我啊。
我看了你的书，那个y是你的EWC对不对？x是你的EWA？
在kalman filter系统里面，y就是你的observation/measurement ，但x不是你真正的
state，真正的state是你的beta，这才是KF里面做state predict的。在KF里面，具体
到你这个案例里，x相当于你的state transition model,这个状态转移量实际是KF系统
的可调参数，由你随便调节的。
而y的prediction（yhat）又和x有关系，所以你的x乘以20，y也要跟着乘以20，不然你
的error计算差别就太大了（error=y-yhat）至于你的x为什么要先减个1，我估计可能
和你设置的那些variance的初始值相关，这些参数都是随便调的，怎么调出来效果好就
怎么算。 |
|
n*****g
发帖数: 365 | 34 Kalman filter 的最基本最重要的假设就是 stationary.
股市的本质就不是stationary的， 反过来说，即使这个KF的backtesting效果不错，真
的使用还要不断调整参数，本质上说，就是假设一小段时间内的平稳随即的。
如果参数太多，调整太复杂，你的cost就太高了。KF60年代就挺成熟了。
还是试试linear regre 或者deep learning。
feature
了. |
|
h***s
发帖数: 35 | 35 谢谢各位意见，很有启发。我想做1分钟和5分钟的交易，kalman filter calibration
速度还是快的，个人机器上几毫秒可以校准1500个数据点，在多个CPU的服务器上应该
少于1毫秒。完全赞同necyang非stationary的特点，只想用动态的calibration追求短
期的平稳。 |
|
q**j
发帖数: 10612 | 36 在下想了解一下time varying parameter的kalman filter model.请问哪位大侠可以给
指点几本比较好的书。希望其中一本有比较好的例子和基本idea。一本有严谨的推导，
一本或者一篇文章有比较客观的评论，比较一下time varying parameter kf 和VAR的
优劣，variance部分和garch的比较，在实际应用中（或者哪些应用中）改善比较多。
另外在matlab和R里面有没有现成，可靠的package来implement这个model。多谢指教。 |
|
q**j
发帖数: 10612 | 37 多谢。请问ssm什么意思。我找了找发现一个FKF好像非常类似。请问大侠有没有用过
FKF？有何感想，能否做time varying parameter kalman filter.多谢了。
predi |
|
m******t
发帖数: 184 | 38 【 以下文字转载自 NewYork 讨论区 】
发信人: mmknight (Mark), 信区: NewYork
标 题: 女儿看牙，遭遇哥大水货华人大夫，悲惨经历
发信站: BBS 未名空间站 (Sat Sep 20 23:16:25 2014, 美东)
女儿牙齿情况，四岁，所有大牙都能看到黑的，但从来没说过疼。因为大牙更换太晚，
暑假找大夫诊治。因为老婆英文不好，找了一个华人大夫，Angie Chin， 哥大名校毕
业。
因为情节比较曲折，所以下文较长。
女儿的牙齿需要治疗四次，左上左下右上右下，全部要补。治疗顺序从严重的左上开始
。前三次治疗比较顺利，女儿虽然哭，但都坚持下来，比较配合。第四次治疗前夕，女
儿说左上牙齿痛，但不强烈，外表看不出任何问题，没有肿或红，左上的牙齿第一次治
疗时已经取完牙神经。第四次治疗和Angie 反馈该情况。Angie 直接打开补的牙齿，重
新补上，告诉我们说补的牙齿被孩子咬坏了，所以会疼。当天将第四次牙齿补完。这次
治疗在周三。
周三晚上回家，孩子牙齿还是疼，并且表现比以前剧烈。周四疼痛加剧，给Angie 打电
话，建议观察，说她已经打开看过了... 阅读全帖 |
|
m******t
发帖数: 184 | 39 【 以下文字转载自 NewYork 讨论区 】
发信人: mmknight (Mark), 信区: NewYork
标 题: 女儿看牙，遭遇哥大水货华人大夫，悲惨经历
发信站: BBS 未名空间站 (Sat Sep 20 23:16:25 2014, 美东)
女儿牙齿情况，四岁，所有大牙都能看到黑的，但从来没说过疼。因为大牙更换太晚，
暑假找大夫诊治。因为老婆英文不好，找了一个华人大夫，Angie Chin， 哥大名校毕
业。
因为情节比较曲折，所以下文较长。
女儿的牙齿需要治疗四次，左上左下右上右下，全部要补。治疗顺序从严重的左上开始
。前三次治疗比较顺利，女儿虽然哭，但都坚持下来，比较配合。第四次治疗前夕，女
儿说左上牙齿痛，但不强烈，外表看不出任何问题，没有肿或红，左上的牙齿第一次治
疗时已经取完牙神经。第四次治疗和Angie 反馈该情况。Angie 直接打开补的牙齿，重
新补上，告诉我们说补的牙齿被孩子咬坏了，所以会疼。当天将第四次牙齿补完。这次
治疗在周三。
周三晚上回家，孩子牙齿还是疼，并且表现比以前剧烈。周四疼痛加剧，给Angie 打电
话，建议观察，说她已经打开看过了... 阅读全帖 |
|
m******t
发帖数: 184 | 40 女儿牙齿情况，四岁，所有大牙都能看到黑的，但从来没说过疼。因为大牙更换太晚，
暑假找大夫诊治。因为老婆英文不好，找了一个华人大夫，Angie Chin， 哥大名校毕
业。
因为情节比较曲折，所以下文较长。
女儿的牙齿需要治疗四次，左上左下右上右下，全部要补。治疗顺序从严重的左上开始
。前三次治疗比较顺利，女儿虽然哭，但都坚持下来，比较配合。第四次治疗前夕，女
儿说左上牙齿痛，但不强烈，外表看不出任何问题，没有肿或红，左上的牙齿第一次治
疗时已经取完牙神经。第四次治疗和Angie 反馈该情况。Angie 直接打开补的牙齿，重
新补上，告诉我们说补的牙齿被孩子咬坏了，所以会疼。当天将第四次牙齿补完。这次
治疗在周三。
周三晚上回家，孩子牙齿还是疼，并且表现比以前剧烈。周四疼痛加剧，给Angie 打电
话，建议观察，说她已经打开看过了，应该没有问题。周五疼痛加剧且频繁，再次打电
话给Angie，说可以尝试吃止疼药Motrin。周六周日，疼痛再次恶化，已经到了撕心裂
肺，半夜可以哭醒的情况。呼叫诊所紧急号码，值班经理说大夫周末不上班，只能找牙
科急诊，问急诊有啥办法，反馈说一般急诊就是拔牙。打... 阅读全帖 |
|
B******s
发帖数: 52 | 41 至于针对性，是针对什么呢？？？？就因为LZ是数学或者计算的 就不用去理解生物
系统了？？？ 还是说就不用学一学生
物和物理了？
难道他是计算数学出身就该 整天摆弄toy model fit data 做一堆optimisations 和
predictions
你不管是啥背景的 你想做合成生物学 至少生物学的基础知识和问题就要了
解吧 难道生物学里的理论知识
就不用去学习了？？
那你告诉我，你说针对性的数学都是什么，假如你知道用什么数学去解决特定的问题，
我觉得那就不会成为问题。。。
另外，不管是 systems biology 和 synthetic biology 跟 biology 没有区别，只不
过是生物学研究到达瓶颈后 自然提出来
的概念 （既然是瓶颈必然需要很多其他学科的知识和工具来试图解决问题）
各种领域的人都试过很多方法，就像你列举的那些 Matrix PDE Boolean network
Bayesian network Game theory
MCMC, HMM, Kalman... 阅读全帖 |
|
B******s
发帖数: 52 | 42 至于针对性，是针对什么呢？？？？就因为LZ是数学或者计算的 就不用去理解生物
系统了？？？ 还是说就不用学一学生
物和物理了？
难道他是计算数学出身就该 整天摆弄toy model fit data 做一堆optimisations 和
predictions
你不管是啥背景的 你想做合成生物学 至少生物学的基础知识和问题就要了
解吧 难道生物学里的理论知识
就不用去学习了？？
那你告诉我，你说针对性的数学都是什么，假如你知道用什么数学去解决特定的问题，
我觉得那就不会成为问题。。。
另外，不管是 systems biology 和 synthetic biology 跟 biology 没有区别，只不
过是生物学研究到达瓶颈后 自然提出来
的概念 （既然是瓶颈必然需要很多其他学科的知识和工具来试图解决问题）
各种领域的人都试过很多方法，就像你列举的那些 Matrix PDE Boolean network
Bayesian network Game theory
MCMC, HMM, Kalman... 阅读全帖 |
|
g****t
发帖数: 31659 | 43 非实时应用的最小二乘法，对应于分块求矩阵的伪逆。
这算一类。
实时应用的最小二乘法，对应于rank one 算法求矩阵违逆。
随机过程版本的最小二乘法，就是Kalman filter。
除此之外，还有Total least square之类的东西。
然后，常用的数学模型都是非线性的，例如GPS,
把非线性模型有效的线性化，又有许多种方法。
(所谓的extended kalman filter,iterated extended kalman filter等等)
再考虑算法的数据稳定性，鲁棒性，等等等，不同的情况又有许多不同的考虑。
如果你google
Gauss-newton,Kalman, least square这三个关键字，
能查到的论文已经是无穷无尽。
再加上最小二乘法还可以用来求解PDE，除了可以应用于离散模型，
还可以应用于PDE模型的数值求解和参数识别等等等等。
最小二乘变种这么多阿
argue |
|
m******a
发帖数: 77 | 44 接受批评!
关于 BOOST RESIDUAL 一说, 请参见前面 DATA2014 兄的回贴
遵照VICTOR前辈的建议, 在这儿多说两句, 同一篇文章, 每个人的理解可能都不一样
本人学 GRADIENT BOOSTING, 读的是这篇
http://statweb.stanford.edu/~jhf/ftp/trebst.pdf
看看他的公式 6-10 或者更简单, 他的 ALGORITHM 2
就应该很清楚他是在 BOOST RESIDUAL - 试图每一步都减少RESIDUAL
兄台既然已经写过, 想必理解必然正确, 不过可能是从另一个角度
另外, 本人理解, HMM 和 KALMAN FILTER 还是有差别的,
至少在程序算法实现和应用上, 一分立, 一连续 - 没见谁拿 KALMAN FILTER 去作 NLP
模型,
也没见谁拿 HMM 去预测股价吧 - 除非是我孤陋寡闻, 虽然都可归为态空间模型
还有, 通常说的BOOSTING, 如ADA, EPSILON, 和GRADIENT BOOSTING, 有些细微差别
也可能兄台提及的是通常的BOOSTING
通常的BO... 阅读全帖 |
|
G***Y
发帖数: 9698 | 45 大苹果活动看板（10/16）
Oct 17, 2016, 11:54 AM
戏剧·表演
Wildlife Conservation Film Festival 野生动物保护电影节 ★★★★★ 各大电
影节金秋正在纽约如火如荼地展开，这怎么能少得了动物主题的电影节呢？为期10天的
第6届野生保护电影节将于本周开始，电影节连同生物多样性研讨会同一时间举行，不
仅有引人深思的独立电影放映，主办方还将组织观众到野外实地考察生态环境、针对野
生动物生存现状的研讨会以及餐会。 节目多多，不容错过。详情可以到官网挑选
感兴趣的活动参加。
时间：10月17-23日
地点：地点随活动改编，具体请查询官网
费用：18-184元，具体请查询官网
网址：http://www.wcff.org/2016-film-festival/
Upcoming Movie This Week：Elle 本周新片速递 《她》 ★★★★★
这部电影在戛纳电影节一登场就瞬间俘虏了评委与观众的心，连刁钻的影评人也对其青
睐有加，同时登上影评权威杂志 《电影手册》 与 《正片》 的最新封面。于佩尔饰演
的米歇尔是一家游戏公... 阅读全帖 |
|
B*******e
发帖数: 1009 | 46 卡尔曼是名声大 一辈子就一个Kalman Filter而已 当然比起凡人来说已经很牛逼了
我认识一个Harvard的emeritus professor生平最鄙视的就是Kalman 因为他一辈子就做
了这一个工作 而且吃到老 此外Kalman人本身也是极其无比的傲慢 狂妄 所以呆过的地
方名声都很差 当然人家可能根本不在乎 |
|
y******e
发帖数: 5906 | 47 做不了研究，现在只剩扯淡了
英文还不好，一紧张就容易结巴
不过今年好像有点儿进步，不像去年，人家老问我到底在说什么
没人让我再重复了
昨天做了一个45分钟的presentation居然没结巴
还有教授听懂了
有个做kalman filter的老教授，他写这书的还问了我几个kalman filter的问题！可惜
我太紧张了没答好，后来一起吃饭时扯了一下淡！跟他说有人拿kalman filter预测股
票！他居然还扯上了，嘻嘻。 |
|
|
s********k
发帖数: 6180 | 49 应该是维纳，就是著名的维纳滤波创始人，火箭导弹这些大杀器的制导的基础解决理论
都源于此，直到遇到登月任务发现搞不定，于是kalman横空出世，当时NASA的人听了
kalman的思想惊为天人，靠着kalman的“抱着木盆划过大西洋”成功登月 |
|
|
