g********5
发帖数: 62 | 1 (from http://www.tau.ac.il/cc/pages/docs/sas8/stat/chap55/sect29.htm )
Stepwise (STEPWISE)
The stepwise method is a modification of the forward-selection technique and
differs in that variables already in the model do not necessarily stay
there. As in the forward-selection method, variables are added one by one to
the model, and the F statistic for a variable to be added must be
significant at the SLENTRY= level. After a variable is added, however, the
stepwise method looks at all the variables |
|
g********r
发帖数: 8017 | 2 有这么哥算法么？远不如stepwise regression make sense 啊。现在stepwise也早过时了。不做个lasso都不好意思见
人。你怎么还搞这个？ |
|
A*******s
发帖数: 3942 | 3 stepwise得一次一锅端一个categorical variable的，没有说分别对每个level的dummy
variable做stepwise的，要不完全没意义。 |
|
b**********e
发帖数: 672 | 4 how useful is it to use stepwise for selection of models? |
|
f****7
发帖数: 398 | 5 请教大家一个关于stepwise programming的问题,多谢大家宝贵的时间：
有一个dataset含有101个变量，现在希望依次找出前100个变量中哪些和最后一个变量
的有相关关系。解决的步骤是
1.找出correlation最高的var1，将var1与前100个变量中剩下99个variable分别相加，
得到一组新的variables
2.从新的99个变量中找出correlation最高的那个变量var2, 此var2实际是原dataset中
的var1+var2，并将var1,var2与原100个变量中剩下98个变量相加，得到一组新的
variables
3.从新的98个变量中找出correlation最高的变量var3=（var1+var2+var3）
4.重复以上步骤，直到每次运算中最高的correlation与前一次相比不再增加。
我对此类编程没有经验，现在还徘徊在到底是用sas还是r来处理的阶段，希望大家多多
指教，不甚感激。 |
|
f****7
发帖数: 398 | 6 stepwise selection
do you have any ideas about this? thanks! |
|
m****r
发帖数: 237 | 7 似乎SAS里面proc reg里的stepwise selection of r.v. 的想法和这个差不多吧。。你
可以去找找看关于这方面的东西。。。实在不行去问SAS group。。 |
|
f****7
发帖数: 398 | 8 Thanks,berry321, but it seems like not being able to use R itself as the
statistic for stepwise selection. |
|
p*****o
发帖数: 543 | 9 proc reg data=tmp;
model V5=V1--V4/ selection=stepwise slentry=0.05
slstay=0.10 details;
run;
想知道上面这段CODE中,SLENTRY=0.05是说，VARIABLE 要进入MODEL，必须P VALUE《0.
05么？这个SLSTAY=0.10是说VARIABLE要留在MODEL里面，必须P VALUE《0.10ME ?我糊
涂的是，为什么这两个P VALUE的值会是不一样的啊。。。 |
|
p********a
发帖数: 5352 | 10 ☆─────────────────────────────────────☆
fff007 (felix) 于 (Mon Mar 8 15:09:01 2010, 美东) 提到:
请教大家一个关于stepwise programming的问题,多谢大家宝贵的时间：
有一个dataset含有101个变量，现在希望依次找出前100个变量中哪些和最后一个变量
的有相关关系。解决的步骤是
1.找出correlation最高的var1，将var1与前100个变量中剩下99个variable分别相加，
得到一组新的variables
2.从新的99个变量中找出correlation最高的那个变量var2, 此var2实际是原dataset中
的var1+var2，并将var1,var2与原100个变量中剩下98个变量相加，得到一组新的
variables
3.从新的98个变量中找出correlation最高的变量var3=（var1+var2+var3）
4.重复以上步骤，直到每次运算中最高的correlation与前一次相比不再增加。
我对此类编程没有经验，现在还徘徊在到底是用sa |
|
r***k
发帖数: 162 | 11 比如level=1,2,3，做成dummy
L1 L2
0 0 =1
1 0 =2
0 1 =3
stepwise的时候，怎么看L1和L2的significance来解释哪个level是significant的呢？
谢谢！ |
|
o**m
发帖数: 828 | 12 请问 怎么在 nlme 包里的 lme 函数生成的 object 上
用 stepwise procedure ，例如 step(lm.mod) 类似的
谢谢
包子上 |
|
d*******y
发帖数: 1154 | 13 backward selection > forward selection b/c you can have a global look on
variable.
stepwise should be similar to backward |
|
d*********d
发帖数: 239 | 14 做stepwise 之前要不要提出比较严重的multicollinearity(检测VIF)？
而且对于logistic regression, 如何检测logit function 和independent variable
之间的线性关系？ |
|
A*******s
发帖数: 3942 | 15 先说说拿到这个offer的一些过程。一直盯着几间大银行的网站，五月初发现local有个opening，马上投简历。两三个星期之后HR做了phone screen， 几天之后和HM还有未来的一个同事进行了phone interview。6月底onsite，onsite后半个小时电话通知了口头offer。考虑到拖家带口不好挪窝，而且offer在我这鸟地方已经算很不错的了，没有讨价还价就接受了。
言归正题，接下来写写我觉得值得和大家分享的一些面试经验。这些经验不仅仅是来自于我拿到的offer，也有我对同类型opening面试的一些总结，和与朋友交流的一些经验(主要是statisticians/credit risk modeling at banks). 面试需要准备的技术问题TQ主要包括几方面:
1. GLM. 这个包括了整个过程，从一开始的data cleaning and transformation, outlier detection, missing valuerelated..., etc. 到mulitcollinea... 阅读全帖 |
|
i***e
发帖数: 219 | 16 这是我昨天上网查的，
貌似结合first trimester combined screening (blood test+ NT)和second
trimester screening 是准确率最高的，96%，全称叫fully integrated screening 。
只验血不做NT叫做serum integrated screening, 88%。
METHODS:
Women with singleton pregnancies underwent first-trimester combined
screening (measurement of nuchal translucency, pregnancy-associated plasma
protein A [PAPP-A], and the free beta subunit of human chorionic
gonadotropin at 10 weeks 3 days through 13 weeks 6 days of gestation) and
second-trimester quadruple sc... 阅读全帖 |
|
n*****s
发帖数: 10232 | 17 我感觉lasso总是选比stepwise少的多的var（我用的proc glmselect里面的selection=
lasso），有时候会怀疑不可靠。。。实际很多时候在linear regression中，lasso的R
^2也确实比stepwise小（在stepwise结果可以接受的情况下） |
|
p*****o
发帖数: 543 | 18 我用STEPWISE做LOGISTIC REGRESSION之后，把系数存在了PAREST这个DATA SET中，但
是里面有的VARIABLE是MISSING VALUE，因为STEPWISE没有把它选入最后的MODEL。
我的问题是，我用这个PAREST的DATA SET来PREDICT另外一个DATA SET: VALIDATION的
值的时候，比如：
SELECT
1/(1+exp(-(intercept + V.VAR1*E.VAR1 + V.VAR2*E.VAR2))) AS P1
FROM
VALIDATION AS V, PAREST AS E
但是E.VAR2是MISSING VALUE，有没有办法可以把MISSING VALUE在这一步变成0呢？---
-实际上我有很多VAR，不是只有两个，也不知道到底最后哪一个会被选入MODEL。
（因为我是在一个大的MACRO里面同时做STEPWISE还有ENTER METHOD两个REGRESSION，
并且都用来PREDICT VALIDATION DATA SET。所以想用一个统一的公式来写---就想上面
的那个公式，如果 |
|
W**********E
发帖数: 242 | 19 以前上课碰过一教授问过这么一个问题：对于那些PI级别的临床医生而言，统计师到底
是属于什么角色？ 是同等重要，还是给人提鞋的。咱们都说当然是同等重要了，临床
医生没受过这方面的训练，方案设计模型选取都没办法很严谨地考虑到，甚至想不到那
块。教授就说了个NO. 真出来搞research，和临床PI一接触，就立马知道自己啥地位。
这种地位观念直接反应到临床research的观点上，这还是从和别人合作投稿的经历中才
得出的体会。第一次是关于癌症不同分级系统预测能力的比较，前人的文章大都是临床
人员之手，基本上你不能不佩服这些临床大牛们非常有创意地运用统计方法来解决这比
较复杂地问题。他们能够把两个不同分级系统但高度相关的变量放到stepwise
regression里来，然后模型选中的那个就称为重要，没选中的就称为次要。对于临床人
员而言，实在是太直观也太好理解，还有stepwise这么高档的统计方法做依据。但这些
大牛们丝毫就没意识到如果有两个高度相关的变量，stepwise regression就一定只能
选一个，而永远不可能选两个。这种结果丝毫不能说明这评级系统之间的差异性，只能
说明... 阅读全帖 |
|
s*********s
发帖数: 100 | 20 做stepwise model selection, 但是需要一直保留一个variable, 剩下的变量去
stepwise, 请问这个应该实现？
是要在selection=stepwise slentry=0.05 slstay=0.05 details 加入一个什么命令吗？
万分感谢！！！ |
|
j**********i
发帖数: 3758 | 21 http://www.inf.ethz.ch/personal/wirth/
“Algorithms + Data Structures = Programs. ”是业界早已熟悉的谆谆告诫。
Program Development by Stepwise Refinement 却被人忽略，文章的内容已经失去部
分条件了，可是意义却任然很重要。因为作者是具体参加硬件和软件设计的人，知道许
多被埋藏的秘密。
早期的工作人员都是在配置很低，条件很差，没有框架的情况下工作，微小的变化对于
他们都很敏感，对于基础的体会是第一手的。如果我们今天看到系统核心很灵活，那是
因为这种灵活性的选择都是建立在大量，严格的考究和筛选的基础上的。核心的变化，
哪怕是一个变量，影响都很大，所以代码是不看数量，看质量的。基础打的不稳，架子
搭起来就不稳（现在许多人连什么是真正的基础都不知道）。这个道理虽然浅显，却很
难做到，我自己都觉得无法写出高质量的代码，幸好做核心工作的人可以。如果做不到
这一点，那么至少可以做到做好项目的任务分析，明确可行条件和了解任务难度。
有的东西是越老越香，有的东西是越新越先进。新的东西... 阅读全帖 |
|
v*******e
发帖数: 11604 | 22 程序员搞起统计来了。。。你问的都是统计问题，不是R的问题。
1）glm 它就是个迭代的算某一类特定model参数的程序/方法，当然要算到收敛为止。
没听说glm里面还有forward/backward/stepwise这类的东西。
2）AIC，BIC这类东西是用来选model的，不是用来算model参数的。model里面要包含哪
些变量，不包含哪些变量（比如没有多少影响的变量就别包含在内了），这是AIC，BIC
之类东西的用处。如果你用它来决定你的general linear model里面需要包含哪些变量
，当然要和glm（）交替运用。你先选一些变量做成model，然后用glm（）算出这个
model的参数和likelihood，再增/减变量，再用glm()算出参数和likelihood，然后你
就能用AIC决定要不要把这增/减的变量包含在内。
3）wikipedia有简短介绍。
stepwise |
|
A*******r
发帖数: 194 | 23 variable 多的话用PLS or PCA 搞出来的Covariance块头大不说也不正定吧。
这是typical的情况合用SVM吧。
还有
可不可以用pca, 然后再用stepwise 或者其他方法选factor
PCA出来的factor都independent了还要stepwise干什么？ |
|
S******y
发帖数: 1123 | 24 variable selection is an art!
stepwise is not error prone..
If you have 50+ random noise regressors, stepwise will find something
significant! |
|
f******h
发帖数: 46 | 25 当然也不是这么简单。比如我一股脑把所有上百个predictor都扔进去给sas自己用
stepwise选，那出来的model必定是存在很大的multicollinearity的overfitted的
model。
我说的＂随便拿了一个0.9 corr的var＂是指和response的corr有0.9。我都去掉
multicollinearity很大的predictor以后，又从去掉的那些里面随便拿了一个回来，然
后stepwise出来的model反而更好（R^2更大，而选择的predictor数量不多或者更少，
同时被选中的predictor之间也没有过大的multicollinearity）。这就让我感觉前面去
除multicollinearity的步骤是存在很大问题的。。。 |
|
c****s
发帖数: 63 | 26 我的问题是：
我现在有cost为outcome的数据，要用gamma distribution来fit,
但是难题是predictors有1000个,所以又要同时选择predictor.
我的想法:
1.如果用stepwise方法来选，就可以既fit gamma 又同时select variables. 在R中可
以实现，但老板所stepwise不好，让用lasso来select variables.
2.如果直接先用lasso选变量，再去fit model，好像也不太对。因为lasso fit的
是least Angle regression, 不是基于gamma distribution. 应该不能适用于cost
data.
不知道大家遇到这种问题该怎么办，SAS, Stata or R, 那个能解决这个问题呢？
或者有什么好的建议，先谢谢了！ |
|
y*****n
发帖数: 5016 | 27 if you have eminer, then you can use the "interactive grouping node". it can
not only bin each variable into woe, but also calculate the information
value and Gini for each variable. you can prescreen variables there. some
may argue that variables with low IV may still be picked up in the stepwise
regression. However, your bosses may want to see the "stand alone"
relationship between each model attribute and the target. therefore, you
want to make sure that each candidate variables has high IV b... 阅读全帖 |
|
p********a
发帖数: 5352 | 28 ☆─────────────────────────────────────☆
littlebirds (dreamer) 于 (Fri Aug 5 08:14:32 2011, 美东) 提到:
it is just another job
☆─────────────────────────────────────☆
WEIMINGSPACE (想也白想) 于 (Fri Aug 5 10:18:51 2011, 美东) 提到:
可你的JOB偏偏和这些只知道分组做个T检验，RUN个REGRESSION就当自己是FISHER转世
的脑残们戚戚相关，想着就悲
☆─────────────────────────────────────☆
littlebirds (dreamer) 于 (Fri Aug 5 10:35:12 2011, 美东) 提到:
Business/industries are not much better either. People don't trust things
they do not understand. You ... 阅读全帖 |
|
p********a
发帖数: 5352 | 29 ☆─────────────────────────────────────☆
zhongdianshi (brb) 于 (Mon Aug 29 09:50:26 2011, 美东) 提到:
OUTCOME: BMI
PREDICTOR: QUESTION1, QUESTION2, QUESTION5, QUESTION6...
所有的PREDICTORS是ORDIANL VARIABLE.
我想分别TEST OUTCOME和每一个PREDICTOR的CORRELATION.
我用了2个方法:
1.
PROC CORR SPEARMAN;
VAR BMI QUESTION1n QUESTION2n...;
RUN;
生成一个CORRELATION TABLE.
2. ANOVA
分别把每个PREDICTOR和BMI放到MODEL里,这一步,我不是很确定.
proc glm data = DATA;
class QUESTION1;
model BMI = QUESTION1;
meansQUESTION1;
run;
quit;
最终,是要建个MIXED MOD... 阅读全帖 |
|
s*******o
发帖数: 392 | 30
hi，man, thanks lot for your reply first.
you are right, subset is a nice way. Correct me if I am wrong:
Subset: if you have 160 variables, the sas would go to see what is best for
modeling with 1 variable, what is best with 2 vars, what is best.....what is
best for 159 vars. And overall, it compare to see which is best out of best
of 160 way with 1, 2, 3, 4....160 variables to predict or modeling. I would
try.
But here I did not use stepwise, I use backward which method I read
somewhere telling... 阅读全帖 |
|
g********3
发帖数: 123 | 31 when I use proc logistic......;class......;model....../selection=stepwise;
run; I got the warning:
WARNING: Ridging has failed to improve the loglikelihood in Step 1. You may
want to increase the
initial ridge value (RIDGEINIT= option), or use a different ridging
technique (RIDGING=
option), or switch to using linesearch to reduce the step size (
RIDGING=NONE), or
specify a new set of initial estimates (INEST= option).
WARNING: The LOGISTIC procedure continues in spite... 阅读全帖 |
|
c**d
发帖数: 104 | 32 in the model: y = var1|var2|var3|var4 @2 /stepwise;
give you all 2-way interactions.
1. using proc contents output the variable name data
2: using proc sql to create a macro variable to paste your variables to be
var1|var2|var3|var4|.....
3: in the model y = &varlist. @2 /stepwise; |
|
q**********9
发帖数: 711 | 33 proc glm 可以用 model y = var1|var2|var3|var4 @2;
但是option 里没有stepwise选项,
proc reg 有stepwise 选项,但是不能用 model y = var1|var2|var3|var4 @2这个命令,
我的sas 里没有proc glmselect 命令,现在该用哪个 proc 命令呢? |
|
h*******n
发帖数: 458 | 34 stepwise是建模中了，现在是想在建模前先减少X间的线性相关。而且stepwise的结果
并不保证X间相关性小。 |
|
o*s
发帖数: 623 | 35 如果你用SAS
看看这个 PROC GLMSELECT
SAS 9.4还是蛮全的
较早的版本9.2或者9.3没那么全
Forward Selection (FORWARD)
Backward Elimination (BACKWARD)
Stepwise Selection(STEPWISE)
Least Angle Regression (LAR)
Lasso Selection (LASSO)
Adaptive LASSO Selection
Elastic Net Selection (ELASTICNET)
当然R也应该都有的
相关文章：
Efron, B., Hastie, T., Johnstone, I., & Tibshirani, R. (2004). Least angle
regression. The Annals of statistics, 32(2), 407-499.
Tibshirani, R. (1996). Regression shrinkage and selection via the lasso.
Journal of the Royal ... 阅读全帖 |
|
s******y
发帖数: 17729 | 36 HONG KONG — A Communist Party corruption investigation focusing on the form
er head of China’s domestic security apparatus has reached into the secreti
ve realm of the intelligence services with the detention of a senior officia
l, people close to party and military leaders said this week.
Liang Ke, the director of the Beijing Municipal Bureau of State Security, wa
s taken into custody last month by the party’s arm for investigating offici
al misconduct, the Central Commission for Discipline Ins... 阅读全帖 |
|
c***4
发帖数: 114 | 37 你这个说法太片面了。
首先，lars作为一个不基于优化的算法，它的性质很值得研究，当然我们已经很清楚了
。比如它的homotopy性质， 等角行和zero－crossing，和greedy，stepwise算法的关
系，等等。
其次，lars并不是没有人在用。除非你的data large－scale到hadoop级别的框架。我
认为有imaging的人在用这个算法。
再则，如果你非要argue stochastic gradient descent，我认为这充其量也就是计算
上的贡献。 |
|
n********e
发帖数: 66 | 38 Screening只是“筛查”的意思。
那个李教授口中的“国际上通用早孕期筛查”,在美国叫"first trimester combined screening"，准确率是82-87%。这项测试在美国是也一个选做的测试，有些OB的诊所做不了，要refer到别的地方做。在中国只有一部分医院能做。
“普通唐筛”，在美国叫"Second Trimester Multiple Marker Screening" (The Quad Screen)。检测指标包括hCG、AFP、uE3、inhibin-A。这个筛查同时还能查神经管畸形的风险，因此并不是做了早孕期唐筛就可以不做“普通唐筛”。李教授说的“唐筛准确率仅30-60％”是在仅测AFP的情况下的准确率。在中国，有些医院可以做三联筛查（查hCG、AFP、uE3，正确率达75%），原文给出的就是三联筛查的报告），或四联筛查（查上面全部4个指标，正确率达80%）。准确的孕周，在孕早期做普通B超就可以确定。
正确率90-95%的叫combined integrated screening（或stepwise sequential screening）... 阅读全帖 |
|
w***n
发帖数: 9040 | 39 勇夺最后一名宝座，呵呵。
不过我最近太激进，脱离了健康锻炼的范畴：
Running can be a lifetime activity and a stepwise progression of goals can
be the best way to realize all your potential. With that in mind, I want to
state that we do not run marathons for health reasons. They are a
performance goal. You will get all kinds of health benefits but you will
also probably do things that are unhealthy. Running 60 to 100 miles per week
is great for the heart and lungs but can cause all kinds of muscular,
skeletal, and connective tiss... 阅读全帖 |
|
b*****l
发帖数: 2903 | 40 Training Program - Marathon Basic
Designed for those who have at least three year's running under their belt.
By Andy Palmer, Ph.D.
January 1, 2006
Before beginning this program a runner should have at least three year's
running under their belt. If this program looks too strenuous for you,
perhaps
you should train for shorter races and wait a little while before trying to
tackle a marathon. Running can be a lifetime activity and a stepwise
progression of goals can be the best way to realize all... 阅读全帖 |
|
d**y
发帖数: 18174 | 41 ti的stepwise drills确实太好了。根据我跟踪saja和sphere的帖子，我感觉ti有点像
苹果手机，别看A标准不支持，B部分支持，弄到后台好多apps又不run，但是删繁就简
，比较好操作，大部分功能都有。微软的手机支持的东西挺全，但是不太好使。 |
|
l*****a
发帖数: 38403 | 42 Explain that there is no simple cell. It has many dependencies, not just
thousands but actually millions and billions of genetic processes including
the very basic system of genes that pass instructions for self-manufacture
of life by that specific form of life -- and perhaps, epigenetic tags that
act in an approximately stepwise process by which genetic information is
thought to be translated into the substance and behavior of that specific
organism.[2]
There is ingestion using an organized and... 阅读全帖 |
|
w*********l
发帖数: 5144 | 43 need to be detached from here. it is a stepwise process |
|
r**********9
发帖数: 19633 | 44
stepwise比较好是吗？
cross validation 怎麽样
我宁愿比较AIC BIC的 |
|
m******r
发帖数: 1033 | 45 说R语言之前，说说王yin同学， 这人还是很牛b的； 牛b的人总有一些与众不同的地方
，普通人无法理解。 我看我儿子，好像总爱和我反着来 让我哭笑不得 他还挺认真。
想想算了 由他去吧。
然后说R语言。先说这个glm, 按说向前，向后，逐步回归(forward/backward/stepwise
)应该是glm里面一个重要选项才对。 没有这个选项，跑出来的东西我看毫无意义，当
然，你可以说他算了一堆数出来， So ?
第二，你可以用stepAIC，接着往下算。 我觉得很awkward, 本来一步的东西分两步走
，最后结果你给我存哪呢？？ 你让我怎么做automation呢？？ 这种文档谁又看得懂呢
？？
https://stat.ethz.ch/R-manual/R-devel/library/MASS/html/stepAIC.html
第三，老是写deviance, 我不记得统计书里说什么deviance, 都是说-2L. 当然我才疏
学浅，有懂得给说说，这个deviance是个啥意思？ |
|
l*********s
发帖数: 5409 | 46 forward/backward/stepwise 是搜索模型的方法，都是基于贪婪原则，不能保证你找到
全局最优解。 |
|
|
h*****G
发帖数: 113 | 48 By ectopic expression of only 4 transcription factors, terminal
differentiated somatic cells can be transformed to be iPS cells. My question
is that if iPS cells or ES cells can be directly programmed to a specific
somatic cell fate by a pool of lineage specific transcription factors
without usually used stepwise protocols. If yes, could you please show me
some of the references? If not, what do you think might be the problem? |
|
h*****G
发帖数: 113 | 49 Thank you.
Lineage reprogramming is definitely very promising. As mentioned in another
post, it has been showed that fibroblast can be transformed to neuron
with only 3 TFs.
At the same time, direct programming from ES/iPS cells to somatic cells are
few. And I was not be able to find any publications. So was wondering if
someone can help me with some papers about direct programming from ES/iPS
cells to somatic cells with TFs, not stepwise extracellular signals.
Thanks.
转换 |
|
