l*******z 发帖数: 108 | 1 一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X,
替换后的R^2不变
看起来觉得显然,但是怎么说得清楚呢? |
s*****a 发帖数: 353 | 2 分别论证每个系数单独变化没有影响吧。对于a1:
证明Y'对X回归系数常数项变成A_hat-a1,一次项保持不变,这里A_hat和B_hat是原回归
的系数,然后算R^2发现保持不变。别的项思路类似 |
p********6 发帖数: 1802 | 3 直接代入simple regression的R^2就可以了。
【在 l*******z 的大作中提到】 : 一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X, : 替换后的R^2不变 : 看起来觉得显然,但是怎么说得清楚呢?
|
k*****y 发帖数: 744 | 4 It might be easier to look at it this way:
R^2 = 1 - err^2/var(Y)
Where err = Y - (A+BX), and err is perp to vec(1) and X.
Note that err is still perp to vec(1) and X', so after the transformation to
Y':
err' = a2*err.
And obviously var(Y') = a2^2 var(Y), therefore
(R^2)' = R^2.
【在 l*******z 的大作中提到】 : 一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X, : 替换后的R^2不变 : 看起来觉得显然,但是怎么说得清楚呢?
|
g*****1 发帖数: 18 | 5 r^2 = correlation^2, linear transformation does not change correlation,
therefore R^2 the same |
l*******z 发帖数: 108 | 6 一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X,
替换后的R^2不变
看起来觉得显然,但是怎么说得清楚呢? |
s*****a 发帖数: 353 | 7 分别论证每个系数单独变化没有影响吧。对于a1:
证明Y'对X回归系数常数项变成A_hat-a1,一次项保持不变,这里A_hat和B_hat是原回归
的系数,然后算R^2发现保持不变。别的项思路类似 |
p********6 发帖数: 1802 | 8 直接代入simple regression的R^2就可以了。
【在 l*******z 的大作中提到】 : 一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X, : 替换后的R^2不变 : 看起来觉得显然,但是怎么说得清楚呢?
|
k*****y 发帖数: 744 | 9 It might be easier to look at it this way:
R^2 = 1 - err^2/var(Y)
Where err = Y - (A+BX), and err is perp to vec(1) and X.
Note that err is still perp to vec(1) and X', so after the transformation to
Y':
err' = a2*err.
And obviously var(Y') = a2^2 var(Y), therefore
(R^2)' = R^2.
【在 l*******z 的大作中提到】 : 一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X, : 替换后的R^2不变 : 看起来觉得显然,但是怎么说得清楚呢?
|
g*****1 发帖数: 18 | 10 r^2 = correlation^2, linear transformation does not change correlation,
therefore R^2 the same |
|
|
l*******z 发帖数: 108 | 11 问题就是要证明
linear transformation does not change correlation
【在 g*****1 的大作中提到】 : r^2 = correlation^2, linear transformation does not change correlation, : therefore R^2 the same
|
l*******z 发帖数: 108 | 12 不好意思,没有看懂。
perp 是指垂直?
vec(1) 是指平面空间?
to
【在 k*****y 的大作中提到】 : It might be easier to look at it this way: : R^2 = 1 - err^2/var(Y) : Where err = Y - (A+BX), and err is perp to vec(1) and X. : Note that err is still perp to vec(1) and X', so after the transformation to : Y': : err' = a2*err. : And obviously var(Y') = a2^2 var(Y), therefore : (R^2)' = R^2.
|
C***m 发帖数: 120 | 13 perp 是指垂直
vec(1) 应该是一列1vector 作为base的subspace
你说这道题就是考怎么证明correlation 不变,那么直接带入correlation 公式就可以
了?
【在 l*******z 的大作中提到】 : 不好意思,没有看懂。 : perp 是指垂直? : vec(1) 是指平面空间? : : to
|
G*****n 发帖数: 7 | 14 首先,平移不会影响
其次,scaling不会影响
done |
s***e 发帖数: 267 | 15 Regression is essentially projection in Hilbert space. R^2 means the
percentage of variance of Y explained by the column space of X.
So as long as the linear transformation on X does not lose information, R^2
will remain the same for multiple regression as well.
【在 l*******z 的大作中提到】 : 一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X, : 替换后的R^2不变 : 看起来觉得显然,但是怎么说得清楚呢?
|