[科普中國]-特征根回歸

當(dāng)自變量之間存在線性關(guān)系時，最小二乘法回歸得出的預(yù)測結(jié)果很不可靠，特征根回歸(Characteristic Root Regression，CRR)是R.L.Mason和J.T.Webster等人于1974年提出的另一種改進最小二乘估計的線性有偏估計方法1。

基本介紹主成分回歸僅從原自變量的樣本數(shù)據(jù)中提取主成分，沒有考慮自變量與因變量y的關(guān)系。作為主成分回歸的推廣形式，Webster等(1974)提出了特征根回歸(Latent Root Regression，LRR)，將因變量也考慮進去了。同樣，也是從原有數(shù)據(jù)中提取相互正交的主成分，從而在消去原自變量復(fù)共線性的同時，也使所建立的回歸方程能夠表征自變量與因變量之間的相關(guān)關(guān)系2。

回歸系數(shù)的特征根估計假設(shè)X是由因變量y和自變量標(biāo)準(zhǔn)化處理后的數(shù)據(jù)矩陣?？梢宰C明，由XTX的特征根可以將回歸系數(shù)的最小二乘估計表示為2

式中

現(xiàn)在假設(shè)。那么，就將它們略去，這樣方程(1)就由剩下的項來表示，即

式中

計算步驟建立特征根回歸方程的計算步驟如下：

(1)對給定的因變量y和自變量進行標(biāo)準(zhǔn)化處理。將處理后的因變量放在前面，自變量放在后面，構(gòu)成一個數(shù)據(jù)矩陣，記為X。

(2)計算協(xié)方差矩陣XTX，得到增廣相關(guān)矩陣。

(3)求出增廣相關(guān)矩陣的特征及對應(yīng)的特征向量。

(4)將同時都非常接近于0的去掉。在實際操作時，限定就認為它們近似等于0。

(5)應(yīng)用方程(4)和(5)計算回歸系數(shù)的特征根估計。

(6)建立特征根回歸方程2。

本詞條內(nèi)容貢獻者為:

劉軍 - 副研究員 - 中國科學(xué)院工程熱物理研究所