1.主成分分析的具體方法
主成分分析是一類常用的針對連續變量的降維方法,選取能夠最大化解釋數據變異的成分,将數據從高維降到低維,同時 保證各個維度之間正交。 對變量的協方差矩陣或相關系數矩陣求取特征值和特征向量,經證明,對應最大特征值的特征向量,其方向正是協方差矩 陣變異最大的方向。依次類推,第二大特征值對應的特征向量,是與第一個特征向量正交且能最大程度解釋數據剩餘變異 的方向,而每個特征值則能夠衡量各方向上變異的程度。因此,進行主成分分析時,選取最大的幾個特征值對應的特征向 量,并将數據映射在這幾個特征向量組成的參考系中,達到降維的目的(選擇的特征向量數量低于原始數據的維數)。
二、算法解析1.主成分分析算法解析
主成分分析算法認為,數據的信息是包含在其方差當中的,如果一個随機變量的方差很小,說明其不确定性較低,或者說即便我們沒有獲 得這個變量的抽樣值,也幾乎可以用一個确定的值(例如其期望值)來代替它,因此引入它隻能消除很少的不确定性,即該變量包含的信 息較少。相反,一個方差很大的變量,如果能夠獲得它的抽樣值,則可以幫助我們消除很大一部分不确定性,因此它包含的信息較多。 從主成分分析的觀點出發,我們就知道下圖中投影到哪個軸更加合适了,顯然将原始坐标軸旋轉到左圖當中的U1位置更好,因為數據在 這個方向上的變異(方差)更大,而樣本在右圖的U1方向顯然變異更小(圖中陰影用于示意離散程度,并不代表方差大小)。
我們的目标是優化上式,求滿足該函數最大化的 u,可以使用拉格朗日乘數法,即求滿足下式最大的 u:
我們的目标是優化上式,求滿足該函數最大化的 u,可以使用拉格朗日乘數法,即求滿足下式最大的 u:
三、應用
1.何時采用相關系數計算方法和協方差矩陣計算方法
在實際研究中,有時單個指标的方差對研究目的起關鍵作用,為了達到研究目的,此時用協方差矩陣進行主成分分析恰 到好處。相關系數矩陣就是随機變量标準化後的協方差矩陣。通過随機變量的标準化,相關系數矩陣剝離了單個指标的 方差,僅保留指标間的相關性,用相關系數矩陣計算主成分,其優勢效應僅體現在相關性大、相關指标數多的一類指标上。
2.主成分法的應用
大緻分為三個方面:
(1)對數據做綜合打分
(2)降維以便對數據進行描述
(3)為聚類或回歸等分析提供變量壓縮 在應用時要能夠判斷主成分法的适用性,能夠根據需求選取合适的主成分數量。
四、例題精講1.主成分分析計算在選擇相關系數計算法時,确定主成分個數的大緻原則包括( )?
A.特征根值大于1
B. 特征根值大于0.5
C.累積特征根值加總占總特征根值的80%以上
D. 累積特征根值加總占總特征根值的50%以上
答案:AC 解析:主成分分析主要考核得到軟件的計算結果後如何選擇主成分個數,由于主成分一般不具有 明确的意義,因此不考核主成分的解釋,這會放在因子分析考核。該題是一個很标準的題目,答 案可以從任何一本教科書上找到。請注意題幹中的“大緻原則”,說明該原則在不同的運用場合 下選擇标準會略有改變
2.主成分分析計算分為根據相關系數和協方差矩陣兩種方式,以下哪種情況适合用相關系數計算( )?
A.變量的量綱不同
B. 變量的方差不同
C. 變量的标準差不同
D. 變量的均值不同
,
更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!