特征值、特征向量和奇異值

特征值和特征向量

1 特征值分解與特征向量

  • 特征值分解可以得到特征值(eigenvalues)與特征向量(eigenvectors);

  • 特征值表示的是這個特征到底有多重要,而特征向量表示這個特征是什么。

    如果說一個向量\vec{v}是方陣A的特征向量,將一定可以表示成下面的形式:

A\nu = \lambda \nu

\lambda為特征向量\vec{v}對應(yīng)的特征值。特征值分解是將一個矩陣分解為如下形式:

A=Q\sum Q^{-1}

其中,Q是這個矩陣A的特征向量組成的矩陣,\sum是一個對角矩陣,每一個對角線元素就是一個特征值,里面的特征值是由大到小排列的,這些特征值所對應(yīng)的特征向量就是描述這個矩陣變化方向(從主要的變化到次要的變化排列)。也就是說矩陣A的信息可以由其特征值和特征向量表示。

2 奇異值與特征值有什么關(guān)系

那么奇異值和特征值是怎么對應(yīng)起來的呢?我們將一個矩陣A的轉(zhuǎn)置乘以A,并對A^TA?求特征值,則有下面的形式:

(A^TA)V = \lambda V

這里V?就是上面的右奇異向量,另外還有:

\sigma_i = \sqrt{\lambda_i}, u_i=\frac{1}{\sigma_i}A\mu_i

這里的\sigma?就是奇異值,u?就是上面說的左奇異向量。【證明那個哥們也沒給】
?奇異值\sigma?跟特征值類似,在矩陣\sum?中也是從大到小排列,而且\sigma?的減少特別的快,在很多情況下,前10%甚至1%的奇異值的和就占了全部的奇異值之和的99%以上了。也就是說,我們也可以用前r?r?遠小于m、n?)個的奇異值來近似描述矩陣,即部分奇異值分解:
A_{m\times n}\approx U_{m \times r}\sum_{r\times r}V_{r \times n}^T

右邊的三個矩陣相乘的結(jié)果將會是一個接近于A的矩陣,在這兒,r越接近于n,則相乘的結(jié)果越接近于A。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容