고유값 분해

basis

행렬에 어떤 벡터 $v$를 곱했을때, $v$의 상수배가 되는 경우, 이 벡터 $v$를 행렬 $A$의 고유벡터라고 부르고 상수$\lambda$ 를 고유값이라고 부른다. 즉, $v$가 $A$의 고유벡터라면, $Av = \lambda{v}$ 를 만족한다. 이를 수식화하면 다음과 같다.

$$\begin{aligned} &v \in \mathbb{R^n}, A \in \mathbb{R}^{n \times n} \\ &Av = \lambda{v} \end{aligned}$$

고유값과 고유벡터는 여러개가 있을 수 있다. 이를 수식으로 나타내면 다음과 같은 관계식으로 표현할 수 있다.

$$A \begin{bmatrix} |&|&| \\ \mathbf{v}_1 &\cdots &\mathbf{v}_n \\ |&|&| \end{bmatrix} = \begin{bmatrix} |&|&| \\ \lambda\mathbf{v}_1 &\cdots &\lambda\mathbf{v}_n \\ |&|&| \end{bmatrix} = \begin{bmatrix} |&|&| \\ \mathbf{v}_1 &\cdots &\mathbf{v}_n \\ |&|&| \end{bmatrix} \begin{bmatrix} \lambda_1&&\\ & &\ddots &\\ & & &\lambda_n \end{bmatrix}$$

이를 정리하면 $AV = V\Lambda$ 로 나타낼 수 있다.

• $V$ = 고유벡터가 열 벡터인 행렬
• $\Lambda$ = 고유값이 대각원소인 행렬

이때, 모든 고유벡터가 선형독립이라면(즉, $V \in \mathbb{R}^{n \times n}, Rank(V) = n)$ $V^{-1}$ 가 존재하고, 다음과 같은 수식을 만족한다.

$$A = V \Lambda V^{-1}$$

이렇게 행렬 $A$를 고유값과 고유벡터의 곱으로 표현하는 것을 고유값분해(EigenValue Decomposition) 이라고 한다.

futher more

• 응용: 주성분분석
• 고유값 분해는 행렬이 정사각행렬일때만 사용가능하다.
  • 행렬이 정사각행렬이 아닐때에는 어떻게 해야할까?

#미분