선형 변환을 했을 때, 방향은 변하지 않고 크기만 변하는 벡터를 고유벡터(eigenvector), 크기가 변한 배율을 고유값(eigenvalue)이라고 합니다.
1. 선형 변환
선형 변환은 벡터 공간에서 다른 벡터 공간으로 변환하는 함수입니다.
2. 고유벡터와 고유값 개념
앞서 말했듯이, 벡터에 행렬을 곱해 다른 벡터 공간으로 변환할 때, 어떤 벡터들은 크기만 다를 뿐 방향이 다른 벡터들이 존재합니다. 이 벡터를 고유벡터라고 하고 달라진 크기 비율을 고유값이라고 합니다.
위키벡과에 따르면 두 단어에 대해 다음과 같이 정의되어 있습니다.
선형 변환의 고유벡터(eigenvector)는 그 선형 변환이 일어난 후에도 방향이 변하지 않는, 0이 아닌 벡터이다. 고유 벡터의 길이가 변하는 배수를 선형 변환의 그 고유 벡터에 대응하는 고윳값(eigenvalue)이라고 한다. 선형 변환은 대개 고유 벡터와 그 고윳값만으로 완전히 설명할 수 있다.
아래 영상 1분 20초 ~ 3분 39초까지 고유값과 고유벡터의 정의에 대해 시각적으로 볼 수 있습니다.
두 그림은 모나리자 그림을 오른쪽으로 기울어진 모양으로 변하는 선형 변환을 보여줍니다. 빨간 벡터는 방향이 달라졌습니다. 하지만 파란 벡터는 선형 변환 뒤에도 방향은 똑같습니다. 따라서 파란 벡터는 고유벡터이고 파란 벡터의 크기가 변하지 않으므로 고유값은 1입니다. 만약 파란 벡터의 크기가 1에서 2로 증가했다면 고유값은 2가 됩니다.
3. 고유벡터와 고유값 구하기
고유벡터와 고유값의 정의에 따라 행렬 A(n x n), 벡터 v, 스칼라 λ가 있을 때, 행렬 A에 고유벡터 v를 곱한 것(선형 변환)이 고유벡터 v에 스칼라 λ배만큼 한 것과 같아야 합니다. 고유값과 고유벡터는 모두 정방행렬(n x n)에 대해서만 정의됩니다.
식으로 정리하면 아래와 같습니다. 이때 I는 항등 행렬입니다.
식을 좀 더 풀어서 이해해봅시다.
(A-λI)x = 0 에서 λ와 x를 구하면 됩니다. 만약 (A-λI)이 존재한다고 가정하고 양변에 곱해봅시다.
따라서 고유값과 고유벡터를 구하기 위해서는 |A-λI|=0으로 만드는 λ(고유값)를 먼저 찾고 (A-λI)x = 0에 대입해 x(고유벡터)를 구하면 됩니다.
따라서 행렬 A에 대해서는 2개의 고유값이 존재합니다. 고유값이 1일 때의 고유벡터는 [1, -1] 이고, 고유값이 3일 때의 고유벡터는 [1, 1] 입니다.