[선형대수학] 고유값(eigenvalue)과 고유벡터(eigenvector)

길버트 스트랭 교수님의 강의를 들으면서 선형대수학을 공부하고 있다. 고유치와 고유벡터가 선형대수학 후반부의 핵심적인 내용이라고 하니 한번 정리해보려고 한다. 항상 느끼는 것이지만 그냥 단순히 공식을 알고 고유값, 고유벡터를 구할 수 있다고 해서 진짜로 고유치, 고유벡터를 아는 것은 아니다. 제대로 이해해야지만 기억에도 남고 활용할 수 있는 것 같다. 수학 과외를 하면서 느끼는 거지만 공식만 알고 이 공식이 왜 생겼고 이 공식이 어떤 의미를 갖는지를 알지 못하면 조금만 응용되어도 문제를 풀지 못하는 것과 마찬가지다. 

▶ 고유값과 고유벡터란?

고유값, 고유벡터에 대한 수학적인 의미는 다음과 같다. 어떤 정방 행렬 A가 있을 때, A에 A의 고유벡터인 를 곱해준 것은 고유벡터 에 고유값 를 곱해준 것과 같다. 

...(1: 고유값 방정식)

A의 고유벡터에 행렬 A를 곱해준 것이 고유벡터 에 일개 상수인 고유값 를 곱해준 것과 같다는 것이다. 원래 어떤 벡터에 행렬을 곱해주면 크기와 방향이 모두 바뀌는데, 만약 그 벡터가 행렬의 고유벡터라면 방향이 바뀌지 않는다 [3]. 그림 1을 보면 그 의미를 좀 더 명확히 알 수 있다. 벡터 에 행렬 A를 곱해줄 때 대부분의 경우에는 방향과 크기가 모두 바뀐다. 그러나 가 고유벡터인 경우에는 곱해준 결과인 Ax가 x의 상수배이다. 이 상수배를 고유값이라고 한다.  

그림 1. 고유값과 고유벡터에 대한 설명

고유값과 고유벡터를 구하기 위해서는 먼저 고유값을 구한 다음에, 그에 해당하는 고유벡터들을 각각 구한다. 식1에서 우변에 있는 항을 좌변으로 옮기면 아래와 같이 쓸 수 있다.

...(2)

여기서 만약 가 0 벡터라면 의 값에 상관없이 좌변이 0이 된다. 우리는 0 벡터가 아닌 고유벡터가 필요하다. 벡터 가의 nullspace에 있는 것이라면 좌변이 0이 된다. nullspace에 0이 아닌 벡터가 존재하려면 가 full rank(m=n=r)가 아닌 singular 행렬이어야 한다. singular라면 행렬식 값은 0이다. 따라서, 

...(3: 특성 방정식, characteristic equation)

이다. 식 3을 만족시키는 들이 행렬 A의 고유값들이 된다. 

만약 

의 고유값들을 구한다면, 

즉, -1과 2가 고유값들이 된다. 

그러면 이제 고유벡터들은 어떻게 구하는지 살펴보자.

먼저 식 2에 각각의 고유값들을 대입한다. 을 대입하면,

이 되고, 이 식을 만족시키는 고유벡터 를 찾으면 

이다. 마찬가지로 를 대입하고 고유벡터를 찾으면 

와 같다. 여기서 흥미로운 것은 고유값들을 모두 합한 것은 행렬의 대각위치에 있는 값들을 더한 것과 같고, 고유값들을 모두 곱한 것은 행렬식의 값과 같다는 사실이다.

...(4)

...(5)

따라서, 

가 된다. 

▶ 역행렬의 고유값과 고유벡터

행렬 A의 고유값과 고유벡터를 안다면, 역행렬 의 고유값과 고유벡터는 상당히 간단히 알 수 있다. 의 고유값들은 바로 A의 고유값들의 역수와 같고 고유벡터들은 동일하다. (이거 몰라서 문제 틀렸었음..ㅜ) 

n x n 행렬 A의 고유값: 

n x n 행렬 A의 역행렬인 의 고유값: 

위에서 행렬 A의 고유값들과 고유벡터들은  

이었다. 그러면 의 고유값은 역수인 -1과 1/2가 되고, 고유벡터들은 동일할 것이다. 정말로 그런지 확인해보자. 먼저 를 구하면,

가 되고, 을 만족시키는 들을 찾으면, 

로 실제로 A의 고유값들의 역수이다. 고유벡터들도 구해보면,

 

로 A의 고유벡터와 동일한 것을 확인할 수 있다. 

▶ 글을 마무리 하며..

개인적으로 고유값을 활용해서 이미지의 지각 품질을 평가를 하는 것에 대해 논문을 쓴 적도 있습니다. 이처럼 고유값은 정말 활용범위가 넓으니 잘 익혀두시길 바랍니다. 

 

끝까지 읽으시느라 수고하셨습니다! 질문이 있으시거나, 잘못된 내용이 있다면 꼭 댓글 남겨주세요. :D 공감은 사랑입니다. ㅎㅎ 오늘도 홧팅하십쇼~! 

 

(20191223 추가) 이 글과 함께 https://bskyvision.com/669을 읽으시길 추천드립니다. 고유값과 고유벡터의 물리적 의미에 대해 이해한 바를 따로 쓴 글입니다. 

<참고 자료>

[1] Gilbert Strang, Linear algebra and its applications, 4판, p. 233-240

[2] http://darkpgmr.tistory.com/105 => 고유값과 고유벡터에 대한 다크프로그래머님 설명.

[3] http://blog.naver.com/PostView.nhn?blogId=mykepzzang&logNo=220693383807 => 고유값과 고유벡터에 대해 매우 직관적인 설명을 해주셨다.