고유값과 고유벡터는 무엇이고 왜 중요할까?

Question. 고유값과 고유벡터는 무엇이고 왜 중요할까?

 

고유값과 고유값은 영어로 각각 eigenvalue, eigenvector 라고 표현한다.
고유, 즉 eigen은 어떤 뜻일까요? eigen은 독일어 인데, “own”, “peculiar to”, “characteristic”, “individual”이라는 뜻이다.
의미로 짐작하면 고유벡터란 어떤 특징을 가지고 있는 벡터라고 할 수 있다.

 

고유값과 고유벡터의 정의는 아래와 같다.
대부분 벡터 x에 어떤 행렬 A를 곱하게 되면 벡터의 크기와 방향이 바뀌게 된다. 
그러나 정방행렬에 정방행렬의 고유벡터를 곱하면 고유벡터의 방향이 바뀌지 않는다.
더 간단히 말하면 벡터x가 행렬 A의 고유벡터라면 바뀌지 않는다.

 

정방행렬 A는 임의의 벡터 x과의 행렬연산으로 x의 위치나 방향을 전환 시키는 역할을 하는데, 
이때 어떤 특정 벡터들은 A에 곱해져도 위치나 방향이 바뀌어도 원래 자신과 평행하거나 동일한 값을 가진다. 이러한 벡터들을 고유벡터라고 이야기 한다. 변화된 벡터 x의 크기를 나타내는 특정 상수는 람다(λ)로 표현하며 고유값이라고 이야기 한다.

 

Answer : 이 고유벡터는 임의의 벡터를 어느 방향으로 얼마만큼 변화시키는지, 변환과정에서 변화 없이 유지되는 부분은 어느 부분인지 등의 중요한 정보를 담고있으며 이는 PCA, EigenDecomposition과 같은 응용에 활용이 되는 기초 개념이다.또한 연산상 Eigenvector와 Eigenvalue를 활용하면 Computational Advantage 를 얻을 수 있기 때문에 이 개념들이 중요하다고 할 수 있다.

 

ref

- https://losskatsu.github.io/linear-algebra/eigen/#ax%EC%9D%98-%EC%9D%98%EB%AF%B8

- https://kejdev.github.io/machinelearning/2021/01/04/eigen-value-eigen-vecotor.html