Linear Algebra를 처음 공부할 때 가장 낯설었던 부분은 vector 자체보다 Vector Space의 정의였다. vector를 화살표나 좌표로만 이해하면 계산은 할 수 있지만, 함수와 matrix를 하나의 구조로 묶어 이해하기는 어렵다.

이 글에서는 Field에서 출발해 Vector Space, Subspace, Linearity와 Linear Map으로 이어지는 흐름을 정리한다.

Field

Field 는 덧셈과 곱셈이 정의된 집합이며, 두 연산이 익숙한 산술 법칙을 만족하는 algebraic structure이다. 핵심 조건은 다음과 같다.

  • 덧셈과 곱셈에 대해 commutative law와 associative law가 성립한다.
  • 곱셈은 덧셈에 대해 distributive law를 만족한다.
  • 덧셈의 identity 과 곱셈의 identity 이 존재한다.
  • 모든 원소는 additive inverse를 가진다.
  • 이 아닌 모든 원소는 multiplicative inverse를 가진다.

대표적인 예는 다음과 같다.

소수 에 대한 도 Field가 된다. Vector Space에서 vector의 component와 scalar는 보통 이러한 Field의 원소로 잡는다.

Vector Space

Field 위의 Vector Space 는 vector addition과 scalar multiplication이 정의된 집합이다. 모든 와 에 대해 다음 성질이 성립한다.

핵심은 vector를 더하거나 scalar multiplication해도 같은 공간 안에 남고, 그 연산이 일반적인 산술과 모순되지 않는다는 점이다.

가장 익숙한 예는 이다. polynomial의 집합이나 matrix의 집합도 적절한 operation을 정의하면 Vector Space가 된다.

Subspace

가 Vector Space 의 subset이라고 하자. 가 다음 세 조건을 만족하면 의 Subspace이다.

  2. 이면
  3. , 이면

두 번째와 세 번째 조건은 각각 vector addition과 scalar multiplication에 대해 closed라는 뜻이다.

예를 들어

은 의 Subspace이다. zero vector가 포함되고, 조건을 만족하는 두 vector의 sum과 scalar multiple도 다시 을 만족한다.

반면

은 Subspace가 아니다. 이 포함되지 않기 때문이다. 원점을 지나지 않는 line은 의 Subspace가 될 수 없다는 geometric intuition과도 연결된다.

Linearity

함수 가 다음 두 성질을 만족하면 linear하다고 한다.

첫 번째는 additivity, 두 번째는 homogeneity이다. 두 식을 합치면 다음과 같이 쓸 수 있다.

즉 linear function은 Linear Combination을 보존한다.

Linearity에서 바로 따라오는 중요한 성질도 있다.

따라서 origin을 origin이 아닌 곳으로 보내는 함수는 linear할 수 없다.

Linear Map과 Matrix

Vector Space 와 사이의 함수

가 Linearity를 만족하면 를 Linear Map이라고 한다.

finite-dimensional space에서는 matrix가 Linear Map을 표현하는 대표적인 도구이다. matrix

와 vector

를 생각하면 는 다음과 같다.

Matrix Multiplication의 distributive law와 scalar multiplication의 associative law 때문에 이 함수는 additivity와 homogeneity를 모두 만족한다.

정리

  • Field는 scalar를 계산하는 규칙을 제공한다.
  • Vector Space는 vector addition과 scalar multiplication이 안정적으로 이루어지는 공간이다.
  • Subspace는 같은 operation structure를 유지하는 Vector Space의 subset이다.
  • Linear Map은 vector addition과 scalar multiplication을 보존하는 함수이다.
  • matrix는 finite-dimensional Linear Map을 구체적으로 표현한다.

각 개념은 결국 Linear Combination을 보존하는 공간과 함수를 설명하기 위해 연결된다.

확인 문제

  1. 가 의 Subspace인지 확인한다.
  2. 가 의 Linear Map인지 확인한다.

풀이

1번

에는 이 포함된다. 이면

이므로 sum도 에 속한다. 또한 에 대해

이므로 scalar multiple도 에 속한다. 따라서 는 Subspace이다.

2번

Linear Map이 아니다. 예를 들어 , 로 두면

이지만

이다. additivity가 성립하지 않는다.