10. The Four Fundamental Subspaces

4개의 주요 부분 공간은 아래와 같습니다.

 

1. column space $C(A)$

   - column vector들의 선형 조합으로 형성되는 공간

   - $m \times n$ 행렬에서 column space는 $R^m$ 공간에 존재합니다.

 

 

2. row space $C(A^T)$ (column을 사용하여 표현)

   - row vector들의 선형 조합으로 형성되는 공간

   - $m \times n$ 행렬에서 row space는 $R^n$ 공간에 존재합니다.

 

 

3. null space $N(A)$

   - $Ax = 0$을 만족시키는 x들의 선형 조합으로 형성되는 공간

   - $m \times n$ 행렬에서 null space는 $R^n$ 공간에 존재합니다.

 

 

 

4. letf null space $N(A^T)$

   - $m \times n$ 행렬에서 left null space는 $R^m$ 공간에 존재합니다.

 

 

오늘은 이 4가지 공간에 대한 내용과 각각의 공간들의 관계에 대해서 알아보겠습니다.

 

$m \times n$ 크기의 행렬 A가 있다고 해보겠습니다.

 

$\left[\begin{matrix} 1 & 2 & 3 \\ 4 & 5 & 6 \end{matrix} \right] $

 

이 행렬의 m = 2, n = 3 이라는 것을 알 수 있습니다. 

- column vector의 원소가 2개인 것을 보면 column space는 $R^2$ 공간에 부분 공간이라는 것을 알 수 있습니다. 

 

행렬을 바꿔서 null space에 대해 알아보겠습니다.

 

$\left[\begin{matrix} 1 & 2 & 3 & 1 \\ 1 & 1 & 2 & 1 \\ 1 & 2 & 3 & 1 \end{matrix} \right] $

 

$3 \times 4$ 형태의 행렬이 존재할 때 null space는 

 

$\left[\begin{matrix} -1 \\ -1 \\ 1 \\ 0 \end{matrix} \right] $

 

4개의 원소를 가지고 있는 형태입니다. ($n\ times m$에서 n차원 여기서는 4차원에 존재)

 

 

조금 더 보기 쉽게 표현하자면

 

 

다음 그림과 같이 표현되는데 간단하게 row space와 null space로 설명을 하겠습니다. 

• row, column space와 null, left null space가 이루는 각도는 수직입니다.

 

우선 row space는 $R^m$ 공간상에 존재하게 되고 null space와 직교를 하여 내적했을 때 0이 나오게 되고 row space의 rank가 r 이라면 null space의 rank는 n-r이 되게 됩니다. (r은 pivot variable의 개수이고 n-r은 free variable의 개수와 같습니다.)

 

- 그리고 row space와 column space가 이루는 rank는 항상 같은 것을 알 수 있습니다..

 

 

Row space의 basis들을 한 번 구해보겠습니다. A행렬이 존재할 때 이 행렬을 전치 시킨 후 소거를 통해 row reduction을 한 뒤 이 행렬의 피벗 열을 확인하면 row space의 basis를 찾을 수 있습니다.

 

$A = \left[\begin{matrix} 1 & 2 & 3 & 1 \\ 1 & 1 & 2 & 1 \\ 1 & 2 & 3 & 1 \end{matrix} \right] \rightarrow \left[\begin{matrix} 1 & 0 & 1 & 1 \\ 0 & 1 & 1 & 0 \\ 0 & 0 & 0 & 0 \end{matrix} \right] = R$

 

축소된 R도 row space에서 일어나는 선형 조합이기 때문에 R과 A의 row space는 같지만 column space는 달라지게 됩니다.

 

- 행렬을 봐보면 A 행렬에는 $ \left[\begin{matrix} 1 \\ 1  \\ 1  \end{matrix} \right] $가 존재하지만 R 행렬에서는 column vector들의 선형 조합으로도 저 벡터를 표현할 수 없습니다.

 

- 두 행렬이 같은 row space에 존재하니 $A^Ty = 0$ 이라면 $y^TA = 0$입니다.

 

 

이제 row space의 basis를 구해봤으니 left null space의 basis를 구해보겠습니다. 우리가 A를 R로 축소시키는 작업을 자세히 보면 left null space를 찾을 수 있습니다. 우리가 A에서 R행렬로 변환시켜주는 행렬 E에 관심을 가져야 합니다. 이 E행렬을 찾기 위해서 Gauss - jordan소거법을 사용해보겠습니다.

 

$E[A_{m \times n} I_{m \times m}] \rightarrow [R_{m \times n}E_{m \times m}]$

$EA = R$

$EI = E$

 

 

$\left[\begin{matrix} 1 & 2 & 3 & 1 & | & 1 & 0 & 0 \\ 1 & 1 & 2 & 1 & | & 0 & 1 & 0 \\ 1 & 2 & 3 & 1 & | & 0& 0& 1 \end{matrix} \right]$

 

이렇게 항등 행렬을 추가한 증강 행렬에 소거를 진행하면 됩니다.

소거를 진행하게 되면 $A \rightarrow R$, $I \rightarrow E$가 됩니다.

 

- 이렇게 만들어진 E행렬은 A를 R로 바꿔주는 과정이 기록된 행렬입니다.

 

 

$\left[\begin{matrix} -1 & 2 & 0 \\ 1 & -1 & 0 \\ -1 & 0 & 1 \end{matrix} \right]^E \left[\begin{matrix} 1 & 2 & 3 & 1 \\ 1 & 1 & 2 & 1 \\ 1 & 2 & 3 & 1 \end{matrix} \right]^A = \left[\begin{matrix} 1 & 0 & 1 & 1 \\ 0 & 1 & 1 & 0 \\ 0 & 0 & 0 & 0 \end{matrix} \right]^R $

 

A를 R로 바꿨을 때 마지막 row가 모두 0이었습니다. EA를 계산했을 때 마지막 row가 0이 되는 결과가 나왔으니 E의 3번째 row가 A의 Left null space가 됩니다.

 

- $m - r$을 할 경우 $3 - 2$로 1차원의 null space가 존재한다는 것을 알 수 있습니다. 그리고 위에 과정이 1차원의 null space를 구하는 과정입니다. 

 

 

 

요약

 

- row space의 차원과 column space의 차원의 rank는 항상 같다. 

 

- row space, column space와 null space, left null space는 각각 직교한다.

 

- row space의 rank는 pivot column 수와 같고 null space의 rank는 free column의 개수이다.

 

- $(3 \times 5)$ 행렬이 존재할 때 열로 만들 수 있는 span 차원은 3차원이고 column으로 만들 수 있는 차원도 $R^n$상에 존재하는 3차원 공간이다. (row space와 column space의 rank는 항상 같다 라는 것을 이렇게 해석하는 건가?)

 

- $m \times n$ 행렬의 null space는 $n - r$ (종속된 행 벡터를 찾을 수 있음)

 

- $m \times n$ 행렬의 left null space는 $m - r$ (종속된 열 벡터를 찾을 수 있음)