10. The Four Fundamental Subspaces

4개의 주요 부분 공간은 아래와 같습니다.

 

1. column space $C(A)$

   - column vector들의 선형 조합으로 형성되는 공간

   - $m\times n$ 행렬에서 column space는 $R^m$ 공간에 존재합니다.

 

 

2. row space $C(A^T)$ (column을 사용하여 표현)

   - row vector들의 선형 조합으로 형성되는 공간

   - $m\times n$ 행렬에서 row space는 $R^n$ 공간에 존재합니다.

 

 

3. null space $N(A)$

   - $Ax=0$을 만족시키는 x들의 선형 조합으로 형성되는 공간

   - $m\times n$ 행렬에서 null space는 $R^n$ 공간에 존재합니다.

 

 

 

4. letf null space $N(A^T)$

   - $m\times n$ 행렬에서 left null space는 $R^m$ 공간에 존재합니다.

 

 

오늘은 이 4가지 공간에 대한 내용과 각각의 공간들의 관계에 대해서 알아보겠습니다.

 

$m\times n$ 크기의 행렬 A가 있다고 해보겠습니다.

 

$\left[\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\end{array}\right]$

 

이 행렬의 m = 2, n = 3 이라는 것을 알 수 있습니다. 

- column vector의 원소가 2개인 것을 보면 column space는 $R^2$ 공간에 부분 공간이라는 것을 알 수 있습니다. 

 

행렬을 바꿔서 null space에 대해 알아보겠습니다.

 

$\left[\begin{array}{cccc}1& 2& 3& 1\\ 1& 1& 2& 1\\ 1& 2& 3& 1\end{array}\right]$

 

$3\times 4$ 형태의 행렬이 존재할 때 null space는 

 

$\left[\begin{array}{c}-1\\ -1\\ 1\\ 0\end{array}\right]$

 

4개의 원소를 가지고 있는 형태입니다. ($ntimesm$에서 n차원 여기서는 4차원에 존재)

 

 

조금 더 보기 쉽게 표현하자면

 

 

다음 그림과 같이 표현되는데 간단하게 row space와 null space로 설명을 하겠습니다. 

• row, column space와 null, left null space가 이루는 각도는 수직입니다.

 

우선 row space는 $R^m$ 공간상에 존재하게 되고 null space와 직교를 하여 내적했을 때 0이 나오게 되고 row space의 rank가 r 이라면 null space의 rank는 n-r이 되게 됩니다. (r은 pivot variable의 개수이고 n-r은 free variable의 개수와 같습니다.)

 

- 그리고 row space와 column space가 이루는 rank는 항상 같은 것을 알 수 있습니다..

 

 

Row space의 basis들을 한 번 구해보겠습니다. A행렬이 존재할 때 이 행렬을 전치 시킨 후 소거를 통해 row reduction을 한 뒤 이 행렬의 피벗 열을 확인하면 row space의 basis를 찾을 수 있습니다.

 

$A=\left[\begin{array}{cccc}1& 2& 3& 1\\ 1& 1& 2& 1\\ 1& 2& 3& 1\end{array}\right]\to \left[\begin{array}{cccc}1& 0& 1& 1\\ 0& 1& 1& 0\\ 0& 0& 0& 0\end{array}\right]=R$

 

축소된 R도 row space에서 일어나는 선형 조합이기 때문에 R과 A의 row space는 같지만 column space는 달라지게 됩니다.

 

- 행렬을 봐보면 A 행렬에는 $\left[\begin{array}{c}1\\ 1\\ 1\end{array}\right]$가 존재하지만 R 행렬에서는 column vector들의 선형 조합으로도 저 벡터를 표현할 수 없습니다.

 

- 두 행렬이 같은 row space에 존재하니 $A^{T}y=0$ 이라면 $y^{T}A=0$입니다.

 

 

이제 row space의 basis를 구해봤으니 left null space의 basis를 구해보겠습니다. 우리가 A를 R로 축소시키는 작업을 자세히 보면 left null space를 찾을 수 있습니다. 우리가 A에서 R행렬로 변환시켜주는 행렬 E에 관심을 가져야 합니다. 이 E행렬을 찾기 위해서 Gauss - jordan소거법을 사용해보겠습니다.

 

$E[A_{m\times n}{I}_{m\times m}]\to [R_{m\times n}{E}_{m\times m}]$

$EA=R$

$EI=E$

 

 

$\left[\begin{array}{cccccccc}1& 2& 3& 1& |& 1& 0& 0\\ 1& 1& 2& 1& |& 0& 1& 0\\ 1& 2& 3& 1& |& 0& 0& 1\end{array}\right]$

 

이렇게 항등 행렬을 추가한 증강 행렬에 소거를 진행하면 됩니다.

소거를 진행하게 되면 $A\to R$, $I\to E$가 됩니다.

 

- 이렇게 만들어진 E행렬은 A를 R로 바꿔주는 과정이 기록된 행렬입니다.

 

 

${\left[\begin{array}{ccc}-1& 2& 0\\ 1& -1& 0\\ -1& 0& 1\end{array}\right]}^E{\left[\begin{array}{cccc}1& 2& 3& 1\\ 1& 1& 2& 1\\ 1& 2& 3& 1\end{array}\right]}^A={\left[\begin{array}{cccc}1& 0& 1& 1\\ 0& 1& 1& 0\\ 0& 0& 0& 0\end{array}\right]}^R$

 

A를 R로 바꿨을 때 마지막 row가 모두 0이었습니다. EA를 계산했을 때 마지막 row가 0이 되는 결과가 나왔으니 E의 3번째 row가 A의 Left null space가 됩니다.

 

- $m-r$을 할 경우 $3-2$로 1차원의 null space가 존재한다는 것을 알 수 있습니다. 그리고 위에 과정이 1차원의 null space를 구하는 과정입니다. 

 

 

 

요약

 

- row space의 차원과 column space의 차원의 rank는 항상 같다. 

 

- row space, column space와 null space, left null space는 각각 직교한다.

 

- row space의 rank는 pivot column 수와 같고 null space의 rank는 free column의 개수이다.

 

- $(3\times 5)$ 행렬이 존재할 때 열로 만들 수 있는 span 차원은 3차원이고 column으로 만들 수 있는 차원도 $R^n$상에 존재하는 3차원 공간이다. (row space와 column space의 rank는 항상 같다 라는 것을 이렇게 해석하는 건가?)

 

- $m\times n$ 행렬의 null space는 $n-r$ (종속된 행 벡터를 찾을 수 있음)

 

- $m\times n$ 행렬의 left null space는 $m-r$ (종속된 열 벡터를 찾을 수 있음)