11. Matrix Spaces: Rank 1: Small World Graphs

 

 

행렬 공간이란 무엇일까?

 

- 무수히 많은 행렬들이 모여 생성되는 공간, 하지만 아무 행렬이나 허용되는 것이 아니라 행렬들끼리 선형결합한 결과물이 같은 공간에 존재해야 합니다.

 

 

10강에서 벡터 공간에 대해서 이야기 했습니다. 이 행렬 공간도 벡터 공간이라고 할 수 있습니다. 위에서 말한 조건처럼 행렬끼리 선형결합을 해도 같은 공간에 위치하게 되어 벡터 공간의 조건을 만족하기 때문입니다.

 

 

$3\times 3$ 행렬을 가졌다고 해봅시다. 이제 이 행렬의 부분 공간으로는

 

1. Symmetic $3\times 3$ (대칭행렬)

2. Upper triangular matrix $3\times 3$ (상삼각행렬)

3. Diagonal matrix $3\times 3$ (대각행렬)

 

이 강의에서 $S$는 대칭행렬을 의미하고 $U$는 상삼각행렬 그리고 D는 대각행렬을 의미합니다.

 

m의 basis는 $3\times 3$ 그 자체로 봐야 합니다. 그래서 이 행렬을 하나의 벡터로 봤을 때 확실한 basis, 즉 standard basis는 총 9개입니다. 

 

$\left[\begin{array}{ccc}1& 0& 0\\ 0& 0& 0\\ 0& 0& 0\end{array}\right],\left[\begin{array}{ccc}0& 1& 0\\ 0& 0& 0\\ 0& 0& 0\end{array}\right],...,\left[\begin{array}{ccc}0& 0& 0\\ 0& 0& 0\\ 0& 0& 1\end{array}\right]$

 

9차원 공간의 벡터와 거의 비슷합니다.

 

- basis는 한 공간을 구성할 수 있는 벡터 집합이고 basis 벡터의 개수를 차원이라고 할 수 있습니다. 여기서는 9개의 basis가 있으니 9차원입니다.

 

 

이 위에서 나온 n개의  standard basis에서 몇 개가 대칭행렬의 포함될까요?

- 전치 후와 전치 전이 같은 행렬만 가능합니다. 대각선에 성분이 1인 행렬들만 보면 총 3개가 존재합니다.

 

 

S 대칭행렬이라고 할 때 대칭행렬의 차원은 몇일까요?

- 위에서 구한 것은 M 행렬의 standard basis만 포함된 내용이고 실제로 더 찾아보면 6차원입니다.

 

 

U 상삼각행렬의 차원은 몇일까요?

- 대각선 원소를 포함한 위쪽 원소들이므로 6차원

 

 

대각행렬의 basis는 상삼각행렬과 대칭행렬도 가지고 있습니다. (대각행렬의 차원은 3차원으로 가장 작습니다.)

그래서 U행렬과 S행렬의 교집합은 D입니다.

 

 

S와 U를 더하면 어떤 공간이 나올까요?

- 모든 $3\times 3$ 행렬을 얻습니다.

 

$dim(S)=6$

$dim(U)=6$

$dim(S\cap U)=3$

$dim(S+U)=9$

 

 

다음으로는 선형대수와 미분방정식의 관계에 대해 알아보겠습니다.

 

$\frac{d^{2}y}{d{x}^2}+y=0$

 

이 방정식의 해는 무엇일까요? 

 

- 우리가 찾으려는 값들은 미분방정식의 null space입니다.

- $Ax=0$으로도 생각할 수 있습니다.

 

$y=cos(x),sin(x)$ 이 두 값이 다 됩니다. 하지만 이것들은 basis만 찾은 거라 완전한 해가 아닙니다.

 

$y=c_{1}cos(x)+c_{2}sin(x)$

 

- cos과 sin의 선형 결합으로 표현되는 값들이 완전해!

- 이것 또한 하나의 벡터 공간으로 볼 수 있습니다. (sin, cos는 basis가 됩니다.)

 

 

Rank 1 matrices

 

$A=\left[\begin{array}{ccc}1& 4& 5\\ 2& 8& 10\end{array}\right]$

 

이 행렬은 첫 번째 row에 2를 곱하면 두 번째 row가 나오게 됩니다. column의 경우도 전부 종속되어 있는 것을 알 수 있습니다. 그렇기 때문에 이 rank 1 행렬이 표현할 수 있는 공간은 1차원 직선입니다.

 

- $dim(C)=rank=dim(C^T)$ 기저들이 모두 1개 동일

 

이 행렬을 기저들의 곱으로도 표현할 수 있습니다.

 

$\left[\begin{array}{c}1\\ 2\end{array}\right]\left[\begin{array}{ccc}1& 4& 5\end{array}\right]$

 

이 두 개의 벡터들을 곱하면 위 행렬이 나옵니다. 여기서 말하고 싶은 것은 rank 1 행렬은 어떤 열 곱하기 어떤 행으로 표현할 수 있다는 것입니다.

 

- $columnvector\times rowvector$의 결과물은 rank 1 행렬

 

$A=u{v}^T$

 

rank 1 행렬은 모든 행렬의 기본 단위로 building block 같은 역할을 합니다. 다른 행렬을 rank 1 행렬로 표현할 수 있습니다. 

 

rank 4 $5\times 17$ 행렬을 rank 1 행렬의 조합으로 분해한다면 rank 1의 행렬은 몇 개나 필요할까요?

- rank 4는 4개의 rank 1으로 표현할 수 있습니다.

 

 

Subspaces for rank 1 matrices

 

위에서 만든 행렬 $5\times 14$ 행렬 A의 부분 공간에 대해 살펴보겠습니다. $5\times 14$ 크기의 모든 행렬을 M이라고 하겠습니다. 

 

전체집합 M 중 rank가 4인 행렬을 봤을 때 이들은 M의 부분 집합일까요? 아닙니다.

$5\times 14$ rank 4 행렬끼리의 덧셈은 rank 4가 안될 수 도 있습니다. 스칼라곱과 행렬 덧셈에 대해 닫혀있고 영벡터를 포함한다 라는 조건을 전부 만족하지 못합니다.

 

2개의 행렬을 더해서 선형 종속이었던 부분이 독립적으로 바뀌게 되면 차원이 더 커질 수 있다!

 

 

 

4차원 공간에서는 모든 벡터가 4개의 원소를 가집니다.

 

$In{R}^4$

$v=\left[\begin{array}{c}{v}_1\\ v_2\\ v_3\\ v_4\end{array}\right]$

 

그리고 $R^4$ 부분 공간과 이 벡터들 연관 지어 다음과 같이 정의를 해보겠습니다.

 

S = all v in $R^4$ with $v_1+v_2+v_3+v_4=0$

 

이 S라는 공간은 스칼라곱과 덧셈 연산에 대해 어떻게 하든지 0이 나오게 되어 같은 공간에 존재하게 됩니다. 이 벡터들은 어떤 행렬 A의 null space입니다. 

 

$Av=0$ 이 돼야 할 때 A는 어떤 행렬일까요?

 

$A=\left[\begin{array}{c}1\\ 1\\ 1\\ 1\end{array}\right]$ 

$(1\times 4)$, rank = 1

 

- 이렇게 되면 모든 v들이 더해지게 되므로 0이 나옴, A는 피벗이 첫 번째 원소 1 하나만 존재 나머지는 free column들입니다.

 

- column space의 rank도 1입니다.

 

 

$dim$ $N(A)=n-r=4-1=3$

 

A의 null space는 rank가 3입니다. null space의 special solution은 free variable 중 하나를 1로 설정하고 나머지를 0으로 설정하면 3개를 구할 수 있습니다.