11. Matrix Spaces: Rank 1: Small World Graphs

 

 

행렬 공간이란 무엇일까?

 

- 무수히 많은 행렬들이 모여 생성되는 공간, 하지만 아무 행렬이나 허용되는 것이 아니라 행렬들끼리 선형결합한 결과물이 같은 공간에 존재해야 합니다.

 

 

10강에서 벡터 공간에 대해서 이야기 했습니다. 이 행렬 공간도 벡터 공간이라고 할 수 있습니다. 위에서 말한 조건처럼 행렬끼리 선형결합을 해도 같은 공간에 위치하게 되어 벡터 공간의 조건을 만족하기 때문입니다.

 

 

$3 \times 3$ 행렬을 가졌다고 해봅시다. 이제 이 행렬의 부분 공간으로는

 

1. Symmetic $3 \times 3$ (대칭행렬)

2. Upper triangular matrix $3 \times 3$ (상삼각행렬)

3. Diagonal matrix $3 \times 3$ (대각행렬)

 

이 강의에서 $S$는 대칭행렬을 의미하고 $U$는 상삼각행렬 그리고 D는 대각행렬을 의미합니다.

 

m의 basis는 $3 \times 3$ 그 자체로 봐야 합니다. 그래서 이 행렬을 하나의 벡터로 봤을 때 확실한 basis, 즉 standard basis는 총 9개입니다. 

 

$\left[\begin{matrix} 1 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{matrix} \right], \left[\begin{matrix} 0 & 1 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{matrix} \right], ... , \left[\begin{matrix} 0 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 1 \end{matrix} \right]$

 

9차원 공간의 벡터와 거의 비슷합니다.

 

- basis는 한 공간을 구성할 수 있는 벡터 집합이고 basis 벡터의 개수를 차원이라고 할 수 있습니다. 여기서는 9개의 basis가 있으니 9차원입니다.

 

 

이 위에서 나온 n개의  standard basis에서 몇 개가 대칭행렬의 포함될까요?

- 전치 후와 전치 전이 같은 행렬만 가능합니다. 대각선에 성분이 1인 행렬들만 보면 총 3개가 존재합니다.

 

 

S 대칭행렬이라고 할 때 대칭행렬의 차원은 몇일까요?

- 위에서 구한 것은 M 행렬의 standard basis만 포함된 내용이고 실제로 더 찾아보면 6차원입니다.

 

 

U 상삼각행렬의 차원은 몇일까요?

- 대각선 원소를 포함한 위쪽 원소들이므로 6차원

 

 

대각행렬의 basis는 상삼각행렬과 대칭행렬도 가지고 있습니다. (대각행렬의 차원은 3차원으로 가장 작습니다.)

그래서 U행렬과 S행렬의 교집합은 D입니다.

 

 

S와 U를 더하면 어떤 공간이 나올까요?

- 모든 $3 \times 3$ 행렬을 얻습니다.

 

$dim(S) = 6$

$dim(U) = 6$

$dim(S \cap U) = 3$

$dim(S + U) = 9$

 

 

다음으로는 선형대수와 미분방정식의 관계에 대해 알아보겠습니다.

 

$\frac {d^2y} {dx^2} + y = 0$

 

이 방정식의 해는 무엇일까요? 

 

- 우리가 찾으려는 값들은 미분방정식의 null space입니다.

- $Ax = 0$으로도 생각할 수 있습니다.

 

$y = cos (x), sin(x)$ 이 두 값이 다 됩니다. 하지만 이것들은 basis만 찾은 거라 완전한 해가 아닙니다.

 

$y = c_1 cos(x) + c_2 sin(x)$

 

- cos과 sin의 선형 결합으로 표현되는 값들이 완전해!

- 이것 또한 하나의 벡터 공간으로 볼 수 있습니다. (sin, cos는 basis가 됩니다.)

 

 

Rank 1 matrices

 

$A = \left[\begin{matrix} 1 & 4 & 5 \\ 2 & 8 & 10 \end{matrix} \right]$

 

이 행렬은 첫 번째 row에 2를 곱하면 두 번째 row가 나오게 됩니다. column의 경우도 전부 종속되어 있는 것을 알 수 있습니다. 그렇기 때문에 이 rank 1 행렬이 표현할 수 있는 공간은 1차원 직선입니다.

 

- $dim(C) = rank = dim(C^T)$ 기저들이 모두 1개 동일

 

이 행렬을 기저들의 곱으로도 표현할 수 있습니다.

 

$\left[\begin{matrix} 1  \\ 2 \end{matrix} \right] \left[\begin{matrix} 1 & 4 & 5 \end{matrix} \right] $

 

이 두 개의 벡터들을 곱하면 위 행렬이 나옵니다. 여기서 말하고 싶은 것은 rank 1 행렬은 어떤 열 곱하기 어떤 행으로 표현할 수 있다는 것입니다.

 

- $column vector \times row vector$의 결과물은 rank 1 행렬

 

$A = uv^T$

 

rank 1 행렬은 모든 행렬의 기본 단위로 building block 같은 역할을 합니다. 다른 행렬을 rank 1 행렬로 표현할 수 있습니다. 

 

rank 4 $5 \times 17$ 행렬을 rank 1 행렬의 조합으로 분해한다면 rank 1의 행렬은 몇 개나 필요할까요?

- rank 4는 4개의 rank 1으로 표현할 수 있습니다.

 

 

Subspaces for rank 1 matrices

 

위에서 만든 행렬 $5 \times 14$ 행렬 A의 부분 공간에 대해 살펴보겠습니다. $5 \times 14$ 크기의 모든 행렬을 M이라고 하겠습니다. 

 

전체집합 M 중 rank가 4인 행렬을 봤을 때 이들은 M의 부분 집합일까요? 아닙니다.

$5 \times 14$ rank 4 행렬끼리의 덧셈은 rank 4가 안될 수 도 있습니다. 스칼라곱과 행렬 덧셈에 대해 닫혀있고 영벡터를 포함한다 라는 조건을 전부 만족하지 못합니다.

 

2개의 행렬을 더해서 선형 종속이었던 부분이 독립적으로 바뀌게 되면 차원이 더 커질 수 있다!

 

 

 

4차원 공간에서는 모든 벡터가 4개의 원소를 가집니다.

 

$In R^4$

$v = \left[\begin{matrix} v_1  \\ v_2 \\ v_3 \\ v_4 \end{matrix} \right] $

 

그리고 $R^4$ 부분 공간과 이 벡터들 연관 지어 다음과 같이 정의를 해보겠습니다.

 

S = all v in $R^4$ with $v_1 + v_2 + v_3 + v_4 = 0$

 

이 S라는 공간은 스칼라곱과 덧셈 연산에 대해 어떻게 하든지 0이 나오게 되어 같은 공간에 존재하게 됩니다. 이 벡터들은 어떤 행렬 A의 null space입니다. 

 

$Av = 0$ 이 돼야 할 때 A는 어떤 행렬일까요?

 

$A = \left[\begin{matrix} 1  \\ 1 \\ 1 \\ 1 \end{matrix} \right]$ 

$(1 \times 4)$, rank = 1

 

- 이렇게 되면 모든 v들이 더해지게 되므로 0이 나옴, A는 피벗이 첫 번째 원소 1 하나만 존재 나머지는 free column들입니다.

 

- column space의 rank도 1입니다.

 

 

$dim$ $N(A) = n - r = 4 - 1 = 3$

 

A의 null space는 rank가 3입니다. null space의 special solution은 free variable 중 하나를 1로 설정하고 나머지를 0으로 설정하면 3개를 구할 수 있습니다.