수학/인공지능을 위한 선형대수

4. 선형독립과 선형종속

공부중인학생 2021. 10. 9. 01:14

- 본 내용은 edwith에서 인공지능을 위한 선형대수 내용을 통해 작성되었습니다.

 

 

이번 강의에서는 선형종속(Linear dependence), 선형독립(Linear independence), 부분공간(subspace)를 배웁니다.

 

선형독립은 우리가 벡터 방정식으로 가능한 모든 조합(span)안에 상수벡터(target vector)가 들어가 있고 없고에 따라서 이 해가 특별한 해인지 아니면 수없이 많은지를 알게 해 준다고 했습니다.

 

해를 찾는 과정은 주어진 상수벡터에 가장 가깝거나 일치하는 벡터를 만들기 위해서 scale factor을 조절하는 것입니다. 여기서 해가 무수히 많이 존재한다는 것은 정답에 일치하는 벡터의 조합이 무수히 많은 것입니다. 이때를 선형종속이라고 합니다. 이러한 경우는 같은 차원의 벡터가 여러 개 존재할 때, 한 벡터를 나머지 벡터의 조합으로 구할 수 있을 때처럼 span을 늘려주지 못하는 상황에서 생깁니다.

 

 

 

다음 사진에서 $V_1, V_2$ 벡터만 존재한다고 할 때 초록색 점을 가리키는 벡터는 하나의 방법으로만 만들 수 있습니다.

- 선형독립 

 

하지만 여기서 $V_3$ 벡터가 추가된다면 $V_3$와 $V_1$의 조합으로도 구할 수 있는 상황이 발생하게 되는데 이것이 위에서 말한 선형종속입니다. 

 

여기서 추가된 $V_3$ 벡터가 이전 벡터 $V_1, V_2$들의 span에 들어가기 때문에 선형종속이 된 것입니다. 

  • 추가된 벡터가 이전 벡터들의 span에 들어옴 = 선형종속
  • 추가된 벡터가 이전 벡터들의 span에 들어가지 않음 = 선형독립

 

좀 더 직관적으로 본다면 3차원 공간에서 4개의 벡터를 준다면 이 벡터들은 항상 선형종속입니다. 3차원 공간은 3개의 벡터로 표현할 수 있기 때문입니다.

 

벡터 방정식에서 차원은 방정식의 개수를 나타내고 재료벡터의 수는 미지수를 나타냅니다. 

- 재료벡터들의 원소가 방정식을 나타내고 재료벡터의 개수가 방정식에서의 미지수 개수를 나타낸다.

 

만약 우리가 구해야 하는 벡터가 영 벡터라면 다음과 같이 나오게 됩니다.

 

$x_1v_1 + x_1v_1 + ... + x_pv_p = 0$

 

이것을 homogeneous equation이라고 부릅니다. 0은 어떤 벡터를 사용하든 그 벡터에 0을 곱하면 항상 만들어집니다. 즉 어떤 벡터를 사용하든지 무조건 그 벡터들의 span에 들어가게 된다는 것입니다. 하지만 0을 곱하는 방법 외에 다른 solution이 존재한다면, 다른 벡터의 가중치 값이 0이 아니지만 덧셈의 결과가 0이 되면 선형종속이 되게 됩니다.

 

- 원점으로 돌아오는 방법이 한 가지 이상 존재하기 때문에!