Introduction
이번에 선형대수를 공부하면서 내용을 정리해보았습니다.
강의 영상 : https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/video_galleries/video-lectures/
Video Lectures | Linear Algebra | Mathematics | MIT OpenCourseWare
This section contains a complete set of video lectures on linear algebra along with transcripts and related resource files.
ocw.mit.edu
스터디 github : https://github.com/jwkweon/study-linear-algebra
GitHub - jwkweon/study-linear-algebra
Contribute to jwkweon/study-linear-algebra development by creating an account on GitHub.
github.com
참고한 블로그 :
Lecture 11: Matrix spaces; rank 1; small world graphs
Lecture 11: Matrix spaces; rank 1; small world graphs (5/14) - 좋아. 이번은 선형대수학 강의 11 번...
blog.naver.com
[Linear Algebra] Lecture 11-(1) 행렬 공간(Matrix Spaces)
이번 강의에선 새로운 벡터 공간인 행렬 공간(Matrix spaces)에 대해 배워보도록 하겠다. 1. 행렬 공간(Matrix spaces) 이번 강의에서 배울 행렬 공간(Matrix spaces)은 어떤 의미에선 새로운 벡터 공간(vector s
twlab.tistory.com
(주로 https://twlab.tistory.com/26블로그의 사진과 내용을 보면서 공부했고 추가로 나머지 블로그를 참고하였습니다.)
(저는 제가 이해하기 쉽게 요약해서 적었으므로 좀더 자세히 공부하고싶다면 위 블로그를 참고하시면 됩니다.)
행렬 공간(Matrix spaces)
행렬 공간(Matrix spaces)는 다른 말로 벡터 공간(Vector spaces)라고 할 수 있다. 여기서 말하는 행렬 공간이라고 하는 것은 3x3크기의 모든 정방행렬을 의미한다. 이를 M이라 하자.
$$ M = \begin{bmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32} & a_{33} \end{bmatrix} $$
행렬과 벡터는 전혀 다른 말인데, 왜 둘이 같다고 하는가?
이유는 벡터공간에 대한 조건을 만족하기 때문이다. 이 행렬들 끼리 선형 결합을 해도 같은 공간에 위치한다.
그니깐, 행렬 그자체를 벡터로보면 된다.
따라서, 다음과 같이 상수를 곱해 선형결합을 해보자.
$$ c_1 M_1 + c_2 M_2 = c_1 \begin{bmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32} & a_{33} \end{bmatrix} + c_2 \begin{bmatrix} b_{11} & b_{12} & b_{13} \\ b_{21} & b_{22} & b_{23} \\ b_{31} & b_{32} & b_{33} \end{bmatrix} $$
선형 결합을 해도 여전히 원래의 M과 같은 차원의 공간에 위치하게 된다. 그렇기 때문에 역연산을 해주면 다시 원래의 M으로 돌아올 수 있다.
이번에는 둘이 곱해보자.
$$ M_1 M_2 = \begin{bmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32} & a_{33} \end{bmatrix} \begin{bmatrix} b_{11} & b_{12} & b_{13} \\ b_{21} & b_{22} & b_{23} \\ b_{31} & b_{32} & b_{33} \end{bmatrix} $$
이렇게 둘을 곱하게 되면 원래의 M과는 공간이 달라지게 된다.
행렬 공간의 기저(basis)와 차원(dimension 그리고 부분 공간(subspace)
3x3크기의 행렬 M은 마찬가지로 부분 공간(subspace)을 가진다. 그리고 3x3 행렬의 부분공간은 다음과 같다.
- 3x3 대칭행렬
- 3x3 상삼각행렬
- 3x3 대각행렬
이제, 각각의 부분 공간들의 기저와 차원이 무엇인지 알아보자.
1. M행렬의 기저와 차원
여태까지 우리는 rank와 column, row의 벡터들로 공간의 차원과 기저를 구했다.
그러나 행렬 공간의 차원은 우리가 여태까지 알고 있던 차원과 약간 다르다.
3x3 크기로 한정된 행렬 M을 하나의 벡터로 간주하고 그 행렬이 표현할 수 있느 공간을 알고자 하는 것이다.
따라서, 3x3크기의 M에 대한 차원은 M을 구성하고 있는 원소의 개수가 될 것이다. 그러므로 M의 차원은 9가 된다.
또한, M의 차원이 9이므로 M의 기저 역시 9개가 될 것이다. 따라서, 다음과 같이 기저를 구할 수 있다.
$$ \underset{M_1}{\begin{bmatrix}1 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}} \underset{M_2}{\begin{bmatrix}0 & 1 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}} \underset{M_3}{\begin{bmatrix}0 & 0 & 1 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}} \underset{M_4}{\begin{bmatrix}0 & 0 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}} \underset{M_5}{\begin{bmatrix}0 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 0 \end{bmatrix}} \underset{M_6}{\begin{bmatrix} 0 & 0 & 0 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{bmatrix}}$$
$$\underset{M_7}{\begin{bmatrix} 0 & 0 & 0 \\ 0 & 0 & 0 \\ 1 & 0 & 0 \end{bmatrix}} \underset{M_8}{\begin{bmatrix} 0 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 1 & 0 \end{bmatrix}} \underset{M_9}{\begin{bmatrix} 0 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 1 \end{bmatrix}} $$
위는, 총 9개의 기저 행렬을 표현한 것이다. 여기서 위와 같이 1과 0으로만 구성된 기저를 Standard basis라 한다.
위의 기저 벡터의 선형조합을 통해 3x3크기 행렬의 어떠한 형태라도 만들 수 있다. 행렬 M은 9차원 공간이라고도 할 수 있다. 여기서는 9차원의 기저들을 column vector 대신 행렬로 표현했다고 생각하면 된다.
2. M의 부분공간인 대칭 행렬
대칭 행렬(Symmetric matrix)은 M의 부분 공간이며, S행렬이라 부른다. 아래와 같이 대각선 원소들을 기준으로 위, 아래가 같은 원소의 값을 가지는 형태이다.
$$ S = \begin{bmatrix} a & b & c \\ b & d & e \\ c & e & f \end{bmatrix} $$
일단, M의 기저는 9개였다. 대칭행렬 S에는 M의 Standard basis중 몇개가 포함 될까?
단, 3개만이 S의 기저에 포함된다. 즉, 대각선 부분에 기여하는 $M_1$, $M_5$, $M_9$ 만이 S의 기저에 포함된다.
그렇다면, 나머지 기저는 어떤게 될까? 대칭행렬이므로 뭔가 대칭된 형태의 기저가 있을 것이다. 다음과 같다.
$$ \underset{S_1}{\begin{bmatrix} 1 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}} \underset{S_2}{\begin{bmatrix} 0 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 0 \end{bmatrix}} \underset{S_3}{\begin{bmatrix} 0 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 1 \end{bmatrix}} + \underset{S_4}{\begin{bmatrix} 0 & 1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}} \underset{S_5}{\begin{bmatrix} 0 & 0 & 1 \\ 0 & 0 & 0 \\ 1 & 0 & 0 \end{bmatrix}}\underset{S_6}{\begin{bmatrix} 0 & 0 & 0 \\ 0 & 0 & 1 \\ 0 & 1 & 0 \end{bmatrix}}$$
따라서, 대칭행렬 S의 차원은 6이고, 기저는 6개가 된다. 위의 기저들의 조합으로 어떠한 대칭 행렬공간에 존재하는 어떠한 행렬도 만들 수 있다.
3. M의 부분공간인 상삼각 행렬
상삼각행렬(Upper triangular matrix)도 M의 부분 공간이며, U행렬이라고 부른다. 아래와 같이 대각 원소들을 기준으로 위에만 원소의 값을 가지는 형태이다.
$$ U = \begin{bmatrix} a & b & c \\ 0 & d & e \\ 0 & 0 & f \end{bmatrix} $$
상삼각 형랠의 차원과 기저도 대칭 행렬과 같을 것이다. 딱 봐도 상삼각행렬 U의 차원은 6이고, 기저는 6개이며, 기존 Standard basis 3개에 나머지 3개의 기저가 추가될 것이다.
$$ \underset{U_1}{\begin{bmatrix} 1 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}} \underset{U_2}{\begin{bmatrix} 0 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 0 \end{bmatrix}} \underset{U_3}{\begin{bmatrix} 0 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 1 \end{bmatrix}} + \underset{U_4}{\begin{bmatrix} 0 & 1 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}} \underset{U_5}{\begin{bmatrix} 0 & 0 & 1 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}}\underset{U_6}{\begin{bmatrix} 0 & 0 & 0 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{bmatrix}}$$
4. M의 부분공간인 대각 행렬
대각행렬(Diagonal matrix)도 M의 부분 공간이며, D행렬이라고 부른다. 여기서, 대각 행렬은 위에서 살펴본 S행렬과 D행렬 즉, 2개의 부분 공간 행렬들로 정의할 수 있다. 즉, 이들의 교집합을 보면된다. 아래와 같이 이 둘의 교집합은 대각선만 같으므로, 원소인 a, d, f 만 남게 된다. D의 차원은 3이고, 기저는 3개일 것이다.
즉, S에도 있고 U에도 있는 교집합 원소들로 D행렬을 정의할 수 있다.
$$ S \cap U = D \longrightarrow \begin{bmatrix} a & b & c \\ b & d & e \\ c & e & f \end{bmatrix} \cap \begin{bmatrix} a & b & c \\ 0 & d & e \\ 0 & 0 & f \end{bmatrix} = \begin{bmatrix} a & 0 & 0 \\ 0 & d & 0 \\ 0 & 0 & f \end{bmatrix}$$
따라서, 교집합은 각각 9차원에 6차원 공간 두개의 공통되는 부분만을 자르면 3차원이 될것이고 그것이 D행렬의 공간이다. 합집합은 어떨까? 두 행렬을 가지고 합집합을 할 수 있을까? 또한 그것이 M의 부분공간이 될까?
정답은 합집합은 성립되지 않는다.
$$ S \cup U = M \longrightarrow \begin{bmatrix} a & b & c \\ b & d & e \\ c & e & f \end{bmatrix} \cup \begin{bmatrix} a & b & c \\ 0 & d & e \\ 0 & 0 & f \end{bmatrix} = ? $$
S와 U행렬을 9차원 공간의 놓여있느 6차원의 어떠한 공간으로 생각할 수 있는데 이 둘은 다른 방향으로 존재한다. 따라서,
애초에 이 둘을 함께 놓을 수가 없다. (두 공간을 선형결합하는게 아닌 각각 공간을 두고 합치는 것) 그렇기 때문에 합집합은 부분 공간이 아니다.
그렇다면, S와 U를 교집합 말고 부분 공간을 정의하려면 어떻게 해야될까? 이 둘을 더하면 된다.
$$ S+U = M \longrightarrow \begin{bmatrix} a & b & c \\ b & d & e \\ c & e & f \end{bmatrix} + \begin{bmatrix} a & b & c \\ 0 & d & e \\ 0 & 0 & f \end{bmatrix} = \begin{bmatrix} a' & b' & c' \\ d' & e' & f' \\ g' & h' & i' \end{bmatrix}$$
이렇게 두 행렬의 조합, 즉, S의 원소들과 U의 원소들을 더하여 M행렬을 만들 수 있다.
즉, 대칭행렬과 상삼각행렬의 조합을 통해 3x3 크기의 모든 M 행렬을 만들 수 있다. 따라서, 두 행렬의 조합은 M의 부분 공간이 되며 S와 U의 조합의 차원은 9가 된다.
따라서, 3x3크기의 행렬 M에 대한 부분 공간을 차원의 측면에서 정리하면 다음과 같다.
- S의 차원 = 6
- U의 차원 = 6
- $S \cap U$의 차원 = 3
- $S \cup U$의 차원 = 성립 X
- $S + U$의 차원 = 9
그리고 다음식을 봐보자.
$$ \rm (S의 \ \ 차원) + (U의 \ \ 차원) = 6 + 6 = (S \cap U의 \ \ 차원) + (S + U의 \ \ 차원) = 3 + 9 = 12 $$
위의 식이 무엇을 의미하는 것일까? 바로 지금까지 했던 부분 공간을 가지고 정의하는 차원이나 기저 등에 대한 연산이 자연스럽다는 증거이다.
벡터 공간의 예시(선형대수와 미분방정식의 관계)
행렬 공간이자 벡터 공간에 대한 예를 한가지 더 봐보자. 벡터 공간이지만 벡터를 가지지 않는 형태인데, 미분방정식에 관한 내용이다. 다음 미분방정식(Differential Equation)을 봐보자.
$$ \frac{d^2 y}{d x^2} + y = 0 $$
위 식의 해는 다음과 같은 것들이 될 수 있다.
$$ y= cos(x), \quad y=sin(x), \quad y=e^{ix}, \quad ...$$
즉, 위의 해들은 해 공간의 원소들을 나타낸다. 다시말하면, 위의 해들은 미분방정식의 영공간(Null space)을 나타내는 것이다. 따라서, 각 해들은 cos, sin, e, ...은 Null space에 속해 있는 해가 된다.
그렇다면, 위의 미분방정식의 Null space의 완전해(complete solution)은 어떻게 정의할 수 있을까? 다음과 같이 정의할 수 있다.
$$ y = c_1 cos(x) + c_2 sin(x) $$
즉, 위의 식을 우리는 벡터 공간(vector space)이라고 할 수 있다. 이를 벡터공간이라고 하는 이유는 미분방정식의 해 중 cos과 sin에 각각 상수를 곱하여 더한 선형 결합(Linear combination)으로 표현할 수 있기 때문이다. 여기서 cos과 sin은 기저(basis)이다. cos과 sin의 선형 조합은 미분방정식의 해 공간(solution space)인 Null space를 "span"하며 이들은 독립(independent)이다.
결과적으로, 우리는 미분방정식을 여태까지 배운 Ax=0의 식으로 볼 수 있으며, $ y = c_1 cos(x) + c_2 sin(x) $을 Null space를 정의하기 위한 special solution이라고 할 수 있다. 따라서, Special solution은 2개이며, 차원도 역시 2이다.
애초에 2차 미분방정식이므로 차원이 2일 수 밖에 없다.
참고로, 기저는 cos, sin 뿐만아니라, $e^{ix}$, $e^{-ix}$도 기저(basis)가 될 수 있고, 무수히 많이 존재한다.
(왜냐하면 오일러 공식에 의해 $e^{ix} = cos(x) + i sin(x) $이기 때문이다)(엄청 유명한 공식)
(특히, 이번 장에서는 선형대수외의 수학적 지식이 필요한 것 같습니다. 저는 공학수학1, 공학수학2에서 배운 부분이라 비교적 쉽게 이해할 수 있었습니다)
여기서, 우리는 선형미분방정식(Linear differential equation)과 선형대수(Linear algebra)사이의 연결점을 찾을 수 있다.
선형미분방정식(Linear differential equation)을 푼다는 것은 방정식의 해공간(solution space)에 대한 기저(basis)를 찾는 것이다.
미분방정식의 sin, cos과 같은 기저들을 벡터라고 부를 수 있다는 것이다. 이것이 가능한 것은 이 기저들 각각에 상수를 곱하고 더한 선형 조합(Linear combination)이 가능하기 때문이다.
결국, 선형 대수(Linear Algebra)의 기저(basis), 차원(dimension), span 등과 같은 개념들이 mxn 행렬들에서 쓰이는 것 보다 더 넓은 영역에서 쓸 수 있다는 것이다!!
Rank 1 행렬(Rank 1 matrices)
Rank가 1인 행렬을 하나 예를 봐보자.
$$ A = \begin{bmatrix} 1 & 4 & 5 \\ 2 & 8 & 10 \end{bmatrix} $$
위의 행렬은 col2, col3 모두 col1으로 만들 수 있고, row1으로 row2를 만들 수 있으므로, 서로 종속이다.
따라서, Rank가 1이며 표현할 수 있는 공간은 1차원이며 직선이다.
또한, column space의 기저와 row space의 기저는 다음과 같다.
C(A)의 basis : $ \begin{bmatrix} 1 \\ 2 \end{bmatrix}$
C($\rm A^T$)의 basis : $ \begin{bmatrix} 1 & 4 & 5 \end{bmatrix} $
C(A)의 차원 = C($\rm A^T$)의 차원 = Rank = 1
여기서, 새로운 사실을 하나 배워보자. 위의 기저들의 곱으로 Rank 1 행렬 A를 만들어 낼 수 있다. 아래식은 엄청 중요하다.
$$ Rank \ \ 1 \ \ matrix \ \ A = u v^T $$
$$ \underset{2 \times 1}{\begin{bmatrix} 1 \\ 2 \end{bmatrix}} \underset{1 \times 3}{\begin{bmatrix} 1 & 4 & 5 \end{bmatrix}} = \underset{2 \times 3}{\begin{bmatrix} 1 & 4 & 5 \\ 2 & 8 & 10 \end{bmatrix}} = A $$
(u = column vector, v = column vector)
column space의 기저와 row space의 기저 순으로 곱하였더니 원래의 Rank1 행렬 A가 만들어 졌다.
중요한 것은 어떤 column vector와 어떤 row vector를 column x row 순으로 곱하면 반드시 Rank1 행렬 A가 만들어진다는 것이다.
위의 식에서 u는 column vector이고 v도 역시 column vector이지만 전치를 시켜서 row vector로 만든 것이다. 이것이 Rank 1행렬의 큰 그림이다.
Rank 1 행렬은 벽돌 건물로 치자면 집짓기블록(Building block)과 같은 것이다. 즉, 모든 행렬에 있어서 가장 작은 기본 단위의 요소와 같다는 것이다.
예를들어, 5x14 크기의 행렬이 있다고 했을 때, 행렬의 Rank가 4라면, 4개의 Rank 1 행렬의 조합으로 이를 표현할 수 있다. 즉, 원래의 행렬을 5x14크기의 A라고 했을 때, A의 Rank는 4이기 때문에 5x14크기의 Rank 1 행렬 4개의 조합으로 A를 표현할 수 있다는 것이다. 이렇게 원래의 행렬을 Rank 1 행렬로 분해하여 표현할 수 있기 때문에 Rank 1 행렬들을 Building block이라 표현하는 것이다.
$$ A_{5 \times 14} = U1_{5 \times 14} + U2_{5 \times 14} + U3_{5 \times 14} + U4_{5 \times 14} $$
(A = Rank 4 행렬, U1~U4 = Rank 1 행렬)
Rank 1 행렬에 대한 부분 공간(Subspaces for Rank 1 matrices)
위에서, 5x14크기의 행렬 A를 이어서 공부해보자. 이번에는 이러한 행렬 A의 부분 공간이다.
5x14크기의 Rank 4인 행렬 A는 부분 공간을 가지는가? 5x14 크기의 모든 행렬을 M이라고 가정해보자.
$$ M = all \ \ 5 \times 14 \ \ matrices $$
한번, 전체집합 M 안에 있는 원소 중 Rank가 4인 행렬들을 생각해 보자. 이들은 M의 부분 집합(부분 공간)일까?
정답은 부분 공간이 아니다. M과 같은 크기(5 x 14)를 가지며 Rank가 4인 행렬들을 더했을 때, 이들은 Rank 4가 안될수도 있다. 부분 공간이 되려면 스칼라곱과 행렬 끼리의 덧셈 연산에 닫혀있어야(closed)하며 영벡터를 포함해야한다.
한번 예를 봐보자.
$$ A = \underset{Rank=2}{\begin{bmatrix} 1 & 4 & 5 \\ 2 & 8 & 10 \\ 3 & 7 & 6 \end{bmatrix}}$$
$$ B= \underset{Rank=2}{\begin{bmatrix} 3 & 6 & 9 \\ 2 & 4 & 8 \\ 1 & 2 & 8 \end{bmatrix}} $$
$$ A+B = \underset{Rank=3}{\begin{bmatrix} 4 & 10 & 14 \\ 4 & 12 & 18 \\ 4 & 9 & 14 \end{bmatrix}} $$
A와 B행렬은 Rank가 각각 2이지만, 더했더니 Rank 3이되어 원래의 Rank 2의 차원에서 벗어나게 됬다.
3x3행렬로 예를들었지만 5x14행렬도 마찬가지이다. 따라서 부분 공간이 아니다.
이번에는 4차원 공간인 $R^4$의 경우도 봐보자. $R^4$ 공간상의 모든 벡터는 다음과 같이 4개의 component를 가지는 벡터로 표현할 수 있다.
$$ \vec v = \begin{bmatrix} v_1 \\ v_2 \\ v_3 \\ v_4 \end{bmatrix} $$
이때, $R^4$의 부분 공간을 다음 식과 같이 연관지어 정의해보자.
$$ S = all \ \ \vec v \ \ in \ \ R^4 \ \ with \ \ v_1 + v_2 + v_3 + v_4 = 0 $$
위 식의 S는 $R^4$의 부분 공간이다. 스칼라곱과 덧셈 연산에 닫혀있기(closed) 때문이다. 즉, 벡터 v에 어떤 상수를 곱해도 0이 되고, 혹은 같은 공간에 존재하는 v와 w에 임의의 상술르 곱하여 더해도 여전히 같은 공간에 존재한다.
다시 말하면, 이때의 v는 어떤 행렬 A의 Null space이다. 처음부터 $R^4$의 예를 들었지만 보기 편하게 $R^2$를 예로 봐보자.
$$ S = all \ \ \vec v \ \ in \ \ R^2 \ \ with \ \ v_1 + v_2 = 0 $$
$$ \vec v = \begin{bmatrix} 2 \\ -2 \end{bmatrix}, \quad \vec w = \begin{bmatrix} -1 \\ 1 \end{bmatrix},\quad \vec z = \begin{bmatrix} 1 \\ -1 \end{bmatrix}, \quad \cdots $$
위의 벡터 v, w, z의 각 원소들의 합은 0이다. 이들을 좌표평면위에 표현하면 다음과 같을 것이다.
$R^2$의 경우에서 각 벡터들의 원소들의 합이 0인 경우를 그래프로 표현한 것이다.
이 벡터들이 이와 같이 하나의 line을 형성하는 것은 이들이 행렬 A=[1 1]의 Null space이기 때문이다.
A의 시스템 행렬을 Ax=0형태로 표현하고 $x= \begin{bmatrix} x \\ y \end{bmatrix}$로 표현하면, y=-x라는 식이 나온다.
따라서, 좌변으로 식을 몰으면 x+y=0이 되고 각 벡터들의 원소들의 합이 0인 경우이므로 v, w, z는 A=[1 1]행렬의 Null space의 해인 것이다. 이때의 A는 Rank 1인 행렬이고 따라서 1차원 행렬이다.
이제, A의 주요 부분공간에 대한 차원과 기저를 봐보자.
1x2 행렬 A의 부분공간의 차원
- row space : r=1
- column space : r=1
- null space : n-r = 2-1
- left null space : m-r = 1-1 = 0
1x2 행렬 A의 부분공간의 기저
- row space : $\begin{bmatrix} 1 & 1 \end{bmatrix} $
- column space : $R^1$
- null space : $\begin{bmatrix} 1 \\ -1 \end{bmatrix} $, $\begin{bmatrix} -1 \\ 1 \end{bmatrix} $, ...
- left null space : [0], empty
이제 위의 $R^2$에 대한 개념을 바탕으로 $R^4$에서도 생각해보자.
$R^4$에서 각 벡터들의 원소들의 합이 0인 경우는 행렬 A=[1 1 1 1]의 Null space일 것이다.
$$ A = \begin{bmatrix} 1 & 1 & 1 & 1 \end{bmatrix} $$
$$ Av = 0$$
이를 통해 우리는 $R^2$에서와 같이 $R^4$에서의 Rank=1인 행렬과 Ax=0의 Null space를 연결시킬 수 있다.
row space와 column space의 차원은 Rank=1과 같고, Null space와 left Null space는 각각 n-r, m-r과 같다.
기저는 일단, row space의 기저는 첫 번째 row인 [1 1 1 1] 그대로이다.
Null space의 기저의 경우 위의 A행렬에서 첫번째 원소를 피벗으로보면 나머지 3개가 free column이 될 것이다.
따라서, free variable로 1과 0으로 설정하면 Null space에 대한 special solution을 구할 수 있다.
$$ A= \begin{bmatrix} (1) & 1 & 1 & 1 \end{bmatrix}$$
$$ \begin{bmatrix} -1 \\ 1 \\ 0 \\ 0 \end{bmatrix}, \quad \begin{bmatrix} -1 \\ 0 \\ 1 \\ 0 \end{bmatrix}, \quad \begin{bmatrix} -1 \\ 0 \\ 0 \\ 1 \end{bmatrix} $$
column space의 기저는 그저 $R^1$이다. 왜냐하면 각 column [1] [1] [1] [1]의 선형조합으로 정의되는데, 어떤 상수를 곱하여 선형조합을 해도 무조건 상수값 하나가 나올뿐이다.
마지막으로, Left null space의 기저는 A의 전치 행렬에 대한 Null space이므로 다음과 같다.
$$N (A^T) = \begin{bmatrix} 1 \\ 1 \\ 1 \\ 1 \end{bmatrix} \begin{bmatrix} x \end{bmatrix} = \begin{bmatrix} 0 \\ 0 \\ 0 \\ 0 \end{bmatrix} $$
즉, 위 식을 만족시키는 x는 0밖에없다. 따라서, Left null space는 0밖에 존재하지않는 0차원의 공간이다.
따라서, 요약하면 다음과 같다.
1x4 행렬 A의 부분공간의 차원
- row space : r=1
- column space : r=1
- null space : n-r = 4-1 = 3
- left null space : m-r = 1-1 = 0
1x4 행렬 A의 부분공간의 기저
- row space : [1 1 1 1]
- column space : $R^1$
- null space : $\begin{bmatrix} -1 \\ 1 \\ 0 \\ 0 \end{bmatrix}$, $\begin{bmatrix} -1 \\ 0 \\ 1 \\ 0 \end{bmatrix}$, $\begin{bmatrix} -1 \\ 0 \\ 0 \\ 1 \end{bmatrix}$, ...
- left null space : [0], empty
결론적으로 $R^4$에서 주요 부분공간들의 차원은 원래의 행렬 A의 차원을 나타낸다.
$$A= \begin{bmatrix} 1 & 1 & 1 & 1 \end{bmatrix} $$
$$ m=1 \ \ \times \ \ n = 4 $$
$$ dim(C(A))+dim(N(A^T)) \ \ \times \ \ dim(C(A^T)) + dim(N(A)) $$
$$ (1 \quad + \quad 0) \quad \quad \quad \quad \times \quad \quad \quad \quad (1 \quad + \quad 3) $$
결론
이번 강의에서는 3x3크기의 행렬 공간, 벡터 공간에 대해 알아보고 이들의 부분 공간에 대해 공부하고 각각 기저와 차원에 대해 알아보았다. 여기서, 3x3크기의 행렬에서 나온 여러 개념들을 확장시켜 미분방정식과 연결시켜보았다.
미분 방정식 부분을 완벽히 이해하려면, 2차 미분방정식을 푸는 부분을 공부해야 할거 같다...
E또한, Rank 1행렬과 이에 관련된 부분 공간들에 대해 공부했다. Rank 1은 모든 행렬들의 기본적인 행렬 단위가 되는 Building block이라 할 수 있으며, 이후에 배우는 과정에서 자주 등장하는 중요한 개념이다.