지금, 나는 

Art is anything you can get away with.

반응형

Math/Linear Algebra 7

7. 고유값과 행렬의 대각화

만약 행렬을 상수로 대체할 수 있다면 해를 쉽게 구할 수 있을 것이다. 그러한 상수를 고유값(eigenvalue)이라 부른다. 즉, $(A-\lambda I)x = 0$을 만족하는 $\lambda$를 말한다. 이러한 고유값은 행렬식을 이용해 다음과 같이 구할 수 있다. $|A-\lambda I| = 0$ 이렇게 구한 각 고유값에 대응하는 x를 고유벡터(eigenvector)라고 부른다. 이때 각각의 고유값에 대한 고유벡터는 서로 독립이다. n×n 행렬 A가 독립적인 고유벡터와 고유값을 가진다고 할 때 S = [ X1 ··· Xn ]이라 하면 다음이 성립한다. $AS = \Lambda S$이므로 $S^{-1}AS = \Lambda = \begin{bmatrix} \lambda_{1} & & \\ & \dd..

Math/Linear Algebra 2023.07.16

6. 행렬식

행렬식은 정방행렬이 input인 함수다. 행렬식은 결과값이 스칼라고, 주로 역행렬을 구할 때 사용된다. 행렬식(Determinant)은 pivot 값들의 곱이다. 행렬식은 3가지 기본 성질이 있다. (1) |In| = 1 (2) 두 행이 바뀌면 부호가 바뀐다. (3) $\begin{vmatrix}\begin{bmatrix} a+a' & b+b' \\ c & d \end{bmatrix}\end{vmatrix} = \begin{vmatrix}\begin{bmatrix} a & b \\ c & d \end{bmatrix}\end{vmatrix} + \begin{vmatrix}\begin{bmatrix} a' & b' \\ c & d \end{bmatrix}\end{vmatrix}$ $\begin{vmatrix..

Math/Linear Algebra 2023.07.16

5. 직교, 오차 그리고 Tall matrix

벡터에 대하여 내적했을 때 0이면 직교한다고 할 수 있다. 우선, 벡터의 길이는 Frobenius Norm으로 정의한다. 유클리드에 근거한 길이이고 다음과 같다. $\mathbf{v} = (v_{1}, v_{2})$일 때, $||\mathbf{v}|| = \sqrt{|v_{1}|^{2} + |v_{2}|^{2}}$ 내적(Dot Product)은 다음과 같다. $\mathbf{v}\cdot\mathbf{w} = ||\mathbf{v}|| ||\mathbf{w}|| \cos\theta = v_{1}w_{1} + v_{2}w_{2}$ 내적을 통해 다음 두 식을 유도할 수 있다. (1) 삼각 부등식 $||\mathbf{v} + \mathbf{w}|| ≤ ||\mathbf{v}|| + ||\mathbf{w}||$..

Math/Linear Algebra 2023.07.16

4. 미지수 개수와 일차방정식 개수

1. 미지수 개수 > 방정식 개수 이러한 상태의 행렬을 Fat Matrix라 부른다. m×n 행렬이면 m < n인 상황이다. 이러한 행렬은 조작했을 때 [ I F ] 형태가 된다. 여기서 I에 해당하는 pivot만 해를 특정할 수 있고 그렇지 못한 free variable은 가중치로 표현해야 한다. Ax = 0의 경우 완전해는 특수해의 선형합으로 나타낸다. free variable을 하나만 남기고 0으로 두고 해(special solution)를 구한 후 해당 free variable을 가중치로 사용하여 선형합하면 된다. Ax = b의 경우 추가적으로 free variable이 모두 0일 때 pivot에 대한 Ax = b에서의 해(particular solution)를 따로 더해주면 된다. 2. 미지수 ..

Math/Linear Algebra 2023.07.16

3. 벡터의 차원, 공간 그리고 선형변환

간단하게, 벡터의 합과 스칼라 곱을 가지는 집합을 벡터공간이라 하자. 집합의 개념과 유사하고, 부분공간을 정의할 수 있다. 어떤 진부분집합도 동일한 공간을 생성하지 못하는 일차독립인 V의 부분공간 S는 S를 선형결합함으로써 V를 나타낼 수 있다. 이렇게 일차독립인 벡터들을 기저라고 부르며 특정 공간 상에서 기저의 수를 차원이라 한다. 행렬이 주어졌을 때 행렬에 존재하는 독립적인 열 혹은 행의 수를 랭크라고 부르며 이는 해가 될 수 있는 pivot의 수와 동일하다. n×n 정방행렬의 역행렬이 존재하면 랭크가 n이다. m×n 행렬 A, m×m 가역행렬 P, n×n 가역행렬 Q에 대해 rank(AQ) = rank(PA) = rank(PAQ) = rank(A)가 성립한다. 만약 가역행렬이 아닌 행렬끼리의 곱의 ..

Math/Linear Algebra 2023.07.15

2. 미지수 n개, 일차방정식 n개

x - 2y = 1 3x + 2y = 11 이라는 연립방정식은 다음과 같이 행렬로 표현가능하다. $\begin{bmatrix} 1 & -2 \\ 3 & 2 \end{bmatrix}\begin{bmatrix} x \\ y \end{bmatrix} = \begin{bmatrix} 1 \\ 11 \end{bmatrix}$ 보기 쉽게 표현하면 다음과 같다. $x\begin{bmatrix} 1 \\ 3 \end{bmatrix} + y\begin{bmatrix} -2 \\ 2 \end{bmatrix} = \begin{bmatrix} 1 \\ 11 \end{bmatrix}$ 연립방정식을 푸는 가장 기초적인 방법은 가감법이다. 이 행위를 행렬로도 동일하게 할 수 있다. 2x + 4y - 2z = 2 x + 2y + z..

Math/Linear Algebra 2023.07.15

1. 벡터와 행렬 연산

벡터는 크기와 방향을 가진 값으로, 크기만 가지는 스칼라와 대비되는 개념이다. 벡터는 다음과 같이 스칼라 값을 모아놓은 것으로 표현 가능하다. 일반적으로 행벡터보다 열벡터로 표현한다. $\mathbf{v} = \begin{bmatrix} v_{1} \\ v_{2} \end{bmatrix} = (v_{1}, v_{2})$ $\begin{bmatrix} v_{1} \\ v_{2} \end{bmatrix}^{T} = \begin{bmatrix} v_{1} & v_{2} \end{bmatrix}$ 벡터의 합은 크기가 동일한(m×1 or 1×m) 벡터에 대해 동일 위치의 요소끼리 연산한다. 이러한 두 벡터는 서로 차원이 같다고 한다. 스칼라 곱은 스칼라를 각 요소 모두에 곱한다. 차원이 같은 두 벡터 각각에 가중..

Math/Linear Algebra 2023.07.15
728x90