1. 벡터와 행렬 연산

벡터는 크기와 방향을 가진 값으로,
크기만 가지는 스칼라와 대비되는 개념이다.

벡터는 다음과 같이 스칼라 값을 모아놓은 것으로 표현 가능하다.
일반적으로 행벡터보다 열벡터로 표현한다.
$\mathbf{v} = \begin{bmatrix} v_{1} \\ v_{2} \end{bmatrix} = (v_{1}, v_{2})$
$\begin{bmatrix} v_{1} \\ v_{2} \end{bmatrix}^{T} = \begin{bmatrix} v_{1} & v_{2} \end{bmatrix}$

벡터의 합은 크기가 동일한(m×1 or 1×m) 벡터에 대해
동일 위치의 요소끼리 연산한다.

이러한 두 벡터는 서로 차원이 같다고 한다.

스칼라 곱은 스칼라를 각 요소 모두에 곱한다.

차원이 같은 두 벡터 각각에 가중치(스칼라)를 곱해서 더하는 것을
선형 결합(Linear Combination)이라 한다.
$\mathbf{u} = \alpha \mathbf{v} + \beta \mathbf{w}$

행렬은 m×n으로
m개의 행벡터 혹은 n개의 열벡터로
이루어져 있다고 할 수 있다.

따라서 행렬은 위의 벡터 연산을 동일하게 할 수 있다.

행렬 혹은 벡터의 곱은 조건이 필요하다.
교환법칙이 성립하지 않아 순서가 중요하다.

n×m의 A행렬과 m×l의 B행렬을 곱한다고 하면
A×B는 n×l의 C행렬이 된다.

행렬 간 곱은 다음 방식을 따라
요소 하나씩 계산하면 된다.
$A = \begin{bmatrix} \mathbf{a_{1}} & \mathbf{a_{2}} & \mathbf{a_{3}} \end{bmatrix}$, $x = \begin{bmatrix} x_{1} \\ x_{2} \\ x_{3} \end{bmatrix}$
$x^{T}A = \begin{bmatrix} x^{T}\mathbf{a_{1}} & x^{T}\mathbf{a_{2}} & x^{T}\mathbf{a_{3}} \end{bmatrix}$