인하대학교 공학대학원(인공지능융합전공)/고급선형대수

Lecture Notes (Sections 2.1–2.2) — Determinants

복리 엔지니어 2026. 5. 12. 21:59
[선형대수] 행렬식(Determinant) — 여인수 전개와 행 축약
Linear Algebra · Ch.2

행렬식(Determinant)
— 여인수 전개와 행 축약법

Sections 2.1 – 2.2 강의노트 완벽 정리

행렬식(Determinant)은 정사각행렬 하나에 실수 하나를 대응시키는 함수입니다:

$$\det : \mathbb{R}^{n \times n} \to \mathbb{R}, \quad A \mapsto \det(A) \in \mathbb{R}$$

단순한 숫자 하나에 불과해 보이지만, 이 값은 역행렬의 존재 여부, 연립방정식의 해의 유일성, 도형의 부피, 선형변환의 확대 비율까지 한꺼번에 알려주는 매우 강력한 도구입니다. 이번 글에서는 2.1 여인수 전개2.2 행 축약법을 통한 행렬식 계산법을 차근차근 정리합니다.

§2.1 여인수 전개에 의한 행렬식

기본 사례: 1×1, 2×2 행렬

가장 단순한 1×1 행렬과 2×2 행렬부터 시작합니다.

$$\det[a_{11}] = a_{11}$$

2×2 행렬의 경우 — 우리가 가장 자주 마주치는 형태입니다:

$$A = \begin{bmatrix} a & b \\ c & d \end{bmatrix} \quad \Longrightarrow \quad \det(A) = ad - bc$$

그리고 $\det(A) \neq 0$일 때만 역행렬이 존재합니다:

$$A^{-1} = \frac{1}{\det(A)} \begin{bmatrix} d & -b \\ -c & a \end{bmatrix}$$
왜 ad − bc인가? 두 벡터 $(a, c)$와 $(b, d)$가 만드는 평행사변형의 부호 있는 면적이 바로 $ad - bc$입니다. 면적이 0이라는 것은 두 벡터가 같은 직선 위에 있다는 뜻이고, 그래야만 역행렬이 존재하지 않습니다.

소행렬식(Minor)과 여인수(Cofactor)

$n \times n$ 행렬에서는 어떻게 행렬식을 정의할까요? 핵심은 큰 행렬을 작은 행렬로 쪼개는 것입니다.

행렬 $A = [a_{ij}] \in \mathbb{R}^{n \times n}$에서 $i$행과 $j$열을 모두 지운 $(n-1) \times (n-1)$ 부분행렬을 $A_{ij}$라 합시다.

Definition $$M_{ij} := \det(A_{ij}) \quad \text{(소행렬식, Minor)}$$ $$C_{ij} := (-1)^{i+j} M_{ij} \quad \text{(여인수, Cofactor)}$$

여인수는 소행렬식에 부호 $(-1)^{i+j}$를 곱한 값입니다. 이 부호는 체스판(Checkerboard) 패턴을 따릅니다:

+ + + + + + + +

$(1,1)$에서 시작해 $+$로 시작하며, 한 칸 이동할 때마다 부호가 바뀝니다.

여인수 전개 — 행과 열을 따라

여인수가 준비되었으니, 이제 행렬식의 정의를 적을 수 있습니다.

Row Expansion · 행 $i$를 따라 전개 $$\det(A) = \sum_{j=1}^{n} a_{ij} C_{ij}$$
Column Expansion · 열 $j$를 따라 전개 $$\det(A) = \sum_{i=1}^{n} a_{ij} C_{ij}$$
중요한 사실 어떤 행 또는 어떤 열을 선택하든 $\det(A)$의 값은 동일합니다. 이 사실이 행렬식 이론 전체를 떠받치는 기둥입니다.

계산 전략 — 0이 많은 행/열을 선택하라

$a_{ij} = 0$이면 그 항 $a_{ij} C_{ij}$ 전체가 0이 되어 계산할 필요가 없습니다. 따라서 0이 가장 많은 행이나 열을 골라 전개하는 것이 가장 효율적입니다.

Example

3×3 행렬을 1열을 따라 전개하기

다음 행렬을 1열을 따라 여인수 전개합시다 (1열에 0이 두 개 있어 효율적):

$$A = \begin{bmatrix} 2 & 1 & 3 \\ 0 & 4 & 5 \\ 0 & 0 & 6 \end{bmatrix}$$

$a_{21} = a_{31} = 0$이므로:

$$\det(A) = 2 \cdot C_{11} = 2 \cdot (-1)^{1+1} \det\begin{bmatrix} 4 & 5 \\ 0 & 6 \end{bmatrix} = 2 \cdot 24 = 48$$

상삼각행렬이므로 사실은 대각 성분 곱 $2 \cdot 4 \cdot 6 = 48$로 즉시 알 수 있습니다 (뒤에서 다룸).

삼각행렬과 Sarrus 법칙

삼각행렬의 행렬식

상삼각, 하삼각, 또는 대각행렬은 행렬식을 계산할 필요가 없습니다 — 대각 성분만 곱하면 끝입니다.

Triangular Matrix $$\det(A) = a_{11} \cdot a_{22} \cdots a_{nn}$$

3×3 Sarrus 법칙 (화살표 방법)

3×3 행렬에 한해서만 사용할 수 있는 빠른 계산법입니다.

$$A = \begin{bmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32} & a_{33} \end{bmatrix}$$
$$\det(A) = a_{11}a_{22}a_{33} + a_{12}a_{23}a_{31} + a_{13}a_{21}a_{32}$$ $$- \, a_{13}a_{22}a_{31} - a_{12}a_{21}a_{33} - a_{11}a_{23}a_{32}$$

오른쪽 아래로 향하는 대각선 3개는 더하고(+), 왼쪽 아래로 향하는 대각선 3개는 뺍니다(−).

⚠ 주의 Sarrus 법칙은 오직 3×3 행렬에서만 성립합니다. 4×4 이상에는 절대로 확장되지 않습니다. 시험에서 가장 흔한 실수 중 하나이니 반드시 기억하세요.

§2.2 행 축약을 통한 행렬식 계산

$n$이 커지면 여인수 전개는 항의 수가 폭발적으로 늘어납니다. ($n!$ 개) 이때 행 축약(가우스 소거)을 이용하면 훨씬 효율적입니다.

기본 성질 — 한눈에 보기

1
영행/영열을 가지면 0
$A$에 모두 0인 행 또는 열이 있으면 $\det(A) = 0$
2
전치 불변성
$\det(A) = \det(A^T)$ — 행에 성립하는 모든 성질은 열에도 성립
3
비례 행/열을 가지면 0
두 행(또는 두 열)이 서로 상수배 관계면 $\det(A) = 0$

기본 행연산이 행렬식에 미치는 영향

$A$에 단 한 번의 기본 연산을 적용해 $B$를 얻었다고 합시다. 그 결과 $\det(B)$는 다음과 같이 변합니다.

연산 종류 표기 $\det$ 변화
행 스케일링 $R_i \leftarrow k R_i$ $\det(B) = k \det(A)$
행 교환 $R_i \leftrightarrow R_j$ $\det(B) = -\det(A)$
행 치환 $R_i \leftarrow R_i + k R_j$ $\det(B) = \det(A)$ (변화 없음)

모든 행연산은 열연산으로도 동일하게 성립합니다.

기본 행렬(Elementary Matrix)의 행렬식

$n \times n$ 단위행렬에 위의 연산을 한 번 적용한 것이 기본 행렬 $E$입니다.

$$\det(E) = \begin{cases} k & E: R_i \leftarrow kR_i \ (k \neq 0) \\ -1 & E: R_i \leftrightarrow R_j \\ 1 & E: R_i \leftarrow R_i + kR_j \end{cases}$$
중요 관찰 모든 기본 행렬 $E$에 대해 $\det(E) \neq 0$입니다. 이는 기본 행렬이 모두 가역(invertible)임을 의미합니다.

행 축약 알고리즘 정리

목표: $A$를 기본 행연산을 통해 상삼각행렬 $U$로 만들면서, 그 동안 행렬식이 받은 영향을 변수 $\alpha$로 추적합니다.

  1. 초기값 $\alpha = 1$로 시작.
  2. $R_i \leftrightarrow R_j$ (행 교환)을 수행할 때마다 $\alpha \leftarrow -\alpha$.
  3. $R_i \leftarrow k R_i$ (스케일링)을 수행할 때마다 $\alpha \leftarrow \alpha / k$.
  4. $R_i \leftarrow R_i + k R_j$ (치환)은 $\alpha$에 영향을 주지 않음.
  5. 상삼각행렬 $U$가 완성되면 대각 성분 곱과 $\alpha$로 답을 구함.
$$\det(U) = \prod_{i=1}^{n} u_{ii}, \qquad \det(A) = \alpha \cdot \det(U)$$
💡 실전 팁 스케일링은 피하세요. 교환과 치환만 사용하면 $\alpha$ 추적이 훨씬 간단해집니다. 행 교환을 $s$번 수행했다면:
$$\det(A) = (-1)^s \prod_{i=1}^{n} u_{ii}$$
Example

행 축약으로 행렬식 계산하기

다음 행렬의 행렬식을 구해봅시다.

$$A = \begin{bmatrix} 0 & 1 & 5 \\ 3 & -6 & 9 \\ 2 & 6 & 1 \end{bmatrix}$$

Step 1. $R_1 \leftrightarrow R_2$ (행 교환) → 부호 반전:

$$\begin{bmatrix} 3 & -6 & 9 \\ 0 & 1 & 5 \\ 2 & 6 & 1 \end{bmatrix}, \quad \alpha = -1$$

Step 2. $R_3 \leftarrow R_3 - \tfrac{2}{3} R_1$ (치환):

$$\begin{bmatrix} 3 & -6 & 9 \\ 0 & 1 & 5 \\ 0 & 10 & -5 \end{bmatrix}, \quad \alpha = -1$$

Step 3. $R_3 \leftarrow R_3 - 10 R_2$ (치환):

$$U = \begin{bmatrix} 3 & -6 & 9 \\ 0 & 1 & 5 \\ 0 & 0 & -55 \end{bmatrix}, \quad \alpha = -1$$

최종: $\det(A) = \alpha \cdot \prod u_{ii} = (-1) \cdot 3 \cdot 1 \cdot (-55) = \mathbf{165}$

열연산 단축 기법

$\det(A) = \det(A^T)$이므로, 모든 성질은 열연산에도 그대로 적용됩니다. 어떤 행렬은 열연산 한 번으로 삼각형이 되기도 합니다. 행/열 중 편한 쪽을 자유롭게 선택하세요.

한눈에 보는 핵심 정리

  • $\det$는 $\mathbb{R}^{n \times n} \to \mathbb{R}$ 함수이며, 2×2의 경우 $ad - bc$
  • 여인수 $C_{ij} = (-1)^{i+j} M_{ij}$로 어느 행/열을 따라 전개해도 같은 값
  • 0이 많은 행/열을 선택해 전개하면 계산량을 크게 줄일 수 있음
  • 삼각행렬은 대각 성분의 곱이 곧 행렬식
  • Sarrus 법칙은 3×3 전용 — 4×4 이상에 사용 금지
  • $\det(A) = \det(A^T)$ — 행과 열의 역할이 완전히 대칭
  • 영행/영열 또는 비례 행/열을 가지면 $\det = 0$
  • 행연산 효과: 스케일링 $\times k$, 교환 $\times(-1)$, 치환 변화 없음
  • 큰 행렬은 행 축약으로 상삼각화 → $\det(A) = (-1)^s \prod u_{ii}$ ($s$ = 행 교환 횟수)
Next Up · 다음 단원 예고 2.3 절에서는 행렬식의 가장 강력한 응용 — 크래머 공식(Cramer's Rule), 수반행렬을 이용한 역행렬 공식, 그리고 $\det(AB) = \det(A) \det(B)$ — 을 다룹니다.
📚 Lecture Notes — Sections 2.1 ~ 2.2
#선형대수 #행렬식 #Determinant #여인수전개 #행축약 #Sarrus #대학수학