프로그래머를 위한 선형대수 Chap02 랭크, 역행렬, 일차방정식 발표자료

1. 최종현

2. 2
2.1 문제 설정
 연립일차방정식에 대해 ‘해가 존재하는가’, ‘해는 유일한가＇라는 것을 알아내는 것이 2장의 주제
𝑦 = 𝐴𝑥 + (노이즈)
𝑦 = 𝐴𝑥

3. 3
2.2 정칙행렬(성질이 좋은 경우)
2.2.1 정칙성과 역행렬
 역행렬이 존재하는 정방행렬 𝐴를 정칙행렬(Regular Matrix) 또는 비특이행렬(Non-Singular Matrix)
 𝐴𝑥 = 𝑦
𝑎11 ⋯ 𝑎1𝑛
⋮ ⋱ ⋮
𝑎 𝑚1 ⋯ 𝑎 𝑚𝑛
𝑥1
⋮
𝑥 𝑛
=
𝑦1
⋮
𝑦 𝑚
차원이 같으면, 즉 𝑚 = 𝑛 인 경우
𝐴는 정방행렬
(Square Matrix)
이때 𝐴의 역행렬 𝐴−1
이 존재할 경우
𝑥 = 𝐴−1
𝑦

4. 4
2.2 정칙행렬(성질이 좋은 경우)
2.2.2 연립일차방정식의 해법(정칙인 경우)
 주어진 𝐴와 𝑦에 대해 ‘𝑨𝒙 = 𝒚가 되는 𝒙’를 구하는 문제
변수소거로 연립방정식 풀기
 ‘방정식 한 개를 사용해 나머지에서 변수를 하나 소거’ 해서 구하는 방식
∴

5. 5
2.2 정칙행렬(성질이 좋은 경우)
연립일차방정식을 푸는 과정을 블록행렬로 표기
 변수 소거법을 행렬로 표기

6. 6
2.2 정칙행렬(성질이 좋은 경우)
블록행렬 표기만으로 연립일차방정식을 풀다  가우스 요르단(Gauss-Jordan) 소거법
 어느 행을 𝑐배 한다.
 어느 행을 𝑐배 하여 다른 행에 더한다.
Gauss-Jordan 소거법
에서 갱신되는 부분

7. 7
2.2 정칙행렬(성질이 좋은 경우)
블록행렬 표기만으로 연립일차방정식을 풀다  가우스 요르단(Gauss-Jordan) 소거법
 대각성분을 1로 하려고 했더니 해당 부분이 0인 경우  피보팅(pivoting) 사용
 피보팅(pivoting): 어느 행과 다른 행을 바꿔 넣는다.
=

8. 8
2.2 정칙행렬(성질이 좋은 경우)
가우스 요르단(Gauss-Jordan) 소거법 vs 변수 소거법
 𝐴가 𝑛차 정방행렬인 경우
가우스 소거법
변수 소거법

9. 9
2.2 정칙행렬(성질이 좋은 경우)
2.2.3 역행렬의 계산
 ‘𝑨𝒙 = 𝒚가 되는 𝒙’를 구하는 문제를 응용하여 구할 수 있음
연립일차방정식의 응용으로 역행렬을 구하라
 𝑛차 정방행렬 𝐴의 역행렬이란 𝑨𝑿 = 𝑰가 되는 정방행렬 𝑋(= 𝐴−1
)
𝐴𝑥1 = 𝑒1
⋮
𝐴𝑥 𝑛 = 𝑒 𝑛

10. 10
2.2 정칙행렬(성질이 좋은 경우)
블록행렬 표기로 정리하여 역행렬을 구한다
 𝐴의 우측에 단위행렬 𝐼를 써둔다.
 좌측(처음 𝐴였던 부분)이 𝐼가 되도록 계산한다.
 그렇게 되면 우측(처음 𝐼였던 부분)에는 𝐴−1
이 나타난다.
𝐴𝑥1 = 𝑒1
⋮
𝐴𝑥 𝑛 = 𝑒 𝑛
𝑠𝑖 = 𝑥𝑖의 해

11. 11
2.2 정칙행렬(성질이 좋은 경우)
블록행렬 표기로 정리하여 역행렬을 구한다
𝐴 𝐼)
∴

12. 12
2.2 정칙행렬(성질이 좋은 경우)
2.2.4 기본변형
 3행을 5배 한다.  단위행렬의 (3, 3) 성분이 5인 행렬 𝑄3(5)을 곱한다.
 1행의 10배를 2행에 더한다.  단위행렬의 (2, 1) 성분이 10인 행렬 𝑅2,1(10)을 곱한다.

13. 13
2.2 정칙행렬(성질이 좋은 경우)
2.2.4 기본변형
 1행과 3행을 바꿔 넣는다.  단위행렬의 1행과 3행을 바꾼 행렬 𝑆1,3 을 곱한다.
[기본변형행렬에 따른 부피 확대율]

14. 14
2.3 성질이 나쁜 경우
2.3.1 성질이 나쁜 예
 𝐴𝑥 = 𝑦 에서 𝑦가 𝑥보다 차원이 작은(𝑚 < 𝑛)인 경우
 𝑚 = 2, 𝑛 = 3 인 경우,
단서가 부족한 경우(가로가 긴 행렬, 핵)
𝑎11 ⋯ 𝑎1𝑛
⋮ ⋱ ⋮
𝑎 𝑚1 ⋯ 𝑎 𝑚𝑛
𝑥1
⋮
𝑥 𝑛
=
𝑦1
⋮
𝑦 𝑚
• 행렬 𝐴는 ‘𝒙의 3차원 공간’을 ‘𝒚의 2차원 공간’으로 옮기는 사상  ‘납작하게 누르는’ 사상
• 𝑦로 옮겨온 𝑥가 여러 개 (𝑥, 𝑥’ 등) 이므로 유일한 해가 아님

15. 15
2.3 성질이 나쁜 경우
 주어진 행렬 𝐴에 의해 𝑨𝒙 = 𝒐으로 이동해 오는 것과 같은 𝑥의 집합을 𝐴의 핵(kernel, Ker A)이라고 함
 영공간(Null space) 라고도 함
 Ker 𝑨는 ‘사상 𝐴에서 납작하게 눌러지는 방향’을 나타냄
핵, Kernel(Ker)
3차원 공간 1차원 공간
𝐴
𝐾𝑒𝑟 𝐴
2차원 공간 2차원 공간
𝐴
𝐾𝑒𝑟 𝐴

16. 16
2.3 성질이 나쁜 경우
2.3.1 성질이 나쁜 예
 𝐴𝑥 = 𝑦 에서 𝑦가 𝑥보다 차원이 큰(m > 𝑛) 경우
 𝑚 = 3, 𝑛 = 2 인 경우,
단서가 너무 많은 경우(세로가 긴 행렬, 상)
𝑎11 ⋯ 𝑎1𝑛
⋮ ⋱ ⋮
𝑎 𝑚1 ⋯ 𝑎 𝑚𝑛
𝑥1
⋮
𝑥 𝑛
=
𝑦1
⋮
𝑦 𝑚
• 행렬 𝐴는 ‘𝒙의 2차원 공간’을 ‘𝒚의 3차원 공간’으로 옮기는 사상  ‘차원을 높이는’ 사상
• 𝑦로 옮겨온 𝑥가 𝑦’를 커버하지 못함

17. 17
2.3 성질이 나쁜 경우
 주어진 행렬 𝐴에 대해 𝑥를 이리 저리 움직여 𝐴로 옮기는 𝒚 = 𝑨𝒙의 집합을 𝐴의 상(Image, Im 𝑨)이라 함
 공간 전체를 𝐴로 옮긴 영역을 말함
상, Image(Im)
1차원 공간 3차원 공간
𝐴
𝐼𝑚 𝐴
2차원 공간 3차원 공간
𝐴
𝐼𝑚 𝐴
𝑦 = 𝐴𝑥 가 되는
𝑥 는 존재하지 않는다.

18. 18
2.3 성질이 나쁜 경우
핵, Kernel(Ker) & 상, Image(Im)
𝑨
𝑨 𝑨

19. 19
2.3 성질이 나쁜 경우
2.3.1 성질이 나쁜 예
단서의 개수가 일치해도…… (특이행렬, Singular Matrix)
× −
𝟑
𝟒
× 𝟐

20. 20
2.3.2 성질의 나쁨과 핵·상
 같은 결과 𝑦 가 나오는 원인 𝑥는 유일한가, 즉 유일한 해를 가지는가
 ‘사상 𝑦 = 𝐴𝑥는 단사(injection)’
 𝐾𝑒𝑟 𝐴가 ‘원점 𝑜뿐’ 인 사상은 단사
 어떤 결과 y에도 그것이 나오는 원인 x가 존재하는가
 원래의 공간 전체(정의역)을 𝐴로 옮긴 영역(𝐼𝑚 𝐴)이 목적지의 공간 전체(치역)와 일치하는가,
 ‘사상 𝑦 = 𝐴𝑥는 전사(surjection)’
 위의 두 조건을 모두 만족하는 경우를 ‘사상 𝑦 = 𝐴𝑥는 전단사(bijection) 또는 일대일 위로의 사상
2.3 성질이 나쁜 경우

21. 21
2.3.3 차원 정리(dimension theorem)
 𝑚 × 𝑛 행렬 𝐴에 대해
dim 𝐾𝑒𝑟 𝐴 + dim 𝐼𝑚 𝐴 = 𝑛
2.3 성질이 나쁜 경우
𝐴 =
𝑎11 ⋯ 𝑎1𝑛
⋮ ⋱ ⋮
𝑎 𝑚1 ⋯ 𝑎 𝑚𝑛
3차원 공간 1차원 공간
𝐴
K𝑒𝑟 𝐴
원래 공간
(3차원)
목적지 공간
(1차원)

22. 22
2.3.3 차원 정리(dimension theorem)
 𝑚 < 𝑛 행렬 𝐴이면 단사는 될 수 없다.
 𝑚 > 𝑛 행렬 𝐴이면 전사는 될 수 없다
2.3 성질이 나쁜 경우
2차원 공간 3차원 공간
𝐴
𝐼𝑚 𝐴
3차원 공간 1차원 공간
𝐴
𝐾𝑒𝑟 𝐴
𝑎11 ⋯ 𝑎1𝑛
⋮ ⋱ ⋮
𝑎 𝑚1 ⋯ 𝑎 𝑚𝑛
𝑥1
⋮
𝑥 𝑛
=
𝑦1
⋮
𝑦 𝑚

23. 23
2.3.4 ‘납작하게’를 식으로 나타내다(선형독립, 선형종속)
 행렬을 보고 납작하게 누르는 행렬 인지를 알기 위한 방법
 납작하게 눌린다
 서로 다른 𝑥와 𝑥’가 같은 𝑦로 이동한다
 𝑥 ≠ 𝑥′인데 𝐴𝑥 = 𝐴𝑥′ 를 만족한다  선형 종속(Linear dependence), 일차종속, 종속
 납작하게 눌리지 않는다  선형 독립(Linear independence), 일차독립, 독립
2.3 성질이 나쁜 경우
𝐴𝑥 = 𝐴𝑥′

24. 24
2.3.5 단서의 실질적인 개수(랭크)
 ‘이동점의 공간 전체를 커버할 수 있는가’를 검토
 상 𝐼𝑚 𝐴가 공간 전체를 커버 하고 있는가  dim 𝐼𝑚 𝐴
 dim 𝐼𝑚 𝐴 이 ‘단서의 실질적인 개수‘, 즉 랭크(Rank)가 됨  𝑟𝑎𝑛𝑘 𝐴
 랭크(Rank)를 통해 ‘납작하게 눌리는가＇도 알 수 있음
2.3 성질이 나쁜 경우
랭크의 정의
dim 𝐾𝑒𝑟 𝐴 + dim 𝐼𝑚 𝐴 = 𝑛 dim 𝐾𝑒𝑟 𝐴 + 𝑟𝑎𝑛𝑘 𝐴 = 𝑛
 𝐾𝑒𝑟 𝐴가 원점 𝑜 뿐인가? = 𝐾𝑒𝑟 𝐴는 0차원 인가?
 𝐼𝑚 𝐴가 𝑚 차원 공간 전체를 커버하는가? = 𝐼𝑚 𝐴는 𝑚차원 인가?
 𝑟𝑎𝑛𝑘 𝐴 = 𝑛  랭크가 원래 공간(정의역)의 차원과 동일 ⇔ 𝐴는 단사
 𝑟𝑎𝑛𝑘 𝐴 = 𝑚  랭크가 목적지 공간(치역)의 차원과 동일 ⇔ 𝐴는 전사
랭크와 핵(Ker), 상(Im)과 단사, 전사
𝑎11 ⋯ 𝑎1𝑛
⋮ ⋱ ⋮
𝑎 𝑚1 ⋯ 𝑎 𝑚𝑛
𝑥1
⋮
𝑥 𝑛
=
𝑦1
⋮
𝑦 𝑚

25. 25
 𝐴 가 𝑚 × 𝑛행렬이라면
• 𝑟𝑎𝑛𝑘 𝐴 ≤ 𝑚  이동할 공간 전체가 𝑚 차원이므로 𝐼𝑚 𝐴 의 차원은 𝑚 보다 커지지 못함
• 𝑟𝑎𝑛𝑘 𝐴 ≤ 𝑛  원래 공간이 𝑛 차원이므로 그 전체를 A로 옮긴 것도 𝑛차원 보다 커지지 못함
• 정칙행렬을 곱해도 랭크는 변하지 않음  정칙행렬은 ‘납작하게 누르지 않는‘ 사상이기 때문
a. 𝑟𝑎𝑛𝑘 𝑃𝐴 = 𝑟𝑎𝑛𝑘 𝐴
b. 𝑟𝑎𝑛𝑘 𝐴𝑄 = 𝑟𝑎𝑛𝑘 𝐴
• 일반행렬 𝐴, 𝐵에 대해서는
a. 𝑟𝑎𝑛𝑘 𝐵𝐴 ≤ 𝑟𝑎𝑛𝑘 𝐴
b. 𝑟𝑎𝑛𝑘 𝐵𝐴 ≤ 𝑟𝑎𝑛𝑘 𝐵
• 전치해도 랭크는 동일 𝑟𝑎𝑛𝑘 𝐴 𝑇
= 𝑟𝑎𝑛𝑘 𝐴
2.3 성질이 나쁜 경우
랭크의 기본 성질 𝑎11 ⋯ 𝑎1𝑛
⋮ ⋱ ⋮
𝑎 𝑚1 ⋯ 𝑎 𝑚𝑛
𝑥1
⋮
𝑥 𝑛
=
𝑦1
⋮
𝑦 𝑚

26. 26
 𝐴 = 𝐵𝐶 로 분해
• 𝑧 = 𝐶𝑥 : 𝑛차원 벡터 𝑥를 𝑟차원 벡터 𝑧로 누른다
• 𝑦 = 𝐵𝑧 : 𝑟차원 벡터 𝑧를 𝑚차원 벡터 𝑦로 확장한다.
2.3 성질이 나쁜 경우
보틀넥 형의 분해
dim 𝐼𝑚 𝐴 ≤ 𝑟

27. 27
2.3 성질이 나쁜 경우
2.3.6 랭크 구하는 방법 (1) 눈으로
 𝑦 = 𝐴𝑥에서 𝑎1 𝑥1 + ⋯ + 𝑎 𝑛 𝑥 𝑛 의 움직일 수 있는 범위는 𝐼𝑚 𝐴  Im A = 𝑠𝑝𝑎𝑛{𝑎1, ⋯ , 𝑎 𝑛}
 𝐴 의 열 벡터인 𝑎1, ⋯ , 𝑎 𝑛이 만드는 부분을 선형부분공간(Linear Subspace)
 따라서, 𝑠𝑝𝑎𝑛 𝑎1, ⋯ , 𝑎 𝑛 의 차원이 𝑟𝑎𝑛𝑘 𝐴
span{𝒂 𝟏, … , 𝒂 𝒏}

28. 28
2.3 성질이 나쁜 경우
2.3.7 랭크 구하는 방법 (1) 손 계산

29. 29
2.3 성질이 나쁜 경우
2.3.7 랭크 구하는 방법 (1) 손 계산

30. THANK YOU