정규방정식

핵심 아이디어

정규방정식은 최소제곱 문제에서 잔차가 설명 공간과 직교해야 한다는 조건을 대수적으로 쓴 식입니다. 가장 대표적인 형태는 A^T A x = A^T b입니다.

이 식은 단순 계산 요령이 아니라, r = b - Ax가 Col(A)와 직교해야 한다는 사실을 표현한 결과입니다. 즉 정규방정식은 최소제곱과 정사영 사이의 연결고리라고 볼 수 있습니다.

이 블로그에서의 역할

Mathbong에서는 정규방정식을 최소제곱과 선형회귀를 연결하는 핵심 식으로 설명합니다. 동시에 실무에서는 QR 분해나 특이값 분해가 더 수치적으로 안정적일 수 있다는 점도 함께 짚습니다.