[공통수학1 시리즈 10편] 인수분해와 방정식의 해

앞선 글들에서는 다항식의 성질, 항등식, 계수비교를 다뤘습니다. 이제는 그 다항식을 방정식의 해와 연결해서 읽는 단계로 넘어갑니다. 그 핵심 도구가 바로 인수분해입니다.

먼저 흐름을 잡고 시작합니다.

• 다항식은 식의 모양을 다루는 대상이다.
• 방정식은 그 다항식의 값이 0이 되는 지점을 찾는 문제다.
• 인수분해는 그 둘을 이어 주는 가장 직접적인 언어다.
• 그리고 실수에서 인수분해가 더 이상 되지 않는 지점이 다음 주제인 복소수로 이어진다.

---

1. 항등식 다음에 왜 인수분해일까?

앞 글에서 우리는 두 다항식이 항상 같은지, 즉 항등식인지 살펴보았습니다. 그 과정에서 계수를 비교하거나 식의 모양을 바꾸는 훈련을 했습니다. 이제 시선을 조금 바꾸면, 다항식은 방정식을 푸는 도구가 됩니다.

예를 들어

$$x^2-5x+6=0$$

은 다항식 $x^2-5x+6$의 값이 0이 되는 $x$를 찾는 문제입니다. 그런데 이 식이

$$(x-2)(x-3)=0$$

으로 인수분해되면, 식의 모양이 곧바로 해의 정보로 바뀝니다. 이 때문에 인수분해는 다항식을 방정식의 언어로 번역하는 핵심 단계라고 볼 수 있습니다. 그리고 이 번역이 왜 가능한지를 가장 분명하게 보여 주는 원리가 바로 다음 절의 $AB=0$입니다.

---

2. 곱이 0이면 왜 해를 읽을 수 있을까?

인수분해가 중요한 가장 직접적인 이유는 다음 원리 때문입니다.

2-1. 곱이 0이라는 말의 뜻

두 수의 곱이 0이면, 적어도 하나는 0이다.

조금 장난스럽게 말하면, A와 B의 머리카락 수를 곱했는데 결과가 0이라면 적어도 한 사람은 머리카락 수가 0, 즉 대머리라는 뜻입니다. 둘 다 머리숱이 아주 많다면 곱이 0이 될 수는 없습니다.

이를 방정식에 적용하면

$$AB=0$$

일 때

$$A=0 \quad \text{또는} \quad B=0$$

로 볼 수 있습니다.

2-2. 방정식에 적용하면 어떻게 될까?

그래서

$$(x-2)(x-3)=0$$

이면

$$x-2=0 \quad \text{또는} \quad x-3=0$$

이므로 해는

$$x=2,\;3$$

입니다.

즉, 인수분해는 단순히 식을 예쁘게 정리하는 기술이 아니라, 해를 직접 읽어내는 방법입니다. 그런데 여기서 한 걸음 더 나아가면, “해가 있다”는 말과 “해에 대응하는 인수가 있다”는 말이 사실 같은 뜻이라는 점도 보이기 시작합니다.

---

3. 인수정리는 근과 인수를 어떻게 연결할까?

이 연결을 더 분명하게 보여 주는 결과가 인수정리입니다.

3-1. 근과 인수의 정확한 대응

다항식 $P(x)$에 대해

$$P(c)=0$$

이면 $x-c$는 $P(x)$의 인수입니다. 반대로 $x-c$가 인수이면 $P(c)=0$입니다.

예를 들어

$$P(x)=x^2-5x+6$$

에서

$$P(2)=4-10+6=0, \qquad P(3)=9-15+6=0$$

이므로 $x-2$, $x-3$은 인수입니다. 따라서

$$P(x)=(x-2)(x-3)$$

으로 쓸 수 있고, 해도 바로 읽을 수 있습니다.

이처럼 인수정리는 근의 존재와 인수의 존재를 정확히 대응시켜 줍니다. 더 정확히 말하면, $c$가 $P(x)$의 근이라는 것과 $x-c$가 $P(x)$의 인수라는 것은 서로 같은 사실입니다.

즉,

$$P(c)=0 \quad \Longleftrightarrow \quad x-c \text{는 } P(x)\text{의 인수}$$

입니다. 그래서 방정식의 해를 찾는 문제와 다항식을 인수분해하는 문제는 따로 떨어진 두 문제가 아니라, 서로를 비추는 같은 문제라고 볼 수 있습니다.

3-2. 간단한 확인 예제

이제 다음 질문은 자연스럽습니다. 그렇다면 실제 계산에서는 어떤 식에서 인수분해를 어떻게 찾아낼까? 아래 예제들은 그 대표적인 길들을 보여 줍니다.

---

4. 곱셈공식을 거꾸로 보면 구조가 보인다

인수분해는 아무 식이나 억지로 쪼개는 작업이 아닙니다. 많은 경우에는 이미 알고 있는 곱셈공식을 거꾸로 읽으면 됩니다.

4-1. 완전제곱식 꼴

예를 들어 $x^2+6x+9$는 $(x+3)^2$입니다.

4-2. 제곱의 차이 꼴

또 $x^2-16$은 제곱의 차이이므로 $(x-4)(x+4)$로 인수분해됩니다. 따라서

$$x^2-16=0$$

은

$$(x-4)(x+4)=0$$

으로 바뀌고, 해가 $x=4,-4$라는 것도 바로 읽을 수 있습니다. 즉, 곱셈공식을 외운다는 것은 단지 전개를 빨리 하기 위한 것이 아니라, 방정식의 해를 더 빨리 읽기 위한 준비이기도 합니다.

---

5. 치환으로 보면 복잡한 식도 이차식이 된다

5-1. 기본 치환 예제

어떤 식은 겉모습만 보면 인수분해가 잘 보이지 않지만, 한 덩어리로 치환하면 갑자기 익숙한 꼴이 됩니다. 예를 들어 $x^4-5x^2+4$에서는 $x^2$가 반복되어 나타나므로 $y=x^2$로 놓으면

$$y^2-5y+4=(y-1)(y-4)$$

가 됩니다. 이제 $y=x^2$를 되돌리면

$$x^4-5x^2+4=(x^2-1)(x^2-4)=(x-1)(x+1)(x-2)(x+2)$$

이므로, 방정식 $x^4-5x^2+4=0$의 해가 $x=\pm1,\pm2$임을 한 번에 읽을 수 있습니다.

5-2. 복이차식은 어떻게 볼까?

이 아이디어는 특히 복이차식에서 자주 쓰입니다. $ax^4+bx^2+c$처럼 $x^4, x^2,$ 상수항만 있는 식을 복이차식이라고 하며, 이런 식은 $x^2$를 하나의 문자처럼 보면 보통의 이차식처럼 다룰 수 있습니다.

예를 들어

$$x^4-13x^2+36=0$$

에서 $y=x^2$로 놓으면

$$y^2-13y+36=(y-4)(y-9)$$

이므로

$$(x^2-4)(x^2-9)=0=(x-2)(x+2)(x-3)(x+3)$$

가 됩니다. 따라서 해는 $x=\pm2,\pm3$입니다. 복이차식의 핵심은 먼저 $x^2$를 한 덩어리로 보고, 보통의 이차식처럼 처리한 뒤 다시 $x$로 돌아오는 것입니다.

---

6. 심화 예제로 보면 한계도 드러난다

지금까지는 비교적 익숙한 패턴을 보았습니다. 이제는 바로 눈에 띄지 않는 구조를 읽어야 하는 예를 보겠습니다.

6-1. 식을 조금 바꾸어 구조를 드러내기

예를 들어 $x^4+x^2+1$은 $x^2$에 대한 이차식처럼 보이지만, $y^2+y+1$은 실수에서 바로 인수분해되지 않습니다. 그렇다고 여기서 멈출 필요는 없습니다. 가운데 항을 일부러 만들어

$$x^4+x^2+1=x^4+2x^2+1-x^2=(x^2+1)^2-x^2$$

로 본 뒤, 제곱의 차이를 쓰면

$$(x^2-x+1)(x^2+x+1)$$

을 얻습니다.

6-2. 일부만 더 인수분해되는 경우

또 다른 예로

$$x^4-1=(x^2-1)(x^2+1)=(x-1)(x+1)(x^2+1)$$

도 생각할 수 있습니다. 여기서는 일부는 실수에서 더 인수분해되지만, $x^2+1$은 실수 범위에서 더 이상 1차식으로 쪼개지지 않습니다.

6-3. 대칭방정식은 대칭 구조를 읽는다

한 걸음 더 나아가 대칭방정식도 볼 수 있습니다. 예를 들어

$$x^4-5x^3+6x^2-5x+1=0$$

은 앞뒤 계수가 대칭입니다. 상수항이 1이므로 $x=0$은 해가 아니고, 따라서 $x^2$로 나누어

$$x^2-5x+6-\frac{5}{x}+\frac{1}{x^2}=0$$

으로 볼 수 있습니다. 이를

$$\left(x^2+\frac{1}{x^2}\right)-5\left(x+\frac{1}{x}\right)+6=0$$

으로 묶고 $t=x+\frac{1}{x}$로 치환하면 $x^2+\frac{1}{x^2}=t^2-2$이므로

$$t^2-5t+4=0$$

을 얻습니다. 따라서 $t=1$ 또는 $t=4$이고, 다시 돌아가면

$$x+\frac{1}{x}=1 \quad \text{또는} \quad x+\frac{1}{x}=4$$

즉,

$$x^2-x+1=0 \quad \text{또는} \quad x^2-4x+1=0$$

이 됩니다. 여기서 첫 번째는 실수에서 해가 없고, 두 번째는 실근을 가집니다. 이런 예는 식의 대칭 구조를 읽는 것도 중요한 인수분해 전략임을 보여 줍니다.

6-4. 여기서 무엇이 보일까?

이 심화 예제들은 중요한 점을 보여 줍니다. 치환이 바로 안 통하는 경우도 있고, 그럴 때는 식을 조금 바꾸어 곱셈공식이나 대칭 구조가 보이게 해야 합니다. 즉, 인수분해는 공식 하나를 기계적으로 적용하는 일이 아니라, 식의 구조를 읽는 작업입니다.

그리고 이런 구조 읽기의 끝에서, 실수 범위에서는 더 이상 1차식으로 나아갈 수 없는 식도 만나게 됩니다. 그 멈춤이 왜 중요한지 가장 단순한 예로 확인해 봅시다.

예를 들어

$$x^2-1=0$$

은

$$(x-1)(x+1)=0$$

으로 인수분해되므로 해는 $x=1,-1$입니다.

그런데

$$x^2+1=0$$

은 어떨까요? 실수에서 이 식은

$$x^2=-1$$

이 되는데, 실수의 제곱은 항상 0 이상이므로 이런 $x$는 존재하지 않습니다. 즉, 실수 범위에서는 이 식을 1차식의 곱으로 끝까지 인수분해할 수 없습니다.

여기서 중요한 점은 계산이 틀린 것이 아니라, 해를 담는 수의 범위가 아직 충분하지 않다는 것입니다.

자연수로 안 풀리는 식을 만나면 정수로, 정수로 안 풀리면 유리수로, 유리수로도 정확히 담기지 않으면 실수로 범위를 넓혀 왔습니다. 복소수도 바로 그 흐름 위에 있습니다.

다만 이번에는 의미가 더 큽니다. 실수에서 더 이상 인수분해되지 않던 이차방정식을 끝까지 다루기 위해, 우리는 새로운 수의 범위를 도입하게 됩니다. 그리고 그 출발점이 바로

$$x^2+1=0$$

같은 식입니다.

다음 글에서는 $i^2=-1$인 허수단위 $i$를 도입하고, 복소수가 왜 다항방정식의 해를 담는 데 특별한 자리를 차지하는지 살펴보겠습니다.

---

7. 연습 문제

문제 1

다음을 인수분해하고, 방정식의 해를 구하시오.

$$x^2-25=0$$

정답 보기

$x^2-25$는 제곱의 차이이므로

$$(x-5)(x+5)=0$$

입니다. 따라서 해는

$$x=5,-5$$

입니다.

문제 2

치환을 이용해 다음을 인수분해하고, 방정식의 해를 구하시오.

$$x^4-10x^2+9=0$$

정답 보기

$y=x^2$로 치환하면

$$y^2-10y+9=(y-1)(y-9)$$

입니다. 다시 돌아가면

$$(x^2-1)(x^2-9)=0$$

즉,

$$(x-1)(x+1)(x-3)(x+3)=0$$

이므로 해는

$$x=\pm1,\pm3$$

입니다.

문제 3

다음이 왜 대칭방정식인지 말하고, $t=x+\frac{1}{x}$ 치환의 출발점을 설명하시오.

$$x^4-5x^3+6x^2-5x+1=0$$

정답 보기

앞에서부터 읽은 계수와 뒤에서부터 읽은 계수가 $1, -5, 6, -5, 1$로 서로 대칭입니다. 또 상수항이 1이므로 $x=0$은 해가 아니어서 $x^2$로 나눌 수 있습니다. 그러면 $x^2+\frac{1}{x^2}$, $x+\frac{1}{x}$ 꼴이 나타나므로 $t=x+\frac{1}{x}$ 치환을 떠올릴 수 있습니다.

문제 4

다항식 $P(x)=x^3-4x^2+x+6$에 대해, $x=2$가 근인지 확인하고 근이라면 인수를 하나 찾으시오.

정답 보기

$$P(2)=8-16+2+6=0$$

이므로 $2$는 근입니다. 따라서 인수정리에 의해 $x-2$는 $P(x)$의 인수입니다.

---

8. 계산할 때 자주 하는 실수

• $AB=0$에서 $A=0$ 그리고 $B=0$이라고 오해하지 않기
• $P(c)=0$이면 대응하는 인수는 $x-c$이지, 단순히 $c$가 아니라는 점 놓치지 않기
• $y=x^2$로 치환한 뒤 $y$값만 구하고 끝내지 말고, 다시 $x$로 돌아오기
• 실수에서 인수분해가 멈추는 식을 보았을 때, 계산이 틀렸다고 생각하지 말고 수의 범위를 먼저 점검하기

---

9. 핵심 정리

• 방정식은 다항식을 값이 0이 되는 지점의 관점에서 보는 문제다.
• 인수분해는 다항식의 모양을 해의 정보로 바꾸는 가장 직접적인 방법이다.
• 인수정리는 근의 존재와 1차인수의 존재가 서로 정확히 대응함을 보여 준다.
• 곱셈공식을 거꾸로 보거나, $x^2$를 치환하는 방식으로 더 다양한 식을 인수분해할 수 있다.
• 실수에서는 모든 식이 끝까지 인수분해되는 것은 아니며, 그 막힘이 복소수 도입으로 이어진다.

한 줄 결론:

인수분해는 다항식을 해로 읽는 언어이고, 그 언어가 실수에서 막히는 지점에서 복소수가 등장합니다.