[공통수학1 시리즈 10편] 인수분해와 방정식의 해

앞선 글들에서는 다항식의 성질, 항등식, 계수비교를 다뤘습니다. 이제는 그 다항식을 방정식의 해와 연결해서 읽는 단계로 넘어갑니다. 그 핵심 도구가 바로 인수분해입니다.

먼저 흐름을 잡고 시작합니다.

• 다항식은 식의 모양을 다루는 대상이다.
• 방정식은 그 다항식의 값이 0이 되는 지점을 찾는 문제다.
• 인수분해는 그 둘을 이어 주는 가장 직접적인 언어다.
• 그리고 실수에서 인수분해가 더 이상 되지 않는 지점이 다음 주제인 복소수로 이어진다.

---

1. 항등식 다음에 왜 인수분해일까?

앞 글에서 우리는 두 다항식이 항상 같은지, 즉 항등식인지 살펴보았습니다. 그 과정에서 계수를 비교하거나 식의 모양을 바꾸는 훈련을 했습니다. 이제 시선을 조금 바꾸면, 다항식은 방정식을 푸는 도구가 됩니다.

예를 들어

$$x^2-5x+6=0$$

은 다항식 $x^2-5x+6$의 값이 0이 되는 $x$를 찾는 문제입니다. 그런데 이 식이

$$(x-2)(x-3)=0$$

으로 인수분해되면, 식의 모양이 곧바로 해의 정보로 바뀝니다. 이 때문에 인수분해는 다항식을 방정식의 언어로 번역하는 핵심 단계라고 볼 수 있습니다. 그리고 이 번역이 왜 가능한지를 가장 분명하게 보여 주는 원리가 바로 다음 절의 $AB=0$입니다.

---

2. 곱이 0이면 왜 해를 읽을 수 있을까?

인수분해가 중요한 가장 직접적인 이유는 다음 원리 때문입니다.

2-1. 곱이 0이라는 말의 뜻

두 수의 곱이 0이면, 적어도 하나는 0이다.

조금 장난스럽게 말하면, A와 B의 머리카락 수를 곱했는데 결과가 0이라면 적어도 한 사람은 머리카락 수가 0, 즉 대머리라는 뜻입니다. 둘 다 머리숱이 아주 많다면 곱이 0이 될 수는 없습니다.

이를 방정식에 적용하면

$$AB=0$$

일 때

$$A=0 \quad \text{또는} \quad B=0$$

로 볼 수 있습니다.

2-2. 방정식에 적용하면 어떻게 될까?

그래서

$$(x-2)(x-3)=0$$

이면

$$x-2=0 \quad \text{또는} \quad x-3=0$$

이므로 해는

$$x=2,\;3$$

입니다.

즉, 인수분해는 단순히 식을 예쁘게 정리하는 기술이 아니라, 해를 직접 읽어내는 방법입니다. 그런데 여기서 한 걸음 더 나아가면, “해가 있다”는 말과 “해에 대응하는 인수가 있다”는 말이 사실 같은 뜻이라는 점도 보이기 시작합니다.

---

3. 인수정리는 근과 인수를 어떻게 연결할까?

이 연결을 더 분명하게 보여 주는 결과가 인수정리입니다.

3-1. 근과 인수의 정확한 대응

다항식 $P(x)$에 대해

$$P(c)=0$$

이면 $x-c$는 $P(x)$의 인수입니다. 반대로 $x-c$가 인수이면 $P(c)=0$입니다.

예를 들어

$$P(x)=x^2-5x+6$$

에서

$$P(2)=4-10+6=0, \qquad P(3)=9-15+6=0$$

이므로 $x-2$, $x-3$은 인수입니다. 따라서

$$P(x)=(x-2)(x-3)$$

으로 쓸 수 있고, 해도 바로 읽을 수 있습니다.

이처럼 인수정리는 근의 존재와 인수의 존재를 정확히 대응시켜 줍니다. 더 정확히 말하면, $c$가 $P(x)$의 근이라는 것과 $x-c$가 $P(x)$의 인수라는 것은 서로 같은 사실입니다.

즉,

$$P(c)=0 \quad \Longleftrightarrow \quad x-c \text{는 } P(x)\text{의 인수}$$

입니다. 그래서 방정식의 해를 찾는 문제와 다항식을 인수분해하는 문제는 따로 떨어진 두 문제가 아니라, 서로를 비추는 같은 문제라고 볼 수 있습니다.

3-2. 대입할 유리수근 후보는 어떻게 찾을까?

인수정리가 실제 계산에서 힘을 가지려면, 먼저 어떤 수를 대입해 볼지 감을 잡아야 합니다. 정수계수 다항식에서 유리수근을 찾을 때는 보통 다음 사실을 이용합니다.

기약분수 $\frac{p}{q}$가 정수계수 다항식의 유리수근이라면, $p$는 상수항의 약수이고 $q$는 최고차항의 계수의 약수입니다.

즉, 유리수근 후보는 무작정 고르는 것이 아니라

$$\frac{\text{상수항의 약수}}{\text{최고차항 계수의 약수}}$$

꼴에서 찾습니다.

예를 들어

$$P(x)=2x^3-3x^2-8x+12$$

에서는 상수항이 $12$, 최고차항의 계수가 $2$이므로 유리수근 후보는

$$\pm 1, \pm 2, \pm 3, \pm 4, \pm 6, \pm 12, \pm \frac12, \pm \frac32$$

정도로 좁혀 볼 수 있습니다.

3-3. 조립제법으로 인수를 하나씩 내려간다

이제 후보 중 하나를 실제로 대입해 봅시다.

$$P(2)=2\cdot 2^3-3\cdot 2^2-8\cdot 2+12=16-12-16+12=0$$

이므로 $x=2$는 근이고, 인수정리에 의해 $x-2$는 $P(x)$의 인수입니다.

여기서 조립제법을 쓰면, 인수 하나를 찾는 데서 멈추지 않고 남은 몫 다항식까지 바로 구할 수 있습니다. 계수 $2, -3, -8, 12$를 놓고 $2$로 조립하면

$$\begin{array}{r|rrrr} 2 & 2 & -3 & -8 & 12 \\ & & 4 & 2 & -12 \\ \hline & 2 & 1 & -6 & 0 \end{array}$$

가 됩니다.

따라서 조립제법의 결과는

$$P(x)=(x-2)(2x^2+x-6)$$

입니다. 이제 몫인 $2x^2+x-6$을 다시 인수분해하면

$$2x^2+x-6=(2x-3)(x+2)$$

이므로 최종적으로

$$P(x)=(x-2)(2x-3)(x+2)$$

를 얻습니다.

즉, 근은

$$x=2, \quad x=\frac32, \quad x=-2$$

입니다.

이 과정에서 중요한 점은 두 가지입니다.

• 인수정리는 대입값이 정말 근인지 확인해 줍니다.
• 조립제법은 그 근에 대응하는 인수를 떼어 낸 뒤, 남은 다항식을 빠르게 계산해 줍니다.

이제 다음 질문은 자연스럽습니다. 그렇다면 인수정리와 조립제법 외에도, 실제 계산에서는 어떤 구조를 읽어 인수분해를 찾아낼까? 아래 예제들은 그 대표적인 길들을 보여 줍니다.

---

4. 곱셈공식을 거꾸로 보면 구조가 보인다

인수분해는 아무 식이나 억지로 쪼개는 작업이 아닙니다. 많은 경우에는 이미 알고 있는 곱셈공식을 거꾸로 읽으면 됩니다.

4-1. 완전제곱식 꼴

예를 들어 $x^2+6x+9$는 $(x+3)^2$입니다.

4-2. 제곱의 차이 꼴

또 $x^2-16$은 제곱의 차이이므로 $(x-4)(x+4)$로 인수분해됩니다. 따라서

$$x^2-16=0$$

은

$$(x-4)(x+4)=0$$

으로 바뀌고, 해가 $x=4,-4$라는 것도 바로 읽을 수 있습니다. 즉, 곱셈공식을 외운다는 것은 단지 전개를 빨리 하기 위한 것이 아니라, 방정식의 해를 더 빨리 읽기 위한 준비이기도 합니다.

---

5. 치환으로 보면 복잡한 식도 이차식이 된다

5-1. 기본 치환 예제

어떤 식은 겉모습만 보면 인수분해가 잘 보이지 않지만, 한 덩어리로 치환하면 갑자기 익숙한 꼴이 됩니다. 예를 들어 $x^4-5x^2+4$에서는 $x^2$가 반복되어 나타나므로 $y=x^2$로 놓으면

$$y^2-5y+4=(y-1)(y-4)$$

가 됩니다. 이제 $y=x^2$를 되돌리면

$$x^4-5x^2+4=(x^2-1)(x^2-4)=(x-1)(x+1)(x-2)(x+2)$$

이므로, 방정식 $x^4-5x^2+4=0$의 해가 $x=\pm1,\pm2$임을 한 번에 읽을 수 있습니다.

5-2. 복이차식은 어떻게 볼까?

이 아이디어는 특히 복이차식에서 자주 쓰입니다. $ax^4+bx^2+c$처럼 $x^4, x^2,$ 상수항만 있는 식을 복이차식이라고 하며, 이런 식은 $x^2$를 하나의 문자처럼 보면 보통의 이차식처럼 다룰 수 있습니다.

예를 들어

$$x^4-13x^2+36=0$$

에서 $y=x^2$로 놓으면

$$y^2-13y+36=(y-4)(y-9)$$

이므로

$$(x^2-4)(x^2-9)=0=(x-2)(x+2)(x-3)(x+3)$$

가 됩니다. 따라서 해는 $x=\pm2,\pm3$입니다. 복이차식의 핵심은 먼저 $x^2$를 한 덩어리로 보고, 보통의 이차식처럼 처리한 뒤 다시 $x$로 돌아오는 것입니다.

---

6. 심화 예제로 보면 한계도 드러난다

지금까지는 비교적 익숙한 패턴을 보았습니다. 이제는 바로 눈에 띄지 않는 구조를 읽어야 하는 예를 보겠습니다.

6-1. 식을 조금 바꾸어 구조를 드러내기

예를 들어 $x^4+x^2+1$은 $x^2$에 대한 이차식처럼 보이지만, $y^2+y+1$은 실수에서 바로 인수분해되지 않습니다. 그렇다고 여기서 멈출 필요는 없습니다. 가운데 항을 일부러 만들어

$$x^4+x^2+1=x^4+2x^2+1-x^2=(x^2+1)^2-x^2$$

로 본 뒤, 제곱의 차이를 쓰면

$$(x^2-x+1)(x^2+x+1)$$

을 얻습니다.

6-2. 일부만 더 인수분해되는 경우

또 다른 예로

$$x^4-1=(x^2-1)(x^2+1)=(x-1)(x+1)(x^2+1)$$

도 생각할 수 있습니다. 여기서는 일부는 실수에서 더 인수분해되지만, $x^2+1$은 실수 범위에서 더 이상 1차식으로 쪼개지지 않습니다.

6-3. 대칭방정식은 대칭 구조를 읽는다

한 걸음 더 나아가 대칭방정식도 볼 수 있습니다. 예를 들어

$$x^4-5x^3+6x^2-5x+1=0$$

은 앞뒤 계수가 대칭입니다. 상수항이 1이므로 $x=0$은 해가 아니고, 따라서 $x^2$로 나누어

$$x^2-5x+6-\frac{5}{x}+\frac{1}{x^2}=0$$

으로 볼 수 있습니다. 이를

$$\left(x^2+\frac{1}{x^2}\right)-5\left(x+\frac{1}{x}\right)+6=0$$

으로 묶고 $t=x+\frac{1}{x}$로 치환하면 $x^2+\frac{1}{x^2}=t^2-2$이므로

$$t^2-5t+4=0$$

을 얻습니다. 따라서

$$(t-1)(t-4)=0$$

이고, $t=1$ 또는 $t=4$입니다. 다시 돌아가면

$$x+\frac{1}{x}=1 \quad \text{또는} \quad x+\frac{1}{x}=4$$

즉,

$$x^2-x+1=0 \quad \text{또는} \quad x^2-4x+1=0$$

이 됩니다. 따라서 원래 식은

$$(x^2-x+1)(x^2-4x+1)=0$$

으로 인수분해됩니다.

보통 학교에서 정수계수 다항식의 인수분해는 유리수근이 있는지, 즉 유리수 범위에서 더 쪼개지는지를 기준으로 봅니다. 그런 기준에서 보면 $x^2-4x+1$은 실근을 가지지만 유리수근은 없고, $x^2-x+1$도 유리수근이 없습니다. 따라서 이 예에서는 보통

$$(x^2-x+1)(x^2-4x+1)=0$$

에서 멈추는 것이 자연스럽습니다. 실근이 있더라도 더 내려가려면 계수가 정수나 유리수 범위를 넘어서는 경우가 많기 때문입니다.

이런 예는 식의 대칭 구조를 읽는 것도 중요한 인수분해 전략임을 보여 주고, 동시에 인수분해가 어디까지 가능한지는 어떤 수 범위를 기준으로 보느냐에 따라 달라진다는 점도 드러냅니다.

6-4. 여기서 무엇이 보일까?

이 심화 예제들은 중요한 점을 보여 줍니다. 치환이 바로 안 통하는 경우도 있고, 그럴 때는 식을 조금 바꾸어 곱셈공식이나 대칭 구조가 보이게 해야 합니다. 즉, 인수분해는 공식 하나를 기계적으로 적용하는 일이 아니라, 식의 구조를 읽는 작업입니다.

그리고 이런 구조 읽기의 끝에서, 유리수 범위에서는 더 이상 인수분해하지 않는 식도 만나게 됩니다. 어떤 식은 실근은 있지만 유리수근이 없어서 거기서 멈추고, 어떤 식은 실근조차 없어서 더 넓은 수 체계가 필요합니다. 그 두 번째 경우를 가장 단순한 예로 확인해 봅시다.

예를 들어

$$x^2-1=0$$

은

$$(x-1)(x+1)=0$$

으로 인수분해되므로 해는 $x=1,-1$입니다.

그런데

$$x^2+1=0$$

은 어떨까요? 실수에서 이 식은

$$x^2=-1$$

이 되는데, 실수의 제곱은 항상 0 이상이므로 이런 $x$는 존재하지 않습니다. 즉, 실수 범위에서는 이 식을 1차식의 곱으로 끝까지 인수분해할 수 없습니다.

여기서 중요한 점은 계산이 틀린 것이 아니라, 해를 담는 수의 범위가 아직 충분하지 않다는 것입니다.

자연수로 안 풀리는 식을 만나면 정수로, 정수로 안 풀리면 유리수로, 유리수로도 정확히 담기지 않으면 실수로 범위를 넓혀 왔습니다. 복소수도 바로 그 흐름 위에 있습니다.

다만 이번에는 의미가 더 큽니다. 실수에서 더 이상 인수분해되지 않던 이차방정식을 끝까지 다루기 위해, 우리는 새로운 수의 범위를 도입하게 됩니다. 그리고 그 출발점이 바로

$$x^2+1=0$$

같은 식입니다.

다음 글에서는 $i^2=-1$인 허수단위 $i$를 도입하고, 복소수가 왜 다항방정식의 해를 담는 데 특별한 자리를 차지하는지 살펴보겠습니다.

---

7. 연습 문제

문제 1

다음을 인수분해하고, 방정식의 해를 구하시오.

$$x^2-25=0$$

정답 보기

$x^2-25$는 제곱의 차이이므로

$$(x-5)(x+5)=0$$

입니다. 따라서 해는

$$x=5,-5$$

입니다.

문제 2

치환을 이용해 다음을 인수분해하고, 방정식의 해를 구하시오.

$$x^4-10x^2+9=0$$

정답 보기

$y=x^2$로 치환하면

$$y^2-10y+9=(y-1)(y-9)$$

입니다. 다시 돌아가면

$$(x^2-1)(x^2-9)=0$$

즉,

$$(x-1)(x+1)(x-3)(x+3)=0$$

이므로 해는

$$x=\pm1,\pm3$$

입니다.

문제 3

다음이 왜 대칭방정식인지 말하고, $t=x+\frac{1}{x}$ 치환의 출발점을 설명하시오.

$$x^4-5x^3+6x^2-5x+1=0$$

정답 보기

앞에서부터 읽은 계수와 뒤에서부터 읽은 계수가 $1, -5, 6, -5, 1$로 서로 대칭입니다. 또 상수항이 1이므로 $x=0$은 해가 아니어서 $x^2$로 나눌 수 있습니다. 그러면 $x^2+\frac{1}{x^2}$, $x+\frac{1}{x}$ 꼴이 나타나므로 $t=x+\frac{1}{x}$ 치환을 떠올릴 수 있습니다.

문제 4

다항식 $P(x)=x^3-4x^2+x+6$에 대해, $x=2$가 근인지 확인하고 근이라면 인수를 하나 찾으시오.

정답 보기

$$P(2)=8-16+2+6=0$$

이므로 $2$는 근입니다. 따라서 인수정리에 의해 $x-2$는 $P(x)$의 인수입니다.

여기서 멈추지 않고 조립제법으로 끝까지 내려가면 남는 인수도 찾을 수 있습니다. 계수 $1, -4, 1, 6$에 대해 조립제법을 하면

$$\begin{array}{r|rrrr} 2 & 1 & -4 & 1 & 6 \\ & & 2 & -4 & -6 \\ \hline & 1 & -2 & -3 & 0 \end{array}$$

가 됩니다.

따라서 몫은

$$x^2-2x-3$$

이고, 나머지는 0입니다. 이제 이 이차식을 다시 인수분해하면

$$x^2-2x-3=(x-3)(x+1)$$

이므로

$$P(x)=(x-2)(x-3)(x+1)$$

입니다. 즉, $x=2, 3, -1$이 모두 근입니다.

직접 풀어보는 예시 문항

아래 문제세트는 이 글의 핵심 흐름인 곱이 0인 구조 읽기, 인수정리, 치환을 바로 확인할 수 있게 만든 짧은 점검용 예시입니다.

---

8. 계산할 때 자주 하는 실수

• $AB=0$에서 $A=0$ 그리고 $B=0$이라고 오해하지 않기
• $P(c)=0$이면 대응하는 인수는 $x-c$이지, 단순히 $c$가 아니라는 점 놓치지 않기
• $y=x^2$로 치환한 뒤 $y$값만 구하고 끝내지 말고, 다시 $x$로 돌아오기
• 실수에서 인수분해가 멈추는 식을 보았을 때, 계산이 틀렸다고 생각하지 말고 수의 범위를 먼저 점검하기

---

9. 핵심 정리

• 방정식은 다항식을 값이 0이 되는 지점의 관점에서 보는 문제다.
• 인수분해는 다항식의 모양을 해의 정보로 바꾸는 가장 직접적인 방법이다.
• 인수정리는 근의 존재와 1차인수의 존재가 서로 정확히 대응함을 보여 준다.
• 곱셈공식을 거꾸로 보거나, $x^2$를 치환하는 방식으로 더 다양한 식을 인수분해할 수 있다.
• 실수에서는 모든 식이 끝까지 인수분해되는 것은 아니며, 그 막힘이 복소수 도입으로 이어진다.

한 줄 결론:

인수분해는 다항식을 해로 읽는 언어이고, 그 언어가 실수에서 막히는 지점에서 복소수가 등장합니다.