[Proxmox 시리즈 5편] Windows 표준 VM을 만드는 기본 설정

Proxmox를 어느 정도 익숙하게 쓴 사람도 Windows VM을 만들 때마다 설정을 다시 검색하곤 합니다. Windows 11은 UEFI, Secure Boot, TPM 2.0, 신규 CPU 세대까지 요구하며, VirtIO 드라이버와 게스트 도구 설치 타이밍을 놓치면 설치 후 네트워크나 스토리지가 제대로 잡히지 않습니다. Linux VM과 달리 Windows VM은 설치 과정에서 디바이스 드라이버를 직접 로드해야 하므로, 한 번 검증된 표준 구성을 정의해 두면 새 VM을 만들 때마다 헷갈리지 않고 템플릿화도 쉬워집니다.

이 글에서는 Proxmox 안에서 Windows 11 기준 기본 VM을 어떤 조합으로 만들면 이후 관리가 편한지 정리합니다. UEFI/OVMF와 q35 머신 타입(현대 PCIe 칩셋 에뮬레이션), TPM 2.0 가상 칩(swtpm 기반), VirtIO 스토리지·네트워크 드라이버, 게스트 에이전트 설치 순서, 스토리지와 브리지 기본값, 라이선스·백업 시 주의사항까지 순서대로 살펴보고 초보자가 자주 놓치는 부분도 함께 짚겠습니다.

이 글의 흐름

1. Windows VM 표준을 잡는 이유
2. VM 생성 시 권장 하드웨어 프로파일
3. 설치 전 준비물과 ISO 조합
4. 설치 절차와 드라이버 로딩 순서
5. 설치 직후 점검해야 할 항목과 템플릿화
6. 초보자가 놓치기 쉬운 실수 목록

이번 글에서 새로 나오는 용어

1. OVMF: UEFI 펌웨어를 가상머신에 제공하는 프로젝트로, Proxmox에서는 OVMF(UEFI) BIOS 타입을 선택하면 됩니다.
2. q35 머신 타입: 최신 PCIe 칩셋(ICH9 계열)을 에뮬레이션해 패스스루, TPM, 최신 Windows 호환성을 높이는 QEMU 머신 타입입니다. 구형 i440fx와 비교해 PCIe 슬롯 수와 기능이 더 풍부합니다.
3. VirtIO 드라이버: Paravirtualized 스토리지·네트워크 드라이버로, Windows 설치 중 별도로 로드해야 성능과 안정성을 확보할 수 있습니다.
4. TPM 가상 칩: Windows 11이 요구하는 TPM 2.0 조건을 충족시키기 위해 Proxmox에서 추가하는 가상 모듈입니다.
5. Guest Agent: Proxmox와 게스트 OS 간 상태 통신과 graceful shutdown을 도와주는 qemu-guest-agent의 Windows 버전입니다.

읽기 카드

• 예상 소요 시간: 16분
• 사전 준비: Proxmox VE 8.x 이상, Windows 11 ISO, VirtIO 드라이버 ISO, 정품 Windows 라이선스 유형(KMS/MAK/리테일) 확인
• 읽고 나면: Windows 표준 VM 템플릿을 만들고 재사용하면서 TPM/라이선스/드라이버 실수를 피하는 방법을 설명할 수 있습니다.

Windows VM 표준을 잡는 이유

Windows VM은 리눅스 VM보다 요구 조건이 길고, 설치 중에 놓치면 다시 설치해야 하는 요소가 많습니다. 특히 Windows 11은 UEFI, Secure Boot, TPM 2.0, 특정 CPU 세대 이상을 요구합니다. Proxmox에서는 CPU 세대 검증을 우회할 수 있지만, TPM과 UEFI를 설정하지 않은 VM은 설치 단계에서 막히거나 추후 업데이트 때 문제가 생깁니다. 따라서 첫 VM을 만들 때부터 표준 구성을 정의해 두면 이후 복제나 템플릿화가 단순해집니다.

표준화해야 할 항목은 다음 여섯 가지입니다.

1. BIOS: OVMF(UEFI) + EFI 디스크를 빠른 스토리지(local-lvm/zfs)에 배치
2. 머신 타입: q35와 최신 QEMU 버전 조합 (i440fx는 레거시 호환에만 사용)
3. 디스크 버스: VirtIO SCSI, 디스크 포맷은 qcow2 (스냅샷/백업 친화)
4. 네트워크: VirtIO paravirtualized NIC, 기본 브리지(vmbr0) 또는 전용 브리지에 연결
5. 보안 요구: TPM 2.0 디바이스, Secure Boot 키(OVMF secureboot 이미지) 선택 여부
6. 게스트 에이전트/라이선스: 정품 인증 계획과 qemu-guest-agent 배치

VM 생성 시 권장 하드웨어 프로파일

Proxmox UI에서 VM을 만들 때 다음 설정을 기본으로 두면 Windows 11이 원활히 동작합니다.

CPU와 메모리

• 소켓/코어: 1소켓 2~4코어로 시작하고, CPU 타입은 x86-64-v2-AES 또는 host를 권장합니다. host는 Nested-V, AES 명령어를 그대로 사용해 성능을 확보합니다.
• 메모리: 최소 6GB, 실제 사용 계획이 크다면 8GB 이상. Ballooning은 초기 설치 때 비활성화해 메모리 reclaim으로 인한 설치 실패를 방지하고, 운영 단계에서만 점진적으로 켜는 것이 안전합니다.

마더보드 관련

• BIOS: "OVMF (UEFI)" 선택 후, EFI 디스크 저장소를 SSD 기반 스토리지(local-lvm, fast ZFS)로 지정합니다. Secure Boot가 필요하면 OVMF (UEFI) secureboot 이미지를 선택하고 Microsoft 키를 로드합니다.
• Machine: q35 선택. 오래된 i440fx는 PCIe 슬롯과 ACPI 기능이 부족해 Windows 11, GPU 패스스루, TPM 연동에서 문제를 일으킵니다.
• TPM State: v2.0 칩을 추가하고 저장소를 EFI 디스크와 동일하게 둡니다. swtpm 파일은 템플릿 복제 시 함께 복사되어야 하므로, 느린 NFS나 다른 pool에 흩어 놓지 않습니다.
• 디스플레이: Default 대신 VirtIO-GPU 또는 SPICE를 선택하면, 게스트 드라이버 설치 이후 해상도·가속이 향상됩니다.

스토리지와 네트워크

• Disk Bus: VirtIO SCSI를 기본값으로 하고, 컨트롤러는 VirtIO SCSI single로 설정한 뒤 각 디스크에 IO Thread를 켭니다.
• 디스크 크기: Windows Update, 임시 파일, 게스트 도구 공간을 고려해 최소 64GB. AD 서버 등 추가 역할을 하려면 128GB 이상으로 계획합니다.
• Cache: Write back은 빠르지만 UPS가 없는 환경에서는 Write through를 택합니다. qcow2를 쓸 때는 주기적인 fstrim과 스냅샷 용량 여유를 확보합니다.
• 네트워크 디바이스: VirtIO (paravirtualized) NIC를 기본 브리지(vmbr0)나 내부 브리지에 연결합니다. VLAN을 쓰는 경우 NIC 설정의 VLAN Tag를 지정해 동일 브리지에서 논리 분리를 유지합니다.

설치 전 준비물과 ISO 조합

Windows 설치는 ISO 두 개(Windows, VirtIO)를 동시에 마운트해야 매끄럽습니다. Proxmox UI 기준 Hardware 탭에서 CD/DVD 드라이브를 두 개 추가해 각각 연결하고, 첫 부팅 시 BIOS(Boot Order)에서 Windows ISO가 먼저 오도록 정렬합니다.

1. Windows 11 ISO: 공식 MS ISO를 다운로드해 Proxmox ISO 저장소에 업로드합니다.
2. VirtIO 드라이버 ISO: virtio-win 최신 릴리스를 동일한 ISO 저장소에 올립니다.

VM 생성 후 Hardware 탭에서 CD/DVD 드라이브를 두 개로 늘려 각각 Windows ISO와 VirtIO ISO를 연결합니다. 설치 중 디스크가 보이지 않으면 Load driver를 눌러 VirtIO ISO 안의 viostor 폴더를 선택하면 됩니다.

설치 절차와 드라이버 로딩 순서

1. VM을 부팅하면 UEFI 설치 화면이 나오고, 언어 선택 후 설치를 시작합니다.
2. 디스크 선택 화면에서 아무 디스크도 보이지 않으면 드라이버 로드를 클릭하고 VirtIO ISO 내 viostor\w11\amd64 폴더를 선택합니다. (Windows 10은 w10, Server는 2k22 경로)
3. 디스크가 보이는 즉시 GPT 파티션을 만들고 설치를 진행합니다. 설치 중 재부팅할 때 VirtIO ISO와 Windows ISO가 그대로 연결되어 있는지 확인합니다.
4. 첫 재부팅 후 네트워크가 비활성화일 수 있습니다. 장치 관리자에서 미인식 NIC를 선택해 VirtIO ISO의 NetKVM\w11\amd64 폴더를 지정합니다.
5. Balloon, vioscsi, pvpanic 등 남은 장치도 virtio-win-gt-x64.exe를 실행해 한 번에 설치합니다.
6. 마지막으로 guest-agent 폴더의 qemu-ga-x86_64.msi를 실행해 Proxmox와 통신(Graceful shutdown, IP 보고)을 활성화합니다.
7. Windows Update 실행 전, 디스크가 GPT/UEFI로 설정되었는지 diskpart 또는 Get-Disk로 검증합니다.

주의: 정품 라이선스 정책에 따라 VM 하드웨어 변경(TPM 초기화, CPU 타입 변경 등) 시 Windows 재인증이 필요할 수 있습니다. 템플릿을 복제할 때는 Sysprep/generalize 과정을 거쳐 SID와 TPM 상태를 초기화합니다.

설치 직후 점검 항목과 템플릿화

설치가 끝났다면 아래 항목을 점검한 후 스냅샷이나 템플릿을 만들어 두는 편이 좋습니다.

• Windows가 장치 관리자 기준으로 알 수 없는 장치를 남기지 않는가
• Proxmox Summary 탭에서 Guest Agent가 "running"으로 잡히는가
• Windows Update가 정상적으로 진행되는가 (TPM, Secure Boot 오류가 없는지)
• PowerShell에서 Get-Disk로 디스크가 GPT/UEFI 구조로 인식되는가
• slmgr /dlv로 라이선스 상태가 정상인지 확인했는가
• 브리지(vmbr0) 또는 전용 브리지에서 DHCP/IP 할당을 확인했는가
• Manage > Hardware에서 EFI 디스크, TPM State가 동일 storage pool에 있는가

이 상태에서 Convert to Template을 눌러 템플릿을 만들거나, 최소한 클린 상태 스냅샷을 저장해 두면 다음 Windows VM을 복제할 때 시간을 크게 줄일 수 있습니다.

초보자가 놓치기 쉬운 실수

1. BIOS를 SeaBIOS로 둠: Windows 11 설치가 진행되지 않거나 업데이트 중 오류가 납니다.
2. VirtIO 드라이버 ISO 미마운트: 디스크와 네트워크가 기본 IDE/E1000으로 잡혀 성능이 급락하거나 설치 자체가 진행되지 않습니다.
3. TPM/EFI 스토리지를 다른 pool에 분산: 템플릿으로 만들 때 TPM 상태가 복제되지 않거나, 복제 후 Windows가 BitLocker/TPM 오류를 띄웁니다.
4. Guest Agent 미설치: Proxmox에서 IP나 상태 정보를 읽지 못해 백업 전후 스크립트가 실패합니다.
5. 스토리지 캐시를 무턱대고 Write back으로 설정: UPS가 없는 환경에서는 전원 차단 시 데이터 손상이 날 수 있습니다.
6. 라이선스/TPM 초기화 누락: 템플릿 생성 후 바로 복제하면 TPM 상태가 공유되어 Windows 활성화가 꼬일 수 있으니 Sysprep 및 Reset TPM을 한 뒤 템플릿으로 변환합니다.

마무리

Windows VM은 한 번 표준 구성을 정리해 두면 설치 시간을 절반 이상 줄일 수 있고, Proxmox 안에서도 관리 부담이 크게 내려갑니다. 앞으로는 이 템플릿을 기반으로 AD 테스트, 원격 데스크톱 게이트웨이, 사내 전용 앱 VM을 빠르게 찍어낼 수 있습니다. 다음 글에서는 Windows보다 가벼운 워크로드에 쓰이는 LXC 컨테이너를 어떤 기준으로 구성하고, 어디까지를 LXC 경계로 봐야 하는지 이어서 살펴보겠습니다.