[proxmox] Proxmox VE 기본 설정 최적화 가이드

Proxmox VE 기본 설정 최적화 가이드: 최신 환경을 위한 필수 변경 사항

들어가며

Proxmox VE는 강력한 오픈소스 가상화 플랫폼이지만, 기본 구성 값은 범용적인 호환성을 우선시하여 최신 하드웨어와 워크로드에 최적화되어 있지 않습니다. 이 글에서는 프로덕션 환경에서 Proxmox를 구성할 때 반드시 검토하고 수정해야 할 핵심 설정들을 정리했습니다.

목차

1. 머신 타입 (Machine Type) 설정
2. BIOS 설정
3. CPU 구성
4. 메모리 관리
5. 스토리지 최적화
6. 네트워크 설정
7. 저장소 구성
8. I/O 스케줄러
9. KSM 비활성화

---

1. 머신 타입 (Machine Type) 설정

기본값의 문제점

Proxmox의 기본 머신 타입은 i440fx로 설정되어 있습니다. 이는 1996년에 출시된 Intel 칩셋을 에뮬레이션하며, 레거시 호환성을 위해 유지되고 있지만 현대적인 기능들을 제대로 활용하지 못합니다.

권장 설정: Q35

Q35는 2007년 이후의 Intel 칩셋을 기반으로 하며 다음과 같은 이점을 제공합니다:

• PCIe 지원: 네이티브 PCIe 버스 지원으로 더 나은 장치 성능
• IOMMU/VT-d: PCIe 패스스루 및 SR-IOV 지원
• 최신 하드웨어 기능: NVMe, 최신 네트워크 카드 등 더 나은 지원
• 확장성: 더 많은 PCIe 슬롯과 장치 지원

적용 방법

VM 생성 시:

 

 

bash

# CLI를 통한 VM 생성
qm create 100 --name test-vm --machine q35

기존 VM 수정:

 

 

bash

# VM 설정 파일 직접 수정
vi /etc/pve/qemu-server/100.conf

# machine 라인을 다음과 같이 수정
machine: q35

Web UI:

1. VM 선택 → Hardware → Machine
2. q35로 변경

주의사항

• 기존 i440fx VM을 q35로 마이그레이션 시 부팅 문제가 발생할 수 있습니다
• Windows VM의 경우 HAL(Hardware Abstraction Layer) 변경으로 재활성화가 필요할 수 있습니다
• 새로운 VM은 항상 q35로 시작하는 것을 권장합니다

---

2. BIOS 설정

기본값의 문제점

기본 BIOS는 SeaBIOS로 설정되어 있습니다. SeaBIOS는 전통적인 레거시 BIOS를 에뮬레이션하지만, 최신 운영체제와 보안 기능에는 제한이 있습니다.

권장 설정: OVMF (UEFI)

최신 환경에서는 **OVMF (UEFI)**를 사용하는 것이 권장됩니다:

장점:

• Secure Boot 지원: 부트로더 및 커널 서명 검증
• GPT 파티션: 2TB 이상 디스크 지원, 128개 이상의 파티션
• 빠른 부팅: 최신 OS의 Fast Boot 기능 활용
• 최신 OS 요구사항: Windows 11, 최신 Linux 배포판 공식 지원

단점:

• EFI 파티션 추가 필요 (100-512MB)
• 일부 레거시 OS 비호환

적용 방법

VM 생성 시:

 

 

bash

# UEFI BIOS로 VM 생성
qm create 101 --bios ovmf --machine q35

기존 VM 수정 (주의!):

 

 

bash

# EFI 디스크 추가
qm set 101 --efidisk0 local-lvm:1,efitype=4m,pre-enrolled-keys=1

# BIOS 타입 변경
vi /etc/pve/qemu-server/101.conf
# bios: ovmf 추가

Web UI:

1. VM 생성 시 BIOS → OVMF (UEFI) 선택
2. EFI 디스크 추가 필요 (Hardware → Add → EFI Disk)

UEFI 설정 옵션

 

 

bash

# Secure Boot 활성화 (Windows 11 필수)
qm set 101 --efidisk0 local-lvm:1,efitype=4m,pre-enrolled-keys=1

# TPM 2.0 추가 (Windows 11 필수)
qm set 101 --tpmstate0 local-lvm:1,version=v2.0

마이그레이션 시 주의사항

• SeaBIOS → UEFI 전환은 매우 복잡하며 데이터 손실 위험이 있습니다
• MBR → GPT 변환 필요
• 부트로더 재설치 필수
• 새로운 VM 생성 시부터 UEFI를 사용하는 것을 강력히 권장합니다

---

3. CPU 구성

기본 CPU 타입의 문제

기본 CPU 타입은 kvm64 또는 qemu64로, 범용 호환성을 위해 최소한의 CPU 기능만 노출합니다.

권장 설정: host 또는 최신 CPU 타입

host 모드 사용:

 

 

bash

qm set 102 --cpu host

장점:

• 호스트의 모든 CPU 기능을 게스트에 전달
• AVX, AVX2, AES-NI 등 최신 명령어 세트 활용
• 최대 성능 발휘

단점:

• 라이브 마이그레이션 시 CPU가 다른 노드로는 이동 불가
• 클러스터 내 CPU가 동일해야 함

대안: 특정 CPU 타입 지정

 

 

bash

# x86-64-v2, v3, v4 레벨 사용 (호환성과 성능의 균형)
qm set 102 --cpu x86-64-v3

# 또는 구체적인 CPU 모델
qm set 102 --cpu Cascadelake-Server

CPU 플래그 최적화

 

 

bash

# AES-NI 활성화 (암호화 성능 향상)
qm set 102 --cpu host,flags=+aes

# NUMA 구성 (대규모 VM)
qm set 102 --numa 1

Web UI 설정

1. VM → Hardware → Processors
2. Type: host 또는 적절한 CPU 모델 선택
3. 고급 옵션에서 플래그 추가

---

4. 메모리 관리

Ballooning Device

기본값: 활성화 (일반적으로 권장)

비활성화가 필요한 경우:

• 데이터베이스 서버 (MySQL, PostgreSQL, MongoDB)
• 인메모리 캐시 (Redis, Memcached)
• 성능이 중요한 애플리케이션

 

 

bash

# Ballooning 비활성화
qm set 103 --balloon 0

 

5. 스토리지 최적화

Discard/TRIM 지원

기본값: 비활성화

SSD를 사용하는 경우 반드시 활성화해야 합니다:

 

 

bash

# 스토리지 컨트롤러에 discard 옵션 추가
qm set 104 --scsi0 local-lvm:vm-104-disk-0,discard=on,ssd=1

Web UI:

1. Hardware → Hard Disk → Edit
2. Discard 체크
3. SSD emulation 체크

Cache 모드

기본값: none (Direct I/O)

writeback 사용 시 host의 메모리를 사용합니다. 하드웨어 raid card 사용 시 none으로 사용하는 것이 적절한 거 같습니다.

 

권장 설정:

• writeback: 최고 성능, 호스트 캐시 사용 (호스트 안정성 보장 시)
• writethrough: 균형잡힌 성능, 데이터 안정성
• none: 데이터 안정성 최우선

 

 

bash

qm set 104 --scsi0 local-lvm:vm-104-disk-0,cache=writeback

I/O Thread 활성화

멀티코어 시스템에서 I/O 성능 향상:

 

 

bash

qm set 104 --scsi0 local-lvm:vm-104-disk-0,iothread=1

Thin Provisioning

스토리지 효율성을 위해 권장:

 

 

bash

# LVM-Thin 볼륨으로 디스크 생성
qm set 104 --scsi0 local-lvm:32,format=raw

# 기존 디스크를 thin으로 변환 (재생성 필요)
qm disk import 104 /path/to/disk.img local-lvm --format raw

---

6. 네트워크 설정

네트워크 모델

기본값: Intel E1000 (레거시 호환성)

권장 설정: VirtIO

 

 

bash

qm set 105 --net0 virtio,bridge=vmbr0

장점:

• 준가상화로 훨씬 높은 성능
• CPU 오버헤드 감소
• 최신 Linux, Windows (with drivers) 모두 지원

Multiqueue 활성화

멀티코어 시스템에서 네트워크 처리량 향상:

 

 

bash

# 4개의 큐 활성화
qm set 105 --net0 virtio,bridge=vmbr0,queues=4

MTU 설정

특히 10GbE 환경에서 Jumbo Frame 활용:

 

 

bash

# 호스트 네트워크 인터페이스
ip link set vmbr0 mtu 9000

# VM 내부에서도 설정 필요

Rate Limiting

네트워크 대역폭 제한이 필요한 경우:

 

 

bash

qm set 105 --net0 virtio,bridge=vmbr0,rate=100

---

7. 저장소 구성

Enterprise Repository 비활성화

기본값: Enterprise 저장소 활성화 (유료 구독 필요)

무료 사용자를 위한 설정:

 

 

bash

# Enterprise 저장소 비활성화
rm /etc/apt/sources.list.d/pve-enterprise.list

# No-Subscription 저장소 추가
echo "deb http://download.proxmox.com/debian/pve bookworm pve-no-subscription" > /etc/apt/sources.list.d/pve-no-subscription.list

# Ceph 저장소도 동일하게 처리 (사용 시)
rm /etc/apt/sources.list.d/ceph.list
echo "deb http://download.proxmox.com/debian/ceph-quincy bookworm no-subscription" > /etc/apt/sources.list.d/ceph-no-subscription.list

# 업데이트
apt update

로컬 스토리지 최적화

Directory 스토리지의 경우:

 

 

bash

# /etc/pve/storage.cfg 수정
dir: local
        path /var/lib/vz
        content iso,vztmpl,backup
        prune-backups keep-all=1,keep-daily=7,keep-weekly=4,keep-monthly=3
        max-protected-backups 1

---

8.  KSM 비활성화

DB서버, ElasticSeach와 같은 고성능이 필요한 서비스는 KSM 비활성화가 필요합니다.

조금은 cpu 오버헤드가 발생한다고 하지만 실 운영 시 성능 차이가 많이 납니다.

 

systemctl stop ksmtuned
systemctl disable ksmtuned

체크리스트

새로운 Proxmox 환경을 구축할 때 확인해야 할 사항:

VM 생성 시:

• 머신 타입: q35 사용
• BIOS: OVMF (UEFI) 사용
• CPU: host 또는 적절한 CPU 타입
• 네트워크: VirtIO 모델, Multiqueue 활성화
• 디스크: VirtIO-SCSI, Discard/TRIM 활성화, IOThread 사용
• Cache 모드: writeback (적절한 경우)

호스트 시스템:

• Enterprise 저장소 비활성화 (무료 사용 시)
• I/O 스케줄러 최적화 (SSD/NVMe)

성능 최적화:

• NUMA 구성 (고성능 VM)
• MTU/Jumbo Frame 설정 (10GbE 환경)
• Ballooning 비활성화 (DB 서버)

---

결론

Proxmox VE의 기본 설정은 호환성을 최우선으로 하기 때문에, 최신 하드웨어 환경에서는 많은 성능과 기능을 활용하지 못합니다. 이 가이드에서 다룬 설정들을 적용하면:

• 성능 향상: 최신 CPU 명령어, 준가상화 드라이버, 최적화된 I/O
• 최신 기능 활용: UEFI/Secure Boot, PCIe 패스스루, NVMe 최적화
• 안정성: 적절한 캐시 모드, 백업 설정, 보안 강화
• 효율성: Thin provisioning, TRIM/Discard, 리소스 관리

중요한 원칙:

1. 새로운 VM은 처음부터 최적화된 설정으로 생성하세요. 기존 VM의 머신 타입이나 BIOS를 변경하는 것은 위험합니다.
2. 환경에 맞게 조정하세요. 모든 설정이 모든 워크로드에 적합한 것은 아닙니다. 특히 데이터베이스와 같은 critical한 애플리케이션은 신중하게 테스트하세요.
3. 변경 사항을 문서화하세요. 각 VM의 설정과 변경 이유를 기록해두면 나중에 문제 해결에 도움이 됩니다.
4. 단계적으로 적용하세요. 한 번에 모든 것을 변경하지 말고, 각 변경 사항의 효과를 측정하면서 진행하세요.

이 가이드가 Proxmox 환경 구축에 도움이 되기를 바랍니다. 추가 질문이나 특정 사용 사례에 대한 조언이 필요하시면 댓글로 남겨주세요!

---

참고 자료

• Proxmox VE Documentation
• QEMU Documentation
• Linux KVM Documentation
• VirtIO Documentation

---