💻 Proxmox VE 강좌 V-5. Pass-Through (VT-d/IOMMU) 설정: GPU/NIC 직접 할당

🚀 가상화의 한계를 넘는 퍼포먼스, 패스스루의 세계

가상화 환경을 운영하다 보면 가상 장치의 에뮬레이션 속도만으로는 해결되지 않는 고성능 작업들이 있습니다 딥러닝을 위한 GPU 가속, 초고속 데이터 전송을 위한 10G/40G NIC 할당, 혹은 고성능 스토리지 컨트롤러 직접 제어 등이 대표적입니다 Proxmox VE의 Pass-Through 기능을 활용하면 호스트의 물리적인 하드웨어를 특정 가상 머신(VM)에 직접 연결하여 마치 네이티브 PC처럼 자원을 사용할 수 있습니다 오늘 #강좌에서는 복잡해 보이지만 한 번 설정하면 차원이 다른 성능을 제공하는 VT-d 및 IOMMU 설정법을 완벽하게 정리해 드립니다

---

1. 패스스루 구현을 위한 하드웨어 요구사항

💻 Proxmox VE 강좌 V-5. Pass-Through (VT-d/IOMMU) 설정: GPU/NIC 직접 할당

하드웨어를 직접 할당하기 위해서는 단순히 소프트웨어 설정뿐만 아니라 물리적인 부품의 지원이 필수적입니다

A. CPU와 메인보드의 VT-d/AMD-Vi 지원

• Intel은 VT-d, AMD는 AMD-Vi라고 불리는 기술이 바이오스(BIOS/UEFI)에서 활성화되어 있어야 합니다 이는 I/O 가상화를 처리하는 핵심 #시스템 기술로, 하드웨어 수준에서 주소 변환을 도와줍니다

B. IOMMU 그룹의 분리

• 하드웨어 장치들은 IOMMU 그룹이라는 단위로 묶여 있습니다 특정 장치만 VM에 넘겨주려면 해당 장치가 독자적인 그룹에 속해 있거나, ACS 패치를 통해 논리적으로 분리할 수 있는 #기능이 필요합니다

C. 장치 전용 모드(DDA)의 이해

• 패스스루된 장치는 호스트 운영체제에서 더 이상 사용할 수 없습니다 즉, GPU를 VM에 할당하면 호스트의 화면 출력이나 가속 #데이터 처리는 불가능해진다는 점을 미리 인지하고 인프라 설계를 해야 합니다

---

2. 호스트 커널 설정 및 드라이버 차단

Proxmox가 하드웨어 장치를 VM에 넘겨줄 수 있도록 커널 수준에서 준비 작업이 필요합니다

A. GRUB 커널 매개변수 수정

• /etc/default/grub 파일에서 intel_iommu=on 또는 amd_iommu=on 옵션을 추가해야 합니다 이 설정은 부팅 시 IOMMU 기능을 활성화하여 하드웨어 직접 할당을 위한 #전략의 기초가 됩니다

B. VFIO 모듈 활성화

• 장치를 직접 가로채기 위해 vfio, vfio_iommu_type1, vfio_pci 등의 커널 모듈을 로드해야 합니다 시스템이 부팅될 때 해당 장치가 호스트 드라이버에 의해 점유되지 않도록 하는 #안정성 확보 단계입니다

C. 블랙리스트(Blacklist) 설정

• 특히 GPU 패스스루 시, 호스트가 NVIDIA나 AMD 드라이버를 먼저 로드하지 못하도록 블랙리스트에 등록해야 합니다 그래야만 VM이 실행될 때 깨끗한 상태의 장치를 #최적화된 성능으로 점유할 수 있습니다

---

3. 실전! VM에 장치 할당 및 드라이버 설치

실전! VM에 장치 할당 및 드라이버 설치

준비가 끝났다면 이제 Proxmox GUI와 CLI를 통해 장치를 연결할 차례입니다

A. PCI 장치 추가와 Raw Device 설정

• VM 설정 메뉴의 'Hardware' 탭에서 PCI Device를 추가합니다 이때 'All Functions'와 'ROM-Bar' 옵션을 적절히 선택하여 장치의 모든 하위 #정책 기능이 정상 작동하도록 구성합니다

B. 하드웨어 ID 확인 및 매핑

• lspci -nn 명령어를 통해 장치의 고유 ID(Vendor/Device ID)를 확인하고, 이를 vfio 설정에 정확히 입력해야 합니다 복잡한 클러스터 #인프라 환경일수록 정확한 ID 매핑이 장애 발생을 줄이는 길입니다

C. 게스트 OS 드라이버 설치 및 테스트

• Windows VM의 경우 장치 관리자에서 해당 장치가 정상적으로 인식되는지 확인한 후 최신 드라이버를 설치합니다 성공적으로 설정되면 네트워크 카드(NIC)의 경우 지연 시간이 극적으로 줄어드는 #네트워크 퍼포먼스를 경험할 수 있습니다

---

4. 고난도 GPU 패스스루의 트러블슈팅

GPU는 일반적인 장치보다 설정이 까다로운 경우가 많습니다

A. 'Error 43' 및 가상화 숨기기

• 일부 그래픽 드라이버는 가상화 환경임을 감지하면 작동을 멈춥니다 이를 방지하기 위해 VM 구성 파일에서 CPU 타입을 'host'로 설정하고 가상화 상태를 숨기는 #보안 및 우회 설정이 필요할 수 있습니다

B. 전력 관리 및 자원 경합 해결

• 패스스루된 장치가 절전 모드에 빠지거나 호스트의 다른 인터럽트와 충돌하면 VM이 멈출 수 있습니다 적절한 물리 #자원 할당과 MSI(Message Signaled Interrupts) 설정을 통해 시스템의 가동률을 높여야 합니다

C. 복구 및 롤백 시나리오

• 설정 실수로 호스트 부팅이 안 되거나 화면이 나오지 않을 때를 대비해 SSH 접속 환경을 항상 열어두고 #대응 절차를 마련해 두는 것이 전문가의 자세입니다

---

Pass-Through 기술은 Proxmox VE를 단순한 서버 가상화 도구를 넘어 워크스테이션, 게이밍 서버, AI 연산 노드로 변모시키는 핵심 열쇠입니다 물리 하드웨어와 가상화 기술이 결합되는 지점인 만큼 초기 설정은 까다롭지만, 그 결과로 얻는 압도적인 성능은 충분한 보상이 될 것입니다 여러분의 로컬 서버에 잠들어 있는 GPU와 고성능 NIC에 날개를 달아주십시오 인프라의 잠재력을 100% 끌어올리는 순간, 여러분의 서비스 경쟁력은 한 단계 더 도약할 것입니다 다음 시간에는 CLI 활용의 마지막 정점인 'Proxmox 커스텀 후크(Hook) 스크립트를 이용한 고급 자동화'에 대해 알아보겠습니다

---

강좌, 시스템, 기능, 데이터, 전략, 안정성, 최적화, 정책, 인프라, 네트워크, 보안, 자원, 대응

---

최적의 성능, 최고의 비용 효율성! 당신의 프로젝트에 딱 맞는 Proxmox VE 기반 호스팅을 경험해 보세요. 루젠호스팅 바로가기