아키텍처

NuFi는 Kubernetes 클러스터 위에서 동작하는 NPUOps 플랫폼입니다. 모든 컴포넌트가 K8s 네이티브로 구성되어 있습니다.
NuFi 시스템 구성
주요 컴포넌트
| 컴포넌트 | 역할 |
|---|---|
| Dashboard | 웹 UI — 사용자가 직접 상호작용하는 프론트엔드 |
| API Server | REST API 처리, K8s Custom Resource 생성/관리 |
| NuFi Controller (K8s Operator) | CR을 감지하여 K8s 리소스 자동 생성 |
| nufi-proxy | 트래픽 관리를 위한 proxy |
NuFi 시스템의 주요 컴포넌트들은 위와 같으며 다양한 인프라 컴포넌트들을 이용하여 동작합니다.
요청 흐름
모델 배포 흐름
사용자가 Dashboard에서 배포를 생성하면 NuFi Controller가 K8s 리소스를 자동으로 프로비저닝합니다.
추론 요청 흐름
배포된 서비스로 들어오는 추론 요청이 nufi-proxy를 거쳐 추론 서버에 전달됩니다.
배포 구조
NuFi는 단일 번들로 패키징되어 Kubernetes 클러스터에 설치됩니다. 인터넷이 차단된 폐쇄망(Airgap) 환경을 지원하며, 클러스터와 NuFi 시스템이 함께 설치됩니다.
| 특징 | 설명 |
|---|---|
| Airgap 지원 | 외부 인터넷 없이 독립 설치 가능 |
| 단일 번들 | 클러스터 + 인프라 + NuFi 앱 전체 포함 |
| K8s 네이티브 | 모든 컴포넌트가 K8s 리소스로 관리 |
지원 디바이스
| 벤더 | 디바이스 | 지원 기능 |
|---|---|---|
| NVIDIA | CUDA 지원 GPU | Lab, Deployment |
| Rebellions | ATOM | Lab, Deployment |
| FuriosaAI | RNGD | Lab, Deployment |
다음 단계
- 빠른 시작 — 첫 번째 모델 배포 따라하기