본문으로 건너뛰기

아키텍처

시스템 아키텍처

NuFi는 Kubernetes 클러스터 위에서 동작하는 NPUOps 플랫폼입니다. 모든 컴포넌트가 K8s 네이티브로 구성되어 있습니다.

NuFi 시스템 구성

주요 컴포넌트

컴포넌트역할
Dashboard웹 UI — 사용자가 직접 상호작용하는 프론트엔드
API ServerREST API 처리, K8s Custom Resource 생성/관리
NuFi Controller (K8s Operator)CR을 감지하여 K8s 리소스 자동 생성
nufi-proxy트래픽 관리를 위한 proxy

NuFi 시스템의 주요 컴포넌트들은 위와 같으며 다양한 인프라 컴포넌트들을 이용하여 동작합니다.


요청 흐름

모델 배포 흐름

사용자가 Dashboard에서 배포를 생성하면 NuFi Controller가 K8s 리소스를 자동으로 프로비저닝합니다.

추론 요청 흐름

배포된 서비스로 들어오는 추론 요청이 nufi-proxy를 거쳐 추론 서버에 전달됩니다.


배포 구조

NuFi는 단일 번들로 패키징되어 Kubernetes 클러스터에 설치됩니다. 인터넷이 차단된 폐쇄망(Airgap) 환경을 지원하며, 클러스터와 NuFi 시스템이 함께 설치됩니다.

특징설명
Airgap 지원외부 인터넷 없이 독립 설치 가능
단일 번들클러스터 + 인프라 + NuFi 앱 전체 포함
K8s 네이티브모든 컴포넌트가 K8s 리소스로 관리

지원 디바이스

벤더디바이스지원 기능
NVIDIACUDA 지원 GPULab, Deployment
RebellionsATOMLab, Deployment
FuriosaAIRNGDLab, Deployment

다음 단계