핵심 기능

이 페이지에서는 NuFi 플랫폼의 핵심 기능을 소개합니다.

NPUOps

기존 MLOps에서 NPU 서빙까지

Kubeflow, MLflow 등 기존 MLOps 환경에서 학습한 모델을 가져와 NPU 포팅(컴파일 → 검증 → 모델 레지스트리 게시)과 모델 서빙을 담당합니다.

지원 디바이스: GPU(NVIDIA), RNGD(FuriosaAI).

Lab

학습 환경이 필요할 때

Jupyter Notebook, VS Code, LlamaFactory 같은 웹 기반 개발 환경을 생성합니다. Lab에서 학습한 모델은 NuFi 안에서 바로 서빙 흐름으로 연결할 수 있습니다.

자세한 내용은 Lab을 참고하세요.

보안

RBAC · 감사 로그

Keycloak 기반 역할 제어로 관리자 기능과 사용자 기능을 분리합니다. 감사 로그에는 누가, 언제, 어떤 작업을 수행했는지 기록되어 보안 점검에 활용할 수 있습니다.

• RBAC: 프로젝트, 사용자 역할, 관리자 권한을 분리해 민감한 기능 접근을 제한합니다.
• 감사 로그: 사용자·관리자 작업 이력을 기록해 변경 추적과 보안 감사에 활용합니다.

평가 대시보드

GPU vs NPU

동일 모델을 NPU와 GPU에 배포하고 정확도, TPS, TTFT, 전력 효율(tokens per watt)을 비교합니다. 평가 데이터와 기준을 저장해 같은 조건으로 반복 검증하고, 여러 NPU 컴파일 결과 중 운영 목표에 맞는 아티팩트를 선택할 수 있습니다.

자세한 내용은 데이터셋, 평가, 컴파일 옵션 최적화를 참고하세요.

하드웨어 통합 모니터링

클러스터와 디바이스 상태

클러스터부터 개별 디바이스까지 플랫폼 UI 안에서 직접 확인합니다.

• 클러스터 전체 및 노드별 CPU · 메모리 · 스토리지 현황
• 디바이스별 사용률, 온도, 전력, 메모리 시각화
• In Use 상태의 디바이스에 점유 중인 Pod명 직접 표시 — 장애 발생 시 원인 지점을 즉시 추적

자세한 내용은 모니터링하기를 참고하세요.