Slurm on Kubernetes 및 Prefill/Decode 분리 추론 기술 통합… ixCSP로 AI 컴퓨팅 리소스의 서비스화·상용화 가속 

소프트웨어 정의 GPU 및 AI 인프라 솔루션 전문기업 인피니틱스(INFINITIX)가 오는 2026년 11월 17일부터 19일까지 미국 시카고에서 개최되는 국제 슈퍼컴퓨팅 콘퍼런스 'Supercomputing 2026(SC26)'에 처음으로 참가한다.

인피니틱스는 이번 행사에서 'From AI Infrastructure to Token Factory'를 주제로 6111번 부스를 운영하며, AI-Stack의 HPC 지능형 스케줄링 신기능과 AI 클라우드 운영 플랫폼 ixCSP를 선보인다. 이를 통해 컴퓨팅 리소스 관리부터 AI 서비스 상용화까지 아우르는 통합 솔루션을 제시할 예정이다. 

AI-Stack 지능형 스케줄링으로 HPC 클러스터 운영·관리 간소화

AI-Stack은 슈퍼컴퓨팅 분야에서 널리 사용되는 워크로드 스케줄러 Slurm을 지원한다. Slurm on Kubernetes 아키텍처를 기반으로 연구진은 기존에 사용하던 sbatch, srun 등의 명령어와 워크플로를 그대로 유지하면서 클라우드 네이티브 환경에서 컴퓨팅 작업을 실행할 수 있다. 이를 통해 클러스터 구축 및 운영 절차도 대폭 간소화할 수 있다.

또한 지능형 스케줄링을 통해 멀티노드 작업을 효율적으로 조율하고 리소스 단편화를 줄임으로써 HPC 작업, AI 학습 및 추론 워크로드가 하나의 GPU 리소스 풀을 공유할 수 있도록 지원한다.

멀티노드 분산 학습을 위해 AI-Stack은 DeepSpeed, Megatron 등 주요 분산 학습 프레임워크를 통합 지원한다. 장애 발생 시 자동으로 예비 노드로 전환하고, 체크포인트(Checkpoint)를 기반으로 중단된 학습을 이어서 수행할 수 있어 운영 안정성을 높인다.

대규모 모델 추론에는 Prefill/Decode(PD) 분리 아키텍처를 적용한다. 연산 과정을 분리하여 서로 다른 GPU에서 처리하고, llm-d 및 NVIDIA Dynamo 등의 분산 추론 프레임워크와 KV Cache 재사용 기술을 결합한다.

아울러 vLLM, SGLang 등 주요 추론 엔진을 지원하여 응답 안정성을 높이고 높은 동시 요청 처리 성능을 확보할 수 있도록 한다.

ixCSP, 사용량 측정·과금 통합으로 AI 서비스 상용화 가속

ixCSP는 멀티테넌트(Multi-Tenant) 운영, 서비스 등록 및 제공, 사용량 측정(Metering), 과금(Billing) 기능을 통합한 AI 클라우드 운영 플랫폼이다.

GPU as a Service(GaaS), Model as a Service(MaaS), Token as a Service(TaaS) 등 다양한 서비스 모델을 지원한다.

이를 통해 GPU 컴퓨팅 리소스를 핵심 사업 기반으로 하는 차세대 클라우드 서비스 사업자(Neo Cloud), 데이터센터 및 통신사업자는 AI-Stack이 관리하는 컴퓨팅 리소스를 사용량 기반으로 과금할 수 있는 AI 서비스로 전환할 수 있다.

인피니틱스는 이러한 통합 솔루션을 통해 AI 인프라를 실제 수익 창출이 가능한 서비스로 발전시키고, 토큰 팩토리(Token Factory) 구축을 지원한다.

인피니틱스의 천원위(陳文裕) 최고경영자(CEO)는 다음과 같이 밝혔다.

"AI-Stack은 연구진이 익숙한 Slurm 워크플로를 유지하면서 GPU를 하나의 통합 리소스 풀로 관리할 수 있도록 지원합니다. ixCSP는 이러한 컴퓨팅 리소스를 과금 가능한 AI 서비스로 전환합니다. 이번 SC26 첫 참가는 인피니틱스가 북미 시장으로 사업을 확대하는 중요한 발걸음이 될 것입니다."

인피니틱스는 SC26 행사 기간 중 6111번 부스에서 솔루션을 소개하고 현장 상담을 진행할 예정이다. 상담을 희망하는 기업 및 기관은 행사 안내 페이지를 통해 사전 미팅을 예약할 수 있다.

인피니틱스(INFINITIX) 소개  Beyond AI, to Infinity

인피니틱스(INFINITIX)는 소프트웨어 정의 GPU 및 AI 인프라 솔루션 전문기업이다.

주력 제품인 AI-Stack은 GPU, NPU 등 이기종 컴퓨팅 리소스를 통합 관리하며, 지능형 스케줄링, 리소스 분할 및 통합, 시각화 모니터링 기능을 통해 AI 컴퓨팅 리소스의 활용 효율성과 관리 유연성을 높인다.

AI 클라우드 운영 플랫폼 ixCSP는 GaaS, MaaS, TaaS 등 다양한 서비스 모델을 지원하여 AI 컴퓨팅 리소스의 서비스화 및 상용화를 가속한다.

자세한 내용은 공식 홈페이지에서 확인할 수 있다.

www.infinitix.ai