INFINITIX AI-Stack, CCH B200 기반 스마트 헬스케어 AI 컴퓨팅 인프라 고도화

창화기독교병원(CCH)이 NVIDIA B200 기반 고성능 컴퓨팅 플랫폼을 구축하고 AI 연산 역량을 확대해 스마트 헬스케어 AI 활용을 가속화한다. / 사진 제공: INFINITIX

INFINITIX(인피니틱스)는 자사의 AI 컴퓨팅 자원 관리 플랫폼 ‘AI-Stack’이 창화기독교병원(Changhua Christian Hospital, 이하 CCH)이 새롭게 구축한 NVIDIA B200 기반 고성능 컴퓨팅 플랫폼에 공식 도입됐다고 밝혔다.

AI-Stack은 소프트웨어 정의 GPU(Software-Defined GPU) 기술을 기반으로 NVIDIA HGX B200 GPU 자원을 동적으로 분할하고 스케줄링할 수 있다. 이를 통해 병원 내 각 진료과와 연구팀이 필요한 GPU 컴퓨팅 자원을 유연하게 할당받아 활용할 수 있도록 지원한다.

CCH는 9월 14일 병원 내 AI 컴퓨팅 핵심 인프라를 공식 가동했다. 해당 인프라는 Dell PowerEdge XE9780 서버, NVIDIA HGX B200 GPU 및 NVLink 고속 인터커넥트 기술을 기반으로 구축됐으며, 대규모 언어 모델(LLM), 멀티모달 AI 개발 및 임상 현장의 실시간 AI 추론 등을 지원한다.

AI-Stack은 해당 환경에서 GPU 자원을 통합 관리하며, 진료기록 요약, 간호기록 및 검사보고서 정리, 낙상 위험 식별 등 다양한 의료 AI 애플리케이션에 필요한 컴퓨팅 자원을 효율적으로 제공한다.

INFINITIX 제프리 CTO는 “의료 AI를 실제 현장에 적용하기 위해서는 고성능 하드웨어뿐만 아니라, 제한된 AI 컴퓨팅 자원을 여러 진료과와 프로젝트에 효율적으로 배분할 수 있는 관리 플랫폼이 반드시 필요하다”며 “CCH는 온프레미스 AI 인프라와 AI-Stack의 동적 GPU 스케줄링을 결합함으로써 연산 효율성과 데이터 거버넌스, 임상 현장의 요구를 동시에 충족할 수 있는 환경을 구축했다”고 말했다.

이어 “AI-Stack은 GPU 분할 및 통합, CTAs 코어 유형 인식 스케줄링(Core-Type-Aware Scheduling) 등의 기술을 통해 GPU 활용률을 높일 수 있으며, AI 개발 환경 구축에 필요한 시간을 약 1분 수준으로 단축해 컴퓨팅 자원의 유휴 시간과 개발·연구팀의 대기 시간을 줄일 수 있다”고 설명했다.

CCH 천무콴(陳穆寬) 총원장은 의료 분야에서 AI의 역할은 의료진을 ‘대체’하는 것이 아니라 ‘보조’하는 것이라고 강조했다. 최종적인 진단과 임상적 판단은 여전히 전문 의료진이 담당하며, 고성능 AI 컴퓨팅 플랫폼 구축의 목적은 일선 의료진의 반복적인 업무 부담을 줄이고 의료진이 환자 진료와 돌봄에 더 많은 시간을 집중할 수 있도록 하는 데 있다는 설명이다.

INFINITIX는 앞으로도 의료기관 및 연구기관과의 협력을 확대하고, 데이터 프라이버시와 정보보안을 확보하는 동시에 의료 산업이 고효율·고거버넌스·확장성을 갖춘 AI 인프라를 구축할 수 있도록 지속적으로 지원할 계획이다.