홈 성공 사례

온프레미스 컴퓨팅 자원의 가치를 극대화하다: AI-Stack, AMD와 협력하여 ELSA 연구소의 Physical AI 연구 개발 가속

일본 국립대학법인 전기통신대학교(UEC)에 위치한 “ELSA Physical AI Lab”은 생성형 AI와 로봇 기술(Physical AI)의 통합을 연구하는 기관입니다. 이 연구소의 핵심 연구는 사족 보행 로봇과 로봇의 손/팔에 대한 인지 모델 개발에 집중되어 있습니다. 따라서 고성능 시스템을 활용한 시뮬레이션과 실험 환경의 빈번한 전환은 필수적인 핵심 요소입니다.

Photo: Daisuke Ishizaka

배경 및 과제: 온프레미스 배포의 예산, 기술, 환경적 장벽

온프레미스 AI 연구개발을 추진하는 과정에서, ELSA 연구소 역시 기업들이 공통적으로 겪는 세 가지 주요 과제에 직면했습니다:

하드웨어 비용 효율성: Llama 3.1 70B와 같은 대규모 모델이 연구의 핵심이 되면서, 고성능 AI를 구동하기 위해서는 막대한 VRAM이 필요합니다. 이로 인해 제한된 예산 내에서 기존 하드웨어로는 비용과 성능의 균형을 맞추기 어려운 문제가 발생합니다.
소프트웨어 구성의 진입 장벽: AMD ROCm™ 소프트웨어 스택은 강력한 성능을 제공하지만, 저수준 환경 설정은 연구자들에게 여전히 높은 기술적 복잡성을 요구합니다.
컴퓨팅 자원 낭비: 전문 GPU가 대용량 VRAM을 갖추고 있더라도, 효율적인 분할 및 관리 메커니즘이 없다면 단일 작업만 점유하게 되는 경우가 많아, 결과적으로 하드웨어 활용도가 낮아지는 문제가 발생합니다.

Photo: Daisuke Ishizaka

해결 방안 및 실증: AI-Stack과 AMD의 협력을 통한 고효율 연구개발 환경 구축

ELSA 연구소는 AMD Radeon™ AI PRO R9700(32GB GDDR6 VRAM 탑재)을 장착한 ELSA VELUGA G5-ND 고성능 워크스테이션을 도입하고, AI-Stack 컴퓨팅 자원 스케줄링 및 AI 인프라 관리 플랫폼을 통해 자원을 효율적으로 운영하고 있습니다:

컴퓨팅 자원의 단일 플랫폼 통합 관리: AI-Stack은 AMD R9700이 탑재된 ELSA VELUGA G5-ND 워크스테이션을 안정적으로 지원하며, 연구소는 플랫폼 상에서 직접 AMD 컴퓨팅 자원을 호출할 수 있습니다. 이를 통해 하위 드라이버나 소프트웨어 스택의 복잡한 설정을 별도로 처리할 필요가 없습니다.
정밀한 VRAM 자원 분할: 플랫폼에 내장된 자원 격리 기능을 활용하여 R9700의 32GB VRAM을 여러 개의 독립된 영역으로 정밀하게 분할할 수 있습니다. 이를 통해 하나의 워크스테이션에서도 동시에 여러 모델 실험을 수행할 수 있습니다.
실시간 환경 배포: AI-Stack의 컨테이너 기반 관리 메커니즘을 통해, 연구소는 수분 내에 AI 연구개발 환경을 구축할 수 있으며 다양한 모델 실험을 빠르게 실행할 수 있습니다. 이를 통해 로봇 인지 개발 과정에서 환경 설정으로 인한 지연 없이 “도입 즉시 개발”이 가능해집니다.

Photo: Daisuke Ishizaka

구체적 성과: Llama 3.1부터 로봇 구현까지의 매끄러운 연결

ELSA 물리 AI 사업부장 오카다 씨는 다음과 같이 말했습니다: “AI-Stack을 통해 단일 워크스테이션에서 여러 모델 실험을 동시에 실행할 수 있게 되었고, 연구 효율이 크게 향상되었습니다.”

AI-Stack의 스케줄링 기술을 바탕으로, 연구소는 고성능 하드웨어를 실질적인 연구 성과로 전환하는 데 성공했습니다. 또한 데이터 보안과 예산을 효과적으로 관리하면서, 이론에서 실제 장비 검증까지의 주기를 크게 단축할 수 있었습니다.

결론

이번 ELSA 연구소와의 성공 사례는 중요한 점을 보여줍니다. 기업이 더 이상 하위 하드웨어 환경에 대한 부담을 갖지 않게 될 때, AI-Stack의 자원 격리 및 스케줄링 기술을 통해 온프레미스 환경에서도 전문 GPU의 잠재력을 안정적이고 효율적으로 최대한 활용할 수 있습니다. 이는 하드웨어 투자를 정밀하게 연구개발 성과로 전환하는 것을 의미합니다.