數位無限AI-Stack領先推出一鍵分割/還原NVIDIA MIG
產品新聞

數位無限AI-Stack領先推出一鍵分割/還原NVIDIA MIG

2021.06.15

最新的NVIDIA GPU伺服器NVIDIA DGX A100與GPU工作站NVIDIA DGX Station A100、以及NVIDIA GPU A100與NVIDIA GPU A30有一項特別的功能【NVIDIA多執行個體GPU】,也就是俗稱的「MIG」 (Multi-Instance GPU),NVIDIA Ampere架構中的MIG模式可以在A100 GPU上同時並行七個作業,也就是說可以讓每個A100 GPU最多能分隔成七個執行個體。在MIG模式下,A100可以同時運行多達七個不同大小的AI或HPC工作負載。這個功能對於AI推論作業特別有用,因為推論作業通常不需要用到現代GPU提供的所有性能。

 

然而,MIG模式只能在CUDA 11 / R450的Linux系統使用,基本上還是要透過寫指令,才能作分割及還原設定,這是有一連串的邏輯與步驟需要執行的。普遍而言,NVIDIA官方提供的分割MIG設定過程對使用者來說還是需要花不少時間,也是有其複雜度存在。數位無限AI計算管理平台「AI-Stack」領先推出一鍵分割/還原NVIDIA A100 MIG,支援管理者MIG設定(1g.5gb)與MIG還原自動化的功能。簡單來講,就是針對A100的節點提供分割與還原的功能,讓管理者在Web-based使用者介面上,輕鬆按下「一鍵按鈕」,就能自動完成繁複的A100 MIG分割或還原過程。

 

AI-Stack是GPU使用率最佳化的軟體,讓你使用NVIDIA DGX Station A100得心應手,買NVIDIA DGX A100/DGX Station A100/A100/A30不能或缺AI-Stack,只要3小時就可完成安裝立即上線,讓你隨時榨滿GPU使用率。有了MIG可以加快AI模型的開發和部署,加上AI-Stack可以執行Batch Job深度學習服務訓練模式,將訓練任務打包為shell script並於平台輸入執行命令,平台將自動建立容器並執行batch job內容,且於訓練結束時自動刪除容器,節省容器建立等待時間,並省下連進容器手動執行任務與手動刪除容器的步驟與時間。

 

數位無限AI-Stack是由最佳IT代理商零壹科技所代理的少數國內軟體品牌,產品推出至今已被多家國內頂尖大學採用,包含政治大學、成功大學、交通大學、台北科技大學、雲林科技大學等校皆為數位無限產品用戶。同時,數位無限也受到公部門與公營事業的青睞,中央氣象局、金門縣政府、屏東縣政府、台灣電力公司也陸續成為AI-Stack產品用戶,協助客戶進行AI模型的開發、訓練、部署與測試。此外,諸多在做AI-on-the-Chip的半導體設計公司亦發現AI-Stack可讓他們輕鬆的將AI模型部署到晶片中,加速產品的設計與研發過程,接連採用AI-Stack來協助AI晶片的研發,終端用戶包含奇景光電、瑞昱半導體、矽統科技、視芯智能等公司。AI-Stack是目前台灣市場上最受歡迎的AI PaaS-GPU管理平台,也是客戶選擇提升NVIDIA GPU卡使用效率的最佳首選軟體。

依據個人資料保護法,我們致力於保護您的個人資料並提供您對個人資料的掌握。
按一下「全部接受」,代表您允許我們置放 Cookie 來提升您在本網站上的使用體驗、協助我們分析網站效能和使用狀況,以及讓我們投放相關聯的行銷內容。您可以在下方管理 Cookie 設定。 按一下「確認選擇」即代表您同意採用目前的設定。

管理Cookies

隱私權偏好設定中心

依據個人資料保護法,我們致力於保護您的個人資料並提供您對個人資料的掌握。
按一下「全部接受」,代表您允許我們置放 Cookie 來提升您在本網站上的使用體驗、協助我們分析網站效能和使用狀況,以及讓我們投放相關聯的行銷內容。您可以在下方管理 Cookie 設定。 按一下「確認選擇」即代表您同意採用目前的設定。

查看隱私權政策

管理同意設定

必要的Cookie

一律啟用

必要 Cookie 用於維持網站正常運作、保障網站安全,以及記錄您的 Cookie 偏好設定。這些 Cookie 無法於本設定中心關閉。您仍可透過瀏覽器封鎖 Cookie,但可能導致本網站部分功能無法正常使用。

行銷的Cookie

行銷 Cookie

行銷 Cookie 用於衡量行銷活動成效,並協助我們提供可能與您較相關的產品、服務及內容。


定向 Cookie

定向 Cookie 可能由本公司或廣告合作夥伴透過本網站設定,用於了解您的瀏覽偏好,並在其他網站或服務中提供較符合您興趣的資訊或廣告。若您拒絕此類 Cookie,您仍可使用本網站,但看到的資訊或廣告可能與您的興趣關聯性較低。


社交媒體 Cookie

社群媒體 Cookie 由本網站使用的社群媒體服務提供者設定,讓您使用分享、嵌入式內容或其他社群功能。若您拒絕此類 Cookie,部分社群分享或嵌入式內容可能無法正常顯示或使用。

 

分析 Cookie

分析 Cookie 用於統計網站流量、瀏覽行為及頁面成效,協助本公司了解您如何使用本網站,並據此改善網站內容、功能與使用體驗。若您拒絕此類 Cookie,本公司將無法取得相關統計資訊,可能影響我們持續優化本網站的能力。