Altos aiWorks

安圖斯 Altos aiWorks 人工智慧 LLM 與 AI 開發者 GPU 資源管理平台

Altos aiWorks

企業邁向 AI Factory 的關鍵基礎設施

隨著企業逐步打造自有【 AI Factory】,GPU 資源不再只是硬體投資,更需要有效的排程、分配與多租戶管理能力,才能真正發揮投資效益。Altos aiWorks 正是協助企業建構 【 AI Factory】 時,不可或缺的 GPU 資源管理與排程平台,專為 LLM 使用者、AI 開發者以及資源管理者打造。它結合了高度靈活性、智能調度 CPU、記憶體與 GPU 分配,並以 Kubernetes 容器叢集架構為核心,簡化 LLM 開發、推論服務建置流程,加速 AI 應用部署,並以最大化資源效率為目標。Altos aiWorks 5.0 推出業界領先圖形化 NVIDIA Dynamo 工作區,並整合 Ceph 高可用儲存架構,讓使用者在更穩定、更具彈性的基礎上,實現更快的開發週期、更高的經濟效益,以推動 LLM 世代的 AI 創新。

企業級身分與權限管理

NEW提供三層式角色權限架構,並可與企業既有 LDAP/AD 帳號系統整合,登入時支援 OTP 雙因子認證機制,企業亦可依資安政策要求,將雙因素驗證設為強制啟用項目。

企業級身分與權限管理

彈性儲存與資源管理

提供三種並列的儲存類型供使用者依需求選用:Private Disk 為平台原生的 persistent volume(PVC),依 Group 建立並可設定容量上限(GiB);NFS 用於串接既有網路儲存伺服器,適合已有 NFS 基礎設施的環境;Samba 則透過 SMB protocol 提供跨平台存取,讓 Windows 等非 Linux client 可直接以網路磁碟機方式掛載使用,可依 user 或 group 設定建立數量上限,並在同一介面集中管理與監控使用狀態。

彈性儲存與資源管理

加速 AI 開發與推論部署

Altos aiWorks 5.0 內建 JupyterLab、PyTorch、TensorFlow、Open WebUI 等常用開發環境,使用者可依需求一鍵啟用,快速進行模型開發、訓練與測試;NEW同時提供業界領先圖形化的 NVIDIA Dynamo 推論工作區,讓使用者無需仰賴指令列操作,即可透過介面完成模型推論服務的部署與配置。

加速 AI 開發與推論部署

智慧工作空間管理

Altos aiWorks 5.0 支援網頁式(Web-based)Workspace 管理,使用者可透過瀏覽器介面完成 Workspace 的建立、監控與生命週期管理,無需仰賴指令列操作;同時可針對 Group 層級設定資源定期釋放排程,於閒置或到期後自動釋放資源,避免資源長時間被單一使用者或群組佔用,提升整體資源使用效率。

智慧工作空間管理

用量監控與成本管理

NEWAltos aiWorks 5.0 的計價提供三大功能:定價可依 CPU、RAM、Storage 及各 GPU 類型設定與費率;計費管理顯示各扣款明細,支援日期篩選與資料匯出;計費統計以圖表呈現費用趨勢,並列出 CPU、GPU、RAM、Storage 費用細項。

用量監控與成本管理

一站式整合

Altos aiWorks 5.0 與 Altos BrainSphere™ 伺服器深度整合,從硬體層到 AI 應用層無縫銜接,讓企業無需拼湊多方系統,即可在單一平台完成從硬體部署到 AI 服務上線的一站式(One-Stop)AI Factory 體驗。

一站式整合

支援NVIDIA 多執行個體GPU技術

Altos aiWorks 搶先業界率先支援NVIDIA A100 Multi-Instance GPU多執行個體GPU (MIG)技術的人工智慧運算平台。藉由切割GPU,不論是高頻寬記憶體、快取和運算核心皆個別獨立,不僅可以承受任何規模的工作負載,還能加速運算資源的延展性,將使用率最佳及最大化。

多執行個體GPU(MIG)

多執行個體GPU(MIG)

物理分割,將GPU分割成多個實體。確保每個實體的隔離和QoS。

多重處理服務(MPS)

多重處理服務(MPS)

使多個CPU程序提交的運算核心能夠在同一GPU上同時執行的工具。

專屬獨立使用

專屬獨立使用

配置多顆獨立 GPU

Altos aiWorks v5.0 平台架構示意圖

以Kubernetes為基礎,整合GPU、網路、儲存、容器映像、資源排程、使用者管理,以及系統監控與告警,提供集中式AI基礎設施管理平台。

賦能組織,讓 AI 部署更高效簡單

Altos aiWorks 將 AI 開發、部署、資源管理與推論監控整合至單一平台。專為企業與教育單位打造,全面簡化基礎架構管理,加速生成式 AI 與代理人 AI 工作負載落地,實現極致的高效 AI 導入。

建議搭配 Altos BrainSphere™ 系列工作站 / 伺服器

我們從伺服器到工作站,多樣化機種搭配 Altos人工智慧運算平台解決方案,滿足運算與企業應用擴增的需求。