為台港 AI 新創、高校研究與亞太推論 API 比較顯示記憶體、精度、儲存與路由;依專案確認資料落地與契約要求。
NVIDIA A100 / H100 80GB 算力叢集租用
支援1-8卡NVIDIA A100 (80GB) 與 H100 (80GB HBM3) 頂級AI訓練伺服器租借。具備超高頻寬HBM記憶體、NVLink高速多卡互聯與大容量NVMe RAID儲存,專為70B以上大型語言模型預訓練、分散式微調及高強度科學運算研究團隊提供隨選即用的超級算力。
NVIDIA A100 · 40/80GB / H100 · 80GB
依模型權重、KV Cache、批次大小與精度估算顯示記憶體。訓練需額外保留最佳化器狀態、梯度與啟用值空間。
按時與月租總成本需包含儲存、流量與停機計費;折扣依所選規格報價。
為北美資料集、AI 訓練與批次渲染比較 RTX 4090 24GB、A100/H100、儲存吞吐及按時或月付方案。