華碩推出 UGen B70 AI 推論加速卡　搭載 32GB ECC 記憶體、支援多卡擴充

華碩宣布推出全新 ASUS UGen Intel Arc Pro B70 32GB 推論加速卡，主打地端 AI 推論應用，搭載 32GB GDDR6 ECC 記憶體，鎖定大型語言模型（LLM）、代理式 AI（Agentic AI）及多模型部署需求，讓企業與開發者能在本地端執行 AI 工作負載，降低對雲端運算資源的依賴。

 

隨著大型語言模型逐漸應用於工作站與企業內部系統，顯示記憶體容量也成為影響 AI 推論效能的重要因素。

 

尤其在長上下文推理與多代理工作流程中，系統需要配置更多記憶體供 KV Cache 與多個模型使用；若顯示記憶體不足，資料便可能轉移至系統主記憶體，進而影響推論速度。

 

ASUS UGen B70 配備 32GB GDDR6 ECC 記憶體，可在符合模型精度與實際工作負載需求的情況下，將較大型的模型保留於加速卡記憶體中。

 

 

華碩指出，搭配 Llama 3.1 8B 模型時，可支援最高 128K token 的上下文視窗；透過多卡配置，記憶體容量也能擴充至雙卡 64GB 或多卡 128GB，以因應不同規模的地端 AI 部署需求。

 

在軟體支援方面，UGen B70 相容 Intel LLM Scaler、vLLM XPU、llama.cpp（SYCL／Vulkan）、Ollama、Intel OpenVINO、oneAPI、PyTorch XPU 及 ComfyUI 等工具，涵蓋大型語言模型推論、AI 開發與影像生成等應用，並支援 INT4、FP8 線上量化功能。

 

華碩列出的驗證模型包括 Llama 3.1／3.2、Qwen 3.x、DeepSeek-R1 Distill、Mistral／Mixtral、OpenAI gpt-oss，以及 Whisper-large-v3、InternVL3.5 等，涵蓋文字生成、語音處理與多模態應用。

 

官方也表示，雙卡配置可執行 80B 等級模型，並公布每秒 43.4 token 的推論速度；實際效能仍會受到模型版本、量化方式、上下文長度及軟體配置等因素影響。

 

在應用場景方面，單張 32GB 記憶體的配置可供個人開發者與專業使用者執行較大型的 AI 模型；雙卡 64GB 系統則適合小型企業及創意工作室，用於內部 AI 工具與內容製作；至於 128GB 多卡配置，則可因應企業部門的多模型部署需求，讓敏感資料留在內部環境，降低資料傳輸至外部雲端服務的需求。

 

ASUS UGen Intel Arc Pro B70 32GB 推論加速卡的產品資訊與詳細規格，可參考華碩官方網站：

https://www.asus.com/tw/motherboards-components/ai-accelerator/ugen/ugen-arc-pro-b70-32g/