- 模域簡化企業大模型部署與運維,系統極限吞吐效率提升約285%(近基準的4倍)
- 打造更開放、兼容多元芯片的規模化AI基礎設施
- 面向企業用戶免費開源,現已於GitHub上線
中國北京 –
Media OutReach Newswire – 2026年10月16日 – 領先的全棧式企業級AI雲服務平台,範式智能技術集團股份有限公司(「範式」或「集團」;股份代號:6682.HK),聯同北京睿思智聯科技有限公司(「睿思智聯」)宣佈,一站式生產級AI部署平台「模域」(ModelSphere)正式上線。該平台面向企業用戶免費開源,將算力管理、模型部署及運行優化整合於統一平台,協助企業降低部署與運維門檻,更高效地將算力轉化為安全、穩定、可應用於實際業務的AI服務。
隨着大模型進入規模化商業應用階段,企業在算力統籌、模型部署及效能優化方面,普遍面臨資源使用率低、芯片生態割裂、部署門檻高、生產環境調優困難等問題。模域致力將上述工作整合為統一的部署與管理流程,減少企業在底層系統適配、資源調度及日常運維上的重複投入。
範式認為,所有企業都應能善加利用大模型,而無需深入掌握驅動程式編譯與硬件適配等複雜工作,模域正是為此而設,讓企業可將各類開源大模型嵌入核心業務流程,讓技術團隊更專注於應用開發及業務需求。
模域四大核心優勢: - 簡化部署,保障模型服務穩定運行: 模域提供圖形化操作介面及預置部署能力,減少環境配置程式碼的編寫,協助開發者快速搭建大模型推理服務,並簡化於不同芯片集群上的部署。平台內置自動彈性擴縮容、PD分離部署、三級KV緩存、高可用負載均衡及服務斷流自動續寫等企業級能力,支援模型服務在生產環境中穩定運行。
- 持續自動化效能優化,提升模型運行效率: 平台內置AutoTune智能模型排程策略,以及結合硬件加速能力的自適應負載均衡調度,優化模型處理請求的能力及首次回應速度,同時降低每Token推理成本。系統極限吞吐效率較基準大幅提升約285%,性能躍升至原來近4倍,充分釋放算力潛能。
- 統一管理多種芯片,減少重複適配: 平台融合EngineX推理引擎,支援並針對多種算力芯片進行深度調優,可統一及混合調度華為昇騰、天數智芯、摩爾線程、海光DCU等算力資源,用戶無需為不同芯片重寫底層邏輯程式碼。
- 持續優化適配主流模型,加快部署應用: 模域團隊持續緊貼開源社區的迭代,已完成DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM等主流模型的適配優化,支援模型發佈後快速部署,並將性能調優至生產環境水平,協助企業將新模型應用於實際業務。
模域在AI技術棧中的定位 技術層面上,模域與vLLM、SGLang等推理引擎相輔相成:推理引擎負責提升單台伺服器的運算效率,模域則負責集群架構層面的統一管理與優化,包括負載及緩存感知的請求路由、統一的KV緩存池、基於服務質素的自動化擴縮容、服務斷流自動續寫、基於線上數據的自動化性能調優、運行監控及服務管理等,確保系統在生產環境下的高性能及高可用性。
模域全面開源,將大模型部署與優化的工程能力開放予更多企業及開發者,同時匯聚產業力量,持續完善對不同芯片及模型的支援,減少硬件適配障礙,降低大模型應用門檻,協助企業善用現有算力,高效釋放異構算力的商業潛力。
上線資訊 模域現已根據Apache 2.0開源協議於GitHub上線:
https://github.com/modelsphere/modelsphere Hashtag: #範式智能 #模域 #ModelSphere
https://github.com/modelsphere/modelsphere發佈者對本公告的內容承擔全部責任
關於範式
範式智能(6682.HK)是領先的全棧AI雲服務平台,提供包括HAMi、信創模盒、先知AIOS等高效AI基礎設施,具備由底層異構算力統一管理及優化,以至智能體模型調用的全棧式服務能力,協助各行各業推動智能化轉型,並致力於在AI 2.0時代打造高效且具規模的「Token工廠」。
範式以「AI for Everyone」為使命,作為「駕馭AI的領航者」,成為全球領先的通用人工智能科技公司。
