伴隨大模型落地從通用技術進步逐步邁向行業可用,6月28日,螞蟻數科多云PaaS平臺SOFAStack正式發布大模型服務平臺AI Max。
該平臺兼容適配主流開源大模型、國產算力,向企業提供進行模型訓練、部署、評估、優化等一站式模型工作臺,并實現可視化研發、管理多種具備行業知識庫的Agent(智能體)應用,助力企業跑完AI應用業務落地的最后一公里。
螞蟻數科云原生產品資深總監馬振雄介紹,對企業來說,大模型訓練耗時耗力耗資源,AI Max不僅支持主流開源大模型的一鍵微調訓練,還提供三步即完成的零代碼模型開發環境,把原先耗費至少3天的訓練縮短至1小時。螞蟻自研的預訓練模型與先進的多模態算法,僅需小量數據即可進行訓練,進一步提升數據的利用率和模型訓練的效率。

基于SOFAStack多云兼容屬性,AI Max具備兩層核心特性:
–在資源層,支持多種國產GPU算力平臺納管部署,企業按需靈活使用資源,使得有限的GPU資源可以高效的被利用起來,同時大大降低服務器使用成本;
–在應用層,企業可以根據業務需求快速輸出定制化的AI模型,構建服務業務需求的智能體,極大地簡化了技術實施過程。
當企業開始構建大模型應用,還需要結合具備行業特性的業務經驗。針對金融行業場景,SOFAStack融合金融助理支小助的最佳實踐,包含其模型訓練、推理能力、智能體研發等方面,可以幫助機構一鍵生成自身業務特色的智能體應用。目前,SOFAStack已經助力超130家金融機構完成云原生架構轉型。
“在大模型時代,SOFAStack可以承擔PaaS在多云時代扮演的角色——通過構建AI原生軟件服務,成為連接算力與應用的中堅力量。”螞蟻數科云原生事業部總經理王磊表示。
發布會上,SOFAStack還與諧云科技、行云創新、AutoMQ、聯創集團等生態伙伴簽約,將共建多云、多模型生態,加速大模型在千行百業落地。
未來,我們還將持續在技術研發、產品創新和生態合作方面不斷投入,在大模型時代,為行業提供更智能、更可信、更綠色的云PaaS服務。