日前, Falcon-180B作為參數最大的開源大模型,正式發布并支持免費商用,引發業界廣泛關注。百度智能云千帆大模型平臺第一時間適配了Falcon-180B,并提供模型微調、部署、應用開發的全流程工具鏈和開發環境,方便企業和開發者率先體驗。
據了解,Falcon-180B在推理、編碼、熟練度和知識測試各種任務中表現出超強性能,一經發布便登頂 Hugging Face 排行榜。為方便開發者應用最新的大模型能力,百度智能云千帆平臺第一時間適配了Falcon-180B,開發者、企業現在即可在平臺的“模型倉庫”中申請體驗,開發者還可自行將模型導入平臺,從而使用平臺的全部功能。


據了解,為滿足開發者和企業多樣化的模型需求,百度智能云千帆平臺此前就已經接入了 Falcon-7b和Falcon-40b-instruct。截至目前,平臺已納管了包含 Falcon、Llama 2全系列、RWKV、Stability Diffusion在內的42個國內外主流大模型,穩居國內模型數量第一。
百度智能云方面表示,百度智能云千帆平臺不只是簡單的接入,還對第三方模型進行二次的性能增強、安全增強、中文增強和上下文增強。比如,在性能增強方面,訓練Llama2的總體吞吐可以提升25%,推理性能甚至可以提升2倍。
在企業客戶最關注的安全方面,百度智能云千帆平臺提供模型安全、內容安全和數據安全多重保障。包括設計專用隔離域,保護模型資產安全;預置安全模塊,有效控制輸入輸出的內容風險;提供從模型、數據到日志的全鏈路加密,保障數據安全。三管齊下,讓模型廠商和客戶均能享有平臺的安全保障。
對于大多數企業來說,模型的開發部署仍存在較高門檻。為幫助企業用好大模型,百度智能云千帆的工具鏈貫穿大模型完整的生命周期。基于一站式的可視化工具,客戶驗證模型效果的時間大幅縮短,一天就可以跑通一個模型并看到效果。
在數據方面,為解決企業模型訓練數據質量要求高、成本高的問題,百度智能云千帆平臺還預置了41個高質量有行業特色的數據集,開發者點幾個按鈕就可以完成微調、提高模型效果,進一步降低企業使用、訓練和推理大模型的門檻。
在算力方面,百度智能云千帆平臺在萬卡集群訓練大模型時,模型有效訓練時間達到95%以上。萬卡規模集群中的加速比可以達到95%,充分釋放集群的整體算,大幅降低客戶的算力成本和時間成本。值得一提的是,平臺還兼容國內外主流芯片和操作系統,客戶的算法可以最小的修改成本運行。

在剛剛結束的2023百度云智大會上,百度智能云千帆大模型平臺實現了2.0全面升級。截至目前,平臺月活企業數已近萬家,覆蓋金融、制造、能源、政務、交通等行業的400多個場景。
百度集團執行副總裁、百度智能云事業群總裁沈抖表示“任何新技術的真正落地,都需要相應的方法論和工具的支撐。”,“我們用了半年時間,不斷沉淀經驗、積累工具,對百度智能云千帆平臺做了大量升級,讓大模型平臺更好用、更貼心。”