6月28日，騰訊云副總裁李力在A2M人工智能創(chuàng)新峰會上宣布，騰訊云推出基于公有云的成熟實踐的專有云智算套件。
該套件集合了騰訊云高性能計算集群構(gòu)建模塊、智能高性能網(wǎng)絡(luò)IHN、高并發(fā)文件存儲系統(tǒng)TurboFS、算力加速框架Taco以及GPU算力共享技術(shù)等核心能力，與騰訊云專有云平臺TCE結(jié)合，能夠支撐企業(yè)基于自有硬件搭建高性能的專有智算云，滿足在私有算力環(huán)境下訓(xùn)練大模型的訴求。
據(jù)了解，騰訊云智算套件提供的算、存、網(wǎng)一體的云原生能力，能夠幫助企業(yè)高效利用算力卡資源，解決算力集群的木桶短板效應(yīng)。比如，騰訊云自研高性能智能網(wǎng)絡(luò)IHN，能夠?qū)崿F(xiàn)企業(yè)算力卡持續(xù)穩(wěn)定高帶寬通信;騰訊云高性能文件存儲系統(tǒng)，能夠有效解決海量數(shù)據(jù)存儲的讀寫性能瓶頸問題。
同時，智算套件還在調(diào)度架構(gòu)層融合了騰訊云自研的算力加速框架Taco和GPU算力共享技術(shù)qGPU。其中Taco基于網(wǎng)絡(luò)協(xié)議、通信策略、AI 框架、模型編譯等多層級的優(yōu)化，能夠大幅提升大模型訓(xùn)練和推理業(yè)務(wù)性能;qGPU能夠在算力集群內(nèi)對算力卡實現(xiàn)精準(zhǔn)切分，提升卡的利用效率。
另一方面，騰訊云TCE擁有跟公有云同源同構(gòu)的技術(shù)架構(gòu)和“一云多芯”的能力，能夠靈活支持不同規(guī)模的云平臺構(gòu)建，還能屏蔽底層硬件差異，更好地納管不同類型的硬件設(shè)施。
騰訊云智算套件源自騰訊云公有云算力集群HCC的成熟實踐。去年，騰訊云在行業(yè)率先發(fā)布了大模型公有云算力集群HCC，該集群結(jié)合騰訊云星星海自研服務(wù)器，騰訊云自研高性能智能網(wǎng)絡(luò)提供的3.2T超高互聯(lián)帶寬，以及騰訊自研高并發(fā)文件存儲系統(tǒng)，能夠為大模型訓(xùn)練、自動駕駛、科學(xué)計算等提供高性能、高帶寬和低延遲的集群算力。
當(dāng)前，AI正在逐步從輔助技術(shù)成為引領(lǐng)行業(yè)變革的關(guān)鍵要素。作為這一變革的重要支撐之一，云計算正與AI深度融合，孕育出AI原生云這一全新的技術(shù)形態(tài)。
騰訊云聯(lián)合Gartner發(fā)布的《AI原生云建設(shè)與加速指南》指出，AI原生云將AI技術(shù)深度融合到云服務(wù)的每一個層面，并著重于開放性和生態(tài)系統(tǒng)的構(gòu)建，通過提供豐富的API和SDK，以支持AI原生新服務(wù)和應(yīng)用的開發(fā)。
李力介紹，騰訊云將圍繞AI原生云，為客戶提供生成式AI驅(qū)動的新一代云平臺架構(gòu)，為客戶帶來AI原生理念的基礎(chǔ)設(shè)施、模型、工程、應(yīng)用、全棧安全防護(hù)等五大核心能力。
其中，基礎(chǔ)設(shè)施層，騰訊云構(gòu)建了支持多GPU卡型的統(tǒng)一算力平臺，結(jié)合長穩(wěn)訓(xùn)練、利用率提升以及任務(wù)和節(jié)點的異常恢復(fù)機(jī)制等技術(shù)，能夠助力模型訓(xùn)練提效 200%，提升硬件資源利用率至 99%+。
在工程平臺層面，騰訊云打造了基于騰訊云高性能服務(wù)HAI 與 云端開發(fā)工具CloudStudio的GPU開發(fā)空間;騰訊云向量數(shù)據(jù)庫提供了全面的數(shù)據(jù)檢索增強(qiáng)套件能力;騰訊云機(jī)器學(xué)習(xí)平臺TI提供了從數(shù)據(jù)標(biāo)注到模型推理的工具鏈。在此之上，騰訊云OrcaTerm AI助手、AI代碼助手可以提供智能運維、技術(shù)問答、代碼補(bǔ)全等AI輔助能力。
在模型層，騰訊自研的大模型混元最大參數(shù)量級已過萬億，在國內(nèi)率先采用混合專家模型 (MoE) 結(jié)構(gòu)，部分中文能力已追平GPT-4，在“時新”問題的回答表現(xiàn)上，數(shù)學(xué)、推理等能力上均有較大提升。同時，騰訊會議等騰訊SaaS產(chǎn)品已經(jīng)全面接入騰訊混元大模型。
在安全方面，騰訊全棧安全產(chǎn)品都已應(yīng)用AI技術(shù)，并在實際攻防場景中守護(hù)安全防線，同時，騰訊云還在積極探索生成式AI在安全場景的落地。
值得一提的是，騰訊云還支持通過分布式云的方式部署，能夠為用戶在多云、混合云場景下提供一致的產(chǎn)品服務(wù)和體驗，并且通過集中管控，統(tǒng)一管理位于不同位置的云資源和業(yè)務(wù)應(yīng)用，幫助用戶在任意位置獲取需要的AI原生云資源與云服務(wù)。
截至目前，包括百川智能、MiniMax、智譜科技、元象等在內(nèi)的90%頭部大模型企業(yè)，都在使用騰訊云的解決方案。
