近年來，人工智能經(jīng)歷了持續(xù)的迭代與升級(jí)。從最初的簡(jiǎn)單預(yù)測(cè)模型，到深度學(xué)習(xí)模型，再到近年來廣受歡迎的Transformer模型，AI算法不斷演進(jìn)，智能化水平也在穩(wěn)步提升。
ChatGPT的出現(xiàn)更是引發(fā)了人工智能技術(shù)的飛躍，標(biāo)志著大模型時(shí)代的到來。眾企業(yè)紛紛在大型語(yǔ)言模型領(lǐng)域展開布局，研究重點(diǎn)也逐漸從單一的語(yǔ)言模型、視覺模型擴(kuò)展至多模態(tài)大模型，世界模型也需不斷提高數(shù)據(jù)參數(shù)和模型復(fù)雜度。然而，從行業(yè)實(shí)際應(yīng)用的角度來看，模型的小型化和推理模型的重要性正日益凸顯。這也意味著，大模型在算法層面的演進(jìn)對(duì)算力和數(shù)據(jù)提出了更高的要求。
北京電子數(shù)智科技有限責(zé)任公司（以下簡(jiǎn)稱“北電數(shù)智”）首席科學(xué)家、復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院特聘教授竇德景曾在《人工智能在大算力、大數(shù)據(jù)和大模型時(shí)代的研究和應(yīng)用》發(fā)言中表示“大模型日新月異的當(dāng)下時(shí)代，行業(yè)數(shù)據(jù)、算法、算力基礎(chǔ)設(shè)施層的升級(jí)挑戰(zhàn)。算力購(gòu)買投入的同時(shí)伴隨著算力運(yùn)營(yíng)成本的增加，新一代芯片更新迭代導(dǎo)致的貶值問題也影響著業(yè)務(wù)需求的算力成本投入。過往購(gòu)買算力只看數(shù)量的時(shí)代已經(jīng)過去，粗放式的算力發(fā)展方式已不能滿足當(dāng)下市場(chǎng)的需求，未來的算力需要“質(zhì)”“量”兼顧，重視提高算力基礎(chǔ)設(shè)施的利用率和效率?！?/p>
北電數(shù)智作為?家專注于原創(chuàng)性、顛覆性、引領(lǐng)性科技創(chuàng)新的人工智能科技企業(yè)，在算力、算法和數(shù)據(jù)等方面實(shí)現(xiàn)了全棧產(chǎn)品和解決方案布局。北電數(shù)智寶塔·模型適配平臺(tái)能無縫適配多種軟件，并與各大主流開發(fā)框架保持兼容性，從而降低企業(yè)和開發(fā)者的使用門檻。寶塔·模型適配平臺(tái)賦予開發(fā)者極大的靈活性，使其不必局限于單一選擇，既可以利用主流的基礎(chǔ)大模型，也可以選擇開源模型，有效解決了算法層面的“煙囪難題”，實(shí)現(xiàn)了不同模型間的自由切換。
釋放公共數(shù)據(jù)的潛在價(jià)值，促進(jìn)企業(yè)間數(shù)據(jù)的順暢流轉(zhuǎn)，并豐富專業(yè)數(shù)據(jù)集以滿足模型訓(xùn)練的需求，已成為行業(yè)發(fā)展的關(guān)鍵路徑。北電數(shù)智搭建了核心數(shù)據(jù)空間——紅湖·可信數(shù)據(jù)空間，可集成隱私計(jì)算、數(shù)據(jù)沙箱、區(qū)塊鏈等多種數(shù)據(jù)安全技術(shù)，保障數(shù)據(jù)要素在安全可信的環(huán)境中實(shí)現(xiàn)匯聚、共享、開放和應(yīng)用，促使數(shù)據(jù)要素實(shí)現(xiàn)高效流通并充分發(fā)揮價(jià)值，是解決數(shù)據(jù)跨域流通的最優(yōu)解。
“質(zhì)”“量”兼顧的精細(xì)化運(yùn)營(yíng)成為對(duì)AI基礎(chǔ)設(shè)施的新期待。北電數(shù)智公司前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)具有卓越的算力調(diào)度能力，可為不同場(chǎng)景提供多樣化的調(diào)度策略，以精準(zhǔn)匹配各類計(jì)算任務(wù)的不同需求。“潮汐調(diào)度”是該平臺(tái)的一大特色亮點(diǎn)，其可根據(jù)計(jì)算任務(wù)的特性和資源需求的變化動(dòng)態(tài)地分配和回收計(jì)算資源，尤其適用于渲染應(yīng)用等場(chǎng)景，以最大化資源的利用率并減少執(zhí)行時(shí)間；此外，“前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)”提供的“訓(xùn)推混布”策略可幫助大模型使用方實(shí)現(xiàn)同一算力集群既支持在線推理服務(wù)部署任務(wù)，又支持離線訓(xùn)練任務(wù)，從而顯著提高算力資源的利用率，減少資源浪費(fèi)，大幅降低運(yùn)營(yíng)成本。前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)支持多款國(guó)產(chǎn)芯片的廣泛納管，幫助用戶實(shí)現(xiàn)對(duì)不同品牌和類型AI加速卡的統(tǒng)一管理，以確保各類AI芯片的無縫集成和優(yōu)化利用。廣泛的納管能力也讓用戶能夠根據(jù)具體需求，靈活地調(diào)整資源配置，優(yōu)化算力供給滿足各類訓(xùn)練推理任務(wù)。目前，北電數(shù)智基于“前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)”打造的國(guó)產(chǎn)算力PoC平臺(tái)落地北京數(shù)字經(jīng)濟(jì)算力中心，且該平臺(tái)已完成十余款芯片的評(píng)測(cè)支持和二十多款主流模型的適配。
北電數(shù)智依托完備的AI全棧技術(shù)產(chǎn)品體系，以“寶塔?模型適配平臺(tái)”讓大模型任務(wù)找到算力最優(yōu)使用方式并提供AI工具鏈實(shí)現(xiàn)大模型全生命周期的生產(chǎn)與管理，憑“紅湖?可信數(shù)據(jù)空間”在安全可信環(huán)境下激活數(shù)據(jù)要素價(jià)值反哺模型能力，借“前進(jìn)?AI 異構(gòu)計(jì)算平臺(tái)” 實(shí)現(xiàn)底層芯片高效納管和調(diào)度提升算力效能，積極推動(dòng)人工智能在各個(gè)領(lǐng)域的應(yīng)用實(shí)踐與落地。?
