近日，字節跳動旗下的企業級技術服務平臺火山引擎宣布將在彈性計算服務和機器學習平臺上采用NVIDIA最新推出的基于 Hopper 架構的 H100 Tensor Core GPU，助力火山引擎上的廣大企業級客戶大幅提升人工智能算力性能。

火山引擎和NVIDIA在過去幾年里已開展了深入合作，并在自然語言處理、深度推薦系統、計算視覺等領域卓有成效。火山引擎團隊和NVIDIA團隊一致表示：非常期待雙方的合作能繼續往縱深發展，共同推進新一代加速計算浪潮。

在過去幾年中，AI模型規模不斷增大，對于算力的需求也以指數級別快速提升。火山引擎的彈性計算產品通過不斷迭代來滿足云上各行各業的客戶的需求，從基于NVIDIA A30 Tensor Core GPU的推理加速實例 ini2，到基于NVIDIA A100 Tensor Core GPU 面向多機多卡訓練場景的超級計算 hpcpni2 實例，當前火山引擎提供的產品覆蓋人工智能的各種負載，很好的服務了字節搜索、推薦等內部客戶，以及各種外部客戶。

火山引擎采用的新一代基于NVIDIA H100 Tensor Core GPU彈性計算HPC實例將在 GPU的內存帶寬、GPU與CPU的通信速度以及全精度范圍內AI計算性能等方面，都會有全面的大幅提升，并且面向AI語言模型、生物制藥、基因工程、自動駕駛等諸多領域提供更具有性價比的實例產品。

此外，火山引擎在彈性計算實例之上，構建了一站式企業級云原生機器學習平臺，為機器學習應用開發者提供高效、穩定的數據處理及加速、模型訓練、模型推理等服務，極致提升GPU資源利用率和開發者體驗。

火山引擎機器學習平臺面向專業開發者，將經過字節跳動億級DAU產品打磨的大規模訓練系統和推理系統對外開放。平臺基于超大算力池、資源池化、針對訓練優化的資源調度引擎，能夠大幅提升資源利用率，實現GPU碎片率0%。業務上云或遷移過程中，無需修改鏡像、代碼和數據。全自研BytePS分布式訓練框架，性能超主流訓練框架Horovod/DDP 高達84%，全自研veGiantModel大模型訓練框架，相比主流模型并行訓練框架Megatron、DeepSpeed 提升30%以上。

火山引擎的新一代彈性計算HPC實例和機器學習平臺，將為企業客戶提供更好的AI算力性能，不斷提升客戶體驗。未來，火山引擎將繼續與合作伙伴共同開發新產品，為所有云用戶提供更多包容性的 AI 計算能力。（作者：陳華）