Super Micro Computer, Inc. (SMCI)宣布使用NVIDIA HGX B200 8-GPU在多個MLPerf Inference v5.0基準測試中率先實現(xiàn)了業(yè)界領(lǐng)先的性能。在特定基準測試中，4U液冷和10U風(fēng)冷系統(tǒng)實現(xiàn)了最佳性能。與H200 8-GPU系統(tǒng)相比，Supermicro在Llama2-70B和Llama3.1-405B基準測試中展示了每秒生成令牌數(shù)(Token/s)超過3倍的效果。（美通社）
