浪潮信息推出元腦CPU推理服務(wù)器，能夠高效運(yùn)行DeepSeek和千問QwQ等新一代大推理模型。NF8260G7和NF8480G7采用4顆高性能通用CPU和多通道內(nèi)存系統(tǒng)，結(jié)合先進(jìn)的張量并行策略和AMX加速技術(shù)，單機(jī)即可高效運(yùn)行DeepSeek-R1 32B和QwQ-32B推理模型，支持20個(gè)并發(fā)用戶請(qǐng)求。這些服務(wù)器通過軟硬協(xié)同優(yōu)化，為32B模型推理與云計(jì)算、數(shù)據(jù)庫等通用關(guān)鍵業(yè)務(wù)場(chǎng)景提供高效、靈活、穩(wěn)定的AI通用算力支撐。（美通社）