MBZUAI基礎(chǔ)模型研究所與G42聯(lián)合推出領(lǐng)先的高級(jí)AI推理開源系統(tǒng)K2 Think。其參數(shù)量?jī)H為320億,卻在性能上超越了規(guī)模大20倍的旗艦推理模型。K2 Think即將登陸Cerebras晶圓級(jí)推理優(yōu)化計(jì)算平臺(tái)。通過專為Cerebras硬件優(yōu)化的推測(cè)解碼,K2 Think將實(shí)現(xiàn)前所未有的每秒2000個(gè)令牌的吞吐量,成為當(dāng)今速度最快、效率最高的推理系統(tǒng)之一。(美通社)